NN Based on

Competition

Kohonen-SOM
(Self Organizing Maps)
Introduction
◼ Self organizing NN disini disebut juga topology-
preserving maps → topological structure among
the cluster
◼ Terdapat m cluster unit, disusun dalam array
dimensi 1 atau 2, dan sinyal input terdiri dari n-tuple
◼ Bobot untuk cluster unit adalah exemplar dari input
pattern yang berasosiasi dgn cluster tersebut
◼ Selama proses self-organizing, cluster unit yang
bobot nya sesuai dengan input pattern → sesuai
disini adalah yang most closely (square) of the
minimum Euclidean distance → dipilih sebagai
winner
Introduction
◼ Winning unit dan neighbour unit update bobot
mereka
◼ Bobot dari neighbour unit biasanya not close
dengan input pattern
◼ Contoh : array linear dari unit cluster, neighborhood
dari radius R disekitar cluster unit J terdiri dari
semua unit j sedemikian hingga max(1, J-R) ≤ j ≤
min(J+R,m))
Arsitektur
Arsitektur

◼ Neighborhood dari unit dengan tanda # pada radius R =

2, 1 dan 0 dalam topologi 1 dimensi (dengan 10 cluster
unit) ditunjukkan pada gamber 4.6
Arsitektur

◼ Neighborhood dari unit dengan tanda # pada radius R = 2, 1 dan 0 dalam

topologi rectangular ditunjukkan pada gamber 4.7
◼ Tiap unit memiliki 8 tetangga terdekat pada R=1
Arsitektur

◼ Neighborhood dari unit dengan tanda # pada radius R = 2, 1 dan 0 dalam

topologi hexagonal ditunjukkan pada gamber 4.8
◼ Tiap unit memiliki tetangga terdekat 6 pada R=1
Algoritma

◼ Note : perubahan bobot hanya dilakukan pada unit yang winning (unit
dengan jarak terdekat sesuai dengan radius yang digunakan)
Algoritma
Simple Example
◼ Karena hanya 2 cluster, neighborhood dari node J (Langkah 4) diset
sedemikian hingga hanya 1 cluster yang update bobotnya dengan R=0
◼ Pada epoch 2, bobot adalah setengah dari bobot pada epoch 1 yaitu
0,580,6 = 0,3, sehingga rumus update bobot pada epoch 2 adalah

◼ Matriks bobot setelah epoch 2 adalah:

◼ Lanjutkan pelatihan (iterasi epoch) sampai nilai learning rate mencapai 0.01
atau sudah sampai epoch maksimum (misal 100)
◼ Matriks bobot sampai dengan epoch 10 adalah sebagai berikut:
◼ Matriks bobot sampai dengan epoch 50 dan 100 adalah sebagai berikut

◼ Setelah epoch 100 terlihat bahwa bobot mendekati konvergen

◼ Pada kolom pertama terdapat 2 voktor mengarah pada cluster 1 dan pada
kolom 2 terlihat juga bahwa 2 vektor mengarah pada cluster 2
Character Recognition
◼ Contoh 4.5 – 4.7 menunjukkan hasil perhitungan
menggunakan Kohonen SOM untuk clustering input pattern
berupa huruf dengan 3 font berbeda.
◼ Pada contoh ini terdapat 25 cluster
◼ Hasil yang ditunjukkan berupa unit yang winning dalam
kompetisi. Efek dari struktur topologi ditunjukkan pada contoh
4.5 (tanpa struktur), 4.6 (struktur linier), 4.7 (struktur
rectangular)
◼ Pada contoh ini nilai learning rate berubah secara linier dari
nilai awal 0.6 sampai dengan 0.1
Figure 4.9 Contoh training input pattern untuk caracter recognition
◼ Example 4.5 SOM untuk clustering huruf tanpa struktur topologi
◼ Jika tanpa struktur, bisa diasumsikan hanya winning unit yang
diperbolehkan untuk update bobot
◼ Hasil clustering dari 21 pattern dengan 5 cluster adalah sebagai
berikut :
◼ Example 4.6 SOM untuk clustering huruf dengan struktur linier
◼ Dengan R=1, Winning unit J, J+1 dan J-1 akan update bobot pada tiap
iterasi
◼ Struktur linier dengan R=1 memberikan distribusi pattern yang lebih
baik pada cluster unit yang ada
◼ Hasil clustering adalah sebagai berikut :
◼ Example 4.7 SOM untuk clustering huruf dengan struktur diamond
◼ Pada contoh ini digunakan topologi dua dimensi yang sederhana. Jika Xij
adalah winning unit, maka unit Xi+1,j, Xi-1,j, Xi,j+1 dan Xi,j-1 juga akan update
bobot.
◼ Hasil clustering adalah sebagai berikut :