Algoritma JST Backpropagation

Arsitektur JST Backpropagation

Contoh Arsitekstur JST Backpropagation dengan: y n unit masukkan y p unit layer tersembunyi y m unit masukkan
1 V10 Vp0 X1 V11 Vp1 V12 X2 Vm2 V1n V2m Xn Vpn Zp V22 Z2 Wm2 W1p W2p Wmp Ym V21 V20 Z1 1 W20 Wm0 W11 W21 Wm1 W12 W22 Y2 Y1 W10

Layer Masukkan

Layer tersembunyi

Layer Keluaran

Fungsi Aktifasi
Fungsi aktifasi yang digunakan pada backpropagation yaitu sigmoid biner dan sigmoid bipolar

Fungsi Aktifasi

Algoritma Pelatihan Backpropagation

Algoritma Pelatihan Backpropagation dengan satu layer tersembunyi dan dengan menggunakan fungsi aktivasi sigmoid biner
1 Vp0 V11 V20 V10 Z1 1
W20 W10 Wm0 W11

X1

Y1

Vp1 V21 X2 V12 V22 Vm2 V1n Xn V2m Vpn Zp Z2

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

Ym

y Langkah 0 : Inisialisasi semua bobot dengan bilangan acak kecil. y Langkah 1 : Jika kondisi penghentian belum terpenuhi, lakukan

langkah 2 sampai dengan 8. y Langkah 2: Untuk setiap pasang data pelatihan, lakukan langkah 3 sampai dengan 8

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
W20 W1 Wm0 0 W11

X1

Y1

Vp1 V21 X2 V12 V22 Vm2 V1n Xn V2m Vpn Zp Z2

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

Ym

Fase I: Propagasi Maju

y

Langkah 3 Langkah 4

Tiap unit masukkan menerima sinyal dan meneruskan ke unit tersembunyi

y

Hitung semua keluaran di unit tersembunyi (Zj):

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
W20 W1 Wm0 0 W11

X1

Y1

Vp1 V21 X2 V12 V22 Vm2 V1n Xn V2m Vpn Zp Z2

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

Ym

y Langkah 5

Hitung semua jaringan di unit keluaran (yk)

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
W20 W1 Wm0 0 W11

X1

Y1

Vp1 V21 X2 V12 V22 Vm2 V1n Xn V2m Vpn Zp Z2

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

Ym

Fase II : Propagasi Maju y Langkah 6 Hitung factor H unit keluaran berdasarkan kesalahan setiap unit keluaran yk (k=1,2,3.)

Hk=(tk-yk) f (y_netk)= (tk-yk) yk (1-yk)

Hk meruapakan unit kesalahan yang akan dipakai dalam perubahan bobot layer dibawahnya (lankah 7) Hitung suku perubahan bobotWkj dengan laju perubahan

wkj= Hk zj

; k=1,2,3,,m ; j=0,1,2,,p

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
W20 W1 Wm0 W11
0

X1

Y1

Vp1 V21 X2 V12 V22 Vm2 V1n Xn

y Langkah 7

Z2

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

V2m Vpn

Zp

Ym

Hitung factor H unit tersembunyi berdasarkan kesalahan di setiap unit tersembunyi zj (j=1,2,3,,p)

Faktor unit tersembunyi

Hj = H_netj f (z_netj)= H_netj zj (1-zz)

Hitung suku perubahan bobot vji

vji= Hjxi

; j=1,2,,p ; i=0,1,2,,n

Algoritma Pelatihan Backpropagation

1 Vp0 V11 V20 V10 Z1 1
W20 W1 Wm0 0 W11

X1

Y1

Vp1 V21 X2 V12 V22 Vm2 V1n Xn V2m Vpn Zp Z2

W2 Wm1 1 W12 W22 Wm2 W1p W2p Wmp

Y2

Ym

Fase III : Perubahan Bobot

y Langkah 8

Perubahan bobot garis yang menuju unit keluaran

wkj (baru)= wkj (lama) + wkj

Perubahan bobot garis yang menuju ke unit tersembunyi

Vji (baru)= vji (lama) + vji

Laju Pemahaman
y Laju pemahaman di simbolkan dengan y Laju pemahaman menentukan lama iterasi y Nilai dari

diantara 0 sd 1 y Semakin besar nilai semakin cepat lama iterasi y Akan tetapi jika terlalu besar akan merusak pola, sehingga justru akan lebih lama iterasinya

Epoch
y Epoch yaitu satu siklus pelatihan yang melibatkan semua pola y Misal jika suatu arsitektur JST terdapat 4 pola masukkan dan

1 target, maka pelatihan 4 pola masukkan tersebut adalah 1 epoch