Pertemuan Ke 6

Jaringan Syaraf Tiruan

Adaline
 Adaline

 Model ADALINE (Adaptive Linear Neuron) ditemukan oleh

Widrow dan Hoff (1960).
 Arsitekturnya mirip dengan perceptron. Beberapa masukan (dan
sebuah bias) dihubungkan langsung dengan sebuah neuron
keluaran.
 Perbedaan dengan perceptron adalah cara modifikasi bobot.
Bobot dimodifikasi dengan aturan delta (least mean square).
 Selama pelatihan, fungsi aktivasi yang dipakai adalah fungsi
identitas.
 𝑛𝑒𝑡 = 𝑖 𝑥𝑖 𝑤𝑖 + 𝑏
 𝑦 = 𝑓 𝑛𝑒𝑡 = 𝑛𝑒𝑡 = 𝑖 𝑥𝑖 𝑤𝑖 +𝑏
 Kuadrat selisih antara target (t) dan keluaran jaringan (f(net))
merupakan error yang terjadi. Dalam aturan delta, bobot dimodifikasi
sedemikian hingga errornya minimum.

 E = (t – f(net))2 = (𝑡 − ( 𝑖 𝑥𝑖 𝑤𝑖 + 𝑏))2

 E merupakan fungsi bobot wi. Penurunan E tercepat terjadi pada arah

𝛿𝐸
 = −2 (𝑡 − ( 𝑖 𝑥𝑖 𝑤𝑖 + 𝑏))𝑥𝑖 = −2 𝑡 − 𝑦 𝑥𝑖 .
𝛿𝑤𝑖

 Maka perubahan bobot adalah :

 ∆𝑤𝑖 = 𝛼 𝑡 − 𝑦 𝑥𝑖
 α merupakan bilangan positif kecil (umumnya diambil adalah 0.1)
 Algoritma ADALINE
 Inisialisasi semua bobot dan bias (wi = b = 0). Tentukan α,
biasanya α = 0.1, tentukan toleransi kesalahan yang
diijinkan

 Selama max ∆wi > batas toleransi, lakukan :

 Set aktivasi unit masukan xi = si (i = 1,...,n)
 Hitung respon unit keluaran : 𝑛𝑒𝑡 = 𝑖 𝑥𝑖 𝑤𝑖 + 𝑏
Y = f(net) = net
 Perbaiki bobot pola yang mengandung kesalahan (y ≠ t)
menurut persamaan :
wi (baru) = wi (lama) +α (t-y)xi
b (baru) = b (lama) + α (t-y)

 Setelah proses pelatihan selesai, ADALINE dapat dipakai

untuk pengenalan pola.
 Umumnya dipakai fungsi 𝜃 bipolar. Caranya sebagai berikut :
 Inisialisasi semua bobot dan bias dengan bobot dan bias hasil
pelatihan
 Untuk semua input masukan bipolar x, lakukan :
 Set aktivasi unit masukan xi = si (i = 1,..., n)
 Hitung net vektor keluaran :
𝑛𝑒𝑡 = 𝑥𝑖 𝑤𝑖 + 𝑏
𝑖
 Kenakan fungsi aktivasi :
1 𝑗𝑖𝑘𝑎 𝑛𝑒𝑡 ≥ 0
𝑦=
−1 𝑗𝑖𝑘𝑎 𝑛𝑒𝑡 < 0
 Contoh penerapan
 Fungsi logika ”AND” dengan 2 masukan x1 dan x2 akan memiliki
keluaran Y =1 jika dan hanya jika kedua masukan bernilai 1

 Tabel Kebenaran :
x1 x2 y

1 1 1

1 0 0

0 1 0

0 0 0

 Buatlah model ADALINE untuk mengenali fungsi logika “AND”

dengan masukan dan keluaran bipolar. Untuk inisialisasi,
gunakan bobot dan bias awal = 0, α = 0,1 dan batas toleransi =
0,05
 Dengan α = 0.1, maka perubahan bobotnya = ∆wi = 0.1
(t - f(net))xi = 0.1 (t-y) xi
 Direpresentasikan secara BIPOLAR(masukan dan
keluaran semuanya bernilai 1 atau -1)
Masukan Target

X1 X2 b t

1 1 1 1

1 -1 1 -1

-1 1 1 -1

-1 -1 1 -1
  Inisialisasi awal
Masukan Target Perubahan Bobot Bobot Baru

x1 x2 1 t Net F(net) t–y ∆w1 ∆w2 ∆bias w1 w2 b

Inisialisasi 0 0 0
  Epoch ke-1 iterasi-1

Masukan Target Perubahan Bobot Bobot Baru

x1 x2 1 t Net F(net) t–y ∆w1 ∆w2 ∆bias w1 w2 b

Inisialisasi 0 0 0
1 1 1 1 0 0 1 0.1 0.1 0.1 0.1 0.1 0.1
1 -1 1 -1
-1 1 1 -1
-1 -1 1 -1
  Epoch ke-1 iterasi-2

Masukan Target Perubahan Bobot Bobot Baru

x1 x2 1 t Net F(net) t–y ∆w1 ∆w2 ∆bias w1 w2 b

Inisialisasi 0 0 0
1 1 1 1 0 0 1 0.1 0.1 0.1 0.1 0.1 0.1
1 -1 1 -1 0.1 0.1 -1.1 -0.11 0.11 -0.11 -0.01 0.21 -0.01
-1 1 1 -1
-1 -1 1 -1
  Epoch ke-1 iterasi-3

Masukan Target Perubahan Bobot Bobot Baru

x1 x2 1 t Net F(net) t–y ∆w1 ∆w2 ∆bias w1 w2 b

Inisialisasi 0 0 0
1 1 1 1 0 0 1 0.1 0.1 0.1 0.1 0.1 0.1
1 -1 1 -1 0.1 0.1 -1.1 -0.11 0.11 -0.11 -0.01 0.21 -0.01
-1 1 1 -1 0.21 0.21 -1.21 0.12 -0.12 -0.12 0.11 0.09 -0.13
-1 -1 1 -1
  Epoch ke-1 iterasi-4

Masukan Target Perubahan Bobot Bobot Baru

x1 x2 1 t Net F(net) t–y ∆w1 ∆w2 ∆bias w1 w2 b

Inisialisasi 0 0 0
1 1 1 1 0 0 1 0.1 0.1 0.1 0.1 0.1 0.1
1 -1 1 -1 0.1 0.1 -1.1 -0.11 0.11 -0.11 -0.01 0.21 -0.01
-1 1 1 -1 0.21 0.21 -1.21 0.12 -0.12 -0.12 0.11 0.09 -0.13
-1 -1 1 -1 -0.33 -0.33 -0.67 0.07 0.07 -0.07 0.18 0.16 -0.2
 Masukan Target Perubahan Bobot Bobot Baru

x1 x2 1 t Net F(net) t–y ∆w1 ∆w2 ∆bias w1 w2 b

Inisialisasi 0 0 0
1 1 1 1 0 0 1 0.1 0.1 0.3 0.1 0.1 0.1
1 -1 1 -1 0.1 0.1 -1.1 -0.11 0.11 -0.11 -0.01 0.21 -0.01
-1 1 1 -1 0.21 0.21 -1.21 0.12 -0.12 -0.12 0.11 0.09 -0.13
-1 -1 1 -1 -0.33 -0.33 -0.67 0.07 0.07 -0.07 0.18 0.16 -0.2

Maksimum ∆wi = 0.07 > toleransi, maka iterasi dilanjutkan untuk epoch kedua
Inisialisasi awal Epoch ke 2

Masukan Target Perubahan Bobot Bobot Baru

x1 x2 b t Net F(net) t–y ∆w1 ∆w2 ∆bias w1 w2 b

Inisialisasi 0.18 0.16 -0.2

1 1 1 1
1 -1 1 -1
-1 1 1 -1
-1 -1 1 -1
  Epoch ke-2

Masukan Target Perubahan Bobot Bobot Baru

x1 x2 1 t Net F(net) t–y ∆w1 ∆w2 ∆bias w1 w2 b

Inisialisasi 0.18 0.16 -0.2

1 1 1 1 0.14 0.14 0.86 0.09 0.09 0.09 0.26 0.24 -0.11
1 -1 1 -1 -0.09 -0.09 -0.91 -0.09 0.09 -0.09 0.17 0.33 -0.2
-1 1 1 -1 -0.04 -0.04 -0.96 0.1 -0.1 -0.1 0.27 0.24 -0.3
-1 -1 1 -1 -0.8 -0.8 -0.2 0.02 0.02 -0.02 0.29 0.26 -0.32
 Maksimum ∆wi = 0.02 < toleransi, maka iterasi dihentikan dan bobot terakhir yang
diperoleh (w1 = 0.29, w2 = 0.26, dan b = -0.32) merupakan bobot yang digunakan dalam
pengenalan pola.
 Perhatikan bahwa fungsi aktivasi yang dipakai berbeda dengan fungsi
aktivasi pada pelatihan. Dalam pengenalan pola, fungsi aktivasinya
adalah :
1 𝑗𝑖𝑘𝑎 𝑛𝑒𝑡 ≥ 0
 𝑦= Masukan net y
−1 𝑗𝑖𝑘𝑎 𝑛𝑒𝑡 < 0
x1 x2
 Tabel Hasil “AND”
1 1 0.23 1
1 -1 -0.29 -1
-1 1 -0.35 -1
-1 -1 -0.87 -1

 Tampak bahwa keluaran jaringan tepat sama dengan targetnya.

Disimpulkan bahwa pola dapat dikenali dengan sempurna
menggunakan bobot hasil pelatihan.
 Latihan

 Buatlah model ADALINE untuk mengenali fungsi

logika “OR” dengan masukan dan keluaran bipolar.
Untuk inisialisasi, gunakan bobot dan bias awal = 0, α
= 0,2 dan batas toleransi = 0,07 ?

 Buatlah model ADALINE untuk mengenali fungsi

logika “XOR” dengan masukan dan keluaran bipolar.
Untuk inisialisasi, gunakan bobot dan bias awal = 0, α
= 0,3 dan batas toleransi = 0,04 ?