Algoritma

Adaline
YANTO, M.M, M.KOM
Algoritma Adeline
(1/3)
Model ADALINE (Adaptive Linear Neuron) ditemukan oleh Widrow dan
Hoff (1960). Arsitekturnya mirip dengan perceptron. Beberapa masukan
(dan sebuah bias) dihubungkan langsung dengan sebuah neuron
keluaran.
Perbedaan dengan perc eptron adalah c ara modifikasi bobot. Bobot
dimodifikasi dengan aturan delta (least mean square). Selama
pelatihan, fungsi aktivasi yang dipakai adalah fungsi identitas.

net = � 𝑖+
𝑤
𝑖 𝑥𝑖𝑖𝑏 y = f net = net = � xi wi + b
𝑖 i
Algoritma Adeline
(2/3)
Kuadrat selisih antara target (t) dan keluaran jaringan (f(net)) merupakan
error yang terjadi. Dalam aturan delta, bobot dimodifikasi sedemikian
hingga errornya minimum.

E = (t – f(net))2 = (t − (∑i x i w i + b))2

δE = −2 (t − (� x w + b))x = −2 t − y x
i i i i
δwi
i
Algoritma Adeline
(3/3)
E merupakan fungsi bobot wi. Penurunan E tercepat terjadi pada
arah:
δE = −2 (t − (� x w + b))x = −2 t − y x
i i i i
δwi
i

Maka perubahan bobot adalah:

∆wi = α t − y x i

 merupakan bilangan positif kecil (umumnya diambil adalah 0.1).

Pelatihan Adaline
(1/2)
1. Inisialisasi semua bobot dan bias (wi = b = 0). Tentukan , biasanya  =
0.1, tentukan toleransi kesalahan yang diijinkan
2. Selama max ∆wi > batas toleransi,
lakukan:
Set aktivasi unit masukan xi = si (i =
a.
1,...,n)
net = �respon
b. Hitung xi wi +unit
b y = f(net) = net
keluaran:
i

c. Perbaiki bobot pola yang mengandung kesalahan (y ≠ t)

menurut persamaan:

wi (baru) = wi (lama) + α (t-y)xi

Pelatihan Adaline
(2/2)
 Setelah proses pelatihan selesai, ADALINE dapat dipakai untuk
pengenalan pola. Umumnya dipakai fungsi 𝜃 bipolar. Caranya sebagai
berikut:
1. Inisialisasi semua bobot dan bias bobot dan bias
dengan pelatihan hasil
2. Untuk semua input masukan bipolar x,
lakukan:
a) Set aktivasi unit masukan xi = si (i = 1,..., n)
b) Hitung net vektor keluaran:
net = � xi wi + b
i
c) Kenakan fungsi
jika netaktivasi:
≥0
y=
−1 jika net < 0
1
�
C ontoh
:
Gunakan model ADALINE untuk mengenali pola fungsi logika “AND”
dengan masukan dan target bipolar:
Masukan Target
x1 x2 t
1 1 1
1 -1 -1
-1 1 -1
-1 -1 -1
Gunakan batas toleransi = 0.05 dan  =
0.1
Penyelesaian
:
Dengan  = 0.1, maka perubahan bobotnya = ∆wi = 0.1(t - f(net))xi = 0.1(t-
y)xi.
Masukan Target Keluaran Perubahan Bobot Bobot Baru
x1 x2 t net f(net) t-y ∆w1 ∆w2 ∆b w1 w2 w(bias)
Inisialisasi 0 0 0
1 1 1 1 0 1 0.1 0.1 0.1 0.1 0.1 0.1
1 -1 -1 0.1 0.1 -1.1 -0.11 0.11 -0.11 -0.01 0.21 -0.01
-1 1 -1 0.21 0.21 -0.21 0.12 -0.12 -0.12 0.11 0.09 -0.13
-1 -1 -1 -0.33 -0.33 -0.67 0.07 0.07 -0.07 0.18 0.16 -0.2
Nilai f(net) pada epoc h pertama

Maksimum ∆wi = 0.07 > batas toleransi, maka iterasi dilanjutkan untuk epoch
kedua.
 Penyelesaian
:
Masukan
▶ Target
dasd Keluaran Perubahan Bobot Bobot Baru
dsadas t net f(net) t-y ∆w1 ∆w2 ∆b
x1 x2 w1 w2 w(bias)
Bobot yang diperoleh dari epoch pertama 0.18 0.16 -0.2
1 1 1 0.14 0.14 0.86 0.09 0.09 0.09 0.26 0.24 -0.11
1 -1 -1 -0.09 -0.09 -0.91 -0.09 0.09 -0.09 0.17 0.33 -0.2
-1 1 -1 -0.04 -0.04 -0.96 0.1 -0.1 -0.1 0.27 0.24 -0.3
-1 -1 -1 -0.8 -0.8 -0.2 0.02 0.02 -0.02 0.29 0.26 -0.32
Nilai f(net) pada epoc h kedua
Maksimum ∆wi = 0.002 < batas toleransi, maka iterasi dihentikan dan bobot
terakhir yang diperoleh (w1 = 0.29, w2 = 0.26, dan b = -0.32) merupakan bobot
yang digunakan dalam pengenalan pola.
Penyelesaian
:
Perhatikan bahwa fungsi aktivasi yang dipakai berbeda dengan fungsi
aktivasi pada pelatihan. Dalam pengenalan pola, fungsi aktivasinya
adalah:
Masukan net y
x1 x2
net = � xi wi + b
i
1 1 0.23 1
1 -1 -0.29 -1
jika net ≥ 0
y= � -1 1 -0.35 -1
−1 jika net < 0
1 -1 -1 -0.87 -1
Hasil ‘AND’
Tampak bahwa keluaran jaringan tepat sama dengan targetnya.
Disimpulkan bahwa pola dapat dikenali dengan sempurna
menggunakan bobot hasil pelatihan.
Tugas
Personal
1. Gunakan model ADALINE untuk mengenali pola fungsi logika “OR”
dengan masukan dan target bipolar. Gunakan batas toleransi = 0.05
dan
 = 0.2.