Anda di halaman 1dari 44

BAB II

JARIN{GAI{ NtrT]RAL UNTUK


PENGKLASIF'IKASI POLA

Permasalahan dala m pengktasifikasi pola


berkaitan dengan apakah suatr-i poia termasuk
atau tidak terntasult dalam suatu kategori
(ketas/ kelontpok) tertentu (mernbershi p).

Dalam pendekatan jaringan nelrral, rnaka kita


mempunyai pasangan vcktor pelatihan (vektor-
masukan beserta tar"get-keluaran) yang benal .
Apabila unit-keluaroll bernilai I maka berarti
vektor-masukan merLlpakan anggota kelompok
tersebut. Sebaliknya apab rla unit-ke luaran
bernilai -l (mtuk sistim bipolar) atau 0 (untulc
sistim biner), maka vektor-masllkan br-rkan
merupakan anggota (Gb I a). --v btn5un 1u'Sunlaov

Dalam kasus yang lebih luas, maka jaringan


dapat menenturkan apakah suatu vektor-
masukan rnen-rpakan salah satu anggota dari
sekumpulan kelompok (kateg onl kelas).
Dalam hal ini rnasing-masing kategori diwakili
oleh satu unit-kelonrpok (Gb1b).

r,.l
xw?

Gambar t( Gambar Ib
Jarlngan Lapis tungsal Jaring&n Lapis tunggal
untuk pengklasifikasi pola untuk pengklasilikasi pola
dengan I katagori dengan m katagori

Dalam menentukan nilai bobot jaringan,


terdap at 3 variasi metoda pembelaj aran

1. Aturan Hebb
2. Aturan Pembelajaran Perceptron
3. Aturan Delta ( dalam ADALINE)
2.1 Arsitektur Jaringan

Aritektur dasar jaringan neural untuk


pengklasifikasi pola :

lnput
Units

4'z
Jaringan ini berfungsi uurtr-rk mengklasifikasi
suatu pola-masukan [vektor dengan n-
dimensi (tuples)l kedalam hanlta sattr kategori
saja (Y).

Dalam Gb. Z.Zterlihar adanya bias (bern ilai


selalu 1), yang mempunyai fungsi serup a
dengan bobot keterhubungan.
Apabila menggllnakan bias, maka ftrngs I
aktivasi neuron adalah
, {tfir6 f t hlq rel 70
r\ ^
bi\qntt(o
\-t
trd:b+)x,tur
t

Apabila tidak menggltnakan bias, maka fungsi


aktivasi neuron adaiah ' + menggunuLrn nihiornborrS 0

dqgn
f (''r{) = f, [i[ f*i?
net = Xitrli
+
Pada prinsip nya, ini tidak lain ftrngsi aktivasi
seperti ini merupakan pula suatu jaringan
dengan nilai bias yang dapat diatur
besarannya.

Peranan nilai bias dan nilai ambang

Dalam pembahasan kemudian, kita selalu


berusaha untuk memisahkan ruang vektor-
masukan kedalam daerah yang akan
memberikan tanggapan-keluaran positip,
dan daerah yang akan memberikan
tanggapan-keluaran negatip. :)s{omhi[ih,s \in\ef,

Peranan nilai bias

Persamaan garis pernbatas yang memisahkan


antara vektor masukan yang menyebabkan
jaringan bertanggapan positip dan vektor
masukan yang menyebabkan jaringan
bertanggapan negatip adalah (rnisal vektor
masukan dengan arsitektur jaringan seperti
dibawah ini)

Inpur
Unitr

brY,t\) r +(zt,[l , -D
, atau apabila dengan ang gapan bahwa wZ f 0,
hsurnongarir y\?-- U,X.
|r- --b-
f G
Agar jaringan bertanggapan positip makzr
b*^lllr+ KLUJZ VO -f
Pelatihan dimaksr"rdkan Lrntuk menentukan
nilai wl,w2, dan b sehinga jar ingan
bertanggapan positip.

Peranan nilai ambang

Jaringan akan bertanggapan positip apabila


nilai masukan-total yang diterimanya adalah
ntt = X,UJ, t xzuJr T I 0 .trilqi anbory

Sehingga persamaan garis yang rnembelah


daerah bertanggapan positip dan daerah
bertanggapan negatip adal ah

Xr Ur + XzW: =, A
atau (anggapan bahwawZ + 0)

xz: Sx, +
*
Dalam proses pelatihan, nilai w1 dan wZ
ditentukan sehingga j aringan bertanggapan
positip terhadap vektor masukan-pelatihan.
Dalam penggLlnaan nilai ambang ini,
persamaan garis tidak akan mungkin rnelewati
titik pusat; akan,tetapi dapat dibuat
mendekatinya. (akan diterangkan kernr-rdian).
Terlihat bahwa nilai ambang juga merupakan
suatu bias yang besar nilainya dapat diatur.
(kemudian bias akan digr:nakan dalam
jaringan)

Separabilitas Linier

Kepentingan dibalik pelatihan jaringan adalah


menentukan harga bcbot yang berkesesuaian
sehingga jaringan d'apat memberikan respon
yang benar apabila diberi data yang telah
dilatih, ataupun data yang mirip dengan data
pelatihannya.

Hal ini dapat dilihat dengan membagi pola


masukan menjadi
1. Pola masukan yang akan membuat jaringan
berespon 'ya' (bernilai 1)
2. Pola masukan ya.ng akan membuat jaringan
berespon'tidak' (bernilai -1, untuk bipolar)

Karena jawaban hanya I dari 2 kemungkinan


maka ftrngsi aktivasinya :.flmgsi tanggct.

Maka total-masukan dari unit-keluaran :

1,+t =b+ t(,


Xi Ni
dengan 'batas keputusan' (decision bound ary)
memenuhi persam aan, J^qys netio hh neX0

bt Zt Fitili =* 0

(bergantung dari jumlah anggr)ta l,ektor-


masukan, maka 'batas lceptttttsan' ini dapat
berr-rpa garis, bidang ataupun hiperbidang.

Arti dari separabilitas linier aclalah : apabila


jaringan mendapatkan nilai bobot (dan bias)
yang menyebabkan vektor-masukan pelatihan
terrespon +1, berada pada salah satu bagian
dari 'batas kepofir,tsan'; sedangkan vektor-
masukan pelatihan terrespon -1 berada dalam
bagian lain.

Jaringan }apis-tunggal hanya dapat


menyelesaikan problema separabilitas linier
saja.
Contoh :

Daerah respon fungsi AND (masukan bipolar,


keluaran bipolar)

Masukan (x L, xZ) Keluaran (t)


(1,1) +l
(1,-1) -t
(-1,1) -l
(-1,-1) -t

Keluaran

diharapkan didapatkan (rAurns*'n .nlari )


denyan ri\rnjN\b;[ ..
b-t <_ 9rnq$fuqn .lan6a I horur
rvtQmttuhi
U1=l bt nrr!, +XuUl((
0J>- I
\ t(
hdtro.,"i
Crnibt: foh r :
[t*t t tu) -l = t, ,^, -ebrr.ar r. [*
,}trr+r*Jr '-i
?u**[h,i [o,riE oilrrhh : Xr = - X.t ]l
2.q rni.t ', }t )e
{ct) :-t (0
Daerah respon fungsi OR (masr-ikan bipolar,
keluran bipolar)

Masukan (x l, xZ) KelLlaran (r) su(oh rqt\t rdust-

( 1,1) (+l )
(1,-1) (+ l)
(-1,1) (+ l)
(- 1,- 1) (-r)

Keluaran dtngtn ntngonrbi I

b=t
U,= 1 ,:> $usomonn
\[r-=1 ' goris , XL=*r^l
Separabilitas linier ryenunjukan bahwa
masukan terespon positip dapat dipisahkan
dengan masukan terespon negatip oleh satu
garis lurus.

Apabila tidak ada nilai bias, malca 'batas f 'o -+I:K2,=-)


I l(u.-]
keputusan' akan melalui pusat (0,0). Hal ini
akan mengakibatkan persoalan yang dapat ?trsmtnn bt
dilerqh tron ;
dipecahkan menj adi tidak clapat dipecahkan. 0os,grri1 ntl
Misal : kedua contoh diatas. o.0

Tidak semua persoaian sederhana (vektor-


masukan berdimen sr 2, vektor-keluaran
berdimensi 1) dapat diselesaikan oleh jaringan
lapis-tunggal (walaLrpun rnenggunakan bias).

I tf)
I

I
I

I
L
Contoh :

Daerah respon fungsi XOR

Masukan (xI,xZ) Keluaran (t)


(1,1) (-1)
(1,-1) (+1)

(-1,-1) (-1)

Keluaran yang diharapkarr


(dapat dilihat dengdn mr-rdah bahwa tidak akan
ada garis lurus tunggal yang dapat memenr-rhi
persoalan ini. lioq[ mF+ aiPcrhton
=J

Catatan :

Dalam pembahasan Bab 2 tm, kita


menggunakan data bipolar, dan bukan data
biner (ner-rron McCulloch-Pitts).
Keuntlrngan penggllnaan bipolar
l.Dapat merubah persocllan yang ticlak depat
dip ecahkanj aringan lapis-tunggal sederhana,
menjadi persoalan yang dapat dipecahkan
(lihat contoh berikut, jaringan Hebb).
Z.Dapat digunakan untuk jaringan dengan
fungsi : merespon benar terhadap data yang
mirip tapi tidak identik. [dengan
menggunakan data bipolar, clata hilang
(berupa O)dapat dibeciakan deng an rJatct
salah ( +1 menjadi - 1, atau sebaliknya)l

2.2 Metoda Pelatihan ,Aturan Hebb, rfrr'q'oAts\AXu

\ ,t', t '.
I
,..,1ri\rp l' 'i.!'' i
It r'\'. '. i "
. I

Aturan Hebb : .
\rrt'3tf

o merllpakan aturay$r*n.lajaran'sederhana'
c bila dua nellron-ir.n"mbak (on) pada saat
yang sama, maka bobot antar neuron akan
t
?
meningkat. ,...\,.q'\.,t1 .''1
o bila dua
neuron'tidak menembak (of0 pada
saat yang sama, bobot zrntar neLlron juga
meningkat (Perluasan Auran Hebb)
\ O$n ntt\59\t\L[rn hlotor(
Aturan pembaharuan bobot :

wi (baru) - wi (lama)
T\tJt.
ulttq ' .ls
\uf's$' \l*'f";s
P)";
",""t\.;ll;$
urn**
$*oo
"N- i'$r
\R.

I t.)
Algoritma Pembelaj aran

Langkah 0. Pemberian nilai-awal semua bobot

Langkah 1. Untuk setiap pasangan vektor-


masukan dan target-keluaran, s &
t, lakukan langkah 2 - 4

Langk ah Z: Tentukan nilai aktivasi unit-


masukan
xi = si (I - 1,2,.,.,.,.,fl)
Langkah 3 : Tentukan nilai aktivasi unit-
keluaran
Y=t
foohot
,i-loi hnl'rf
Langkah 4 : Perbaharui nilai bobot $e')tt

wi (baru) = wi (lama)r'@
Perbaharui nilai bias
b(baru)=b(lama)+Y,

o bias diperlakukan seperti neuron dengan nilai


aktivasi selalu '1'
. pembaharuan bobot biasa juga ditulis sebagai

w(baru)=w(lama)+f,q*
\-/

2.13
Penerapan

c bias digunak an agar persoalan dapat


diselesaikan
o data biner membuat pers'oalan
menjadi tictak
dapat diselesaikan

Contoh :

,1\
u/ eturan Hebb untuh fuirgsi AND (masukan
biner, keluaran biner)
: grlsft isu'
Masukan Target-Keluaran
(xl xZ b)
(11 1) 1
rsor/toi
(10 1) 0
6.qcl:
(0 11) 0
{Ul = Xrt
(001) 0

4 wl - xlt aw2 - xZt ab = t

Nilai bobot baru ditentukan berdasarkan nilai


bobot lama ditambah denganAw, maka
' rrrsls iterasi
rr'v^'-"
tb'
pertama menghasilkan , , ^^ !o!{
' ,.,,'*'.1,',, TARGET ::::";::T: ,,::':I,:,, /Ttil Sl'to.
(() ,, ur(
ilIt)Iil|ltilItl

\ t i*i leru[ohom tt
bob
;1 Hu[ rnqa h qntd\r^

Persamaan garis akan memenuhi


/ 'Whta3nn^" r eryfu Srnt (ef,^
xz.='-.H:x,--h"
x:-*- xl -1
-+ ttnb(\olomrn'\'
r
Gambar ini benar
t-

hanya untnk masukan


: pertama saja. Untuk
masukan berikut
tidak dilakukan
pembelajaran, karena
target-keluarannya
nol. ur
.trr&rUtnSr.: k) tor!e['o -+6uJ:Q ":
'ul;kgrn 1+)
t*L*1t^. t rri(wX^ se(ok {{{
INPUT TARGET WEIGHT CHANGES WEIGHTS
(r'r .\ ; l) iJ ri', J rr.: J[] rr.r rr.; lrf
(l () ll (l
I
0 l0 0t {t I tt
((l lr ((l (l
I ()
(lt {l
(() ri l) r(, s
I tt
{)
0t {t I l}

.'fibt , , '{ .1oL ale L'1i 0{"t.,at'*'


".Oa (_ ]u\tl
hlilcrnUdqofin-V
Jaringan ini tidak mampu. t\sr:l $lt
Fis"t"^. { ttt{ll.,n-
birr -+birur ivr r
birv -oiU:rroh,

Aturan Hebb untuk fungsi AND (masukan


biner, keluaran bipolar)
6i,L i Snft\4 " !l\ "'t, C
t""nuO t

x'.t: fr&il ta$\o' { c


'
Masukan Target-Keluaran i :r.rt\r' o\t -rr t]
I r:l: ..

(x1 x2 b) .u
(111) t h'r' -'bF
(10 1) -l Cmhhr "

(0 1 1) -1
(c01) -l oU). . Xit
\'li - r x.rL
,ll" , li',t'
Dengan maslrkan vektor pertama dihasilkan
INPUT TARGET WEIGHT CHANGES WEIGHTS
(.tr .t: l) (Jrr'1 .trr'- Jr) ,',, ,1."i, , r;i.i '1'1i'"1'
{o (t 0r {.
(l I l) l(ltll(llt)
dengan persamaan garis n-lemenuhi
XZ - -Xr -l
Dengan memasukkan
vektor kedua dan
seterusnya menghasil-
r, kan proses pembelajar-
an, tetapi hasilnya
masih salah. .g
tuil; d ' }#' It' $,t:i'
F.. ,,rr', -*r tto1o,1uyar1 P'5"
./x-
itrf!ilJr [-.,,*. ; r.
t''rrrtrrrl , t{l rrrfi\u r i
. 'jr.)'r,

al I t

-y
\r1J'.

WEIGHTS
\*l-
INPUT TARGET I#EIGHT CHANGES
(Jrr'r lrr': l/l) (rr'r rr'1t)
r
(.r .r3 t)
(0 l0)
il0 l) -l (-l 0 -l)
(0 -l -ll (0 0 -l)
{0 I l) -l
0 -ll
(0 0, l) -l (0 0 -l) {0
t -[
-v
f'@-s','i'
''

' '' ' i "''


htra ''ra '.'- l"
c
'
0o,nbcn tu. ou, oolr
srxsr[n Autotrrr) \t
Kedua contoh diatas menunjukkan bahwa
pemilihan pol/vektor pelatihan sangat penting
d dalam menggunakan aturan Hebb.

Aturan Hebb untuk fungsi AND (masukan


bipolar, kelu aran bipolar)

Masukan Target-Kelu aran


(xl xZ b)
(1 1 1) 1
sdnorutnXrn

(1 -1 1) -1
(-1 1 1) -1 tuor t F)
(-1 -1 1) -1
\

Masukan pertama akan menghasilkan


INPUT TARGET WEIGHT CHANGES WEIGHTS
(.rr .r3 l) (Jrr'1 Arr'' lr) (rr.1 rr.3 /r)
((l () tl)
ilIt)I (l l) (t I tl

dengan persam aan garis pemisah adalah


Ao)'
t''7= -Xt - I - r,i
-,Wrl
5rry r\
l\.
Gambar ini memenuhi
masukan pertama (iuga iu/d^h r
t.utl,lr, q
rr rrrasukan keempat).
16tt
Dengan memasukkan r/s(dtr :'
vektor ke-Z, n..o 'r' ,/- !;
.U
- ? l*b3
(^nJ
II.IPUT TABGET WEIGHT CHANGES WEIGHiS
(.t'r .l'; l) (ru.1 lrr.. trr
(l
ll, lr, il
-l t) -l {-t I -t.l {0 I 0t
Dan persamaan garis ben-rbah menjadi
xz

Xz:O rl
Garis ini memenuhi v)' t
masukan ke- l, ke-Z Vl'
r' dan ke-4. Dengan
vq'

memasukkan vektor ke-


3 menghasilkan

INPUT TARGET IYEIGHT CHANGES WEIGHTS


(r'r .t; I I (Jrr'1 lrr': -\r) (rr'1 rr'. lr)
(() I ())
(-l I l) -l (l -l .t) (l I -l)

dengan persamaan garis menjadi


+ femrhda^,ry,0'
X1=-),t+l {Ymtnf,rr!^-rr., [*
tifrrvr ry'mhno.
mernasukkan vektor *txrr0,l, *" ,
ke-4 menghasilkan
I, yang sama.

Kasus Masukan Target Lin. Separabilitas

1 biner biner tidak mampu


2 biner bipolar tidak mampu
3 bipolar bipolar marnpLr
Untuk kasus (bipolar-bipolar), jaringan dapar
bekerja baik, karener proses pembaharuan
bobot dapat dilakukan baik pada saat
masukan-target sama-sama'on' ataupun
masukan-target sama-sama 'off'. ; turu,sun ttebb ru{t
-(
Aturan Hebb untuk Pengenalan Huruf

Misal Pola ke-1 adalah 'X' ; dan pola ke-Z


. adalah 'O' seperti dibawah ini
,l*,okJolln 081"' rr-rqh.irr.. .. i',\r-
,*r-rlttJc'a u.u,ru I
#. arrtt
oiiir
#.
,,
vt(rht.r2t'ktr*pr>rt;71
I # .

s,.... I
'v!n "
\: #.# # . #
[ *., .# ###
.'ru I f)lttcr.n I l)lltsrn l
\
\.
\tL t: : _i.! _l

Representasi dalam vektor adalah :


Pola ke-1 :
1 -1 -1 -1 1, -1 1 -l 1 -1, -1 -1 1 -l -1,
-11-11-1,1-1-1-11
Pola ke-Z :

-1 7 1 1 -L,1 -1 -1 -1 1, 1 -1 -1 -1 1,
1 -1 -1 -1 1, -1 1 1 1 -1

:
l

I
stuStl L' \

.L.-_,
Target-keluarannya adalah +i untuk Pola ke-I
dan -1 untuk Polake-Z. Dengan cara hitung
AW: a w L,awZ,o w3 , .., a w25,ab,
[,t)i , UJg]oto W 1, W2rW2, W25, b
seperti contoh sebelumnya akan dihasilkan
pengenalan yang benar. Apabila kita membuat
polo-pola ciiatas menjadi 'mirip tapi tak sama',
jaringan masih tetap dapert melakukan
pengenalan pola dengan benar.

Catatan : Dua kategori data yang tidak benar


1. Data yang salah : nilai +1 menjadi -l atar-i
sebaliknya
2. Data yang hilang : nilai +1 menjadi 0, atau
nilai -1 menjadi 0

Dalam kasus ini


Drrlaog;6( , l.{,1,--l ,l
Data yang Dq.te cotrh ' z
Data yang $ota h,hn5 :3

Jaringan dapat mengenali pola-pola yang mirip


(dengan data yang hilang) lebih baik daripada
mengenali pola-pola mirip dengan data yang
salah.
Kelemahan Aturan Flcbb

Aturan Hebb sangat strlit tintuk dapat **q'S


menyelesaikan persoalatt yang mempunyai ,tW U' dlg
vektor-masukan dengarr fuWffi,
Iebih dari 2,bahkan untuk problema yang jelas
bersifat separabilitas-lirrier. Lq6{
iffixlAtuq
U
\d
2.3 Perceptron

Perceptron merllpakan pt: ngembangan jaringan


Hebb. Terdiri dari 3 bagizrn, unit-sensor, r-rnit
asosiator dan unit respouse. Mtjn-rpakan
penurunan dari jaringan t'etina.

Perceptron sederhana menggunakan nilai


aktivasi biner untuk unit-sensor dan r-rnit-
asosiator; sedangkan Lrn i t respo,nse
menggunakan nilai aktivasi bipolar.
Bobot dari unit-sensor aclalah tetap, sedangkan
bobot dari unit-asosiator tlerubah

Fgngsi aktivasi :

(r bitq, g.rn) 0
{(y-o)- to
(
ui i(ty.iq ( +S
L-L bito. g,n (-$
.

Nilai bobot unit-asosiator diperbaharui selama


masih ada error, berdasitrl<an gsnd-rrr\6r1nua ".S$e
-gn*n"

u; (boru)
- Ni (t h, ) -& .,
Xi)
- - ",
dengcq : d, .. lolu puubeto3o** / bihbt o.fa er$r
t,h,yni tqhrrqn ( f t ) \ boh* tat'bqnrbol
--+ hrfus6cl*oh \.+ctxnn h*,r.rg$t :.v-
Arsitektur dt^6{\^ di&qat uJ(bxu\ trtnilaffi,f

Keu'ena hanya unit-


o-- b irsosiator yang
nrelakukan proses
1;embelajaran, maka
unit ini dapat
r.l ianggap sebagai unit-
nt ns u kan.
osoliobr

Anggota kelas berrespon +l; bukan anggota


berrespon - 1 .

Algoritma Pembelaj ara n

Algoritma ini berlaku baik untuk vektor-


masukan bipolar maupLrn biner, dengan target-
keluaran bipolar. JLrga crigunakan bias dan
nirai
ambang s yang bebecra arti crengan hirai
ambang sebelurnnya
Langkah 0 : Inisialisasi nitai bobot, bias dan Ilju penrbelajaran (r
( 0<u < l)
yi =1,2,..,1't); u=fr.I.t.
Langkah t : selamoa.il8,'n,
=9^(i herhc*rinya iter.asi tid&k dipenuhi,
lakukan Langkah 2- 6
Langkah 2 : Untuk setiap p.silngan pelatihan (s
,t ), Iakukan
Langkah 3 - 5
Langkah 3 Irenrukan nitai-nilai aktivasi unruk unit- 'l$rlfi:
unir nrasuk''
;;_ft._

$rn E b*?fiuri
5 sB
f;
L-l
[l[':/-1 ,,n*,
bita y_$ (-0
Langkah 5 : Jika *rasirr *cl* garat, perbaharui bobot
&
bias
bita $ +f
) - uJ.(hmq) + dtxi
rrJ,(hr,
lo (bqra) b'(tor,a, ) + 4t
1
I '
bita. u=t
Y)- w
(tot*)
ql.leorv) - tb,
b ttanr) , b (hnr )
Langkah 6 : uji kondisi he,ri. Jika ticrak ada per.ubahan
bobot pada Langkah 2 berhenti;
'iika
ticlak
[eruskan

Secara grafis, fungsi aktivasi dibarasi


oleh - S
dan + F, maka ada 2 garis pemisah ( boundary
decision ), yaitu

lh----
L1 - \.Arttrl t WL a.L . tv
.-

t r&LX" rb (-$ aiklps,


-Lfi' !
L. tJ.x, I
I-
ly'
zdotruh Terp$tt
'Ctttcepkon)
I -,

4 bto. Htbb r'rte r


\ tur. o6a
( Ct(ebcu.tt)

,{

Nilai ambang yang digunakan menentukan t,


pula lebar daerah antara l<edua garis, selain g f \ior
menentukan posisi garis. (beda antara Hebb
rule dan Perceptron, fungsi aktivasi ^
mempunyai 3 daerah response)

Contoh Penggllnaan

Perceptron untuk fungsi AI{D (masukan


bipolar, keluaran bipolal')
f\(ti'1

Masukan Target- Keluaran


(x1 xZ b)
(r 1 1) I

{1 1 1) -t
(o 1 r) -I
(o o 1) -l
Ambil d = l;0= 0,2 v 1)o'l
D -al('(to't'
-l (- .L

l-
Persamaan garis
Xr tXf t[ 3= 0.2
Xt tXztt r- 0,2

tNPut |tEr OUT TT'TSET |[1\ohor.1 Nita.i


\osot
Xt Xl
o oo E.-nitai 6t]d,I

Epoch pertama
(1 1 1) 0 0 r (r I r) (t r l)
(l 01) 21-t (_l 0_r) (0 t0i
(o r 1) 1 r -1 (0 _r -t) (0 0 _ri
(001) -1 -l -l (0 ,L0) (0 0 ii
q"t^.t^
sudah ridak ada perub,,,,Juo#f, -il ffi
(unhh .tntu-.g..q)
"
-+ ber(d& rrnh*g, re$ua *W t?
EPoch kedua '
tnlrJt t s"ia

(1t1) -1 -1 I (r r lf#r; "


(tol) 1t-l (-t o-l) (0,t_r)
(olt) l o-1 .i,(o-t _ri (oo-z)
(oot) -z;l -l { (o () oi (o o _2)

, .i'
Iipocn Ketlga
(r1D -2 -r I (l I ,t) (r I -1)
(r01) 0 0 -t (-l o -t) (0 -2)
(0 I r) -r -t
I
-I (0 () 0) (0 -2)
(001) -r -t -l (000) (0
I

I -2)
Epoch keempat da 50
(1 1 i) -1 -l I (r I t) / (l 2 -1)
(1 0 1) 00 -l (-l 0 -I) (02 -2)
(0 1 1) 00 -I (0 -r -l) (0 1 -3)
(00 1) -J -t -1 (0 00) (00 -3)
Epoch kelima
(1 1 1) -2 -1 I (l I r) (r 2 -2)
(1 0 1) -1-1 -1 (00 0) (1 ) -?\
a)
(0 I r) 00 -I (0 -I -l) (I I -3)
(00 1) -3 -l -1 (00 0) (r I -3)

Epoch keenam
(1 1 1) -1 -1 I (l r) (2 2 -2)
(l
I

0 1) 00 -t (-l 0 -r) (1 2 -3)


(0 1 1) -1 -1 -1 (0 -l -r) (r 2 -3)
(00 1) -3 -1 -1 (00 0) (r 2 -3)
Epoch ketujuh
(1 I 1) 00 1 (l I r) (2 3 -2)
(1 0 1) 00 -l (-l 0 -r) (t 3 -3)
(0 1)1 00 -l (0 -I -r) (r 2 -4)
(00 r) -I -4 -l (00 0) (l 2 -4)
Epoch kedelapan
(1 1 1) -1 -1 1 (t Il) (2 3 -3)
(1 0 1) -l -1 -1 (00 0) (2 3 -3)
(0 r)1 00 -l (0 -t -r) (2 2 -4)
(00 r) -4 -l -l (00 0) (z 2 -4)
t1pocn KesemDt lan
(1 1 r) o0l (l l r) (3 3 -3)
(1 0 r) 0 0 -l (-I 0 -r) (2 3 -4)
(0 1 1) -l -1 -t (00 0) (2 3 -4)
(0 0 1) -4 -1 -t (00 0) (2 3 -4)
Epoch kesepuh"rh
(1 1 1) 11 1 (0 {) 0) (2 3 -4 )
(1 0 1) -2 -1 -l (0 0 0) (2 a
J -4 )
(0 1 1) -1 -1 -1 (0 0 0) (2 J -4 )
-l

(00 1) -4 -1 -1 (() 0 0) I (2 3 -4 )
\
' li,'r,-1, a-:i-^ ! n,L(-.r*t,,,tr,r !:lt/',f
6qriE ?trrlso.t^ I,
u"'',trAfr !trlul,Q \
r-gul
I lx!tlx3-4)0.r f't
xlo ? i*,* t
oter\dx*nih
rF
IL axr tSxz-q (-o.z onob$ hg-
X1r, - 7a ?(l t 13
rq
*,bfut* I
rll\35nQA

Srtrt - t)\0dtr r \o e[o& I


.

Apabila mengglrnakan rnrmukan bipolar dan


keluaran bipolar
(catatan :d - 1;S - 0};nilai bobor awal - 0)

Epoch kesatu
(1 I r) 00 i (l I r) (r I 0)
(1 -1 1) 11 -I (--I I -r) (0 2 0)
(-1 1 -l
1) 2t (l -l
(l I -r) -r)
(-t -1 r) -3 -l -l (r) 0 0) (I I -r)
Sudah tidak terjadi perLrbilrran nilai bobot,
harus diuji.
a'yv vi. -

(1 1 l) I I I (o 0 ()) (l I -l)
(1 -1 i) -l -l -l (o o o) (l I -l)
(-1 1 l) -l -l -l (o 0 0) (l I -l)
(-1 -1 1) -3 -1 -l (o 0 0) (l l-l)
SiUt* - \lgow "t^Al^stfr1r
Terlihat bahwa
l.Masukan bipolar ternyttta dapat
mempercepat proses pernbelajaran
2.WalaupLln epoch kesatu teltrh benar,
pembuktian dengern elx)ch kedua sangat
I penting (semlla vektor-tnzlsLlkan harus
mengalami pernbela.iztt'itlt hingga ticlak ada
perubahan nilai bobot)
Metoda pembelajaran perceptron jurga dapat
dilakukan untuk vektot'-rnasllkan 3 dimensi.
(Hal ini tidak dapat dilakul<an oleh aturan
Hebb).

Pengenalan Huruf

Metoda pembelajaran Perceptron diterapkan


pada 21 vektor-masLrkan berr-rpa huruf, terdiri
- dari 63 tuples (dimensi). Arsitektur jaringan
dibuat sehingga setiap huruf akan
terkelompokkan kedalanr satu target-keluaran
1 . Vektor-masukern cliln target-keIuaran :

bipolar
2. Nilai arnbang 0 = 0, luiu pembelajaran = I O-l)

Algoritma

Langkah 0. lnisialisai nilai bobot rlirn bia.s


(biasanya 0 arau nilai kecil lain)
Langkah l. Bila konclisi henti sat:rh, takukan Langkah l-6
Langkah 2. Untuk setiirp pasangan pelatihan i:t, lakukan
Langkah 3-5
Langkah 3. Tentukan nilrri aktivasi setiap unit-ma.sukan
vA(-'(
-C''
Langkah 4. Hitung nilai irktivasi setiap unit-keluaran f . l.' r.fll
9jnr=Ir+Zx,ur,
!; , fl-l [t,jt]f.rrc
L
ta
b: (-
!.t$) 0
i.t--..63
jr,....I
Langkah 5.
f:,?i,::,.:,$,,}0ff iiTli;
tot-' " Y\
(lr1 (hrn) ' Ui (huc1 + t'tt i
bi tu,*r) - bi tlsna) * tl.l
Langkah 6. Uji konclisi henti
Bila tidak rtder pe:t'ubah.an bobot, dalam Langkah
2, hentikan; bila {idak teruskan

Dengan menggunakan httruf yang telah


terdistorsi, maka jarillgittt juga mampu
mengenalinya.
O Buot ?r%rom
TUGhS r Q&nt korirnpuhn
Persoalan dalam pengenalan huruf yang mirip.
-
Ada 2 bentuk kemiripatn, untuk vektor"
masukan bipolar
semula kemudian

1.@
o
-I
+'l -
1I lU,?otuc
J raht,

2,@ -t 0 I lr'pttar

o +l 0 J'rnrsriq'
2.4 ADALINE

Karakteristik Llmumnya silma dengan


Perceptron, dengan banyal< masukan, satu
keluar an ataLrpun banyak- masukan, banyak
keluaran. Gabungan dari beberapa ADALII{E
(ADAptive Llnear NE, ron) membentLrk
MADALII{E (Many ADALII{E), yang
merupakan jaringan mu It i- lapis.

Perbedaannya kedua.jar-i ngan ini terletak pada


,i,.rfl
n..f
toda pembelaj aran.
11 . ' ',r
'.r.rr r . . I I ' -t' . ti 1111 r ,
\ ?r . t t .

Algoritma pembelajaran Adaline ra fuodru! gtrbt&


" qnhru t, Con g rn
Menggunakan aturAn delta (rata-rata kr-r adrat f
terkecil), yang juga dapat digunakan untuk
jaringan banyak-m,suka,, binyak-ker
naran.
(Pengglrnaan aturan ini sangat Lrrgrna
dalam
Jaringan ^ r _1., *&cr.r) I l,Balik).
__._O_^- Propagasi
_ __
Cf,l t I\ /r. . rr, r r
-.-. \ : r''\
,l uiiJ =d[q")'f
]

'
:
-.r
rltl.-
""'t lt
,l
lll
i l r "-r
r1.n-\ t,
t,l' l'll$ l+
'uu1r'::''
Aloldxe v
-trrold^xr
, \ry' rYl^r : \ -
Langkah 0: Inisialisasi bobot tlan llju penrbela.jurian
wi =E:i ; (x,=0.0 1(ei >0:bil positipkccil
sebarartg ) + z sz.
Langkah l: Selar,a syar'.t lrc.ti s;rrlrrlr, Lakukan la,gk,h 2 _ 6
IU*m^ r
Langkah 2 : untuk sotiirp pirsrrlg., pelatih.n uipolar (s t),
, L.o.P
Lakukanlzurgl<irh 3-5
Langkah 3 : TcttIukltn nilai aktivasi unit nrasukan
x; =*i ii=1,2,. ,rl
I

d
Langkah 4: Flirrrrig (otal nrasukan ke unit ke!uar.an untuL(r.h
1,_ilr ,= l.r * I wi.xl ? h,\.
Swrr\ltn pot''
Langkah 5: pcr hur.ui holtot & [tias wr,trr srt .

b (haltr) -= b (lapla) + c/. (t - y_in)


u,; (ltiu'u):= w; (litnlt) + rr. (t _
1,_in).xi
Langkah 6 : U.ii syarir( hcrrri
Jik* ritlrrl< rrrru pc'ub,h*, bobot prrcrir
I.,gklrlr 2 sr:lc.s,i. .jik, ticl^k tcr.u.skarr
{dtt-Y,n)'oJ
Berdasarkan penelitiarr t-lect-Iriielsen ( 1990
syarat batas a. , agar konvergensi ter.jamin,
/ .r\lf ),'
adalah u < 1/ZX*&X , dirnzrna trrno^ adalah "_r..-
.t
nilai eigen terbesar dari rnarriks (Korttori)
R- t/pBxrO,re) /\" \*
R;=Tu
\ {,*o
Akan tetapi untuk nre rno3,-rdah perhitungan,
-maka biasanya kita rnengambil cr yang sangat
\-;;-
nuror
;;;; Ydr
Loru
kecil, misalnya 0, r . Biru o sangat tes].,
proses pembelajaran sLrlit mencapai
konver_
gensinya; sedangkan bil;.r cr terlalu kecil,
maka
waktu pembelaja'a. ak*r'r sangat Iama.

L*
Aplikasi Adaline

setelah melakuk:an proses pembelajaran, maka


kepada jaringan diberi vektor masukan (biner
atau bipolar) berdasarkan algoritma

Langkah 0 Inisialisasi nilai-nilai


bobor
(berdasarkan algoritma pembelajaran diatas)
Langkah 1 untuk setiap vektor ,rasukatr X, lakukan
Langkah 2 - 4
Langkah 2 Tentukan nilai aktivasi unit-unit
rnasukan dengan x
Xi Er S;
Langkah 3 Hitung total-masukan dari unit-keluaran
U_, &, b +}Xrttlc
Langkah 4 Gunakan fungsi aktivasi

J- frI r blla U-in>O


bilq y_in (o
Contoh Penggunaan

Adaline untuk fungsi Ai\D :


masukan biner, kelllaran bipolar

xl xZ t berdas arkan pembel aj aran


11 1 (&rh{unsan oqn q(gstitna stfrtunns)
LO .1 w1 = 1 +ipffitr
01 =1 w2=1
00 -1 b = -312

Persamaan garis pemisah :

Xrt X2.-
i = O

Total -ku adrat k. Sltl}r)rn, berd as ark an rLr mu s


j:)t-e'rx'
I I 2
n =E,f-rcrxl
r'
i*xti;' ;;:l;;;lt
., tt -ui0 dotg* (x, cf)*, r xltt)uh rb )
=, U_ fi
'i$
*yrr letuuron adalah = L

F"!,nf
i,,l,tr
Perhatian : Kasus ini mirip dengan contoh
untuk perceptron, dengan merllbah 0 = 0,2
s - 0. (slide z.z4) Berdasarkan nilai bobot ",. + "' !iri.,,
ii r!
rl
yang didapat perceptron kedalarrl rlrrrllrs diatas, ;

total-kuadrat kesalzrhan arlalah I 0/9.


i,(, .,. (, .,, :,,.
T
9q
q
Adaline untuk fungsi Af{D :

masukan bipolar, keluaran bipolar

B erdasarkan algoritma pembelaj aran,


didapatkan
w1 = Yz Persamaan garis pemisah

Hal serLlpa didapat dengan menggunakan


algoritma pembelajaran perceptron; total-
kuadrat kesalahan mempLlnyai harga yang
sama. i'"..,; , q-".0,."',.

Adaline untuk fungsi OR :


masukan biner, keluaran bipolar

x1 x2 t Perhitungan nilai
bobot
111
w1 = Llz \
,

1 -1 1
:l i I
i.,,.u,.."

{' ='i; li.; ,

Persamaan garis pemisah adalah


*,X,1 l*r. r l *o 4 xr*X1t\ ="0

n'^!r1'rt t rqp$t
-- -- - un\oe". uu\pnk - ) \q."il:
Y'x &\doLon
\56 1
,
rE-
2.5 MADALINE

Arsitektur jaringan line

\_,,
\

/_..
b2

terdiri dari 2 unit-tersernbLrny i zl dan zz;


yang menerima masing-masing dari x1 dan
xz beserta bias (masing-masin-g meruirak;, +1,1?r
sebuah adeline). unit kelLlaran adalah y.
Keberadaan unit-tersembunyi meningkatkan
performansi jaringan; tapi memp.rrulit proses
pembelajaran
AI goritm a Pembelaj aran

1. Algoritma '. \em}rtf\Ub0!^


fx(tu'
MRI ( I960) :
o" -r bu+ bo.h
o Nilai bobot dan bias unit-
,:, $' .

l,i r
.rLt!
tersembunyi menuj u Ltnit-keluaran
' r\'l i
,!,.
berhar ga teLap. C L, , U,'. u, ktup)
. L' i I t 1 a'
(tidalc memerlukan pembelaj aran)
I
i .i .\ o [Jnit-keluaran berfungsi seb agar OR
'\ .1 '
'.
''..,
r!
,
f
i'. terhadap unit-tersembunyi.

z.Algoritma MRII ( I 987) :


bohsur,n Ir,,Jo", }tVu
U6J\A
o Semua nilai bobot dan bias
mengalami proses pembelajaran

Algoritma Pelatihan VIRI

Berdasarkan Adaline fungsi OR, maka


v1 = yz
v2=yz
b3=Yz
1bU .binr u,nif {rssr'\h,*t, ){t}06
Fungsi
t,.ungsr aktivasi untuk semua unit-tersembunyi
(n dan zz) dan u,it-keluaran (y) aclalah :
hlq xlo
{cr) E3

fi bi\r x(0
Langkah 0 Inisialisasi nilai-nilai bobor clan laju
pembelajaran cr,
(gunakan nilai acak positip berharga kecir
untuk bobot dan bias; dan juga untuk u)
Langkah I Bila kondisi henti salah, tat<ut<an
Langkah Z - B
Langkah 2 Untuk setiap pasangan pelatihan s : t,
'
Iakukan Langkan Ii-
Langkah 3 Te.ntukan nilai aktivasi unit_
masukan
Xi =S;
Langkah 4 Hitung total-masukan untuk setiap
unit-tersernbunyi
2- tnt .- 5, + xr UJrr t Xr Ng
?,- tnz - b:- t Xr Wrz t Xz Urz
Langkah 5 Tentukan nilai aktivasi unit_
tersembunyi
?r . $(a.,*,)
Langkah
Zz = f Ct-rnz)
6 Tentukan nilai aktivasi unit_
keluaran
U .A,EL t.-
J - tn bg r-r
t ).U,t )#z
u = f (s.*)
Langkah 7 Tentukan galat dan perbaharui
bobot
i, J.,
/n -
06
1. bila t = y; tak ada perbaharuan {=)-tqnai,
boc,ar
_r_ rl t#V
1- i+ y ,t ttu-
.l
rtt trz It 2. bila t = I; perbaharui bobot Z
r Sr0^'
tt
t\
I
(namakan Zj) yang t-
FL)6
a
r'Il=t z-ins 0+ 1 --r
r't
.:\
1) b; (baru) - bj (torrq)+d (t- t*j)
ttr; tbuu) = urj Ctono)r ( h- ),rrj)K;
!

0
t----- -
t
I .
(
tr-_t
rfy .'
3'bila[=-1;nerbahxTi[ouot
j.. .,,,"1... . ,: .,(!=-r)
f
sli r t,, -,.0i : .',0,. " i .,'.[ . (namaka nZk) yang ,

l.ri: B,
.
;lrts t.'"i .1,

ffiffiff-:'"
ke(tnrl,=,-l
ltt
r-.=
rolu,rvg.-\ r ._
z-in bgrnilai positip
It*thru) * br.&sa)id(-r-?nr.)
-.-, :1.:,,,i'.. ;.:.. Nir"(bnru) =tljrktt nq) +(bt -trU)Xi
Sh ' '"ii .;, : n y,.. r
Langkahr 8, i jt'
Uji kondisi henti; stop
l. bila ridak redadi perubahan
,lda ".1,. . l; . r.r^,',ilr, , bobot (memenuhi ketelitian
' ..,,. ,{. {.ui- lr ] tertentu)
,_ . .o,.,.ri,r r':* ,1
,r +
lt
-. maksimum
,tJff:If:ffi?si
;ik teruskan, bila beiurn memenuhi
schr^ sr,h r bis{ teo,ror5n)
Penalaran pada Langk ah 7
,tf5
1. Bila t = 1 tetapi ada gulh ftondisi salah) ..t =r
Ini berarti bahwa semua un it Z U = -r
mempunyai nilai aktivari--"i,"
_,,{
seharusnya salah satu unitZ' ?u=-l
mempunyai nilai aktivasi +1
,lL
Maka perbahT.,i (sarah satu) unit z yang
mempunyai nilai aktivasi 0 sehingga
menjadi + I (target keluaran + 1
)
mnt'o
r
bi tu*t Er b1 t,tomo) d..( r- i,i'j )
rfll' (hru) - uXj [toru)r ((t-
].ub)Xi
, t*3
2. Bila t = - I tetapi ada $arat (kondisi sarah)
Ini berafti bahwa (paring ridak) sarah
satu unit z rnempunyai nirai aktivasi
+1; seharusnya semua unit Z
' mempunyainilai aktivasi _ 1
Maka perbaharui semLta unit Z yang
mempunyai nilai aktivasi +1 sehingga
menjadi -1 (target keluaran _1)

br.(bnm) = bt(tano)+ ((-t-}tnr.)


uJiL (bnru) = tU* (lona) t dC-t - h,t )ri

r
Algoritma Pelatihan MRII
Langkah 0 Inisialisasi nilai-nilai bobot
Inisialisasi laju pembelajaran cr
Langkah 1 Bila kondisi henti salah, lakukan Langkah z-g
Langkah 2 Untuk setiap pasangan vektor s : t,
lakukan Langkah 3-7
. ,l'-',- I Langkah 3 - 6 Hitung toral-masukan dan nilai
L5
a
aktivasi dari unit dalam jaringan seperti
dalam aigoritrna MRI (persis sama)
(perbedaan)
Langkah 7 Tentukan galat dan perbaharui bobot
Bila t # y, lakukan Langkah I a-b untuk
setiap u nit-terserribunyi yang
lnempunyai nilai total-masukan
mendekati 0 (rnisal antara - 0,25 hingga
4,25). Mulai dari unit clengan total- ,u-i-.
ir,. ,o! ^',,. ,

i..-{
'.t I masukan paling mendekati 0, dst ...
,1.'
ir.I Lr\,\\ r,!r,_ s! ,r r
lf r
.ll
r"a t'r
r '
''
a ubah nirai akrivasi unir-kelrurJi'"0"r+ 4r"
I
Langka h 7
{
i,'L ' t -.,.t.'
,,rt

J -1; dan
(dari +l menjadi !.,\f If
l'v
?.tA r :sebaliknya) N\W
' r' (l-.
I
,-ara,,,-. ',
Langkah 7b
il ,rt'
!
HHfi *"iil|,1;Ji:1,,T::f"
jaringan (Langkah 3-6)
?eturuno'n
-ffiadgat ai perbah arui ni tai
bobot dengan Aturan Delta; pakai
nilai aktivasi baru (Langkair 7a)
scbagai targct-kel uaran

Langkah t3 uji syarat" hcnti : (sama dengan MRI)


Contoh Penggunaan

Madaline (MRI) untuk Fungsi XOR

xl x2 t Masalah ini tidak


L 1 -1 dapatdiselesaikan
1 -1 1 olehjaringanneural
-1 1 1 sebeiumnya
-1 -1 -1

Langkah 0

bobot clan bias .i . . r l ., -.' ( ,,. -.r,.


Zl wll 0,C5 ZZ wlT 0,1
w2l 0,2 wZZ O,z
bl 0,3 b2 0,15

Y vl 0,5 )
vZ 0,5 t fungsi OR
b3 0,5 ) trrhp)

Langkah 1 Pelatihan dimulai


Langkah 2 Untuk pasangan pelatihan ke 1

s: t; (1,1) : -l
Langkah3 xl-l;x2=1
'..6\su ryr.rttzr Langkah 4 z-it"t1 = 0,3 + Qr,d + 0,2 0,55
=
..".+[ruJru+ f,vuz,t' l,-i}) = () l5 + 0.1 + 0.2 = 0.4.5
'
Larrgkah5zl - I
- !(tv')
z2-l
,-,i l"olo
,i,{ tn (o Langkah 6 y-rn =
Y= 1

| ti
"
<)
Langkah T t - ), == -).0 ; galat ll:)
I

t--1;perbaharuibobot
I
dan bi as Z yang I
:
mempltnyai nilai aktivasi i-'-' \ t

)/ t tr positipl' (Zl cian 22;tttnnlut trt0


( z1\
Vbt (baru) --0,475
/' wll(bai'u)-- 0,725
. wzl (baru)--0,575
2\ _-
\-/ b2 (baru) = - o,t7i '
\y 12(haru) = - 0,625 \

\y22 (baru) - - 0,525

{
Setelah 4 kali (epoch) dilakukan proses.
{
pelatihan, didapatkan hasil (konvergensi \
I proses) \\
wll = 1,27 I
j

= - 0,73 wLZ
w21= 1,53 w22 = -1,33 J
bl = -0,99 .:
bZ = -1,09 f
,.,'.. -' i. -.... '': ' "
r * ,' hrthi*)'h'(t"M)$fi-*t:i
-rinr)
il
t.
rr . '. -',"to
l.r'gia 'il .,'.',.,'l'',''
.
,. ,. , I'n, 'fft'tUr-1'Y:["*J+d.bt
* 0Ju'tlr*.\' *(3 - \n'
ti
..
lrr
.(' .
o

.1 ,
t
,1

,. " i lt i' u
. ' ' "U*
ffi

Berdasarkan perumusan persamaan gans,


maka didapatkan '

b:-
vt1 Yz=-H n,-H, ?r=? Xz*- H,n, ->a
tthz-

X1o 0,+8Xr * 0,bs X1 ' 0'\6Xr -0,8I

Anda mungkin juga menyukai