r,.l
xw?
Gambar t( Gambar Ib
Jarlngan Lapis tungsal Jaring&n Lapis tunggal
untuk pengklasifikasi pola untuk pengklasilikasi pola
dengan I katagori dengan m katagori
1. Aturan Hebb
2. Aturan Pembelajaran Perceptron
3. Aturan Delta ( dalam ADALINE)
2.1 Arsitektur Jaringan
lnput
Units
4'z
Jaringan ini berfungsi uurtr-rk mengklasifikasi
suatu pola-masukan [vektor dengan n-
dimensi (tuples)l kedalam hanlta sattr kategori
saja (Y).
dqgn
f (''r{) = f, [i[ f*i?
net = Xitrli
+
Pada prinsip nya, ini tidak lain ftrngsi aktivasi
seperti ini merupakan pula suatu jaringan
dengan nilai bias yang dapat diatur
besarannya.
Inpur
Unitr
brY,t\) r +(zt,[l , -D
, atau apabila dengan ang gapan bahwa wZ f 0,
hsurnongarir y\?-- U,X.
|r- --b-
f G
Agar jaringan bertanggapan positip makzr
b*^lllr+ KLUJZ VO -f
Pelatihan dimaksr"rdkan Lrntuk menentukan
nilai wl,w2, dan b sehinga jar ingan
bertanggapan positip.
Xr Ur + XzW: =, A
atau (anggapan bahwawZ + 0)
xz: Sx, +
*
Dalam proses pelatihan, nilai w1 dan wZ
ditentukan sehingga j aringan bertanggapan
positip terhadap vektor masukan-pelatihan.
Dalam penggLlnaan nilai ambang ini,
persamaan garis tidak akan mungkin rnelewati
titik pusat; akan,tetapi dapat dibuat
mendekatinya. (akan diterangkan kernr-rdian).
Terlihat bahwa nilai ambang juga merupakan
suatu bias yang besar nilainya dapat diatur.
(kemudian bias akan digr:nakan dalam
jaringan)
Separabilitas Linier
bt Zt Fitili =* 0
Keluaran
( 1,1) (+l )
(1,-1) (+ l)
(-1,1) (+ l)
(- 1,- 1) (-r)
b=t
U,= 1 ,:> $usomonn
\[r-=1 ' goris , XL=*r^l
Separabilitas linier ryenunjukan bahwa
masukan terespon positip dapat dipisahkan
dengan masukan terespon negatip oleh satu
garis lurus.
I tf)
I
I
I
I
L
Contoh :
(-1,-1) (-1)
Catatan :
\ ,t', t '.
I
,..,1ri\rp l' 'i.!'' i
It r'\'. '. i "
. I
Aturan Hebb : .
\rrt'3tf
o merllpakan aturay$r*n.lajaran'sederhana'
c bila dua nellron-ir.n"mbak (on) pada saat
yang sama, maka bobot antar neuron akan
t
?
meningkat. ,...\,.q'\.,t1 .''1
o bila dua
neuron'tidak menembak (of0 pada
saat yang sama, bobot zrntar neLlron juga
meningkat (Perluasan Auran Hebb)
\ O$n ntt\59\t\L[rn hlotor(
Aturan pembaharuan bobot :
wi (baru) - wi (lama)
T\tJt.
ulttq ' .ls
\uf's$' \l*'f";s
P)";
",""t\.;ll;$
urn**
$*oo
"N- i'$r
\R.
I t.)
Algoritma Pembelaj aran
wi (baru) = wi (lama)r'@
Perbaharui nilai bias
b(baru)=b(lama)+Y,
w(baru)=w(lama)+f,q*
\-/
2.13
Penerapan
Contoh :
,1\
u/ eturan Hebb untuh fuirgsi AND (masukan
biner, keluaran biner)
: grlsft isu'
Masukan Target-Keluaran
(xl xZ b)
(11 1) 1
rsor/toi
(10 1) 0
6.qcl:
(0 11) 0
{Ul = Xrt
(001) 0
\ t i*i leru[ohom tt
bob
;1 Hu[ rnqa h qntd\r^
(x1 x2 b) .u
(111) t h'r' -'bF
(10 1) -l Cmhhr "
(0 1 1) -1
(c01) -l oU). . Xit
\'li - r x.rL
,ll" , li',t'
Dengan maslrkan vektor pertama dihasilkan
INPUT TARGET WEIGHT CHANGES WEIGHTS
(.tr .t: l) (Jrr'1 .trr'- Jr) ,',, ,1."i, , r;i.i '1'1i'"1'
{o (t 0r {.
(l I l) l(ltll(llt)
dengan persamaan garis n-lemenuhi
XZ - -Xr -l
Dengan memasukkan
vektor kedua dan
seterusnya menghasil-
r, kan proses pembelajar-
an, tetapi hasilnya
masih salah. .g
tuil; d ' }#' It' $,t:i'
F.. ,,rr', -*r tto1o,1uyar1 P'5"
./x-
itrf!ilJr [-.,,*. ; r.
t''rrrtrrrl , t{l rrrfi\u r i
. 'jr.)'r,
al I t
-y
\r1J'.
WEIGHTS
\*l-
INPUT TARGET I#EIGHT CHANGES
(Jrr'r lrr': l/l) (rr'r rr'1t)
r
(.r .r3 t)
(0 l0)
il0 l) -l (-l 0 -l)
(0 -l -ll (0 0 -l)
{0 I l) -l
0 -ll
(0 0, l) -l (0 0 -l) {0
t -[
-v
f'@-s','i'
''
(1 -1 1) -1
(-1 1 1) -1 tuor t F)
(-1 -1 1) -1
\
Xz:O rl
Garis ini memenuhi v)' t
masukan ke- l, ke-Z Vl'
r' dan ke-4. Dengan
vq'
s,.... I
'v!n "
\: #.# # . #
[ *., .# ###
.'ru I f)lttcr.n I l)lltsrn l
\
\.
\tL t: : _i.! _l
-1 7 1 1 -L,1 -1 -1 -1 1, 1 -1 -1 -1 1,
1 -1 -1 -1 1, -1 1 1 1 -1
:
l
I
stuStl L' \
.L.-_,
Target-keluarannya adalah +i untuk Pola ke-I
dan -1 untuk Polake-Z. Dengan cara hitung
AW: a w L,awZ,o w3 , .., a w25,ab,
[,t)i , UJg]oto W 1, W2rW2, W25, b
seperti contoh sebelumnya akan dihasilkan
pengenalan yang benar. Apabila kita membuat
polo-pola ciiatas menjadi 'mirip tapi tak sama',
jaringan masih tetap dapert melakukan
pengenalan pola dengan benar.
Fgngsi aktivasi :
(r bitq, g.rn) 0
{(y-o)- to
(
ui i(ty.iq ( +S
L-L bito. g,n (-$
.
u; (boru)
- Ni (t h, ) -& .,
Xi)
- - ",
dengcq : d, .. lolu puubeto3o** / bihbt o.fa er$r
t,h,yni tqhrrqn ( f t ) \ boh* tat'bqnrbol
--+ hrfus6cl*oh \.+ctxnn h*,r.rg$t :.v-
Arsitektur dt^6{\^ di&qat uJ(bxu\ trtnilaffi,f
$rn E b*?fiuri
5 sB
f;
L-l
[l[':/-1 ,,n*,
bita y_$ (-0
Langkah 5 : Jika *rasirr *cl* garat, perbaharui bobot
&
bias
bita $ +f
) - uJ.(hmq) + dtxi
rrJ,(hr,
lo (bqra) b'(tor,a, ) + 4t
1
I '
bita. u=t
Y)- w
(tot*)
ql.leorv) - tb,
b ttanr) , b (hnr )
Langkah 6 : uji kondisi he,ri. Jika ticrak ada per.ubahan
bobot pada Langkah 2 berhenti;
'iika
ticlak
[eruskan
lh----
L1 - \.Arttrl t WL a.L . tv
.-
,{
Contoh Penggllnaan
{1 1 1) -t
(o 1 r) -I
(o o 1) -l
Ambil d = l;0= 0,2 v 1)o'l
D -al('(to't'
-l (- .L
l-
Persamaan garis
Xr tXf t[ 3= 0.2
Xt tXztt r- 0,2
Epoch pertama
(1 1 1) 0 0 r (r I r) (t r l)
(l 01) 21-t (_l 0_r) (0 t0i
(o r 1) 1 r -1 (0 _r -t) (0 0 _ri
(001) -1 -l -l (0 ,L0) (0 0 ii
q"t^.t^
sudah ridak ada perub,,,,Juo#f, -il ffi
(unhh .tntu-.g..q)
"
-+ ber(d& rrnh*g, re$ua *W t?
EPoch kedua '
tnlrJt t s"ia
, .i'
Iipocn Ketlga
(r1D -2 -r I (l I ,t) (r I -1)
(r01) 0 0 -t (-l o -t) (0 -2)
(0 I r) -r -t
I
-I (0 () 0) (0 -2)
(001) -r -t -l (000) (0
I
I -2)
Epoch keempat da 50
(1 1 i) -1 -l I (r I t) / (l 2 -1)
(1 0 1) 00 -l (-l 0 -I) (02 -2)
(0 1 1) 00 -I (0 -r -l) (0 1 -3)
(00 1) -J -t -1 (0 00) (00 -3)
Epoch kelima
(1 1 1) -2 -1 I (l I r) (r 2 -2)
(1 0 1) -1-1 -1 (00 0) (1 ) -?\
a)
(0 I r) 00 -I (0 -I -l) (I I -3)
(00 1) -3 -l -1 (00 0) (r I -3)
Epoch keenam
(1 1 1) -1 -1 I (l r) (2 2 -2)
(l
I
(00 1) -4 -1 -1 (() 0 0) I (2 3 -4 )
\
' li,'r,-1, a-:i-^ ! n,L(-.r*t,,,tr,r !:lt/',f
6qriE ?trrlso.t^ I,
u"'',trAfr !trlul,Q \
r-gul
I lx!tlx3-4)0.r f't
xlo ? i*,* t
oter\dx*nih
rF
IL axr tSxz-q (-o.z onob$ hg-
X1r, - 7a ?(l t 13
rq
*,bfut* I
rll\35nQA
Epoch kesatu
(1 I r) 00 i (l I r) (r I 0)
(1 -1 1) 11 -I (--I I -r) (0 2 0)
(-1 1 -l
1) 2t (l -l
(l I -r) -r)
(-t -1 r) -3 -l -l (r) 0 0) (I I -r)
Sudah tidak terjadi perLrbilrran nilai bobot,
harus diuji.
a'yv vi. -
(1 1 l) I I I (o 0 ()) (l I -l)
(1 -1 i) -l -l -l (o o o) (l I -l)
(-1 1 l) -l -l -l (o 0 0) (l I -l)
(-1 -1 1) -3 -1 -l (o 0 0) (l l-l)
SiUt* - \lgow "t^Al^stfr1r
Terlihat bahwa
l.Masukan bipolar ternyttta dapat
mempercepat proses pernbelajaran
2.WalaupLln epoch kesatu teltrh benar,
pembuktian dengern elx)ch kedua sangat
I penting (semlla vektor-tnzlsLlkan harus
mengalami pernbela.iztt'itlt hingga ticlak ada
perubahan nilai bobot)
Metoda pembelajaran perceptron jurga dapat
dilakukan untuk vektot'-rnasllkan 3 dimensi.
(Hal ini tidak dapat dilakul<an oleh aturan
Hebb).
Pengenalan Huruf
bipolar
2. Nilai arnbang 0 = 0, luiu pembelajaran = I O-l)
Algoritma
1.@
o
-I
+'l -
1I lU,?otuc
J raht,
2,@ -t 0 I lr'pttar
o +l 0 J'rnrsriq'
2.4 ADALINE
'
:
-.r
rltl.-
""'t lt
,l
lll
i l r "-r
r1.n-\ t,
t,l' l'll$ l+
'uu1r'::''
Aloldxe v
-trrold^xr
, \ry' rYl^r : \ -
Langkah 0: Inisialisasi bobot tlan llju penrbela.jurian
wi =E:i ; (x,=0.0 1(ei >0:bil positipkccil
sebarartg ) + z sz.
Langkah l: Selar,a syar'.t lrc.ti s;rrlrrlr, Lakukan la,gk,h 2 _ 6
IU*m^ r
Langkah 2 : untuk sotiirp pirsrrlg., pelatih.n uipolar (s t),
, L.o.P
Lakukanlzurgl<irh 3-5
Langkah 3 : TcttIukltn nilai aktivasi unit nrasukan
x; =*i ii=1,2,. ,rl
I
d
Langkah 4: Flirrrrig (otal nrasukan ke unit ke!uar.an untuL(r.h
1,_ilr ,= l.r * I wi.xl ? h,\.
Swrr\ltn pot''
Langkah 5: pcr hur.ui holtot & [tias wr,trr srt .
L*
Aplikasi Adaline
Xrt X2.-
i = O
F"!,nf
i,,l,tr
Perhatian : Kasus ini mirip dengan contoh
untuk perceptron, dengan merllbah 0 = 0,2
s - 0. (slide z.z4) Berdasarkan nilai bobot ",. + "' !iri.,,
ii r!
rl
yang didapat perceptron kedalarrl rlrrrllrs diatas, ;
x1 x2 t Perhitungan nilai
bobot
111
w1 = Llz \
,
1 -1 1
:l i I
i.,,.u,.."
n'^!r1'rt t rqp$t
-- -- - un\oe". uu\pnk - ) \q."il:
Y'x &\doLon
\56 1
,
rE-
2.5 MADALINE
\_,,
\
/_..
b2
l,i r
.rLt!
tersembunyi menuj u Ltnit-keluaran
' r\'l i
,!,.
berhar ga teLap. C L, , U,'. u, ktup)
. L' i I t 1 a'
(tidalc memerlukan pembelaj aran)
I
i .i .\ o [Jnit-keluaran berfungsi seb agar OR
'\ .1 '
'.
''..,
r!
,
f
i'. terhadap unit-tersembunyi.
fi bi\r x(0
Langkah 0 Inisialisasi nilai-nilai bobor clan laju
pembelajaran cr,
(gunakan nilai acak positip berharga kecir
untuk bobot dan bias; dan juga untuk u)
Langkah I Bila kondisi henti salah, tat<ut<an
Langkah Z - B
Langkah 2 Untuk setiap pasangan pelatihan s : t,
'
Iakukan Langkan Ii-
Langkah 3 Te.ntukan nilai aktivasi unit_
masukan
Xi =S;
Langkah 4 Hitung total-masukan untuk setiap
unit-tersernbunyi
2- tnt .- 5, + xr UJrr t Xr Ng
?,- tnz - b:- t Xr Wrz t Xz Urz
Langkah 5 Tentukan nilai aktivasi unit_
tersembunyi
?r . $(a.,*,)
Langkah
Zz = f Ct-rnz)
6 Tentukan nilai aktivasi unit_
keluaran
U .A,EL t.-
J - tn bg r-r
t ).U,t )#z
u = f (s.*)
Langkah 7 Tentukan galat dan perbaharui
bobot
i, J.,
/n -
06
1. bila t = y; tak ada perbaharuan {=)-tqnai,
boc,ar
_r_ rl t#V
1- i+ y ,t ttu-
.l
rtt trz It 2. bila t = I; perbaharui bobot Z
r Sr0^'
tt
t\
I
(namakan Zj) yang t-
FL)6
a
r'Il=t z-ins 0+ 1 --r
r't
.:\
1) b; (baru) - bj (torrq)+d (t- t*j)
ttr; tbuu) = urj Ctono)r ( h- ),rrj)K;
!
0
t----- -
t
I .
(
tr-_t
rfy .'
3'bila[=-1;nerbahxTi[ouot
j.. .,,,"1... . ,: .,(!=-r)
f
sli r t,, -,.0i : .',0,. " i .,'.[ . (namaka nZk) yang ,
l.ri: B,
.
;lrts t.'"i .1,
ffiffiff-:'"
ke(tnrl,=,-l
ltt
r-.=
rolu,rvg.-\ r ._
z-in bgrnilai positip
It*thru) * br.&sa)id(-r-?nr.)
-.-, :1.:,,,i'.. ;.:.. Nir"(bnru) =tljrktt nq) +(bt -trU)Xi
Sh ' '"ii .;, : n y,.. r
Langkahr 8, i jt'
Uji kondisi henti; stop
l. bila ridak redadi perubahan
,lda ".1,. . l; . r.r^,',ilr, , bobot (memenuhi ketelitian
' ..,,. ,{. {.ui- lr ] tertentu)
,_ . .o,.,.ri,r r':* ,1
,r +
lt
-. maksimum
,tJff:If:ffi?si
;ik teruskan, bila beiurn memenuhi
schr^ sr,h r bis{ teo,ror5n)
Penalaran pada Langk ah 7
,tf5
1. Bila t = 1 tetapi ada gulh ftondisi salah) ..t =r
Ini berarti bahwa semua un it Z U = -r
mempunyai nilai aktivari--"i,"
_,,{
seharusnya salah satu unitZ' ?u=-l
mempunyai nilai aktivasi +1
,lL
Maka perbahT.,i (sarah satu) unit z yang
mempunyai nilai aktivasi 0 sehingga
menjadi + I (target keluaran + 1
)
mnt'o
r
bi tu*t Er b1 t,tomo) d..( r- i,i'j )
rfll' (hru) - uXj [toru)r ((t-
].ub)Xi
, t*3
2. Bila t = - I tetapi ada $arat (kondisi sarah)
Ini berafti bahwa (paring ridak) sarah
satu unit z rnempunyai nirai aktivasi
+1; seharusnya semua unit Z
' mempunyainilai aktivasi _ 1
Maka perbaharui semLta unit Z yang
mempunyai nilai aktivasi +1 sehingga
menjadi -1 (target keluaran _1)
r
Algoritma Pelatihan MRII
Langkah 0 Inisialisasi nilai-nilai bobot
Inisialisasi laju pembelajaran cr
Langkah 1 Bila kondisi henti salah, lakukan Langkah z-g
Langkah 2 Untuk setiap pasangan vektor s : t,
lakukan Langkah 3-7
. ,l'-',- I Langkah 3 - 6 Hitung toral-masukan dan nilai
L5
a
aktivasi dari unit dalam jaringan seperti
dalam aigoritrna MRI (persis sama)
(perbedaan)
Langkah 7 Tentukan galat dan perbaharui bobot
Bila t # y, lakukan Langkah I a-b untuk
setiap u nit-terserribunyi yang
lnempunyai nilai total-masukan
mendekati 0 (rnisal antara - 0,25 hingga
4,25). Mulai dari unit clengan total- ,u-i-.
ir,. ,o! ^',,. ,
i..-{
'.t I masukan paling mendekati 0, dst ...
,1.'
ir.I Lr\,\\ r,!r,_ s! ,r r
lf r
.ll
r"a t'r
r '
''
a ubah nirai akrivasi unir-kelrurJi'"0"r+ 4r"
I
Langka h 7
{
i,'L ' t -.,.t.'
,,rt
J -1; dan
(dari +l menjadi !.,\f If
l'v
?.tA r :sebaliknya) N\W
' r' (l-.
I
,-ara,,,-. ',
Langkah 7b
il ,rt'
!
HHfi *"iil|,1;Ji:1,,T::f"
jaringan (Langkah 3-6)
?eturuno'n
-ffiadgat ai perbah arui ni tai
bobot dengan Aturan Delta; pakai
nilai aktivasi baru (Langkair 7a)
scbagai targct-kel uaran
Langkah 0
Y vl 0,5 )
vZ 0,5 t fungsi OR
b3 0,5 ) trrhp)
s: t; (1,1) : -l
Langkah3 xl-l;x2=1
'..6\su ryr.rttzr Langkah 4 z-it"t1 = 0,3 + Qr,d + 0,2 0,55
=
..".+[ruJru+ f,vuz,t' l,-i}) = () l5 + 0.1 + 0.2 = 0.4.5
'
Larrgkah5zl - I
- !(tv')
z2-l
,-,i l"olo
,i,{ tn (o Langkah 6 y-rn =
Y= 1
| ti
"
<)
Langkah T t - ), == -).0 ; galat ll:)
I
t--1;perbaharuibobot
I
dan bi as Z yang I
:
mempltnyai nilai aktivasi i-'-' \ t
{
Setelah 4 kali (epoch) dilakukan proses.
{
pelatihan, didapatkan hasil (konvergensi \
I proses) \\
wll = 1,27 I
j
= - 0,73 wLZ
w21= 1,53 w22 = -1,33 J
bl = -0,99 .:
bZ = -1,09 f
,.,'.. -' i. -.... '': ' "
r * ,' hrthi*)'h'(t"M)$fi-*t:i
-rinr)
il
t.
rr . '. -',"to
l.r'gia 'il .,'.',.,'l'',''
.
,. ,. , I'n, 'fft'tUr-1'Y:["*J+d.bt
* 0Ju'tlr*.\' *(3 - \n'
ti
..
lrr
.(' .
o
.1 ,
t
,1
,. " i lt i' u
. ' ' "U*
ffi
b:-
vt1 Yz=-H n,-H, ?r=? Xz*- H,n, ->a
tthz-