SIMPLE NN

AND FUNCTION

1
Materi

1. Jaringan Hebb
2. Hebb untuk logika And

2
 Jaringan Hebb
 Sering dipakai pada single NN
 Proses pembelajaran mengikuti aturan sebagai
berikut:
 Jika 2 neuron yang berhubungan dalam keadaan on,
maka bobot kedua neuron tersebut dinaikkan
 Nilai bobot baru jika jaringan berbentuk bipolar
Wi(baru) = Wi(lama) + xiy
Dimana Wi = bobot input ke i
xi = input ke i
y = output

3
 Algoritma
1. Inisialisasi semua bobot
Wi = 0 (untuk i = 0 sampai n)
2. Untuk setiap input training dan target, s:t
lakukan langkah berikut:
a. Set aktivasi untuk input unit
xi = si (untuk i = 0 sampai n)
b. Set aktivasi untuk output unit
y=t
c. Adjust bobot
Wi(baru) = Wi(lama) + xiy (untuk i = 0 sampai n)
d. Adjust bias
bi(baru) = b (lama) + y

4
 Algoritma

 Update bobot baru dapat diekspresikan dengan:

Wi(baru) = Wi(lama) + xiy
 Atau lebih sering dinyatakan dengan perubahan
bobot ∆w, dimana ∆w = xy, maka
Wi(baru) = Wi(lama) + ∆w

5
Hebb untuk logika And dengan
input biner dan target
Input Target
x1 x2 b t
1 1 1 1
1 0 1 0
0 1 1 0
0 0 1 0

 Perubahan bobot dan bias:

∆wi = xi t , ∆b = t

6
Hebb untuk logika And dengan
input biner dan target biner
 Perubahan bobot dari iterasi pertama sampai terakhir adalah:

Input Target Perub. Bobot Bobot

x1 x2 b t ∆w1 ∆w2 ∆b w1 w2 b
0 0 0
1 1 1 1 1 1 1 1 1 1
1 0 1 0 0 0 0 1 1 1
0 1 1 0 0 0 0 1 1 1
0 0 1 0 0 0 0 1 1 1

7
Batas keputusan logika And dengan
aturan Hebb  input pertama
x2
0 b+(x1w1)+(x2w2)=0
+
X2 = - (w1/w2)x1 - b/w2

x2 = -x1 - 1
-1 0 0

8
Hebb untuk logika And dengan
input biner dan target bipolar
Input Target
x1 x2 b t
1 1 1 1
1 0 1 -1
0 1 1 -1
0 0 1 -1

 Perubahan bobot dan bias:

∆wi = xi t , ∆b = t

9
Hebb untuk logika And dengan
input biner dan target bipolar
 Perubahan bobot dari iterasi pertama sampai terakhir adalah:

Input Target Perub. Bobot Bobot

x1 x2 b t ∆w1 ∆w2 ∆b w1 w2 b
0 0 0
1 1 1 1 1 1 1 1 1 1
1 0 1 -1 -1 0 -1 0 1 0
0 1 1 -1 0 -1 -1 0 0 -1
0 0 1 -1 0 0 -1 0 0 -2

10
Batas keputusan logika And dengan
target bipolar  input pertama

x2
-

-1 - -

x1

-
x2 = -x1 - 1

11
Hebb untuk logika And dengan
input dan target bipolar
Input Target
x1 x2 b t
1 1 1 1
1 -1 1 -1
-1 1 1 -1
-1 -1 1 -1

 Perubahan bobot dan bias:

∆wi = xi t , ∆b = t
 Nilai input iterasi kedua
x2 = -x1 – 1
 Karena pada iterasi keempat x1 = -1 , x2= -1 ,
maka nilai x2 = 0
12
Hebb untuk logika And dengan
input dan target bipolar
 Perubahan bobot dari input pertama sampai kedua adalah:

Input Target Perub. Bobot Bobot

x1 x2 b t ∆w1 ∆w2 ∆b w1 w2 b
0 0 0
1 1 1 1 1 1 1 1 1 1
1 -1 1 -1 -1 1 -1 0 2 0

13
Batas keputusan logika And
dengan target bipolar
Pada input pertama
x2
-

- +

-1 - -

x1

x2 = -x1 – 1 - -
-

14
Batas keputusan logika And
dengan target bipolar
Pada input kedua x2
-

- +

x1

x2 = 0 - -
-

15
Hebb untuk logika And dengan
input dan target bipolar
 Perubahan bobot dari input pertama sampai ketiga adalah:

Input Target Perub. Bobot Bobot

x1 x2 b t ∆w1 ∆w2 ∆b w1 w2 b
0 0 0
1 1 1 1 1 1 1 1 1 1
1 -1 1 -1 -1 1 -1 0 2 0
-1 1 1 -1 1 -1 -1 1 1 -1

16
Hebb untuk logika And dengan
input dan target bipolar
 Perubahan bobot dari input pertama sampai keempat adalah:

Input Target Perub. Bobot Bobot

x1 x2 b t ∆w1 ∆w2 ∆b w1 w2 b
0 0 0
1 1 1 1 1 1 1 1 1 1
1 -1 1 -1 -1 1 -1 0 2 0
-1 1 1 -1 1 -1 -1 1 1 -1
-1 -1 1 -1 1 1 -1 2 2 -2

17
Batas keputusan logika And
dengan target bipolar
Sampai iterasi terakhir x2
-

- +

-1 - -

x1

x2 = -x1 + 1
- +
-

18
 Character Recognition

A Hebb Net to classify two-dimensional input patterns (representing letter)

19
Character Recognition

20
Character Recognition

21
Character Recognition

22
Character Recognition

23
Other Simple Examples
Limitation of Hebb rule training for binary patterns

24
Other Simple Examples

25
Other Simple Examples

26
Other Simple Examples (2)
Limitation of Hebb Rule Training for Bipolar Pattern

In this example is considered the same problem as binary pattern, but

with the input points (and target classifications) in bipolar form.
Accordingly, we have the following arrangement of value:

27
Other Simple Examples (2)
Limitation of Hebb Rule Training for Bipolar Pattern

28
Exercise
 Make a model to represent the three
example above
 Hebb net for And Logic
 Hebb net for Character recognition
 Hebb net for Binary pattern

29