Handout Mat a Kuliah Artifi cial Intelligence

Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
1
BAB III
JARINGAN SYARAF TIRUAN (JST)

Tujuan : Setelah mempelajari Bab ini Mahasiswa diharapkan dapat memahami
1. A. Apakah Jaringan Syaraf Tiruan?
B. Bagaimana Sejarah Jaringan Syaraf Tiruan?
C. Apakah Kelebihan Jaringan Syaraf Tiruan?
2. A. Apa Sajakah Dasar Jaringan Syaraf Tiruan?
B. Apakah Neuron?
C. Apakah Bagian-Bagian Neuron?
D. Apakah Fungsi Aktifasi?
3.A. Bagaimanakah Operasional Jaringan Syaraf Tiruan?
B. Bagaimanakah Struktur Jaringan Syaraf Tiruan?
C. Bagaimanakah Lapisan Operasional Jaringan Syaraf Tiruan?
D. Bagaimanakah Algoritma Jaringan Syaraf Tiruan?

Materi : Bab ini berisi pengertian Jaringan Syaraf Tiruan, dasar-dasar Jaringan Syaraf
Tiruan dan operasional Jaringan Syaraf Tiruan. Bagian penutupan bab ini diisi dengan
contoh dan latihan-latihan soal.






Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
2
Struktur Bab

3.1 Pendahuluan
3.1.1 Pengertian Jaringan Syaraf Tiruan
3.1.2 Sejarah Jaringan Syaraf Tiruan
3.1.3 Kelebihan Jaringan Syaraf Tiruan

3.2 Dasar Jaringan Syaraf Tiruan
3.2.1 Pengertian Neuron
3.2.2 Bagian-bagian Neuron
3.2.3 Pengertian Fungsi Aktivasi

3.3 Operasional Jaringan Syaraf Tiruan
3.3.1 Struktur Jaringan Syaraf Tiruan
3.3.2 Lapisan Jaringan Syaraf Tiruan
3.3.3 Pembelajaran Jaringan Syaraf Tiruan
3.3.4 Algoritma Jaringan Syaraf Tiruan

3.4 Contoh dan Latihan














Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
3
3.1 Pendahuluan
3.1.1 Pengertian Jaringan Syaraf Tiruan
Diilhami dari kesuksesan sistem otak manusia yang terdiri dari ribuan bahkan
jutaan neuron dalam bentuk jaringan yang berfungsi sebagai pemproses informasi
dalam mengambil keputusan untuk sebuah tindakan, jaringan syaraf tiruan
(Artificial Neural Network) diharapkan dapat dikembangkan untuk menyelesaikan
permasalahan-permasalahan dalam sekala yang besar dan komplek.
Jaringan Syaraf Tiruan didefinisikan sebagai susunan dari elemen-elemen
penghitung yang disebut neuron atau titik (node) yang saling terhubung guna
dimodelkan untuk meniru fungsi otak manusia.
Sistem Jaringan Syaraf Tiruan dicirikan dengan adanya proses pembelajaran
(learning) yang berfungsi untuk mengadaptasi parameter-parameter jaringannya.
3.1.2 Sejarah Jaringan Syaraf Tiruan
Saat ini bidang kecerdasan buatan dalam usahanya menirukan intelegensi manusia,
belum mengadakan pendekatan dalam bentuk fisiknya melainkan dari sisi yang
lain. Pertama-tama diadakan studi mengenai teori dasar mekanisme proses
terjadinya intelegensi. Bidang ini disebut Cognitive Science. Dari teori dasar ini
dibuatlah suatu model untuk disimulasikan pada komputer, dan dalam
perkembangannya yang lebih lanjut dikenal berbagai sistem kecerdasan buatan
yang salah satunya adalah jaringan saraf tiruan. Dibandingkan dengan bidang ilmu
yang lain, jaringan saraf tiruan relatif masih baru. Sejumlah literatur menganggap
bahwa konsep jaringan saraf tiruan bermula pada makalah Waffen McCulloch dan
Walter Pitts pada tahun 1943. Dalam makalah tersebut mereka mencoba untuk
memformulasikan model matematis sel-sel otak. Metode yang dikembangkan
Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
4
berdasarkan sistem saraf biologi ini, merupakan suatu langkah maju dalam industri
komputer
3.1.3 Kelebihan Jaringan Syaraf Tiruan
Kelebihan sistem jaringan syaraf tiruan:
- kemampuan melakukan proses pembelajaran
- kemampuan beradaptasi
- implementasi komponen peralatan dalam bentuk parallel secara besar-besaran.

3.2 Dasar Jaringan Syaraf Tiruan
3.2.1 Pengertian Neuron
Neuron dianalogikan dengan neurosikologi (neurophysiology) pada otak manusia.
Dalam Jaringan Syaraf Tiruan neuron diartikan sebagai bagian terkecil dari jaringan
syaraf tiruan yang berfungsi sebagai elemen pemroses. Dengan demikian neuron
juga dapat dinyatakan sebagai prosesor sederhana dari system JARINGAN
SYARAF TIRUAN. Neuron juga dikenal dengan sebutan percepton atau Adaline.

3.2.2 Bagian-bagian Neuron
Dalam system Jaringan Syaraf Tiruan neuron akan bekerja dengan mengumpulkan
sinyal dari neuron yang terhubung sebelumnya dan memprosesnya untuk menjadi
masukan bagi neuron berikutnya. Neuron tersusun dari komponen-komponen
sebagai berikut:
- Sekumpulan penghubung atau yang dikenal dengan synapses atau connection
link yang di karakterkan dengan sebuah pembobot (weight/strength
connection)
Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
5
- Sebuah penjumlah (summing/adder) yang berfungsi untuk menjumlahkan
semua sinyal masukannya.
- Sebuah fungsi tidak dinamis (non dynamical) yang dikenali dengan sebutan
fungsi aktivasi (activation function).
Model dari sebuah neuron ditunjukkan pada gambar 3.1

Gambar 3.1 Model sebuah neuron
Persamaan dari fungsi penjumlah yang dikenal juga sebagai fungsi tranformasi
neuron (neuron transfer function) adalah:

(3.1)
dimana: net
j
: fungsi transformasi neuron
x
i
: masukan neuron
w
i
: pembobot penghubung
t : variable waktu

3.2.3 Pengertian Fungsi Aktifasi
Dalam gambar 3.1, dapat dijelaskan bahwa setelah pemetaan sinyal masukan
neuron akan menghasilkan keluaran melalui fungsi aktivasi. Fungsi aktivasi
mentransformasi nilai keluarannya melalui pemetaan sinyal masukannya ke dalam
sebuah nilai yang sesuai dengan neuron lainnya.

w
net
k
x
1


x
2

x
3

f
actv
(.)
O
k

=
=
I
i
j i k
t x w t net
0
) ( . ) (
Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
6

Persamaan fungsi aktivasi suatu neuron adalah :
(3.2)

dimana : f
actv
: fungsi aktivasi
O
k
: keluaran neuron

Pada fungsi aktivasi jenis bipolar neuron akan menghasilkan nilai keluaran positif
dan negatif, sedangkan pada jenis unipolar hanya menghasilkan keluaran positif
saja. Berdasarkan jenis neuron, fungsi aktivasi mempunyai beberapa bentuk antara
lain:
1. Fungsi aktivasi linear:
FA yang paling sederhana adalah pemetaan secara linear yang ditunjukkan
dengan persamaan:


j j actv
n n f = ) (
(3.3)

Gradien dari FA linear adalah diberikan oleh persamaan:


1
) (
=
c
c
j
n
j
n
actv
f

(3.4)











) (
k actv k
net f O =
Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
7
Secara grafik FA linear ditunjukkan pada gambar berikut:



Gambar 3.2 FA linear

2. FA Sigmoid:
FA sigmoid merupakan function aktivasi bipolar yang ditunjukkan pada
persamaan:


) ( ) (
j j actv
n sig n f =



j
n
+
=
exp 1
1

(3.5)

Gradien dari FA sigmoid adalah diberikan oleh persamaan:


) ( ) ( 1
) (
j actv
n f
j
n
actv
f
j
n
j
n
actv
f

\
|
=
c
c

(3.6)







Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
8
Secara grafik FA sigmoid ditunjukkan pada gambar berikut:



Gambar 3.3 FA sigmoid

3. FA Hyperbolic Tangent:
FA hyperbolic tangent merupakan fungsi unipolar yang ditunjukkan oleh
persamaan:


) tanh( ) (
j j actv
n n f =




j
n
j
n

=
exp 1
exp 1

(3.7)

Gradien dari FA hyperbolic tangent adalah diberikan oleh persamaan:


2
) ( 1
) (

\
|
=
c
c
j
n
actv
f
j
n
j
n
actv
f

(3.8)




Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
9
Secara grafik FA hyperbolic tangent ditunjukkan pada gambar berikut:



Gambar 3.4 FA Hyperbolic tangent

3.3 Operasional Jaringan Syaraf Tiruan
3.3.1 Struktur Jaringan Syaraf Tiruan
Sistem Jaringan Syaraf Tiruan dapat juga dilihat sebagai sebuah grafik arah
pembobot (graph directed weighted) dimana neuronnya dinyatakan sebagai titik dan
ara pembobotnya dinyatakan sebagai penghubung antar neuron. Berdasarkan
Struktur sambungan dan aliran pengolahan sinyalnya Jaringan Syaraf Tiruan dapat
dibedakan menjadi: jaringan maju (feed forward architecture) dan jaringan
berulang (recurrent architecture).
a). Jaringan maju dapat berupa lapisan tunggal (single layer perceprton) atau
lapisan jamak (multi layer percepton). Contoh jaringan maju lapisan tunggal
ditunjukkan pada gambar 3.5.



Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
10







Gambar 3.5 Jaringan maju syarat tiruan lapisan tunggal
b). Jaringan berulang ditunjukkan dengan adanya lingakaran umpan balik (feedback
loop). Jaringan berulang antara lain pada jaringan Hopfield (Hopfield network)
dan jaringan kompetitif (competitive network). Contoh jaringan berulang
ditunjukkan pada gambar 3.6.







Gambar 3.6 Jaringan berulang syaraf tiruan

Lingkaran umpan balik dinyatakan dengan suatu elemen tunda (unit delay
element) yang dinotasikan dengan Z
-1
.


a
i

w
x
1
f
actv
x
2
x
3
a
i
Z
-1
Z
-1
Z
-1
w

Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
11
3.3.2 Lapisan Jaringan Syaraf Tiruan
Operasional Jaringan Syaraf Tiruan dapat dinyatakan dalam beberapa lapisan yang
antara lain:
a) Lapisan masukan (input layer): titik pada lapisan ini berfungsi untuk
menampung dan menyebarkan sinyal yang ada ke lapisan berikutnya.
b) Lapisan tersembunyi atau lapisan dalam (hidden layer): lapisan ini berada di
antara lapisan masukan dan lapisan keluaran. Lapisan ini berfungsi mengolah
sinyal yang ada dalam bentuk fungsi transformasi neuron.
c) Lapisan keluaran (output layer): sebagai lapisan pengeluar hasil operasi
Jaringan Syaraf Tiruan.


Gambar 3.7 lapisan JST Multi Layer Perceptons
3.3.3 Pembelajaran Jaringan Syaraf Tiruan
Sesungguhnya JST adalah disusun untuk mampu mengenali dan meniru pola
pemetaan dari pasangan sinyal masukan ke sinyal keluaran yang diinginkan.
Karenanya parameter JST dapat ditentukan dengan melatih atau mengajari JST
Lapisan
dalam

B

W
i,j

W
j,k

Y
1

Y
m

X
1

X
i

Lapisan
masukan

Lapisan
keluaran

Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
12
tersebut dengan pola masukan keluaran yang telah benar dengan beberapa aturan
pembelajaran. Aturan pembelajaran dalam JST dapat dibedakan ke dalam aturan
terbimbing (supervised learning rule ) dan yang tidak terbimbing (unsupervised
learning rule).
Operasional system JST terbimbing terdapat dua fasa: fasa pembelarajan dan fasa
pelaksanaan. Pada fasa pembelajaran, tujuannya adalah untuk meminimalkan indek
performan (performance index) dari jaringan, yang mana pembelajaran ini
selanjutnya digunakan untuk memperbaharui parameter-parameter JST. Apabila
parameter-parameter JST telah ditemukan, maka JST dapat dioperasikan secara
mandiri tanpa pembimbing. Jika nilai pembimbing adalah O
tc
dan keluaran JST
adalah O, maka diagram blok dari fasa pembelajaran terbimbing ditunjukkan pada
gambar 3.8 berikut ini.








Gmbr 3.8 Gambar blok pembelajaran terbimbing
Dalam pelajaran ini hanya membahas pembelajaran JST secara terbimbing
khususnya aturan pembelajaran propagasi balik. Aturan propagasi balik merupakan
aturan pembelajaran JST yang paling sederhana, aturan ini merupakan salah satu
optimasi yang digunakan untuk jaringan lapisan jamak.
e

X
Learning
system
Teacher

Environment
O
tc
O

Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
13
Aturan pembelajaran propagasi balik ini ditujukan untuk meredam kesalahan yang
terjadi pada setiap titik, sehingga indek performan (performance index) dari
jaringan dapat diminimalkan. Selanjutnya perhitungan tersebut digunakan untuk
memperbarui nilai parameter-parameter JST.
Jika d
i
dan o
i
masing-masing adalah nilai keluaran yang diinginkan dan keluaran
nyata pada titik ke -i, maka persamaan performan indek adalah:

(3.9)
dimana:
(3.10)

Persamaan umum suatu fungsi gradient:
t
n
x
x g
x
x g
x
x g
x g
(

c
c
c
c
c
c
= V
) (
,....
) (
,
) (
) (
2 1
(3.11)
Dari persamaan fungsi gradient, maka persamaan pembaruan optimasi gradient
descent nya adalah :
) (
lama lama baru
X g X X V = (3.12)
Jika W
kj
adalah pembobot pada penghubung titik j ke k pada suatu JST seperti
contoh pada gambar 3.5, maka fungsi gradien indek performan dengan
parameter pembobotnya adalah :
Wkj
net
net
E
Wkj
E
c
c
c
c
=
c
c
.
) (
(3.13)

selanjutnya :
) (
2
1
2
e E =
i i
o d e =
Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
14
j
j
X
Wk
net
=
c
c ) (
(3.14)
jika,
) (
k
k
net
E
o
c
c
= c
, ) ) (
'
k
actv
k k
k
k
k
net f o d
net
o
o
E
=
c
c
c
c
= (3.15)

maka nilai pembobot setelah pembelajaran adalah :
j k k
lama
kj
baru
kj
X net f O d W W ) ( ) (
'
+ = (3.16)

dimana = koefisien pembelajaran (learning rate)














Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
15
3.3.4 Algoritma JST:
Alur dari perhitungan JST dapat dijelaskan dalam urutan langkah-langkah
sebagai berikut:
1. Langkah ke-1: Inialisasi parameter jaringan: Pembobot dan bias.
2. Langkah ke-2:
- Pengujian selisih nilai antara pembimbing dengan keluaran
pengontrol (error)
- Bila error cukup kecil (terpenuhi), lanjutkan ke langkah ke-4
3. Langkah ke-3: Hitung perbaruan nilai parameter JST.
4. Langkah ke-4: Hitung keluaran dari JST.
5. Langkah ke-5: Kembali langkah ke-2.
Bentuk aliran diagramnya dari JST ditunjukkan pada gambar berikut ini :


Gambar 3.9 Diagram alir perhitungan JST.


Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
16
3.4 Contoh dan Latihan
3.4.1 Contoh
Pada contoh ini kita ingin mendapatkan nilai keluaran dari suatu JST yang mempunyai
dua input berupa vektor P dan target berupa vektor T. Adapun nilai dari masing-
masing vektor tersebut adalah :

(

+ +
+ +
=
0 . 1 5 . 0 5 . 0 5 . 0
0 . 0 3 . 0 5 . 0 5 . 0
P


j | 0 0 1 1 = T

Maka dapatkan nilai w, b dan a dengan tanpa training dan training terlebih dulu,
menggunakan MATLAB.












Gambar 3.10 JST dengan 2-input

Penyelesaian :
- Menentukan vektor input P
- Menentukan vektor target T
- Plotting vektor P dan T
- Dapatkan weight (w) dan bias (b)
- Klasifikasi initial perceptron
- Training perceptron
- Dapatkan a


E
F(..)
w
P(2)
b
a
P(1)
Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
17
Listing program :
% Vektor input
P = [-0.5 -0.5 +0.3 +0.0;
-0.5 +0.5 -0.5 +1.0];
% Vektor target
T = [1 1 0 0];
% Plotting (P,T)
figure(1),
plotpv(P,T);
% Dapatkan w dan b
[W,b] = initp(P,T)
% Klasifikasi vektor perceptron (straigt line)
figure(2),
plotpc(W,b)
% Dapatkan W_new dan b_new
[W_new,b_new,epochs,errors] = trainp(W,b,P,T,-1)
% Plotting error
figure(3),
ploterr(errors)
a = simup(P,W_new,b_new)
Hasil Running Program

W =
0.9118 -0.2236
b =
-0.0532
W_new =
-2.4882 -0.2236
b_new =
-0.0532
epochs =
5
errors =
3 2 2 2 1 0
a =
1 1 0 0

Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
18


Gambar 3.11 Vektor P


Gambar 3.12 Klasifikasi vektor P





Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
19

Gambar 3.13 Sum squared error dengan 5 epochs

3.4.2 Latihan
1. Apakah Jaringan Syaraf Tiruan?
- Apakah Jaringan Syaraf Tiruan?
Jawab :
Jaringan Syaraf Tiruan didefinisikan sebagai susunan dari elemen-elemen
penghitung yang disebut neuron atau titik (node) yang saling terhubung guna
dimodelkan untuk meniru fungsi otak manusia
- Bagaimana sejarah Jaringan Syaraf Tiruan?
Jawab :
Dikembangkan oleh Warren Sturgis McCulloch dan Walter Pitts dengan
mengembangkan pemodelan sederhana jaringan syaraf tiruan pada tahun 1943
- Apakah Kelebihan Jaringan Syaraf Tiruan?
Jawab :
- kemampuan melakukan proses pembelajaran
- kemampuan beradaptasi
2. Apa sajakah dasar Jaringan Syaraf Tiruan?
- Apakah Neuron?
Jawab :
Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
20
Neuron diartikan sebagai bagian terkecil dari jaringan syaraf tiruan yang
berfungsi untuk memproses setiap sinyal masukan yang ada
- apakah bagian-bagian Neuron?
Jawab :
Neuron terdiri dari:
1. Penghubung (connection link) yang berupa pembobot (weight connection)
2. Fungsi penjumlah (summing function)
3. Fungsi Aktivasi (activation function)
- Apakah Fungsi Aktivasi?
Jawab :
Pemetaan sinyal masukan oleh suatu neuron untuk menghasilkan keluaran.
3. Bagaimanakah Operasional Jaringan Syaraf Tiruan?
- Bagaimanakah struktur Jaringan Syaraf Tiruan?
Jawab :
a) jaringan maju (feed forward):
- lapisan tunggal (single layer percepton)
- lapisan banyak (multi layer percepton)
b) jaringan berulang (recurrent) :
- Hopfield network
- competitive network
- Bagaimanakah lapisan operasional Jaringan Syaraf Tiruan?
Jawab :
1. Lapisan input (input layer)
2. Lapisan tersembunyi (hidden layer)
- proses fungsi transformasi neuron
3. Lapisan keluaran (output layer)
- Bagaimanakah Pembelajaran Jaringan Syaraf Tiruan?
Jawab :
- Pembelajaran terbimbing (supervised)
- Pembelajaran tidak terbimbing (unsupervised)


Handout Mat a Kuliah Artifi cial Intelligence
Hal.
Teknik Elektro Fakultas Teknik Universitas Widyagama Malang
21
- Bagaimanakah algoritma Jaringan Syaraf Tiruan?
Jawab :
Algoritma Jaringan Syaraf Tiruan:
Langkah ke-1: Inialisasi parameter jaringan: Pembobot dan bias.
Langkah ke-2: Tentukan nilai parameter JST
Langkah ke-3:
-Pengujian selisih nilai antara pembimbing dengan keluaran pengontrol
(error).
- Bila error cukup kecil (terpenuhi), lanjutkan ke langkah ke-4
- Bila error belum terpenuhi, update parameter JST (langkah ke-2)
Langkah ke-4: Hitung perbaruan nilai parameter Jaringan Syaraf Tiruan.
Langkah ke-5: Hitung keluaran dari Jaringan Syaraf Tiruan