Jaringan

g Syaraf
y
Tiruan
(Artificial Neural Network)
Intelligent Systems

Pembahasan
Latar belakang
Jaringan syaraf biologis
Konsep jaringan syaraf tiruan

Model neuron
Arsitektur jaringan
Training
Fungsi Aktivasi

Aplikasi
A lik i JST
Kelebihan dan kelemahan JST

Latar Belakang
Manusia dapat bereaksi secara cepat dan adaptif
terhadap perubahan pada lingkungannya. Mereka
menggunakan sistem syarafnya untuk melakukan
perilaku ini
Jaringan syaraf tiruan (artificial neural network)
mencoba untuk meniru sistem syaraf manusia agar
dapat menghasilkan respon dan perilaku yang sama
dengan jaringan syaraf biologis
Sistem jaringan syaraf dibangun oleh suatu unit-unit
sederhana yaitu sel syaraf
sederhana,
syaraf. Perilaku dan fungsi sel
syaraf biologis dimodelkan dalam jaringan syaraf tiruan

Jaringan Syaraf Biologis

Struktur otak manusia sangat kompleks
Otak manusia terdiri dari sel-sel
sel sel syaraf (neuron) dan
penghubung (sinapsis)
Kira-kira 1012 neuron dan 6.1018 sinapsis
Membentuk
Membent k jaringan ssyaraf
araf

Neuron bekerja berdasarkan impuls/sinyal yang

diberikan padanya
padanya, dan diteruskan ke neuron lain

Kemampuan
p
Otak
Diantaranya :
Mengenali pola
Melakukan
M l k k perhitungan
hit
Mengontrol organ-organ tubuh
Semuanya dilakukan dengan kecepatan sangat tinggi
dibandingkan komputer digital
Contoh :
Pengenalan wajah seseorang yang sedikit berubah
(memakai topi, jenggot tambahan)

Sel Syaraf (Neuron)

Komponen Penting Neuron

Dendrit

Dendrit
Menerima sinyal kimia
listrik dari neuron lain

Soma

Soma
(cell body)

Menjumlahkan semua
sinyal yang masuk
Jika
Jik hasil
h il penjumlahan
j l h
sinyal cukup kuat atau
melebihi threshold, sinyal
akan diteruskan ke sel lain
melalui axon

Axon
Axon

Mengirimkan sinyal ke
neuron lain

Koneksi Antar Neuron

axon

dendrit

sinapsis
Pengiriman
g
sinyal
y / informasi terjadi
j
pada
p
sinapsis
p
Sinapsis memperkuat atau memperlemah sinyal yang
hendak dikirimkan

Jaringan Syaraf Tiruan

Jaringan Syaraf Tiruan

Sistem pemrosesan informasi dengan karakteristik
menyerupai jaringan syaraf biologi
Dibentuk
Dib t k sebagai
b
i generalisasi
li
i model
d l matematika
t
tik d
darii
jaringan syaraf biologi
Asumsi pada model :
Pemrosesan informasi terjadi pada neuron
Sinyal dikirimkan antar neuron melalui suatu penghubung
Penghubung
P
h b
antar
t neuron memiliki
iliki b
bobot
b t yang d
dapatt
memperkuat atau memperlemah sinyal
Untuk menentukan keluaran, setiap neuron menggunakan
f
fungsi
i aktivasi,
kti
i yang menentukan
t k sinyal
i
l dit
diteruskan
k kke
neuron lain atau tidak

Model Neuron
x1
x2
x3

w1
w2
w3

Neuron adalah unit pemroses

informasi yang menjadi dasar
jaringan syaraf tiruan

Terdiri dari 3 elemen :

Himpunan
p
unit-unit yyang
g dihubungkan
g
dengan
g jalur
j
koneksi
Unit penjumlah yang akan menjumlahkan sinyal masukan
yang sudah dikalikan dengan bobotnya
Fungsi aktivasi yang akan menentukan apakah sinyal dari
input neuron akan diteruskan ke neuron lain atau tidak

Model Neuron
x1
x2
x3

w1 net=(x1w1+x2w2+x3w3)
w2
w3

y=f(net)=f(x1w1+x2w2+x3w3)

Y menerima input dari neuron x1, x2, x3 dengan

b b penghubung
bobot
h b
masing-masing w1, w2, w3
Ketiga impuls neuron dijumlahkan :
net = x1w1+x2w2+x3w3
Besarnya impuls yang diterima Y mengikuti
fungsi aktivasi y=f(net)
Apabila
pab a nilai
a fungsi
u gs aktivasi
a
as cukup
cu up kuat,
ua , sinyal
s ya
akan diteruskan ke neuron lain

Karakteristik JST
Ditentukan oleh :
Arsitektur jaringan (pola hubungan antar neuron)
Jaringan layer tunggal, jaringan layer jamak

Metode training/learning (metoda menentukan bobot

penghubung)
h b
)
Dengan supervisi (diawasi) atau tanpa supervisi

Fungsi aktivasi
Hard limit, sigmoid

Arsitektur Jaringan
Jaringan layer tunggal (single layer network)
Sekumpulan neuron masukan dihubungkan langsung dengan
sekumpulan keluarannya

x1
w
xi

w11
wj

y1

m1

yj

w w
1n
j w
jn
xn
mn

ym

Arsitektur jaringan tersusun dari n

unit input dan
d m unit output
Semua unit input terhubung ke
semua unit output, dengan bobot
b b d
berbeda
wji menyatakan bobot antara unit i
pada input dengan unit j pada
output

Arsitektur Jaringan
Jaringan layer jamak (multi layer network)
Selain unit input dan output, terdapat unit lain (disebut layer
tersembunyi atau hidden layer)

x1

y1

w11
wp

z1

xi

yj
zp

w
xn

1n

wp
n

w
jp
w
mp

ym

Dimungkinkan
terdapat beberapa
hidden layer
Dapat menyelesaikan
masalah yang lebih
kompleks, walau
proses pelatihan lebih
lama dan rumit

Training
Training adalah proses belajar dengan cara mencari
nilai bobot-bobot yang menghubungkan keseluruhan
neuron sehingga data input dapat menghasilkan
neuron,
keluaran yang diinginkan
Training dilakukan secara iteratif hingga diperoleh bobot
yang paling optimal

Training dapat dibagi menjadi dua kategori :

dengan supervisi (supervised)
tanpa supervisi (unsupervised)

Training
Dengan supervisi (supervised)
Terdapat sejumlah pasangan data (masukan-target
keluaran) yang dipakai untuk melatih jaringan hingga
diperoleh bobot yang diinginkan.
Pada setiap tahap pelatihan :
Suatu input diberikan ke jaringan
Jaringan memproses dan mengeluarkan keluaran
Selisih antara keluaran jaringan dan target adalah kesalahan
yang terjadi
Jaringan memodifikasi bobot sesuai kesalahan tersebut, ulangi
proses di atas

Training
Tanpa supervisi (unsupervised)
Tidak ada pasangan data yang mengarahkan proses
pelatihan
Pada setiap tahap pelatihan :
Perubahan bobot jaringan dilakukan berdasarkan parameter
tertentu
Jaringan dimodifikasi menurut ukuran parameter tersebut

Training
Dengan supervisi vs tanpa supervisi
Model pelatihan dengan supervisi lebih banyak
digunakan dan terbukti cocok dipakai dalam berbagai
aplikasi.
Kelemahan
K l
h utama
t
pelatihan
l tih d
dengan supervisi
i i:
Pertumbuhan waktu komputasi berorde eksponensial
Untuk data p
pelatihan yyang
g cukup
p banyak,
y
p
prosesnya
y
menjadi lambat

Fungsi
g Aktivasi

Fungsi aktivasi digunakan untuk menentukan keluaran suatu

neuron
Jika net = xi wi , maka fungsi aktivasinya adalah f (net ) = f ( xi wi )

Jenis fungsi aktivasi :

Fungsi step/threshold
Fungsi sigmoid
Fungsi identitas

Fungsi Aktivasi
Fungsi Step
Persamaan fungsi
aktivasi step :

0; x 0
f (x ) =
1; x > 0
Digunakan pada awal
pengembangan JST
Tidak dapat
menyelesaikan masalah
yang tidak linier

Fungsi Aktivasi
Fungsi Sigmoid
Persamaan fungsi
aktivasi sigmoid :

1
f (x ) =
1 + ex

Cocok untuk
menyelesaikan
y
masalah
yang tidak linier

Fungsi Aktivasi
Fungsi identitas
Persamaan fungsi
aktivasi
kti
i id
identitas
tit :

f (x ) = x
Seringkali digunakan
pada neuron keluaran

Taksonomi JST
Terdapat lebih dari 20 jenis jaringan syaraf tiruan
Masing-masing menggunakan arsitektur, fungsi
aktivasi
kti
id
dan perhitungan
hit
proses yang b
berbeda.
b d
Jenis jaringan syaraf tiruan :
Hebbian, Perceptron, ADALINE, Boltzman, Hopfield,
Adaptive Resonance Theory (ART), Multi-layer Perceptron
(MLP)
Kohonen, Learning Vector Quantization (LVQ), Neocognitron
dll

Aplikasi JST
Pengenalan pola (pattern recognition)

Mengenal huruf, angka, suara, tanda tangan yang sudah

sedikit berubah
Menyerupai otak manusia yang masih mampu mengenali
orang yang sudah beberapa waktu tidak dijumpai
(wajah/bentuk tubuh sedikit berubah)

Pengolahan sinyal (signal processing)

Menekan noise dalam saluran telepon

Peramalan (forecasting)

Meramal kejadian masa datang berdasarkan pola kejadian

yang ada di masa lampau
JS
JST mampu
a pu mengingat
e g ga da
dan membuat
e bua ge
generalisasi
e a sas da
dari apa
yang sudah ada sebelumnya

Aplikasi JST vs Taksonomi

Klasifikasi
ADALINE, LVQ, MLP

Pengenalan
P
l P
Pola
l
ART, LVQ, Neocognitron, MLP

Peramalan
ADALINE, MADALINE, MLP

Optimisasi
ADALINE, Hopfield, Boltzman, MLP

Sejarah JST

JST sederhana pertama kali diperkenalkan oleh McCulloh dan

Pitts tahun 1943
Menyimpulkan bahwa kombinasi beberapa neuron
sederhana menjadi sebuah sistem neuron akan
meningkatkan kemampuan komputasinya
Bobot
obot dalam
da a jaringan
ja ga d
diatur
atu u
untuk
tu melakukan
e a u a fungsi
u gs logika
og a
sederhana
Fungsi aktivasi yang digunakan adalah fungsi threshold

Tahun
T
h 1949
1949, D
D.O.
O H
Hebb
bb memperkenalkan
k
lk cara menghitung
hi
bobot dan bias secara iteratif yang dikenal sebagai model Hebb
Model tertua dengan aturan supervisi

Sejarah JST

Tahun
T
h 1958
1958, R
Rosenblatt
bl tt memperkenalkan
k
lk model
d l jjaringan
i
P
Perceptron
t
Terdapat metoda pelatihan untuk mengoptimalkan hasil iterasi

Widrow dan Hoff (1960) mengembangkan perceptron dengan

memperkenalkan aturan pelatihan jaringan
Disebut aturan Delta (kuadrat rata2x terkecil)
Mengubah bobot perceptron apabila keluaran yang dihasilkan tidak
sesuai dengan target yang diinginkan

Apa yang dilakukan peneliti terdahulu hanya menggunakan jaringan layer

tunggal (single layer)

Rumelhart (1986) mengembangkan perceptron menjadi Backpropagation

Jaringan diproses menjadi beberapa layer

Kelebihan dan Kelemahan JST

Kelebihan :
Banyak aplikasi menjanjikan yang dapat dilakukan oleh
jaringan syaraf tiruan
tiruan, terutama masalah rumit yang sangat
tidak linier

Kelemahan
K l
h :
Ketidakakuratan hasil yang diperoleh
Bekerja berdasarkan pola yang terbentuk pada inputnya