JARINGAN SYARAF TIRU

AN

Aziz Adi Nugroho M.Kom

085156129054

1
 Aziz Adi Nugroho
• SMA N 11 Semarang
• S.Kom in Information System with GPA 3.57 of 4.0
Dian Nuswantoro University
• M.Kom in Computer Science with GPA 3.83 of 4.0
Dian Nuswantoro University
• Core Competency in Enterprise Architecture,
Software Engineering and Machine Learning
• Laboratory Assistant Computer Network
• Software Engineer and Lead Engineer – PT PCI
Business Solution (Port Cities)
• System Analyst, Project Manager and Development Manager – PT Brainmatics Cipta Infor
matika (Brainmatics) dan PT IlmuKomputerCom Braindevs Sistema (Braindevs)
• Professional Trainer at Brainmatics
• Lecturer at Universitas Indraprasta PGRI (Unindra)
• Industrial IT Training and Certifications: Data Mining, System Analyst and Design with UM
L, BPMN and Enterprise Architecture Development Practice
• IT Consultant: TNP2K, Kemsos, BPS, KPK, INSW, Kemenkeu, FIF, PLN, PJB, Pertamina EP, Laz
ada, Paragon, Elizabeth Bags, HIJUP, Ethnicraft, TLI, Ayam Brand etc
2
Konten Perkuliahan
1. Pengertian dan Kedudukan Jaringan Syaraf Tiruan
2. Fungsi Aktivasi dan Proses Pembelajaran dalam Ja
ringan Syaraf Tiruan
3. Arsitektur dan Algoritma Jaringan Syaraf Tiruan

3
Tujuan Perkuliahan
• Mampu menjelaskan arti, tujuan, definisi konsep jaringan syara
f tiruan
• Mampu memahami arti dan tujuan aktivasi pembelajaran jaring
an syaraf tiruan
• Mampu memahami dan mengaplikasikan metode McCulloch Pi
tts untuk menyelesaikan masalah pengenalan pola sederhana
• Mampu memahami algoritma Hebb dan membangun jaringan
Hebb untuk menyelesaikan masalah pengenalan pola sederhan
a
• Mampu memahami algoritma perceptron dan membangun jari
ngan perceptron untuk menyelesaikan masalah pengenalan pol
a sederhana
• Mampu memahami algoritma Adeline dan membangun jaringa
n Adeline untuk meyelesaikan masalah pengenalan pola sederh
ana
4
Tujuan Perkuliahan
• Mampu memahami algoritma Madeline dan membangun jaringan
Madeline untuk menyelesaikan masalah pengenalan pola sederhan
a
• Mampu memahami algoritma Hopfield Diskrit dan membangun jari
ngan Hopfield Diskrit untuk menyelesaikan masalah pengenalan pol
a sederhana
• Mampu memahami algoritma Backpropagation dan membangun jar
ingan Backpropagation untuk menyelesaikan masalah pengenalan p
ola sederhana
• Mampu memahami algoritma learning vector quantization dan me
mbangun jaringan learning vector quantization untuk menyelesaika
n masalah pengenalan pola sederhana
• Mampu memahami algoritma kohonen dan membangun jaringan k
ohonen untuk menyelesaikan masalah pengenalan pola sederhana
• Mampu memahami dan mengaplikasikan jaringan syaraf tiruan utn
uk menyelesaikan masalah pengenalan pola sederhana
5
Referensi

6
 Manusia Memproduksi Data
Manusia memproduksi beragam d
ata yang jumlah dan ukurannya sa
ngat besar
• Astronomi
• Bisnis
• Kedokteran
• Ekonomi
• Olahraga
• Cuaca
• Financial
• …

7
Perubahan Kultur dan Perilaku

8
 kilobyte (kB) 103
Datangnya Tsunami Data megabyte (MB) 106
gigabyte (GB) 109

• Mobile Electronics market terabyte (TB)

petabyte (PB)
1012
1015
• 4.43B mobile phone users in 2015 exabyte (EB) 1018
• 7B mobile phone subscriptions in 2015 zettabyte (ZB) 1021
yottabyte (YB) 1024

• Web and Social Networks generates amoun

t of data
• Google processes 100 PB per day, 3 million servers
• Facebook has 300 PB of user data per day
• Youtube has 1000PB video storage
• 235 TBs data collected by the US Library of Congress
• 15 out of 17 sectors in the US have more data stored p
er company than the US Library of Congress
9
Kebanjiran Data tapi Miskin Pengetahuan

We are drowning in data, but s

tarving for knowledge!
(John Naisbitt, Megatrends, 1988)

10
 Mengubah Data Menjadi Pengetah
uan
• Data harus kita olah menjadi pengetahuan su
paya bisa bermanfaat bagi manusia

• Dengan pengetahuan
tersebut, manusia dapat:
• Melakukan estimasi dan prediksi
apa yang terjadi di depan
• Melakukan analisis tentang
asosiasi, korelasi dan
pengelompokan antar data dan atribut
• Membantu pengambilan keputusan dan
pembuatan kebijakan
11
Apa itu Data Mining?

Himpunan Metode Pengetahua

Data Data Mining n

12
 From Stupid Apps to Smart Apps

Stupid Smart
Applications Applications
• Sistem Informasi • Sistem Prediksi
Akademik Kelulusan Mahasiswa
• Sistem Pencatatan • Sistem Prediksi Hasil
Pemilu Pemilu
• Sistem Laporan • Sistem Prediksi
Kekayaan Pejabat Koruptor
• Sistem Pencatatan • Sistem Penentu
Kredit Kelayakan Kredit

13
Perusahaan Pengolah Pengetahua
n
• Uber - the world’s largest taxi company,
owns no vehicles
• Google - world’s largest media/advertisi
ng company, creates no content
• Alibaba - the most valuable retailer, has
no inventory
• Airbnb - the world’s largest accommoda
tion provider, owns no real estate
• Gojek - perusahaan angkutan umum, ta
npa memiliki kendaraan

14
Revolusi Industri 4.0

15
 1. Big Data

Digital
4. Enterprise 2. Internet of
Architecture Transformation Things
Trends

3. Business
Process
Automation
16
17
Data - Informasi – Pengetahuan

NIP TGL DATANG PULANG

1103 02/12/2004 07:20 15:40
1142 02/12/2004 07:45 15:33
1156 02/12/2004 07:51 16:00
1173 02/12/2004 08:00 15:15
1180 02/12/2004 07:01 16:31
1183 02/12/2004 07:49 17:00

Data Kehadiran Pegawai

18
Data - Informasi – Pengetahuan

NIP Masuk Alpa Cuti Sakit Telat

1103 22

1142 18 2 2

1156 10 1 11

1173 12 5 5

1180 10 12

Informasi Akumulasi Bulanan Kehadiran Pegawai

19
 Data - Informasi – Pengetahuan

Senin Selasa Rabu Kamis Jumat

Terlambat 7 0 1 0 5

Pulang 0 1 1 1 8
Cepat
Izin 3 0 0 1 4

Alpa 1 0 2 0 2

Pola Kebiasaan Kehadiran Mingguan Pegawai

20
Data - Informasi – Pengetahuan - Kebijakan

• Kebijakan penataan jam kerja karyawan khusus

untuk hari senin dan jumat

• Peraturan jam kerja:

• Hari Senin dimulai jam 10:00
• Hari Jumat diakhiri jam 14:00
• Sisa jam kerja dikompensasi ke hari lain

21
Mengubah Pengetahuan Menjadi Kebijakan

Ke Kebijakan Penataan Jam

bij Kerja Pegawai
ak
an
Pola Kebiasaan Datang-
Pengetahuan Pulang Pegawai

Informasi Rekap
Informasi Kehadiran Pegawai

Data Data Absensi Pegawai

22
Data Mining Tasks and Roles

Increasing potential
to support business
End User
decisions Decision
Making

Data Presentation Business Analyst

Visualization Techniques
Data Mining
Information Discovery
Data Scientist
Data Exploration
Statistical Summary, Querying, and Reporting

Data Preprocessing/Integration, Data Warehouses

DBA
Data Sources
Paper, Files, Web documents, Scientific experiments, Database Systems

23
Peran Utama Data Mining

1. Estimasi

5. Asosiasi 2. Forecasting

Data Mining Roles

(Larose, 2005)

4. Klastering 3. Klasifikasi

24
Algoritma Data Mining

1. Estimation (Estimasi):
• Linear Regression, Neural Network, Support Vector Machine, etc
2. Prediction/Forecasting (Prediksi/Peramalan):
• Linear Regression, Neural Network, Support Vector Machine, etc
3. Classification (Klasifikasi):
• Naive Bayes, K-Nearest Neighbor, C4.5, ID3, CART, Linear Discriminant
Analysis, Logistic Regression, etc
4. Clustering (Klastering):
• K-Means, K-Medoids, Self-Organizing Map (SOM), Fuzzy C-Means, etc
5. Association (Asosiasi):
• FP-Growth, A Priori, Coefficient of Correlation, Chi Square, etc

25
JARINGAN SYARAF BIOLOGI
Otak terdiri dari neuron-neuron
dan penghubung yang disebut
sinapsis
1012 neuron, 1015 dendrit dan 6.1018
sinapsis

Mampu mengenali pola,

Perhitungan,dan mengontrol organ-
organ tubuh

Sinyal tersebut berupa impuls elektrik

yang dikirim melalui celah sinapsis
melalui proses kimiawi

Sinyal tersebut dimodifikasi

(diperkuat/diperlemah) di celah
sinapsis

sinyal tersebut akan diteruskan ke sel Jumlah > soma menjumlahkan semua sinyal-
lain melalui axon Threshold sinyal yang masuk
Jaringan Syaraf Tiruan

Sistem pemroses informasi yang memiliki karakteristik mirip de

ngan jaringan syaraf biologi yang digambarkan sebagai berikut :

• Menerima input atau masukan

(baik dari data yang dimasukkan
atau dari output sel syaraf pada
jaringan syaraf.
• Setiap input datang melalui
suatu koneksi atau hubungan
yang mempunyai sebuah bobot
(weight).
• Setiap sel syaraf mempunyai
sebuah nilai ambang. Jumlah bobot
dari input dan dikurangi dengan
nilai ambang kemudian akan
mendapatkan suatu aktivasi dari sel
syaraf (post synaptic potential, PSP,
dari sel syaraf). Signal aktivasi
kemudian menjadi fungsi aktivasi /
fungsi transfer untuk menghasilkan
output dari sel syaraf
Jaringan Syaraf Tiruan
Jaringan Syaraf Tiruan (JST) atau Neural Network adalah s
uatu model yang dibuat untuk meniru fungsi belajar yang
dimiliki otak manusia atau jaringan dari sekelompok unit
pemroses kecil yang dimodelkan berdasarkan jaringan sar
af manusia

28
Jaringan Syaraf Tiruan dibentuk sebagai generalisasi
model matematika dari jaringan syaraf biologi, dengan
asumsi bahwa
1. Pemrosesan informasi terjadi pada banyak elemen sederha
na (neuron).
2. Sinyal dikirimkan diantara neuron-neuron melalui penghub
ung-penghubung.
3. Penghubung antar neuron memiliki bobot yang akan mem
perkuat atau memperlemah sinyal.
4. Untuk menentukan output, setiap neuron menggunakan fu
ngsi aktivasi yang dikenakan pada jumlahan input yang dite
rima. Besarnya output ini selanjutnya dibandingkan denga
n suatu batas ambang.
Hal yang ingin dicapai dengan melatih JST adalah untuk mencapai
keseimbangan antara kemampuan memorisasi dan generalisasi

Cara kerja Jaringan Saraf Tiruan dalam memperoleh pengetahuan

yang akan dipelajari menyerupai otak manusia, yaitu :

a) Pengetahuan diperoleh jaringan melalui proses belajar.

b) Kekuatan hubungan antar sel saraf yang dikenal sebagai bobot

-bobot sinapsis yang digunakan untuk menyimpan pengetahua
n.
JST ditentukan oleh 3 Hal

1. Pola hubungan antar neuron

(disebut arsitektur jaringan)
2. Metode untuk menentukan
bobot penghubung (metode
training/ learning / algoritm
a)
3. Fungsi aktivasi
Contoh Neuron
Y
Y menerima input dari neuron x1, x2, dan x3 dengan bobot hubungan
masing-masing adalah w1, w2, dan w3. Ketiga impuls neuron yang ada
dijumlahkan.

Besarnya impuls yang diterima oleh Y mengikuti fungsi aktivasi y = f(net).

Apabila nilai fungsi aktivasi cukup kuat, maka sinyal akan diteruskan.

Nilai fungsi aktivasi (keluaran model

jaringan) juga dapat dipakai sebagai dasar
untuk merubah bobot.
APLIKASI JARINGAN SYARAF TIRU
AN

Algoritma jaringan saraf tiruan yang telah dibentuk kemudian dilatih

sehingga memperoleh pengetahuan dapat diterapkan ke dalam sebuah
aplikasi

Pengenalan Pola Signal

Peramalan
(Pattern Processing Berdasarkan pola
Recognition) Misal menekan
kejadian yang
misal huruf, angka, noise dalam
ada di masa yang
suara atau tanda saluran telpon.
lampau
tangan
Model Neuron

Neuron adalah unit

pemroses informasi yang 1. Himpunan unit-unit yang dihubungkan
menjadi dasar dalam dengan jalur koneksi.
pengoperasian JST 2. Suatu unit penjumlah yang akan
menjumlahkan input-input sinyal yang sudah
dikalikan dengan bobot.
3. Fungsi aktivasi yang akan menentukan
apakah sinyal dari input neuron akan
diteruskan ke neuron lain ataukah tidak.
Model Neuron
 KONSEP DASAR JARINGAN SYARAF TIR
UAN
Setiap pola-pola informasi input
dan output yang diberikan ke
dalam jaringan saraf tiruan
diproses dalam neuron
Neuron tersebut terkumpul
didalam lapisan-lapisan yang
disebut neuron layers.
Lapisan-lapisan penyusun jaringan saraf tiruan tersebut
dapat dibagi menjadi 3, yaitu :
Lapisan input
Unit-unit di dalam lapisan input disebut unit-unit input.
Unit-unit input tersebut menerima pola inputan data
dari luar yang menggambarkan suatu permasalahan.
Lapisan tersembunyi
Unit-unit di dalam lapisan tersembunyi disebut unit-unit
tersembunyi (hidden layer). Dimana output-nya tidak
dapat secara langsung diamati.
Lapisan output
Unit-unit di dalam lapisan output disebut unit-unit
output. Output dari lapisan ini merupakan solusi
jaringan saraf tiruan terhadap suatu permasalahan
ARSITEKTUR JARINGAN SYARAF TI
RUAN

Jaringan Layar Tu
nggal
(single layer netw
ork)
ARSITEKTUR JARINGAN SYARAF TI
RUAN

Jaringan Layar Ja
mak
(multi layer netw
ork)
ARSITEKTUR JARINGAN SYARAF TI
RUAN

Jaringan Recurre
nt
(Recurrent Layer
Network)
FUNGSI AKTIVASI
• Jika tahapan fungsi aktivasi digunakan (output sel syaraf = 0 j
ika input <0 dan 1 jika input >= 0) maka tindakan sel syaraf s
ama dengan sel syaraf biologi yang dijelaskan diatas (pengur
angan nilai ambang dari jumlah bobot dan membandingkan
dengan 0 adalah sama dengan membandingkan jumlah bobo
t dengan nilai ambang).
• Biasanya tahapan fungsi jarang digunakan dalan Jaringan Sy
araf Tiruan. Fungsi aktivasi (f(.))
 FUNGSI AKTIVASI
• Fungsi
  aktivasi dipakai untuk menentuka
n keluaran suatu neuron.
• Fungsi aktivasinya adalah f(net) = .
• Kadang dalam jaringan ditambahkan seb
uah unit masukan yang nilainya selalu =
1. Unit yang demikian disebut bias
• Bias dapat dipandang sebagai sebuah inp
ut yang nilainya = 1
• Jika melibatkan bias, maka keluaran unit pe
njumlah adalah
• Fungsi aktivasi threshold menjadi:
 CONTOH
•Suatu
  jaringan layar tunggal seperti gambar di atas terdiri dari 2 inp
ut x1 = 0,7 dan x2 = 2,1 dan memiliki bias. Bobot w1 = 0,5 dan w2 =
-0,3 dan bobot bias b = 1,2. Tentukan keluaran neuron Y jika fungsi a
ktivasi adalah bipolar threshold.

Penyelesaian:

Karena net > 0 maka keluaran dari jaringan y = f(net) = 1

Fungsi Aktivasi
Macam fungsi aktivasi yang dipakai untuk mengaktifka
n net diberbagai jenis neural network:

1. Fungsi Biner Hard Limit

2. Fungsi Biner Threshold
3. Fungsi Bipolar (Symetric Hard Limit)
4. Fungsi Bipolar Threshold
5. Fungsi Liniear (Identitas)
6. Fungsi Saturating Linear
7. Fungsi Sigmoid Biner
8. Fungsi Sigmoid Bipolar
43
1. Fungsi Biner Hard Limit

 
0 , 𝐽𝑖𝑘𝑎 𝑥 ≤ 0 y
y=
{ ¿
1 , 𝐽𝑖𝑘𝑎∧𝑥 >0
1

0 x
2. Fungsi Biner Threshold/ Fungsi Heavyside

y
 
0 , 𝐽𝑖𝑘𝑎 𝑥 <𝜃
y=
{ ¿
1 , 𝐽𝑖𝑘𝑎∧𝑥 ≥𝜃
1

0 q x
3. Fungsi Bipolar (Symetric Hard Li
mit)

 
¿ 1 , 𝑗𝑖𝑘𝑎 𝑥 >0 y
{
𝑦= ¿ 0 , 𝑗𝑖𝑘𝑎 𝑥=0
¿ − 1 , 𝑗𝑖𝑘𝑎 𝑥 <0
1

0 x

-1
4. Fungsi Bipolar Threshold

y= ¿ 1 , 𝑗𝑖𝑘𝑎 𝑥 ≥𝜃
{   y
¿ −1 , 𝑗𝑖𝑘𝑎 𝑥 <𝜃 1

0 q x

-1
5. Fungsi Liniear (Identitas)
6. Fungsi Saturating Linear
6. Fungsi Symetric Saturating Linea
r
7. Fungsi Sigmoid Biner

1
𝑦= 𝑓 ( 𝑥 ) =
  1+ 𝑒
−𝜎 𝑥

dengan : f(x) = f(x)[1-f(x)]

8. Fungsi Sigmoid Bipolar

1− 𝑒− 𝑥
 
𝑦= 𝑓 ( 𝑥 ) =
1+𝑒 − 𝑥

 
dengan :
Metode Learning Algoritma Data Mining

Supervised Unsupervised
Learning Learning

53
1. Supervised Learning

• Pembelajaran dengan guru, data set memiliki

target/label/class
• Sebagian besar algoritma data mining (estima
tion, prediction/forecasting, classification) ada
lah supervised learning
• Algoritma melakukan proses belajar berdasark
an nilai dari variabel target yang terasosiasi de
ngan nilai dari variable prediktor

54
Dataset dengan Class
Attribute/Feature/Dimension Class/Label/Target

Nominal

Numerik
55
2. Unsupervised Learning

• Algoritma data mining mencari pola dari semu

a variable (atribut)
• Variable (atribut) yang menjadi target/label/cla
ss tidak ditentukan (tidak ada)
• Algoritma clustering adalah algoritma unsuper
vised learning

56
Dataset tanpa Class
Attribute/Feature/Dimension

57
 Pelatihan Jaringan

• Klasifikasi Jaringan Sar

af Tiruan berdasarkan
cara memodifikasi/enc
oding/decoding adala
h sebagai berikut:
Penjelasan
Supervised-Feedforward: JST dibimbing dalam hal pe
nyimpanan pengetahuannnya serta sinyal masuk aka
n diteruskan tanpa umpan balik

Unsupervised-Feedforward: JST tidak dibimbing dala

m hal penyimpanan pengetahuannnya serta sinyal m
asuk akan diteruskan tanpa umpan balik
Penjelasan
Unsupervised-Feedback: JST tidak dibimbing dalam h
al penyimpanan pengetahuannnya serta sinyal masuk
akan diteruskan dan memberikan umpan balik

Supervised-Feedback: JST dibimbing dalam hal penyi

mpanan pengetahuannnya serta sinyal masuk akan di
teruskan dan memberikan umpan balik
Konsep JST yang dibimbing (supervise
d)
JST diberi masukan tertentu dan keluarannya ditentukan oleh penga
jarnya. Dalam proses tsb, JST akan menyesuaikan bobot sinapsisnya.

Konsep JST tanpa dibimbing (unsupervised)

Kebalikan dari supervised, JST secara mandiri akan mengatur keluarannya
sesuai aturan yang dimiliki.
Konsep JST feedforward

Hasil outputnya sudah dapat diketahui sebelumnya.

Konsep JST feedback

Lebih bersifat dinamis, dalam hal ini kondisi jaringan akan selalu
berubah sampai diperoleh keseimbangan tertentu.
Berdasarkan Stategi Pembelajaran, Model JST dibagi menjadi

Supervised Learning:
model Hebbian, Perceptron, Delta, ADALINE, Backpropagatio
n, Heteroassociative Memory, Biderectional Associative Me
mory (BAM).

Unsupervised Learning:
model Hebbian, Competitive, Kohonen, Learning Vector Qua
ntization (LVQ), Hopfield.
Tugas
1. Buat materi presentasi:
a. Algoritma McCulloch-Pitts
b. Algoritma Hebb
c. Algoritma Perceptron
d. Algoritma Adaline
e. Algoritma Madaline
2. Konten yang dipresentasikan meliputi:
a. Penjelasan algoritma
b. Langkah-langkah
c. Contoh kasus dan penyelesaiannya (hitungan manual)

64
Tahapan Algoritma Jaringan Syaraf Tiruan

1. Inisialisasi semua bobot dan bias (umumnya wi = b = 0)

2. Selama ada element vektor masukan yang respon unit keluarannya tidak sam
a dengan target, lakukan:
2.1 Set aktivasi unit masukan xi = Si (i = 1,...,n)
2.2 Hitung respon unit keluaran: net = +b
1 Jika net > ѳ
F (net) = 0 Jika – ѳ ≤ net ≤ ѳ
-1 Jika net < - ѳ

2.3 Perbaiki bobot pola yang mengadung kesalahan menurut persamaan:

Wi (baru) = wi (lama) + ∆w (i = 1,...,n) dengan ∆w = α t xi

B (baru) = b(lama) + ∆ b dengan ∆b = α t

Dimana: α = Laju pembelajaran (Learning rate) yang ditentukan

ѳ = Threshold yang ditentukan
t = Target

2.4 Ulangi iterasi sampai perubahan bobot (∆wn = 0) tidak ada

65
Contoh Kasus

• Buatlah perceptron untuk mengenali fungsi logika “AND”

dengan masukan dan keluaran bipolar. Untuk inisialisasi,
gunakan bobot dan bias awal = 0, α = 1 dan threshold = 0.
Contoh Kasus
• Diketahui sebuah dataset kelulusan berdasarkan IPK
untuk program S1:

Status IPK Semester

Lulus 2.9 1
Tidak Lulus 2.8 3
Tidak Lulus 2.3 5
Tidak lulus 2.7 6

• Jika ada mahasiswa IPK 2.85 dan masih semester 1,

maka masuk ke kedalam manakah status tersebut ?

67
 References
1. Romi Satria Wahono, Data Mining, PT Brainmatics Cipta Informatika, 2019
2. Adelich Azzalini and Bruno Scrapa, Data Analysis and Data Mining, Oxford University Pr
ess, 2012
3. Nong Ye, Data Mining: Theories, Algorithms, and Examples, CRC Press, 2015
4. Michael J. A. Berry and Gordon S. Linoff, Data Mining Techniques 2nd Edition, Wiley Publi
shing, 2011
5. Jared Dean, Big Data, Data Mining and Machine Learning, John Wiley and Sons, 2015
6. Ke-Lin Du and M. N. S. Swamy, Neural Networks and Statitiscal Learning, Springer-Verla
g London, 2014
7. Florin Gorunescu, Data Mining: Concepts, Models, and Techniques, Springer-Verlag Berl
in Heidelberg, 2011
8. Simon Haykin, Neural Networks and Machine Learning 3th Edition, Person Education, 20
09
9. Andri Kristanto, Jaringan Syaraf Tiruan: Konsep Dasar, Algoritma dan Aplikasi, Gava Med
ia, 2004
10. Diyah Puspitaningrum, Jaringan Saraf Tiruan, Andi, 2006

68