LECTURE NOTES

Artificial Intelligence

Minggu 7

Introduction to Neural Network

Artificial Intelligence
 LEARNING OUTCOMES

LO2: Menjelaskan bagaimana menggunakan representasi pengetahuan dalam

tujuan penalaran
LO3: Mengaplikasikan berbagai jenis teknik pada agen saat bertindak dibawah
domain ketidakpastian.

OUTLINE MATERI
• Teori Dasar
• Pembelajaran Terbimbing dan Tidak Terbimbing
• Jaringan Syarat Tiruan
• Support Vector Machines
• Mesin Learning
• Simpulan

Artificial Intelligence
 ISI MATERI

1. Teori Dasar
Jaringan syaraf tiruan adalah model komputasi yang terinspirasi oleh sistem saraf
makhluk hidup. JST memiliki kemampuan untuk memperoleh dan mempertahankan
pengetahuan (berbasis informasi) dan dapat didefinisikan sebagai seperangkat unit
pengolahan, yang diwakili oleh neuron buatan, saling terkait oleh banyak
interkoneksi (sinapsis buatan), yang diterapkan oleh vektor dan matriks bobot
sinaptik. JST mempelajari hubungan antara sebab dan akibat atau mengatur sejumlah
besar data menjadi pola yang teratur dan informatif

a) Fitur Utama
1) Beradaptasi dari pengalaman
Parameter internal jaringan, biasanya bobot sinaptiknya, disesuaikan dengan
pemeriksaan contoh berturut-turut (pola, sampel, atau pengukuran) yang
berkaitan dengan perilaku proses, sehingga memungkinkan perolehan
pengetahuan berdasarkan pengalaman.
2) Kemampuan belajar
Dengan menggunakan metode pembelajaran, jaringan dapat mengekstrak
hubungan yang ada antara beberapa variabel aplikasi.
3) Kemampuan generalisasi
Setelah proses pembelajaran selesai, jaringan dapat menggeneralisasi
pengetahuan yang didapat, sehingga memungkinkan estimasi solusi sejauh ini
tidak diketahui.
4) Organisasi data
Berdasarkan informasi bawaan dari suatu proses tertentu, jaringan dapat
mengatur informasi ini, sehingga memungkinkan pengelompokan pola dengan
karakteristik umum.
5) Toleransi kesalahan
Berkat tingginya jumlah interkoneksi antara neuron buatan, jaringan syaraf
tiruan menjadi sistem fault-tolerant jika sebagian struktur internalnya rusak
sampai tingkat tertentu.
6) Penyimpanan terdistribusi
Pengetahuan tentang perilaku suatu proses tertentu yang dipelajari oleh
jaringan syaraf tiruan disimpan di masing-masing dari beberapa sinapsis antara

Artificial Intelligence
 neuron buatan, sehingga meningkatkan ketahanan arsitektur jika terjadi
beberapa neuron.
7) Prototipe yang difasilitasi
Bergantung pada kekhasan aplikasi, sebagian besar arsitektur syaraf dapat
dengan mudah dibuat prototip pada perangkat keras atau perangkat lunak,
karena hasilnya, setelah proses pelatihan, biasanya diperoleh dengan beberapa
operasi matematika mendasar.

b) Historical
o Publikasi pertama yang berkaitan dengan tanggal neurocomputing dari tahun
1943, ketika McCulloch dan Pitts (1943) menyusun model matematis pertama
yang terinspirasi oleh neuron biologis, yang menghasilkan konsepsi pertama
neuron buatan.

o Pada tahun 1949, metode pertama untuk melatih jaringan syaraf tiruan
diajukan; itu bernama Hebb's rule dan didasarkan pada hipotesis dan
pengamatan sifat neuro-fisiologis (Hebb 1949).

c) Area Potensi Aplikasi

Jaringan syaraf tiruan dapat digunakan dalam beberapa masalah yang berkaitan
dengan teknik dan sains. Area aplikasi potensial dapat dibagi sebagai berikut:
1) Universal curve fitting (aproksimasi fungsi)
Tujuannya adalah untuk memetakan hubungan fungsional antara variabel
(biasanya bilangan real) dari sistem tertentu dari seperangkat nilai bermakna
yang diketahui. Aplikasi ini sangat beragam, dan seringkali melibatkan proses
pemetaan yang sulit dipodelkan dengan menggunakan metode tradisional.
2) Kontrol proses
Kategori aplikasi ini terdiri dari identifikasi tindakan pengendalian yang
mampu memenuhi persyaratan kualitas, efisiensi, dan keamanan. Di antara
beberapa aplikasi yang ada, pengendali saraf sangat diminati oleh robotika,
pesawat terbang, elevator, peralatan, satelit, dan sebagainya.
3) Pengenalan pola / klasifikasi
Tujuannya adalah untuk mengaitkan pola masukan (sampel) tertentu ke salah
satu kelas yang didefinisikan sebelumnya, seperti dalam kasus citra, ucapan
dan pengakuan tulisan. Dalam kasus ini, masalah yang ditangani memiliki
serangkaian output yang mungkin dan mungkin diinginkan.
4) Pengelompokkan data
Pada keadaan ini, tujuannya adalah untuk mendeteksi dan mengidentifikasi
kesamaan dan kesamaan dari beberapa pola masukan untuk memungkinkan
pengelompokan (pengelompokan) mereka. Beberapa contoh, untuk mengutip
beberapa, adalah aplikasi yang melibatkan identifikasi kelas otomatis dan data
mining.
5) Sistem prediksi
Tujuan dari kategori sistem ini adalah untuk memperkirakan nilai masa depan
suatu proses tertentu, dengan mempertimbangkan beberapa sampel
sebelumnya yang teramati dalam domainnya. Di antara aplikasi yang
diketahui, adalah mungkin untuk menemukan sistem prediksi time series,
proyeksi pasar saham, ramalan cuaca,dan sebagainya.

Artificial Intelligence
 6) Optimalisasi sistem
Tujuannya adalah untuk meminimalkan atau memaksimalkan fungsi biaya
(objektif) yang menaati kendala akhirnya untuk memetakan masalah dengan
benar. Di antara tugas optimasi yang bisa mendapatkan keuntungan dari
jaringan syaraf tiruan, yang terpenting adalah masalah optimasi yang dibatasi,
pemrograman dinamis, dan optimasi kombinasional.
7) Memori asosiatif
Tujuannya adalah untuk memulihkan pola yang benar bahkan ketika unsur
dalamnya tidak pasti atau tidak akurat. Beberapa contoh meliputi pengolahan
citra, transmisi sinyal, identifikasi karakter tertulis, dan lain sebagainya.

2. Pembelajaran Terbimbing dan Tidak Terbimbing

Seorang agen dikatakan sedang belajar jika melakukan peningkatkan kinerjanya pada
tugas-tugas berikutnya setelah melakukan pengamatan tentang lingkungannya.
Mengapa agen belajar?
a) Perancang sistem tidak dapat mengantisipasi semua kemungkinan situasi yang
mungkin ditemukan. Misalnya agen robot yang dirancang untuk menavigasi
labirin harus mempelajari tata letak setiap labirin baru yang ditemuinya
b) Perancang sistem tidak dapat mengantisipasi semua perubahan dari waktu ke
waktu. Misanya program yang dirancang untuk memprediksi harga pasar
saham harus belajar beradaptasi ketika kondisi berubah-ubah setiap saat

Untuk dapat melakukan hal tersebut, dapat digunakan algoritma pembelajaran. Disini
akan dibahas tiga algoritma pembelajaran yaitu:

Algoritma tidak terbimbing (Unsupervised Learning)

Agen mempelajari pola dalam input meskipun tidak ada umpan balik eksplisit yang
diberikan. Algoritma ini paling banyak digunakan untuk melakukan pengelompokan.
Misalnya, agen taksi dapat membedakan lalu lintas lancar dan macet tanpa mendapat
contoh sebelumnya.

Algoritma Reinforment (Reinforcement Learning)

Agen belajar dari konsep hadiah atau hukuman. Misalnya, pada permainan catur, dua
poin untuk kemenangan agen

Algoritma terbimbing (Supervised Learning)

Agen mengamati beberapa contoh data latih yang sudah ada sebelumnya sehingga
agen dapat bertindak sesuai dengan data yang pernah diberikan untuk menghasilkan
output.

Artificial Intelligence
3. Jaringan Syaraf Tiruan
Struktur jaringan syaraf tiruan dikembangkan dari model sistem saraf biologis yang
diketahui dan otak manusia itu sendiri. Komponen komputasi atau unit pengolahan,
yang disebut neuron buatan, adalah model neuron biologis yang disederhanakan.
Gambar Neuron Biologi

Ilustrasi hubungan sinaptik antara neuron

Pemodelan JST

Dimana,
𝜇 adalah jumlahan dari perkalian input dan bobotnya
y adalah variabel luaran jaringan

Artificial Intelligence
Fungsi aktivasi dapat dikategorikan menjadi dua kelompok fundamental,
a) Fungsi yang dapat didiferensiasi sebagian
Fungsi aktivasi yang terdiferensiasi sebagian adalah fungsi dengan titik yang
turunan orde pertama tidak ada. Tiga fungsi utama dari kategori ini adalah
sebagai berikut:
1) Step Function,
Hasil yang dihasilkan oleh fungsi langkah akan mengasumsikan nilai
positif kesatuan bila potensial aktivasi neuron lebih besar atau sama
nol; Jika tidak, hasilnya akan batal. Dengan demikian, kita memiliki:

2) Bipolar Step Function,

Hasil yang dihasilkan oleh fungsi ini akan mengasumsikan nilai
positif kesatuan ketika potensial aktivasi neuron lebih besar dari nol;
nilai null bila potensial juga null; dan nilai satuan negatif bila
potensial kurang dari nol. Perilaku dalam notasi matematika ini
adalah:

Langkah aktivasi
fungsi

Fungsi aktivasi
langkah bipolar

3) Fungsi Simetric Ramp.

Nilai yang dikembalikan oleh fungsi ini sama dengan nilai potensial
aktivasi sendiri ketika didefinisikan dalam kisaran [-a, a], dan
terbatas pada nilai batas lain. Notasi matematika untuk perilaku ini
adalah sebagai berikut:

Artificial Intelligence
b) Fungsi terdiferensiasi sepenuhnya
Fungsi aktivasi terdiferensiasi sepenuhnya adalah mereka yang turunanpesanan
pertamanya ada untuk semua titik domain definisi mereka.
Keempat fungsi utama dari kategori ini, yang dapat digunakan padajaringan
syaraf tiruan:
1) Fungsi Logistik,
The output result produced by the logistic function will always
assume real values between zero and one. Its mathematical
expression is given by:

Fungsi aktivasi logistik

Pengaruh parameter 
dalam fungsi aktivasi
logistik

Artificial Intelligence
 2) Garis Singgung Hiperbolik,
Hasil output, tidak seperti fungsi logistik, akan selalu
mengasumsikan nilai riil antara -1 dan 1, dengan ekspresi matematis
berikut:

Fungsi aktivasi singgung

hiperbolik

Pengaruh parameter 
pada fungsi aktivasi
singgung hiperblik

3) Fungsi Gaussian
Dalam kasus fungsi aktivasi Gaussian, output neuron akan
menghasilkan hasil yang sama untuk nilai potensial aktivasi {u}
yang ditempatkan pada jarak yang sama dari pusatnya (rata-rata).
Kurva simetris ke pusat ini dan fungsi Gaussian diberikan oleh:

Fungsi aktivasi
Gaussian

Artificial Intelligence
 Fungsi aktivasi linier

4) Fungsi linear.
Fungsi aktivasi linier, atau fungsi identitas, menghasilkan hasil
keluaran sama dengan potensi aktivasi {u}, yang memiliki ekspresi
matematisnya yang diberikan oleh:

Arsitektur Utama Jaringan Syaraf Tiruan

Arsitektur jaringan syaraf tiruan mendefinisikan bagaimana beberapa neuronnya
disusun, atau ditempatkan, dalam kaitannya satu sama lain. Pengaturan ini disusun pada
dasarnya dengan mengarahkan koneksi sinaptik neuron. Topologi jaringan saraf
tertentu, dalam arsitektur tertentu, dapat didefinisikan sebagai komposisi struktural yang
berbeda yang dapat diasumsikan.
Secara umum, jaringan syaraf tiruan dapat dibagi menjadi tiga bagian, diberi nama lapisan,
yang dikenal sebagai:
1. Lapisan input
Lapisan ini bertanggung jawab untuk menerima informasi (data), sinyal, fitur, atau
pengukuran dari lingkungan eksternal. Masukan ini (contoh atau pola) biasanya
dinormalisasi dalam batas nilai yang dihasilkan oleh fungsi aktivasi. Normalisasi ini
menghasilkan presisi numerik yang lebih baik untuk operasi matematis yang
dilakukan oleh jaringan.
2. Lapisan tersembunyi, menengah, atau tak terlihat
Lapisan ini terdiri dari neuron yang bertanggung jawab untuk mengekstraksi pola
yang terkait dengan proses atau sistem yang dianalisis. Lapisan ini melakukan
sebagian besar pemrosesan internaldari jaringan.
3. Lapisan output
Lapisan ini juga terdiri dari neuron, dan karenanya bertanggung jawab untuk
memproduksi dan menyajikan keluaran jaringan akhir, yang dihasilkan dari
pemrosesan yang dilakukan oleh neuron di lapisan sebelumnya.
Arsitektur utama jaringan syaraf tiruan, mengingat disposisi neuron, dan juga
bagaimana mereka saling berhubungan dan bagaimana lapisannya terbentuk, dapat
dibagi sebagai berikut: (i) jaringan umpan balik satu lapisan, (ii) jaringan umpan
balik berlapis-lapis, iii) jaringan berulangdan (iv) jaringan mesh.

Artificial Intelligence
1) Arsitektur Feedforward Single-Layer
Jaringan syaraf tiruan ini hanya memiliki satu lapisan masukan dan satu lapisan
saraf tunggal, yang juga merupakan lapisan keluaran.

2) Arsitektur Multiple-Layer Feedforward

Beberapa lapisan terdiri dari satu atau lebih lapisan saraf tersembunyi. Mereka
dipekerjakan dalam solusi beragam masalah, seperti pendekatan yang terkait dengan
fungsi, klasifikasi pola, identifikasi sistem, kontrol proses, optimasi, robotika, dan
sebagainya.

3) Arsitektur Berulang atau Umpan Balik

Keluaran neuron digunakan sebagai masukan umpan balik untuk neuron lain. Fitur
umpan balik memenuhi syarat untuk jaringan ini untuk pemrosesan informasi
dinamis, yang berarti dapat digunakan pada sistem varian waktu, seperti prediksi
time series, identifikasi dan optimalisasi sistem, pengendalian proses, dan
sebagainya.

Artificial Intelligence
4) Arsitektur Mesh
Jaringan ini melayani berbagai aplikasi dan digunakan dalam masalah yang
melibatkan pengelompokan data, pengenalan pola, optimalisasi sistem, grafik, dan
lain-lain. Jaringan Kohonen adalah perwakilan utama arsitektur mesh, dan
pelatihannya dilakukan melalui proses yang kompetitif. Menggambarkan contoh
jaringan Kohonen dimana neuronnya disusun dalam ruang dua dimensi.

Jaringan Perceptron
Perceptron, dibuat oleh Rosenblatt, adalah konfigurasi sederhana dari jaringan syaraf
tiruan yang pernah dibuat, yang tujuannya adalah untuk menerapkan model komputasi
berdasarkan retina, yang bertujuan menjadi elemen persepsi elektronik. Salah satu
penerapan Perceptronadalah mengidentifikasi pola geometris.

Jaringan ADALINE dan Peraturan Delta

• Aplikasi utamanya adalah dalam switching sirkuit jaringan telepon, yang merupakan
salah satu aplikasi industri pertama yang secara efektif melibatkan jaringan syaraf
tiruan (Widrow and Hoff 1960).
• Meskipun jaringannya sederhana, ADALINE mempromosikan beberapa kemajuan
penting ke area jaringan syaraf tiruan. Di antara kontribusi ini, adalah mungkin
untuk menyebutkan hal berikut:
1) Pengembangan algoritma pembelajaran "Delta rule".
2) Aplikasinya dalam beberapa masalah praktis yang melibatkanpemrosesan
sinyal analog.
3) Aplikasi industri pertama dari jaringan syaraf tiruan.
langkah yang diperlukan untuk mendapatkan output ADALINE {y}
menggunakan urutan yang sama yang didefinisikan untuk Perceptron.

Artificial Intelligence
 Perhitungan tersebut diberikan dengan ungkapan berikut:

Ilustrasi jaringan ADALINE

Jaringan Perceptron Multilayer

Multilayer Perceptron (MLP) fitur jaringan, setidaknya, satu lapisan saraf perantara
(tersembunyi), yang ditempatkan di antara lapisan masukan dan lapisan keluaran
masing-masing.

Jaringan MLP juga dikenal karena berbagai penerapannya dalam beberapa masalah dari
berbagai bidang pengetahuan dan juga dianggap sebagai salahsatu arsitektur paling
serbaguna terkait penerapannya. Di antara area potensial ini, yang terpenting adalah
sebagai berikut:
• Pendekatan fungsi universal (curve fitting).
• Pengenalan pola.
• Proses identifikasi dan kontrol.
• Peramalan deret waktu (prediksi).
• Optimalisasi sistem
Ilustrasi jaringan perceptron multilayer

Artificial Intelligence
4. Support Vector Machine
Support Vector Machine atau SVM saat ini merupakan pendekatan yang paling
populer untuk pembelajaran terawasi. SVM biasanya digunakan untuk klasifikasi dan
regresi. SVM digunakan untuk mencari hyperplane terbaik dengan memaksimalkan
jarak antar kelas. Hyperplane adalah fungsi yang dapat digunakan untuk memisah antar
kelas. Dalam bidang 2D fungsi yang digunakan untuk klasifikasi disebut line whereas,
sedangkan pada bidan 3D disebut plane similarly.

Diketahui contoh data

Dengan menggunakan formula

Dengan syarat :
yi(xi . w +b) -1 ≥ 0, i = 1,2,3,….,n
yi(x1.w1 + x2.w2 + b) ≥ 1
sehingga ditemukan persamaan sebagai berikut:
1. (𝑤1 + 𝑤2 + 𝑏 ) ≥ 1 untuk y1 = 1, x1=1, x2=1
2. (−𝑤1 + 𝑤2 − 𝑏 ) ≥ 1 untuk y2 = -1, x1=1, x2=-1
3. (𝑤1 − 𝑤2 − 𝑏 ) ≥ 1 untuk y3 = -1, x1=-1, x2=1
4. (𝑤1 + 𝑤2 − 𝑏 ) ≥ 1 untuk y1 = -1, x1=-1, x2=-1

Artificial Intelligence
5. Mesin Pembelajaran Praktis
Pada bagian ini, mari kita lihat dua aspek pembelajaran mesin praktis.
o Temukan algoritma yang mampu belajar mengenali angka tulisan tangan
o Bagaimana data diperoleh, cleansing data dan representasi data adalah sama
pentingnya dengan algoritma pembelajaran

Studi kasus: Pengenalan digit tulisan tangan

Mengenali digit tulisan tangan merupakan masalah penting dengan banyak aplikasi,
termasuk penyortiran otomatis surat dengan kode pos, pembacaan otomatis cek dan
pengembalian pajak, dan entri data untuk komputer genggam. Salah satu yang paling
sederhana, adalah pengklasifikasi menggunakan 3-yang memiliki kesamaan terdekat,
Hal ini memiliki keuntungan karena tidak memerlukan waktu pelatihan. Jaringan saraf
tiruan denga satu lapis layer tersembunyi mampu untuk menyelesaikan masalah ini
dengan 400 unit masukan (satu per piksel) dan 10 unit keluaran (satu per kelas).
Menggunakan validasi silang, ditemukan bahwa sekitar 300 unit tersembunyi
memberikan kinerja terbaik

Artificial Intelligence
 SIMPULAN
1. Dunia komputasi memiliki banyak keuntungan dari jaringan saraf.
Kemampuan mereka untuk belajar dengan contoh membuat mereka sangat
fleksibel dan bertenaga. Selanjutnya, tidak perlu merancang algoritma untuk
melakukan tugas tertentu; Yaitu tidak perlu memahami mekanisme internal
dari tugas itu. Mereka juga sangat cocok untuk sistem real-time karena respon
cepat dan waktu komputasi yang disebabkan oleh arsitektur paralel mereka.
2. Jaringan saraf juga berkontribusi pada area penelitian lainnya seperti
neurologi dan psikologi. Mereka secara teratur digunakan untuk memodelkan
bagian-bagian organisme hidup dan untuk menyelidiki mekanisme internal
otak.
3. Mungkin aspek paling menarik dari jaringan syaraf tiruan adalah
kemungkinan jaringan 'sadar' suatu saat bisa diproduksi. Ada sejumlah
ilmuwan yang berpendapat bahwa kesadaran adalah sifat 'mekanis' dan
jaringan saraf 'sadar' merupakan kemungkinan yang realistis.
4. Support Vector Machine digunakan untuk menemukan pemisah linier dengan
margin maksimum sehingga dapat meningkatkan kinerja pada kasus
pengklasifikasian

Artificial Intelligence
 DAFTAR PUSTAKA

1. Nunes, Ivan. (2017). Artificial Neural Networks. Springer. ISBN 978-3-319-

43161-1
2. Simon Haykin. (2009). Neural networks and learning machines. Pearson
Education. New York. ISBN: 9780131293762.
3. https://tmohammed.files.wordpress.com/2012/03/w1-01-introtonn.ppt
4. https://www.doc.ic.ac.uk/~nd/surprise_96/journal/vol4/cs11/report.html

Artificial Intelligence