Teknologi Kecerdasan Artifisial

Kuliah Team Teaching Live Pekan 4

Bio Inspired
Computing
Team Teaching Teknologi AI
Universitas Gunadarma @ 2021 :
1. Dr. Mohammad Iqbal
2. Dr. Nur Sultan Salahuddin
3. Dr. Raden Supriyanto
4. Dr. Sunny Arief
5. Dr. Lily Wulandari
6. Ike Putri Kusumawijaya, ST, MMSI
 Agenda
01 JST
• Salah satu representasi buatan dari otak manusia yang
selalu mencoba untuk mensimulasikan proses
pembelajaran pada otak manusia tersebut.

• JST pada perangkat keras? Cognimem

03 Swarm Inteligence
• Swarm intelligence (SI) is the
collective behavior of decentralized,
02 Algoritme Genetika self-organized systems, natural or
artificial. The concept is employed in
• Genetic Algorithm (GA) is a search-
work on artificial intelligence. The
based optimization technique based on
expression was introduced by Gerardo
the principles of Genetics and Natural
Beni and Jing Wang in 1989, in the
Selection. It is frequently used to find
context of cellular robotic systems.
optimal or near-optimal solutions to
difficult problems which otherwise would
take a lifetime to solve.
 JST, Artificial Neural Network

• Neurone vs. Node

JST, Artificial Neural Network
 JST, Artificial Neural Network

Beberapa Istilah :

• Neuron: sel syaraf tiruan yang merupakan elemen pengolah JST

• Jaringan: bentuk arsitektur JST, kumpulan neuron yang saling
berhubungan dan membentuk lapisan
• Input: sebuah nilai input yang akan diproses menjadi nilai output
• Output: solusi dari nilai input
• Hidden layer: lapisan yang tidak terkoneksi secara langsung
dengan lapisan input atau output, memperluas kemampuan JST
 JST, Artificial Neural Network

• Bobot: nilai matematis dari sebuah koneksi antar neuron

• Fungsi aktivasi: fungsi yang digunakan untuk mengupdate
nilai-nilai bobot per-iterasi dari semua nilai input.
• Fungsi aktivasi sederhana adalah mengalikan input dengan
bobotnya dan kemudian menjumlahkannya (disebut
penjumlahan sigma)
• Bentuk : Berbentuk linier atau tidak linier, dan sigmoid
• Paradigma pembelajaran: bentuk pembelajaran, supervised
learning atau unsupervised learning
 JST, Artificial Neural Network - Komponen

• Neuron/sel syaraf yang akan mentransformasikan

informasi yang diterima melalui sambungan keluarnya
menuju neuron-neuron yang lain.
• Pada jaringan syaraf, hubungan antar neuron-neuron
dikenal dengan nama bobot.
 JST, Artificial Neural Network - Komponen

• Pada jaringan syaraf, neuron-neuron akan dikumpulkan dalam

lapisan-lapisan (layer) yang disebut dengan lapisan neuron
(neuron layers)
• Faktor terpenting untuk menentukan kelakuan suatu neuron
adalah fungsi aktivasi dan pola bobotnya.
• Informasi yang diberikan pada jaringan syaraf akan dirambatkan
lapisan ke lapisan, mulai dari input sampai ke lapisan output
melalui lapisan yang lainnya, yang dikenal dengan lapisan
tersembunyi (hidden layer), tergantung pada algoritma
pembelajarannya, bisa jadi informasi tersebut akan dirambatkan
secara mundur pada jaringan.
 JST, Artificial Neural Network - Komponen

Sel neuron

Simpul Sel sensor Xn

Sel input

Sel dummy/
ANN sel tiruan X0

output

Anak Antar sel

panah

sinapsis

Bias
 JST, Artificial Neural Network - Arsitektur

Jaringan dengan lapisan tunggal

(single layer net)

Jaringan dengan banyak lapisan

(multilayer net)

Jaringan dengan lapisan kompetitif (compotitive layer net)

 JST, Artificial Neural Network - Arsitektur
Jaringan dengan lapisan tunggal (single layer net)

–Hanya memiliki satu

lapisan dengan bobot-
bobot terhubung
–Jaringan ini hanya
menerima input kemudian
secara langsung akan
mengolahnya menjadi
output tanpa harus melalui
lapisan tersembunyi.
 JST, Artificial Neural Network - Arsitektur

Jaringan dengan banyak

lapisan (multilayer net)

• Memiliki 1 atau lebih lapisan

yang terletak diantara lapisan
input dan lapisan output
• Ada lapisan yang berbobot
yang terletak antara 2 lapisan
yang bersebelahan
 JST, Artificial Neural Network - Arsitektur

Jaringan dengan lapisan kompetitif (competitive layer net)

• Hubungan antar neuron pada lapisan kompetitif tidak diperlihatkan

pada diagram arsitektur
 JST, Artificial Neural Network – Fungsi Aktivasi

• Fungsi aktivasi merupakan fungsi yang digunakan pada jaringan

syaraf untuk mengaktifkan atau tidak mengaktifkan neuron. Seperti
terlihat pad gambar sebuah neuron akan mengolah N input (x1, x2,
..,xN) yang masing-masing memiliki bobot w1, w2, w3, ..,wN) dan
bobot bias b.
 JST, Artificial Neural Network – Fungsi Aktivasi
• Fungsi Undak Biner (Hard Limit)
• Jaringan dengan lapisan tunggal sering menggunakan fungsi undak
untuk menkonversi input dari suatu variabel yang bernilai kontinu ke
suatu output biner.
• Fungsi hard limit dirumuskan
 JST, Artificial Neural Network – Fungsi Aktivasi

• Fungsi Undak Biner (Threshold)

• Fungsi undak biner dengan menggunakan nilai ambang sering disebut
fungsi nilai ambang atau fungsi Heaviside.
• Dirumuskan:
 JST, Artificial Neural Network – Fungsi Aktivasi

• Fungsi Bipolar
• Hampir sama dengan fungsi undak biner, hanya saja output yang
dihasilkan berupa1, 0 atau-1
 JST, Artificial Neural Network – Fungsi Aktivasi

• Fungsi Bipolar (dengan Threshold)

• Fungsi yang menghasilkan output berupa 1, 0 atau -1
 JST, Artificial Neural Network – Fungsi Aktivasi

• FungsiLinear (identitas)
• Fungsi linear memiliki nilai output yang sama dengan nilai input
• Dirumuskan: y= x
 JST, Artificial Neural Network – Fungsi Aktivasi

• Fungsi Sturating Linear

• Fungsi ini akan bernilai 0 jika inputnya kurang dari -½, dan akan
bernilai 1 jika inputnya lebih dari ½. Sedangkan jika nilai input terletak
antara-½ dan ½, maka outputnya akan bernilai sama dengan nilai
input ditambah ½.
 JST, Artificial Neural Network – Fungsi Aktivasi

• Fungsi Symetric Saturating Linear

• Fungsi ini akan bernilai -1 jika inputnya kurang dari-1. Sedangkan jika
nilai input terletak antara -1 dan 1, maka outputnya akan bernilai sama
dengan nilai inputnya.
 JST, Artificial Neural Network – Fungsi Aktivasi

• Fungsi Sigmoid Biner

• Digunakan untuk jaringan syaraf yang dilatih dengan menggunakan
metode backpropagation. Memiliki nilai pada range 0 sampai 1
 JST, Artificial Neural Network – Fungsi Aktivasi

• Fungsi Sigmoid Bipolar

• Output dari fungsi ini memiliki range antara 1 sampai -1
• Fungsinya dirumuskan:
 JST, Artificial Neural Network – Pembelajaran

• Belajar adalah suatu proses dimana parameter-parameter bebas JST

diadaptasikan melalui suatu proses perangsangan berkelanjutan oleh
lingkungan di mana jaringan berada.

Metode belajar, yaitu:

• Supervised learning (belajar dengan pengawasan), metode
pembelajaran pada jaringan syaraf disebut terawasi jika output yang
diharapkan telah diketahui sebelumnya.
• Unsupervised learning (belajar tanpa pengawasan), metode
pembelajaran tak terawasi ini tidak memerlukan target output. Tujuan
metode ini adalah pengelompokan unit-unit yang hampir sama dalam suatu
area tertentu.
• Hibrida learning (Gabungan Supervised dan Unsupervised)
 JST, Artificial Neural Network -- Taxonomie
• ADALINE (Adaptive Linier Neural Element)
• ART (Adaptive Resonant Theory) • LVQ (Learning Vector Quantization)
• AM (Associative Memori) • Madaline
• BAM (Bidirectional Associative Memori) • MLFF with BP (Multi Layer FeedForward
• Boltzmant Machine Backpropagation)

• BSB (Brain State in a Box) • Neocognitron

• CCN (Cascade Corellation) • NLN (Neurologic Network)

• Cauchy Machine • Perceptron

• CPN (Counter Propagation) • PNN (Probabilitic Neural Network)

• GRNN (Generalized Regression Neural Network) • RBF (Radial Basis Function)

• Hamming • RNN (Recurrent Neural Network)

• Hopfield • RCE (Reduced Coulonb Energy)

• SOFM (Self Organizing Feature Map)
JST, Artificial Neural Network -- Implementation

Problem Solving Area

• Classification
• Clustering
• Prediction
• Memorizing
• Learning
• Optimization
• Control
• Recognition
• Decision Making
 JST, Artificial Neural Network – Summary

Strategi pembelajaran dasar

Strategi Pembelajaran

Supervised Reinforcement Unsupervised

•Delta rule •Learning •Competitive
•Backpropagation •Automata •Hebbian
•Hebbian
•Stochastic
 JST, Artificial Neural Network – Summary

Pengelompokan type network berdasar Metode pebelajaran

Strategi Pembelajaran

Supervised
•ADALINE UnSupervised
•Cascade Corellation •ART
•Hopfield •Hopfield
•MLFF with BP •LVQ
•RBF •Neocognitron
•RCN •SOFM
•Bolzmant
•GRNN
•LVQ
•PNN
3
•RNN
 JST, Artificial Neural Network – Summary

Pengelompokan type network berdasar type pebelajaran

Type Pembelajaran

Error Corection Hebbian Competitive Stocashtic

•ADALINE •AN •ART •Boltzman Machine
•CCN •BSB •LVQ •Cauchy Machine
•Hopfield •BAM •SOFM
•MLFF with BP •Hopfield
•RBF •Necognitron
•Perceptron
•GRNN
•RNN 2
 JST, Artificial Neural Network – Summary

Pengelompokan type network berdasar Type Arsitektur

Type Arsitektur

Singgle Layer Multi Layer Recurrent

feedforwad feedforward •ART
•ADALINE •CNN •BAM
•Hopfield •GRNN •Bpltzman Machine
•LVQ •MADALINE •Cauchy Machine
•AN •MLFF with BP •Hopfield
•Perceptron •Necognitron •RNN
•SOFM •RCE
•RBF

1
 JST, Artificial Neural Network – Summary
Pengelompokan type network berdasar Type Aplikasi
Type Aplikasi

Associative Optimasi Clasification Pattern Recognition General Prediction

Memori •ADALINE •ADALINE •ART Napping •ADALINE
•ART •Boltzman •ART •CPN •CCN •CCN
•AN •Hopfield •CCN •LVQ •GRNN •GRNN
•BAM •RNN •CPN •RBF •MADALINE
•Hopfield •OFN •GRNN •RCE •MLFF with BP
•MLFF with BP •MLFF with BP •LVQ •CCN •RBF
•MLFF with BP •GRNN •RNN
•RBF •MLFF with BP •SOFM
•RCE •Neocognitron
•ZOFN •ZOFN

0
 JST, Artificial Neural Network

Perangkat Keras JST !!!

 JST, Artificial Neural Network - HW

JST diimplemantasikan juga pada

perangkat keras yakni komponen
terintegrasi (IC) Cognimem
Menggunakan jaringan syaraf
tiruan atau aturan fuzzy dalam
mendeteksi dan pengenalan, tapi
sangat kompleks dan sulit dalam
lingkungan hardware.

Kesulitan ini telah dikurangi oleh

CogniMem stands for Cognitive Memory, a
CM-1K Neural Chip Jaringan breakthrough technology for Cognitive Computing,
seperti yang disajikan dalam pattern recognition, classification, and anomaly &
http://www.recognetics.com. novelty detection.
JST, Artificial Neural Network - HW
JST, Artificial Neural Network - HW
JST, Artificial Neural Network - HW
JST, Artificial Neural Network - HW
JST, Artificial Neural Network - HW
JST, Artificial Neural Network - HW
JST, Artificial Neural Network - HW

4
JST, Artificial Neural Network - HW

3
JST, Artificial Neural Network - HW

2
JST, Artificial Neural Network - Cogniblox

1
JST, Artificial Neural Network - Cogniblox

0
 Kecerdasan Artifisial

Segmen 2 – Genetic Algorithm !!!

 Genetic Algorithm – Pengertian

o Algoritma genetika (Genetic Algortihm- GA) adalah

algoritma pencarian yang berdasarkan pada
mekanisme sistem natural yakni genetik dan seleksi
alam.

o Dalam aplikasi algoritma genetik, variabel solusi

dikodekan kedalam struktur string yang
merepresentasikan barisan gen, yang merupakan
karakteristik dari solusi problem.
 Genetic Algorithm – Pengertian

 Berbeda dengan teknik pencarian konvensional,

algoritma genetik berangkat dari himpunan solusi yang
dihasilkan secara acak.

 Himpunan ini disebut populasi, sedangkan setiap

individu dalam populasi disebut kromosom yang
merupakan representasi dari solusi.
 Genetic Algorithm – Pengertian

 Kromosom-kromosom berevolusi dalam suatu proses

iterasi yang berkelanjutan yang disebut generasi.

 Pada setiap generasi, kromosom dievaluasi

berdasarkan suatu fungsi evaluasi (Gen dan
Cheng,1997).

 Setelahbeberapa generasi maka algoritma genetika

akan konvergen pada kromosom terbaik, yang
diharapkan merupakan solusi optimal (Goldberg,1989).
 Genetic Algorithm – Pengkodean

Pengkodean
 Pengkodean adalah suatu teknik untuk menyatakan
populasi awal sebagai calon solusi suatu masalah ke
dalam suatu kromosom sebagai suatu kunci pokok
persoalan ketika menggunakan algoritma genetika.

 Berdasarkanjenis simbol yang digunakan sebagai nilai

suatu gen, metode pengkodean dapat diklasifikasikan
sebagai berikut : pengkodean biner, bilangan riil,
bilangan bulat, struktur data.
 Genetic Algorithm – Operator Genetika

Operator Genetika
 OperatorGenetika digunakan setelah proses evaluasi
tahap pertama untuk membentuk suatu populasi baru
dari generasi sekarang. Operator-operator tersebut
adalah operator seleksi, crossover, dan mutasi.
Genetic Algorithm – Siklus Algoritme
 Genetic Algorithm – Definisi Individu
 Dari gambar terlihat bahwa penyelesaian berada pada nilai 0<x<1.
Jadi dengan menggunakan 8 bit biner didefinisikan:

 Individu dinyatakan dalam 8 gen biner, dengan batas 0 sampai

dengan 1, berarti 1 bit setara dengan 2-8.
Sebagaicontoh:
 10001001 = (128+8+1)/256 = 0.5352

 00110100 = (4+16+32)/256 = 0.2031

 01010010 = (2+16+64)/256 = 0.3203

 Genetic Algorithm – Membangkitkan Populasi Awal

 Membangkitkan sejumlah individu, misalkan satu populasi terdiri dari 10

individu, maka dibangkitkan 10 individu dengan 8 gen biner yang
dibangkitkan secara acak.
 Genetic Algorithm – Seleksi

 Seleksi adalah proses pemilihan calon

induk, dalam proses seleksi ini terdapat
beberapa metode yang bisa digunakan
antara lain: Mesin Roulette (Roulette
Wheel), Competition danTournament.
Dalam contoh ini digunakan Mesin
Roullete yang memang metode paling
dasar dan model acaknya uniform.

 Seleksi dilakukan dengan menggunakan

prosentasi fitness setiap individu,
dimana setiap individu mendapatkan
luas bagian sesuai dengan prosentase
nilai fitnessnya.
 Genetic Algorithm – Cross-Over

 Cross-Over (Perkawinan Silang) merupakan proses mengkombinasikan

dua individu untuk memperoleh individu-individu baru yang diharapkan
mempunyai fitness lebih baik. Tidak semua pasangan induk mengalami
proses cross-over, banyaknya pasangan induk yang mengalami cross-over
ditentukan dengan nilai probabilitas cross-over.
 Genetic Algorithm – Mutasi

 Mutasi gen adalah proses penggantian gen dengan nilai

inversinya, gen 0 menjadi 1 dan gen 1 menjadi 0. Proses ini
dilakukan secara acak pada posisi gen tertentu pada individu-
individu yang terpilih untuk dimutasikan. Banyaknya individu
yang mengalami mutasi ditentukan oleh besarnya probabilitas
mutasi.
 Genetic Algorithm – GA  Optimalisasi
Representasi dan Inisialisai Populasi Awal
 Representasi merupakan bentuk hasil akhir dari masalah yang
akan diselesaikan. Representasi dari kromosom tersebut dapat
dilihat pada gambar berikut ini :

Kromosom 1

Kromosom 2

Fungsi Obyektif / Fungsi Fitness

 Fungsi fitness yang digunakan untuk mengevaluasi kebaikan
suatu kromosom dalam penelitian ini
 Genetic Algorithm – GA  Optimalisasi
Parameter Algoritma Genetika dalam Program
1. Operator Seleksi
Seleksi memegang peranan penting dalam keberhasilan algoritma genetika.
Prosedur seleksinya adalah :
1) Hitung total fitness
Total fitness = ∑ F k k = 1, 2, 3, ... , popsize Pk = Fk
Total Fitness
2) Hitung fitness relatif tiap individu

3) Hitung fitness kumulatif : qi = pi

4) Pilih induk yang akan menjadi kandidat untuk di crossover dengan cara :
i. Bangkitkan bilangan random r
ii. Jika qk ≤ r dan qk+1 ≤ r maka pilihlah kromosom ke (k+1) sebagai kandidat induk
 Genetic Algorithm – GA  Searching

• Sebuah kata ditentukan sebagai target, misalnya: ‘SUNNY’. Bila setiap

huruf diberi nilai dengan nilai urut alfabet, maka targetnya bisa
dinyatakan sebagai besaran numerik:
Target=[19 21 14 14 25]
• Komputer akan membangkitkan katadengan jumlah huruf yang sama
dengan target secara acak, terus-menerus hingga diperoleh kata yang
sama dengan kata target.
 Genetic Algorithm – GA  Searching
• Individu adalah satu kata yang muncul dari proses acak tersebut,
misalnya: AGHSQ atau [1 7 8 19 17 ]
• Satu individu mempunyai n gen integer yang setiap gennya menyatakan
no urut alfabet.
• Nilai fitness adalah inversi dari perbedaan antara nilai kata yang muncul
(individu) dan target yang ditentukan. Misalnya kata yang muncul:
AGHSQ dan targetnya SUNNY maka, nilai perbedaannya:
E = |1-19| + |7-21| + |8-14| + |19-24| + |17-25|
= 18+4+6+5+8 = 41
Fitness = (26)(6) -41 = 156-41 = 115
• Fitness didefinisikan:
fitness (k) = 156 - ∑| g (k)n - t n |
Dimana gn adalah gen ke n dari individu ke k dan gen ke n dari target.
 Kecerdasan Artifisial

Segmen 2 – Implementasi Genetic

Algorithm !!!
 Genetic Algorithm – Implementasi

• Kelebihan
– Cepat dan kebutuhan memory sedikit kemudian pencarian pada
ruang yang luas.
– Mudah, jika kandidat dan fungsi fitness benar, solusi dapat
diperoleh tanpa kerja analitis eksplisit.

• Cons
– Random– tidak optimal meski terselesaikan.
– Dapat terhenti, crossover dapat mengatasi hal
– Dapat menjadi pekerjaan yang berat untuk menyelesaikan
representasi kandidat sebagai deretan bit.
 Genetic Algorithm – Pengertian

• ST5 Antenna – NASA Evolvable Systems Group

http://ti.arc.nasa.gov/projects/esg/research/antenna.htm
 Genetic Algorithm – Implementation
ST5 Antenna
• Memerlukan daya yang lebih sedikit dibandingkan antena
standar.
• Tidak memerlukan pencocokan jaringan ataupun rangkaian
phassing, memerlukan dua tahap lebih sedikit design dan
fabrikasi.
• Lebih uniform kover areanya, daripada antena standar
sehingga kinerja lebih reliable.
• Siklus rancangan singkat – 3 orang bulan tahap fabrikasi
purwarupa, dibandingkan dengan 5 orang bulan untuk
metode konvensional.
 Genetic Algorithm – Implementation

• Image compression – evolving the Mona Lisa

Generation 1 Generation 301

Generation 2716 Generation 904314

http://rogeralsing.com/2008/12/07/genetic-programming-evolution-of-mona-lisa/ 65
 Genetic Algorithm – Implementation

Image compression – evolving the Mona Lisa

• Hanya menggunakan 50 polygons untuk setiap 6 vertices
• Ukuran populasi 1, no crossover – parent compared with child, and
superior image kept.
• Diasumsikan setiap polygon memerlukan 4 bytes untuk warna
(RGB) dan 2 bytes untuk setiap masing-masing 6 vertices, citra ini
hanya memerlukan 800 bytes.
• Meskipun demikian, waktu kompresi sangat tinggi dan
penyimanan lebih murah dari waktu proses.

66
 Kecerdasan Artifisial

Segmen 3 – Swarm Intelligence !!!

From Natural to Artificial Systems

 Swarm Intelligence– Pengertian (what)

Emergent collective intelligence of groups of simple

agents” (Bonabeau et al, 1999)

Kecerdasan kolektif yang muncul begitu saja dari

kelompok-kelompok agen sederhana
 Swarm Intelligence– Pengertian (why)

• SI merupakan sebuah teknik komputasi yang simpel, fleksibel, dan

memiliki tingkat ergodicity (has same behaviour averaged over
time) yang tinggi (Yang et al., 2013)
• Pada awalnya, SI memang didesain untuk menyelesaikan
masalah optimasi, baik kontinu maupun diskrit
• Dalam perkembangannya, SI terbukti memberikan performansi
tinggi untuk menyelesaikan berbagai masalah komputasi secara
luas, termasuk big data mining
• Satu kekuatan SI adalah sangat cepat menemukan solusi yang
(mendekati) optimum, apalagi jika diimplementasikan
menggunakan komputasi paralel maupun terdistribusi
 Swarm Intelligence– Pengertian (when)
Kapan Menggunakan SI?
• Ruang masalah sangat besar, kompleks, dan sulit dipahami
• Kurang atau bahkan tidak ada sama sekali pengetahuan untuk
merepresentasikan masalah ke dalam ruang pencarian yang lebih sempit
• Tidak tersedia analisis matematis yang memadai
• Tidak dapat diselesaikan menggunakan metode-metode konvensional
• Terdapat batasan waktu, misalnya dalam sistem waktu nyata (real time
system)
• Solusi yang diharapkan tidak harus paling optimum, tetapi bisa diterima oleh
pengguna
 Swarm Intelligence– Pengertian

Di Mana Menggunakan SI?

• Apa inti dari semua masalah komputasi?
• Optimasi (optimization)
• Optimasi bisa berupa pencarian nilai maksimum (maksimasi) atau
nilai minimum (minimasi)
• Coba sebutkan masalah komputasi apapun!
• Pasti semuanya akan bermuara pada masalah optimasi
 Swarm Intelligence– Pengertian
Bagaimana Menggunakan SI?
• Setiap teknik dalam SI memiliki sejumlah parameter yang saling
berkaitan dan nilainya harus diatur secara hati-hati untuk menjaga
keseimbangan antara eksplorasi (diversifikasi) dan eksploitasi
(intensifikasi) calon-calon solusi untuk menemukan solusi terbaik
secara cepat.
• Bagaimana cara mengatur parameter-parameter tersebut?
• Sejauh ini belum ada satupun formula matematis yang dapat
digunakan untuk menentukan, atau setidaknya mengestimasi, nilai-
nilai parameter tersebut.
• Semuanya hanya bergantung intuisi dan pengalaman empiris.
Swarm Intelligence– Pengertian
 Swarm Intelligence– Pengertian

Presisi atau kecepatan?

Presisi dan cepat !!!

Jumlah domba = ? Sulit sekali

 Swarm Intelligence– Pengertian

Particle Swarm Optimization (PSO)

Ant Colony Optimization (ACO)
Swarm Intelligence– Pengertian
Swarm Intelligence– Pengertian
Swarm Intelligence– Pengertian
Swarm Intelligence– Pengertian
Swarm Intelligence– Pengertian
 PENTUTUP

JST (ANN), GA dan Swamp Intelligence ……