Implementasi Hardware NN

Implementasi jaringan saraf dapat dibagi menjadi 3 kategori, yaitu:

 Simulasi Software.
 Emulasi Hardware.
 Implementasi Hardware.

Perbedaan antara dua kategori yang pertama tidak jelas. Kita akan
menggunakan istilah simulasi untuk menggambarkan paket perangkat lunak yang
dapat berjalan di berbagai mesin host. Implementasi jaringan saraf mempunyai
tujuan umum yaitu sebagai mesin multi-prosesor seperti Connection Machine,
Warp, Transputers, dan lain - lain.dimana contoh - contoh tersebut disebut sebagai
emulasi. Hardware pelaksanaan akan dicadangkan untuk neuro-chip dan sejenisnya
yang secara khusus dirancang untuk menjalankan jaringan saraf. Untuk
mengevaluasi dan menyediakan taksonomi simulator jaringan saraf dan emulator
digunakan :
1. Jenis Persamaa.
2. Koneksi topologi.
3. Skema proses.
4. Model transmisi sinaptik.

Tinjauan Umum Hardware

Paralel komputer (Almasi & Gottlieb, 1989) dapat dibagi menjadi beberapa
kategori. Salah satu aspek penting adalah rincian dari paralelisme. Secara luas,
mulai dari lingkup kecil paralelisme dimana biasanya sampai dengan sepuluh
prosesor, sampai dengan lingkup besar paralelisme, sampai ribuan atau jutaan
prosesor.
Keduanya, baik lingkup kecil maupun lingkup besar pararelisme digunakan
untuk emulasi jaringan saraf. Model terdahulu, dimana satu atau lebih prosesor
dapat digunakan untuk sebuah neuron.
Komputer dapat dikategorikan berdasarkan proses operasinya. Yang paling
banyak digunakan adalah yang dikategorikan oleh Flynn. Ini membedakan dua jenis
komputer paralel: SIMD (Single Instruction, Multiple Data) dan MIMD (Multiple
Instruction, Multiple Data). Tipe terdahulu terdiri dari sejumlah prosesor yang
mengeksekusi instruksi yang sama tetapi pada data yang berbeda, sedangkan yang
kedua memiliki program terpisah untuk setiap prosesor. Kesatuan komputer yang
baik biasanya SIMD, sementara kesatuan komputer yang kurang baik cenderung
MIMD.

Keterhubungan Antar Mesin

1. Arsitektur
Salah satu yang terkenal dari lingkup kecil mesin pararel SIMD adalah
sambungan mesin Daniel Hilis. Setiap prosesor chip berisi 16 prosesor, unit
kontrol, dan sebuah router, terhubung ke chip memori yang berisi potongan-
potongan memori 4K per prosesor. Setiap prosesor terdiri dari satu-bit ALU
dengan tiga input dan dua output dan satu set register. Kontrol unit
menguraikan instruksi yang masuk oleh front – end komputer. Setiap saat,
sebuah prosesor dapat mendengarkan instruksi yang masuk ataupun tidak.
Skema keterhubungan antar mesin sebagai berikut :
 2. Penerapan pada jaringan saraf
Ada beberapa peneliti mencoba menerapkan jaringan saraf pada
sambungan mesin. Meskipun sambungan mesin memiliki topologi yang cocok
dengan topologi dari sebagian besar jaringan saraf buatan sangat baik, pesan
yang relatif lambat pada sistem tidak membuat mesin sangat berguna
sebagai tujuan umum simulasi jaringan saraf. Satu implementasi yang
memungkinkan adalah pemberian. Sebuah jaringan backpropagation
diimplementasikan dengan mengalokasikan satu prosesor per unit dan satu
per berat keluar dan satu per berat masuk. Prosesor dengan kondisi
demikian mengatur bahwa sebuah unit prosesor diikuti segera dengan
prosesor untuk bobot keluar dan didahului oleh bobot masuk. Step feed-
forward dilakukan oleh unit penkepit masukan pertama dan berikutnya
mengeksekusi operasi copy-scan dengan menggerakkan nilai aktivasi
tersebut kepada k prosesor berikutnya (berat keluar prosesor). Bobot
kemudian mengalikan dirinya dengan nilai – nilai aktivasi dan melakukan
proses pengiriman dimana nilai yang dihasilkan akan dikirim kepada
pengalokasian prosesor untuk bobot masuk.

Systolic Array
Systolic array mengambil keuntungan dari peletakkan algoritma dalam dua
dimensi. Desain berpihak kepada perhitungan sebagai lawan dari operasi loncatan
input – output. Nama sostolik berasal dari analogi memompa darah melalui hati dan
pemasukan data melalui sebuah array sistolik. Sebagai contoh, terdapat dua bauh
matrik A dan B dikalikan, kemudian ditambah dengan matrik C maka akan
menghasilkan output C + AB. Penting dalam desain adalah penggunaan kembali
data elemen, menggunakan memori setiap kali elemen yang dibutuhkan, jika
digambarkan akan tampak seperti gambar dibawah ini:
Warp Komputer, yang dikembangkan di Carnegie, telah digunakan untuk simulasi
jaringan saraf tiruan. Ini adalah sebuah sistem dengan sepuluh atau lebih program
satu dimensi array sistolik. Sebagai contoh dua data stream, salah satunya adalah
bi-directional dalam suatu proses (terlihat pada gambar dibawah ini). Untuk
mengimplementasikan matriks Wx + θ, dimana W bukan stream melainkan
disimpan di memori pada saat proses.

Neuro Hardware Berdedikasi

Baru-baru ini, banyak saraf chip telah dirancang dan dibangun. Meskipun banyak
teknik, seperti digital dan analog elektronik, optik komputer, inplementasi kimia,
dan bio chip diselidiki untuk mengimplementasikan komputer neuro.
Masalah Umum
Kendala Konektivitas

Konektivitas dalam chip

Masalah besar yang selalu terjadi dengan chip saraf adalah konektivitas.
Sebuah rangkaian terpadu adalah di dalam teknologi sehari – hari. Planar
dengan kemungkinan terbatas untuk menghubungkan sambungan. Hal ini
menimbulkan masalah. Sedangkan konektivitas ke tetangga terdekat dapat
diterapkan tanpa masalah. konektivitas dengan tetangga terdekat kedua hasil
dalam menyeberang dari empat yang sudah bermasalah. Di sisi lain, penuh
konektivitas antara satu set unit input dan output dapat dengan mudah dicapai
ketika input dan output neuron yang terletak di dekat dua sisi keping.

Konektivitas diantara chip

Untuk membangun ANN besar atau berlapis, chip saraf harus terhubung
bersama. Ketika hanya sedikit neuron yang harus terhubung bersama-sama atau
chip dapat ditempatkan di baris berikutnya di tipe jaringan feed-forward, hal ini
tidak masalah. Tapi pada kasus lain, dimana neuron dalam jumlah besar di
dalam satu chip harus terhubung ke neuron pada chip lainnya, ada beberapa
masalah, antara lain :
• chip merancang paket dengan jumlah yang sangat besar dari input atau
output terarah
• Setiap chip biasanya hanya dapat mengirim dalam 2 jumlah chip kecil
lainnya.
 • Pengkabelan
Solusi yang mungkin dapat digunakan untuk menyelesaikan masalah tersebut
adalah menggunakan interkoneksi optik.

Analog VS Digital
Karena kesamaan antara buatan dan jaringan syaraf biologis, analog
hardware tampaknya pilihan yang baik untuk menerapkan jaringan saraf buatan,
sehingga implementasi murah yang beroperasi pada kecepatan yang lebih
tinggi. Di sisi lain, pendekatan digital menawarkan fleksibilitas yang jauh lebih
besar dan tidak boleh diabaikan. Chip digital juga dapat dirancang tanpa perlu
pengetahuan yang sangat maju dari sirkuit menggunakan sistem CAD / CAM.

Optik
Seperti yang telah disebutkan di atas, optik sangat baik digunakan untuk
menghubungkan beberapa (lapisan) neuron. Satu dapat membedakan dua
pendekatan. Salah satunya adalah untuk menyimpan beban dalam planar atau
peralatan reflektif dan menggunakan lensa maupun hologram untuk
interkoneksi.

Belajar VS Tidak Belajar

 Sehubungan dengan belajar, kita dapat membedakannya dalam beberapa
tingkat berikut, yaitu :
• Bobot Tetap
Desain jaringan menentukan bobot
• Pra pemrograman bobot
Bobot dalam jaringan hanya dapat diatur sekali
• Bobot pemrograman
Bobot dapat diatur lebih dari sekali melalui perangkat eksternal
• Tempat penyesuaian bobot
Mekanisme pembelajaran yang tergabung dalam jaringan

Contoh Implementasi
Carver Mead Silikon Retina
Chip yang dirancang oleh kelompok Carver Mead di Caltech sangat
terinspirasi oleh jaringan saraf biologis. Mead berusaha membangun chip
saraf analog yang cocok dengan neuron biologis sedekat mungkin, termasuk
konsumsi daya yang sangat rendah, sepenuhnya analog hardware dan
operasi dalam waktu yang berkelanjutan.

Struktur Retina
Struktur retina dapat digambarkan sebagai berikut, cahaya ditranduksi
ke sinyal listrik oleh foto-reseptor yang memiliki jalur utama melalui sinapsis
triad ke sel bipolar. Sel bipolar yang terhubung ke sel ganglion retina
merupakan sel output retina. Sel horizontal yang juga terhubung melalui
sinapsis ke tiga serangkai foto reseptor terletak tepat di bawah foto reseptor
dan sinapsis terhubung yang akson menuju sel bipolar.
Sistem dapat digambarkan dalam bentuk tiga serangkai sinaps tiga
elemen:
1. Foto reseptor output logaritma dari intensitas cahaya.
2. Sel horizontal membentuk sebuah jaringan yang rata-rata foto
reseptor atas ruang dan waktu.
3. Output dari sel bipolar sebanding dengan perbedaan antara foto
reseptor output dan sel horizontal output
Photo-Receptor
Foto-reseptor adalah rangkaian tegangan output yang sebanding dengan
logaritma dari intensitas cahaya yang masuk. Ada dua konsekuensi penting :
1) beberapa kali lipat intensitas dapat ditangani dalam tingkat yang
moderat dalam jangkauan sinyal
2) perbedaan tegangan antara dua titik sebanding dengan rasio kontras
illuminance

Layer Resistif Horizontal

Masing – masing foto reseptor terhubung dengan enam reseptor di
sebelahnya melalui resistor yang membentuk array hexagonal. Tegangan
pada setiap node dalam jaringan adalah nilai rata – rata nilai input foto-
receptor, sehingga pengaruh input jauh lebih sedikit.

Sel Bipolar
Output dari sel bipolar sebanding dengan perbedaan antara output
foto-reseptor dan tegangan horizontal lapisan resistif.

Implementasi
Sebuah chip yang dibuat mengandung 48 x 48 pixel. Output dari setiap
pixel dapat diakses secara independen dengan menyediakan chip dengan
horizontal dan alamat pixel secara vertikal.
Kinerja
Beberapa percobaan menunjukkan bahwa retina silikon melakukan
kinerja yang sama seperti retina biologis