Paralel

Processing
K AJI AN
ORG AN I S ATORIAL
 ❑ Pengolahan data numerik dalam jumlah yang
sangat besar, dimana setiap datanya terbentuk
Penggunan dari berbagai factor pendukung yang saling terkait.

Pengolahan ❑ Kebutuhan akan ketersediaan data akhir yang

senantiasa up to date.
Paralel
 ❑ Simulasi Sirkulasi Global Laut
❑ Simulasi Cuaca
Contoh ❑ Simulasi pada pesawat terbang
Penggunaan ❑ Simulasi pada aerodynamic prototype mobil
❑ Simulasi pada efek nuklir
 ❑ Pengolahan informasi yang menekankan pada
manipulasi data - data beserta elemen
pembentuknya secara simultan.
Tujuan ❑ Dimaksudkan untuk mempercepat komputasi dari

Pengolahan sistem komputer dan menambah jumlah keluaran

yang dapat dihasilkan dalam jangka waktu tertentu.
Paralel ❑ Pengolahan secara simultan diperlukan karena
variable – variable yang ada dalam suatu proses
keseluruhan biasanya saling terkait satu sama
lainnya.
 M. J. FLYNN
Pengklasifikasian oleh Flynn, dikenal sebagai Taksonomi
Flynn yang membedakan komputer paralel ke dalam 4
Paradigma kelas berdasarkan konsep aliran data (data stream) dan
aliran instruksi (instruction stream), sebagai :
Pengolahan ➢ SISD (Single Instruction Single Data Stream)
Paralel ➢ SIMD (Single Instruction Multiple Data Stream)
➢ MISD (Multiple Instruction Single Data Stream)
➢ MIMD (Multiple Instruction Multiple Data Stream)
A Taxonomy
of Parallel
Computers
 Keterangan Gambar :

❑ UMA : Uniform Memory Access

❑ NUMA : Non Uniform Memory Access
A Taxonomy of ❑ COMA : Cache Only Memory Access
Parallel ❑ MPP : Massively Parallel Processor
Computers ❑ COW : Cluster of Workstations
❑ CC-NUMA : Cache Coherent NUMA
❑ NC-NUMA : Non Cache NUMA
 ❑ Pengolahan Paralel :
Pengolahan informasi yang ditekankan pada
manipulasi elemen data yang dimiliki oleh satu atau
A Taxonomy of lebih dari satu proses secara bersamaan dalam
rangka menyelesaikan sebuah problem.
Parallel
Computers
❑ Komputer Paralel :
Komputer multi prosesor dengan kemampuan
melakukan pengolahan paralel.
 ❑ Supercomputer :
Sebuah general - purpose computer yang mampu
menyelesaikan problem dengan kecepatan
komputasi sangat tinggi.
Semua superkomputer kontemporer adalah
komputer paralel.
A Taxonomy of Beberapa di antaranya memiliki prosesor yang
Parallel sangat kuat dalam jumlah yang relatif sedikit,
sementara yang lainnya dibangun oleh
Computers mikroprosesor dalam jumlah yang cukup besar.

❑ Throughput :
banyaknya keluaran yang dihasilkan per unit per
satuan waktu
 ❑ Semakin banyak prosesor yang digunakan semakin
maka akan semakin tinggi biaya untuk memperoleh
solusi sebuah problem.
❑ Hal ini terjadi karena perlu dipertimbangkan biaya
A Taxonomy of pengadaan prosesor beserta komponen pendukung
Parallel di dalamnya dan biaya perawatan system secara
keseluruhannya
Computers ❑ Jumlah prosesor yang digunakan biasanya
tergantung dari ukuran masalah atau problem
komputasi yang akan diselesaikan dan kecepatan
waktu untuk penyelesaian masalah tersebut.
 ❑ Komputer tunggal yang mempunyai satu unit kontrol,
satu unit prosesor dan satu unit memori
❑ Instruksi dilaksanakan secara berurut tetapi boleh juga
overlap dalam tahapan eksekusi (overlap)
SISD (Single ❑ Satu alur instruksi didecode untuk alur data tunggal
Instruction
stream, Single
Data stream)
 ❑ Komputer yang mempunyai beberapa unit prosesor di
bawah satu supervisi satu unit common control.
❑ Setiap prosesor menerima instruksi yang sama dari
unit kontrol, tetapi beroperasi pada data yang berbeda.
SIMD (Single
Instruction
stream,
Multiple Data
stream)
 ❑ Urutan data tunggal
❑ Data dikirimkan ke sekumpulan prosesor
❑ Setiap prosesor mengeksekusi urutan instruksi yang
berbeda pada urutan data yang sama
❑ Sampai saat ini struktur ini masih merupakan
MISD (Multiple struktur teoritis dan belum ada komputer dengan
Instruction model ini.
stream, Single
Data stream)
 ❑ Kumpulan komputer yang memiliki kemampuan
untuk memproses beberapa program dalam waktu
yang sama.
❑ Pada umumnya multiprosesor dan multikomputer
MIMD (Multiple termasuk dalam kategori ini.

Instruction
stream,
Multiple Data
stream)
MIMD (Multiple
MIMD dibagi menjadi 2 kelompok yaitu
Instruction
❑ Multiprocessor yang menggunakan memory
stream, bersama.
Multiple Data ❑ Multicomputer.
stream)
 ❑ Sistem multiprocessor adalah suatu komputer yang
mempunyai lebih dari satu CPU pada
motherboardnya.
❑ Jika sistem operasi dibangun untuk memanfaatkan
kelebihan ini, maka SO tersebut dapat menjalankan
proses-proses berbeda (atau thread-thread berbeda
yang dimiliki oleh proses yang sama) pada CPU-CPU
berbeda.
Multiprosessor
 ❑ 3 Model Shared Memory Multiprocessors:
➢ Uniform Memory Access (UMA)
➢ Non Uniform Memory Access (NUMA)
Shared Memory
Multiprocessors ➢ Cache Only Memory Architecture (COMA)
❑ Yang membedakan dari ketiga model diatas adalah
bagaimana memori dan pheripheral device di shared
atau didistribusikan
 ❑ Terlihat bahwa memori dibagi secara merata ke semua
Uniform prosesor

Memory Access ❑ Semua prosesor mempunyai waktu akses yang sama ke

semua word memori
(UMA) ❑ Setiap prosesor menggunakan private cache
❑ Dan untuk peripheral juga dishare dengan cara yang sama
❑ UMA cocok untuk general purpose dan aplikasi time sharing
oleh multiple user
❑ UMA dapat digunakan untuk meningkatkan ekseskusi dari
program tunggal yang besar pada aplikasi time-critical
 NUMA Multiprocessor adalah sebuah sistem shared
memory dimana waktu aksesnya bervariasi ke lokasi
memori word

Non Uniform
Memory Access
(NUMA)
 ❑ Shared memory yang secara fisik didistribusikan ke
semua processor disebut lokal memori dan kumpulan
Non Uniform dari lokal memori membentuk ruang alamat global
yang dapat diakses oleh semua processor
Memory
Access ❑ NUMA dapat mengakses lokal memori lebih cepat
dengan lokal processor, sedangkan akses ke memori
(NUMA) yang jauh diberikan ke processor lain yang
kapasitasnya lebih besar untuk ditambah delay melalui
interkoneksi jaringan
 ❑ Disamping distribusi memori, secara umum shared
Non Uniform memory dapat ditambahkan ke multiprosessror
system.
Memory ❑ Dalam hal ini ada tiga pola akse memory, dimana
Access yang terdepat adalah akses ke lokal memori, akses
ke global memori dan yang paling lambat adalah
(NUMA) akses dari memory yang jauh (hierarchical Cluster
Model (Chedar System))
Non Uniform
Memory
Access
(NUMA)
Cache Only Memory
Access (COMA)
❑ COMA adalah multiprocessor yang hanya
menggunakan cache memory
❑ COMA dapat ditemukan pada NUMA machines,
dimana pendistribusioan main memory dirubah
ke cache.
❑ Disini tidak ada hirarki memori pada setiap node
computer
❑ Semua cache berasal dari ruang alamat global.
Cache Only Memory
Access (COMA)
❑ Akses ke cache jauh dibantu oleh direktori cache
yang didistribusikan yang tergantung kepada
interkoneksi jaringan yang digunakan, terkadang
direktori digunakan untuk membantu
penempatan copian dari blok-blok cache
❑ Penempatan data tidak penting karena data
akan menempati tempat dimana data tersebut
akan digunakan
 ❑ Sistem Multicomputer
Multicomputer dapat dianggap berupa suatu
komputer NUMA loosely atau cluster yang tightly
coupled.
❑ Multicomputer biasanya digunakan ketika diperlukan
power komputasi tinggi tetapi lingkungan mempunyai
ruang fisik atau tenaga listrik terbatas.
Multicomputer
 ❑ Processor Memory Interconnection
❑ Cache Coherence
Major Issues ❑ Synchronization Support
in MIMD ❑ Scalability Issue
❑ Distributed Shared Memory
 Interconnection networks yang digunakan :
❑ Connect processors to shared memory
❑ Connect processors to each other
Interconnection
Networks Type Interconnection antar media yang
digunakan :
❑ Shared medium
❑ Switched medium
 Topologi Jaringan Multikomputer yang biasa digunakan
❑ Static Networks
Jaringan statis menyediakan koneksi tetap antara node
(node dapat menjadi unit pemrosesan, memorimodul,
modul I/O). Link antar node sulit diubah dan tidak
Interconnection dapat dengan mudah dikonfigurasi ulang.
Networks ❑ Dynamic Networks
Jaringan dinamis menyediakan koneksi yang dapat
dikonfigurasi ulang antar node. Switch adalah
komponen dasar dari jaringan dinamis. Koneksi antar
node dibuat dengan pengaturan satu set jaringan yang
saling berhubungan.
 ❑ CPU-CPU Intel dari era Pentium 4 terbaru (Northwood
dan Prescott) menerapkan suatu teknologi yang
biasanya kita sebut Hyper-threading yang
memungkinkan lebih dari satu thread (biasanya dua)
untuk berjalan pada CPU yang sama.
Sistem
❑ Produk processor yang lebih baru seperti Sun
Multicore UltraSPARC T1, AMD Athlon 64 X2, AMD Athlon FX,
AMD Opteron, Intel Pentium D, Intel Core, Intel Core 2
dan Intel Xeon menyertakan banyak core processor
juga untuk meningkatkan jumlah thread yang dapat
dieksekusi.
 ❑ Sistem pemrosesan yang terdiri dari dua atau lebih
inti processor independen, yang memfasilitasi
pengelolaan aktivitas proses secara simultan.
❑ Diawali dengan Prosesor dual-core, dilanjutkan
Sistem dengan quad-core processor dan jumlah inti
processor yang lebih banyak
Multicore
❑ Tujuan awal yang akan dicapai dengan konsep
multicore adalah Performa komputasi yang tinggi
tanpa menaikkan konsumsi daya
Single Core
Computer
Single Core
CPU Chip
Multi Core
Architectures
❑ Replikasi multiple
processor cores pada
sebuah Chip (IC)

❑ Semua Inti processor

diletakkan pada single
processor socket

❑ Biasanya dikenal sebagai

CMP (Chip Multi-
Processor)
Multi Core
Architectures
Setiap inti processor akan
menjalankan prosesnya
secara Bersama – sama
(parallel)
Multi Core
Architectures
❑ Proses akan dijalankan
sebagai threads
❑ Di dalam setiap inti
processor, threads akan
diproses secara time-sliced
(seperti pada system
uniprosesor)
❑ Dengan mekanisme ini maka
kecepatan proses secara
keseluruhan akan meningkat
dengan tidak mengorbankan
power consumption
Future Development
❑ Desain Daya Rendah

Konsumsi daya berlipat ganda dengan setiap penggandaan frekuensi operasi

❑ Dukungan Perangkat Lunak / OS yang lebih memadai.

Seperti kompiler yang lebih cerdas yang mampu mengirimkan beban instruksi yang
seimbang ke masing - masing inti / core pada processor.
Terima
kasih