Cache Memory

Cache Mamory

Tujuan mempelajari materi ini adalah agar

mahasiswa:
Dapat menjelaskan karakteristik utama dari
sistem memori komputer, hirarki memori,
konsep dasar, tujuan dan desain cache
 Cache Memory

Agenda
Memori Sistem Komputer
Prinsip cache memory
Elemen desain cache
Organisasi cache memory
 Karakteristik Kunci
Sistem Memori Komputer
 Lokasi
 Internal & eksternal
 Memori internal sering disamakan memory utama
 Prosesor memiliki memori lokal, yaitu register
 Cache merupakan bentuk memori internal
 Contoh memori internal: processor register, main memory, chache
 Memori eksternal terdiri dari perangkat penyimpanan periferal yang
dapat diakses prosesor melalui I/O controller
 optical disk, magnetic disk, usb flash disk.
 Kapasitas
 Jumlah Word
 Jumlah Byte
 Unit Transfer
 Untuk memori internal, unit transfer sama dengan jumlah baris listrik
yang masuk dan keluar dari modul memori
 Karakteristik Kunci
Sistem Memori Komputer
 Metode Akses
 Sequential
 Memori diorganisasi menjadi unit-unit data yang disebut record
 Akses dibuat dalam urutan linear.
 Contoh: tape
 Direct
 Setiap record memiliki alamat unik berdasarkan lokasi fisiknya
 Akses dilakukan secara langsung (pada alamat), + pencarian sekuensial,
perhitungan atau menunggu sampai lokasi fisik akhir.
 Contoh: disk
 Random
 Setiap lokasi di memori memiliki alamat unik
 Waktu akses konstan dan tidak tergantung pada urutan akses sebelumnya
 Setiap lokasi/alamat dapat dipilih secara acak untuk diakses
 Contoh: memori utama, cache
 Assosiative
 akses random yang dapat digunakan untuk mencari bit tertentu dalam suatu
word
 Contoh: cache
 Karakteristik Kunci
Sistem Memori Komputer

 Performa
Waktu akses (latency)
 random-access » waktu yang dibutuhkan untuk melakukan
baca/tulis (read/write).
 non random-access » waktu yang dibutuhkan untuk
memposisikan mekanisme read/write pada lokasi yang
dikehendaki.
Waktu putar
 Waktu akses + waktu yang diperlukan hingga dapat
melakukan akses berikutnya.
Transfer rate
 Kecepatan data yang dapat ditransfer dari dan ke unit
memori.
 Karakteristik Kunci
Sistem Memori Komputer
 Tipe Fisik
 Semikonduktor
 Permukaan magnetis
 Optis
 Magneto-optical
 Karakteristik Fisik
 Volatile
 Informasi hilang saat daya dimatikan (semikonduktor)
 Nonvolatile
 informasi tetap ada sampai dengan sengaja dihilangkan
 tidak memerlukan listrik untuk mempertahankan informasi (semiconductor,
magnetic, optical).
 Nonerasable
 Tidak dapat diubah, kecuali dengan menghancurkan unit penyimpanan.
 Memori semikonduktor jenis ini dikenal sebagai read-only memory (ROM)
 Organisasi
 Untuk RAM (random access memory), pengorganisasian memori menjadi
kunci desainnya.
 Organisasi dalam rangka mengatur fisik bit untuk membentuk suatu word.
 Hirarki Memori

 Tiga pertanyaan utama

how much?
how fast?
how expensive?
 Implementasi memori berkaitan kapasitas, waktu akses
dan biaya
Waktu akses yang lebih cepat, biaya per-bitnya lebih besar
Kapasitas yang lebih besar, biaya per-bitnya lebih kecil
Kapasitas yang lebih besar, waktu aksesnya lebih lambat
 Solusi penggunaan memori tidak bergantung pada satu
komponen memori
perhatikan hirarki memori
Hirarki Memori
Cache dan Memori Utama
 Struktur
Cache/Memori Utama
Operasi Baca Cache
 Alamat Cache

 Virtual memory
Suatu fasilitas yang memungkinkan program dapat
menangani memori secara logis tanpa harus
memperhatikan jumlah memori utama yang tersedia
secara fisik
Ketika digunakan, alamat instruksi mesin berisi alamat
virtual
Untuk melakukan baca/tulis dari memori utama, unit
manajemen memori (MMU) hardware akan
menterjemahkan setiap alamat virtual ke alamat fisik
dari memori utama.
Organisasi Cache
Cache Fisik dan Logis
 Jumlah Cache

Single atau multi Level

Single, 1 cache pada saat pertama diperkenalkan;
Multilevel, perkembangan saat ini lebih dari 1
cache, adanya L1/L2/L3 cache.

Unified atau Split

Unified, penggabungan cache intruksi dan data;
Split, pemisahan cache intruksi dan data.
 Hit Ratio (L1 & L2)
For 8 Kbyte and 16 Kbyte L1
 Unified Versus Split Caches

 Split Cache
Salah satu didedikasikan untuk instruksi
Salah satu didedikasikan untuk data
Keduanya berada di tingkat yang sama (umumnya L1)
 Unified Cache
Hit rate yang lebih tinggi
Keseimbangan dalam pemanggilan instruksi dan data
Digunakan pada satu jenis cache
 Trend kedepan, split cache pada L1 dan unified
cache pada cache yang lebih tinggi.
Pentium 4 Block Diagram
ARM Cache and Write
Buffer Organization