QUIZ 1

TEORI INFORMASI DAN PENGKODEAN

SEMESTER GASAL TAHUN AKADEMIK 2019/2020

Dibuat Oleh:
Maria Immaculata Lisa Prasetyani
062001800524

UNIVERSITAS TRISAKTI
TEKNIK ELEKTRO
2019
1. Jika Receiver menerima message dalam hamming code berbentuk 011100010101110,
apakah message tersebut benar atau mengandung eror? Jika eror, bagaimanakah
seharusnya bentuk message yang benar?
Jawab :

Sehingga didapatkan :
 P # 1 = ? 1 0 0 0 0 1 0 = 0 (Benar)
 P # 2 = ? 1 0 0 1 0 1 0 = 1 (Benar)
 P # 4 = ? 0 0 0 1 1 1 0 = 1 (Benar)
 P # 8 = ? 0 1 0 1 1 1 0 = 0 (Salah)

Dari hasil yang didapatkan terdapat eror di P#8 yang pada message menerima 1 namun
pada sistem koreksi hasil yang didapatkan 0. Sehingga bentuk message yang benar adalah
pada P#8 yang semula 1 diubah menjadi 0. Berikut bentuk message yang benar :
2. Suatu DSM membangkitkan 8 buah symbol X1 sampai X8 dengan probability of
occurrence seperti pada table berikut :
Message X1 X2 X3 X4 X5 X6 X7 X8
Probability 0.25 0.25 0.125 0.125 0.0625 0.0625 0.0625 0.0625

a. Buatlah Huffman Code dan Shannon-Fano Code untuk pesan tersebut diatas
b. Hitunglah average code length, Entrophy dan Effisiensi dari kedua kode pada soal
diatas dan bandingkan kode mana yang lebih effisien
Jawab:
a. Penyelesaian dengan Huffman code dan Shannon-fano code
 Huffman code
Langkah 1 urutkan symbol berdasarkan pada probabilitas secara “descending” akan
didapatkan sebagai berikut :

Langkah 2 tuliskan kode mulai dari kanan ke kiri

 Shannon-Fano Code
X p (x) F (x) l (x) Code Word
X1 0.25 0.25 0.125 3 001
X2 0.25 0.5 0.375 3 011
X3 0.125 0.625 0.5625 4 1001
X4 0.125 0.75 0.6875 4 1011
X5 0.0625 0.8125 0.78125 5 11001
X6 0.0625 0.875 0.84375 5 11011
X7 0.0625 0.9375 0.90625 5 11101
X8 0.0625 1 0.96875 5 11111

b. Hitunglah average code length, Entrophy dan Effisiensi dari kedua kode pada soal
diatas dan bandingkan kode mana yang lebih effisien
- Huffmann Code
 Average length dari kode :
L =∑pi li
= 0.25 (2) + 0.25 (2) + 0.125 (3) + 0.125 (3) + 0.0625 (4) + 0.0625 (4) +
0.0625 (4) + 0.0625 (4)
= 2,75 bits/simbols
 Besarnya entrophy dari source
1 1 1 1
H(S) = 0.25 log 2 0.25 + 0.25 log 2 0.25 + 0.125 log 2 0.125 + 0.125 log 2 0.125 +
1 1 1
0.0625 log 2 0.0625 + 0.0625 log 2 0.0625 + 0.0625 log 2 0.0625 +
1
0.0625 log 2 0.0625

= 2,75 bits/symbol
 Effisiensi
𝐻(𝑆)
η = × 100%
𝐿
2,75
= 2,75 × 100%

= 100%
- Shannon-Fano Code
 Average length dari kode :
L =∑pi li
= 0.25 (3) + 0.25 (3) + 0.125 (4) + 0.125 (4) + 0.0625 (5) + 0.0625 (5) +
0.0625 (5) + 0.0625 (5)
= 3,75 bits/simbols

 Besarnya entrophy dari source

1 1 1 1
H(S) = 0.25 log 2 0.25 + 0.25 log 2 0.25 + 0.125 log 2 0.125 + 0.125 log 2 0.125 +
1 1 1
0.0625 log 2 0.0625 + 0.0625 log 2 0.0625 + 0.0625 log 2 0.0625 +
1
0.0625 log 2
0.0625
= 2,75 bits/symbol
  Effisiensi
𝐻(𝑆)
η = × 100%
𝐿
2,75
= 3,75 × 100%

= 73.33%

Sehingga yang lebih effisien adalah menggunakan Huffmann Code

3. Kita Memiliki 2 sistem pengkodean masing- masing untuk 6 buah symbol yaitu
P(00,01,11,011,0110 dan 0111) serta Q (00,010,011,10,100,111). Periksalah apakah kedua
sistem koding diatas merupakan:
a. Instant code
b. Uniquely decodable code
c. Jika probability of occurrence dari tiap symbol (0.2 ; 0.15; 0.05; 0.1; 0.1; 0.4) sistem
koding yang manakah yang lebih effisien.

Jawab :
Instant Code & Uniquely decodable code

P = 0 0, 0 1, 1 1, 0 1 1, 0 1 1 0, 0 1 1 1 Uniquely decodable code

Not instant code

Q = 0 0, 0 1 0, 0 1 1, 1 0, 1 0 0, 1 1 1 Uniquely decodable code

Penjelasan :

a. Instant Code misalkan:

P6 0111

P=011X Terdapat 2 kemungkinan, sehingga P non Instant Code

P5 0110

Q3 011

Q=01 X Terdapat 2 kemungkinan, sehingga Q non Instant Code

Q2 010

b. Uniquely decodable code

P
P1 00
P2 01
P3 11
P4 011
P5 0110
P6 0111

Misalkan diambil data random : 0 1 1 1

P2P3 = 0 1 1 1

P=0111 Sehingga P Bukan Uniquely decodable code

P6 = 0 1 1 1
 Q
Q1 00
Q2 010
Q3 011
Q4 10
Q5 100
Q6 111

Misalkan diambil data random : 1 0 0 1 0

Q5Q4 = 1 0 0 1 0

P=0111 Sehingga Q Bukan Uniquely decodable code

Q4Q2 = 1 0 0 1 0

c. Jika probability of occurrence dari tiap symbol (0.2 ; 0.15; 0.05; 0.1; 0.1; 0.4) sistem
koding yang manakah yang lebih effisien.
Probability Code Code Length Length P(p).l P(q).l log 2 𝑝(𝑝) log 2 𝑝 (𝑄) -p log 2 𝑝 -p log 2 𝑝(Q)
(p) P Q P Q P Q H(x) H(x)
0,2 00 00 2 2 0,4 0,4 2,32 2,32 0,464 0.464
0,15 01 010 2 3 0,3 0,45 2,74 2,74 0,411 0.411
0,05 11 011 2 3 0,1 0,15 4,32 4,32 0,216 0.216
0,1 011 10 3 2 0,3 0,2 3,.32 3,32 0,332 0.332
0,1 0110 100 4 3 0,4 0,3 3,32 3,32 0,332 0.332
0,4 0111 111 4 3 1,6 1,2 1,32 1,32 0.528 0.528
Total p.l (E(L)) 3,1 2,7 H=2,283 H= 2,283
𝐻(𝑥)
Efisiensi η untuk P = × 100%
𝐸𝐿
2,283
= × 100%
3,1

= 73,64 %
 𝐻(𝑥)
Efisiensi η untuk Q = × 100%
𝐸𝐿
2,283
= × 100%
2,7

= 84,6 %

Sehingga hasil yang didapatkan bahwa Q lebih efisien jika dibandingkan dengan P.