Catatan Kuliah

MA4081
PENGANTAR PROSES STOKASTIK
“Orang Pintar Belajar Stokastik”

disusun oleh
Khreshna I.A. Syuhada, MSc. PhD.

Kelompok Keilmuan STATISTIKA - FMIPA

Institut Teknologi Bandung
2012
Tentang MA4081 Pengantar Proses Stokastik
A. Jadwal kuliah:

• Selasa; 13-14.40; R.9231

• Kamis; 13-14.40; R.9307

B. Silabus:

• Peluang, peubah acak dan distribusi (2 minggu)

• Peluang dan ekspektasi bersyarat (1 minggu)

• Rantai Markov (4 minggu)

• Distribusi Eksponensial (3 minggu)

• Proses Poisson (2 minggu)

C. Buku teks:

• Sheldon Ross, 2010, Introduction to Probability Models, 10th ed., Aca-

demic Press.

• Taylor dan Karlin, 1998, An Introduction to Stochastic Modelling, 3rd

ed., Academic Press.

E. Penilaian:

• Ujian 1,2,3 (90%):

18 September 2012 (20%)
18 Oktober 2012 (35%)
4 Desember 2012 (35%)

• Kuis/PR/Kehadiran (10%)

MA5181 Pros.Stok. i K. Syuhada, PhD.

Matriks kegiatan perkuliahan

Table 1: Materi kuliah MA5181 Proses Stokastik.

Minggu- Materi Keterangan

1 Pengantar Penjelasan kuliah
2 Peluang, peubah acak dan distribusi
3 Peluang dan ekspektasi bersyarat
4 Ujian 1 18 September 2012
5-8 Rantai Markov*
8 Ujian 2 18 Oktober 2012
9 -
10-12 Distribusi Eksponensial*
13-14 Proses Poisson*
15 Ujian 3 4 Desember 2012

MA5181 Pros.Stok. ii K. Syuhada, PhD.

Daftar Isi

1 Peluang, Peubah Acak dan Distribusi 1

1.1 Peluang . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Peubah acak dan distribusi . . . . . . . . . . . . . . . . . . . . . 4
1.3 Ekspektasi bersyarat . . . . . . . . . . . . . . . . . . . . . . . . 7

2 Rantai Markov 1
2.1 Ilustrasi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2.2 Definisi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.3 Peluang n-langkah . . . . . . . . . . . . . . . . . . . . . . . . . 6

iii
BAB 1

Peluang, Peubah Acak dan

Distribusi

1.1 Peluang

Peluang adalah suatu konsep berpikir, bukan sekadar angka (walaupun wu-
judnya adalah angka diantara nol dan satu). Peluang berkaitan dengan meny-
atakan alasan atas suatu kejadian. Peluang, secara implisit, mengajak kita un-
tuk mempersiapkan diri menghadapi kejadian yang tidak terjadi (yang memi-
liki peluang kecil).

Contoh:
Setiap hari Laila pergi ke kampus dan berharap perkuliahan terjadi (untuk
setiap mata kuliah Laila sudah memiliki dugaan peluang terjadinya perkulia-
han tersebut). Jika suatu hari Laila tidak pergi ke kampus, akankah sebuah
perkuliahan benar-benar tidak terjadi?

Contoh:
Ini kisah masa lalu Tiani yang sempat diceritakan sesaat sebelum Tiani menikah.
Katanya “Ayahku meninggal waktu usiaku tiga tahun. Lalu Ibu kawin lagi.
Dengan ayah tiriku, Ibu mendapat dua orang anak tiri dan melahirkan tiga
orang anak. Ketika usiaku lima belas tahun, Ibu pun meninggal. Ayah tiriku
kawin lagi dengan seorang janda yang sudah beranak dua. Ia melahirkan dua
orang anak pula dengan ayah tiriku”. Adakah sosok seperti Tiani?

Untuk membuat peluang lebih berwujud, maka diciptakan cara menghitung

peluang. Secara khusus, kita akan menghitung peluang suatu kejadian. Pelu-
ang terdefinisi pada suatu ruang sampel.

1
Catatan:
• Percobaan adalah kegiatan yang menghasilkan keluaran/hasil yang mungkin
secara acak.

• Ruang sampel S adalah himpunan dari semua hasil yang mungkin dari
suatu percobaan. Anggota dari S disebut kejadian elementer.

• Kejadian adalah himpunan bagian dari ruang sampel atau koleksi dari
kejadian-kejadian elementer.

• Peluang kejadian A adalah

n(A)
P (A) = lim
n→∞ n
n(A)
P (A) =
n(S)

Contoh:
Direktur perusahaan mengundang para karyawan yang memiliki setidaknya
satu anak laki-laki (L) ke acara syukuran khitanan. Seorang karyawan memi-
liki dua anak. Berapa peluang bahwa kedua anak karyawan adalah laki-laki,
diberikan bahwa karyawan tersebut diundang ke acara syukuran?
Solusi: Misalkan L kejadian memiliki anak laki-laki; LK kejadian memiliki
dua anak laki-laki; U kejadian diundang ke acara syukuran. Jadi,

P (LK ∩ U )
P (LK|U ) =
P (U )
P ({{LL} ∩ {LL, LLc , Lc L}})
=
P ({LL, LLc , Lc L})
P ({LL})
=
P ({LL, LLc , Lc L})
= (1/4)/(3/4) = 1/3

Seringkali dibutuhkan nilai (awal) peluang suatu kejadian, untuk kemudian

dapat dihitung peluang kejadian berikutnya. Menentukan nilai awal peluang
merupakan masalah yang menarik dan menantang (challenging).

Contoh:
Sebagai seorang sekretaris, Dien tahu bahwa sebuah surat akan berada di salah
satu dari tiga buah kotak surat yang ada dengan peluang sama. Misalkan pi
adalah peluang bahwa Dien akan menemukan surat setelah mengecek kotak
surat i dengan cepat jika ternyata surat tersebut berada di kotak surat i,

MA5181 Pros.Stok. 2 K. Syuhada, PhD.

i = 1, 2, 3. Misalkan Dien mengecek kotak surat 1 dan tidak menemukan surat.
Berapa peluang kejadian itu akan terjadi? Jika diketahui Dien mengecek kotak
surat 1 dan tidak menemukan surat, berapa peluang bahwa surat itu ada di
kotak surat 1?
Solusi: Misalkan Ki , i = 1, 2, 3 adalah kejadian surat berada di kotak surat i.
Misalkan T kejadian mengecek kotak surat 1 dan tidak mendapatkan surat.
Peluang kejadian itu akan terjadi adalah

P (T ) = P (T |K1 )P (K1 ) + P (T |K2 )P (K2 ) + P (T |K3 )P (K3 )

= (1 − p1 )(1/3) + 1/3 + 1/3

Jika diketahui Dien mengecek kotak surat 1 dan tidak menemukan surat, maka
peluang bahwa surat itu ada di kotak surat 1 adalah

P (T |K1 )P (K1 )
P (K1 |T ) =
P (T |K1 )P (K1 ) + P (T |K2 )P (K2 ) + P (T |K3 )P (K3 )
(1 − p1 )(1/3)
=
(1 − p1 )(1/3) + 1/3 + 1/3

Contoh:
B dan G secara bersamaan menembak sasaran tertentu. Peluang tembakan
B mengenai sasaran adalah 0.7 sedangkan peluang tembakan G (bebas dari
tembakan B) mengenai sasaran adalah 0.4. Jika sebuah tembakan menge-
nai sasaran, berapa peluang bahwa itu tembakan G? Berapa peluang bahwa,
jika sasaran tertembak, kedua tembakan mengenai sasaran? Berapa peluang
bahwa, jika sasaran tertembak, tembakan G mengenai sasaran?
Solusi: Misalkan B kejadian B menembak sasaran. Misalkan G kejadian G
menembak sasaran. Misalkan T kejadian sebuah tembakan mengenai sasaran.
Misalkan S kejadian sasaran tertembak

P (G ∩ T )
P (G|T ) =
P (T )
P (G ∩ B c )
=
P (G ∩ B c ) + P (B ∩ Gc )
(0.4)(0.3)
=
(0.4)(0.3) + (0.7)(0.6)

MA5181 Pros.Stok. 3 K. Syuhada, PhD.

 P (G ∩ S) P (B ∩ S)
P (G ∩ B|S) =
P (S)
P (G)P (B)
=
1 − P (Gc ∩ B c )
(0.4)(0.7)
=
1 − (0.6)(0.3)

P (G ∩ S)
P (G|S) =
P (S)
P (G ∩ S)
=
1 − P (Gc ∩ B c )
0.4
=
1 − (0.6)(0.3)

1.2 Peubah acak dan distribusi

Peubah acak (p.a.) adalah alat untuk “memudahkan” kita dalam “menyeder-
hanakan” hitungan peluang; p.a. membuat kita bekerja dalam bilangan riil.
Catatan: Peubah acak berbeda dengan peubah!

P.a. berkaitan dengan distribusi atau, secara khusus, fungsi distribusi (kumu-
latif) (f.d.). Melalui f.d., p.a. akan makin memiliki makna dan aplikatif. Con-
toh, suatu p.a. menyatakan waktu tunggu seorang lulusan mendapat peker-
jaan. P.a. tersebut mengikuti distribusi eksponensial. Kita dapat memahami
perilaku p.a. (secara probabilistik) tersebut melalui f.d.

Misalkan X suatu p.a.; F.d. untuk X adalah

FX (x) = F (x) = P (X ≤ x)

dengan sifat-sifat:
(a) F fungsi tidak turun
(b) limx→∞ F (x) = 1
(c) limx→−∞ F (x) = 0
(d) F fungsi kontinu kanan

Catatan:
Jika X p.a. diskrit,

• P (a < X ≤ b) = F (b) − F (a)

MA5181 Pros.Stok. 4 K. Syuhada, PhD.

 • P (X ≤ b) ̸= P (X < b)

•
( { 1 })
P (X < b) = P X ≤b−
lim
n→∞ n
( 1)
= lim P X ≤ b −
n→∞ n
( 1)
= lim F b −
n→∞ n

Contoh:
Tentukan fungsi peluang dari f.d. berikut:

 0, x<0




3 + 5, 0 ≤ x < 1
1 x

F (x) = 35 , 1≤x<2



 9
, 2≤x<3

 10
1, x≥3
Solusi:

Misalkan X p.a dengan f.d. FX (x). Kita dapat membentuk p.a. baru (menurut
konsep Transformasi Peluang) yaitu

U = FX (X) ∼ U nif (0, 1),

dengan f.d.

FU (u) = P (U ≤ u)
= P (FX (X) ≤ u)
= P (X ≤ FX−1 (u))
= FX (FX−1 (u))
= u.

Contoh:
Jika X berdistribusi Uniform pada selang (-1,1), tentukan
(a) P (|X| > 1/2)
(b) fungsi peluang dari |X|.
Solusi:

Contoh:
Maskapai penerbangan mengetahui bahwa lima persen pemesan tiket tidak
akan datang untuk membeli tiketnya. Dengan alasan ini, maskapai tidak ragu

MA5181 Pros.Stok. 5 K. Syuhada, PhD.

untuk menjual 52 tiket penerbangan pada pesawat dengan kapasitas duduk
50 orang. Berapa peluang akan ada kursi yang tersedia untuk setiap pemesan
tiket yang datang?
Solusi:

Contoh:
Misalkan X p.a. berdistribusi Poisson dengan mean λ. Parameter λ berdis-
tribusi eksponensial dengan mean 1. Tunjukkan bahwa

P (X = n) = (1/2)n+1

Solusi:

Misalkan X peubah acak dengan f.d. F dapat diturunkan. Fungsi peluang

(f.p.) f adalah turunan dari f.d.,

d
fX (x) = FX (x)
dx
atau, dengan kata lain,
∫ x
FX (x) = fX (t) dt
−∞

Jika X p.a. sedemikian hingga f.p.-nya ada (turunan dari f.d.) maka X
dikatakan sebagai peubah acak kontinu.

Catatan:
∫ ∞
1 = FX (∞) = fX (t) dt
−∞
∫ b
P (a ≤ X ≤ b) = FX (b) − FX (a) = fX (t) dt
∫ a a

P (X = a) = fX (t) dt = 0
a

Salah satu contoh distribusi kontinu adalah distribusi eksponensial dengan

parameter θ yang memiliki f.d.

F (x) = 1 − e−θx , x ≥ 0,

Seperti apakah “bentuk” data berdistribusi eksponensial? Untuk membangk-

itkan datanya, contoh X ∼ exp(1/3), serta bentuk distribusinya (dalam his-
togram) kita gunakan kode berikut:
x = exprnd(3,10,1);
hist(x)

MA5181 Pros.Stok. 6 K. Syuhada, PhD.

Kita dapat pula membangkitkan data dengan menggunakan teknik simulasi
stokastik yaitu “Invers Transformation Method”. Misalkan U peubah acak
Uniform(0, 1). Untuk setiap f.d. kontinu F , jika kita definisikan peubah acak
X sbb:

X = F −1 (U )

maka peubah acak X memiliki f.d. F . Contoh: Jika F (x) = 1 − e−x maka
F −1 (u) adalah nilai x sedemikian hingga

1 − e−x = u

atau

x = − log(1 − u)

Jadi, jika U adalah p.a. Uniform(0,1) maka

F −1 (U ) = − log(1 − U )

adalah p.a. eksponensial dengan mean 1 (parameter 1).

1.3 Ekspektasi bersyarat

Distribusi Bersama
Misalkan X dan Y p.a. dengan f.d. berturut-turut FX dan FY . Kita dapat
membangun f.d. dan f.p. bersama dari kedua peubah acak tersebut dari infor-
masi distribusi marginal dan sifat kebebasan. Distribusi bersama untuk dua
atau lebih p.a. sangat membantu dalam membangun model yang lebih rumit.
Hubungan antara f.d. marginal dan f.d. bersama adalah sebagai berikut: f.d.
marginal mungkin dapat membangun f.d. bersama; dengan f.d. bersama kita
dapat menentukan f.d. marginal.

Misalkan X dan Y ada peubah acak-peubah acak diskrit yang terdefinisi di

ruang sampel yang sama. Fungsi peluang bersama dari X dan Y adalah

pX,Y (x, y) = P ({X = x, Y = y})

Perhatikan bahwa (i) kondisi bahwa X dan Y terdefinisi pada ruang sampel
yang sama berarti dua p.a. tsb memberikan informasi secara bersamaan ter-
hadap keluaran (outcome) dari percobaan yang sama, (ii) {X = x, Y = y}
adalah irisan kejadian {X = x} dan {Y = y}; kejadian dimana X bernilai x
dan Y bernilai y.

MA5181 Pros.Stok. 7 K. Syuhada, PhD.

Proposisi
Misalkan X dan Y p.a. diskrit yang didefinisikan pada ruang sampel yang
sama. Maka,
∑
pX (x) = pX,Y (x, y), x ∈ R
y

dan
∑
pY (y) = pX,Y (x, y), y ∈ R
x

adalah f.p. marginal dari X dan f.p. marginal dari Y .

Contoh:
Diberikan data ttg jumlah kamar tidur dan kamar mandi dari 50 rumah yang
akan dijual sbb (X kamar tidur, Y kamar mandi):

X\Y 2 3 4 5 Total
2 3 0 0 0
3 14 12 2 0 28
4 2 11 5 1
Total 23 50
a. Hitung pX,Y (3, 2)
b. Tentukan f.p. bersama dari X dan Y
Solusi:

Contoh:
Misalkan kita punyai 2 komponen elektronik yang identik. Misalkan juga X
dan Y adalah waktu hidup (jam, diskrit). Asumsikan f.p. bersama dari X dan
Y adalah

pX,Y (x, y) = p2 (1 − p)x+y−2 , x, y ∈ N

dimana 0 < p < 1. Tentukan f.p. marginal dari X dan Y .

Solusi:

Contoh:
Perhatikan soal diatas. Tentukan peluang bahwa kedua komponen elektronik
tsb bertahan lebih dari 4 jam. Tentukan peluang bahwa salah satu komponen
bertahan setidaknya 2 kali dari komponen yang lain.
Solusi:

Contoh:
Pandang 2 komponen elektronik A dan B dengan masa hidup X dan Y . Fungsi

MA5181 Pros.Stok. 8 K. Syuhada, PhD.

peluang bersama dari X dan Y adalah

fX,Y (x, y) = λ µ exp(−λx + µy), x, y > 0

dimana λ > 0, µ > 0. Tentukan peluang bahwa kedua komponen berfungsi

pada saat t. Tentukan peluang bahwa komponen A adalah komponen yang
pertama kali rusak
Solusi:

Ekspektasi Bersyarat
Ilustrasi - Seorang narapidana terjebak dalam suatu sel penjara yang memiliki
tiga pintu. Pintu pertama akan membawanya ke sebuah terowongan dan kem-
bali ke sel dalam waktu dua hari. Pintu kedua dan ketiga akan membawanya
ke terowongan yang kembali ke sel dalam waktu masing-masing empat dan
satu hari. Asumsikan bahwa sang napi selalu memilih pintu 1, 2, dan 3 den-
gan peluang 0.5, 0.3 dan 0.2, berapa lama waktu rata-rata (expected number
of days) yang dibutuhkan untuk dia agar selamat?

Definisi:
Misalkan X dan Y adalah p.a. kontinu dengan f.p. bersama fX,Y (x, y). Jika
fX (x) > 0 maka ekspektasi bersyarat dari Y diberikan X = x adalah ekspek-
tasi dari Y relatif terhadap distribusi bersyarat Y diberikan X = x,
∫ ∞ ∫ ∞
fX,Y (x, y)
E(Y |X = x) = y dy = y fY |X (y|x) dy
−∞ fX (x) −∞

Proposisi
Misalkan X dan Y adalah peubah acak-peubah acak kontinu dengan fungsi
peluang bersama fX,Y (x, y). Misalkan ekspektasi dari Y hingga. Maka
∫ ∞
E(Y ) = E(Y |X = x) fX (x) dx
−∞

atau

E(Y ) = E(E(Y |X = x))

Definisi:
Misalkan X dan Y adalah p.a. kontinu dengan f.p. bersama fX,Y (x, y). Jika
fX (x) > 0 maka variansi bersyarat dari Y diberikan X = x adalah variansi
dari Y relatif terhadap distribusi bersyarat Y diberikan X = x,
(( )2  )
V ar(Y |X = x) = E Y − E(Y |X = x) X = x

MA5181 Pros.Stok. 9 K. Syuhada, PhD.

Proposisi
Misalkan X dan Y adalah peubah acak-peubah acak kontinu dengan fungsi
peluang bersama fX,Y (x, y). Misalkan variansi dari Y hingga. Maka

V ar(Y ) = E(V ar(Y |X = x)) + V ar(E(Y |X))

Contoh:
Misalkan X dan Y peubah acak kontinu dengan fungsi peluang bersama

f (x, y) = e−x(y+1) , 0 ≤ x, 0 ≤ y ≤ e − 1
( )
(a) Hitung P (X > 1|Y )= 12
(b) Hitung E X|Y = 12
Solusi:

Contoh:
Febri meninggalkan kantor setiap hari kerja antara pukul 6-7 malam. Jika
dia pergi t menit setelah pukul 6 maka waktu untuk mencapai rumah adalah
peubah acak berdistribusi Uniform pada selang (20, 20 + (2t)/3). Misalkan
Y adalah banyak menit setelah pukul 6 dan X banya menit untuk mencapai
rumah, berapa lama waktu mencapai rumah?
Solusi:

Contoh:
Zarudd saat ini berada di penjara Markas Brimob di Kelapa Dua, Depok. Dia
ingin melarikan diri (katanya sih ingin ke Bogota atau manalah) namun hal
ini tidak mudah. Fakta yang ada menunjukkan bahwa kalau Zarudd hendak
keluar dari penjara dia akan menghadapi tiga pintu. Pintu pertama akan
membawanya ke sebuah lorong dan kembali ke penjara dalam waktu dua jam.
Pintu kedua pun demikian, akan membawanya ke sebuah lorong dan kembali
ke penjara dalam waktu tiga jam. Sedangkan pintu ketigalah yang membawa
Zarudd langsung bebas. Jika Zarudd memilih pintu-pintu, yang belum di-
gunakannya, secara acak, berapa lama waktu rata-rata (expected number of
hours) yang dibutuhkan Zarudd untuk bebas?
Solusi:

MA5181 Pros.Stok. 10 K. Syuhada, PhD.

BAB 2

Rantai Markov

2.1 Ilustrasi

(Ilustrasi 1) Perilaku bunuh diri kini kian menjadi-jadi. Hesti (nama sebe-
narnya) adalah sebuah contoh. Dia pernah melakukan percobaan bunuh diri,
namun gagal. Menurut pakar, kalau pada suatu waktu seseorang melakukan
percobaan bunuh diri maka besar kemungkinan dia akan melakukannya lagi di
masa mendatang. Jika seseorang belum pernah melakukan percobaan bunuh
diri, di masa mendatang orang tersebut akan mungkin melakukan percobaan
bunuh diri. Deskripsikan fenomena diatas sebagai model peluang (probability
model).

(Ilustrasi 2) “Pada 23 Juni lalu sekitar pukul 21.30 mobil yang dikemudikan
suami saya terperosok masuk lubang di jalan tol lingkar luar Jakarta, kira-kira
2 kilometer dari Pintu Tol Pondok Ranji arah Jakarta. Ban dan gading-gading
roda rusak. Esoknya saya mengajukan klaim asuransi Sinar Mas kepada SiMas
Bekasi. Pada 1 Juli saya mendapat jawaban bahwa klaim asuransi ditolak den-
gan alasan: bagian yang rusak hanya ban dan gading-gading roda. Tak menge-
nai badan mobil. Padahal, tercantum jelas di dalam pasal-pasal polis asuransi
maupun surat penolakan bahwa ban dan gading-gading roda tidak dijamin, ke-
cuali disebabkan oleh Pasal 1 angka 1.1. Isi pasal itu, pertanggungan ini men-
jamin kerusakan yang secara langsung disebabkan oleh tabrakan, benturan,
terbalik, tergelincir atau terperosok. Asuransi Sinar Mas berusaha menghin-
dar dari kewajiban dengan alasan mengada-ada, bahkan mengingkari aturan
yang dibuatnya sendiri” (Surat Pembaca KOMPAS; 03/08/2010). Andaikan
suatu hari saya mengajukan klaim lagi ke Asuransi Sinar Mas, berapa peluang
bahwa klaim saya akan diterima?

(Ilustrasi 3) Loyalitas konsumen terhadap suatu merek barang. Wilkie

(1994) mendefinisikan “brand loyalty as a favorable attitude toward and con-
sistent purchase of a particular brand”. Lyong (1998): “brand loyalty is a

1
function of a brands’ relative frequency of purchase in both time-independent
and time-dependent situations”. Seorang konsumen pembeli merek barang A
diharapkan akan terus membeli barang A. Mungkinkah ini terjadi? Apakah
model statistika yang dapat dengan tepat (atau mendekati tepat) merinci pelu-
ang terjadinya hal ini? Apakah model ini membantu dalam strategi pemasaran
suatu barang?

(Ilustrasi 4) Akhir-akhir ini, hujan dan panas (baca: tidak hujan) datang
silih berganti tanpa bisa diduga. Kalau hari ini hujan, besok mungkin hu-
jan mungkin juga panas. Tentu saja peluang besok hujan akan lebih besar
dibanding peluang besok akan panas. Begitu pula jika hari ini panas. Besok
akan lebih mungkin panas dibandingkan hujan. Jika hari Senin hujan, berapa
peluang bahwa hari Selasa akan hujan? Berapa peluang bahwa hari Kamis
akan hujan?

(Ilustrasi 5) Sebagai calon atlet, setiap pagi Laila meninggalkan rumahnya

untuk berlari pagi. Laila akan pergi lewat pintu depan atau belakang den-
gan peluang sama. Ketika meninggalkan rumah, Laila memakai sepatu olah
raga atau bertelanjang kaki jika sepatu tidak tersedia di depan pintu yang dia
lewati. Ketika pulang, Laila akan masuk lewat pintu depan atau belakang dan
meletakkan sepatunya dengan peluang sama. Diketahui bahwa Laila memiliki
4 pasang sepatu olah raga. Berapa peluang bahwa Laila akan sering berolah
raga dengan bertelanjang kaki?

(Ilustrasi 6) Hutang tak terbayar.

Hutang atau rugi dimasa depan, milik siapa?
Perlukah kita mengetahui (baca: memprediksi) kerugian dimasa depan?
Bagaimana memodelkan kerugian?
“segmentation algorithm”?
“Markov chain”?
“account’s behavioural score”?
 
0.85 0.09 0.01 0.00 0.01 0.01 0.03
 0.05 0.76 0.12 0.04 0.01 0.00 0.02 
 
 0.03 0.08 0.70 0.15 0.03 0.00 0.01 
 
P=  0.01 0.04 0.03 0.70 0.12 0.00 0.00 

 0.00 0.02 0.07 0.03 0.88 0.00 0.00 
 
 0.00 0.00 0.00 0.00 0.00 1.00 0.00 
0.00 0.00 0.00 0.00 0.00 0.00 1.00

MA5181 Pros.Stok. 2 K. Syuhada, PhD.

2.2 Definisi

Proses stokastik {Xn } adalah Rantai Markov:

• n = 0, 1, 2, . . .

• nilai yang mungkin adalah hingga atau terhitung

•
( )
P Xn+1 = j|Xn = i, Xn−1 = in−1 , . . . , X1 = i1 , X0 = i0 = Pij (∗)

• distribusi bersyarat Xn+1 , diberikan keadaan-keadaan lampau (past states)

X0 , X1 , . . . , Xn−1 dan keadaan sekarang (present state) Xn , hanya bergan-
tung pada keadaan sekarang (“Sifat Markov”)

• keadaan-keadaan (states): i0 , i1 , . . . , in−1 , i, j

Pij peluang bahwa proses akan berada di keadaan j dari keadaan i;

∑
∞
Pij ≥ 0, i, j ≥ 0; Pij = 1, i = 0, 1, . . .
j=0

Matriks peluang transisi Pij adalah

 
P00 P01 P02 · · ·
 P10 P11 P12 · · · 
 
 .. .. .. 
P= . . . 
 
 Pi0 Pi0 Pi0 · · · 
.. .. ..
. . .

MA5181 Pros.Stok. 3 K. Syuhada, PhD.

 P02

P01 P12

P00 0 P11 1 P22 2 ...

P10 P21

P20

Figure 2.1: Diagram transisi keadaan atau state transition diagram

Perhatikan (*):
( )
P Xn+1 = j|Xn = i, Xn−1 = in−1 , . . . , X1 = i1 , X0 = i0
( )
= P Xn+1 = j|Xn = i
= Pij ,

yang disebut sebagai peluang transisi 1-langkah atau one-step transition prob-
ability.

Peluang bersama
( )
P Xn = i, Xn−1 = in−1 , . . . , X1 = i1 , X0 = i0

dapat dihitung dengan sifat peluang bersyarat berikut.

( )
P Xn = i, Xn−1 = in−1 , . . . , X1 = i1 , X0 = i0
( )
= P Xn−1 = in−1 , . . . , X1 = i1 , X0 = i0
( )
× P Xn = i | Xn−1 = in−1 , . . . , X1 = i1 , X0 = i0
( ) ( )
= P Xn−1 = in−1 , . . . , X1 = i1 , X0 = i0 × P Xn = i | Xn−1 = in−1
= ···
= pi0 · · · Pin−1 ,in

Contoh:
1. Jika, pada waktu t, Rez mengajukan klaim asuransi, maka Rez akan
mengajukan klaim pada waktu t + 1 dengan peluang α; jika Rez tidak
mengajukan klaim asuransi saat ini maka di masa depan Rez akan men-
gajukan klaim asuransi dengan peluang β. Matriks peluang transisinya

MA5181 Pros.Stok. 4 K. Syuhada, PhD.

 adalah...

2. Suatu rantai Markov dengan keadaan-keadaan “0, 1, 2” memiliki matriks

peluang transisi:
 
0.1 0.2 0.7
P =  0.9 0.1 0 
0.1 0.8 0.1

dan P (X0 = 0) = 0.3, P (X0 = 1) = 0.4, P (X0 = 2) = 0.3.

Hitung

P (X0 = 0, X1 = 1, X2 = 2)

3. Keadaan hujan pada suatu hari bergantung pada keadaan hujan dalam
dua hari terakhir. Jika dalam dua hari terakhir hujan maka besok akan
hujan dengan peluang 0.7; Jika hari ini hujan dan kemarin tidak hujan
maka besok akan hujan dengan peluang 0.5; jika hari ini tidak hujan dan
kemarin hujan maka besok akan hujan dengan peluang 0.4; jika dalam
dua hari terakhir tidak hujan maka besok hujan dengan peluang 0.2.
Matriks peluang transisinya adalah...

4. Tiga item produk A dan tiga item produk B didistribusikan dalam dua
buah paket/kotak sedemikian hinga setiap paket terdiri atas tiga item
produk. Dikatakan bahwa sistem berada dalam keadaan i, i = 0, 1, 2, 3
jika dalam paket pertama terdapat i produk A. Setiap saat (langkah),
kita pindahkan satu item produk dari setiap paket dan meletakkan item
produk tersebut dari paket 1 ke paket 2 dan sebaliknya. Misalkan Xn
menggambarkan keadaan dari sistem setelah langkah ke-n. Matriks pelu-
ang transisinya adalah...

5. Menurut Kemeny, Snell dan Thompson, Tanah Australia diberkahi den-

gan banyak hal kecuali cuaca yang baik. Mereka tidak pernah memiliki
dua hari bercuaca baik secara berturut-turut. Jika mereka mendapatkan
hari bercuaca baik maka esok hari akan bersalju atau hujan dengan pelu-
ang sama. Jika hari ini mereka mengalami salju atau hujan maka be-
sok akan bercuaca sama dengan peluang separuhnya. Jika terdapat pe-
rubahan cuaca dari salju atau hujan, hanya separuh dari waktu besok
akan menjadi hari bercuaca baik. Tentukan matriks peluang transisi dari
Rantai Markov yang dibentuk dari keadaan-keadaan diatas.

MA5181 Pros.Stok. 5 K. Syuhada, PhD.

 6. Suatu rantai Markov dengan keadaan-keadaan “0, 1, 2” memiliki matriks
peluang transisi:
 
0.7 0.2 0.1
P =  0 0.6 0.4 
0.5 0 0.5

Hitung

P (X2 = 1, X3 = 1 | X1 = 0)

dan

P (X1 = 1, X2 = 1 | X0 = 0)

7. Sebagai calon atlet, setiap pagi Swari meninggalkan rumahnya untuk

berlari pagi. Swari akan pergi lewat pintu depan atau belakang dengan
peluang sama. Ketika meninggalkan rumah, Swari memakai sepatu olah
raga atau bertelanjang kaki. Ketika pulang, Swari akan masuk lewat
pintu depan atau belakang dan meletakkan sepatunya dengan peluang
sama. Diketahui bahwa Swari memiliki 4 pasang sepatu olah raga. Ben-
tuklah suatu Rantai Markov dari proses diatas.

2.3 Peluang n-langkah

Persamaan Chapman-Kolmogorov
Misalkan Pijn menyatakan peluang transisi n-langkah suatu proses di keadaan
i akan berada di keadaan j,

Pijn = P (Yk+n = j|Yk = i), n ≥ 0, i, j ≥ 0.

Persamaan Chapman-Kolmogorov adalah alat untuk menghitung peluang tran-

sisi n + m-langkah:
∑
∞
Pijn+m = m
Pikn Pkj , (Buktikan!)
k=0

untuk semua n, m ≥ 0 dan semua i, j. Pikn Pkj m

menyatakan peluang suatu
proses dalam keadaan i akan berada di keadaan j dalam n+m transisi, melalui
keadaan k dalam n transisi/langkah.

MA5181 Pros.Stok. 6 K. Syuhada, PhD.

Contoh/Latihan:

1. Jika hari ini hujan maka besok akan hujan dengan peluang α = 0.7; jika
hari ini tidak hujan maka besok akan hujan dengan peluang β = 0.4.
Matriks peluang transisi 4 langkah adalah...

2. Keadaan hujan pada suatu hari bergantung pada keadaan hujan dalam
dua hari terakhir. Jika dalam dua hari terakhir hujan maka besok akan
hujan dengan peluang 0.7; Jika hari ini hujan dan kemarin tidak hujan
maka besok akan hujan dengan peluang 0.5; jika hari ini tidak hujan dan
kemarin hujan maka besok akan hujan dengan peluang 0.4; jika dalam
dua hari terakhir tidak hujan maka besok hujan dengan peluang 0.2.
Matriks peluang transisinya adalah sbb:
 
0.7 0 0.3 0
 0.5 0 0.5 0 
P=  0 0.4 0 0.6 


0 0.2 0 0.8

Jika hari Senin dan Selasa hujan, berapa peluang bahwa hari Kamis akan
hujan?

Peluang Transisi Tak Bersyarat

Misalkan

αi = P (X0 = i), i ≥ 0,
∑∞
dimana i=0 αi = 1. Peluang tak bersyarat dapat dihitung dengan men-
syaratkan pada keadaan awal,
∑
∞ ∑
∞
P (Xn = j) = P (Xn = j|X0 = i) P (X0 = i) = Pijn αi
i=0 i=0

Contoh/Latihan:

1. Pandang soal yang lalu dengan matriks peluang transisi:

( )
0.7 0.3
P=
0.4 0.6

Jika diketahui α0 = P (X0 = 0) = 0.4 dan α1 = P (X0 = 1) = 0.6, maka

peluang (tak bersyarat) bahwa hari akan hujan 4 hari lagi adalah...

MA5181 Pros.Stok. 7 K. Syuhada, PhD.

 2. Seorang pensiunan H menerima 2 (juta rupiah) setiap awal bulan. Banyaknya
uang yang diperlukan H untuk dibelanjakan selama sebulan saling bebas
dengan banyaknya uang ∑4 yang dia punya dan sama dengan i dengan pelu-
ang Pi , i = 1, 2, 3, 4, i=1 Pi = 1. Jika H memiliki uang lebih dari 3 di
akhir bulan, dia akan memberikan sejumlah uang lebih dari 3 itu kepada
orang lain. Jika setelah dia menerima uang diawal bulan H memiliki
uang 5, berapa peluang uangnya akan 1 atau kurang setiap saat selama
4 bulan berikut?

MA5181 Pros.Stok. 8 K. Syuhada, PhD.