Anda di halaman 1dari 30

Catatan Kuliah

MA4081
PENGANTAR PROSES STOKASTIK
Orang Pintar Belajar Stokastik
disusun oleh
Khreshna I.A. Syuhada, MSc. PhD.
Kelompok Keilmuan STATISTIKA - FMIPA
Institut Teknologi Bandung
2012
Tentang MA4081 Pengantar Proses Stokastik
A. Jadwal kuliah:
Selasa; 13-14.40; R.9231
Kamis; 13-14.40; R.9307
B. Silabus:
Peluang, peubah acak dan distribusi (2 minggu)
Peluang dan ekspektasi bersyarat (1 minggu)
Rantai Markov (4 minggu)
Distribusi Eksponensial (3 minggu)
Proses Poisson (2 minggu)
C. Buku teks:
Sheldon Ross, 2010, Introduction to Probability Models, 10th ed., Aca-
demic Press.
Taylor dan Karlin, 1998, An Introduction to Stochastic Modelling, 3rd
ed., Academic Press.
E. Penilaian:
Ujian 1,2,3 (90%):
18 September 2012 (20%)
18 Oktober 2012 (35%)
4 Desember 2012 (35%)
Kuis/PR/Kehadiran (10%)
MA5181 Pros.Stok. i K. Syuhada, PhD.
Matriks kegiatan perkuliahan
Table 1: Materi kuliah MA5181 Proses Stokastik.
Minggu- Materi Keterangan
1 Pengantar Penjelasan kuliah
2 Peluang, peubah acak dan distribusi
3 Peluang dan ekspektasi bersyarat
4 Ujian 1 18 September 2012
5-8 Rantai Markov*
8 Ujian 2 18 Oktober 2012
9 -
10-12 Distribusi Eksponensial*
13-14 Proses Poisson*
15 Ujian 3 4 Desember 2012
MA5181 Pros.Stok. ii K. Syuhada, PhD.
Daftar Isi
1 Peluang, Peubah Acak dan Distribusi 1
1.1 Peluang . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Peubah acak dan distribusi . . . . . . . . . . . . . . . . . . . . . 4
1.3 Ekspektasi bersyarat . . . . . . . . . . . . . . . . . . . . . . . . 7
2 Rantai Markov 1
2.1 Ilustrasi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
2.2 Denisi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
2.3 Peluang n-langkah . . . . . . . . . . . . . . . . . . . . . . . . . 7
2.4 Jenis Keadaan . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.5 Limit Peluang Transisi . . . . . . . . . . . . . . . . . . . . . . . 13
iii
BAB 1
Peluang, Peubah Acak dan
Distribusi
1.1 Peluang
Peluang adalah suatu konsep berpikir, bukan sekadar angka (walaupun wu-
judnya adalah angka diantara nol dan satu). Peluang berkaitan dengan meny-
atakan alasan atas suatu kejadian. Peluang, secara implisit, mengajak kita un-
tuk mempersiapkan diri menghadapi kejadian yang tidak terjadi (yang memi-
liki peluang kecil).
Contoh:
Setiap hari Laila pergi ke kampus dan berharap perkuliahan terjadi (untuk
setiap mata kuliah Laila sudah memiliki dugaan peluang terjadinya perkulia-
han tersebut). Jika suatu hari Laila tidak pergi ke kampus, akankah sebuah
perkuliahan benar-benar tidak terjadi?
Contoh:
Ini kisah masa lalu Tiani yang sempat diceritakan sesaat sebelum Tiani menikah.
Katanya Ayahku meninggal waktu usiaku tiga tahun. Lalu Ibu kawin lagi.
Dengan ayah tiriku, Ibu mendapat dua orang anak tiri dan melahirkan tiga
orang anak. Ketika usiaku lima belas tahun, Ibu pun meninggal. Ayah tiriku
kawin lagi dengan seorang janda yang sudah beranak dua. Ia melahirkan dua
orang anak pula dengan ayah tiriku. Adakah sosok seperti Tiani?
Untuk membuat peluang lebih berwujud, maka diciptakan cara menghitung
peluang. Secara khusus, kita akan menghitung peluang suatu kejadian. Pelu-
ang terdenisi pada suatu ruang sampel.
1
Catatan:
Percobaan adalah kegiatan yang menghasilkan keluaran/hasil yang mungkin
secara acak.
Ruang sampel S adalah himpunan dari semua hasil yang mungkin dari
suatu percobaan. Anggota dari S disebut kejadian elementer.
Kejadian adalah himpunan bagian dari ruang sampel atau koleksi dari
kejadian-kejadian elementer.
Peluang kejadian A adalah
P(A) = lim
n
n(A)
n
P(A) =
n(A)
n(S)
Contoh:
Direktur perusahaan mengundang para karyawan yang memiliki setidaknya
satu anak laki-laki (L) ke acara syukuran khitanan. Seorang karyawan memi-
liki dua anak. Berapa peluang bahwa kedua anak karyawan adalah laki-laki,
diberikan bahwa karyawan tersebut diundang ke acara syukuran?
Solusi: Misalkan L kejadian memiliki anak laki-laki; LK kejadian memiliki
dua anak laki-laki; U kejadian diundang ke acara syukuran. Jadi,
P(LK|U) =
P(LK U)
P(U)
=
P({{LL} {LL, LL
c
, L
c
L}})
P({LL, LL
c
, L
c
L})
=
P({LL})
P({LL, LL
c
, L
c
L})
= (1/4)/(3/4) = 1/3
Seringkali dibutuhkan nilai (awal) peluang suatu kejadian, untuk kemudian
dapat dihitung peluang kejadian berikutnya. Menentukan nilai awal peluang
merupakan masalah yang menarik dan menantang (challenging).
Contoh:
Sebagai seorang sekretaris, Dien tahu bahwa sebuah surat akan berada di salah
satu dari tiga buah kotak surat yang ada dengan peluang sama. Misalkan p
i
adalah peluang bahwa Dien akan menemukan surat setelah mengecek kotak
surat i dengan cepat jika ternyata surat tersebut berada di kotak surat i,
MA5181 Pros.Stok. 2 K. Syuhada, PhD.
i = 1, 2, 3. Misalkan Dien mengecek kotak surat 1 dan tidak menemukan surat.
Berapa peluang kejadian itu akan terjadi? Jika diketahui Dien mengecek kotak
surat 1 dan tidak menemukan surat, berapa peluang bahwa surat itu ada di
kotak surat 1?
Solusi: Misalkan K
i
, i = 1, 2, 3 adalah kejadian surat berada di kotak surat i.
Misalkan T kejadian mengecek kotak surat 1 dan tidak mendapatkan surat.
Peluang kejadian itu akan terjadi adalah
P(T) = P(T|K
1
)P(K
1
) +P(T|K
2
)P(K
2
) +P(T|K
3
)P(K
3
)
= (1 p
1
)(1/3) + 1/3 + 1/3
Jika diketahui Dien mengecek kotak surat 1 dan tidak menemukan surat, maka
peluang bahwa surat itu ada di kotak surat 1 adalah
P(K
1
|T) =
P(T|K
1
)P(K
1
)
P(T|K
1
)P(K
1
) +P(T|K
2
)P(K
2
) +P(T|K
3
)P(K
3
)
=
(1 p
1
)(1/3)
(1 p
1
)(1/3) + 1/3 + 1/3
Contoh:
B dan G secara bersamaan menembak sasaran tertentu. Peluang tembakan
B mengenai sasaran adalah 0.7 sedangkan peluang tembakan G (bebas dari
tembakan B) mengenai sasaran adalah 0.4. Jika sebuah tembakan menge-
nai sasaran, berapa peluang bahwa itu tembakan G? Berapa peluang bahwa,
jika sasaran tertembak, kedua tembakan mengenai sasaran? Berapa peluang
bahwa, jika sasaran tertembak, tembakan G mengenai sasaran?
Solusi: Misalkan B kejadian B menembak sasaran. Misalkan G kejadian G
menembak sasaran. Misalkan T kejadian sebuah tembakan mengenai sasaran.
Misalkan S kejadian sasaran tertembak
P(G|T) =
P(G T)
P(T)
=
P(G B
c
)
P(G B
c
) +P(B G
c
)
=
(0.4)(0.3)
(0.4)(0.3) + (0.7)(0.6)
MA5181 Pros.Stok. 3 K. Syuhada, PhD.
P(G B|S) =
P(G S) P(B S)
P(S)
=
P(G)P(B)
1 P(G
c
B
c
)
=
(0.4)(0.7)
1 (0.6)(0.3)
P(G|S) =
P(G S)
P(S)
=
P(G S)
1 P(G
c
B
c
)
=
0.4
1 (0.6)(0.3)
1.2 Peubah acak dan distribusi
Peubah acak (p.a.) adalah alat untuk memudahkan kita dalam menyeder-
hanakan hitungan peluang; p.a. membuat kita bekerja dalam bilangan riil.
Catatan: Peubah acak berbeda dengan peubah!
P.a. berkaitan dengan distribusi atau, secara khusus, fungsi distribusi (kumu-
latif) (f.d.). Melalui f.d., p.a. akan makin memiliki makna dan aplikatif. Con-
toh, suatu p.a. menyatakan waktu tunggu seorang lulusan mendapat peker-
jaan. P.a. tersebut mengikuti distribusi eksponensial. Kita dapat memahami
perilaku p.a. (secara probabilistik) tersebut melalui f.d.
Misalkan X suatu p.a.; F.d. untuk X adalah
F
X
(x) = F(x) = P(X x)
dengan sifat-sifat:
(a) F fungsi tidak turun
(b) lim
x
F(x) = 1
(c) lim
x
F(x) = 0
(d) F fungsi kontinu kanan
Catatan:
Jika X p.a. diskrit,
P(a < X b) = F(b) F(a)
MA5181 Pros.Stok. 4 K. Syuhada, PhD.
P(X b) = P(X < b)

P(X < b) = P
_
lim
n
_
X b
1
n
__
= lim
n
P
_
X b
1
n
_
= lim
n
F
_
b
1
n
_
Contoh:
Tentukan fungsi peluang dari f.d. berikut:
F(x) =
_

_
0, x < 0
1
3
+
x
5
, 0 x < 1
3
5
, 1 x < 2
9
10
, 2 x < 3
1, x 3
Solusi:
Misalkan X p.a dengan f.d. F
X
(x). Kita dapat membentuk p.a. baru (menurut
konsep Transformasi Peluang) yaitu
U = F
X
(X) Unif(0, 1),
dengan f.d.
F
U
(u) = P(U u)
= P(F
X
(X) u)
= P(X F
1
X
(u))
= F
X
(F
1
X
(u))
= u.
Contoh:
Jika X berdistribusi Uniform pada selang (-1,1), tentukan
(a) P(|X| > 1/2)
(b) fungsi peluang dari |X|.
Solusi:
Contoh:
Maskapai penerbangan mengetahui bahwa lima persen pemesan tiket tidak
akan datang untuk membeli tiketnya. Dengan alasan ini, maskapai tidak ragu
MA5181 Pros.Stok. 5 K. Syuhada, PhD.
untuk menjual 52 tiket penerbangan pada pesawat dengan kapasitas duduk
50 orang. Berapa peluang akan ada kursi yang tersedia untuk setiap pemesan
tiket yang datang?
Solusi:
Contoh:
Misalkan X p.a. berdistribusi Poisson dengan mean . Parameter berdis-
tribusi eksponensial dengan mean 1. Tunjukkan bahwa
P(X = n) = (1/2)
n+1
Solusi:
Misalkan X peubah acak dengan f.d. F dapat diturunkan. Fungsi peluang
(f.p.) f adalah turunan dari f.d.,
f
X
(x) =
d
dx
F
X
(x)
atau, dengan kata lain,
F
X
(x) =

f
X
(t) dt
Jika X p.a. sedemikian hingga f.p.-nya ada (turunan dari f.d.) maka X
dikatakan sebagai peubah acak kontinu.
Catatan:
1 = F
X
() =

f
X
(t) dt
P(a X b) = F
X
(b) F
X
(a) =

b
a
f
X
(t) dt
P(X = a) =

a
a
f
X
(t) dt = 0
Salah satu contoh distribusi kontinu adalah distribusi eksponensial dengan
parameter yang memiliki f.d.
F(x) = 1 e
x
, x 0,
Seperti apakah bentuk data berdistribusi eksponensial? Untuk membangk-
itkan datanya, contoh X exp(1/3), serta bentuk distribusinya (dalam his-
togram) kita gunakan kode berikut:
x = exprnd(3,10,1);
hist(x)
MA5181 Pros.Stok. 6 K. Syuhada, PhD.
Kita dapat pula membangkitkan data dengan menggunakan teknik simulasi
stokastik yaitu Invers Transformation Method. Misalkan U peubah acak
Uniform(0, 1). Untuk setiap f.d. kontinu F, jika kita denisikan peubah acak
X sbb:
X = F
1
(U)
maka peubah acak X memiliki f.d. F. Contoh: Jika F(x) = 1 e
x
maka
F
1
(u) adalah nilai x sedemikian hingga
1 e
x
= u
atau
x = log(1 u)
Jadi, jika U adalah p.a. Uniform(0,1) maka
F
1
(U) = log(1 U)
adalah p.a. eksponensial dengan mean 1 (parameter 1).
1.3 Ekspektasi bersyarat
Distribusi Bersama
Misalkan X dan Y p.a. dengan f.d. berturut-turut F
X
dan F
Y
. Kita dapat
membangun f.d. dan f.p. bersama dari kedua peubah acak tersebut dari infor-
masi distribusi marginal dan sifat kebebasan. Distribusi bersama untuk dua
atau lebih p.a. sangat membantu dalam membangun model yang lebih rumit.
Hubungan antara f.d. marginal dan f.d. bersama adalah sebagai berikut: f.d.
marginal mungkin dapat membangun f.d. bersama; dengan f.d. bersama kita
dapat menentukan f.d. marginal.
Misalkan X dan Y ada peubah acak-peubah acak diskrit yang terdenisi di
ruang sampel yang sama. Fungsi peluang bersama dari X dan Y adalah
p
X,Y
(x, y) = P({X = x, Y = y})
Perhatikan bahwa (i) kondisi bahwa X dan Y terdenisi pada ruang sampel
yang sama berarti dua p.a. tsb memberikan informasi secara bersamaan ter-
hadap keluaran (outcome) dari percobaan yang sama, (ii) {X = x, Y = y}
adalah irisan kejadian {X = x} dan {Y = y}; kejadian dimana X bernilai x
dan Y bernilai y.
MA5181 Pros.Stok. 7 K. Syuhada, PhD.
Proposisi
Misalkan X dan Y p.a. diskrit yang didenisikan pada ruang sampel yang
sama. Maka,
p
X
(x) =

y
p
X,Y
(x, y), x R
dan
p
Y
(y) =

x
p
X,Y
(x, y), y R
adalah f.p. marginal dari X dan f.p. marginal dari Y .
Contoh:
Diberikan data ttg jumlah kamar tidur dan kamar mandi dari 50 rumah yang
akan dijual sbb (X kamar tidur, Y kamar mandi):
X\Y 2 3 4 5 Total
2 3 0 0 0
3 14 12 2 0 28
4 2 11 5 1
Total 23 50
a. Hitung p
X,Y
(3, 2)
b. Tentukan f.p. bersama dari X dan Y
Solusi:
Contoh:
Misalkan kita punyai 2 komponen elektronik yang identik. Misalkan juga X
dan Y adalah waktu hidup (jam, diskrit). Asumsikan f.p. bersama dari X dan
Y adalah
p
X,Y
(x, y) = p
2
(1 p)
x+y2
, x, y N
dimana 0 < p < 1. Tentukan f.p. marginal dari X dan Y .
Solusi:
Contoh:
Perhatikan soal diatas. Tentukan peluang bahwa kedua komponen elektronik
tsb bertahan lebih dari 4 jam. Tentukan peluang bahwa salah satu komponen
bertahan setidaknya 2 kali dari komponen yang lain.
Solusi:
Contoh:
Pandang 2 komponen elektronik A dan B dengan masa hidup X dan Y . Fungsi
MA5181 Pros.Stok. 8 K. Syuhada, PhD.
peluang bersama dari X dan Y adalah
f
X,Y
(x, y) = exp(x +y), x, y > 0
dimana > 0, > 0. Tentukan peluang bahwa kedua komponen berfungsi
pada saat t. Tentukan peluang bahwa komponen A adalah komponen yang
pertama kali rusak
Solusi:
Ekspektasi Bersyarat
Ilustrasi - Seorang narapidana terjebak dalam suatu sel penjara yang memiliki
tiga pintu. Pintu pertama akan membawanya ke sebuah terowongan dan kem-
bali ke sel dalam waktu dua hari. Pintu kedua dan ketiga akan membawanya
ke terowongan yang kembali ke sel dalam waktu masing-masing empat dan
satu hari. Asumsikan bahwa sang napi selalu memilih pintu 1, 2, dan 3 den-
gan peluang 0.5, 0.3 dan 0.2, berapa lama waktu rata-rata (expected number
of days) yang dibutuhkan untuk dia agar selamat?
Definisi:
Misalkan X dan Y adalah p.a. kontinu dengan f.p. bersama f
X,Y
(x, y). Jika
f
X
(x) > 0 maka ekspektasi bersyarat dari Y diberikan X = x adalah ekspek-
tasi dari Y relatif terhadap distribusi bersyarat Y diberikan X = x,
E(Y |X = x) =

y
f
X,Y
(x, y)
f
X
(x)
dy =

y f
Y |X
(y|x) dy
Proposisi
Misalkan X dan Y adalah peubah acak-peubah acak kontinu dengan fungsi
peluang bersama f
X,Y
(x, y). Misalkan ekspektasi dari Y hingga. Maka
E(Y ) =

E(Y |X = x) f
X
(x) dx
atau
E(Y ) = E(E(Y |X = x))
Definisi:
Misalkan X dan Y adalah p.a. kontinu dengan f.p. bersama f
X,Y
(x, y). Jika
f
X
(x) > 0 maka variansi bersyarat dari Y diberikan X = x adalah variansi
dari Y relatif terhadap distribusi bersyarat Y diberikan X = x,
V ar(Y |X = x) = E
_
_
Y E(Y |X = x)
_
2

X = x
_
MA5181 Pros.Stok. 9 K. Syuhada, PhD.
Proposisi
Misalkan X dan Y adalah peubah acak-peubah acak kontinu dengan fungsi
peluang bersama f
X,Y
(x, y). Misalkan variansi dari Y hingga. Maka
V ar(Y ) = E(V ar(Y |X = x)) +V ar(E(Y |X))
Contoh:
Misalkan X dan Y peubah acak kontinu dengan fungsi peluang bersama
f(x, y) = e
x(y+1)
, 0 x, 0 y e 1
(a) Hitung P
_
X > 1|Y =
1
2
_
(b) Hitung E
_
X|Y =
1
2
_
Solusi:
Contoh:
Febri meninggalkan kantor setiap hari kerja antara pukul 6-7 malam. Jika
dia pergi t menit setelah pukul 6 maka waktu untuk mencapai rumah adalah
peubah acak berdistribusi Uniform pada selang (20, 20 + (2t)/3). Misalkan
Y adalah banyak menit setelah pukul 6 dan X banya menit untuk mencapai
rumah, berapa lama waktu mencapai rumah?
Solusi:
Contoh:
Zarudd saat ini berada di penjara Markas Brimob di Kelapa Dua, Depok. Dia
ingin melarikan diri (katanya sih ingin ke Bogota atau manalah) namun hal
ini tidak mudah. Fakta yang ada menunjukkan bahwa kalau Zarudd hendak
keluar dari penjara dia akan menghadapi tiga pintu. Pintu pertama akan
membawanya ke sebuah lorong dan kembali ke penjara dalam waktu dua jam.
Pintu kedua pun demikian, akan membawanya ke sebuah lorong dan kembali
ke penjara dalam waktu tiga jam. Sedangkan pintu ketigalah yang membawa
Zarudd langsung bebas. Jika Zarudd memilih pintu-pintu, yang belum di-
gunakannya, secara acak, berapa lama waktu rata-rata (expected number of
hours) yang dibutuhkan Zarudd untuk bebas?
Solusi:
MA5181 Pros.Stok. 10 K. Syuhada, PhD.
BAB 2
Rantai Markov
2.1 Ilustrasi
(Ilustrasi 1) Perilaku bunuh diri kini kian menjadi-jadi. Hesti (nama sebe-
narnya) adalah sebuah contoh. Dia pernah melakukan percobaan bunuh diri,
namun gagal. Menurut pakar, kalau pada suatu waktu seseorang melakukan
percobaan bunuh diri maka besar kemungkinan dia akan melakukannya lagi di
masa mendatang. Jika seseorang belum pernah melakukan percobaan bunuh
diri, di masa mendatang orang tersebut akan mungkin melakukan percobaan
bunuh diri. Deskripsikan fenomena diatas sebagai model peluang (probability
model).
(Ilustrasi 2) Loyalitas konsumen terhadap suatu merek barang. Wilkie (1994)
mendenisikan brand loyalty as a favorable attitude toward and consistent
purchase of a particular brand. Lyong (1998): brand loyalty is a function of
a brands relative frequency of purchase in both time-independent and time-
dependent situations. Seorang konsumen pembeli merek barang A diharap-
kan akan terus membeli barang A. Mungkinkah ini terjadi? Apakah model
statistika yang dapat dengan tepat (atau mendekati tepat) merinci peluang
terjadinya hal ini? Apakah model ini membantu dalam strategi pemasaran
suatu barang?
(Ilustrasi 3) Akhir-akhir ini, hujan dan panas (baca: tidak hujan) datang
silih berganti tanpa bisa diduga. Kalau hari ini hujan, besok mungkin hu-
jan mungkin juga panas. Tentu saja peluang besok hujan akan lebih besar
dibanding peluang besok akan panas. Begitu pula jika hari ini panas. Besok
akan lebih mungkin panas dibandingkan hujan. Jika hari Senin hujan, berapa
peluang bahwa hari Selasa akan hujan? Berapa peluang bahwa hari Kamis
akan hujan?
(Ilustrasi 4) Sebagai calon atlet, setiap pagi Laila meninggalkan rumahnya
1
untuk berlari pagi. Laila akan pergi lewat pintu depan atau belakang den-
gan peluang sama. Ketika meninggalkan rumah, Laila memakai sepatu olah
raga atau bertelanjang kaki jika sepatu tidak tersedia di depan pintu yang dia
lewati. Ketika pulang, Laila akan masuk lewat pintu depan atau belakang dan
meletakkan sepatunya dengan peluang sama. Diketahui bahwa Laila memiliki
4 pasang sepatu olah raga. Berapa peluang bahwa Laila akan sering berolah
raga dengan bertelanjang kaki?
2.2 Denisi
Proses stokastik {X
n
} adalah Rantai Markov:
n = 0, 1, 2, . . .
nilai yang mungkin adalah hingga atau terhitung

P
_
X
n+1
= j|X
n
= i, X
n1
= i
n1
, . . . , X
1
= i
1
, X
0
= i
0
_
= P
ij
()
distribusi bersyarat X
n+1
, diberikan keadaan-keadaan lampau (past states)
X
0
, X
1
, . . . , X
n1
dan keadaan sekarang (present state) X
n
, hanya bergan-
tung pada keadaan sekarang (Sifat Markov)
keadaan-keadaan (states): i
0
, i
1
, . . . , i
n1
, i, j
P
ij
peluang bahwa proses akan berada di keadaan j dari keadaan i;
P
ij
0, i, j 0;

j=0
P
ij
= 1, i = 0, 1, . . .
Matriks peluang transisi P
ij
adalah
P =
_
_
_
_
_
_
_
P
00
P
01
P
02

P
10
P
11
P
12

.
.
.
.
.
.
.
.
.
P
i0
P
i0
P
i0

.
.
.
.
.
.
.
.
.
_
_
_
_
_
_
_
MA5181 Pros.Stok. 2 K. Syuhada, PhD.
P02
...
P20
0
1 2
P00
P01 P12
P10 P21
P11 P22
Figure 2.1: Diagram transisi keadaan atau state transition diagram
Perhatikan (*):
P
_
X
n+1
= j|X
n
= i, X
n1
= i
n1
, . . . , X
1
= i
1
, X
0
= i
0
_
= P
_
X
n+1
= j|X
n
= i
_
= P
ij
,
yang disebut sebagai peluang transisi 1-langkah atau one-step transition prob-
ability.
Peluang bersama
P
_
X
n
= i, X
n1
= i
n1
, . . . , X
1
= i
1
, X
0
= i
0
_
dapat dihitung dengan sifat peluang bersyarat berikut.
P
_
X
n
= i, X
n1
= i
n1
, . . . , X
1
= i
1
, X
0
= i
0
_
= P
_
X
n1
= i
n1
, . . . , X
1
= i
1
, X
0
= i
0
_
P
_
X
n
= i | X
n1
= i
n1
, . . . , X
1
= i
1
, X
0
= i
0
_
= P
_
X
n1
= i
n1
, . . . , X
1
= i
1
, X
0
= i
0
_
P
_
X
n
= i | X
n1
= i
n1
_
=
= p
i
0
P
i
n1
,i
n
Contoh/Latihan:
1. Jika, pada waktu t, Rez mengajukan klaim asuransi, maka Rez akan
mengajukan klaim pada waktu t + 1 dengan peluang ; jika Rez tidak
mengajukan klaim asuransi saat ini maka di masa depan Rez akan men-
gajukan klaim asuransi dengan peluang . Matriks peluang transisinya
MA5181 Pros.Stok. 3 K. Syuhada, PhD.
adalah...
P =
_
1
1
_
dengan keadaan-keadaan:
0 tidak mengajukan klaim
1 mengajukan klaim
2. Keadaan hujan pada suatu hari bergantung pada keadaan hujan dalam
dua hari terakhir. Jika dalam dua hari terakhir hujan maka besok akan
hujan dengan peluang 0.7; Jika hari ini hujan dan kemarin tidak hujan
maka besok akan hujan dengan peluang 0.5; jika hari ini tidak hujan dan
kemarin hujan maka besok akan hujan dengan peluang 0.4; jika dalam
dua hari terakhir tidak hujan maka besok hujan dengan peluang 0.2.
Matriks peluang transisinya adalah...
P =
_
_
_
_
0.7 0 0.3 0
0.5 0 0.5 0
0 0.4 0 0.6
0 0.2 0 0.8
_
_
_
_
dengan keadaan-keadaan:
0 (00) = hari ini dan kemarin hujan
1 (10) = hari ini hujan, kemarin tidak hujan
2 (01) = hari ini tidak hujan, kemarin hujan
3 (11) = hari ini dan kemarin tidak hujan
3. Tiga item produk A dan tiga item produk B didistribusikan dalam dua
buah paket/kotak sedemikian hinga setiap paket terdiri atas tiga item
produk. Dikatakan bahwa sistem berada dalam keadaan i, i = 0, 1, 2, 3
jika dalam paket pertama terdapat i produk A. Setiap saat (langkah),
kita pindahkan satu item produk dari setiap paket dan meletakkan item
produk tersebut dari paket 1 ke paket 2 dan sebaliknya. Misalkan X
n
menggambarkan keadaan dari sistem setelah langkah ke-n. Matriks pelu-
ang transisinya adalah...
P =
_
_
_
_
0 1 0 0
1/9 4/9 4/9 0
0 4/9 4/9 1/9
0 0 1 0
_
_
_
_
dengan keadaan-keadaan:
0 terdapat 0 produk A di paket pertama
MA5181 Pros.Stok. 4 K. Syuhada, PhD.
1 terdapat 1 produk A di paket pertama
2 terdapat 2 produk A di paket pertama
3 terdapat 3 produk A di paket pertama
4. Menurut Kemeny, Snell dan Thompson, Tanah Australia diberkahi den-
gan banyak hal kecuali cuaca yang baik. Mereka tidak pernah memiliki
dua hari bercuaca baik secara berturut-turut. Jika mereka mendapatkan
hari bercuaca baik maka esok hari akan bersalju atau hujan dengan pelu-
ang sama. Jika hari ini mereka mengalami salju atau hujan maka be-
sok akan bercuaca sama dengan peluang separuhnya. Jika terdapat pe-
rubahan cuaca dari salju atau hujan, hanya separuh dari waktu besok
akan menjadi hari bercuaca baik. Tentukan matriks peluang transisi dari
Rantai Markov yang dibentuk dari keadaan-keadaan diatas.
P =
_
_
1/2 1/4 1/4
1/2 0 1/2
1/4 1/4 1/2
_
_
dengan keadaan-keadaan:
0 cuaca hujan
1 cuaca baik
2 cuaca salju
5. Suatu rantai Markov dengan keadaan-keadaan 0, 1, 2 memiliki matriks
peluang transisi:
P =
_
_
0.1 0.2 0.7
0.9 0.1 0
0.1 0.8 0.1
_
_
dan P(X
0
= 0) = 0.3, P(X
0
= 1) = 0.4, P(X
0
= 2) = 0.3.
Hitung
P(X
0
= 0, X
1
= 1, X
2
= 2)
Solusi: 0
6. Suatu rantai Markov dengan keadaan-keadaan 0, 1, 2 memiliki matriks
peluang transisi:
P =
_
_
0.7 0.2 0.1
0 0.6 0.4
0.5 0 0.5
_
_
MA5181 Pros.Stok. 5 K. Syuhada, PhD.
Hitung
P(X
2
= 1, X
3
= 1 | X
1
= 0)
dan
P(X
1
= 1, X
2
= 1 | X
0
= 0)
Solusi: 0.12; 0.12
7. Sebagai calon atlet, setiap pagi Laila meninggalkan rumahnya untuk
berlari pagi. Laila akan pergi lewat pintu depan atau belakang den-
gan peluang sama. Ketika meninggalkan rumah, Laila memakai sepatu
olah raga atau bertelanjang kaki. Ketika pulang, Laila akan masuk lewat
pintu depan atau belakang dan meletakkan sepatunya dengan peluang
sama. Diketahui bahwa Laila memiliki 4 pasang sepatu olah raga. Ben-
tuklah suatu Rantai Markov dari proses diatas.
P =
_
_
_
_
_
_
3/4 1/4 0 0 0
1/4 1/2 1/4 0 0
0 1/4 1/2 1/4 0
0 0 1/4 1/2 1/4
0 0 0 1/4 3/4
_
_
_
_
_
_
dengan keadaan-keadaan:
0 (4,0) = 4 sepatu didepan, 0 dibelakang
1 (3,1) = 3 sepatu didepan, 1 dibelakang
2 (2,2) = 2 sepatu didepan, 2 dibelakang
3 (1,3) = 1 sepatu didepan, 3 dibelakang
4 (0,4) = 0 sepatu didepan, 4 dibelakang
8. Lena akan melantunkan koin terus menerus hingga diperoleh keluaran
B, B, M (2 keluaran Belakang berturut-turut yang kemudian diikuti oleh
keluaran Muka). Bentuklah rantai Markov yang mungkin. Perhatikan
bahwa jika lantunan Lena adalah M, lalu B, lalu M artinya adalah Lena
harus mengulang lantunan dari awal.
9. Suatu sistem reservasi maskapai penerbangan memiliki 2 komputer; hanya
1 yang beroperasi pada setiap waktu. Sebuah komputer akan rusak
pada suatu hari dengan peluang . Ada sebuah fasilitas/bengkel per-
baikan komputer yang dapat membuat komputer kembali normal (dapat
dipakai) dalam waktu 2 hari. Fasilitas/bengkel tersebut diatur sedemikian
MA5181 Pros.Stok. 6 K. Syuhada, PhD.
hingga hanya 1 komputer yang dapat ditangani setiap waktu. Bentuklah
rantai Markov yang dapat memodelkan situasi diatas...
10. Ani tinggal tidak jauh dari kampus. Cukup berjalan kaki saja dari tem-
pat kos ke kampus dan sebaliknya. Akhir-akhir ini hujan datang hampir
setiap hari. Mau tidak mau, Ani menggunakan payung dalam perjalanan
kos-kampus atau kampus-kos. Jika hari hujan dan payung ada ditem-
pat Ani berada maka Ani akan menggunakan payung tersebut. Jika hari
tidak hujan, Ani selalu lupa untuk membawa payung. Misalkan adalah
peluang hujan setiap kali Ani akan menuju kampus atau kos. Jika Ani
memiliki 3 buah payung, bentuklah suatu rantai Markov dari proses di-
atas!
P =
_
_
_
_
0 0 0 1
0 0 1
0 1 0
1 0 0
_
_
_
_
dengan keadaan-keadaan:
0, 1, 2, 3 yang menyatakan jumlah payung
11. Dua tim futsal wanita di MA-ITB akan memainkan tujuh rangkaian per-
tandingan. Hasil setiap pertandingan saling bebas. Setiap pertandingan
akan dimenangkan oleh tim A dengan peluang dan oleh tim B den-
gan peluang 1 . Misalkan keadaan suatu sistem direpresentasikan
oleh pasangan (a, b) dimana a menyatakan banyak pertandingan yang
dimenangkan A dan b banyak pertandingan yang dimenangkan B. Ben-
tuklah rantai Markov untuk masalah tersebut. Catatan: a + b 7 dan
rangkaian pertandingan akan berakhir apabila a = 4 atau b = 4.
2.3 Peluang n-langkah
Persamaan Chapman-Kolmogorov
Misalkan P
n
ij
menyatakan peluang transisi n-langkah suatu proses di keadaan
i akan berada di keadaan j,
P
n
ij
= P(Y
k+n
= j|Y
k
= i), n 0, i, j 0.
Persamaan Chapman-Kolmogorov adalah alat untuk menghitung peluang tran-
sisi n +m-langkah:
P
n+m
ij
=

k=0
P
n
ik
P
m
kj
, (Buktikan!)
MA5181 Pros.Stok. 7 K. Syuhada, PhD.
untuk semua n, m 0 dan semua i, j. P
n
ik
P
m
kj
menyatakan peluang suatu
proses dalam keadaan i akan berada di keadaan j dalam n+m transisi, melalui
keadaan k dalam n transisi/langkah.
Contoh/Latihan:
1. Jika hari ini hujan maka besok akan hujan dengan peluang = 0.7; jika
hari ini tidak hujan maka besok akan hujan dengan peluang = 0.4.
Matriks peluang transisi 4 langkah adalah...
P
4
=
_
0.5749 0.4251
0.5668 0.4332
_
2. Keadaan hujan pada suatu hari bergantung pada keadaan hujan dalam
dua hari terakhir. Jika dalam dua hari terakhir hujan maka besok akan
hujan dengan peluang 0.7; Jika hari ini hujan dan kemarin tidak hujan
maka besok akan hujan dengan peluang 0.5; jika hari ini tidak hujan dan
kemarin hujan maka besok akan hujan dengan peluang 0.4; jika dalam
dua hari terakhir tidak hujan maka besok hujan dengan peluang 0.2.
Matriks peluang transisinya adalah sbb:
P =
_
_
_
_
0.7 0 0.3 0
0.5 0 0.5 0
0 0.4 0 0.6
0 0.2 0 0.8
_
_
_
_
Jika hari Senin dan Selasa hujan, berapa peluang bahwa hari Kamis akan
hujan?
P
2
=
_
_
_
_
0.49 0.12 0.21 0.18
0.35 0.2 0.15 0.3
0.2 0.12 0.2 0.4
0.1 0.16 0.1 0.64
_
_
_
_
Peluang hujan pada hari Kamis adalah P
2
00
+P
2
01
= 0.49 + 0.12 = 0.61
Peluang Transisi Tak Bersyarat
Misalkan

i
= P(X
0
= i), i 0,
dimana

i=0

i
= 1. Peluang tak bersyarat dapat dihitung dengan men-
syaratkan pada keadaan awal,
P(X
n
= j) =

i=0
P(X
n
= j|X
0
= i) P(X
0
= i) =

i=0
P
n
ij

i
MA5181 Pros.Stok. 8 K. Syuhada, PhD.
Contoh/Latihan:
Pandang soal yang lalu dengan matriks peluang transisi:
P =
_
0.7 0.3
0.4 0.6
_
Jika diketahui
0
= P(X
0
= 0) = 0.4 dan
1
= P(X
0
= 1) = 0.6, maka
peluang (tak bersyarat) bahwa hari akan hujan 4 hari lagi adalah...
P(X
4
= 0) = 0.4 P
4
00
+ 0.6 P
4
10
= (0.4)(0.5749) + (0.6)(0.5668) = 0.57
2.4 Jenis Keadaan
Keadaan j dikatakan dapat diakses (accessible) dari keadaan i jika P
n
ij
> 0
untuk suatu n 0. Akibatnya, keadaan j dapat diakses dari keadaan i jika
dan hanya jika dimulai dari keadaan i proses akan masuk ke keadaan j. Jika
keadaan j tidak dapat diakses dari keadaan i maka peluang masuk ke keadaan
j dari keadaan i adalah nol.
Catatan:
Dua keadaan i dan j yang saling akses satu sama lain dikatakan berkomunikasi
(communicate). Notasi: i j.
MA5181 Pros.Stok. 9 K. Syuhada, PhD.
Sifat-sifat:
1. Keadaan i berkomunikasi dengan keadaan i untuk semua i 0
2. Jika keadaan i berkomunikasi dengan keadaan j maka keadaan j berko-
munikasi dengan keadaan i
3. Jika keadaan i berkomunikasi dengan keadaan j dan keadaan j berkomu-
nikasi dengan keadaan k maka keadaan i berkomunikasi dengan keadaan
k
Dua keadaan yang berkomunikasi dikatakan berada dalam kelas (class) yang
sama. Setiap dua kelas dari keadaan-keadaan dapat identik (identical) atau
saling asing (disjoint). Rantai Markov dikatakan tidak dapat direduksi (irre-
ducible) jika hanya terdapat sebuah kelas dan semua keadaan berkomunikasi
satu sama lain.
Contoh/Latihan:
1. Tentukan kelas keadaan dari rantai Markov dengan peluang transisi
berikut:
(i)
P =
_
_
_
_
0.7 0 0.3 0
0.5 0 0.5 0
0 0.4 0 0.6
0 0.2 0 0.8
_
_
_
_
(ii)
P =
_
_
_
_
0 1 0 0
1/9 4/9 4/9 0
0 4/9 4/9 1/9
0 0 1 0
_
_
_
_
(iii)
P =
_
_
1 0 0
1/2 1/4 1/4
1/4 1/4 1/2
_
_
2. Diketahui matrik peluang transisi:
P =
_
_
0.5 0.5 0
0.5 0.25 0.25
0 0.33 0.67
_
_
MA5181 Pros.Stok. 10 K. Syuhada, PhD.
Apakah rantai Markov dengan peluang transisi diatas tidak dapat dire-
duksi (irreducible)?
3. Apakah yang dapat anda katakan tentang rantai Markov dengan matriks
peluang transisi berikut:
P =
_
_
_
_
0.5 0.5 0 0
0.5 0.5 0 0
0.25 0.25 0.25 0.25
0 0 0 1
_
_
_
_
Sifat-sifat KEADAAN - Recurrent dan Transient
Untuk setiap keadaan i, misalkan f
i
peluang bahwa dimulai dari keadaan i
proses akan pernah kembali ke keadaan i. Keadaan i dikatakan recurrent jika
f
i
= 1. Dikatakan transient jika f
i
< 1.
Jika keadaan i recurrent maka proses akan terus kembali ke keadaan i
dengan peluang satu. Dengan denisi rantai Markov, proses akan dimulai
lagi ketika kembali ke keadaan i, dan seterusnya, sehingga keadaan i akan
dikunjungi lagi. Jika keadaan i recurrent maka dimulai dari keadaan i
maka proses akan kembali ke keadaan i terus dan terus sebanyak tak
hingga kali.
Misalkan keadaan i transient. Setiap kali proses kembali ke keadaan
i, terdapat kemungkinan (peluang yang positif) sebesar 1 f
i
bahwa
proses tidak pernah kembali ke keadaan i. Dengan demikian, dimulai
dari keadaan i, peluang bahwa proses berada di i sebanyak tepat n pe-
riode/kali adalah f
n1
i
(1 f
i
), n 1. Jika keadaan i transient maka,
dimulai dari keadaan i, banyak periode/kali bahwa proses akan berada
di keadaan i adalah peubah acak geometrik dengan parameter 1 f
i
.
Keadaan i recurrent jika dan hanya jika, dimulai dari keadaan i, maka banyak
periode/kali yang diharapkan (expected number of time periods) bahwa proses
akan berada di keadaan i adalah tak hingga
Misalkan
I
n
=
_
1, Y
n
= i;
0, Y
n
= i.
Misalkan

n=0
I
n
menyatkan banyak periode/kali bahwa proses berada dalam
MA5181 Pros.Stok. 11 K. Syuhada, PhD.
keadaan i, dan
E
_

n=0
I
n
|Y
0
= i
_
=

n=0
E(I
n
|Y
0
= i)
=

n=0
P(Y
n
= i|Y
0
= i)
=

n=0
P
n
ii
Proposisi
Keadaan i adalah
recurrent jika

n=0
P
n
ii
= ; transient jika

n=0
P
n
ii
<
Catatan:
Pada rantai Markov dengan keadaan hingga, tidak semua keadaan bersi-
fat transient (Mengapa?)
Jika keadaan i recurrent dan keadaan i berkomunikasi (communicate)
dengan keadaan j maka keadaan j recurrent (Bagaimana jika keadaan
i transient?)
Semua keadaan pada rantai Markov (hingga) yang tidak dapat direduksi
adalah recurrent (PENTING!)
Contoh/Latihan:
1. Misalkan rantai Markov dengan keadaan 0,1,2,3 memiliki matriks pelu-
ang transisi:
P =
_
_
_
_
0 0 0.5 0.5
1 0 0 0
0 1 0 0
0 1 0 0
_
_
_
_
Tentukan keadaan mana yang recurrent dan keadaan mana yang tran-
sient!
2. Bagaimana dengan rantai Markov dengan matriks peluang transisi:
MA5181 Pros.Stok. 12 K. Syuhada, PhD.
P =
_
_
_
_
_
_
0.5 0.5 0 0 0
0.5 0.5 0 0 0
0 0 0.5 0.5 0
0 0 0.5 0.5 0
0.25 0.25 0 0 0.5
_
_
_
_
_
_
?
3. Misalkan rantai Markov dengan keadaan 0,1,2,3 memiliki matriks pelu-
ang transisi:
P =
_
_
_
_
0.5 0.5 0 0
0.5 0.5 0 0
0.25 0.25 0.25 0.25
0 0 0 1
_
_
_
_
Tentukan keadaan mana yang recurrent dan keadaan mana yang tran-
sient!
4. Model penyebaran penyakit memiliki matriks peluang transisi sebagai
berikut:
P =
_
_
_
_
_
_
_
_
1 0 0 0 0 0
0 0.96 0.04 0 0 0
0 0 0.94 0.06 0 0
0 0 0 0.94 0.06 0
0 0 0 0 0.96 0.04
0 0 0 0 0 1
_
_
_
_
_
_
_
_
Tentukan sifat keadaan dari rantai Markov diatas.
2.5 Limit Peluang Transisi
Misalkan 0 keadaan belum pernah juara dan 1 keadaan pernah juara. Ma-
triks peluang transisi yang dapat dibentuk adalah
P =
_
0.9 0.1
0.3 0.7
_
Matriks peluang transisi 8 dan 12 langkahnya:
P
8
=
_
0.7542 0.2458
0.7374 0.2626
_
dan
MA5181 Pros.Stok. 13 K. Syuhada, PhD.
P
12
=
_
0.7505 0.2495
0.7484 0.2516
_
...dst.
Matriks P
12
hampir identik dengan P
8
(benar-benar identik dengan P
16
). Se-
lain itu, setiap baris dari P
12
memiliki unsur yang identik. Nampaknya, P
n
ij
konvergen ke suatu nilai, untuk n , yang sama untuk semua i. Dengan
kata lain, terdapat limit peluang (limiting probability) bahwa proses akan be-
rada di keadaan j setelah sekian/banyak langkah/transisi. Nilai limit ini saling
bebas dengan nilai pada keadaan awal.
Perhatikan 2 sifat keadaan berikut:
Keadaan i dikatakan memiliki periode d jika P
n
ii
= 0 untuk n yang tidak dapat
dibagi oleh d (d suatu integer). Contoh, suatu proses dimulai dari keadaan i
akan kembali ke i pada waktu 2, 4, 6, 8, . . . , maka keadaan i memiliki periode
2. Suatu keadaan yang memiliki periode 1 disebut aperiodik. Jika keadaan
i memiliki periode d dan keadaan i berkomunikasi dengan keadaan j maka
keadaan j juga memiliki periode d.
Jika keadaan i recurrent, maka keadaan tersebut akan dikatakan positive re-
current jika, dimulai dari keadaan i, waktu harapan hingga proses kembali
ke i adalah hingga. Pada rantai Markove yang memiliki keadaan hingga, se-
mua keadaan yang recurrent adalah positive recurrent. Suatu keadaan yang
positive recurrent dan aperiodik disebut ergodik.
Teorema
Untuk rantai Markov yang ergodik dan tidak dapat direduksi,
lim
n
P
n
ij
ada dan saling bebas dari i. Misalkan

j
= lim
n
P
n
ij
, j 0,
maka
j
adalah solusi nonnegatif tunggal dari

j
=

i=0

i
P
n
ij
, j 0,
dengan

j=0

j
= 1.
MA5181 Pros.Stok. 14 K. Syuhada, PhD.
Catatan:
Perhatikan bahwa
P(X
n+1
= j) =

i=0
P(X
n+1
= j|X
n
= i) P(X
n
= i) =

i=0
P
ij
P(X
n
= i)
Limit peluang
j
adalah peluang jangka panjang (long-run proportion of
time) bahwa suatu proses akan berada di keadaan j
Jika rantai Markov tidak dapat direduksi, maka terdapat solusi untuk

j
=

i
P
ij
, j 0,
dengan

j

j
= 1, JIKA dan HANYA JIKA rantai Markov bersifat
positive recurrent. Jika solusinya ada maka solusi tersebut tunggal dan

j
adalah proporsi jangka panjang bahwa rantai Markov berada dalam
keadaan j. Jika rantai Markov aperiodik maka
j
adalah limit peluang
bahwa rantai akan berada di keadaan j.
Contoh/Latihan:
1. Jika hari ini hujan maka besok akan hujan dengan peluang ; jika hari
ini tidak hujan maka besok akan hujan dengan peluang . Jika

0

adalah
keadaan hujan dan

1

adalah keadaan tidak hujan maka peluang hujan


dan tidak hujan untuk jangka adalah...
Matriks peluang transisi:
P =
_
1
1
_
,
dan kita punyai persamaan-persamaan:

0
=
0
+
1

1
= (1 )
0
+ (1 )
1

0
+
1
= 1
Kita peroleh peluang hujan dan tidak hujan pada jangka panjang:

0
=

1 +
MA5181 Pros.Stok. 15 K. Syuhada, PhD.
dan

1
=
1
1 +
2. Percobaan-percobaan dilakukan secara berurutan. Jika dalam dua per-
cobaan terakhir SUKSES maka peluang SUKSES pada percobaan berikut
adalah 0.8. Dalam keadaan YANG LAIN, peluang SUKSES adalah 0.5.
Hitung peluang percobaan sukses untuk jangka panjang.
3. Pandang pelantunan-pelantunan sebuah koin (dengan peluang muncul
MUKA adalah ) yang saling bebas. Berapa banyak lantunan dibu-
tuhkan yang diharapkan (expected number of tosses needed) agar pola
HTHT muncul? (Perhatikan catatan dibawah)
Catatan:
Peluang jangka panjang
j
, j 0, disebut juga peluang stasioner (sta-
tionary probability). Jika keadaan awal dipilih berdasarkan peluang

j
, j 0, maka peluang akan menjadi keadaan j pada setiap waktu
n adalah sama dengan
j
.
Untuk keadaan j, denisikan m
jj
yaitu banyak transisi yang diharapkan
(expected number of transitions) hingga suatu rantai Markov, dimulai
dari keadaan j akan kembali ke keadaan tersebut:

j
=
1
m
jj
MA5181 Pros.Stok. 16 K. Syuhada, PhD.