Bab 4
Teorema Limit Pusat
4.1
Sampel acak. Barisan variabel acak X1 , X2 , . . . , Xn dikatakan sampel acak berukuran n, jika barisan variabel acak tersebut iid, atau independen dan masing-masing berasal
dari distribusi yang identik.
Statistik. Statistik adalah variabel acak yang merupakan fungsi dari sampel acak
X1 , X2 , . . . , Xn . Beberapa contoh dari statistik, misalnya rata-rata sampel, variansi sampel, modus sampel, median sampel, persentil sampel, statistik uji, dan lain-lain. Mencari
mean dan variansi dari statistik T = T (X1 , . . . , Xn ) dapat dilakukan 2 cara:
1. Cari distribusi gabungannya, kemudian cari
E[T ]
dan
2. Jika T fungsi linier dari X1 , . . . , Xn , maka mean dan variansi dapat dicari dengan
memanfaatkan sifat-sifat ekspektasi, yaitu:
P
(a) Misal T = ni=1 ai Xi maka mean dari T :
E[T ] =
n
X
ai E[Xi ]
i=1
n X
m
X
ai bj cov(Xi , Yj ).
i=1 j=1
Akibatnya,
Var(T ) = cov(T, T ) =
n
X
a2i Var(Xi ) + 2
i=1
X
i<j
n
X
i=1
a2i Var(Xi ).
ai aj cov(Xi , Xj ).
Nunung Nurhayati
X=
1X
Xi .
n
i=1
i=1
i=1
1
=
{n 2 + n2 n[( 2 /n) + 2 ]} = 2 .
n1
dengan baris terakhir diperoleh karena E[X 2 ] = 2 + 2 .
Sementara itu, statistik V =
sebab
1
n
Pn
i=1 (Xi
E[V ] =
n1 2
6= 2 .
n
Nunung Nurhayati
1 , X2 , . . . , Xn )
n = (X
Barisan {n } dapat dipandang sebagai barisan variabel acak dengan indeks ukuran sampel n. Ketika n yang membesar berakibat n dekat ke (parameter sebenarnya),
maka estimator tersebut dikatakan konsisten. Permasalahannya apa artinya dekat
pada Teori Peluang? Apakah ada kaitannya dengan konsep kekonvergenan? Jawabannya ya, tetapi definisi kekonvergenan barisan variabel acak pada Teori Peluang agak
sedikit berbeda dengan pengertian kekonvergenan barisan bilangan di Kalkulus atau
di Analisis. Definisi kekonvergenan dan estimator yang konsisten secara formal akan
diberikan di Subbab 3.7.2.
Latihan
Soal No. 4, 5, 7-10, 12, 13, 17-19, 22-24, dan 26 (Hogg, et al. 2005, hal. 201-203)
4.2
Pada Teori Peluang, barisan variabel acak {Xn } yang dekat ke X untuk n yang besar,
dapat diartikan sebagai barisan variabel acak {Xn } yang konvergen dalam peluang ke
X.
Definisi 1 Misal {Xn } barisan variabel acak dan X variabel acak yang terdefinisi pada
suatu ruang sampel. Barisan variabel acak {Xn } dikatakan konvergen dalam peluang
p
ke X, dinotasikan Xn X, jika untuk setiap > 0,
lim P (|Xn X| ) = 0
(1)
Pada Definisi 1, X disebut limit dari barisan {Xn }. Jika limitnya berupa konstanta
(variabel acak degenerate atau varibel acak dengan satu nilai yang mungkin, misal a),
p
maka dapat ditulis Xn a. Seandainya, barisan variabel acaknya semuanya merupakan
konstanta misal {an } maka pengertian kekonvergenan pada bilangan riil an a ekivalen
p
dengan an a.
3
Nunung Nurhayati
{Xn X atau Xn X }
atau peristiwa
{Xn X atau Xn X }
Akibatnya, peristiwa {|Xn X| } ekivalen dengan peristiwa
Xn 6 (X , X + )
Di sini, selang (X , X +) dapat dikatakan sebagai lingkungan buka untuk X dengan
radius .
p
3. Jika Xn X dan g fungsi bernilai riil yang kontinu di titik a, maka g(Xn ) g(a).
p
Sebagai contoh, jika Xn a maka
p
Xn2 a2 ,
p
1/Xn 1/a,
p
p
Xn a,
jika a 6= 0,
jika a 0,
karena fungsi kuadrat, fungsi kebalikan, dan fungsi akar merupakan fungsi yang
kontinu di masing-masing domainnya.
p
1
k2
1
.
k2
(2)
Nunung Nurhayati
2
.
2
untuk ukuran
Hukum Bilangan Besar. Terkait dengan perilaku rata-rata sampel X
sampel besar, terdapat dua teorema penting dalam statistika yaitu, Hukum Lemah
Bilangan Besar atau Weak Law of Large Number (WLLN) dan Hukum Kuat Bilangan
Besar atau Strong Law of Large Number (SLLN). Dua hukum tersebut sama-sama
dekat ke .
menyatakan bahwa untuk sampel besar, rata-rata sampel X
Perbedaan WLLN dan SLLN terletak pada asumsi barisan variabel yang digunakan.
Pada WLLN barisan variabel acak yang digunakan diasumsikan iid dengan mean dan
variansi 2 < . Sementara, pada SLLN asumsi yang dikenakan pada barisan variabel
acak diperkuat, dalam arti SLLN tetap mempertahankan asumsi independen tetapi persyaratan distribusi identik tidak digunakan lagi, cukup disyaratkan mempunyai distribusi
dengan mean sama yaitu < .
Berikut teorema yang menyatakan WLLN. Rumusan SLLN tidak diberikan di sini, namun
bagi yang tertarik dapat merujuk Chung (1968).
Teorema 3 (Hukum Lemah Bilangan Besar) Misal {Xn } barisan
Pnvariabel acak iid
2
dari distribusi dengan mean dan variansi < . Jika X n = 1/n i=1 Xi , maka
p
Xn
Bukti. Dari Akibat 1 di Subbab 3.4 (handout kuliah) telah diperoleh bahwa X n mempunyai mean dan variansi 2 /n. Akibatnya, menurut Teorema Chebyshev untuk setiap
> 0 berlaku
2
P (|X n | ) = P |X n | ( n/)(/ n) 2 0.
n
Secara tidak langsung Hukum Lemah Bilangan Besar pada Teorema 3 menyatakan bahwa
rata-rata sampel X merupakan estimator yang konsisten untuk . Pengertian kekonsistenan secara formal diberikan pada definisi berikut:
Definisi 4 Misal X variabel acak dengan cdf F (x, ), . Misalkan pula X1 , . . . , Xn
sampel dari distribusi X. Statistik Tn dikatakan estimator konsisten jika
p
Tn .
Nunung Nurhayati
i=1
Menurut Teorema 3,
n
1X 2 p
Xi E[X12 ]
n
Xn
dan
i=1
X n 2 .
Akibatnya
n
n1
1X 2
2
Xi X n
n
1.(E[X12 ] = 2 ) = 2
i=1
P
Dengan cara serupa dapat ditunjukkan pula bahwa V = n1 ni=1 (Xi X)2 juga estimator
konsisten untuk 2 . Berarti, variansi 2 mempunyai 2 estimator yang konsisten, yaitu S 2
dan V. Namun, S 2 estimator lebih baik dari V karena selain konsisten, S 2 juga bersifat
tak bias. Lainnya halnya dengan V, yang gagal menjadi tak bias karena
E[V ] =
n1 2
6= 2 .
n
bias(V ) = E(V ) =
n1 2
2
=
n
2
=
2
.
n
Namun demikian, untuk sampel besar, V bersifat tak bias secara asimtotik (asymptotically unbiased ) karena untuk n , bias(V ) 0.
Kekonsistenan merupakan sifat penting untuk suatu estimator. Suatu estimator dikatakan
jelek (poor estimator ) jika estimator tersebut tidak konsisten sehingga nilainya tidak pernah dekat ke nilai sebenarnya ketika ukuran sampelnya bertambah besar. Lain halnya
dengan sifat tak bias yang masih boleh digantikan sifat tak bias secara asimtotik. Sebagai contoh, untuk kasus sampel besar, variansi 2 dapat diestimasi dengan S 2 atau bisa
juga diestimasi dengan V.
Latihan
1. Misal Yn berdistribusi B(n, p).
(a) Tunjukkan Yn /n konvergen dalam peluang ke p. Hasil ini merupakan salah
satu bentuk dari hukum lemah bilangan besar.
6
Nunung Nurhayati