Edisi E-Book
Oleh
Prof. Dr.Phil. I Gusti Putu Sudiarta,M.Si
Februari, 2013
Kata Pengantar
i
Statistika Matematis II/ Edisi E-book
ii ISBN 978-602-8310-02-4
Daftar Isi
Kata Pengantar i
1 Distribusi Pendekatan 1
1.1 Standar Kompetensi . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Indikator Hasil Belajar . . . . . . . . . . . . . . . . . . . . . . 1
1.3 Uraian Materi . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.3.1 Konsep Dasar Distribusi Pendekatan . . . . . . . . . 2
1.3.2 Menentukan Distribusi Pendekatan . . . . . . . . . . 2
1.3.2.1 Melalui Fungsi Distribusi . . . . . . . . . . . 2
1.3.2.2 Melalui Fungsi Pembangkit Momen . . . . 8
1.3.2.3 Melalui Teorema Limit Pusat . . . . . . . . . 12
1.4 Soal-Soal dan Pembahasan . . . . . . . . . . . . . . . . . . . 20
1.5 Soal-Soal Latihan . . . . . . . . . . . . . . . . . . . . . . . . . 23
iii
Statistika Matematis II/ Edisi E-book
3 Estimasi Titik 53
3.1 Standar Kompetensi . . . . . . . . . . . . . . . . . . . . . . . 53
3.2 Indikator Hasil Belajar . . . . . . . . . . . . . . . . . . . . . . 53
3.3 Uraian Materi . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
3.3.1 Prinsip Reduksi Data . . . . . . . . . . . . . . . . . . . 54
3.3.1.1 Azas Kecukupan . . . . . . . . . . . . . . . 54
3.3.1.2 Teorema Halmos & Savage . . . . . . . . . . 57
3.3.2 Estimasi Titik . . . . . . . . . . . . . . . . . . . . . . . 61
3.3.2.1 Estimator Tak Bias . . . . . . . . . . . . . . . 62
3.3.2.2 Estimator Konsisten . . . . . . . . . . . . . . 64
3.3.2.3 Estimator Efisien . . . . . . . . . . . . . . . . 65
3.3.2.4 Estimator Bayes . . . . . . . . . . . . . . . . 67
3.3.3 Metode Evaluasi Estimator Titik . . . . . . . . . . . . 69
3.3.3.1 Galat Kwadrat Rata-Rata . . . . . . . . . . . 70
3.3.3.2 Estimator Terbaik . . . . . . . . . . . . . . . 72
3.3.3.3 Teorema Batas Bawah Cramer-Rao . . . . . 73
3.3.4 Metode Estimasi Titik . . . . . . . . . . . . . . . . . . 81
3.3.4.1 Metode Momen . . . . . . . . . . . . . . . . 82
3.3.4.2 Metode Maksimum Likelihood . . . . . . . 84
3.4 Soal-Soal dan Pembahasan . . . . . . . . . . . . . . . . . . . . 89
3.5 Soal-Soal Latihan . . . . . . . . . . . . . . . . . . . . . . . . . 111
iv ISBN 978-602-8310-02-4
Statistika Matematis II/ Edisi E-book
v ISBN 978-602-8310-02-4
Statistika Matematis II/ Edisi E-book
vi ISBN 978-602-8310-02-4
Bab 1
Distribusi Pendekatan
1
Statistika Matematis II/ Edisi E-book
Masalah :
Jika X adalah rerata dari sampel acak X1 , X2 , ..., Xn yang berasal dari dis-
tribusi dengan fungsi kepadatan peluang berbentuk:
(
1; 0 < x < 1
f (x) =
0; lainnya
Hitung P( X < 0, 5). Kita menghadapai masalah dalam menghitung nilai
ini, karena ternyata distribusi dari X, dan fungsi pembangkit momen dari
X bergantung pada n, sehingga nilai dari P( X < 0, 5) tidak dapat dihitung
dengan cara langsung.
Pembahasan
Distribusi dari X harus kita selesaikan lebih dahulu. Karena variabel ran-
dom X berasal dari distribusi seragam pada (0, 1), untuk menentukan
distribusi dari X akan digunakan teknik fungsi pembangkit momen. Se-
belumnya kita akan menentukan dahulu fungsi pembangkit momen dari
X. Fungsi pembangkit momen dari X adalah:
Mx (t) = E(etx )
R 1 tx
= 0 e .1 dx
1
1 tx
= t e
x =0
e t −1
= t ; t 6= 0
( e t −1)
Limt→0 Mx (t) = Limt→0 t
t 1
= Limt→0 e −
t
e t −1
(
t ; t 6= 0
Jadi Mx (t) =
1; t=0
Dari sini dapat dilihat bahwa fungsi pembangkit momen dari X bergan-
tung pada n, distribusi dari X juga bergantung pada n. Jadi kita tidak da-
pat menentukan fungsi kepadatan peluang dari X , sehingga tidak dapat
pula menghitung peluang untuk harga tertentu.
Oleh karena itu, berikut ini akan dijelaskan suatu cara pendekatan untuk
menentukan distribusi dari sebuah variabel random bergantung pada bi-
langan bulat positif n.
Sebagai kesepakatan dalam hal ini, fungsi distribusi akan dituis sebagai
Fn dan fungsi kepadatan peluangnya ditulis sebagai f n . Apabila kita mem-
bahas barisan fungsi distribusi, maka kita harus menuliskan indeks n pada
variabel randomnya. Misalkan penulisan:
Z x
1 2/2
e−ny
Fn X = √ √ dy
−∞ 1/n. 2π
merupakan fungsi distribusi dari rerata X yang dihitung dari sampel acak
berukuran n dan berasal dari distribusi N (0, 1).
De f inisi
Misalkan Fn (y) adalah fungsi distribusi dari variabel random Yn yang
bergantung pada bilangan bulat positif n. Jika F (y)adalah fungsi distribusi
dan Limt→0 Fn (y) = F (y) untuk setiap nilai y yang mengakibatkan F (y)
kontinu, maka variabel random Yn dikatakan mempunyai distribusi pen-
dekatan dengan fungsi distribusi F (y).
Contoh :
Misalkan Yn menunjukkan statistik urutan ke-n dari sampel acak
X1 , X2 , ..., Xn yang berdistribusi dengan fungsi kepadatan peluang berben-
tuk:
f (x) = 1
θ ; 0<x<θ;0<θ <∞
= 0 ; lainnya
Apakah Yn mempunyai distribusi pendekatan ?
Jawab:
Fungsi kepadatan peluang dari Yn adalah:
1. Untuk y < 0
Ry R <0
Fn (y) = 0 gn (t) dt = 0 0 dt = 0
2. Untuk 0 ≤ y < θ y
R y n −1 y n
Fn (y) = 0 ntθ n dt = 1 n
t
θ n 0 = θ
3. Untuk θ ≤ y < ∞
Rθ Ry
Fn (y) = 0 gn (t) dt + 0 gn (t) dt
R θ ntn−1 R <0
= 0 θ n dt + 0 0 dt
= 1
Jadi :
Fn (y) = 0 ; y<0
y n
= θ ; 0≤y<θ
= 1 ; θ≤y<∞
(
0, −∞ < y < θ
limn→∞ Fn (y) =
1, θ ≤ y < ∞
Sekarang ambil fungsi distribusi dari Y adalah:
(
0, −∞ < y < θ
F (y) =
1, θ ≤ y < ∞
Karena Limn→0 Fn (y) = F (y) pada masing-masing nilai y yang menye-
babkan F (y) kontinu, menurut definisi, variabel random Yn mempunyai
distribusi pendekatan dengan fungsi distribusi F (y).
Berikut ini akan diberikan sebuah contoh tenang sebuah variabel random
yang mempunyai distribusi pendekatan degenerate.
Contoh
misalkan:
√ √
t = n y→dt = n dy
batas-batasnya:
Untuk y = −∞ maka t = −∞
√
Untuk y = x , maka t = n x
R √n x −t2 /2 √
dt
Fn ( x ) = √ 1√
−∞ √ 1/n. 2π e n
R n x 1 −t2 /2
= −∞
√ e
2π
dt
Limn→∞ Fn ( x ) = 0 ; x < 0
= 21 ; x = 0
= 1 ; x>0
F(x) = 0 ; x < 0
= 1 ; x≥0
f (x) = 1
θ ; 0<x<θ;0<θ <∞
= 0 ; lainnya
Fungsi kepadatan peluang dari Yn adalah:
nyn−1
gn ( y ) = θn ; 0<x<θ
= 0 ; Lainnya
Zn = n(θ − yn )
inversnya :
Zn
yn = θ −
n
Jacobiannya :
dyn −1
J= =
dzn n
dyn
| J | = = 1
dzn n
1
hn (z) = θn ; 0 < z < nθ
= 0 ; lainnya
Fungsi distribusi dari Zn adalah
Rz R <0
1. Untuk z < 0, Kn (z) = 0 hn (t) dt = 0 0 dt = 0
t n −1
Rz1
2. Untuk 0 ≤ z < nθ, Kn (z) = 0 θn θ− n dt
3. Misalkan : y = θ − nt ; dy = − n1 dt
Batas-batasnya:
Untuk t = 0, maka y = θ
Untuk t = z, maka y = θ − nz
R θ − nz 1 n −1
Kn ( z ) = 0 θ n y (− n ) dy
θ
1 n
= θ n y θ − z
n
z n
Kn ( z ) = 1 − 1 − nθ
4. Untuk z ≥ nθ
R nθ Rz
Kn ( z ) = 0 hn (t) dt + nθ hn (t) dt
t n −1
R nθ 1 Rz
= 0 θ n θ − n dt + nθ 0 dt = 1
Jadi :
Kn ( z ) = 0 ; z≤0
z
= 1− 1− nθ ; 0 ≤ z < nθ
Kn ( z ) = 1 ; z ≥ nθ
K (z) = 0 ; z<0
= 1−e − z/θ ; z≥0
merupakan fungsi ditribusi yang kontinu dimana-mana, serta
Limn→∞ Kn (z) = K (z)untuk semua nilai. Jadi Zn mempunyai pendekatan
dengan fungsi distribusi K (z). Dalam hal ini, distribusi pendekatannya
tidak degenerate.
Teorema
!
n
F (yn ) = pyn (1 − p)n−yn ; yn = 0, 1, 2, ..., n
yn
= 0 ; lainnya
Kemudiankita akan menentukan fungsi pembangkit momen dari Yn .
Fungsi pembangkit momen dari yn adalah:
n
= ∑nyn =0 etyn p y n (1 − p ) n − y n
y
!n
n y
= ∑nyn =0 pet n (1 − p)n−yn
yn
n
= (1 − p) + pet
µ n
1 − n + n et
µ
=
µ ( e t −1) n
h i
= 1+ n
µ ( e t −1) n
h i
Limn→∞ M(t; n) = Limn→∞ 1 + n
Limn→∞ M(t; n) = e µ ( e t − 1); t ∈ <
Contoh :
Jawab :
1 (n/2)−1 − Zn /2
f (zn ) = z e ; Zn > 0
2n/2 .Γ( n2 ) n
= 0 ; lainnya
Fungsi pembangkit momen dari Zn adalah:
R∞h i(n/2)−1
MZn (t) = 1 u
e−u ((1/2
du
2n/2 .Γ( n2 ) 0 (1/2)−t )−t)
1
R ∞ (n/2)−1 −u
= n/2 0 u e du
2n/2 .Γ n2
( )((1/2)−t)
n/2 Γ 2
1 n
= n
2 .Γ( 2 )((1/2)−t)
n/2
√
Apabila et 2/n) diuraikan dengan Deret Taylor, maka akan diperoleh:
r " r #2 " r #3
√ 2 1 2 1 2
2/n)
et = 1+t + t + t + ...
n 2 n 6 n
Sehingga:
q q 2 q 3
2
M (t; n) = 1+t + t n + 6 t n2 + ...−
n
2 1 1
2
" q 2 q 3 #−n/2
q q
t n2 1 + t n2 + 12 t n2 + 16 t n2 + ...
q q −n/2
= 1 − t2 ( n2 ) + 12 t2 ( n2 ) + 16 t3 ( n2 ) 2
n − 1 3 2
2t (n)
2
n + ...
q −n/2
t2 1 3 2 2
= 1− n − 3t (n) n + ...
q −n/2
t2 1 3 2 2
Limn→∞ M(t; n) = Limn→∞ 1 − n − 3t (n) n + ...
q −n/2
t2 1 3 2 2
M(t; n) = Limn→∞ 1 − n − 3t (n) n + ...
h i−n/2
t2
= Limn→∞ 1 − n
t2
Limn→∞ M(t; n) = e2
Ternyata bentuk di atas merupakan fungsi pembangkit momen dari dis-
t2 ( Z −n)
tribusi normal standar, yaitu M(t) = e 2 . Jadi variabel random Yn = √n
2n
mempunyai distribusi pendekatan berbentuk distribusi normal standar.
Apabila sebuah variabel random mempunyai disribusi pendekatan maka
kita dapat menggunakan distribusi pendekatan itu sebagai distribusi yang
sebenarnya. Misalnya dari hasil contoh di atas, kita dapat menggunakan
distribusi Poisson sebagai pendekatan dari distribusi Binomial untuk n be-
sar dan p kecil. Kemudian kita bisa menghitung peluang dari variabel ran-
dom yang berdistribusi binomial dengan menggunakan distribusi pois-
son.
Contoh
Misalnya variabel random Y berdistribusi binomial dengan n = 50 dan
p = 0, 04. Hitung P(Y ≤ 1) dengan dua cara, yaitu cara eksak dan cara
pendekatan.
Jawab :
1. Cara eksak
Dalam hal ini, kita menyelesaikannya dengan menggunakan dis-
ribusi binomial.
P (Y ≤ 1 ) = ! P(Y = 0) + P(Y =!1)
50 50
= (0, 04)0 (0, 96)50 + (0, 04)1 (0, 96)49
0 0
= 0, 1299 + 0, 2706
P (Y ≤ 1 ) = 0, 4005
2. Cara pendekatan
Dalam hal ini, kita menyelesaikannya dengan menggunakan distr-
busi poisson.
µ = np = 50.0, 04 = 2
P (Y ≤ 1 ) = P (Y = 0 ) + P (Y = 1 )
e−2 20 e−2 21
= 0! + 1! = 3.e−2 = 0, 4060
Teorema (
1 ; dengan peluang p
Jika Xi =
0 ; dengan peluang q = 1 − p
maka distribusi dari variabel random Sn = X1 + X2 + ... + Xn dengan
Xi saling bebas dan berdistribusi identik, secara pendekatan akan
berdistribusi N (np; npq) untuk n → ∞.
Bukti :
Fungsi pembangkin momen dari Xi adalah:
E etxi
M xi ( t ) =
= ∑1xi =0 etxi f ( xi
)
= et(1) .p + et(0) .q
= pet + q
Fungsi pembangkit momen dari Sn adalah:
E etsn
Ms n ( t ) = h i
= E et(X1 +X2 +...+Xn )
E etX1 +tX2 +...+tXn
=
tX tX
e 1 + e 2 + ... + E etXn
=
= Mx1 (t) + Mx2 (t) + ... + Mxn (t)
= ( pet + q).( pet + q)...( pet + q)
Ms n ( t ) = ( pet + q)n
Eh hetZ
Mz ( t ) = n iio
Sn −np
= E exp t √
npq
√
= e − tnp/ npq
.Msn √npq t
√ h √ in
= e − tnp/ npq
pe t/ npq
+q
h √ h √ iin
= e−tp/ npq pet/ npq + q
h √ √ in
= e−tq/ npq + q.e−tp/ npq
t2 q2 t3 q3
n h i
tq
= p 1 + √npq + 2npq + 6npq√npq + ...
ion
t2 q2 t3 q3
h
+q 1 − √tq + + √ + ..
q npq 2 2npq 36npq npq
t q2
h
pq t q
= p + t n + 2n + 6np√npq + ... + q−
q in
pq t2 q t3 q2
t n + 2n + 6np npq + ... √
h 3 (q− p)
in
t2
Mz ( t ) = 1 + 2n + t6√ npq + ...
n
t2 t3 ( q − p )
Limn→∞ Mz (t) = Limn→∞ 1 + + √ + ...
2n 6 npq
n
t2
2
= Limn→∞ 1 + Limn→∞ Mz (t) = et /2
2n
3. Berikut ini akan dijelaskan dalil limit pusat untuk n buah variabel
random yang berdistribusi identik (pembuktiannya dilakukan oleh
Lindeberg dan Levy)
E( Xi ) = µ; Var ( Xi ) = σ2 ; i = 1, 2, ..., n
µ 1 = E ( Xi − µ 1 ) = E ( Xi ) − µ 1 = µ 1 − µ 1 = 0
µ2 = E( Xi − µ1 )2 = σi2
Sn − µ ( X1 + X2 + ... + Xn ) − µ
Z= =
σ σ
dengan :
(i ) µ = E(Sn ) = E( X1 + X2 + ... + Xn )
= E( X1 ) + E( X2 ) + ... + E( Xn )
= µ1 + µ1 + ... + µ1
µ = E(Sn ) = nµ1
p
(ii ) σ = Var (Sn )
p
= Var( X1 + X2 + ... + Xn )
p
= Var( X1 ) + Var( X2 ) + ... + Var( Xn )
q
= σ12 + σ12 + ... + σ12 )
√
σ = σ1 n
Jadi
t t t
√ ( x − µ1 )
n 1
√ ( x − µ1 )
n 2
√ ( x − µ1 )
n n
= E e σ1 e σ1
....e σ1
t t t
= Mx1 − µ1 √ .Mx2 − µ1 √ ....Mxn − µ1 √
σ1 n σ1 n σ1 n
n
t
Mz (t) = Mx1 − µ1 √
σ1 n
" 2 3 #n
1 t 1 t
= 1+ √ σ12 + √ σ12 + ...
2 σ1 n 6 σ1 n
n
t2 t3
= 1+ + √ + ...
2n 6σ1 n n
h in
t2 3
Limn→∞ Mz (t) = Limn→∞ 1 + + t √ + ...
2n
h 6σ1 n2 inn
t
= Limn→∞ 1 + 2n
2 /2
Limn→∞ Mz (t) = et
Ternyata bentuk di atas merupakan fungsi pembangkit momen dari
S −nµ
distribusi normal standar. Jadi Z = nσ1 n 1 berdistribusi N (0; 1).
∑nxi =1 ( Xi − µ1 )
Yn = √
σ1 n
akan berdistribusi N (0; 1)
Bukti : Tentukan fungsi pembangkit momen dari Yn , kemudian kita
X1 − µ
h i
t √
akan menguraikan e σ n berdasarkan deret Taylor, sehingga diper-
oleh: n
X1 − µ 2 X1 − µ 3
h i h i h i
X1 − µ t2 t3
M(t; n) = 1+t +√
σ n
+
2
√
σ n
+ ... 6n
√
σ n
h in
t t2 2 + ...
= 1+ σ √ E ( X 1 − µ ) + 2nσ2
E ( X 1 − µ )
h1 n 2 3
in
t t√ 3
= 1 + 2n + 6σ3 n n E( X1 − µ) + ...
h in
t2 t3√ 3
Limn→∞ M (t; n) = Limn→∞ 1 + 2n + 6σ3 n n E( X1 − µ) + ...
h in
t2
= Limn→∞ 1 + 2n
2 /2
Limn→∞ M(t; n) = et
Ternyata bentuk di atas merupakan fungsi pembangkit momen dari
∑nx =1 Xi −nµ
i √
distribusi normal standar, sehingga Yn = σ n
berdistribusi
N (0; 1).
−√tµ h i h i h i
. t t t
= e σ/ n Mx1 σ n .Mx2 σ n ....Mxn σ n
√ √ √
1
−√
tµ h h 1 iin 1
t
M(t; n) = e σ/ n Mx1 σ √
1 hn i
−√ tµ t
ln M(t; n) = σ/ n
+ n.ln M x1 σ n √
1
h i
t
Apabila kita menguraikan Mx1 σ √ lebih lanjut, maka akan diper-
1 n
oleh hhasil:i h i2 h i3
M x1 σ √ t
= 1 + µ 0 √ t
+ 1 0
µ t
√ + 1 0
µ t
√ + ...
1 n 1 σ1 n 2 2 σ1 n 6 3 σ1 n
Sehingga:
h i2 h i3
−√
tµ 0 t√ 1 0 t√ 1 0 t√
ln M (t; n) = σ/ n + n.ln Mx1 1 + µ1 σ n + 2 µ2 σ n + 6 µ3 σ n + ...
1 1 1
h i2 h i3
−√tµ
ln M(t; n) = +n
σ n
µ10 σ √
+ t 1 0
2 µ2 + t
√ 1 0
6 µ3
t
+ ... −
√
1 n σ1 n σ1 n
h i2 h i3 2
1 0 t 1 0 t 1 0 t
2 µ1 σ1 n + 2 µ2 σ1 n + 6 µ3 σ n + ... +
√ √ √
1
3 #
h i2 h i3
1 0 √ t 1 0 t
+ 16 µ30 σ √ t
+ ... − ...
3 µ1 σ1 n + 2 µ2 σ1 n
√
1 n
h √ √ i
−µ0 n µ 02 µ10 µ20
h 0 i h 0 i
= −µσ n + σ1
µ µ3
t + 2σ22 + 2σ12 t2 + 6σ3 √ n
− + √
2σ n
t3 + ..
µ10 = µ
dengan:
µ20 − µ10 = µ2 = σ2
3
1 2 µ30 µ10 µ30 ( µ10 )
ln M (t; n) = 0 + 2 t + 6σ3 √n − 2σ3 √n + 23σ3 √n t3 + ...
3
1 2 µ30 µ10 µ30 ( µ10 ) 3
Limn→∞ ln M (t; n) = Limn→∞ 2 t + 6σ3 √n − 2σ3 √n + 23σ3 √n t + ...
Limn→∞ ln M (t; n) = 12 t2
2
Limn→∞ M(t; n) = et /2
h i
X − µ1
atau Limn→∞ P a ≤ √
σ1 n
≤ b = φ(b) − φ(b)
Jawab :
Jawab :
(i ) E ( X ) = p
Sehingga:
P(Y = 48, 49, 50, 51, 52) = 0, 0375 + 0, 0780 + 0, 0796+
0, 0780 + 0, 0735
P(Y = 48, 49, 50, 51, 52) = 0, 3826
Apabila kita membandingkan hasil pendekatan dengan hasil eksak,
maka akan terdapat perbedaan sebesar 0, 0016.
Sehingga:
P(Sn < a) = 0, 95
" #
Sn − E ( Sn ) a − 100
P p ≤ √ = 0, 95
Var (Sn ) 200
a − 100
P Z≤ √ = 0, 95
200
a − 100
√ = 1, 645
200
√
a = 100 + 1, 645 200 = 123, 264
e − x x µ −1
f (x) = Γ(µ)
; x > 0, 0 < µ < ∞
= 0 ; lainnya
Jika X n = 1
n ∑in=1 Xi , maka perlihatkan bahwa untuk n −→ ∞
berlaku:
√
n( X n − µ)
7→ N (0, 1)
( X n )1/2
dalam distribusi.
√ √
Yn = n( Xn − µ)/α = n ( Xn − 1)
√ √
Jika diberikan dengan exp(−t n + n(et/ n − 1))
f ( x ) = e− x ; x > 0
= 0 ; lainnya
10. Misalkan X1 , X2 , ..., X10 adalah barisan peubah acak yang saling be-
bas dan berdistribusi identik dengan rerata µ dan variansi. Perli-
hatkan bahwa:
(a) 2
Σn i.Xi
n ( n +1) i =1
pµ
−→
6
(b) n(n+1)( Σn i.Xi p µ
2n+1) i =1
−
→
27
Statistika Matematis II/ Edisi E-book
Definisi
x = m+v
σ2
P(| x − m| < ε) > 1 − 2 (2.1)
ε
Jika varian x relatif kecil dibanding ε atau σ εmaka probabilitas | x −
m| < ε akan menuju 1,atau P(| x − m| < ε)7→ 1. Hal ini berarti bahwa
suatu hasil pengamatan terhadap panjang benda m tersebut hampir pasti
(almost certainly) terletak antara m − εdan m + ε. Akibatnya parameter m
terletak antara x(ı) − ε dan x(ı) + ε.
m.
Contoh:
Masih berkaitan dengan masalah di atas, tentukanlah probabilitas bahwa
x terletak antara 0, 9.m dan 1, 1.m, jika diestimasi dengan variabel random
2
x̄ dan dengan mengasumsikan n cukup besar sedemikian sehingga σm.n 2 =
−
10 . 4
P(0, 9.m < x̄ < 1.1.m) = P(−0, 1.m < x̄ − m < 0, 1.m)
σ2
P(|x̄ − m| < 0, 1.m > 1 − 2 , dengan ε = 0, 1.m
ε
10−4 .m2
P(|x̄ − m| < ε = 1 − −2
10 n.m2
1
= 1−
100n
Definisi
lim Fn ( x ) = F ( x ) (2.2)
n→∞
Misal Yn variabel random dengan fungsi distribusi Fn (y) dan Mn (y) ada
untuk ∀t ∈ <. Jika F (y) fungsi distribusi yang bersesuaian dengan M(t)
d
sehingga Mn (t) → M(t) maka Yn → Y .
Catatan :
√ d
Jika X1 , X2 , ..., Xn ∼ (µ, σ2 ), σ > 0 maka Yn = n( X n − µ)/σ → Y, dimana
Y ∼ N (0, 1)
Bukti
Dalam pembuktian berikut, diasumsikan fpm dari x ada. Misal fpm dari X
dan X − µ adalah M(t) dan m(t) maka m(t) = E(et(X −µ) ) = e−µt M(t) juga
ada. Karena m(t) merupakan f pm dari X − µ maka m(0) = 1, m0 (0) =
E( X − µ) = 0, m00 (0) = E( X − µ)2 = σ2 . Menurut teorema Taylor, ada
bilangan ε antara 0 dan t sehingga m(t) = m(0)+ m0 (0)t+ m00 (ε)t2 /2 =
1 + m00 (ε)t2 /2. Di ruas kanan ditambah dan dikurangkan dengan σ2 t2 /2
maka
m00 (ε) − σ2 t2
2 2
m(t) = 1 + σ t /2 + .
2
Bab 2. Konvergensi Variabel Random 31 ISBN 978-602-8310-02-4
Statistika Matematis II/ Edisi E-book
Pandang
" ! !#
n √
Mn (t) = E exp t ∑ Xi − nµ /σ n (2.4)
i =1
n
X−µ
= E exp t √ (2.5)
σ n
n
t
= m √ ; −h < t < h (2.6)
σ n
t √ √
dengan 0 < ε < √
σ n
dan −hσ n < t < hσ n sehingga
( 00 )n
t2 m ( ε ) − σ 2 t2
Mn ( t ) = 1+ + (2.8)
2n 2nσ2
Contoh
Jawab :
1
f (x) = θ ; 0<x<θ
= 0 ; lainnya
hR R yn in
0
FYn (yn ) = −∞ f ( x )dx + 0 f ( x )dx
hR R yn in
0 1
= −∞ 0dx + 0 θ dx
yn n
= θ
Untuk yn ≥ θ,
hR R yn in
0 Rθ
FYn (yn ) = −∞ f ( x )dx + 0 f ( x )dx + 0 f ( x )dx
hR R yn 1 R yn in
0
= −∞ dx + 0 θ dx + 0 0dx =1
Jadi
Jadi Yn d Z
−
→
Bab 2. Konvergensi Variabel Random 33 ISBN 978-602-8310-02-4
Statistika Matematis II/ Edisi E-book
Zx
1 2/2
Fn ( x ) = e−nw dw (2.10)
−∞ (2π )1/2 (1/n )1/2
√
Jawab Misal v = nw, sehingga
√
Z nx
1 2
Fn ( x ) = √ e−v /2 dv (2.11)
−∞ 2π
dan
0, x̄ < 0
Limn→∞ Fn ( x ) = 1
2 , x̄ = 0
1, x̄ > 0
lim Fn ( x ) = F ( x ) (2.13)
n→∞
dan (
0; x < 2
lim Fn ( x ) = F ( x ) = (2.15)
n→∞ 1; x ≥ 2
d
Karena lim Fn ( x ) = F ( x ) di setiap titik kontinu dari F ( x ) maka xn →
n→∞
x. Ini berarti limit distribusi tidak dapat ditentukan oleh fkp.
De f inisi
p
peluang (ditulis Zn → Z), jika untuk setiap ε > 0 berlaku:
Limn→∞ P [| Zn − Z | ≥ ε] = 0 (2.16)
Karena
P {| Zn − Z | ≥ ε} + P {| Zn − Z | < ε} = 1
maka
P {| Zn − Z | ≥ ε} → 0 ⇔ P {| Zn − Z | < ε} → 1 (2.17)
1
P [| X − µ x | ≥ kσx ] ≤
k2
atau
1
P [| X − µ x | < kσx ] ≥ 1 −
k2
f ( x ) = λ1 e− x/λ ; x > 0
Perlihatkan bahwa x konvergen stokastik
= 0 ; lainnya
ke-λ.
Jawab :
1
Dari ketidaksamaan Chebysev: P [| X − µ x | ≥ kσx ] ≤ k2
Kita mengetahui bahwa E( Xi ) = λ dan Var( Xi ) = λ2 .
Karena x = 1
n ∑in=1 Xi = 1
n [ X1 + X2 + ... + Xn ] , maka
h i
1
(i ) E (x) = E n [ X1 + X2 + ... + Xn ]
1
= n [ E ( X1 ) + E ( X2 ) + ... + E ( Xn )]
1
E (x) = hn (λ + λ... + λ) = λ i
1
(ii ) Var ( x ) = Var n [ X1 + X2 + ... + Xn ]
= n−2 [Var ( X1 ) + Var ( X2 ) + ... + Var ( Xn )]
2
n−2 λ2 + λ2 ... + λ2 = λn
=
Jadi:
λ 1
P X − λ ≥ k √ ≤ 2
n k
Misalkan
ε = k. √λn
√
ε n
k = λ
ε2 n
k2 = λ2
Sehingga:
λ2
P X−λ ≥ ε ≤ 2
ε n
λ2
Limn−→∞ P X − λ ≥ ε ≤ Limn→∞ 2 = 0
ε n
Dengan demikian X konvergen stokastik ke-λ.
Jawab
Diberikan ε > 0
√
P {| Xn − µ| ≥ ε} = P | Xn − µ| ≥ kσ/ n (2.18)
√
dengan k = ε n/σ. Dengan menggunakan ketaksamaan Chebyshev di-
peroleh
√
P | Xn − µ| ≥ kσ/ n ≤ 1/k2 = σ2 /(nε2 )
(2.19)
Contoh Misalkan variabel random Yn berdistribusi b(n, p), dengan 0 < p <
Y −np
1. Jika Un = √ n ,maka:
np(1− p)
" q #n
t np
−t
q
−t np √ 1− p
n 1− p np(1− p) n
= (1 − p ) e + pe
p √ t−tp
q
t n (1− p )
= (1 − p ) e + pe np(1− p)
p 1− p n
q q
− t n (1− p ) t np
= (1 − p ) e + pe
p
q q
1− p
−t n (1− p ) t
Kemudian kita akan menguraikan e dan pe np
menggunakan
perluasan deret MacLaurin, yaitu:
q
x2 x3 p
(i ) e − x = 1 − x + 2 − 6 + ...dengan x = t n (1− p )
q
x2 x3 1− p
(ii ) ex = 1 − x + 2 − 6 + ...dengan x = t np
Jadi:
3p
h n q 2
q o
M(t; n) = (1 − p) 1 − t n(1p− p) + 2n(1t − p) − 6n(t1− p)
p
n (1− p )
+ ... +
n
t2 (1− p ) t3 (1− p )
n q q oi
1− p 1− p
p 1 + t np + 2np + 6np + ...
h q 2 3 q np
p t p t p p
= 1 − t n(1− p) + 2n(1− p) − 6n(1− p) n(1− p) + ... − p+
t2 p2 t3 p2
q q
p p
pt n(1− p) + 2n(1− p) − 6n(1− p) n(1− p) − ... + p+
in
t2 (1− p ) t3 (1− p )
q q
1− p 1− p
pt np + 2n + 6n np + ...
Sehingga:
n
t3 (2p−1)
q
p t2 √
M (t; n) = 1 − t(1 − 2p) n (1− p )
+ 2n − + ...
6n np(1− p)
n
t3 (2p−1)
q
t2 p
√
= 1+ 2n − t(1 − 2p) n (1− p )
− + ...
6n np(1− p)
Limn−→∞ M (t; n) =
n
t3 (2p−1)
q
t2
= Limn−→∞ 1 + 2n − t(1 − 2p) n(1p− p) − √ + ...
6n np(1− p)
h in
t2
= Limn−→∞ 1 + 2n
t2
Limn−→∞ M(t; n) = e 2
Ternyata bentuk di atas merupakan fungsi pembangkit momen dari
disribusi normal standar. Jadi distribusi pendekatan dari Un adalah
N (0; 1)
Yn
2. n konvergen stokastik ke-p
Untuk menyelesaikannya akan digunakan ketidaksamaan Cheby-
shev, yaitu:
1
P [|Yn − µYn | < kσYn ] ≥ 1 −
k2
Sehingga:
p (1 − p )
Yn
P − p < ε ≥ 1 −
n nε2
−
Yn p ( 1 p )
Limn−→∞ P − p < ε ≥ Limn−→∞ 1 − =1
n nε2
Yn
Jadi n konvergen stokastik ke-p
Yn
3. Variabel random np konvergen stokastik ke-1
Untuk menyelesaikannya akan digunakan ketidaksamaan Cheby-
shev, yaitu:
1
P [|Yn − µYn | < kσYn ] ≥ 1 − 2
k
1
q
P |Yn − np| < k np(1 − p) ≥ 1 − 2
k
Yn 1
q
P np − 1 < k np(1 − p) ≥ 1 − 2
np k
" s #
1− p
Yn 1
P − 1 < k ≥ 1− 2
np np k
npε2
q
1− p
Misalkan : ε = k np dan k2 = 1− p
Sehingga :
1− p
Yn
P
−1 < ε ≥ 1−
np npε2
−
Yn 1 p
Limn−→∞ P − 1 < ε ≥ Limn−→∞ 1 − =1
np npε2
Yn
Jadi n konvergen stokastik ke-1
h i
4. Variabel random 1 − Ynn konvergen stokastik ke-(1 − p)
Untuk menyelesaikannya akan digunakan ketidaksamaan Cheby-
shev, yaitu
1
P [|Yn − µYn | < kσYn ] ≥ 1 − 2
k
1
q
P |Yn − np| < k np(1 − p) ≥ 1 − 2
k
Yn q
1
P n − p < k np(1 − p) ≥ 1 − 2
np k
" r #
−
Yn p ( 1 p ) 1
P − p < k ≥ 1− 2
np n k
" r #
−
Yn p ( 1 p ) 1
P + 1 − 1 − p < k ≥ 1− 2
np n k
" r #
−
Y n p ( 1 p ) 1
P 1 − − (1 − p) < k ≥ 1− 2
np n k
q
p (1− p ) 2
Misalkan: ε = k n dan k2 = p(nε
1− p )
Sehingga:
p (1 − p )
Y n
P 1−
− (1 − p ) < ε ≥ 1 −
np nε2
−
Y n p ( 1 p )
Limn−→∞ P 1 − − (1 − p) < ε ≥ Limn−→∞ 1 −
np nε2
Yn
Limn−→∞ P 1 −
− (1 − p ) < ε ≥ 1
np
h i
Yn
Jadi 1 − np konvergen stokastik ke-(1 − p)
(
1
θ;0< x < θ, 0 < θ < ∞
f (x) = (2.21)
0; untuk x yang lain
Misalkan dibentuk variabel random Yn = max( X1 , X2 , ...,Xn ), Tun-
w d
jukkan apakah Fn → F, dan Yn → Y untuk suatu variabel random
Y!
Jawab:
FX ( x ) = P( X ≤ x )
Zx
1 x
= dt = , 0 < x < θ (2.22)
0 θ θ
[ yθ ]n , 0 < y < θ
(
FYn (y) = (2.23)
1, y ≥ θ
y
Untuk 0 < y < θ dan jika n → ∞ maka [ θ ]n → 0, sehingga didapat:
(
0, 0 < y < θ
lim FYn (y) =
n→∞ 1, y ≥ θ
= FY (y)
Jawab :
0; t > 0
−−−−
→
Mn ( t ) n → ∞ M ( t ) = 1; t = 0
∞; t < 0
(
0; y < −n
Fn (y) =
1; y ≥ −n
Jadi Fn (y) → F (y) = 1, ∀y dengan F (y) bukan fungsi distribusi se-
hingga Yn tidak konvergen ke suatu fungsi distribusi.
Jawab :
d
4. Diketahui Yn ∼ B(n, p) maka µ = np dan p = µ/n. Apakah Yn → Y
?
Jawab
Jawab :
fpm dari
√
Yn = E(etyn ) = e[t((Zn −n)/ 2n)]
(2.29)
√ √
−tn/ 2n
= e E(etzn / 2n
) (2.30)
√ h
√ i−n/2
[−(t 2/n) n2 ] 1−2 √t
= e ; t < ( 2n)/2 2n (2.31)
√2 r √ !−n/2 r
t n 2 t 2 n
= e −t e n ;t < (2.32)
n 2
√
Menurut teorema Taylor ada bilangan ε(n) antara 0 dan t 2/n se-
hingga
√2 r
2
r
2 2
r
2 3
et n = 1+t + 1/2(t ) + 1/6eε(n) (t ) (2.33)
n n n
Bab 2. Konvergensi Variabel Random 46 ISBN 978-602-8310-02-4
Statistika Matematis II/ Edisi E-book
dan diperoleh
√2 t2 Ψ(n) −n/2
et n = (1 − + ) (2.34)
n n
dengan
√ √ 3
2t3 eε(n) 2t 2t4 eε(n)
Ψ(n) = √ − √ − ; n → ∞ ⇒ Ψ(n) → 0 (2.35)
3 n n 3n
akibatnya
2 /2
Mn ( t ) → e t ; ∀t (2.36)
d
Jadi Yn → Y dengan Y ∼ N (0, 1)
Jawab
7. Jika
p p
Xn → a dan Yn → b ⇒ Xn + Yn → ( a + b)
Bukti
Yn − np
p
n(Yn /n)(1 − Yn /n)
Jawab :
Perhatikan bahwa, menurut TLP
Yn − np d
Un = p → N (0, 1) (2.38)
np(1 − p)
p p p
Yn /n → p dan 1 − Yn /n → 1 − p ⇒ (Yn /n)(1 − Yn /n) → p(1 −
(Y /n)(1−Y /n)
p ) ⇒ n p (1− p ) n →1
dan 1/2
(Yn /n)(1 − Yn /n)
p
Vn = →1 (2.39)
p (1 − p )
Menurut teorema
Yn − np d
Wn = Un /Vn = p → N (0, 1) (2.40)
n(Yn /n)(1 − Yn /n)
9. Diketahui X n dan Sn2 mean dan variabel sampel random yang ber-
ukuran n dari distribusi N (µ, σ2 ), σ2 > 0. Tentukan limit distribusi
dari Wn = σX n /Sn .
Jawab :
Telah dibuktikan bahwa X n dan Sn2 berturut-turut konvergen dalam
probabilitas ke µ dan σ2 . Menurut teorema, Sn konvergen dalam
probabilitas ke σ dan menurut teorema 1, Sn /σ konvergen ke 1. Me-
nurut teorema variabel random Wn = σX n /Sn mempunyai limit dis-
p
tribusi yang sama dengan X n . Jadi Wn → µ.
d
(a) Xn konvergen ke X dalam distribusi (ditulis Xn → X
p
(b) Xn konvergen ke X dalam probabilitas (ditulis Xn → X)
12. Diketahui Wn variabel random dengan mean µ dan varians nbp de-
ngan p > 0, µ dan b konstanta (bukan fungsi dari n). Buktikan
bahwa Wn konvergen dalam probabilitas ke µ. (petunjuk gunakan
ketaksamaan Chebyshev).
15. Misal Y1 , ..., Yn dan X1 , ..., Xn dua sampel random yang independen
dengan mean µ1 dan µ2 dan variansi bersama σ2 . Tentukan limit dis-
tribusi dari
(Y n − X n ) − ( µ 1 − µ 2 )
q (2.42)
2
σ n
n
(Petunjuk : misalkan Z n = ∑ Zi /n dengan Zi = Yi - Xi
i =1
Estimasi Titik
53
Statistika Matematis II/ Edisi E-book
De f inisi
Teorema
Catatan :
Pθ ( X = x dan T ( x ) = t( x ))
Pθ ( X = x | T ( X ) = t( x )) = (3.1)
Pθ ( T ( x ) = t( x ))
P ( X = x dan T ( x ) = t( x ))
= θ
Pθ ( T ( x ) = t( x ))
Pθ ( X = x )
=
Pθ ( T ( X ) = t( x )
f (x | θ )
=
q( T ( x ))
Contoh
f ( x (θ )) ∏ n θ x i (1 − θ )1− x i
q( T ( x )(θ )0
= ni
t n − t
, (t = ∑ xi ) (3.2)
t θ (1-θ )
θ ∑ x i ( 1 − θ ) ∑ (1− x i ) n
= n , ( ∏ θ xi = θ ∑ xi )
t θ t (1 − θ ) n − t i
θ t (1 − θ ) n − t
= n
t θ t (1-θ ) n−t
1
= n
t
1
= n
∑ xi
Contoh
n
f (x | µ) =πi=1 (2πτ 2 )−1/2 exp(−( xi − µ)2 /2τ 2 ) (3.3)
n
= (2πτ 2 )−n/2 exp(− ∑ (xi − µ)2 /2τ2 )
i =1
n
= (2πτ 2 )−n/2 exp(− ∑ (xi − x + x − µ)2 /2τ2 )
i =1
n
= (2πτ 2 )−n/2 exp(− ∑ (xi − x)2 + n(x − µ)2 /2τ2 )
i =1
n
n/2
( 2πτ 2 ) exp −(∑ ( xi − x )2 + n( x − µ )2 )/ 2τ 2
f (x | θ )
= (3.4)
q( T ( x ) | θ ) (2πτ 2 / n ) − 1/2 exp(− n ( x − µ)2 /(2τ 2 ))
n
= n −1/2
(2πτ ) 2 −(n−1) / 2
exp(− ∑ (xi − x)2 /2τ2 )
i =1
f ( x |θ ) = g ( T ( x )|θ ) h( x )) (3.5)
Bukti :
f ( x |θ ) = Pθ ( X − x ) (3.6)
= P0 ( X = x dan T ( X ) = T ( x ))
= P0 ( T ( X ) = T ( x )) P ( X = x | T ( X ) = T ( x ))
= g ( T ( x )|θ ) h( x )
Definisikan
A T ( x) = {Y : T (Y ) = T ( x )} (3.7)
maka
f ( x |θ ) g ( T ( x )|θ ) h( x )
= (3.8)
q ( T ( x )|θ ) q ( T ( x )|θ )
g ( T ( x )|θ ) h( x )
= (de f inisi densitas dari T )
∑ AT (x) g ( T (Y )|θ ) h(y)
g ( T ( x )|θ ) h( x )
= (karena T konstan padaA T ( x) )
g ( T ( x )|θ ) ∑ AT (x) h(y)
h( x )
=
∑ AT (x) h(y)
Karena rasio ini tidak tergantung pada θ, maka T ( X ) adalah statistik cu-
kup untuk θ.
Contoh
Untuk distribusi normal dalam contoh di atas, dapat dilihat bahwa densi-
tas dapat difaktorkan sebagai:
!
n
f ( x | µ) = (2πτ )2 −n/2
exp − ∑ ( xi − x ) 2
/2τ 2 2
exp −n( x − µ) /2τ 2
i =1
(3.9)
Kita dapat mendefinisikan:
!
n
h( x ) = (2πτ 2 )−n/2 exp − ∑ (xi − x)2 /2τ2 (3.10)
i =1
2 2
g(t | µ) = exp −n(t − µ) /2τ (3.11)
f ( x | µ) = h( x ) g ( T ( x ) | µ) (3.12)
Contoh
− _
T1 ( x ) = X (3.13)
dan
−
T2 ( x ) = s2 (3.14)
n −
= ∑ ( x i − X )2 / ( n − 1)
−
Jadi, kemudian dapat mendefinisikan h( x ) = 1 dan
− − − −
T(X) = T 1 ( X ), T 2 ( X ) = ( X , S2 ) (3.17)
Contoh
!
k
f ( x |θ ) = h( x )c(θ ) exp ∑ Wi (θ ) ti ( x ) (3.18)
i =1
Maka
!
− n n
T(X) = ∑ t ( X j )... ∑ t (Xj ) (3.19)
i =1 1 i =1 k
Kuantitas-kuantitas pada populasi, seperti mean (µ) atau varian (σ2 ) yang
umumnya tak diketahui. Kuantitas tersebut disebut dengan parame-
ter populasi. Karakteristik (distribusi) suatu populasi tergantung pada
parameter-parameter ini. Misalnya, distribusi Exponensial P(λ) tergatung
pada parameter λ, distribusi Normal N (µ, σ2 ) tergantung pada 2 parame-
ter mean µ dan variansi σ2 dan distribusi Binomial B(n, p) tergantung pa-
da 2 parameter banyak percobaan n dan peluang sukses dala tiap perco-
baan p. Secara umum lambang θ digunakan sebagai lambang parameter
populasi, sehingga distribusinya dapat tulis f ( x; θ ); θ ∈ Ω. Dalam hal ini
himpunan Ω disebut ruang parameter dan { f ( x; θ ); θ ∈ Ω} disebut kelu-
arga parametrik.
Jika pada populasi digunakan istilah parameter, maka pada sampel digu-
nakan istilah statistik. Statistik didefinisikan sebagai kuantitas-kuantitas
pada sampel. Contohnya; Xn dan Sn2 masing-masing merupakan statis-
tik atau kuantitas (mean dan varian) dari sampel yang berukuran n yang
mungkin diambil dari populasi berdistribusi f ( x; θ ) dengan θ tidak dike-
tahui.
Contoh
Misal X1 , ..., Xn sampel random yang diambil dari populasi b(1, p) dengan
p tidak diketahui. Maka X = n1 ∑in=1 Xi adalah estimator untup p. Estima-
tor yang lain misalnya T = 1/3, T = X1 , dan T = ( X1 + X2 )/2.
Perlu diperhatikan bahwa beberapa statistik dapat digunakan sebagai esti-
mator terhadap suatu parameter. Dari sini mucul masalah: Statistik mana
yang paling baik, atau misalnya statistik mana yang tak bias, efisien, dan
konsisten?
Ada beberapa jenis estimator penting berdasarkan sifat-sifatnya yang ak-
an dibahas pada bagian ini, yaitu estimator tak bias, estimator konsisten,
estimator esfisien, dan estimator minimum
De f inisi
Suatu statistik θb disebut estimator tak bias untuk θ, jika E(θb) = θ, untuk
setiap θ ∈ Ω. Jika E(θb) 6= θ, maka θb disebut estimator bias.
Contoh
Jawab
Contoh
n
Jika S2 = 1
n −1 ∑ ( Xi − X )2 adalah varian sampel random dari populasi
i =1
N (µ, σ2 ), tunjukkan bahwa E(S2 ) = σ2
Bukti
" #
1 n
n − 1 i∑
E ( S2 ) = E ( Xi − X ) 2 (3.20)
=1
" #
n
1 2
= E ∑ ( Xi − µ ) − ( X − µ )
n−1 i =1
" #
n
1 n o
n − 1 i∑
= E ( Xi − µ)2 − nE( X − µ)2
=1
" #
n
1
n − 1 i∑
= σ2 − n.σ2 /n = σ2
=1
Contoh
1
U (0, θ ) ⇒ f ( x, θ ) = ; 0 < x < θ (3.21)
θ
P( T ≤ t) = P( X1 ≤ t) P( X2 ≤ t) ...P( Xn ≤ t) (3.23)
Karena identik maka G (t) = [ F (t)]n dengan G (.) dan F (.) berturut-turut
fungsi distribusi dari T dan X. Jadi
dG (t)
g(t) = = n [ F (t)]n−1 . f (t) (3.24)
dt
ntn−1
g(t) = n [t/θ ]n−1 .1/θ = ;0 < t < θ (3.25)
θn
Zθ
E( T ) = tg(t)dt (3.26)
0
θ
ntn−1 n
Z
= t n = θ
0 θ n+1
Sejauh ini estimator yang dibicarakan hanya untuk sampel berhingga. Se-
baliknya konsistensi adalah sifat asimptotis, yaitu menggambarkan sifat
estimator bila ukuran sampel menjadi tak hingga. Konsistensi adalah sifat
dari barisan estimator bukan dari estimator tunggal.
P {| Tn − θ | ≥ ε} → 0 (3.27)
E( Tn − θ )2
P {| Tn − θ | ≥ ε} ≤ (3.28)
ε2
2. Var ( Tn ) → 0
Contoh
Bukti
De f inisi
Misalkan θb1 dan θb2 dua estimator tak bias untuk parameter θ. Estimator θb1
dikatakan lebih efisien daripada θb2 jika
Contoh
n n +1 n −1 n+1
g ( t1 ) = t ; 0 < t 1 < θ (3.30)
( n + 1) n θ n 1 n
Zb
n n +1 n+1
E( T12 ) = t21 n n
t1n−1 dt1 , dengan b = θ (3.31)
0 ( n + 1) θ n
( n + 1)2 θ 2
=
n ( n + 2)
Kita dapat mencari estimator tak bias yang lain dengan menggunakan sta-
tistik minimum, namakan W = Xmin . Distribusi W sbb:
n w
g(w) = (1 − ) n −1 ; 0 < w < θ (3.33)
θ θ
dan
Zθ
n w θ
E(w) = w (1 − )n−1 dw = (3.34)
0 θ θ n+1
Jika dipilih T2 = (n + 1) Xmin sebagai estimator untuk θ maka T2 adalah
estimator tak bias untuk θ. Sehingga diperoleh distribusi T2
n t2
g ( t2 ) = (1 − ) n −1 ; 0 < t 2 < ( n + 1 ) θ (3.35)
( n + 1) θ ( n + 1) θ
dan
2( n + 1) θ 2
E( T22 ) = (3.36)
n+2
2( n + 1) θ 2 nθ 2
Var ( T2 ) = − θ2 = (3.37)
n+2 n+2
θ2 nθ 2
nampaklah bahwa Var ( T1 )= n ( n +2)
< n +2 = Var ( T2 ), untuk n > 1. Jadi
T1 lebih efisien daripada T2 .
f (x | θ ) π (θ )
π (θ | x ) = (3.38)
m( x )
Z 1
!
n P ( α + β ) P (Y + α ) P ( n − Y + β )
f (Y ) = f (Y, p)dp = (3.40)
0 y P(α) P( β) P(n + α + β)
Bila kita mengestimasi parameter Binomial, kita tidak perlu memiliki dis-
tribusi prior dari keluarga beta. Tetapi, terdapat keuntungan dalam me-
milih keluarga beta, paling tidak kita mempunyai closed-form dari estima-
tor. Secara umum, untuk sembarang distribusi sampling terdapat keluarga
distribusi prior alami yang disebut keluarga konjugat.
De f inisi
Contoh
τ2 σ2
µ = E(θ | x ) = x + (3.41)
τ 2 + σ2 σ2 + τ 2
σ2 τ 2
Var ( x | θ ) = (3.42)
σ2 + τ 2
Dalam bab ini akan diperkenalkan konsep dasar untuk mengevaluasi esti-
mator dan menyelidiki kelakuan beberapa estimator terhadap kriteria ini.
Ukuran kualitas estimator yang paling umum adalah galat kuadrat rata-
rata atau Mean Square Error (MSE). MSE merupakan jumlah Variansi dan
Biasnya
De f inisi
_
Galat kuadrat rata-rata ( MSE) dari estimator T ( x ) terhadap parameter θ
_ 2
adalah fungsi θ yang didefinisikan dengan Eθ ( T ( x ) − θ ) . Dengan mudah
dapat kita lihat bahwa:
_ 2
Eθ ( T ( x ) − θ ) = VarT ( x ) + ( Bias( T ( x ))2 (3.43)
_ _
dengan Bias T ( x ) = Eθ T ( x ) − θ.
Jadi MSE mempunyai dua komponen, variansi yang menguji variabeli-
tas (precision) estimator dan bias mengukur (accuracy) dari estimator. Ja-
di untuk
_ estimator
tak bias kita mempunyai MSE = Eθ ( T ( x ) − θ )2 =
Var T ( x ) .
Contoh
_
Misalkan X1 , ..., Xn adalah i, i, d N (µ, σ2 ). X dan S2 kedua-duanya adalah
_
estimator tak bias untuk µ dan σ2 , karena E( X ) = µ dan E(S2 ) = σ2 .
MSE dari kedua estimator adalah
_ _ σ2
E( X −µ)2 = Var ( X ) = (3.44)
n
2σ4
E(s2 − σ2 )2 = VarS2 =
n−1
Banyak estimator tak bias yang masuk akal jika dilihat dari MSE-nya. Na-
mun perlu ditekankan bahwa pengontrolan bias tidak otomatis pengon-
trolan MSE. Pada khususnya sering terjadi timbal balik antara varansi dan
bias, sedemikian hingga sedikit kenaikan bias dapat ditukarkan dengan
penurunan yang lebih besar pada variansi, yang hasilnya adalah perbai-
kan pada MSE.
Contoh
Estimator alternatif untuk σ2 adalah estimator maksimum likelihood
a2 1 n
_ n−1 2
σ =
n ∑ ( x i − x )2 = n
s
a2
Dengan mudah dapat dilihat bahwa E( σ ) = E( n− 1 2
n s ) =
n −1 2
n s
a2 a2
sehingga σ adalah estimator yang bias untuk σ2 . Variansi σ dapat dihi-
tung sebagai
a2 n−1 2 n−1 2 2( n − 1) 4
Var σ = Var ( s )=( ) Var (s2 ) = σ
n n n2
a
Karena itu, MSE (σ2 ) adalah
a2 2( n − 1) σ 4 n−1 2 2n − 1 4
E ( σ − σ2 ) = + ( σ − σ 2 2
) = ( )σ
n2 n n2
Jadi kita mempunyai
a2 2n − 1 4 2
E ( σ − σ2 ) = ( ) σ < ( ) σ 4 = E ( s2 − σ 2 )2 .
n2 n−1
a2
Yang menunjukkan bahwa σ mempunyai MSE yang lebih kecil dari S2 .
Jadi dengan mengadakan timbal balik antara variansi dan bias, MSE dapat
diperbaiki.
Catatan
Hasil di atas tidak berarti bahwa S2 tidak dapat dijadikan sebagai estima-
a2
tor dari σ2 . Hal di atas hanya mengatakan bahwa secara rata-rata σ lebih
dekat ke σ2 dibandingkan dengan σ bila MSE digunakan sebagai uku-
ran kebaikan. Pada umumnya, karena MSE adalah fungsi dari parameter,
maka tidak ada estimator ”terbaik” untuk θ. Yang sering kita lihat adalah
MSE dari dua estimator saling berpotongan, yang berarti kebaikan dari
estimator hanya bersifat lokal. Salah satu cara untuk mengatasi tidak ada-
nya estimator ”terbaik” adalah melalui pembatasan kelas estimator. Salah
satu pembatasan yang kita bicarakan adalah melalui kelas tak bias.
Misalkan kita ingin mengestimasi g(θ ). Dalam hal ini kita hanya memba-
tasi kelas estimator.
CT = { T : ET = g(θ )}
Ini berarti bahwa, dalam kelas CT , perbandingan MSE sama dengan per-
bandingan Variansi.
Tujuan dari bagian ini adalah menyelidiki metode penentuan estimator tak
bias ”terbaik” yang akan definisikan kemudian. Estimator terbaik menu-
rut pandangan klasik adalah estimator dengan variansi minimum dalam
kelas (himpunan) estimator tak bias untuk parameter tersebut. Sifat efi-
siensi estimator hanya membandingkan dua estimator tak bias, akibatnya
estimator yang lebih efisien belum tentu merupakan estimator terbaik.
De f inisi
Menentukan estimator tak bias terbaik (bila ada) bukan pekerjaan yang
mudah karena berbagai alasan dan salah satunya adalah sebagai berikut.
Contoh
_
Misalkan X1 , X2 ..., Xn adalah iid Poisson(λ). Jika x dan s2 masing-masing
_
adalah mean dan variansinya maka dengan mudah dapat dicari: E( X ) = λ
dan E(S2 ) = λ yang kedua-duanya merupakan estimator tak bias untuk
_
λ. Di sini kita tak cukup membandingkan Var ( X ) dan Var (S2 ) saja. Ka-
_ _
rena untuk setiap konstanta a berlaku T ( X ,S2 ) = aX +(1 − a)S2 adalah
estimator tak bias untuk λ. Jadi dalam hal ini ada tak terhingga estimator
tak bias.
Contoh ini menunjukkan bahwa untuk menentukan UMVUE diperlukan
penanganan yang menyeluruh. Salah satunya adalah dengan menentu-
kan batas-bawah variansi estimator yang mungkin. Batas bawah variansi
ini dikenal dengan nama batas bawah Cramer-Rao atau Cramer-Rao lower
bound disingkat CRLB sbb:
Misalkan dalam melakukan estimasi g(θ ) dari densitas f ( x | θ ) kita dapat
menentukan batas bawah, variansi dari setiap estimator tak bias, katak-
anlah B(θ ). Bila kemudian kita dapat menemukan estimator tak bias T ∗
sedemikian hinggaVar ( T ∗) = B(θ ) maka berarti kita mendapatkan UM-
VUE estimator.
d
Z Z Z Z
_ _ _ _ ∂ _ _
... h( x ) f ( x | θ )d x = ... h( x ) f ( x | θ )d x (3.45)
dθ ∂θ
_ _
untuk setiap fungsi h( x ) dengan E | h( x ) | < θ. Maka
d _
_ dθ Eθ T ( x )
Var ( T ( x )) ≥ _
(3.46)
∂ log f ( x | θ ) 2
Eθ ∂θ
Bukti
Bila kita menyusun kembali 3.47, kita akan mendapatkan batas bawah dari
variansi X,
[Covar( X, Y )]
VarX ≥
Var Y
_
Kelebihan teorema ini terletak pada_ pemilihan X dengan estimator T ( X )
∂ log f ( x |θ )
dan Y sama dengan besaran: ∂θ
_
∂ log f ( x |θ )
Pertama-tama kita harga harap: ∂θ .
_
_ ∂ f ( x |θ )
!
∂ log f ( x | θ )
∂θ
Eθ = Eθ _ (si f at log)
∂θ f (x| θ )
_
Z Z ∂ f ( x |θ )
_ _
= ... ∂θ
_ f ( x | θ )d x (de f inisi )
f (x| θ )
_
∂ f (x| θ ) _
Z Z
_
= ... d x (coret f ( x | θ ))
∂θ
d
Z Z
_ _
= ... f ( x | θ )d x (si f at3.1)
dθ
d
= 1
dθ
=0
Karena itu
_ _
∂ log f ( x | θ ) ∂ log f ( x | θ )
_ _
Cov T ( X ). = E T ( X ).
∂θ ∂θ
(3.48)
_
∂ f ( x |θ )
" #
_
∂θ
= E T(X) _
f (x| θ )
_
∂ f (x| θ )
Z Z
_
= ... dx
∂θ
d _
Z Z
_ _
= ... T ( X ) f ( x | θ )d x
dθ
d
= E( T ( X )
dθ
_
∂ log f ( x |θ )
Juga, karena E ∂θ = 0 didapat
_ _ 2 !
∂ log f ( x | θ ) ∂ log f ( x | θ )
Var =E (3.49)
∂θ ∂θ
karena itu
_ 2
d
_ dθ ET ( X )
Var T ( X ) ≥ _
∂ log f ( x |θ ) 2
E ∂θ
qed1 .
_ 2
d
_ dθ ET ( X )
Var T ( X ) ≥ _
(3.50)
∂ log f ( x |θ ) 2
nE ∂θ
Bukti
Kita hanya perlu menunjukkan bahwa
_ 2 ! _ 2 !
∂ log f ( x | θ ) ∂ log f ( x | θ )
E = nEθ
∂θ ∂θ
_ 2 2 !
∂ log f ( x | θ ) ∂ logπ f ( xi | θ )
Eθ =E
∂θ ∂θ
n 2 !
∂ log f ( xi | θ )
=E ∑ ∂θ
n 2 !
∂ log f ( xi | θ ) ∂ log f ( xi | θ ) ∂ log f ( xi | θ )
=E ∑ ∂θ
+∑E
∂θ ∂θ
Karena itu
n 2 ! 2 !
∂ log f ( xi | θ ) ∂ log f ( xi | θ )
∑E ∂θ
= nE
∂θ
Lemma
_
Bila f ( x | θ ) memenuhi
Z
∂ ∂ ∂ ∂
E log f ( x | θ ) = log f ( x | θ ) f ( x | θ ) dx (3.51)
∂θ θ ∂θ ∂θ ∂θ
∂ log f ( xi | θ ) ∂2 log f ( xi | θ )
E = nE (3.52)
∂θ ∂θ 2
Contoh
Misalnya diberikan variabel random Poisson. Dalam hal ini g(λ) = λ.
Sehingga g1 (λ) = 1. Karena Poisson adalah keluarga eksponensial, ma-
ka lemma berlaku. Karena itu
2 ! n !
∂2 log π f ( x | λ)
∂ n
E log π f ( xi | λ) = −nE (3.53)
∂λ ∂λ2
e−λ λ x
∂
= −nE log
∂λ x!
∂2
= −nE (−λ + x logλ − log x!)
∂λ2
x
= −nE(− )
λ2
1 n n
= −n. − 2
E( x ) = 2 .λ =
λ λ λ
_ _
Karena itu untuk sebarang estimator tak bias T ( X ) harus berlaku VarT ( X
) ≥ λn batas bawah C-R
_ _
Karena Var X ≥ λ
n , maka X adalah UMVUE dari λ.
Sangat penting untuk diingat bahwa kunci dalam Teorema Cramer-Rao
adalah kemampuan untuk mendiferensialkan di bawah tanda integral
yang dengan sendirinya agak terbatas penerapannya. Seperti telah kita ke-
tahui densitas dalam kelas eksponensial akanmemenuhi persyaratan ini,
tetapi secara umum andaian tersebut harus dilihat kebenaraannya.
Contoh
Misalkan X1 , ..., Xn adalah iid dengan densitas f ( x |θ ) = 1/θ dan 0 < x < θ
.
_
∂ log f ( x |θ ) ∂ log f ( x |θ ) 2
Karena ∂θ = −1/θ, maka E ∂θ = 1/θ 2
n Y n −1
f (Y |θ ) = nY n−1 /θ n , 0 < Y < θ, maka E[Y ] = n
Rθ
0 θn dy = n +1 θ
n
Ini menunjukkan bahwa n +1 Y adalah estimator tak bias untuk θ. Sekarang
kita hitung
n n 2 n 2 n
2 2
Var ( n+ 1 Y ) = ( n+1 ) Var Y = ( n+1 ) EY − ( n+1 θ )
n 2
n 2 n 2
= ( n+ 1) n +1 θ − ( n +1 θ )
θ2
= n ( n +2)
θ2
Yang secara seragam lebih kecil dari n.
h(θ)
Kecuali θ = 0 untuk semua θ. Karena itu, Teorema Cramer-Rao tidak
berlaku.
Kelemahan metode pencarian UMVUE ini, walaupun Teorema Cramer-
Rao dapat diterapkan adalah tidak ada jaminannya bahwa batas bawahn-
ya cukup tajam, atau dengan perkataan lain harga batas bawah Cramer-
Rao lebih kecil dari variansi sebaran estimator tak bias. Bila f ( x |θ ) adalah
keluarga eksponensial parameter satu regular maka hal ini akan tidak ter-
jadi yaitu bila estimator tak bias dari g(θ ) ada, maka pasti akan ada estima-
tor tak bias yang mencapai batas bawah Cramer-Rao. Tetapi, dalam kasus-
kasus lain, batas ini bisa tidak tercapai.
Contoh
Misalkan X1 , ..., Xn adalah iidN (µ, σ2 ), dan pandang estimator σ2 dalam
hal µ tidak diketahui. densitas normal memenuhi andaian Teorema
Cramer-Rao, sehingga
∂2 ( x − µ )2
1 x− µ
− 12 ( σ )2 1
log e = −
∂ ( σ 2 )2 (2πσ2 )1/2 2σ4 σ6
dan
!
2
∂2 (x− µ)
1 1
−E log f ( x |µ, σ2 ) = −E − =
∂ ( σ 2 )2 2σ 4 σ6 2σ4
2σ4
Jadi, setiap estimator tak bias T dari σ2 harus memenuhi Var ( T ) ≥ n
2σ4
Kita telah mengetahui bahwa Var (S2 ) = n −1 . Jadi S2 tidak mencapai
CRLB
Dalam contoh di atas sebenarnya kita mempunyai pertanyaan yang belum
terjawab, yaitu apakah ada estimator dari σ2 yang lebih baik dari S2 atau
CRLB tak bisa dicapai?
Syarat pencapaian CRLB sebenarnya cukup sederhana. Hal ini mengin-
gat bahwa terjadi dari pemakaian ketaksamaan Cauchy-Schwarz, sehingga
syarat pencapaian batas bawah tersebut adalah syarat kesamaan dalam
ketaksamaan Cauchy − Schwarz. Perhatikan juga bahwa corollary di ba-
wah merupakan alat berguna karena secara implisit memberikan cara pa-
da kita untuk mendapatkan estimator tak bias terbaik.
Akibat
Misalkan X1 , ..., Xn adalah iid f ( x |θ ) memenuhi syarat-syarat Teorema
_ n
Cramer-Rao. Misalkan L(θ | x )= ∏i=1 f ( xi |θ ) menyatakan fungsi like-
_
lihood. Bila T ( X ) = T ( X1 , ..., Xn ). adalah sembarang estimator tak bias
_
dari g(θ ), maka T ( X ) mencapai Cramer-Rao Lower Bound jhj
_
_ ∂ log L( θ | x )
a(θ )[ T ( X ) − g(θ )] =
∂θ
untuk suatu fungsi a(θ ).
Bukti
" !#2 !
_ n _ n
∂ ∂
Cov T ( X ), log ∏ f ( xi |θ )) ≤ VarT ( X )Var log ∏ f ( xi |θ ))
∂θ i =1
∂θ i =1
n
Dengan mengingat E( T ) = g(θ ) dan E ∂
∂θ log ∏i=1 f ( xi |θ ) = 0 dan
menggunakan hasil teorema yang mengatakan bahwa korelasi T dan
n
∂
∂θ log ∏i=1 f ( xi |θ ) harus ±1
_ n
maka T ( X ) − g(θ ) harus sebanding dengan ∂
∂θ log ∏i=1 f ( xi |θ ).
Contoh
1 ( Xi − µ ) 2
2 _ − 12 ∑
L µ, σ | x = n/2
e σ2
(2πσ2 )
Karena itu
_ !
∂ log L ( µ , σ2 | x ) n n
( Xi − µ ) 2
∂ σ2
=
2 σ4 ∑ n
− σ2
Jadi dengan mengambil (σ2 ) = 2σn 4 menunjukkan bahwa estimator tak bisa
terbaik dari σ2 adalah ∑ ( Xi − µ)2 /n, yang dapat dihitung bila µ diketa-
hui. Bila µ tak diketahui, CRLB tidak dapat dicapai
Akibat
1
Var (θb) = (3.54)
n.E [(∂ ln f ( x )/∂θ )2 ]
Pada prinsipnya ada 2 metode estimasi titik yang paling sering dugunak-
an yaitu metode momen atau Moment Method of Estimation (MME) dan Ma-
ximum Likelihood Method of Estimation (MLE) yang akan diuraikan pada ba-
gian berikut ini.
Metode momen yang diciptakan oleh Karl Pearson pada tahun 1800
adalah metode tertua dalam menentukan estimator titik. Misalkan
x1 , x2 , ..., xn adalah sampel dari populasi dengan densitas f ( x | θ1 , ..., θk ).
Estimator metode momen didapat dengan menyamakan k momen sam-
pel pertama pada k momen sampel populasi, dan menyelesaikan sistem
persamaan simultan yang dihasilkan.
Definisi
Misalkan X1 , ..., Xn adalah sampel random populasi yang i.i.d dengan dis-
tribusi f ( x/θ1 , ..., θk ). Estimator metode momen adalah solusi dari persa-
maan µr0 = mr0 (r = 1, 2, ..., k ). Dalam hal ini µr0 = E( X r ) adalah momen
n
populasi ke-r dan mr0 = 1/n ∑ Xir adalah momen sampel ke-r,
i =1
n
1
m1 =
n ∑ Xi1, µ1 = EX1 (3.55)
i =1
n
1
m2 =
n ∑ Xi2, µ2 = EX2
i =1
.
.
.
n
1
mr =
n ∑ Xik , µk = EXr
i =1
Contoh
Misalkan X1 , ..., Xn adalah i.i.d v N (θ, τ 2 ). Dalam hal ini θ1 = θ dan θ2 =
−
1
τ 2 . Kita mempunyai m1 = X , m2 = 2
n ∑ Xi , µ1 = θ, µ2 = θ 2 + τ 2 . Di sini
−
kita harus menyelesaikan X = θ dan n1 ∑ Xi2 = θ 2 + τ 2
Contoh
−
X = kp (3.58)
1
n∑ i
X 2 = kp(1 − p) + k2 p2 (3.59)
Hasilnya adalah:
−2 −
∼ X ∼ X
k= − −
dan p = ∼ (3.60)
X − n1 ∑ ( Xi − X )2 k
∼ − n
L( θ | X ) = L(θ1 , ..., θk | X1 , ...Xn ) =π f ( xi | θ1 , ..., θk ) (3.61)
_ _ _
Untuk setiap titik sampel x, misalkan θ ( x ) adalah harga parameter di
∼ _ _ _
mana L( θ | X ) sebagai fungsi θ dengan menganggap x konstan mencapai
_
maksimumnya. Estimasi maksimum likelihood (MLE) dari θ berdasarkan
_ _ _
sampel x adalah θ (x ).
Perhatikan bahwa dari konstruksinya, jelajah dari MLE berimpit dengan
jelajah dari parameter. Secara intuitif, MLE adalah estimator yang masuk
akal, karena MLE adalah titik parameter dengan sampel terobservasi pa-
ling mungkin terjadi. Meskipun demikian perhatikan juga sensitivitas pe-
rubahan data.
Bila fungsi likelihood terdeferensialkan (dalam Estimator) maka calon
MLE yang mungkin adalah harga-harga (θ1 , ..., θk ) sedemikian hingga
_
dL (θ | x )
= 0, i = 1, 2, ..., k (3.62)
dθi
Contoh
∼ _ n 1 1
− 21 ( xi −θ )2 − 12 ∑( xi −θ )2
L ( θ | X ) = π i =1 e = e (3.63)
(2π )1/2 (2π )n/2
_ n _
dL (θ | x )
Persamaan dθi = 0 menghasilkan ∑i=1 ( xi − θ ) = 0 hasilnya adalah θ
_
=x .
_ _
Karena itu x adalah calon MLE untuk membuktikan bahwa x benar-benar
maksimum global, harus ditunjukkan bahwa
_
d2 L ( θ | x )
|θ =x_ < 0 (3.64)
dθ 2
Catatan
n n
_
∑ ( x i − a )2 ≥ ∑ ( x i − x )2 (3.65)
i =1 i =1
_
kesamaan berlaku bhb a = x . Ini berati bahwa untuk setiap θ berlaku
1 2 1 _ 2 _ _ _
e− 2 ∑( xi −θ ) ≤ e− 2 ∑( xi − x) dengan kesamaan bhb θ = x. Karena itu x adalah
MLE.
Dalam banyak kasus, di mana deferensiasi digunakan. Kita akan lebih mu-
_ _
dah bekerja pada logaritma alam dari L(θ | x ) yaitu logL(θ | x ). Dikenal
_
sebagai log likelihood dari pada L(θ | x ) nya sendiri. Hal ini dimungkinkan
_
karena fungsi log naik tegas pada (0, ∞), yang berarti bahwa L(θ | x ) dan
_
log L(θ | x ) mempunyai ekstrem yang sama.
Contoh
_ n
L ( p | x ) = π i =1 p x i (1 − p )1− x i = p y (1 − p ) n − y (3.66)
_
LogL( p | x ) = y log p + (n − y) log(1 − p). (3.67)
_
Bila 0 < y < n, mendeferensialkan Log L( p | x ) dan menyamakannya
a
dengan nol memberikan hasil p = y/n. selanjutnya dengan mudah dapat
dibuktikan bahwa y/n adalah maksimum global. Untuk y = 0 atau y = n,
maka
Contoh:
_ 0 untuk θ <maks x
L(θ | x ) = {θ −n untuk θ ≥maksi x (3.69)
i
a
Maka θ = maks xi .
1 (θ − 12 ≤ x ≤ θ + 12 ).
f ( x | θ ) = {0 yang lain (3.70)
1 1
Jadi setiap θ diantara maks xi − 2 dan min xi + 2 adalah MLE.
Barangkali salah satu sifat yang paling berguna dari MLE adalah si-
fat invariannya. Misalkan dalam hal ini kita tertarik pada estimasi
g(θ ) dengan θ → g(θ ) fungsi satu-satu. Sifat invarian mengatakan
a a
bahwa kalau θ adalah MLE dari θ maka g( θ ) juga MLE dari g(θ ).
_ n
∗ −1
L (η | x ) = f ( xi | g
π i =1 (η ) (3.72)
_
= L g −1 ( η ) | x (3.73)
dan
_ _ _
∗ −1
Supη L (η | x ) = Supη L g (η ) | x = Supθ L(θ | x ) (3.74)
_ a
Jadi, maksimum dari L∗ (η | x ) dicapai pada η = g(θ ) = g( θ ), yang
a
menunjukkan bahwa MLE dari g(θ ) adalah g( θ ).
_
Bila θ = (θ1 , ..., θk ) multidimensi, maka persoalan menentukan MLE
adalah persoalan memaksimumkan fungsi beberapa variabel. Bi-
la fungsi likelihood terdiferensialkan, maka menyamakan turunan-
turunan parsial pertama sama dengan nol memberikan syarat perlu
terjadinya ekstrim. Tetapi, dalam kasus multidimensi, penggunaan
turunan kedua untuk menguji maksimum adalah pekerjaan yang
membosankan, dan untuk menghindarinya metode lain bisa dicoba.
n
_ 1 1 2
/ θ2
L(θ, τ 2 | x ) = n e − 2 ∑ ( xi − θ ) (3.75)
(2πτ 2 ) 2
dan
n
_ n n 1
log L(θ, τ 2 | x ) = − log 2n − log τ 2 −
2 2 2 ∑ (xi − θ )2 /τ2 (3.76)
i =1
n
∂ _ 1
∂θ
log L(θ, τ 2 | x ) = 2
τ ∑ ( xi − θ )
i =1
dan
n
∂ _ n 1
∂τ 2
log L(θ, τ 2 | x ) = − 2 + 4
2τ 2τ ∑ ( xi − θ )
i =1
1 1 _ 2
/ τ2 1 1 2
/ τ2
n e − 2 ∑ ( xi − x ) ≥ n e − 2 ∑ ( xi − θ )
(2πτ 2 ) 2 (2πτ 2 ) 2
_
mencapai global maksimum pada τ 2 = n−1 ∑( xi − x )2 .
_ _
Jadi kesimpulannya x, n−1 ∑( xi − x ) adalah MLE.
t
M x i ( t ) = e a i λ ( e −1)
( a i λ ) xi e − ai λ
f ( xi | λ ) = ; xi = 0, 1, 2, ..
xi
Selanjutnya fungsi pembangkit momen dari distribusi Poisson
λΣai adalah:
(λΣai )t e−λΣai
f (Σxi = t | λ) = ; t = 0, 1, 2, ..
t
Sekarang perbandingan dari:
f (x| ) πir=1 [e− ai λ ( ai λ) xi xi !]
V
f (Σx =t| )
V = t −λΣai ; dengan t = Σxi
i (λΣai ) e t!
x
−λΣai λΣxi πir=1 a i
e i
π r xi !
i =1
= e − λΣa i λt (Σai )t
xt!
−λΣai λΣxi πir=1 a i
e i t!
= πir=1 xi ! .
e−λΣai λt (Σai )t
π r a xi
t! i =1
= .
t πr x !
(Σai ) i =1 i
xi
t! r a i
= .π bebas dari parameterλ
(Σai )t i =1 xi !
2. Misalkan f fungsi integrabel yang positif terdefinisi pada (0, ∼), dan
misalkan Pθ ( x ) adalah fungsi kepadatan peluang pada (0, θ )dengan
definisi:
(
C (θ ) f ( x ) ; 0<x<0
Pθ ( x ) =
0 ; otherwise
Jika x1 , x2 , ...xn variabel random iid dengan densitas Pθ , tunjukkan
x(n) adalah statistik cukup untuk θ
Penyelesaian
Misalkan: Z = x(n) = maximum xi ;1≤ i ≤ n, maka: P( Z ≤ z) =
P( x1 ≤ z, x2 ≤ z, ..., xn ≤ z)
F (z) ={ P( x ≤ z)}n , sebab xi idd
R z n
f (z) = 0 Pθ ( x )dx
R z n R z n
= 0 c(θ ) f ( x )dx = [c(θ )]n 0 f ( x )dx
Z z
n
0 d n
Pθ (z) = F (z) = [c(θ )] f ( x )dx (3.77)
dz 0
Pθ ( x ) [C (θ )]n { f ( x )}n
= n
Pθ ( Z = x(n) ) [C (θ )]n dz
d
{ 0z f (x)dx}
R
{ f ( x )n }
= d
Rz n
dz { 0 f ( x ) dx }
Penyelesaian:
Penyelesaian:
1
(a) x ∼ U (θ − a, θ + b) , berarti f ( x | θ ) = b+ a dengan
1
2 2 a + 3θb2 − 3θa2 + b3 + a3
= 3( b + a )
3θ b + 3θ
1 2 − 3θa2 + b3 + a3
= 3( b + a )
3θ θb + θa + b
θ 2 (b+ a) θ 2 ( b2 − a2 ) ( b3 + a3 )
= (b+ a)
+ (b+ a)
+ 3( b + a )
2 θ (b− a)(b+ a) (b+ a)(b2 − ab+ a2 )
= θ + (b+ a)
+ 3( b + a )
2 − ab + a2
( b )
= θ 2 + θ (b − a) + 3
2
b−a b−a b−a
Λ
V θ = V x− =E x− −E x−
2 2 2
2
b−a b−a
= E x− − E (x) + = E { x − E ( x )}2
2 2
1 n 1
= V (x) = V Σi=1 xi = 2 .V (Σin=1 xi )
n n
1 1 1 n 2 2 o
= .nV ( x ) = V ( x ) = E x − E x
n2( n n
2 − ab + a2 2 )
−
1 b b a
= θ 2 + θ (b − a) + − θ+
n 3 2
( !)
2 − ab + a2 2
1 b ( b − a )
= θ 2 + θ (b − a) + − θ + θ (b − a) +
n 3 4
( ) ( )
1 b2 − ab + a2 (b − a)2 1 4b2 − 4ab − 4a2 − 3 (b − a)2
= − =
n 3 4 n 12
r+x−1
x
f (x | θ ) = Θ (1 − θ ) dengan 0 < θ ≤ 1; x = 0, 1, 2..
θr
x
•
r+x−1
Σn x
= πin=1
nr
θ ( 1 − θ ) i =1 i
x
• Logaritma fungsi likehood adalah:
r+x−1
Σn x
n
logL ( x | θ ) = log πi=1 θ nr (1 − θ ) i=1 i
x
r+x−1
= Σi=1 log
n
+ nr log θ + Σin=1 xi log (1 − θ )
x
d nr Σin=1 xi
• dθ [logL ( x | θ )] = θ − 1− θ
nr Σin=1 xi
• persamaan likehoodnya adalah: θΛ
− = 0atau
(1− θ Λ )
nr 1 − θ Λ − θ Λ Σin=1 xi
Λ
Λ Λ
= 0 ⇔ nr 1 − θ − θ Λ Σin=1 xi = 0
θ (1 − θ )
Penyelesaian:
• d
dθ [logL ( x | θ )] = n
θ − Σin=1 xi ; d
dθ [logL ( x | θ )] = − θn2 < 0
• Persamaan likehoodnya adalah : − θnΛ − Σin=1 xi = 0 atau
n − θ Λ Σin=1 xi
= 0 ⇔ n − θ Λ Σin=1 xi = 0
θΛ
n nn 1 Σ n xi
⇒ θΛ = n = Σn x = : dengan i=1 = x
Σ i =1 x i i =1 i x n
n
Penyelesaian:
( x − θ1 )
1
f ( x | θ1 , θ2 ) = exp ; x > θ1
θ2 θ2
1 n d n
logL (θ | x ) = −nlogθ2 − Σi=1 ( x1 − θ1 ) ; dan [logl ] (θ | x ) =
θ2 dθ1 θ2
Karena dθd [logl (θ | x )] = θn2 ,maka metode pendiferensialan ti-
1
dak dapt digunakan untuk memperoleh MLE dari θ1 , oleh sebab
itu digunakan cara berikut.
Telah diketahui
h bahwai xi > θ1 ; ∀i , jadi L (θ | x ) =
−n
θ2 exp − θ2 Σi=1 ( x − θ1 ) akan mencapai maksimum apabila
1 n
θ2 Σ i =1 ( x 1
1 n
− θ1 )minimum, ini hanya dicapai apabila θ1 = x(i) .
Jadi parameter θ1 adalah θ1 = x(i) .
d Σin=1 ( x −θ1 )
Selanjutnya, dθ1 [logl (θ | x )] = − θn2 + θ22
Σin=1 ( x − θ1 )
−nθ2Λ + Σin=1 ( x − θ1 ) = 0 ⇒ θ2Λ =
n
Σin=1 xi −nθ1 Σin=1 xi −nx(1) nΣin=1 xi n−nx(1)
θ2Λ = n = n = n
atau nx −nx(1)
= = x − x (1)
n
Untuk membuktikan bahwa θ2Λ = x − x(1) benar-benar maksi-
mum global, harus ditunjukkan:
d
[logL (θ | x )]θ2 =θ Λ < 0; sebagai berikut
dθ1 2
d n 2Σin=1 ( x −θ1 )
dθ1 [logL (θ | x )]θ2 =θ Λ = θ22
− n
2 n
1
nθ2 − 2Σin=1 ( x − θ1 )
= θ22
h i
1
= 3 n x − x (1) − 2Σx i + 2nx (1)
( x − x (1) ) h i
1
= 3 nx − nx (1) − 2Σx i + 2nx (1)
( x − x (1) ) h i
1
= 3 nx − 2nx + nx (1)
( x − x (1) ) h i
1
= 3 − nx + nx (1)
( x − x (1) )
−n
= 3
( x − x (1) )
Karena n > 0dan x − x(1) > 0, maka dθd [logL (θ | x )]θ2 =θ Λ =
1 2
−n
3 < 0.
( x − x (1) )
Dengan demikian disimpulkan bahwa MLE untuk parameter
θ2 adalah: θ2Λ = x − x(1)
βα θ α−1 − βθ
π (θ | α, β) = e ;θ > 0
r (α)
Pertanyaan:
Penyelesaian:
θ y e−θ
• yi ∼ P (θ ) , berarti densitas dari y adalah f (y | θ ) = y! ; y =
0, 1, 2...
θ Σyi e−nθ
• Distribusi bersama dari y adalah: f (y | θ ) = πyi ! jadi distri-
busi posterior dari θadalah:
f y | θ .π (y | α, β)
π (y | θ ) = R ∝ (3.79)
0 f y | θ π ( y | α, β ) dθ
Dihitung dulu:
R∝ R∝ θ Σyi e−nθ β θ
α α −1
− βθ
0 f y | θ π ( y | α, β ) dθ = 0 πyi ! . r (α) e
R∝ θ Σyi e−nθ β θ
α α −1
− βθ
= 0 πyi ! . r (α) e
R∝ θ Σyi e−nθ β θ
α α −1
− βθ
= 0 πyi ! . r (α) e
(3.80)
R∝ θ Σyi e−nθ β θ
α α −1
= 0 πyi ! . r (α)
e− βθ
R∝ θ Σyi e−nθ β θ
α α −1
− βθ
= 0 πyi ! . r (α) e
Substitusi 2 ke 1 diperoleh:
a
θ Σyi e−nθ β θ
α α −1
πyi . r(α) .e− βθ
π θ|y = βα r (Σyi +α)
πyi !r (α)(α+ β)Σyi +α
Σyi +α
= (n+ β)
.θ Σyi +α−1 −(n+ β)θ
e
r (Σyi +α)
Karena:
Z ∝
k1 θ Σyi +α−1 eu dθ, maka :
0
Z ∝
ki
Σyi +α
θ Σyi +α−1 eu du = 1
(n + β) 0
ki (n + β)Σyi +α
r (Σyi + α) = 1 ⇒ k1 = (3.82)
(n + β)Σyi +α r (Σyi + α)
4 ke 3 diperoleh:
atau
n β
a= dan b =
(n + β) (n + β)
Sehingga diperoleh:
Σyi + α Σyi
n β
= + ( α β ) (3.83)
(n + β) (n + β) n (n + β)
Dari persamaan * dapat diamati bahwa.
(i) Jika n besar dengan β tetap, maka Posteriormean sama
dengan MLE dari θ, yaitu
Σyi
n o
n
E (θ | y) = limn→∝ n+ β n + n+β β (α β)
Σy
= (1) n i + (0) ( α β )
Σyi
= n
= y
(ii). Jika β besar dengan n tetap, maka posterior mean sama
dengan mean prior dari θ, yaitu
Σyi
n o
n
E (θ | y) = limn→∝ n+ β n + n+β β (α β)
Σy
= (0) n i + (1) ( α β )
= α β
= E (θ )
βα θ α−1 − βθ
π (θ | α, β) = e
r (α)
f ( x | B) = πin=1 f ( xi | θ )
= θ Σxi (1 − θ )n−Σxi
= θ Σxi (1 − θ )n (1 − θ )−Σxi
Σxi
= (1 − θ )n 1−θ θ
=
Berdasarkan teorema faktorisasi, T ( x ) = Σxi adalah statistik cu-
kap.
• Selanjutnya, E [ T ( x )] = Σin=1 { xi } = Σin=1 E ( xi ) = Σin=1 θ = nθ
Sekarang, misalkan:
T Σn
∅ ( T ) = = i = x, maka
n n
Σxi
1 1
E [∅ ( T )] = E = Σin=1 E ( xi ) = .nθ
n n n
T
Berdasarkan teorema 1, disimpulkan ∅ ( T ) = n = xadalah
UMVU Estimator untuk parameter θ
1 n
Σ x
u ( x1 , x2 , ..., xn ) =
nα j=1 j
Dan tentukan variannya, serta batas cramer-Rao.
Penyelesaian:
⇒ Xi ∼ Gamma (α, β = θ ),maka densitas dari xi adalah:
1
f ( Xi | β = θ ) = xiα−1 e− xi θ ; xi > 0, α diketahui , θ > 0
r (α) θ α
1
f (Σxi = t | β = θ ) = nα
tnα−1 e−tθ ; t > 0 (3.84)
r (nα) θ
⇒Sekarang ditunjukkan keluarga distribusi * adalah lengkap, yaitu:
E { g (t)} = 0 ⇒ g (t) = 0
Ru
E { g (t)} = 0 g (t) r(nα1)θ nα tnα−1 e−tθ dt
Ru
= r(nα1)θ nα 0 g (t) tnα−1 e−tθ dt
1
Karena r (nα) > 0, θ nα > 0, maka r (nα)θ nα
> 0,jadi
Z u
1
g (t) tnα−1 e−tθ dt (3.85)
0 r (nα) θ nα
Karena persamaan * merupakan transformasi Laplace da-
ri fungsi g (t) tnα−1 , maka menurut sifat tranformasi ini,
haruslah:g (t) tnα−1 = 0.
Dengan demikian statistik T ( x ) = Σxi adalah statistik cukup dn
lengkap.
E ( T ( x )) = E (Σxi ) = Σin=1 Exi
⇒Dihitung
= Σin αθ = nαθ
Misalkan ∅ ( T ) = nα = nα Σ j=1 x j = U ( x1 , x2 , .., xn )
T 1 n
Maka:
2 karena xi iid
E {∅ ( T )} = E {U (n
x1 , x2 , ..,oxn )}
nα Σx j
1
= E
Σ
1 n
= nα j=1 x j
1
= nα αθn
= θ
estimator untuk θ
⇒Selanjutnya duhitung variansi dari U ( x1 , x2 , .., xn ) = nα Σ j x j yaitu:
1 n
nα Σx j
1
Var (U ( x1 , x2 , .., xn )) = Var
1
ΣVar x j
= n2 α2
= 1
n2 α2
Σαθ 2
1
= n2 α2
nαθ 2
θ2
= nα
1
f (x | β = θ ) = x α−1 e− xθ ; x > 0log f ( x | θ )
r (α) θ α
n o
(α)
= log1 − log r (α) θ + (α − 1) logx − xθ
d
= −logr (α) − αlogθ + (α − 1) logx − xθ [log f ( x | θ )]
dθ
2
α x d
= − + 2 [log f ( x | θ )]
θ θ dθ
α x 2 α2 2αx x2
= − + 2 = 2− 3 + 4
θ θ θ θ θ
Bab 3. Estimasi Titik 106 ISBN 978-602-8310-02-4
Statistika Matematis II/ Edisi E-book
2
α2 2α
d 1 2
E [log f ( x | θ )] = 2 − 3 E (x) + 4 E x
dθ θ θ θ
α 2 2α 1
= 2 − 3 αθ + 4 αθ 2 + αθ 2
θ θ θ
α 2 2α α α2 α
= 2− 3 + 2+ 2 = 2
θ θ θ θ θ
θ 2
Jadi batas Crame-Rao adalah nα .
Terlihat bahwa varians dari estimator tak bias
U ( x1 , x2 , .., xn ) = nα Σ j=1 x j sama dengan batas Cramer-Rao, yai-
1 n
θ2
tu: Var (U ( x1 , x2 , .., xn )) = Var nα Σ j x j = nα
1 n
= batas Cramer-Rao
nα Σ j x j adalah UMVU estimator
1 n
Dengan demikian: U ( x1 , x2 , .., xn ) =
bagi θ.
Penyelesaian: ⇒
T ( x1 , x2 , .., xn ) = 2
Σn ix
2( n +1) i i
2
= 2( n +1)
{ x1 + 2x2 + 3x3 + .. + nxn }
2
= 2( n +1)
E { x1 + 2x2 + 3x3 + .. + nxn }
2
= 2( n +1)
{ E ( x1 ) + 2E ( x2 ) + 3E ( x3 ) + .. + nE ( xn )}
2
= 2( n +1)
{µ + 2µ + 3µ + ... + nµ}
2
= 2( n +1)
µ {1 + 2 + 3 + ... + n}
n o
2 1
= 2( n +1)
µ 2 n ( n + 1 )
= µ
2n − 1 2n − 1
2 2 2
limn→∞ σ = σ2 limn→∞ =0 (3.87)
3 n ( n + 1) 3 n ( n + 1)
Bukti
1 −1 −2 2
f (x) = 1/2
e −2 σ ( x − µ ) ; − ∞ < x < ∞ (3.88)
σ(2π )
1
ln f ( x ) = − ln σ(2π )1/2 − 2
( x − µ )2 (3.89)
2σ
∂ ln f ( x ) 1
= 2 ( x − µ) (3.90)
∂µ σ
Sehingga
" 2 # " 2 #
∂ ln f ( x ) 1 ( x − µ) 1 1
E = 2E = .1 = (3.91)
∂µ σ σ σ2 σ2
1 σ2
h i = (3.92)
n.E (∂ ln f ( x )/∂θ )2 n
σ2
Jadi batas bawah Cramer-Rao adalah n.
2
Karena X estimator tak bias untuk µ dan Var ( X ) = σn sama dengan
batas bawah Cramer-Rao maka menurut akibat teorema Cramer-Rao
X adalah UMVUE
15. Misalkan X1 , ..., Xn i.i.d N (θ, 1). Tunjukkan bahwa barisan estimator
X¯n = ∑ Xni . adalah konsisten.
Jawab:
_
Perhatikan bahwa Xn ∼ N(θ, n1 ), sehingga untuk n→ ∞:
R ε n 1/2 −n/2 y2 R ε√n 1 1/2 −1/2 t2 √
= −ε ( 2π ) e dy = −ε√n ( 2π ) e dt = P(−ε n < z <
√
ε n) → 1
_
Karena itu Xn adalah barisan estimator konsisten untuk θ.
= VarTn + [ Bias Tn ]2
Jawab:
n
Disini kita punya, ∑ Xir , m1 = X, µ1 = µ dan µ2 = µ2 + σ2 . Solusi
i =1
n
dari sistem persamaan X = µ dan 1/n ∑ Xir = µ2 + σ2 diperoleh
i =1
σ2 = 1/n ∑in=1 ( Xi − X )2
b = X dan b
estimator metode momen µ
17. Diketahui X1 , ..., Xn sampel random dari N (θ, 1), −∞ < θ < ∞. Ten-
tukan MLE untuk θ
Jawab:
2
f ( x/θ ) = (2π )−1/2 e−1/2( x−θ ) (3.93)
n
L(θ/x ) = Πi=1 f ( xi /θ ) (3.94)
" #
n
= (2π )−n/2 exp −1/2 ∑ ( Xi − θ )2 (3.95)
i =1
n
= −n/2 ln(2π ) − 1/2 ∑ ( Xi − θ )2 (3.96)
i =1
n
∑ (Xi − θ ) = 0 atau θb = X.
d ln L(θ/x )
Persamaan dθ = 0 menghasilkan
i =1
d2 ln L(θ/x )
Perhatikan bahwa dθ 3
|θ =X < 0 Jadi θb = X adalah ELM untuk
θ.
3. Diketahui θb1 dan θb2 adalah dua estimator takbias untuk θ dari dua
eksperimen yang independent. Buktikan bahwa θb = c1 θb1 + c2 θb2 de-
ngan c1 + c2 = 1 juga estimator tak bias untuk θ.
5. Perlihatkan bahwa jika θb estimator tak bias untuk θ dan Var (θb) tidak
sama dengan 0, maka θb2 bukan estimator tak bias untuk θ 2 .
var (θb2 )
11. Ukuran efisiensi estimator θb1 terhadap θb2 ditunjukkan oleh .
var (θb1 )
b = X1 +2X4 2 +X3 terhadap X jika
Tentukan efisiensi estimator µ
X1, X2 dan X3 sampel random dari N (µ, σ2 )
x
14. Buktikan bahwa proporsi sampel n adalah UMVUE untuk parame-
ter Binomial θ.
15. Diketahui X1 , ..., Xn sampel random i.i.d Gama(α, β); α diketahui dan
0 < β < ∞. tentukan UMVUE untuk β
16. Diketahui X1 , ..., Xn sampel random i.i.d Binomial (1, p); p ∈ (0, 1).
Tentukan UMVUE untuk p.
21. Jika x1 , ..., xn nilai-nilai sampel random yang berukuran n dari popu-
lasi dengan distribusi
2( θ − x )
(
θ2
<x<θ
;0
f ( x; θ ) =
0; untuk x yang lain
(b) f ( x; θ ) = (1/θ ) exp [− x/θ ] , 0 < x < ∞, 0 < θ < ∞, dan nol
untuk x yang lain
(c) f ( x; θ ) = exp [−( x − θ )] , 0 < x ≤ ∞, −∞ < θ < ∞, dan nol un-
tuk x yang lain. Dalam setiap kasus diatas, tentukan estimator
untuk θ dengan metode likelihood maksimum
2
(θ − x ) I(0,θ ) ( x ) ; θeΩ = (0, ∝)
f (x | θ ) =
θ
Tentukan estimator momen untuk θ.
Estimasi Interval
117
Statistika Matematis II/ Edisi E-book
De f inisi
De f inisi
_
Estimasi inteval untuk parameter θ adalah interval yang berbentuk L( X
_ _ _
) < θ < U ( X ) dengan L( X )dan U ( X ) adalah suatu kuantitas yang tak
tergantung pada nilai θ dan distribusi sampling dari θ. Dengan kata lain,
_ _
berdasarkan distribusi sampling θ kita pilih L( X )dan U ( X ) sehingga
_ _
P( L( X ) < θ < U ( X )) = 1 − α dengan 0 < α < 1 (4.1)
_ _
Interval L( X ) < θ < U ( X ) disebut interval kepercayaan (1 − α)100%
_ _
dan (1 − α) disebut koefisien kepercayaan. L( X )dan U ( X ) berturut-turut
disebut limit kepercayaan bawah dan limit kepercayaan atas. Misal-
nya α = 0, 05 memberikan koefisien kepercayaan 0, 95 dan interval ke-
percayaan 95%. Perhatikan bahwa α yang lain bisa dipilih berdasarkan
pertimbangan-pertimbangan statistik. Idealnya, α dipilih sedemikian se-
hingga panjang interval kepercayaan terpendek, tetapi cakupan probabi-
litas (1 − α) mendekati nilai 1 (kepastian)
Contoh
De f inisi
_ _
Untuk estimator interval [ L( x ), U ( x )]dari parameter θ cakupan probabi-
_ _ _
litas dari [ L( x ), U ( x )] adalah probabilitas bahwa interval random. [ L( x
_
), U ( x )] mencakup parameter θ. Dalam notasi ini dinyatakan dengan
_ _ _ _
Pθ (θ ∈ [ L( x ), U ( x )|θ ]) atau P (θ ∈ [ L( x ), U ( x )|θ ]).
De f inisi
_ _
Estimator interval [ L( x ), U ( x )] untuk parameter θ, koefisien keperca-
_ _
yaan dari [ L( x ), U ( x )]adalah infimum probabilitas cakupan atau inf
_ _
θ Pθ ([ L ( x ), U ( x )]).
Contoh
Jika X1 , ..., Xn adalah sampel random populasi seragam (0, θ ) dan misal-
kan Y = maks{ X, ..., Xn }, jika ingin mencari estimator interval untuk θ.
Pandang dua calon estimator: [ aY, bY ], 1 ≤ a < b dan [Y + c, Y + d], 0 ≤
c < d dengan a, b, c, dan d konstanta. (Perhatikan bahwa θ perlu lebih be-
sar dari Y). Untuk interval pertama didapat:
Pθ (θ ∈ [ aY, bY ]) = Pθ ( aY ≤ θ ≤ bY )
= Pθ 1b ≤ yθ ≤ 1a
= Pθ 1b ≤ T ≤ 1a ; ( T = yθ )
R1
Jadi, Pθ 1b ≤ T ≤ 1a = 1a ntn−1 dt = ( 1a )n − ( 1b )n
b
Cakupan probabilitas interval pertama independen dengan harga θ. Jadi
( 1a )n − ( 1b )n adalah koefisien kepercayaan dari interval.
Untuk interval lain, untuk θ ≥ d, perhitungan sejenis menghasilkan:
Pθ (θ ∈ [Y + c, Y + d]) = Pθ (Y + c ≤ θ ≤ Y + d])
= Pθ 1 − dθ ≤ T ≤ 1 − θc
R 1− θc n−1
= d nt dt
1− θ
= (1 − θc )n − (1 − dθ )n
untuk keadaan ini, cakupan probabilitas tergantung pada θ.
Selanjutnya Limθ →∞ (1 − θc )n − (1 − dθ )n = 0 yang menunjukkan koefisien
kepercayaan estimator interval ini sama dengan nol.
Ada dua metode untuk menentukan estimator interval yaitu dengan in-
versi uji hipotesis statistik dan menggunakan besaran pivot.
Ada hubungan antara estimasi interval dan uji hipotesis. Secara umum da-
pat dinyatakan bahwa setiap interval kepercayaan berkorespondensi den-
gan uji hipotesis dan sebaliknya. Jadi dari uji hipotesis dapat diturunkan
estimasi interval. Namun karena uji hipotesis baru akan dibahas pada Bab
V, maka pembahasan tentang hal ini disajikan pada Bab V Sub Bab mulai
halaman ...
De f inisi
_
Variabel random Q( X , θ ) = Q( x1 , ..., xn , θ ) disebut besaran pivot bila dis-
_
tribusi dari Q( X , θ ) independen (tak mengandung) parameter populasi.
_ _ _
Dengan kata lain: Jika X ∼ F ( x |θ ) maka Q( X , θ ) mempunyai distribusi
yang sama untuk semua harga θ.
_
Fungsi Q( X , θ ) biasanya secara eksplisit memuat parameter dan statistik,
_
tetapi untuk sembarang himpunan A, Pθ Q( X , θ ) ∈ A tidak dapat tergan-
tung pada θ. Cara mengkonstruksikan himpunan kepercayaan dari pivot
tergantung pada kemampuan mendapatkan pivot dan himpunan A sede-
_
mikian hingga himpunan {θ : Q( X , θ ) ∈ A} adalah himpunan estmatator
(interval kepercayaan) dari θ.
Contoh
Dalam kasus lokasi dan skala terdapat banyak besaran pivot. Di sini akan
ditunjukkan beberapa. Misalkan x1 , ..., xn adalah sampel random densitas
_
( dalam tabel ) dan misalkan x dan s adalah mean sampel dan deviasi
standar.
Contoh
Jika
_
x1 , ..., xn sampel random dari populasi N (µ, σ2 ), maka statistik t =
x-µ
√ adalah pivot, karena distribusi statistik t tidak tergantung pada pa-
s/ n
rameter µ dan σ2 .
Contoh
Jika Q( T, λ) = 2T 2
λ maka Q ( T, λ ) ∼ gamma n, λ ( λ ) = gamma(n, 2)
2T
yang tidak tergantung pada λ. Besaran Q( T, λ) = λ adalah pivot den-
gan gamma(n, 2) atau distribusi χ2 .
Kadang-kadang kita dapat melihat bentuk pd f untuk melihat apakah ada
besaran pivot. Dalam contoh di atas, besaran_ λt terlihat dalam pd f dan ia
x-µ
menjadi pivot. Dalam pd f normal, besaran σ terlihat dan besaran ini
juga merupakan pivot.
Pθ ( a ≤ Q(t, θ ) ≤ b) ≥ 1 − α
_ _
Maka untuk setiap θ0 ∈ Ω, A(θ0 ) = { x: a ≤ Q( x, θ0 ) ≤ b}adalah daerah
penerimaan untuk uji taraf α dari H0 : θ = θ0 . Hal ini memberikan hasil
bahwa himpunan kepercayaan (1 − α) untuk θ adalah:
_ _
C ( x ) = {θ0 : a ≤ Q( x, θ0 ) ≤ b}
Contoh
2T
A(λ) = {t : a ≤ ≤ b}
λ
Contoh
_
( x −µ )
Jika X1 , ..., Xn iid N (µ, σ2 ) maka σ / √n adalah pivot. Bila σ2 diketahui, ki-
ta dapat menggunakan pivot ini untuk menghitung interval kepercayaan
untuk µ. Untuk sebarang konstanta a
_
( x −µ )
P(− a ≤ √ ≤ a) = P(− a ≤ Z ≤ a)
σ/ n
_ _
Sehingga interval kepercayaan adalah {µ : x − a √σn ≤ λ ≤ x + a √σn }.
_
( x −√µ )
Bila σ2 tidak diketahui, kita dapat menggunakan pivot skala-lokasi s/ n
.
_
( x −√µ )
Karena s/ n
mempunyai distribusi
_
( x −µ )
P(− a ≤ √ ≤ a) = P(− a ≤ Z ≤ a).
σ/ n
_ s _ s
{µ : x −tn−1, α2 √ ≤ µ ≤ x +tn−1, α2 √ }
n n
a b Probabilitas b-a
−1, 34 2, 33 P(z < a) = 0, 09; P(z > b) = 0, 01 3, 67
−1, 44 1, 96 P(z < a) = 0, 075; P(z > b) = 0, 025 3, 40
−1, 65 1, 65 P(z < a) = 0, 05; P(z > b) = 0, 05 3, 30
Contoh
Misalkan X1 , ...,
_
Xn iid N (µ, σ2 )dengan σ diketahui. Telah kita ketahui
x-µ
bahwa Z = σ / √n adalah besaran pivot dengan distribusi normal baku
dan setiap anggota yang memenuhi P( a ≤ Z ≤ b) = 1 − α akan memberi-
kan interval kepercayaan (1 − α)
_ σ _ σ
{µ : x −b √ ≤ µ ≤ x − a √ }
n n
strategi untuk membagi interval dua sama besar (simetris) terbukti opti-
mal dalam contoh di atas, tapi tidak selalu demikian. Untuk kasus di atas
disebabkan oleh kenyataan bahwa tinggi dari pd f -nya adalah sama di −z α2
dan z α2 .
Teorema Unimodal
Rb
1. a f ( x )dx = 1 − α
3. a ≤ x ∗ ≤ b, dengan x ∗ modus f ( x ).
Bukti
Bila b1 > a maka a1 ≤ a ≤ b1 < b, karena bila b1 lebih besar atau sama
dengan b, maka b1 − a1 lebih besar atau sama dengan b − a. Dalam keadaan
ini, dapat ditulis:
R b1 Rb Ra Rb
a 1 f ( x ) dx = a f ( x ) dx + [ a 1 f ( x ) dx − b1 f ( x ) dx ]
Ra Rb
= 1 − α + [ a1 f ( x )dx − b1 f ( x )dx ]
Jadi
Ra Rb 1 1
a 1 f ( x ) dx − b1 f ( x ) dx ≤ f ( a )( a − a ) − f ( b )( b − b )
= f ( a ) ( a − a1 ) − ( b − b1 )
= f ( a ) ( b1 − a1 ) − ( b − a )
Contoh
_
x-µ
Untuk interval kepercayaan normal berdasarkan pivot s / √n , kita menge-
tahui bahwa interval kepercayaan (1 − α) yang mempunyai panjang ter-
pendek mempunyai bentuk
_ _
x −b √sn ≤ µ ≤ x − a √sn mempunyai a = −tn−1, α dan b = tn−1, α . Panjang
2 2
interval merupakan fungsi S, dengan bentuk umum: Panjang(s) = (b −
a) √sn .
Selanjutnya, jika dipandang kriteria harga harapan panjang (s) dan men-
ginginkan untuk mendapatkan interval (1 − α) untuk meminimumkan.
Jika X adalah nilai mean sampel dari populasi normal dengan me-
an µ dan variansi σ2 (diketahui). Tunjukkan interval kepercayaan
(1 − α)100% untuk µ diberikan oleh:
σ σ
X − zα/2 . √ < µ < X + zα/2 . √ (4.2)
n n
Penjelasan:
X−µ
X ∼ N (µ, σ2 ) ⇒ X ∼ N (µ, σ2 /n) ⇒ Z = √ ∼ N (0, 1) (4.3)
σ/ n
Karena itu
X−µ
P −zα/2 < √ < zα/2 = 1−α (4.4)
σ/ n
atau
σ σ
P( X − zα/2 . √ < µ < X + zα/2 . √ ) = 1 − α (4.5)
n n
Jadi interval kepercayaan (1 − α)100% untuk µ adalah:
σ σ
X − zα/2 . √ < µ < X + zα/2 . √ (4.6)
n n
S S
X − tα/2,n−1 . √ < µ < X + tα/2,n−1 . √ (4.7)
n−1 n−1
Penjelasan:
Penjelasan:
dan
Yj ( j = 1, 2, ..., m) ∼ N (µ2 , σ2 ) ⇒ Y ∼ N (µ2 , σ2 /m) (4.11)
akibatnya,
X − Y − ( µ1 − µ2 )
X − Y ∼ N (µ1 − µ2 , σ2 /n + σ2 /m) ⇒ √ ∼ N (0, 1)
σ2 /n + σ2 /m
(4.12)
Karena nS12 /σ2 ∼ χ2(n−1) dan mS22 /σ2 ∼ χ2(m−1) maka (nS12 + mS22 )/σ2 ∼
χ2(n+m−2) . Diperoleh
X − Y − ( µ1 − µ2 ) h 2 2 2
i
T = √ : (nS1 + mS2 )/σ (n + m − 2 1/2 (4.13)
σ2 /n + σ2 /m
X − Y − ( µ1 − µ2 )
= q ∼ t ( n + m −2) (4.14)
nS12 +mS22
(1/n + 1/m n+m−2
dengan s
nS12 + mS22
R= (1/n + 1/m (4.16)
n+m−2
Jadi interval kepercayaan (1 − α)100% untuk perbedaan mean adalah
X − Y − aR < µ1 − µ2 < X − Y + aR
X − Y − aR < µ1 − µ2 < X − Y + aR (4.17)
Jika X1 , X2, ..., Xn sampel random dari distribusi N (µ, σ2 ) dengan µ tidak
diketahui maka interval kepercayaan (1 − α)100% untuk σ2 adalah:
ns2 ns2
< σ2 < (4.18)
χ2(1−α/2,n−1) χ2(α/2;n−1)
Penjelasan:
σ 2 = S2 =
Dengan menggunakan metode likelihood maksimum diperoleh b
n
1/n ∑ ( Xi − X )2 dan variabel random nS2 /σ2 berdistribusi χ2(n−1) karena
i =1
itu,
P(χ2(α/2,n−1) < nS2 /σ2 < χ2(1−α/2,n−1) = 1 − α (4.19)
atau !
ns2 2 ns2
P <σ < = 1−α (4.20)
χ2(1−α/2,n−1) χ2(α/2;n−1)
ns2 ns2
< σ2 < (4.21)
χ2(1−α/2,n−1) χ2(α/2;n−1)
Jika X1 , X2, ..., Xn dan Y1 , Y2, ..., Yn dua sampel random yang saling indepen-
den dari populasi N (µ1 , σ2 ) dan populasi N (µ2 , σ2 ) dengan µ1 dan µ2 tidak
diketahui, maka interval kepercayaan (1 − α)100% untuk σ22 /σ12 adalah
Penjelasan:
n
µ σ12 = S12 = 1/n ∑ ( Xi − X )2
b1 = X, b (4.23)
i =1
dan
n
µ σ22 = S22 = 1/n ∑ (Yi − Y )2
b2 = X, b (4.24)
i =1
nS12 / σ12 (n − 1)
F= ∼ F(n−1;m−1) (4.25)
mS22 / σ22 (m − 1)
Karena itu
!
nS12 / σ12 (n − 1)
P F(α/2;n−1;(m−1) < < F(1−α/2;n−1;m−1) = 1 − α
mS22 / σ22 (m − 1)
(4.26)
atau
!
mS22 /(m − 1) σ22 mS22 /(m − 1)
P F(α/2;n−1;(m−1) < 2 < F(1−α/2;n−1;(m−1) 2 = 1−α
nS12 /(n − 1) σ1 nS1 /(n − 1)
(4.27)
atau
!
1 mS22 /(m − 1) σ22 mS22 /(m − 1)
P < 2 < F(1−α/2;n−1;m−1) 2 = 1−α
F(1−α/2;m−1;n−1) nS12 /(n − 1) σ1 nS1 /(n − 1)
(4.28)
2 2
Jadi interval kepercayaan (1 − α)100% untuk σ2 /σ1 adalah
Jawab:
(1 − α)100% = 95% ⇒ (1 − α) = 0, 95
Berdasarkan tabel Z, untuk (1 − α) = 0, 95 diperoleh zα/2 = 1, 96.
Untuk σ2 = 9 dan n = 100 diperoleh zα/2 . √σn = 1, 96.3/10 = 0, 588
2. Diketahui X1 , X2, ..., X10 sampel random dari N (µ, σ2 ) ; µ dan σ2 ke-
duanya tidak diketahui. Misalnya dari hasil eksperimen diperoleh
x = 3, 22 dan s = 1, 05. Tentukan interval kepercayaan 90% untuk µ.
Jawab:
Jawab:
s r
nS2 + mS22 490 + 224
R= (1/n + 1/m 1 = (1/10 + 1/7) = 3, 4
n+m−2 15
(4.30)
Jawab:
Dari tabel χ2 diperoleh χ2( 0,01;15) = 5, 23 dan χ2( 0,99;15) = 30, 6 sehing-
ga diperoleh
Jawab:
atau
σ22
0, 4 < < 17, 8 (4.35)
σ12
σ22 σ22
Jadi interval kepercayaan 95% untuk σ12
adalah 0, 4 < σ12
< 17, 8
(b) Jika σ tidak diketahui, tentukan nilai harapan dari panjang 95%
interval kepercayaan untuk µ jika interval didasarkan pada va-
√
riabel random 8( x − µ)/S
10. Diketahui dua variabel random X dan Y yang bebas secara pro-
babilitas dengan distrubusi binomial yang mempunyai parameter
n1 = n2 = 100, dan berurut p1 dan p2 . Dari observasi diperoleh
x = 50 dan y = 40.Tentukan interval kepercayaan 95% untuk p1 −
p2
11. Diketahui X dan Y mean dari dua sampel random yang masing-
masing berukuran n dari distribusi N (µ1 , σ2 ) dan N (µ2 , σ2 ); dengan
σ diketahui. Tentukan n sehingga
P( X − Y − σ/5 < µ1 − µ2 < X − Y + σ/5) = 0, 90 (4.36)
14. Dari hasil observasi suatu sampel random yang berukuran 15 dari
distribusi N (µ, σ2 ) diperoleh x = 3, 2 dan s2 = 4, 24 . Tentukan inte-
rval kepercayaan 95% untuk σ2
17. Misalkan S12 dan S22 notasi variansi sapel random yang beru-
kuran n dan m dari dua distribusi independen N (µ1 , σ2 ) dan
N (µ2 , σ2 ).Tentukan interval kepercayaan (1 − α)100% untuk σ2
18. Misalkan X1 , X2, ..., Xn sampel random yang berikuran 6 dari distri-
nusi Gamma(1 − β); β > 0 tidak diketahui. Tentukan interval keper-
cayaan (1 − α)100% untuk β. Petunjuk : Pertimbangkan distribusi
6
dari2 ∑ Xi /β
i =1
Hipotesis Statistik
139
Statistika Matematis II/ Edisi E-book
Sejauh ini telah dibahas inferensi titik dan interval. Sekarang diperkenalk-
an metode inferensi yang lain yaitu uji hipotesis
Secara umum dapat didefinisikan bahwa Hipotesa adalah pernyataan ten-
tang parameter populasi. Hal ini dapat berupa pernyataan bahwa µ1 = µ2
vs µ1 6= µ2 dan lain-lain. Sedangkan Hipotesis Statistik adalah pernyataan
tentang distribusi dari satu atau lebih sampel random yang diambil da-
ri populasi. Tujuan dari uji hopotesis statistik adalah untuk memutuskan
berdasarkan sampel, mana dari dua hopetesis (yang saling asing) yang be-
nar. Dua hipotesis yang saling asing itu biasa disebut hipotesis nol ( H0 )
dan hipotesis alteratif ( H1 ). Misal
H0 : g( x ) ∼ N (10, σ2 ) (5.1)
H1 : g( x ) ∼ N (µ, σ2 ), µ 6= 10 (5.2)
H0 : µ = 10 vs H1 : µ 6= 10
De f inisi
Dua buah peryataan (hipotesa) yang saling asing dalam persoalan uji hi-
potesa disebut hipotesa nol dan hipotesa alternatif. Masing-masing dinya-
takan dengan H0 dan H1 . Bila θ menyatakan parameter populasi, format
umum dari hipotesa nol dan alternatif adalah:
H0 : θ ∈ Ω0 danH1 : θ ∈ Ω0c
dengan Ω0 suatu himpunan bagian dari ruang parameter dan Ω0c adalah
komplemennya dimana Ω0 ∪ Ω0c = Ω = {θ; −∞ < θ < ∞} .
Dalam uji hipotesa sesudah mengobservasi sampel, harus ditentukan apa-
kah menerima H0 yang berarti menolak H1 atau menerima H1 yang berarti
menolak H0 .
De f inisi
Metode rasio likelihood atau likelihood ratio test (LRT) dalam uji hipotesis
berhubungan dengan estimator likelihood maksimum dan uji tersebut se-
cara luas dapat diterapkan. Ingat bila x1 , ..., xn adalah sampel random dari
populasi dengan densitas f ( x |θ ) (θbisa berupa vektor), fungsi likelihood
didefinisikan sebagai
_ n
L(θ | x1 , ..., xn ) = f ( x |θ ) =ui=1 f ( xi |θ )
De f inisi
Sup
Ωo L(θ | x̄ )
λ( x̄n ) = Sup
Ω L(θ | x̄ )
Uji rasio likelihood adalah uji sedemikian hingga daerah penolakan mem-
_ _
punyai bentuk:{ x: λ( x ) ≤ C }dengan C sembarang bilangan yang meme-
nuhi 0 ≤ C ≤ 1.
Contoh
Misalkan x1 , ..., xn adalah sampel random dari populasi N (θ, 1). Pandang
uji hipotesa H0 : θ = θ0 vsH1 : θ 6= θ0 . Di sini θ0 adalah bilangan tertentu.
_
Karena H0 hanya menentukan satu bilangan, maka pembilang dari λ( x )
_
adalah L(θ0 | x ). MLE dari θ untuk ruang parameter tanpa kendala adalah
_ _ _
mean sampel x. Jadi penyebut dari λ( x ) adalah L( x | x ). Sehingga statistik
LRT adalah
_
h i
= exp − ∑( xi − θ0 )2 + ∑( xi − x )2 /2
_
Pernyataan untuk λ( x ) dapat disederhanakan, karena:
_
∑ ( x i − θ0 )2 = ∑ ( x i − x )2 + n ( x i − θ0 )2
Jadi, statistik LRT adalah
_
h i
λ( x ) = exp −n( xi − θ0 )2 /2 (5.3)
_
LRT adalah uji yang menolak H0 untuk harga-harga λ( x ) kecil. Dengan
menggunakan 5.3 didapat daerah penolakan:
r
_ _ −2 log c
{ x : λ ( x ) ≤ C } = { x : | x − θ0 | ≥ }
n
q
−2 log c
dimana 0 < c < 1,dan 0 < n < ∞. Jadi LRT adalah uji yang
menolak H0 bila mean sampel berbeda dengan θ0 melebihi harga tertentu
yang ditetapkan.
Bila T ( x ) statistik cukup antara θ dengan densitas g(t|θ ), maka dapat di-
pikirkan untuk mengkonstruksikan LRT berdasar pada Tdan fungsi like-
_
lihoodnya L ∗ (θ |t) = g(t|θ ) sebagai pengganti sampel x dan fungsi likeli-
_
hoodnya L(θ | x ). Misalkan λ∗ (t) menyatakan uji statistik rasio likelihood
_
berdasar T. Hal ini masuk akal karena semua informasi tentang θ dari x
_
termuat dalam T ( x ).
Teorema
_
Bila T ( x ) statistik cukup untuk θ, sedangkan λ∗ (t) dan λ(t) masing-
_ _
masing adalah statistik LRT berdasar T dan x maka λ∗ T ( x ), dimana
_ _
λ( x )untuk setiap x dalam ruang sampel.
Bukti
_ _
Dengan teorema faktorisasi, densitas dari x dapat ditulis sebagai f ( x |θ ) =
_
g ( T ( x |θ ) h( x ) dengan g(t|θ ) adalah densitas dan h( x ) tidak tergantung
pada θ. Jadi,
_ _
SupΩo L(θ | x̄ ) SupΩo g( T ( x )|θ) h( x )
λ( x̄n ) = = _ _
SupΩ L(θ | x̄ ) SupΩ ( g( T ( x )|θ) h( x )
SupΩo f ( x̄ | θ )
=
SupΩ f ( x̄ | θ )
SupΩo g( T ( x̄ ) | θ )
=
SupΩ g( T ( x̄ ) | θ )
SupΩo L∗ (θ | x̄ )
=
SupΩ L∗ (θ | x̄ )
_
= λ∗ T ( x )
Contoh
a a2
dimana µ dan σ , adalah MLE dari µ dan σ2 . Selanjutnya, bila µ ≤ µ0 ,
maksimum kendala sama dengan maksimum tanpa kendala, sedang un-
a _
tuk µ> µ0 , maksimum kendala adalah L(µ0 , σ2 | x ).
Jadi
a
1; jika µ ≤ µ0
_
λ( x ) = a2 _ a
L ( µ0 , σ | x )
; jika >
µ
2
a _
µ 0
L(µ,σ |x)
Untuk prosedur uji hipotesa λ( x ), fungsi uji adalah fungsi pada ruang
_ _
sampel dengan nilai 1 bila x dalam daerah penolakan, dan nilai 0 bila x
dalam daerah penerimaan.
Keputusan
Menerima H0 Menolak H0
Hipotesis Benar H0 Keputusan Benar Kesalahan Tipe I
H1 Kesalahan Tipe II Keputusan Benar
2. Jika θ ∈ Ω0c tetapi uji menerima H0 , maka uji telah membuat kesa-
lahan tipe I I.
Misalkan C daerah kritis (penolakan) untuk suatu uji hipotesis, maka un-
tuk θ ∈ Ω0 uji membuat kesalahan bila X ∈ C, sehingga probabilitas kesa-
lahan tipe I adalah P( X ∈ C ). Untuk θ ∈ Ω0 c probabilitas kesalahan tipe
II adalah P( X ∈ C c ). Karena P( X ∈ C c ) = 1 − P( X ∈ C ) maka P( X ∈ C )
merupakan fungsi θ memuat semua informasi tentang uji dengan daerah
kritis C.
Selanjutnya didapat:
(
P(kesalahan tipe I ), jika θ ∈ Ω0
P( X ∈ C ) =
1 − P(kesalahan tipe I I ), jika θ ∈ Ω0c
De f inisi
Fungsi kuasa (power function) dari uji hipotesis dengan daerah penolakan
C adalah fungsi dari θ yang didefinisikan
K (θ ) = P( X ∈ C ) (5.4)
Nilai fungsi kuasa di suatu titik parameter disebut kekuatan uji dititik ter-
sebut. Fungsi kuasa yang ideal adalah bernilai nol untuk θ ∈ Ω0 dan ber-
nilai satu untuk θ ∈ Ω0c . Namun bentuk ideal ini tidak dapat dicapai. Uji
hipotesis baik bila fungsi kuasa memiliki nilai:
2. mendekati 0 bila θ ∈ Ω0
De f inisi
Tingkat signifikansi dari uji (atau ukuran dari daerah kritis C) adalah sup-
remum dari fungsi kekuatan uji kalau hipotesis nol besar.
Contoh
Contoh
1 1
Misalkan Xn ∼ Binomial (5, θ ). Pandang uji H0 : θ < 2 vs H1 : θ > 2.
Fungsi kuasa untuk uji ini adalah:
β 1 ( θ ) = P ( x ∈ R ) = P ( x = 5) = θ 5
β 2 (θ ) = ! P( x = 3, 4, 5) ! !
5 5 5
= θ 3 (1 − θ )2 + θ 4 (1 − θ )1 + θ 5 (1 − θ )0 .
3 4 5
II lebih kecil dalam kasus β 2 (θ ) lebih besar untuk θ > 12 . Tetapi probabi-
litas kesalahan tipe I lebih besar untuk uji kedua; β 2 (θ ) lebih besar untuk
θ ≤ 12 . Bila harus memilih diantara kedua tes tersebut, pertimbangannya
adalah mana struktur kesalahan yang digambarkan oleh β 1 (θ ) atau β 2 (θ )
yang lebih diterima.
Contoh
Contoh
θ0 − θ
β(θ ) = P Z > c + √
σ/ n
De f inisi
De f inisi
Daerah kritik C adalah daerah kritik paling kuat seragan ukuran α untuk
uji hipotesis H0 lawan hipotesis alternatif H1 jika himpunan C adalah da-
erah kritik terbaik ukuran α untuk uji H0 lawan hipotesis sederhana H1 .
Suatu uji yang didefinisikan pada daerah kritik ini disebut uji paling kuat
seragam dengan tingkat signifikansi α dari uji hipotesis sederhana H0 law-
an hipotesis gabungan alternatif H1 . Uji paling kuat seragam tidak selalu
ada, tetapi kalau ada teorema Neyman − Person dapat digunakan untuk
mencarinya.
Contoh
Misalkan X1, X2 , ..., Xn sampel random dari distribusi n(0, θ ) dengan va-
rian θ tidak diketahui. Akan diperlihatkan bahwa ada uji paling ku-
at seragam dengan tingkat signifikansi α untuk uji hipotesis sederhana
0 0
H0 : θ = θ dengan θ adalah bilangan bulat posistif lawan
n hipotesis
o ga-
0 0
bungan alternatif H1 : θ > θ .Ruang parameter Ω = θ; θ ≥ θ . Fungsi
kepadatan peluang bersama dari X1, X2 , ..., Xn adalah
n/2 !
∑ xi2
1
L(θ; x1 , x2 , ..., xn ) = exp − (5.6)
2πθ 2θ
L(θ 0 ; x1 , x2 , ..., xn )
≤k (5.7)
L(θ 00 ; x1 , x2 , ..., xn )
maka diperoleh
n/2 " #
θ 00 θ 00 − θ 0 n
θ0
exp −
2θ 0 θ 00 ∑ xi2 ≤k (5.8)
i =1
2θ 0 θ 00 n
n 00
θ
∑ xi2 ≥ 00
θ − θ0 2
ln
θ0
− ln k = c (5.9)
i =1
Himpunan ( )
n
C= ( x1 , x2 , ..., xn ) : ∑ xi2 ≥ c (5.10)
i =1
0
adalah daerah kritik terbaik untuk uji hipotesis sederhana H0 : θ0 = θ la-
wan hipotesis sederhana θ = θ 00 . Sekarang tinggal menentukan c sehingga
daerah kritik ini mempunyai ukuran α seperti yang diinginkan. Jika H0 be-
n
nar variabel random ∑ xi2 /θ 0 mempunyai distribusi Khi-kuadrat dengan
i =1
derajat bebas n. Karena
!
n
α=P ∑ xi2 /θ 0 ≥ c/θ ; H00
(5.11)
i =1
1. Syarat cukup setiap uji yang memenuhi 5.12 dan5.13 adalah uji UMP
taraf α
2. Syarat perlu, jika terdapat uji yang memenuhi kedua kondisi di atas
dengan k > 0 maka setiap uji UMP taraf α adalah uji dengan ukur-
AkibatTeorema
Bukti
_
Dalam sampel asal X̄ uji berdasar T mempunyai daerah penolakan C ={ x:
_
T ( x ) ∈ S} . Dengan teorema faktorisasi densitas dapat ditulis sebagai
_ _ _ _
f ( x |θi ) = g ( T ( x )|θi ) h( x ), i = 0, 1, untuk suatu fungsi tak negatif h( x ).
Dengan mengalikan ketaksamaan pada nomer 1 di depan dengan fungsi
tak negatif ini, didapat C memenuhi
_ _ _ _ _ _
x ∈ Cbila f ( x |θi ) = g ( T ( x )|θi ) h( x ) > kg ( T ( x )|θ0 ) h( x ) = k f ( x |θ0 ).
dan
_ _ _ _ _ _
x ∈ C c bila f ( x |θi ) = g ( T ( x )|θi ) h( x ) < kg ( T ( x )|θ0 ) h( x ) = k f ( x |θ0 ).
Juga dari pernyataan nomer 2 didapat:
_
Pθ0 ( X ∈ R) = Pθ0 (( T ( x ) ∈ S) = α.
Jadi dengan syarat cukup dari Lemma Neyman-Pearson, Uji berdasar T
adalah uji UMP taraf α.q.e.d.
Contoh
f (0 | δ = 34 ) 1 f (2 | δ = 43 ) 3 f (1 | δ = 43 ) 9
1
= ; 1
= ; 1
=
f (0 | δ = 2 ) 4 f (2 | δ = 2 ) 4 f (1 | δ = 2 ) 4
De f inisi
Bukti
Karena densitas T mempunyai sifat MLR, fungsi kuasa β(θ ) = Pθ0 ( T > t0 )
tidak turun. Sehingga Supθ ≤θ0 β(θ ) = β(θ0 ) = α dan ini adalah uji taraf α.
Dengan menggunakan bagian (b) dan (c) akibat teorema Neyman-Person,
dan didapat:
g(t|θ 1 )
k1 = in f t∈τ
g ( t | θ0 )
Misal C subset dari ruang sampel. C disebut daerah kritik terbaik berukur-
an α untuk uji hipotesis sederhana H0 : θ = θ 0 lawan H1 : θ = θ 00 jika untuk
setiap subset A dari ruang sampel dengan P [( X1, X2 , ..., Xn ) ∈ A; H0 ] = α
berlaku
1. P [( X1, X2 , ..., Xn ) ∈ C; H0 ] = α
Cara lain yang dapat digunakan menentukan daerah kritik terbaik adalah
dengan menggunakan teorea Neyman-Pearson.
Teorema Neyman-Pearson
3. α = P [( X1, X2 , ..., Xn ) ∈ C; H0 ]
Maka C adalah daerah kritik terbaik berukuran α untuk uji hipotesis se-
derhana H0 : θ = θ 0 lawan hipotesis sederhana alternatif H1 : θ = θ 00
Satu hal yang ditegaskan oleh teorema ini adalah bahwa jika C himpunan
dari semua titik-titik ( x1 , x2 , ..., xn ) yang memenuhi
L(θ 0 ; x1 , x2 , ..., xn )
≤ k; k > 0 (5.15)
L(θ 00 ; x1 , x2 , ..., xn )
atau
u2 ( x1 , x2 , ..., xn ; θ 0 , θ 00 ) ≤ c2 (5.17)
Contoh
uji di θ = θ 00 = 1
Z∞
1 ( x − 1)2
P( x ≥ c1 ; H1 ) = √ √ exp(− dx (5.20)
c1 2π 1/n 2(1/n)
Untuk contoh di depan, jika n = 25 dan jika α = 0, 05 maka dari tabel
ditemukan c1 = 1,645
√ = 0, 329. Kekuatan dari uji ini dari H0 lawan H1
25
adalah 0, 05 kalau H0 benar dan
Z∞ Z ∞
1 ( x − 1)2 1 2 /2
√ √ exp(− dx = √ e−w dw = 0, 999,jika H1 benar.
0,329 2π 1/25 2(1/25) −3,355 2π
P( X ≥ X ∗ | H0 benar) = 0, 05
Pembahasan :
x −60000(1/5)
dengan √ berdistribusi normla standar. Karena P( Z ≥
60000(1/5)(4/5)
X ∗ −12000
1, 64 = √
9600
1 − x/θ
f ( x; θ ) = e .
θ
Pembahasan :
K (θ ) = P {( x1 , x2 ) ∈ C }
dan
P [( x1 , x2 ) ∈ C ] = 1 − P [( x1 , x2 ) ∈ C c ]
Z 9,5Z− x2
9,5
= 1− 1/4e−( x1 + x2 )/2 dx1 dx2 ∼
= 0, 05
0 0
Sehingga
Z 9,5Z− x2
9,5
P [( x1 , x2 ) ∈ C ] = 1− 1/16e−( x1 + x2 )/4 dx1 dx2 ∼
= 0, 31
0 0
Z∞
P( x1 + x2 ≥ 9, 5) = P( Z ≥ 4, 75) = 1/4ze−z/2 dz ∼
= 0, 31
4,75
Misalkan β(θ ) adalah fungsi kuasa dari uji dengan daerah penolakan
S. Tetapkan θ 1 ∈ Ω0c . Pandang uji H01 : θ = θ0 vsH11 : θ = θ 1 , menurut
akibat teorema Neyman-Person dan (a), (b), dan (c) mengakibatkan
β(θ 1 ) ≥ β∗ (θ 1 ) dengan β∗ (θ) fungsi kuasa untuk taraf α lain dari H01 ,
yaitu setiap uji yang memenuhi β(θ ) ≤ α. Tetapi, setiap uji tanpa α
dari H0 memenuhi β∗ (θ0 ) ≤ sup β∗ (θ ) ≤ α.
4. Jika X1, X2 , ..., Xn sampel random dari distribusi n(θ, 1) dengan me-
an θ tidak diketahui. Perlihatkan bahwa tidak ada uji paling kuat
0
seragam dari hipotesis sederhana H0 : θ = θ dimana θ 0 tertentu la-
0
wan hipotesis gabungan alternatif H1 : θ 6= θ . Ruang sampelnya
Ω = {θ; −∞ < θ < ∞} .
Pembahasan :
atau
( )
n
n h 00 2 i
− θ 00 − θ ∑ xi +0
( θ ) − ( θ 0 )2
exp ≤k (5.22)
i =1
2
atau
n
n h 00 2 i
θ 00 − θ 0 ∑ xi ≥ (θ ) − (θ 0 )2 − ln k
(5.23)
i =1
2
Pertidaksamaan ini ekivalen dengan
n
n 00 ln k
∑ xi ≥ θ + θ 0 − 00 jika θ 00 > θ 0
(5.24)
i =1
2 (θ − θ 0 )
dan ekivalen ke
n
n 00 ln k
∑ xi ≤ θ + θ 0 − 00 jika θ 00 < θ 0
(5.25)
i =1
2 (θ − θ 0 )
0
Kedua ini mendifinisikan daerah kritik terbaik untuk uji H0 : θ0 = θ
lawan H1 : θ = θ 00 bila θ 00 > θ 0 dan θ 00 < θ 0 . Akan tetapi daerah kritik
terbaik uji hipotesis sederhana lawan hipotesis sederhana alternatif
θ = θ 0 + 1 tidak seperti daerah kritik terbaik daerah kritik terbaik
0
H0 : θ = θ lawan hipotesis sederhana alternatif θ = θ 0 − 1. Jadi
dalam kasus ini tidak ada uji paling kuat seragam.
5. Tentukan daerah kritik dari uji rasio likelihood untuk uji hipotesis
nol H0 : µ = µ0 lawan H1 : µ 6= µ0 yang didasarkan sampel random
berukuran n dari populasi normal dengan varians σ2 diketahui.
Pembahasan :
dan n " #
1 n
1
L(Ω
b) = √ exp − 2 ∑ ( xi − x )2
σ 2π 2σ i=1
sehingga
n h
2
i
λ = exp − 2 ( x − µ0 )
2σ
Daerah kritiknya adalah
h n i
exp − 2 ( x − µ0 )2 ≤ k
2σ
atau
2σ2
( x − µ0 )2 ≥ − ln k
n
Bab 5. Hipotesis Statistik 160 ISBN 978-602-8310-02-4
Statistika Matematis II/ Edisi E-book
atau q
| x − µ0 | ≥ − (2σ2 ln k) /n
Pembahasan :
b ) dan L(Ω
Sekarang akan ditentukan L(ω b ). Perhatikan bahwa
d ln L(ω )
= 0
dθ2
2
n ∑ ( xi )
− + = 0
2θ2 2θ2
Diperoleh
1 n
n i∑
θ2 = ( x i )2
=1
Sehingga
!n/2
ne−1
L(ω
b) =
2π ∑ ( xi )2
Dengan cara analog (dengan metode likelihood maksimum) dipero-
leh
n
θ1 = x dan θ2 = ∑ (xi − x)2 /n
i =1
sehingga
n/2
ne−1
L(Ω
b) =
2π ∑(( xi − x )2 /n)
Karena itu,
" #n/2
∑ ( x i − x )2
λ= 2
∑ ( xi )
Jadi daerah kritik rasio likelihood adalah
" #n/2
∑ ( x i − x )2
2
≤k
∑ ( xi )
atau ( )
∑ ( x i − x )2
x: 2
≤ k2/n
∑ ( xi )
Pembahasan :
xi ∼ B (1, P) ⇒ P ( xi = xi ) = p xi (1 − P)1− xi , xi = 0, 1 i = 0, 1, 2, 3
L (P | x) = πi3=1 P ( xi = xi )
= P x1 (1 − P)1−x1 .P x2 (1 − P)1−x2 .P x3 (1 − P)1−x3
= P x1 + x2 + x3 (1 − P)3− x1 .x2 .x3
P Σ i =1 x i ( 1 − P ) 3 − Σ i =1 x i
3 3
=
Diuji hipotesis H0 : P = 0, 25 vs H1 : P 6=, 25
Ω0 = { P = 0, 25}
Pandang Ruang Parameter:
Ω = { P | 0 < P < 1}
d.logL( P| x ) Σ3i=1 x 3 x . −1
Σ
dp = P + 3 − i =1 i 1.p
(1− PΛ )Σ3i=1 x− PΛ (3−Σ3i=1 xi )
0 = P Λ (1− P Λ )
Σ3i=1 xi
PΛ = 3
= x
Sup PeΩ0 L( P| x )
λ (x) = Sup PeΩ L( P| x )
Σ3 x 3− Σ3 x
(0,25) i=1 i (0,75) i =1 i
= 3 − Σ3 x i
Σxi Σx Σxi (0,75) i =1
3 1− 3
Σ3 x i 3− Σ3 x i
i =1 i =1
3(0,25) 3(0,75)
= Σ3i=1 xi 3−Σ3i=1 xi
λ ( x )adalah fungsi ........... dari Σ3i=1 xi
Daerah kritik untuk uji ini adalah
λ < C0
atau
! Σ3 !3− Σ3
i =1 x i i =1 x i
0, 75 2, 25
< C0
Σ3i=1 xi 3 − Σ3i=1 xi
Pembahasan :
f1 (x| β1 )
R ( Z, β 0 , β 1 ) = f0 (x| β0 )
30
1 − 31 Σ30 xi
πi30 9
=1 x e
i =1
r (10)310
= 30
1 30
1
πi30 9 − 2 Σ i =1 x i
r (10)210 =1 x e
1 30 1 30
πi30 9 − 3 Σi =1 xi π 30 x9 e− 2 Σi =1 xi
=1 x e i =1
= 30 . 30
1 1
r (10)310 r (10)210
2 300
.e− 3 Σi=1 xi + 2 Σi=1 xi
1 30 1 30
= 3
2 300 1 Σ30 x
= 3 .e 6 i=1 i > C
(e) Dengan C suatu konstantaa tertentu, jadi dapat ditulis:
300 300
2 1 30
Σ x 2
.e 6 i=1 > C atau
i
3 3
Ambil logaritma kedua ruas, diperoleh:
6 Σ i =1 x i
1 30
> Log C − 300 Log 23
= Log C − 300 (Log 2 − Log 3)
= Log C − 300 (0, 3010 − 0, 4771)
= Log C + 52, 83
Σ30
i =1 x i > 6 (Log C + 52, 83) = C0
Jadi HP testnya berbentuk:
(
1;Jika Σ30
i =1 xi > C0
Ø (Z) =
0; Jika Σ30
i =1 xi ≤ C0
Pembahasan
f 1 ( x | µ =1)
R ( Z, µ0 , µ1 ) = f 0 ( x | µ =0)
− 12 Σin=1 xi2 − 12 Σin=1 ( xi −1)2
= e 2σ 2σ
1 n
Σin=1 xi
e σ2 .e σ2 > C
1 n
Σ x n (5.27)
e σ 2 i =1 i > e σ2
Ambil logaritma kedua ruas diperoleh:
1 n
Σ x
σ 2 i =1 i
> n
σ2
+ LogC
Σin=1 xi > n 2
2 + σ LogC
Σn x 1 σ2
Atau i=n1 i > 2 + n LogC = C0 ⇒ X > C0
ditentukan dengan:
Eµ1 [Ø ( Z )] = 1 − 0, 9 = 0, 1 (1 − β = P)
tidak menolak H0 | H1 salah.
Pµ1 ( x ≤ C0 ) = 0, 1
x −µ0x C0 −µ0x
Pµ1 ≤ = 0, 1
σx σx
C0 −µ0x
Pµ1 Z ≤ √
1n
= 0, 1
√
Pµ1 Z ≤ C0 n = 0, 1
√
Pµ1 Z ≤ C0 n = 0, 1
Sehingga diperoleh:
√
n (C0 − 1) = −1, 28 (5.30)
√ √
C0 n − n = −1, 28
√
1, 64 − n = −1, 28
√
n = 1, 64 +1, 28 = 2, 92
Atau
n = (2, 92)2 = 8, 53 ' 9
Ω0c = µ = 3, 5; σ2 = 4
f 1 ( x |µ,σ2 )
R (z, µ0 , µ1 ) = f 0 ( x |µ,σ2 )
− 18 Σ100 xi2 + 78 Σ100 xi2 −153,125
(8π )−50 e i =1 i =1
(5.31)
= − Σ1 100 6
x + Σ100 x2 −112,5
2
(8π )−50 e 8 i=1 i 8 i=1 i
= e− 18 Σ100 2
i =1 xi −40,62,5 >C
dengan C suatu konstanta tertentu.
Bentuk (1) diatas dapat ditulis sabagai:
8 Σ i =1 x i
1 100 2
> 40, 62, 5 + LogC
Σ100 2
i =1 x i > 325 + 8LogC
Σ100 x
i =1 i 8
Jadi diperoleh: 100 > 325 + 100 LogC = C0
Sehingga MP tes dari uji hipotesis diatas berbentuk,
(
1;Jika X > C0 Σ100 xi
Ø (Z) = dengan i=1 = 3, 2
0; Jika X ≤ C0 100
σ2
4
x ∼ N µi , = N µi , : 1 = 0, 1
n 100
C0 ditentukan dengan Eµ0 [Ø ( Z )] = Pµ0 ( x > C0 ) = αdengan
α=0,01
Jadi:
Penyelesaian:
1
f ( x | θ0 ) = f 0 ( x ) = ;0 ≤ x ≤ 1
1−0
Disini: f ( x | θ0 ) = f 0 ( x )dan f ( x | θ1 ) = f 1 ( x )karena observasi
didasarkan pada observasi tunggal pada X.
Rasio Likehoodnya adalah:
4x ; 0 ≤ x < 12
f ( x | θ1 ) f1 (x)
= = f1 (x) = 4 − 4x ; 12 ≤ x ≤ 1
f ( x | θ0 ) f0 (x)
0 ; otherwise
⇐⇒
= Pθ0 ( x > C00 ) + Pθ0 ( x < C0 ”) = 005
= Pθ0 ( x > C00 ) + 1 − Pθ0 ( x < C0 ”) = 0, 05
R1 R1
= 0 dx + 1 − dx = 0, 05
R 1co R 1co ”
= c dx + 1 − = 0, 05
4 1− 4c dx
1
[ x ]1c + 1 − 1− c dx
R
= = 0, 05
4 4
= 1 − 4c + 1 − [ x ]11− c = 0, 05
4
1 − 4c + 1 − 1 − 1 − c
= 4 = 0, 05
= 2 − 4c − 1 + 1 − 4c = 0, 05
= 2 − 4c = 0, 05
c
2 = 2 − 0, 05 = 1, 95
atau
C = 2 (1, 95) = 3, 9
Jika harga c=3,9 ini disubstitusikan masing-masing ke
C00 = 4c diperoleh C00 = 3,9
4 = 0, 975dan
c
C0 ” = 1 − 4 = 1 − 0, 975 = 0, 025.
Jadi diperoleh harga C00 = 0, 975 dan C0 ” = 0, 025. Sehingga MP tes
dari uji hipotesis tersebut adalah:
1 ; Jika x > 0, 975 atau
x < 0, 025
Ø (x) =
0 ; Jika x ≤ 0, 975 dan
x ≥ 0, 025
Dengan kata lain: H0 (Hipotesa nol) ditolak jika x > 0, 975atau
x < 0, 025 dan H0 diterima pada 0, 025 ≤ x ≤ 0, 975. Seperti yang
diilustrasikan gambar berikut:
Penyelesaian:
e −1
H0 : f = f 0 ( x ) = x! VS
• Diuju hipotesis
1
x −1 x −1 x
H1 : f = f 0 ( x ) = 1− 2 . 12 = 1
2 . 12 = 1
2
e −1
Bentuk Ω = {θ0 , θ1 }dengan f ( x | θ0 ) = f 0 ( x ) = x! dan
x −1
f ( x | θ1 ) = f 1 ( x ) = 12 . 12
• Densitas bersama dari Xi untuk θ0 adalah:
e−n
f ( x | θ0 ) = n
π i =1 x i !
dan densitas bersama dari xi untuk θ1 adalah:
Σn
i =1 x i − n
n
1 1
f ( x | θ1 ) = 2 2
Σ n xi − n n
1 i =1
= 2 . 12 . 21
Σ n xi
1 i =1
= 2
f ( x | θ1 )
R ( Z, f 0 , f 1 ) = f ( x | θ0 )
Σ n xi
( 12 ) i =1
= e−n
π n xi !
=1
i
πn x
πin=1 xi ! 12 i=1 i
= e−n
f ( x | θ ) = C ( θ ) e Q(θ ) T ( x ) h ( x ) (5.34)
dengan: h in
θα
C (θ ) = r (α)
; Q (θ ) = −θ
T (x) = Σin=1 xi ; h ( x ) = πin=1 xiα−1
Jelas Q (θ ) = −θdecreasing pada (0, ∞), sebab Q (θ ) = −1 < 0. Jadi
berdasarkan proposisi 1 halaman 277 dari Roussas, keluarga ekpo-
nensial diatas memiliki sifat MLR dalam v ( x ) = − T ( x ) = −Σin=1 xi .
(ii). Densitas bersama dari xi adalah:
!
r + x − 1
( 1 − θ ) Σ i =1 x i
n
f (x | θ ) = θ nr π
x !
r+x−1
eΣi=1 xi Log (1 − θ )
n
= θ nr π
x
α = 0, 05
• H0 : θ ≤ 0, 3 vs H1 : θ > 0, 3untuk α = 0, 1.
Penyelesaian:
f ( xi | θ ) = e−( xi −θ ) ;θ ≤ x < ∞
•
f ( x | θ ) = e−( xi −θ ) I(θ,∞) x(i)
P (Y = y ) = P ( xmin ≤ y)
= 1 − P ( xmin > y)
= 1 − {1 − P ( x ≤ y)}n
n RY on
= 1 − 1 − θ eθ e− x dx
y n
1 − 1 + eθ e− x |θ
=
n
1 − 1 + eθ e− x − 1
=
= 1 − enθ e−ny
= 1 − e−(y−θ )
d
f y (y) = dy { P (Y = y )}
d nθ e−ny
= 1 − e
Jadi: dy ;θ ≤ y < ∞
1 nθ −ny
= ne e
= n.e−n(y−θ )
Sehingga:
R∞ 1 nθ0 −ny
P (Y > c ) = ne
c e dy = α
1 nθ0 1 −ny ∞
= ne −ne |c = α
1 nθ0 1 −nc
3 = n e − n e = α
n2α n2α
⇒ e−nc = ⇒ −nc = Log Atau −nc =
enθ0 enθ0
1
Log n2 α − nθ
0 ⇒ c = θ0 − n Log n2 α
Kesimpulan: H0 ditolak apabila xmin > θ0 − n1 Log n2 α
Penyelesaian:
• xi ∼ G (α = 10, β) ⇒ f ( xi | β ) =
1
T(10)
x9 e− xi β Dikonstruksikan MP tes untuk H0 : β = 2VS
β10 i
H1 : β = 3. Berdasarkan Leuma Neyman-Pearson di dapat:
− 31 Σxi 30
f ( x | β =3) πi30 9
=1 x i e ( T(10) ) .(330 )
f ( x | β =2)
= 1
πi30 9 − 2 Σxi T 30
=1 x i e ( (10) ) .(230 )
e − ( 3 − 2 ) Σ i =1 x i
30 1 1 30
2
= 3
2 30 − 16 Σ30 i =1 x i
= 3 e
f ( x | β =3)
6 Σi =1 xi + 30Log 3
1 30 2
Log f ( x| β=2) =
2
Σ30
i =1 x i > 6 k − 30Log =c
3
P Σ30
i =1 x i > c = 0, 05 atau
1 − P Σi=1 xi ≤ c = 0, 05 atau
30
P Σ30
i =1 x i ≤ c = 0, 95
Penyelesaian:
− 1 2 − 1 ( x i − µ ) 2
xi ∼ N µ, σ2 ⇒ f ( xi | µ) = 2πσ2
e 2σ2 σ diketahui
Uji hipotesis H0 : µ = 0 VS H1 : µ = 1. Berdasarkan Leuma
Neymman-Pearson di dapat:
2
−1n2 − 12 Σn ( xi −1)
f ( x | µ =1) (2πσ2 ) e 2σ
f ( x | µ =0)
= 1 n 2
−1n2 − 2σ2 Σ ( xi −0)
(2πσ2 ) e
− 12 (Σxi2 −2Σxi +n−Σxi )
= e 2σ
1
− (n−2Σxi )
= e 2σ2
n Σxi
−
= e 2σ2 .e σ2
n Σxi
−
e 2σ2 .e σ2 > k
− 2σn 2 + Σxσ2
i
> Logk
Σ i =1 x i
n > σ Logk + σ2 = c
2
α = P (Σxi > c)
0, 05 = P (Σx > c)
P(Σx ≤ c) = 0, 95
Σx − 0 c
⇔ P √n ≤ √n = 0, 95
⇔ P Z ≤ √cn = 0, 95
⇔ ∅ √cn = 0, 95
c
Daritabeldistribusi N (0, 1) didapat √ = 1, 64 (5.40)
n
c √
√ − n = −1, 28 (5.41)
n
Persamaan 1 disubstitusikan pada 2 didapat
√
n = √c + 1, 28 = 1, 64 + 1, 28
n
√
n = 2, 92 ⇒ n = (2, 92)2 ≈ 9
Jadi ukuran sampel adalah n = 9.
Penyelesaian:
−12 − 1 ( xi −µ)2
xi ∼ N µ, σ2 ⇒ f ( xi | µ) = 2πσ2
e 2σ2 akan dikon-
struksikan uji MP untuk: H0 : µ = 3, σ = 4 VS H1 : µ = 3, 5, σ2 = 4.
2
325 Σx
H0 akan ditolak jika:e− 8 + 8 > k yaitu:
Σx
8 − 325
8 > Logk
Σx > 8 Logk + 325
⇔ 8 = c
Σx
(5.42)
⇔ 100 > c
100 = c∗
⇔ x > c∗
Dimana c∗ dapat dihtung berdasarkan tingkat α = 0, 01dan dsitribusi
N µ = 3, σ2 = 2 (dibawah H0 ), yang memenuhi hubungan:
α = P ( x > c∗ )
⇔ 0, 01 = P ( x > c∗ )
⇔ 0, 99 = ∗
P ( x ≤ c ∗)
⇔ 0, 99 = P 2x−10
3
≤ 2c−103
c ∗ −3
⇔ 0, 99 = P Z ≤ 210
∗
⇔ 0, 99 = Ø 2c−103
c ∗ −3
210 = 2, 33 ⇒ c∗ = 2
10 (2, 33) + 3
⇒ c∗ = 3, 466
Dari 1 telah didapat, H0 ditolak jika:
x > c∗
α α
P ( x < C1∗ ) = atau P ( x < C2∗ ) =
2 2
Bab 5. Hipotesis Statistik 186 ISBN 978-602-8310-02-4
Statistika Matematis II/ Edisi E-book
R C1∗ 0,05
⇒ 1dx = ⇒ C1∗ = 0, 025 atau
R01 2
0,05
C ∗ 1dx = 2 ⇒ 1 − C2∗ = 0, 025 ⇒ C2∗ 0, 975
2
Penyelesaian:
f 0 = P (1) ⇒ f ( xi | θ0 ) = xe!! , xi = 0, 1, 2...
i xi
f 1 = geometrik P = 21 ⇒ f ( xi | θ1 ) = 12 21 , xi = 0, 1, 2.
akan dicari MP test untuk H0 : f = f 0 VS H1 : f = f 1 :
Σxi
1 1
f (x | f1 ) 2 2 1 π n xi !
= en
= . i=Σ1n x
f (x | f0 ) πxi !
2 en .2 i=1 i
1 πin=1 xi !
. >k
2 en .2Σi=1n xi
yang ekivalen dengan Σin=1 xi > c∗
dibawah H0 , Σin=1 xi ∼ P (n)sehingga c∗ dapat dihitung berdasarkan
tingkat signifikansi α = 0, 05dan distribusi P (n)yang memenuhi:
P (Σxi > c∗ ) = 0, 05
P Σ i =1 x i ≤ c
n ∗
= 0, 95
∗ t − n
Σct=0 n .et! = 0, 95
6. Soal Roussas no 9 halaman 314
Misalkanx1 , x2 , ...., xn random variabel dengan p.d.f diberikan diba-
wah ini. Pada setiap kasus. Perlihatkan bahwa p.d.f bersama dari x
adalah MLR dalam V = V ( x1 , x2 , ...., xn ).
x
a. f ( x; θ ) = Tθ(α) x α−1 e−θx .I(0,∞) ( x ) ; θe (0, ∞) ; α > 0 diketahui
!
v + x − 1
b. f ( x; θ ) = θ v (1 − θ ) x .I A ( x )
x
A = {0, 1, 2, ...} , θeΩ = (0, 1)
Penyelesaian:
x
a. f ( x; θ ) = Tθ(α) x α−1 e−θx .I(0,∞) ( x ) ; θe (0, ∞) ; α > 0 diketahui
θx
f ( x; θ ) = π n x α−1 .e−θΣx
( T (α))n i =1
πin=1 x α−1 −θΣx +Σxlogθ
= n .e
( T (α)) n
= πin=1 x α−1 T (1α) .eΣx(logθ −θ )
Q (θ ) = Log (1 − θ )
V (x) = Σx
Maka Q (θ )adalah fungsi monoton turunan sebab:
−1
Q0 (θ ) = 1− θ
−1
= θ −1 < 0, untuk θe (0, 1)
H0 : θ ≤ θ0 , H1 : θ ≤ θ0
f ( x |θ )
Sehingga untuk: Log f ( x | θ1 )
> Log k
Ekivalen dengan:
1− θ1
Logk−nLog 1− θ0
x > c0∗ = ( θ1 )
1− θ1
Log − Log 1− θ0
( θ0 )
UMP tes memberikan:
∗
1 ; jika x > c0
Ø (x) = γ ; jika x = c0∗
0 ; jika x < c0∗
• Untuk n = 6, θ0 = 0, 25, α = 0, 05
• Untuk n = 6, θ0 = 0, 25, α = 0, 01
Dari tabel B (n = 6, θ0 = 0, 25, α = 0, 01)didapat untuk c0∗ = 4
P0,25 ( x ≤ 4) = 0, 9954
P0,25 ( x = 4) = P0,25 ( x ≤ 4) − P0,25 ( x ≤ 3)
= 0, 9954 − 0, 9624
= 0, 033
Persamaan 1 menjadi:
• Untuk n = 6, θ0 = 0, 25, α = 0, 02
Dari tabel B (n = 6, θ0 = 0, 25, α = 0, 012)didapat c0∗ = 4
P0,25 ( x ≤ 4) = 0, 9954 dan P0,25 ( x = 4) = 0, 033
Persamaan 1 menjadi:
β (θ ) = Eθ (Ø ( x ))
(5.44)
β (θ ) = Pθ1 ( x > c0∗ ) + γPθ1 ( x = c0∗ )
f ( x1 ; 2) f ( x2 ; 2) 1
≤ (5.45)
f ( x1 ; 1) f ( x2 ; 1) 2
ribusi ini. Kita tolakH0 jika dan hanya jika nilai observasi dari
Y = X1 + X2 + ... + X12 ≤ 2. Jika K (θ ) adalah fungsi kekuatan uji,
tentukan kekuatan dari K ( 12 ), K ( 31 ), K ( 14 ), K ( 16 ) dan K ( 12
1
). Sket grafik
dari K (θ ). Berapakah tingkat signifikasnsi dari uji?
10. Jika X1, X2 , ..., Xn adalah sampel random dari distribusi yang mem-
punyai f.k.p dari bentuk f ( x; θ ) = θx θ −1 ; 0 < x < 1 dan 0 untuk yang
lain. Perlihatkan bahwa daerah kritik terbaik untuk uji H1 : θ = 1
n
lawan H1 : θ = 2 adalah C = ( x1 , x2 , ..., xn ) ; c ≤Πi=1 xi
11. Misalkan X1, X2 , ..., X10 sampel random dari distribusi n(θ1 , θ2 ). Ten-
0
tukan uji terbaik dari hipotesis sederhana H0 : θ1 = θ1 = 0, θ2 =
0 00 00
θ2 = 1 lawan hipotesis alternatif H1 : θ1 = θ1 = 1, θ2 = θ2 = 4
n dan c sehingga
dan
13. Misalkan X1, X2 , ..., Xn sampel random dari distribusi yang mempu-
nyai f.k.p f ( x; p) = p x (1(− p)1− x ; x = 0, 1 dan 0 untuk
) x yang lain.
n
Perlihatkan bahwa C = ( x1 , x2 , ..., xn ); ≤ ∑ xi ≤ c adalah daerah
i =1
kritik terbaik untuk uji H0 : p = 1/2 lawan H1 : p = 1/3. Gunakan
teorema limit pusat untuk menentukan n dan c sehingga
! !
n n
P ∑ xi ≤ c; H0 ∼
= 0, 10 dan P ∑ xi ≤ c; H1 ∼
= 0, 80 (5.48)
i =1 i =1
17. Misalkan X1, X2 , ..., X25 sampel random berukuran 25 dari distribusi
normal n(θ, 100). Tentukan daerah kritik paling kuat seragam dari
ukuran α = 0, 01 untuk uji H0 : θ = 75 lawan H1 : θ > 75
x ln x + (n − x ) ≥ k (5.51)
21. Dalam soal no 1, tunjukkan bahwa daerah kritiknya juga dapat di-
tulis x − n2 ≥ c, dengan c suatu konstanta yang tergantung pada
23. Suatu sampel random yang berukuran n dari populasi normal de-
ngan mean dan varians tidak diketehui digunakan untuk uji hipo-
tesis µ = µ0 lawan alternatif µ 6= µ0 . Perlihatkan bahwa nilai dari
statistik rasio likelihood dapat ditulis
−n/2
t2
λ= 1+ (5.53)
n−1
x − µ0
dengan t = √
s/ n
3. Lehmann, E.L. (1983) Theory of Point Estimation, John Wiley & Sons,
Inc. USA
9. Walpole, Ronald.E. & Myers, Raymond H. & Myers, Sharon L.& Ye,
Keying (2002) Probability and Statistics for Engineers & Scientists,
Prentice Hall,Inc, USD
199
Daftar Pustaka Statistika Matematis II/ Edisi E-book
10. Walpole, Ronald.E. & Myers, Raymond H. (1986) Ilmu Peluang dan
Statistika untuk Insinyur dan Ilmuan, Penerbit ITB, Bandung.
11. Beberapa e-book dan e-text, terutama dari portal MIT Open Course Wa-
re (http://ocw.mit.edu/OcwWeb/Mathematics/index.htm)