STATISTIKA MATEMATIKA
Adi Setiawan
i
Contents
1 Pendahuluan 1
1.1 Sifat Kecukupan . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Sifat Kelengkapan . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.3 Sifat Ketakbiasan...................................................................................11
1.4 Keluarga Eksponensial..........................................................................13
2 Estimasi Titik 19
2.1 Metode yang digunakan bila tersedia statistik cukup yang lengkap 21
2.2 Metode yang digunakan bila tidak tersedia statistik cukup lengkap 22
2.3 Kriteria Pemilihan Estimator : Prinsip MLE.......................................28
2.4 Estimator Momen..................................................................................31
2.5 Kriteria Pemilihan Estimator : Pendekatan Teori Keputusan.............33
2.6 Sifat-sifat Optimal secara Asimptotik dari Estimator.........................40
3 Pengujian Hipotesis 46
3.1 Konsep Umum dari Pengujian Hipotesis Neyman-Pearson................46
3.2 Pengujian Hipotesis Sederhana Melawan Alternatif Sederhana..........49
3.3 Uji UMP untuk Pengujian Hipotesis Komposit...................................58
3.4 Uji UMPU untuk Pengujian Hipotesis Komposit.................................70
3.5 Pengujian Parameter dari Distribusi Normal.......................................73
3.5.1 Uji Tentang Variansi..................................................................73
3.5.2 Uji Tentang mean......................................................................75
3.6 Perbandingan Parameter Dua Distribusi Normal................................77
3.6.1 Perbandingan Variansi Dua Densitas Normal...........................77
3.6.2 Perbandingan Mean Dua Densitas Normal..............................79
3.7 Uji Likelihood Ratio.............................................................................80
4 Daerah Kepercayaan 91
4.1 Interval Kepercayaan.............................................................................91
4.2 Interval Kepercayaan Bila Muncul Parameter Nuisans.......................98
4.3 Interval Kepercayaan dan Interval Kepercayaan Pendekatan...............101
4.4 Hubungan antara Uji Hipotesis dan Interval Kepercayaan..................102
Chapter 1
Pendahuluan
Dalam bab ini terlebih dahulu akan dibahas tentang ruang parameter (pa-
rameter space), statistik cukup (sufficient statistics), sifat kelengkapan (com-
pleteness), sifat ketakbiasan (unbiasedness) dan keluarga eksponensial (ex-
ponential family).
T = (T1, . . . , Tm)
1
dinamakan statistik dimensi m, dengan T1 = T1(X1, X2, . . . , Xn),
T2 = T2(X1, X2, . . . , Xn),
dan Tm = Tm(X1, X2, . . . , Xn). Sebelum didefinisikan sifat kecukupan, ter-
lebih dahulu diberikan contoh-contoh berikut ini.
Contoh 1.1
1
f (x; θ) = IA(x) (1.1.5)
β−θ
dengan A = (θ,
β).
Contoh 1.2
Contoh 1.3
{ 1, . . . , n}.
dengan B = 0,
Misalkan dianggap bahwa percobaan Binomial telah dilakukan dan
nilai pengamatan dari Xi adalah xi untuk i = 1, 2, . . . , n. Masalah yang
dihadapi adalah bagaimana membuat inferensi tentang θ berdasarkan
pada xi untuk i = 1, 2, . . . , n. Apabila kita memberi tanda 1 untuk
’sukses’ maka akan muncul pertanyaan tentang : dapatkah dilakukan
inferensi tentang θ bila diketahui banyaknya sukses yang terjadi. Bila
banyaknya sukses yang terjadi
adalah t atau T = t untuk t = 0, 1, 2, . . . , n maka akan ditentukan berapa
.
probabilitas setiap satu kemungkinan dari
n
t
tidak bergantung pada θ. Oleh karena itu total banyaknya sukses t menye-
diakan semua informasi tentang θ.
Contoh 1.3 memotivasi definisi statistik cukup berikut ini.
Definisi 1.1
Tj = Tj (X1 , X2 , . . . , Xn )
untuk j = 1, 2, . . . , m statistik. Statistik T dinamakan statistik cukup
dimensi-m untuk keluarga F = {f (x; θ)|θ ∈ Ω} atau untuk parameter θ
jika distribusi bersyarat (X1, X2, . . . , Xn)t diberikan T = t tidak bergantung
pada θ untuk semua nilai t.
Dengan menggunakan teorema berikut ini, identifikasi statistik cukup
dengan mudah dapat dilakukan.
merupakan statistik cukup untuk θ jika dan hanya jika fungsi kepadatan
probabilitas bersama dari dapat difaktorkan sebagai
Akibat 1.1
Contoh 1.4
=
(θ2 g1(X(1), θ)g2(X(n), θ),
1 n
f (x1, x2, . . . , xn; θ) −θ)
=
Contoh 1.5
Tetapi, karena
n
Σ n
Σ Σ Σn
(xi − θ1) 2
(xi − x¯) + (x¯ − θ1 )]2
(xi − x¯)2 + n(x¯ −
i= i= i= 2
1= 1 = 1 θ1 )
maka fungsi kepadatan probabilitasnya menjadi
1 Σ n
Definisi 1.2
Eθ[g(X)] = 0
i=θ)n
1
θ
dengan ρ =
maka E[g(X)] = 0 untuk semua θ ∈ (0, 1) akan ekuivalen
dengan 1−θ x
n . Σρ = 0
n x
Σx g(x)
=0
untuk setiap ρ ∈ (0, ∞ ). Akibatnya untuk lebih dari n nilai-nilai dari ρ
berlaku untuk x = 0, 1, 2, . . . , n yang ekuivalen dengan
. x
g(x)
n Σ=0
Contoh 1.7
Misalkan
e−θxθ
F = {f (x; θ)|f (x; θ) IA(x), θ ∈ (0, ∞)}
= x!
dengan A = {0, 1, 2, 3, . . .}. Karena
Σ∞
x
Σ∞
g(x) x
−θ
E[g(X)] = =0
g(x) e −θ θ =0
=e x!
x! x=0
dengan θ (0, θ) maka g(x) = 0 untuk . hal ini ekuivalen dengan g(x) = 0
∈
untuk x = 0, 1, 2, . . . , n. Akibatnya keluarga distribusi Poisson F merupakan
keluarga yang lengkap.
Contoh 1.8
Misalkan
1
F = {f (x; θ)|f (x; θ) = I[α,θ] (x), θ ∈ (0, ∞)}.
θ−α
∫
Karena E[g(X)] = 0 untuk semua θ = (α, ∞) maka aθ g(x)dx = 0 untuk
semua θ > α sehingga g(x) = 0 kecuali mungkin untuk himpunan N se-
hingga P [X∈N] untuk semua θ Ω dengan X adalah variabel random
yang mempunyai fungsi kepadatan probabilitas f (x; θ. Hal yang sama
juga benar jika f (x; θ) adalah U (θ, β).
Contoh 1.9
E[g(X)] = E[X − µ] = 0
2 2 1 Σ
(x − µ)2 Σ
F = {f (x; µ, )|f (x; µ, ) = √ − 2σ2 , µ ∈ R, σ ∈ (0,
σ σ exp 2πσ 2 ∞)}
lengkap atau statistik cukup juga merupakan statistik cukup untuk (µ, σ2)
yang lengkap.
Teorema 1.2
Contoh 1.10
2
Misalkan X 1, . . . , Xn variabel random saling bebas dan berdistribusi N(µ, σ )
2 ¯
dengan σ diketahui. Statistik X merupakan statistik cukup untuk µ dan
(Xi −X¯
S2 = Pni=
1 suatu statistik. Perhatikan bahwa
)2
n
n n
Σ Σ
(Xi − X¯ ) = 2
[(Xi − µ) + (µ − X¯ ))2
i=1 i=1
n
Σ n
Σ
(Xi − X¯ )2 = [(Xi − µ)2 + (µ − X¯ )2 + 2(µ − X¯ )(Xi − µ)]
i=1 i=1
n n n
Σ Σ Σ
(Xi − X¯ )2 = (Xi − µ) + n(µ − X¯ )2 + 2(µ − X¯ )
2
(Xi − µ)
i=1 i=1 i=1
n n
Σ Σ
(Xi − X¯ )2 = (Xi − µ)2 + n(µ − X¯ )2 + 2(µ − X¯ )n(X¯ − µ)
i=1 i=1
n
Σ n
Σ
(Xi − X¯ )2 = (Xi − µ)2 + n(µ − X¯ )2 − 2n(µ − X¯ )n(µ − X¯ )
i=1 i=1
Σn Σn
T = (T1, . . . , Tm)t
dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , m adalah statistik
cukup untuk θ. Misalkan U (X1, X2, . . . , Xn) statistik tak bias untuk θ
yang bukan fungsi dari T saja. Jika φ(t) = Eθ[U |T = t] maka
Definisi 1.4
Statistik tak bias untuk θ yang mempunyai variansi minimum dalam ke-
las semua statistik tak bias dari θ dinamakan UMVU (uniformly minimum
variance unbiased ).
Terminologi ”uniformly” diperoleh dari fakta bahwa variansi minimum
untuk semua θ ∈ Ω.
Contoh 1.11
Misalkan X1, X2, . . . , Xn variabel random saling bebas dan berdistribusi iden-
Σn
tik dengan distribusi Binom(1, θ) dengan θ ∈ (0, 1). Statistik T = i= Xi
1
merupakan statistik cukup untuk θ dan juga lengkap. Karena X¯ =n T meru-
pakan statistik tak bias untuk θ maka statistik merupakan statistik tak
X¯
bias dengan variansi minimum untuk θ.
Contoh 1.12
Misalkan X1, X2, . . . , Xn variabel random saling bebas dan berdistribusi iden-
tik dengan distribusi N(µ, σ2). Jika σ diketahui dan µ = θ maka
n
Σ
T= Xi
i=1
Contoh 1.13
Misalkan X1, X2, X3 variabel random saling bebas dan berdistribusi identik
dengan fungsi kepadatan probabilitas
f (x; λ) = λ exp Σ − λxΣ
untuk x > 0. Misalkan θ = 1/λ sehingga fungsi kepadatan probabilitas dari
X menjadi
1 1
f (x; λ) = exp Σ − xΣ.
θ θ
2
Diperoleh E[Xi] = θ dan Var(Xi) = θ untuk i = 1, 2, 3. Hal itu berarti
bahwa X1 merupakan statistik tak bias untuk θ dengan variansi θ 2. Demikian
juga T = X1 + X2 + X3 merupakan statistik cukup untuk θ dan juga meru-
pakan statistik yang lengkap. Karena X1 bukan merupakan fungsi dari T
maka X1 bukan statistik tak bias dengan variansi minimum untuk θ. Oleh
karen itu dipilih statistik yang merupakan fungsi dari T dan juga merupakan
statistik tak bias untuk θ yaitu T /3 dengan sifat E[T /3] = θ. Dalam hal ini
Var(T/3) = θ2/3 lebih kecil dari θ2 dengan θ ∈ (0, ∞).
Contoh 1.14
x
Misalkan f (x; θ) = .
(x) dengan A = {0, 1, 2, . . . , n}.
Σ θx(1 − θ)n−xIA
Fungsi probabilitas tersebut dapat dinyatakan sebagai
θ
f (x; θ) = (1 − θ)n exp[log( )] . (x)
A
n
ΣI
1−θ x
sehingga distribusi Binomial merupakan anggota keluarga eksponensial den-
n
gan c(θ) = (1 − θ)n, Q(θ) = log( θ ), T (x) = x, h(x) = . Σ I (x).
A
1− x
θ
Contoh 1.15
Teorema 1.6
G = {g(x; θ)|θ ∈ Ω}
Teorema 1.7
Teorema 1.8
Teorema 1.9
Contoh 1.16
Misalkan X1, X2, . . . , Xn variabel random saling bebas dengan fungsi kepa-
datan N(µ, σ2) yang merupakan anggota keluarga eksponensial dalam θ = µ.
Statistik
Σn
X¯ = 1 Xi
n
i=1
merupakan statistik cukup untuk θ sedangkan
Σ
2
S = n ¯ 2
i=1(Xi − X )
n
merupakan statistik lain yang tidak tergantung pada θ maka dengan meng-
gunakan Teorema 1.9 diperoleh bahwa x¯ dan S 2 saling bebas.
Misalkan X1, X2, . . . , Xn variabel random saling bebas dan X = (X1, . . . , Xn)t.
Fungsi kepadatan probabilitas bersama dari merupakan anggota keluarga ek-
sponensial r parameter jika mempunyai bentuk
1
Σ n
f (x; θ) = c(θ) Σ Qi(θ)Ti(x)
exp i=
Σh(x)
C(θ) > 0, θ ∈ Ω dan h(x) > 0 untuk x ∈ S himpunan nilai positif dari
f (x; θ) yang saling bebas terhadap θ.
Contoh 1.17
Hal ini berarti keluarga distribusi normal merupakan anggota keluarga dis-
tribusi eksponensial dengan
Σ Σ
1 exp θ2 , Q (θ) = θ1 1
√
c(θ) = −
1 1
θ2 , Q 2 (θ) = 2,
2πθ 2 2θ
dan 2θ2
Definisi 2.1
Definisi 2.2
untuk semua θ ∈Ω. Fungsi g dikatakan tertaksir (estimable) jika g(θ) mem-
punyai estimator tak bias.
Definisi tentang ketakbiasan mengelompokkan statistik-statistik ke dalam
suatu kelas estimator tak bias. Jika U = U (X1, X2, . . . , Xn) estimator tak
bias untuk g(θ) maka harga harapan dari U sama dengan g(θ). Meskipun
kriteria ketakbiasan sudah mengkhususkan diri pada kelas estimator yang
memenuhi sifat tertentu tetapi kelas ini masih terlalu besar. Untuk itu perlu
dipilih dari dua estimator tak bias yaitu yang mempunyai variansi yang lebih
kecil.
Dasar pemikiran yang digunakan adalah bahwa variansi atau simpangan
baku memberikan ukuran konsentrasi di sekitar mean. Jika
U = U (X1, . . . , Xn)
Definisi 2.3
dikatakan estimator UMV U untuk g(θ) jika U tak bias dan mempunyai
variansi minimum diantara kelas semua estimator tak bias dari g(θ)
dengan θ ∈ Ω. Jika U = U (X1, X2, . . . , Xn) adalah sebarang estimator
tak bias dari
g(θ) maka
Varθ(U1) ≥ Varθ(U )
untuk semua θ ∈ Ω.
Dalam banyak kasus, estimator UMVU ada. Untuk memperolehnya ter-
dapat 2 metode yaitu metode pertama yang digunakan bila tersedia statistik
cukup yang lengkap dan metode kedua yang digunakan bila tidak tersedia
statistik cukup yang lengkap. Pada metode kedua, terlebih dahulu diten-
tukan batas bawah semua estimator dan kemudian memilih suatu estimator
yang mempunyai variansi sama dengan batas bawah tersebut.
2.1 Metode yang digunakan bila tersedia
statis- tik cukup yang lengkap
Misalkan
T = (T1, T2, . . . , Tr)t
dengan Tj = Tj (X1 , X2, . . . , Xn ) untuk j = 1, 2, . . . , r adalah statistik
cukup untuk θ dan U = U (X1, X2, . . . , Xn) estimator tak bias dari g(θ)
dengan g
fungsi real. Misalkan φ(T) = E[U |T]. Estimator merupakan estimator tak
bias dari g(θ) dan Var(φ) ≤ Var(U ) untuk semua θ ∈ Ω dengan kesamaan
dipenuhi bila U merupakan fungsi dari T.
Jika tersedia statistik cukup maka Teorema Rao-Blackwell mengatakan
bahwa pencarian estimator UMVU untuk g(θ) cukup dibatasi pada kelas
esti-
mator tak bias yang hanya tergantung pada T. Jika T lengkap maka dengan
menggunakan Teorema Lehman-Scheffe, estimator tak bias φ(T) adalah esti-
mator unik yang mempunyai variansi minimum seragam dalam kelas semua
estimator tak bias. Metode ini tidak hanya menjamin keberadaan estimator
tetapi juga menghasilkannya.
Teorema 2.1
Misalkan g fungsi terukur dan real. Misalkan terdapat estimator tak bias
U = U (X1, X2, . . . , Xn) dari g(θ) dengan variansi berhingga. Jika
T = (T1, T2, . . . , Tr)t
dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , r adalah statistik
cukup untuk θ, lengkap dan φ(T)| = E[U T] maka estimator UMVU
untuk g(θ) dan tunggal.
Contoh 2.1
= X −
i=1 i=1
Karena Xi = 0 atau 1 maka Xi2 = Xi sehingga
Σi=1 =
n n . 1 n X Σ2.
2 ¯
Xi − nX Σi= Xi − n i
1 n i=1
Σn Σ
Jika T = i= Xi maka
1 diperoleh
Σn . 1 Σn Σ2 T2
Σ n
n n
X2 −
i nX
¯ Xi − Xi= = T − ,
1
i= i=n i
1 = 1
Contoh 2.2
Misalkan X1, . . . , Xn variabel random saling bebas dan berdistribusi N(µ, σ2)
dengan µ dan σ2 tidak diketahui. Akan ditentukan estimator UMVU untuk µ
Σn
dan σ 2. Misalkan θ = (µ, σ 2)t , g1(θ) = µ dan g1 (θ) = σ 2 . Jika X¯ = i= Xi
dan i=X2 merupakan statistik yang lengkap. Jika U i
= 1 1
1 dan
Σn ¯
n X
S 2 = Σ1 (Xi
n − X¯ )2
i=1
Teorema berikut ini memberikan sifat tentang batas bawah dari variansi
suatu statistik.
Definisi 2.4
I(θ) = E[∂f (x; θ)/∂θ]2 dinamakan informasi Fisher sedangkan nI(θ) adalah
informasi yang terkandung dalam sampel X1, . . . , Xn.
Contoh 2.3
∂ ln f (x; θ) 1 1−x
= − .
∂θ 1−θ
Akibatnya θ
∂ ln f (x; θ) 1 1 2
. Σ2 = x2 + (1 − x)2 − x(1 − x).
∂ θ2 (1 − θ(1 −
θ 2
Karena E[X ] = θ dan E[(1 − X) 2
2
θ) ] = 1 − θ serta θ)
E[X(1 X)] = 0 maka
informasi Fisher I(θ) adalah −
∂ ln f (x; θ) 1 1 2
E. Σ2 = E[X2] + E[(1 − X)2] − E[X(1 − X)]
∂θ θ2 (1 − θ) 2
θ(1 − θ)
1 1
= 2
θ+ 2
(1 − θ)
θ
1 1(1 − θ)
= +
θ 1−θ
1
= .
θ(1 − θ)
Hal itu berarti batas bawah Cramer-Rao untuk g(θ) adalah
[g J (θ)]2
CRLB =
nI(θ)
1
= 1
n θ(1−θ)
θ(1 − θ)
= n .
yaitu sama dengan batas bawah Cramer Rao maka X¯ merupakan estimator
UMVU untuk θ.
Contoh 2.4
Contoh 2.5
Misalkan X1, . . . , Xn variabel random saling bebas dan berdistribusi N(µ, σ2)
dengan µ ∈ R dan σ2 > 0.
Kasus 1
Kasus 2
∂ ln f (x; θ)
2θ 1 (x − µ)2
=− +
∂θ 2θ 2θ2
dan
. ∂ ln f (x; . Σ
− 1 + 1 (x − µ) + 1 x − µ 4
2
= √ .
θ) Σ2 4θ2 θ 4θ2
θ
∂ 2θ2
θ
Karena variabel random X berdistribusi N(µ, σ2) maka X−µ√ berdistribusi
θ
N(0, 1) sehingga
Σ(X−µ) Σ berdistribusi chi-kuadrat
Σ(X−µ) Σ dengan derajat bebas 1. Akibat-
nya E θ
2 = 1 dan Var
θ
2 =2
sehingga EΣ. Σ.(X − µ)2 Σ2Σ
−µ
x√ = E
Σ4Σ θ
θ Σ(X − µ)2 Σ . Σ(X − µ)2 ΣΣ2
= Var + E
θ θ
= 2 + 1 = 3.
Oleh karena itu
Σ. ∂ ln f (x; θ) Σ2Σ 1 1 Σ(x − µ)2 1 Σ. x − µ Σ4Σ
Σ
E
∂θ =− E[1] + E + E √
4θ2 2θ2 4θ2 θ
sehingga
Σ. ∂ ln f (x; θ) Σ2Σ 1 1 3
E ∂θ = 4θ2− +2
2θ 4θ2
1
= .
2θ2
Karena batas bawah Cramer-Rao untuk g(θ) adalah
[g J(θ)]2 1 2θ2
CRLB = = = .
nI(θ) n 1 2θ2 n
Karena variabel random Xi berdistribusi N(µ, θ) untuk i = 1, 2, . . . , n maka
X i− µ
θ
berdistribusi N(0, 1) sehingga berdistribusi chi-kuadrat dengan derajat
bebas 1. Dengan mengingat θ saling bebas untuk i = 1, 2, . . . , n maka
Σ
X
−
i µ
n (Xi −µ)2
i=1 θ
berdistribusi chi-kuadrat dengan derajat bebas n. Akibatnya
Σ
n
Σ Σ
(X − Σ n (X −
E = n, VarΣ = 2n
Σ i= i µ)2 i=
i
µ)2
1
θ 1 θ
sehingga
i=
1 n
Σn (Xi −µ)2
θ
estimator tak bias untuk θ dan variansinya 2θ2 sama
dengan CRLB. Hal itu berarti merupakan estimator UMVU untuk θ.
Kasus 3
Definisi 2.5
xi!
sehingga fungsi likelihoodnya adalah
L(θ|x , x , . . . , n n1
x 1 2 ) = exp[−nθ]θ P xi Q i= xi! .
1
Contoh 2.7
Misalkan X1, . . . , Xn variabel random saling bebas dan berdistribusi N(µ, σ2)
dengan parameter θ = (µ, σ2)t. Fungsi likelihoodnya adalah
.√ 1 exp n (x − µ)2 Σ
i
L(θ|x1, x2, . . . , xn) 2 .
Σ 12
2σ
= Σ 2πσ −i=
1
sehingga √ n
1
−n ln(2π) − n ln( σ ) −
L(θ|x , x , . . . , x ) = Σ 2
− µ)2 .
(x
1 2 n i
2σ2 i=1
Akibatnya n
∂
Σ ln L 2 n
= − µ) = (X¯ − µ)
(X
∂µ 2σ2 i=1
i
σ2
dan n
∂ ln L n1 Σ 2
=− 2 + 4 (X i − µ) = 0
∂σ2 2σ 2σ = i
1
sehingga diperoleh µˆ = Σn
¯ 2
i= (Xi − X ) . Jika σ diketahui
2 1 2
dan σ =
X¯ n
1
dan µ = θ maka µˆ =Σx¯ adalah MLE untuk µ sedangkan jika µ diketahui
= θ maka σˆ =n 1 i= (Xi − X¯ )2 adalah MLE untuk σ 2 .
dan
2 n
σ
1
Contoh 2.8
Misalkan X1, . . . , Xn variabel random saling bebas dan berdistribusi U (α, β).
29
Fungsi kepadatan probabilitas dari U (α, β) adalah
1
f (x; θ) =
β−α
29
untuk α < x < β dengan θ = (α, β)t ∈ Ω. Fungsi likelihoodnya adalah
n
Y
L(θ|x1, x2, . . . , xn) = f (xi;
θ)
i=1
= Y
n
1 untukα < xi < β
β−α
i=1
1
= I[α,∞)(X(1))I(−∞,β](X(1)).
(β − α)n
Fungsi likelihoodnya akan mencapai maksimum jika − β α minimum yaitu
ˆ
jika αˆ = X(1) dan β = X(n) . Jadi MLE untuk α dan β masing-masing
adalah αˆ = X(1) dan βˆ = X(n) . Khususnya, jika − α = θ c dan β = θ + c
dengan c
positif dan c diketahui maka fungsi likelihoodnya adalah
1
L(θ|x1, x2, . . . , xn) =I[θ−c,∞)(X(1))I(−∞,θ+c](X(1)).
(2c)n
1
Fungsi likelihood dimaksimumkan dan nilai maksimumnya adalah (2c)
untuk
sebarang θ sehingga θ − c ≤ X(1) dan θ + c ≥ X(n) yaitu ekuivalen n
dengan
X(n) − c ≤ θ ≤ X(1) + c.
Hal itu berarti bahwa sebarang statistik yang terletak antara X(n) c −
dan X(1)
1
+ c merupakan MLE untuk θ. Sebagai contoh 2[X(1) + X(n)] merupakan
MLE untuk θ. Jika β diketahui dan α = θ maka θˆ = X(1) merupakan MLE
untuk θ sedangkan jika α diketahui dan β = θ maka θˆ = X(n) merupakan
MLE untuk θ.
Teorema 2.3
Teorema 2.4
Contoh 2.9
Misalkan X1, . . . , Xn variabel random saling bebas dan berdistribusi N(µ, σ2)
dengan parameter θ = (µ, σ 2)t . Berdasarkan Contoh 2.7, merupaka n MLE
√
untuk σ2. Misalkan didefinisikan φ : Ω ›→ Ω∗ dengan φ(θ) = θ dan
Ω = Ω∗ = { R ∈ R |σ ≥ 0} yang merupakan fungsi korespondensi satu-satu.
Dengan menggunakan Teorema 2. 4, diperoleh bahwa
‚. 1
n n
,Σi=1 (Xi − X¯ )2
Contoh 2.10
Misalkan X1, . . . , Xn variabel random saling bebas dan berdistribusi N(µ, σ2)
dengan µ dan σ2 tidak diketahui. Dengan menggunakan metode momen
diperoleh sistem persamaan
Σi=1
n
Xi n = E[X] = µ,
n
Σi=1Xi2
n = E[X 2 ] = Var(X) + (E[X])2 = σ2 + µ2,
sehingga menghasilkan estimator momen µˆ = X¯ dan σ 2 =n 1 i= (Xi − X¯ )2 .
Σn 1
Contoh 2.11
Σi=1
n
Xi α+β
= X¯ = E[X] ,
Σn n 2 = 2
i= X i
(α − β)2 (α + β)2
1 + ,
12 4
n = X¯2 = E[X 2 ] = Var(X) + (E[X])2
=
sehingga diperoleh
α + β = 2X¯
2 . 2
.X Σ2 = (α − β) = β√ α
X¯2 ¯ 12 Σ 12
−
−
atau
α + β = 2X¯
√
−α + β = S 12.
Akibatnya estimator momen untuk α dan β berturut-turut adalah
√ √
αˆ = X¯ − 12 12
S, βˆ = X ¯ S.
2 + 2
Terlihat bahwa estimator momen dari α dan β bukan merupakan fungsi dari
statistik cukup dari α dan β. Hal ini merupakan salah satu kekurangan
dari metode momen. Kekurangan lain dari metode ini adalah bahwa metode
ini tidak dapat digunakan bila momennya tidak ada seperti pada distribusi
Cauchy.
2.5 Kriteria Pemilihan Estimator :
Pendekatan Teori Keputusan
Misalkan X1, X2, . . . , Xn variabel random saling bebas dan berdistribusi
iden- tik dengan fungsi kepadatan probabilitas ∈f (x; θ), θ Ω R dan
diinginkan untuk mengestimasi θ.
Definisi 2.6
Definisi 2.7
untuk k > 0 atau L[θ; δ(x1, x2, . . . , xn)] fungsi konveks dari θ. Bentuk fungsi
kerugian yang biasa digunakan adalah
Definisi 2.8
Fungsi resiko (risk function) yang bersesuaian dengan L[θ; δ] dan dinotasikan
dengan R[θ; δ] didefinisikan sebagai
Hal itu berarti bahwa resiko dari fungsi keputusan yang diberikan adalah
rata-rata atau harapan jika fungsi keputusan tersebut digunakan.
Dua keputusan δ dan δ∗ dikatakan ekuivalen bila
R[θ; δ] = E[L(θ; δ(x1, x2, . . . , xn))] = E[L(θ; δ∗(x1, x2, . . . , xn))] = R[θ; δ∗].
Dalam konteks estimasi titik, keputusan δ(x1, x2, . . . , xn) dinamakan
estimasi dari θ dan kebaikannya ditentukan berdasarkan resiko R[θ, δ].
Definisi 2.9
Estimator δ dari θ dikatakan admisible jika tidak ada estimator lain δ∗ dari
δ sehingga untuk semua R[θ; δ∗] ≤ R[θ; δ] untuk semua θ ∈ Ω.
Definisi 2.10
Definisi 2.11
Hal itu berarti bahwa R(δ) adalah resiko rata-rata dari seluruh ruang pa-
rameter Ω bila digunakan estimator δ.
Misalkan D2 adalah kelas semua estimator sehingga R(δ) berhingga un-
tuk suatu prior λ pada Ω yang diketahui.
Definisi 2.12
Dalam kelas D2, estimator δ dikatakan estimator Bayes (dalam teori kepu-
tusan dan berkaitan dengan fungsi kepadatan probabilitas prior λ pada Ω)
jika R(δ) ≤ R(δ∗) untuk semua estimator δ∗ yang lain.
Misalkan X1, X2, . . . , Xn variabel random saling bebas dengan fungsi kepa-
datan probabilitas f (x, θ), θ ∈ Ω ⊆ R. Dalam hal ini digunakan fungsi keru-
gian kuadrat. Misalkan θ variabel random dengan fungsi kepadatan prior λ.
Akan ditentukan δ sehingga menjadi estimator Bayes dari θ dalam arti teori
keputusan.
Teorema 2.5
dan ∫
f (x1; θ)f (x2; θ)λ(θ)f (xn; θ) . . . dθ
Ω
berhingga untuk setiap (x1x2, . . . , xn)t diberikan oleh
∫
θf (x1; θ)f (x2; θ)λ(θ)f (xn; θ) . . . dθ
δ(x1x 2, . . . , ) = ∫Ω
x n
Ω
f (x1 ; θ)f (x2 ; θ)λ(θ)f n ; θ) . . .
(x dθ
asalkan λ
kontinu.
Jika nilai pengamatan dari Xi adalah xi untuk i = 1, 2, . . . , n maka
akan ditentukan fungsi kepadatan probabilitas bersyarat dari θ bila
diberikan
X1 = x1, X2 = x2, . . . , Xn = xn merupakan fungsi kepadatan posterior dari
θ. Fungsi kepadatan posterior dari θ adalah
f (x 1 ; θ )f ( x 2 ; θ ) . . . f f (x ; θ )λ (θ )
(h(θ θ) =
xn;| x) =
h(x) h(x)
f (x1; θ)f (x2; θ) . . . f (xn; θ)λ(θ)
= h(x)
dengan
∫ ∫
h(x) = f (x; θ)λ(θ)dθ = f (x1; θ)f (x2; θ) . . . f (xn; θ)λ(θ)dθ
Ω Ω
untuk λ kontinu.
Estimator Bayes untuk θ yaitu δ(x1x2, . . . , xn) adalah harapan dari θ
berkaitan dengan fungsi kepadatan probabilitas posteriornya. estimator Bayes
yang lain dari θ adalah median dari h(θ|x) atau modus dari h(θ|x) jika ada.
Contoh 2.12
Γ(α)Γ(β) 0 Σ
Γ(α + β) Γ(α +
i= xi)Γ(β + n − xi)
n 1 Σ
n
= i=
1
Γ(α)Γ(β) Γ(α + β + n)
dan
∫
I1 = θf (x1; θ)f (x2; θ) . . . f (xn; θ)λdθ
Ω
Γ(α + β ) ∫ 1
= θθP xi (1 − xi α−1
θ (1 − θ)β−1dθ
θ)n−P
Γ(α)Γ(β) 0
Γ(α + β ) ∫ 1
= P
P
x +α+1−1 x −1
θ i
(1 − dθ i
θ)β+n−
Γ(α)Γ(β) 0
Γ(α + β) Γ(α +
i= xi + 1)Γ(β + n − xi )
n Σ 1 Σn .
= i=
1
Γ(α)Γ(β) Γ(α + β + n + 1)
Diperoleh estimator Bayes adalah
∫
δ(x1x 2, . . . , n ) = ∫Ω θf (x1; θ)f (x2; θ)λ(θ)f (xn; θ) . . . dθ
x f (x ;1 θ)f (x 2; θ)λ(θ)f ;nθ) . . .
Ω
(x Σ dθ
=
Σn Γ(α + β + n)Γ(α + ni= x1) i +
Γ(α + β + n)Γ(α + 1 i= x )
1 i
Σn Σn i= xi)
Γ(α + β + n) .α + i= x i Σ Γ(α + 1
=n
Σ 1
(α + β + n)Γ(α + β + n)Γ(α + i1=xi)
Σ xi
= αα++βni=1 +n .
Bila α = β = 1 maka distribusi priornya merupakan distribusi seragam
pada (0,1) sehingga diperoleh estimator Bayes
Σ n
1 + i=1 xi
δ(x1x2, . . . , xn) .
2+n
=
Teorema 2.6
Contoh 2.12
Bila Σ
α + i=1
n α+X
δ(x1x2, . . . , xn) Xi =
=
α+β+n α+β+n
digunakan untuk mengestimasi θ maka akan mempunyai resiko
X+α
R[θ, δ] = EΣθ − Σ
n+α+
EΣ (n + α + ββ)θ − (X + α) 2
= n+α+β
Σ
(n + α + β)2θ2 − 2(n + α + β)θE[X + α] + E[X + α]2
= (n + α + β)2
(n2 + 2nα + 2nβ + (α + β)2)θ2 − 2(n + α + β)θ(nθ + α) + E[X2] + 2αE[X] + α2
= (n + α + β)2
(α + β)2θ2 − nθ2 − 2θα2 − 2θαβ + nθ − nθ2 + n2θ2 + α2
= (n + α + β)2
(α + β)2θ2 − nθ2 − 2θα2 − 2θαβ + nθ + α2
= (n + α + β)2
[(α + β)2 − n]θ2 − [2α2 + 2αβ − n]θ + α2
= (n + α + β)2.
√
Bila α = β = 2 n dan misalkan δ∗ hasil estimasi dari θ maka (α+β)2−n = 0
1
dan 2α2 + 2αβ − n = 0 sehingga
α2 (1/4)n 1
∗
R(θ, δ ) = = √ = √ .
(n + α + β)2 (n + n)2 4(1 + n)2
Karena R(θ, δ∗) tidak tergantung pada
√ θΣ maka √
2 nX¯ + 1
1 n
n+ xi
√ √
δ∗(x1x2, . . . , xn) =
2
= 2( n + 1)
n + i=1
n
merupakan estimator minimaks.
Contoh 2.13
Contoh 2.14
Definisi 2.12
Vn → θ
Vn → θ
Teorema 2.7
Definisi 2.13
Sifat
√
Jika n(Vn − θ) → N(0, σ2(θ) untuk n → ∞ maka Vn → θ untuk n → ∞.
Definisi 2.14
Teorema 2.8
Contoh 2.15
Misalkan X1, . . . , Xn variabel random saling bebas berdistribusi Binom(1, θ).
MLE dari θ adalah Σn Xi dan dinotasikan
1 X¯n . Dengan
X ¯ =
n i= dengan
menggunakan Hukum Bilangan1Besar Kuat (Strong Law of Large Number -
SLLN ) dan Hukum Bilangan Besar Lemah (Weak Law of Large Number -
WLLN ) diperoleh
n(X¯n − θ) → N(0, I −1 (θ))
√
dengan I(θ) = 1 . Akibatnya dengan menggunakan Teorema Limit Pusat
θ(1−θ)
(Central Limit Theorema) diperoleh bahwa
√
n(X¯n − θ)
√
θ(1 − θ)
berdistribusi N(0, 1) secara asimptotik.
Contoh 2.16
Misalkan X1, . . . , Xn variabel random saling bebas berdistribusi Poisson(θ).
MLE dari θ adalah Σ ¯
1n n i= Xi dan dinotasikan dengan X n . Den-
X ¯ = 1
gan menggunakan Hukum Bilangan Besar Kuat dan Hukum Bilangan Besar
Lemah, X¯ mempunyai sifat √ konsisten kuat dan konsisten lemah serta den-
gan Teorema Limit Pusat, n(X¯− n θ) berdistribusi normal secara asimptotik
Contoh 2.17
n i=
1
√n Σ 1 Σ Σ
n
(Xi − µ)2 −
yang berdistribusi normal adalah Iσ−12 (σ2) = 2σ2.
Definisi 2.15
Contoh 2.18
n i
n
U = X¯ 1Σ
n = X¯ = X.
=1
Estimator ini juga merupakan MLE. Akan tetapi estimator Bayes untuk θ
dengan fungsi kepadatan probabilitas prior Beta(α, β) adalah
Σ
n
α +i=1 Xi
n+α+β
dan estimator minimaksnya adalah
n
Σn
√2 + i= Xi
Wn √1 .
= n
+ n
Dengan menggunakan Teorema Limit Pusat
√
n(Un − θ) → Z
Definisi 3.1
Uji random atau statistik (fungsi uji atau test function) untuk pengujian
hipotesis H melawan alternatif A adalah fungsi terukur φ yang
didefinisikan pada Rn ke [0, 1] dan mempunyai interpretasi berikut ini.
Jika (x1, x2, . . . , xn)t adalah nilai pengamatan dari (X1, X2, . . . , Xn)t dan
maka hal ini dapat digambarkan sebagai suatu koin, yang mempunyai prob-
abilitas untuk mendapatkan ’muka’ sebesar y, dilempar satu kali dan bila
memperoleh ’muka’ maka H akan ditolak dan bila memperoleh ’belakang’
maka H akan diterima. Dalam kasus khusus, y dapat bernilai 0 atau 1 un-
tuk semua (x1, x2, . . . , xn)t sehingga uji dinamakan uji yang tidak random
(non randomized test). Hal itu berarti uji non random berbentuk
.
φ(x1, x2, . . . , xn) 1 jika (x1, x2, . . . , xn)t ∈
= 0 jika (x , x , . . . , )t ∈ Bc
B x
1 2 n
Dalam hal ini, himpunan Borel B Rn dinamakan daerah kritik (daerah
penolakan - rejection region) dan B c ⊆
dinamakan daerah penerimaan (accep-
tance region). Dalam pengujian hipotesis, kita dapat menghilangkan salah
satu dari 2 jenis kesalahan berikut yaitu kesalahan yang terjadi karena H
ditolak padahal H benar yaitu parameter yang tidak diketahui θ terletak
dalam ω atau kesalahan yang terjadi karena menerima H padahal H salah.
Definisi 3.3
1 − β(θ) = Pθ[MenerimaH]
Hal yang sama juga dapat dikerjakan untuk uji non random. Jadi
Definisi 3.4
Uji tingkat α yang memaksimumkan kuasa uji diantara semua uji tingkat
α dikatakan uji paling kuasa seragam (uniformly most powerful - UMP ).
Jadi φ adalah uji UMP tingkat α jika
1. sup[βφ(θ)|θ ∈ ω] = α.
Ω = {θ0, θ1}.
Teorema 3.1
Misalkan X1, X2, . . . , Xn variabel random saling bebas dengan fungsi kepa-
datan probabilitas f (x; θ), θ ∈ Ω = {θ0, θ1}. Akan diuji hipotesis H : θ ∈ θ0
melawan alternatif A : θ = θ1 pada level α(0 < α < 1). Misalkan
f (x1; θ1)f (x2; θ1) . . . f (x2; θ1)
R(z; θ0 , θ
1
) =f (x ; θ )f (x ; θ ) . . . f (x ; θ )
1 0 2 0 2 0
Contoh 3.1
= 1
θ1
θ1
sehingga θ0 1−
θ0
ln
ΣR(z; θ , θ ) = . .n − X Σ ln . 1 − θ1 Σ
n
X ln θ1 +Σ .
Σ n
θ
0 1 i i
1 − θ0
i=1 i=1
0
Karena θ0 < θ1 maka R(z; θ0, θ1) > c ekuivalen dengan
θ i=
1 Xi > Σ ln
. 1ΣΣ 0
(1−θ1))
θ0(1−θ
n
Σ
Xi > c0
i=1
dengan
−
ln c − n ln .1 θ1 Σ
1−θ
c0 . Σ .0
θ1 (1−θ0 )
= ln
θ0(1−θ1)
Akibatnya
n n
Σ Σ
0, 95 = Pθ0 ( Xi ≤ 17) − γPθ0 ( Xi = 17)
i=1 i=1
= 0, 9784 − γ0, 0323
n
0 jika n
i=
Σi=1
1
Kuasa dari uji tersebut adalah
Σn Σn
Σn P ( X ≤ 17) + γP ( Xi ≤ 17)
dengan θ=0,75 i θ=0,75
i=
Contoh 3.2 Xi ∼ Binom(25,
i=1
75). 0, i=1
1
Misalkan X1, . . . , Xn sampel random dari populasi yang berdistribusi Poisson(θ).
Berdasarkan sampel tersebut akan diuji hipotesis H : θ = θ0 melawan alter-
natif A : θ = θ1 pada level α dengan anggapan θ0 < θ1. Diperoleh
f (x1; θ1)f (x2; θ1) . . . f (x2; θ1)
R(z; θ0 , θ
1
) = f (x ; θ )f (x ; θ ) . . . f (x ; θ )
x1 1− 0x − 2 0 2 0
θ e θ1 θ 2 e θ1 θxn e−θ1
1
x1! x2!
1
. . . 1x !
= x x
θ0 1 e−θ0 θ0 2 e−θ0. . θ0xn e−θ0
n
x1! x2!
. xn !
n
θ0 i=1
xi exp − θ0)
= θ1
−n(θ1
sehingga Σ
n θ0
ln R(z; θ , θ ) = ln . Σ − n(θ − θ ).
θ
1 0 1 1 0
i=1
Karena R(z; θ1, θ0) > c maka ln R(z; θ1, θ0) > ln c sehingga
n
Σ .θ Σ
0
xi − n(θ1 − θ0) > ln c
i= ln θ1
1 . θ
Σn 0 − n(θ − θ ) > ln c + n(θ −θ )
x ln Σ
θ
i 1 1 0 1 0
i=1
.θ Σ
Σ n x ln 0
> ln[c exp(n(θ1 −
θ1
i=
i
θ0))].
1θ1
Karena θ0 < θ1 maka 1 <
θ0
sehingga ln θθ1 > 0. Akibatnya
0
1 X i > c0
Σ
γjika
Σjika n
X
φ(z) = i=1
n
Σi=1 i = c0
0 jika d engan c0 dan γ ditentukan
n
sehingga . Σ i= X i < c0 .
P 1
Σn
Eθ0 (φ(z)) = Pθ0 xi > c0) + . Σn Σ
( i=γPθ0
1 xi = =
i= c0 α
1
Σn
dan i= Xi ∼ Poisson(nθi) untuk i = 0, 1.
1
Sebagai gambaran, misalkan akan diuji hipotesis H : θ = 0, 3 melawan
A : θ = 0, 4 dengan α = 0, 05 dan n = 20. Diperoleh
n n
Σ Σ
Eθ0 (φ(z)) = Pθ0 ( xi > c0 ) + γPθ0 ( xi = c0 ) = 0, 05
i=1 i=1
sehingga
n n
Σ Σ
1 − Pθ0 ( xi ≤ c0 ) + γPθ0 ( xi = c0 ) = 0, 05
i=1 i=1
n n
Σ Σ
1 − 0, 05 = Pθ0 ( xi ≤ c0 ) − γPθ0 ( x i = c0 )
i=
1n i=1
n
Σ Σ
0, 95 = Pθ0 ( xi ≤ c0 ) − γPθ0 ( xi = c0).
i= i=
Σn1 1
Σn xi = c0) ≥ 0.
Karena γ ≥ 0 dan P0θ ( i= xi = c0) ≥ 0 maka Pθ 0( i=
Untuk itu dipilih c0 sehingga
1 1
n
Σ
Pθ0 ( xi = c0) ≥ 0, 95
i=1
dan
n n n
Σ Σ Σ
P( xi = 10) = P ( xi ≤ 10) − P ( xi ≤ 9)
i= i= i=
1 1 1
= 0, 9574 − 0, 9161 = 0, 0413.
Contoh 3.3
Misalkan X1, . . . , Xn sampel random dari populasi yang berdistribusi
N(θ, 1). Berdasarkan sampel tersebut akan diuji hipotesis H : θ = θ0
melawan alter- natif A : θ = θ1 pada level α dengan anggapan θ0 < θ1.
Diperoleh
√
= . 2 Σ . 2
Σ0 . Σ
21 2 (x −θ )2
0
2 1 (x −θ
2 )2 21
exp (x −θ
2)
2
π
1
Σ n π π
exp . − (xi − θ1)2Σ
2 i=
1 Σn 2Σ
= . 1
exp − i=1(xi − θ 0)
2
Σ
= exp . 1 [(xi − θ0)2 − (xi −
Σn θ 1 )2 ]
2
i=
1 Σn
sehingga ln R(z; θ1, θ0) = 1 [(xi − θ0)2 − (xi − θ1)2] atau
2 i=
1 Σ
1
n + θ2 − (x2 − + θ2)]
ln(R(z; θ , θ ) = [x − 2θ
2
2θ x
x 1 0 i 0 i 0 1 i 1
2 i=1 i
1 n
= Σ[−2(θ − θ ) + θ2 − θ 2 ]
x
2 0 1 i 0 1
i=1
n
= (θ 1 0
Σ i 1 0 1
−θ ) + n(θ2 − θ2).
x
i=
1
2
Hal itu berarti R(z; θ1, θ0) > c akan ekuivalen dengan ln R(z; θ1, θ0) > ln c
yaitu
Σ 1
n
(θ − θ ) x+ n(θ2 − θ2) > ln c
1 0 i 0 1
i=1 2
Σ
n
1
(θ − θ ) > ln c + n(θ2 − θ2)
x
1 0
0 1
i 2
i=1
Σn
(θ − θ ) > ln 1 −θ ) +θ)
x n(θc + (θ
1 0 1 0 1 0
i 2
i=1
n
ln c Σ 1
xi > + 1−θ ) +θ)
n(θ θ1 − 2 0
(θ 1 0
i=
1
θ 0
1 . ln c n(θ1 + θ0 ) Σ
x¯ > + .
n θ1 − 2
+θ )
Berarti X¯ > c0 dengan c0 = 1 . ln c + n(θ1 θ00 Σ. Uji UMP adalah
n .θ −θ 2
1 jika X¯ > c0
1 0
n
. 2
i=1 x i > c0
φ(z)
0 yang lain
= Σ
1 jika
dengan c0 ditentukan sehingga
. n x2 > c0Σ = α
Eθ0 [φ(z)] = Pθ0
Σ
i= i
1
Σn
dan θ1 i= X 2i ∼ χ2n untuk i = 0, 1.
1
Sebagai gambaran, akan diuji hipotesis H : θ = 4 melawan A : θ = 16
dengan α = 0, 01 dan n = 20. Akan ditentukan c0 sehingga
2
. n x > c 0Σ
Pθ0 Σ i = 0, 01
i=
1
yaitu
P θ0 . n 2 .1 n 2 1 Σ
x > c0Σ = x
Σ 4 c0 = 0, 01.
i= P θ0 >i 4
1
i Σ i=
1
Definisi 3.5
Proposisi 3.1
Teorema 3.2
Misalkan X1, X2, . . . , Xn variabel random saling bebas dengan fungsi kepa-
datan probabilitas f (x; θ), θ ∈Ω mempunyai sifat MLR dalam V dengan
g(x; θ) didefinisikan sebagai
Akibat 3.2
Misalkan X1, X2, . . . , Xn variabel random saling bebas dengan fungsi kepa-
datan probabilitas dapat dinyatakan sebagai
H : θ ∈ ω = {θ ∈ Ω|θ ≤ θ0}
ω = {θ ∈ Ω|θ ≤ θ1 atau θ ≥ θ 2}
dengan θ1, θ2 ∈ Ω dan θ1 < θ2. Uji hipotesis H : θ ∈ ω melawan alternatif
c
A : θ ∈ ω adalah uji UMP φ. Jika Q fungsi naik maka φ dinyatakan dengan
1 jika c1 <
φ(z) = γ i jika V (z) = ci(i = 1, 2)danc1 < c2
V (z) < c2
0 yang lain
Eθ1 [φ(z)] = Pθ1 (c1 < V (z) < c2) + γ1Pθ1 (V (z) = c1) + γ2Pθ1 (V (z) = c2) = α
dan
Eθ2 [φ(z)] = Pθ2 (c1 < V (z) < c2) + γ1Pθ2 (V (z) = c1) + γ2Pθ2 (V (z) = c2) = α
Σn
dengan V (z) = i= T (Xi).
Sebaliknya, jika Q1fungsi naik maka φ dinyatakan dengan
1 jika V (z) <
φ(z) = γi jika V (z) = ci(i = 1, 2)danc1 < c2
c1 atauV (z) > c2
0 yang lain
dan
Eθ2 [φ(z)] = Pθ2 (V (z) < c1atauV (z) > c2) + γ1Pθ2 (V (z) = c1) + γ2Pθ2 (V (z) = c2) = α
Σn
dengan V (z) = i= T (Xi). Dapat ditunjukkan bahwa fungsi β(θ) = E[φ(z)]
dengan θ ∈ Ω merupakan
1 fungsi naik untuk θ ≤ θ0 dan turun untuk θ ≥ θ0
dengan θ1 < θ0 < θ2
Contoh 3.5
n n
Σ Σ
Eθ0 [φ(z)] = Pθ0 ( Xi > c) + γPθ0 ( Xi = c) = α
Pθ=0,5 . n . n
Xi > + Xi = = 0, 05.
Σ Σ
i= γPθ=0,5 i=
1 cΣ 1 cΣ
dan
Eθ2 [φ(z)] = Pθ2 (c1 < V (z) < c2) + γ1Pθ2 (V (z) = c1) + γ2Pθ2 (V (z) = c2) = α
Σn
dengan V (z) = i= T (Xi).
1
Sebagai gambaran, akan diuji hipotesis H : 0, 25 ≤ θ atau θ ≥ 0, 75
melawan A : 0, 25 < θ < 0, 75 dengan α = 0, 05 dan n = 25. Untuk c1 =
10 dan c2 = 15 diperoleh
atau γ1 = γ2 = 42435/86426
= 0, 4901. Uji UMP menjadi
1 jika
Σn Xi < 15
10 <
i=1 Xi = 10 atau i= i
φ(z) i
Σ n
1
= γ jika
i=1 = 15
Σn
0 yang lain X
Kuasa dari uji pada θ = 0, 5 adalah
Σi=1
xin < 5Σ . n xi = 10Σ
βφ(0, 5) = Pθ=0,5 + 0, 4901Pθ=0,5 Σ
1 i=
.10 < 1
.
+ 0, 4901Pθ=0,5 Σn
xi = 15Σ
= 0, 6711. i=
1
Contoh 3.6
Misalkan X1, . . . , Xn sampel random saling bebas dari distribusi
Poisson(θ) dengan θ ∈ Ω = (0, ∞). Fungsi probabilitas dari X yang
berdistribusi Poisson(θ) adalah
f (x; θ) = θxe−θ
x!
untuk x = 0, 1, 2, . . . . Fungsi probabilititas tersebut dapat dinyatakan
seba- gai
x ln θ −θ
f (x; θ) = e e
x!
1
= e−θex ln θ x!
Σn
sehingga Q(θ) = ln θ dan V (z) = i= Xi. Karena Q(θ) merupakan fungsi
naik maka uji UMP untuk hipotesis H1≤ θ0 melawan A : θ > θ0 adalah
Σn
1 jika Xi > c
Σi=1
n
φ(z) γ jika Σi=1 Xi =
n
= 0i= c i <
1 c
dengan c dan γ ditentukan sehingga jika
n n
Σ X Σ
Eθ0 [φ(z)] = Pθ0 ( Xi > c) + γPθ0 ( Xi = c) = α
= 1 − Pθ=1 Σn
Xi ≤ 9Σ
i=
1 . .
n n
Σ
Xi ≤ 9Σ Σ Xi ≤ 8ΣΣ
+ 0, 5014 − Pθ=1
i=1 i=
ΣPθ=1 1
= 0, 6048.
Contoh 3.7
Misalkan X1, . . . , Xn sampel random saling bebas dari distribusi N(θ, σ2)
Σ
dengan θ ∈ Ω = R. Fungsi probabilitas dari X yang berdistribusi N(θ, σ2)
adalah
1 (x − θ)2
f (x; θ) = √ 2σ2
exp 2πσ2
untuk x ∈ R. Fungsi probabilitas tersebut dapat dinyatakan sebagai
1 Σ 2
x − 2θx + θ2)2
f (x; θ) = √ 2σ2
exp 2πσ2 Σ
atau
. − θ2 Σ . θ Σ 1 . 2 Σ
f (x; θ) = 2 exp − x
exp 2σ √ exp 2σ2
Σ σ 2 2
2πσ Q(θ) = θ/σ2 fungsi naik
sehingga Q(θ) = θ/σ2 dan V (z) =
n xXi. Karena
i=
maka untuk menguji hipotesis H : θ ≤1 θ0 melawan A : θ > θ0 adalah
.
1 jika ¯
φ(z) = 0 jika X
>c
X¯
<c
dengan c ditentukan sehingga
dan
Eθ2 [φ(z)] = Pθ2 (c1 < X¯ < c2 ) = α.
Kuasa ujinya adalah
√ √
. n(c2 − θ) Σ . n(c1 − θ) Σ
β (θ)
φ =Φ σ −Φ σ .
dan
Eθ2 [φ(z)] = Pθ2 (c1 < X¯ < c2 ) = 0, 05.
Berdasarkan Tabel distribusi normal baku diperoleh c1 = −0, 344 dan c2 =
0, 344. Kuasa uji pada θ = 0 adalah
√ √
. Σ . Σ
25(0, 344 − 0) 25(−0, 344 − 0)
βφ(0) = Φ √ − √ = 0,
4 Φ 4 61.
Contoh 3.8
.Σ
. n − µ) 2> cΣ = P n µ)2 Σ
i=1(Xi
Eθ=4 [φ(z)] = Σ (X = 0, 05
4
P i= i
1 n −c >
dan 4
Σ
(1/4) (Xi − µ)2 ∼ χ25
2
i=1
di bawah anggapan H benar. Berdasarkan Tabel distribusi chi-kuadrat den-
25
12
gan derajat bebas 25 diperoleh bahwa c/4 = 37, 652 atau c = 150, 608. Kuasa
ujinya untuk θ = 12 adalah
150, 608Σ
β(θ) = 1 − P .χ225 < =1−P < 30, 1216) = 1 − 0, 02 = 0, 98.
(χ2
Pada sisi lain, untuk menguji hipotesis H : θ ≤ θ1 atau θ ≥ θ2 melawan
A : θ1 < θ < θ2 digunakan uji UMP φ yang dinyatakan dengan
.
1 jika c1 < i= (Xi − µ)2 < c2
φ(z) Σ 1
= n
0 yang lain
0 yang lain
Definisi 3.6
untuk semua θ ∈ ωc. Suatu uji tak bias bila probabilitas kesalahan tipe I
paling banyak α dan kuasa dari uji paling sedikit α.
Definisi 3.7
Suatu uji dikatakan uji UMPU (uniformly most powerfull unbiased ) jika uji
tersebut UMP dalam kelas semua uji yang tidak bias.
Catatan : Uji UMP selalu UMPU. Uji UMP tak bias karena UMP paling
sedikit mempunyai kuasa yang sama dengan α. Uji UMP merupakan uji
UMPU karena uji UMP merupakan UMP dalam kelas yang meliputi kelas
uji tak bias.
Teorema 3.4
Misalkan X1, X2, . . . , Xn variabel random saling bebas dan fungsi kepadatan
probabilitasnya dinyatakan dengan
f (x; θ) = C(θ) exp[Q(θ)T (x)]h(x)
dengan θ ∈ Ω ⊂ R. Misalkan
ω = {θ ∈ Ω; θ1 ≤ θ ≤ θ2}
dengan θ0 , θ1 , θ2 ∈ Ω dan ω J = {θ0 } dengan θ1 < θ2 .
Untuk menguji hipotesis H : θ∈ ω melawan alternatif A : θ c ω
dan hipotesis H∈ : θ ω J melawan alternatif AJ : θ ω Jc pada level α
terdapat uji UMP yang diberikan oleh
1 jika V (z) <
φ(z) = γi jika V (z) = ci(i = 1, 2) dan c1 < c2
c1atauV (z) > c2
0 yang lain
dengan c1, c2 dan γ1, γ2 ditentukan dengan Eθ1 [φ(z)] = α dan Eθ2 [φ(z)] = α
untuk H dan Eθ0 [φ(z)] = α dan Eθ0 [V (z)φ(z)] = αEθ0 [V (z)] untuk H J.
Dapat ditunjukkan bahwa βφ(θ) = Eθ[φ(z)] dengan θ ∈ ω turun θ ≤ θ0
dan naik untuk θ ≥ θ0 untuk suatu θ1 < θ0 < θ2.
Contoh 3.9
√
n(X¯ − θ0 )
<−
σ
c
atau √
n(X¯ − θ )
0
>c
σ
yang ekuivalen dengan
√
. n(X¯ − θ ) Σ2
0 2
σ ∼ χ1
≤
Untuk menguji hipotesis H : σ σ0 melawan A : σ > σ0 digunakan uji UMP
. n ¯ 2
φ(z) = i= (Xi − X ) > c
1
0 yang lain
Σ
1 .χ
dengan c ditentukan oleh P jika
2
> c
Σ = α. Bila hipotesisnya adalah
n−1 σ2
H : σ ≥ σ0 melawan A : σ ≤ σ0 maka digunakan uji
J J
.
n ¯ 2
φ(z) = i=1(Xi − X ) < c
0 yang lain
Σ 2
dengan c ditentukan oleh P 1.χ jika < c Σ = α.
) 2 i −X
(X ¯ berdis-
Kuasa uji dapat ditentukan dengan
n−1 σ2 kenyataan bahwai= 1
Pn σ2
tribusi chi-kuadrat dengan derajat bebas n − 1 bila σ diberikan.
Contoh 3.10
Misalkan X1, X2, . . . , X25 merupakan variabel random saling bebas dari dis-
tribusi N(µ, σ 2) dengan µ dan σ2 tidak diketahui. Untuk menguji hipotesis
H : σ ≤ 3 melawan A : σ > 3 digunakan uji UMP
.
n ¯ 2
φ(z) = i=1(Xi − X ) > c
0 yang lain
Σ
1 jika
dengan c ditentukan oleh P (χ2 > c/9) = 0, 05. Berdasarkan Tabel dis-
24
tribusi chi-kuadrat dengan derajat bebas 24 diperoleh c/9 = 36, 415 atau
c = 327, 735. Kuasa uji pada σ = 5 adalah
Proposisi 3.3
Misalkan X1, X2, . . . , X25 merupakan variabel random saling bebas dari dis-
tribusi N(µ, σ 2) dengan µ dan σ2 tidak diketahui. Untuk menguji hipotesis
H : σ ≤ 2 atau σ ≥ 3 melawan A : 2 < σ < 3 digunakan uji UMPU
. Σn
1 jika < c1 < ¯ 2
i= (Xi − X ) < c2
φ(z) 1
= 0 yang lain
dengan c1 dan c2 ditentukan berdasarkan metode trial and error oleh
c1 c2 c1 c2
P( < χ2 < )=P > )−P > ) = 0, 05
(χ2 (χ2
n−1 n−1 n−1
4 4 4 4
dan
c1 c c c
P ( < n−1 < 2 ) = P n−1 > 1 ) − P n−1 > 2 ) = 0, 05.
9 9 9
χ2 9 (χ2 (χ2
Proposisi 3.4
Proposisi 3.5
uji UMPU .
1 jika t(z) < c
φ(z) = 0 yang lain
dengan c ditentukan oleh P (tn−1 < c) = α.
Contoh 3.12
Misalkan X1, X2, . . . , X25 merupakan variabel random saling bebas dari
dis- tribusi N(µ, σ2) dengan µ dan σ2 tidak diketahui. Untuk menguji
hipotesis H : µ ≤ µ0 melawan A : µ > µ0 dengan α = 0, 05 digunakan uji
UMPU .
1 jika t(z) > 1, 7109
φ(z) = 0 yang lain
dan untuk menguji hipotesis H : µ ≥ µ0 melawan A : µ < µ0 dengan
α = 0, 05 digunakan UMPU
.
1 jika t(z) < −1, 7109
φ(z) = 0 yang lain.
Proposisi 3.6
Proposisi 3.7
Misalkan X1, X2, . . . , X25 merupakan variabel random saling bebas dari dis-
tribusi N(µ, σ2) dengan µ dan σ2 tidak diketahui. Untuk menguji hipotesis
H : µ = µ0 melawan A : µ ƒ= µ0 dengan α = 0, 05 digunakan uji UMPU
.
1 jika t(z) < −2, 0639 atau t(z) > 2, 0639(dengan c > 0)
φ(z) =
0 yang lain.
Untuk menentukan kuasa uji dari uji tersebut digunakan uji−t non central.
3.6 Perbandingan Parameter Dua Distribusi
Normal
Diketahui X1, . . . , Xm variabel random saling bebas dari distribusi N(µ1, σ12)
2
dan Y1, . . . , Yn variabel random saling bebas dari distribusi N(µ 2 2 , σ ).
Diang- gap dua sampel tersebut saling bebas dan semua parameter tidak
diketahui. Misalkan µ = µ1 − µ22 dan 2 τ = σ2/σ2. Akan diuji hipotesis
tentang µ dan
τ . Bila salah satu parameter yang diamati merupakan parameter sedangkan
yang lain sebagai parameter pengganggu. Misalkan Z = (X1, . . . , Xm)t dan
W = (Y1, . . . , Yn)t, z = (x1, . . . , xm)t dan w = (y1, . . . , yn)t.
Proposisi 3.8
Contoh 3.13
Diketahui X1, . . . , X21 variabel random saling bebas dari distribusi N(µ1, σ21)
dan Y1, . . . , Y25 variabel random saling bebas dari distribusi N(µ2, σ22). Di-
anggap dua sampel tersebut saling bebas dan semua parameter tidak dike-
tahui. Untuk menguji H : τ 2≤melawan A : τ > 2 dengan α = 0, 05
digunakan uji UMPU
. 1 jika Pn (Yi −Y¯ )2
i=
Pm
1
(Xi −X¯ )2
>c
φ(z) = i=
1
0 yang lain
Proposisi 3.9
P (c1 < Beta((m−1)/2, (n−1)/2 < c2) = P (c1 < Beta((m−1)/2, (n−1)/2 <
c2).
3.6.2 Perbandingan Mean Dua Densitas Normal
Misalkan
t(z, w) = .Σ Y¯ − X¯
m Σn
¯ ¯ 2
i=1 (Xi − X ) + j=1 (Yj − Y )
2
Proposisi 3.10
Contoh 3.14
Diketahui X1, . . . , X15 variabel random saling bebas dari distribusi N(µ1, σ12)
dan Y1, . . . , X10 variabel random saling bebas dari distribusi N(µ2, σ22). Di-
anggap dua sampel tersebut saling bebas dan semua parameter tidak dike-
tahui. Untuk menguji H : µ ≤ 0 melawan A : µ > 0 dengan α = 0, 05
digunakan uji UMPU
.
1 jika t(z, w) > c
φ(z, w) = 0 yang lain
.
−
15+10 2
dengan c ditentukan oleh P 15+10−2 > c0) = 0, 05 dan c0 1= atau
+1
(t
c
√ . 150 23 √ 15 10
Contoh 3.15
Diketahui X1, . . . , X15 variabel random saling bebas dari distribusi N(µ1, σ12)
dan Y1, . . . , X10 variabel random saling bebas dari distribusi N(µ2, σ22). Di-
anggap dua sampel tersebut saling bebas dan semua parameter tidak dike-
tahui. Untuk menguji H : µ = 0 melawan A : µ =ƒ 0 dengan α = 0, 05
digunakan uji UMPU
.
1 jika t(z, w) < −c atau t(z, w) > c
φ(z, w) = 0 yang lain
.
−
15+10 2
dengan c ditentukan oleh P (t 15+10−2 > c0) = 0, 025 dan c0 1=+1
. 23 √ 15 10
dengan θ ∈ ω dan
L(ω)/L(ωc)
lebih besar. Akan tetapi bila ω dan ωc mengandung lebih dari satu titik
maka L(ω) dan L(ωc) tidak dapat ditentukan oleh H dan A dan metodee
pada pasal-pasal terdahulu tidak dapat digunakan.
Misalkan
dan
L(Ωˆ ) = max{L(θ)|θ ∈ Ω}.
Hipotesis H ditolak jika L(ωˆ)/L(Ωˆ ) terlalu kecil yaitu lebih kecil dari
atau sama dengan c dan c ditentukan dari ukuran ujinya. Lemma
Fundamen- tal Neyman-Pearson merupakan kejadian khusus dari uji LR.
Jika kuanti-
tas L(ωˆ) dan L(Ωˆ ) hampir sama nilainya maka data cenderung mendukung
hipotesis bahwa yang sebenarnya terletak dalam ω yang dinyatakan dalam
H. Jika tidak demikian data cenderung mendiskreditkan H. Notasi yang
digunakan adalah
L(ωˆ)
λ= .
L(Ωˆ
Di bawah H benar, statistik − ln λ mempunyai distribusi asmptotik yang
diketahui. Hipotesis H ditolak jika
−2 ln λ > c
Teorema 3.5
P (−2 ln λ ≤ x) → G(x)
Diketahui X1, . . . , Xn variabel random saling bebas dari distribusi N(µ, σ2).
Kasus 1 (σ diketahui)
Dalam hal ini lebih mudah ditentukan distribusi dari −2 ln λ dari pada λ.
Diperoleh n
−2 ln λ = (X¯ − µ )2
0
σ2
sehingga uji LR ekuivalen dengan
. n ¯ 2
1 jika σ2 (X −µ ) >
φ(z) =
0 yang lain
c0
dengan c ditentukan sehingga P (χ1 2 > c) = α.
dan n
Σ
σˆω2 = (Xi − µ0 )2
i=1 Ω Ω
maka ) i=
n 1
Σ
ˆ = 1 exp √ 1 =
(Xi − ¯ e−n/2
L(Ω) 2
n
√ Σ (2π )n
)n X) √
(2πσˆ
σˆ (2πσˆ
Σ 1
dan
Σ Ω
1 1
Σn
Σ
2 1 −n/2
ω √
√ n (2πσˆω ) i=
1 = √ e
L(ωˆ) = exp (Xi − ω
(2πσˆ )n
)n µ0)
(2πσˆ
sehingga
.
σˆΩ n
λ = σˆω
Σ
atau Σn (X − X¯ )2
2/n i= i
1
λ = Σn
i=1 (X − µ )
2
Karena i .
0
Σ
n Σ
n .
Σ2
(Xi − µ0) =
2 ¯ ¯
(Xi − X ) + (X − µ0 )
i= i=
1 1
.(Xi − X¯ )2 + 2(Xi − X¯ )(X¯ − µ0 ) + (X¯ − µ0 )2 Σ
= Σni=
1
n Σni=
Σ n
= .(Xi − X¯ )2 + 2(X¯ − 1 (Xi − X¯ ) (X − µ0 )2Σ
i=1 +
n
Σ µ0 ) Σi=1
¯
= (Xi − X¯ )2 + n(X¯ − µ0)2
i=1
maka
n 2 Σ
Σ Σi=1(Xi − µ0) −1
λ = Σn (X − X¯ )2
i=1
Σ
Σ n i
(Xi − X¯ )2 + n(X¯ − µ0 )2 Σ−1
i=1
= Σn
(X − X¯ )2 i=1
i
Σ n(X¯ − µ0)2 Σ−1
= 1 + Σn
i=1
( i − X¯
Σ X n(X¯ − )2 Σ−1
1
= µ10)2+ Σ
n− 1 − X¯
n−1
1 n
( )2
ii=
1 X
2 Σ−1
= Σ1 + t
n−
dengan 1 √
n(X¯ − µ0
)
t = t(z) = . 1 Σ .
i=1 (Xi − X
n ¯
n−1
)2
Hal itu berarti, jika λ < λ0 ekuivalen dengan t2 > c untuk c konstanta
tertentu. Uji LR ekuivalen dengan
.
1 jika t < c dan t > c
φ(z) = 0 yang lain
−
dengan c ditentukan sehingga P (tn−1 > c)α/2.
Contoh 3.17
Kasus 1
n
Akibatnya
m+ m Σj ω .
1 . =1
V¯ = Σ 1n Vk Xi =
m + nΣ Yj
m+n = i=1 + µˆ
k=1 Σ
Hal itu berarti
Σ 1
m+n
σˆω2 = − V¯ )2
(Vk Σ
m+n Σ
m
k=1
Σ Σm
1
= (Xi − µˆω )2 (Yj − µˆ ω )2 .
m+ i= j=
n 1
+ 1
Oleh karena itu
. 1 Σm+n
L(ωˆ) = e−(m+n)/2.
√ ω
Akibatnya 2πσˆ
.
σˆΩ m+n
λ = σˆω
Σ
dan
σˆ2 Ω.
λ2/(m+n)
σˆ2 ω
Pada sisi lain =
Σn Σ2
Σ
n .
(Xi − µˆω ) =
2
(Xi − X¯ ) + (X¯ − µˆ ω )
i= i=
1 1
.(Xi − X¯ )2 + 2(Xi − X¯ )(X¯ − µω ) + (X¯ − µˆω )2 Σ
= Σni=
1n n n
Σ Σ Σ
= (Xi − X¯ )2 + 2(X¯ − µω ) (Xi − X¯ ) + (X¯ − µˆω )2
i=1 i=1 i=1
n
Σ
= (Xi − X¯ )2 + m(X¯ − µω )2
i=1
n
Σ . ΣmX + nY
= 2 = (Xi
− − i=1 n
(Xi Σ = (Xi
i=1 i=1
Σn
¯ ¯
X¯ )2 + m X¯ m+n
m+n
¯ 2 mn2 ¯ ¯ 2
¯ ¯ −
. X) + Σ −2nY − Y ).
(X
X¯ ) + m (mnX
2
2
+ n)
−
Dengan cara yang sama diperoleh
m
Σ(Yj n
Σ
¯ 2 m2 n ¯ ¯ 2
−µ ) =2
−Y) + (X − Y)
j=1
(m + n)2 .
ˆω
(Yj
j=1
Akibatnya Σj
=1
Σ m (Yj − µ¯ ω )2Σ
n
ω = Σ (Xi − µ¯ω )
2 2
(m + n)σˆ
2
i=1 +
n
Σ − ¯ 2 mn
= X ) +2 (X¯ Y¯
) (m + n)2
(Xi m 2n
¯ 2 ¯ ¯2
i=1 − Y ) + (m + (X − Y )
+ nΣ(Y n)2
j= j
1 mn
= (m + n)σˆ 2 + (X¯ − Y¯ )2.
ω
m+n
Di samping itu berlaku sifat
Σ −1
2/(m+n) t
λ = 1+
Σ m+n−2
dengan
√ mn
m+
(X¯ − Y¯ )
t=. Σ n Σ.
1 2 Σn
m
i= (Xi − X )
¯ j= (Yj − Y
¯
Σ m+n−2
1 1
+ )2
Oleh karena itu, uji LR menolak H bila λ < λ0 maka akan ekuivalen
dengan uji .
1 jika t < c dan t > c (c > 0)
φ(z, w) = 0 yang lain
−
dengan c ditentukan oleh P (tm+n−2 > c) = α/2 dan z = (x1, x2, . . . , xm)t
dan w = (y1, y2, . . . , yn)t (karena di bawah H, t berdistribusi tm+n−2).
Kasus 2
Akan diuji hipotesis H : σ1 = σ2(= σ tidak diketahui).
Di bawah Ω = {θ = (µ1, µ2, σ1, σ2)t|µ1, µ2 ∈ R, σ1, σ2 > 0} diperoleh
2 1Σn
2
Σn1
µˆ 1 = µˆ 2 = Y¯ σ1,Ω = (X − X¯ σ2,Ω = − Y¯ )2 .
,Ω X¯ , ,Ω , ˆ i )2, ˆ
m (Yj
i=1 n
j=1
√
ω e
2π
sehingga L(ωˆ) (σˆ 2 )(m+n)/2
=
2
m/2 2
λ = σ 2,Ω )n/2
ˆ )
1,Ω
σˆω 2 )(m+n)/2
. Σ m/2
(Xi −X¯ )2
(m+n)/2 Pni= ¯
(m + n) 1 (Yj −Y )
2
Pn
. j=1
= Pn (Xi −X¯ )2 Σ(m+n)/2
m/2 n/2 P (Yj −Y¯ )2
i= j=1
1 + n
P
(Yj −Y¯ )2
m n n P
j=1
= .
(m + n) .
(m+n)/2
Σm/2
m−1 m1−1 n (Xi −X¯ )2
n−1 n−1 j=1 (Yj −Y¯
Pi=1 )2
1 P
n
Σm/2
(Xi −X¯ )2
mm/2nn/2
1
. n
m−1 m1−1 n
−Y¯
1i=1
+ n−1 n−1 j=1 (Yj
P Σ . )2
m−1
Σm/2
(m + n)
(m+n)/2 fn−1
=
dengan mn/2
m/2 (m+n)/2
n 1+m
Σm −1 f
n−1
1
¯ .2
1 (Xi − X )
m−1 i=
f = 1 Σn
(Yj − Y¯ )2
n−1 j=
1
Uji LR menolak H bila λ < λ0 akan ekuivalen dengan uji F yang menolak
H jika g(f ) < c untuk c tertentu dan
.
m−1
f
g(f ) = . n−1
.
Σm/2 (m+2)/2
m− 1
1 + n−1 f
Σ
Nilai maksimum g(f ) dicapai bila f = m(n−1) . Dalam hal ini g(θ) dan
n(m−1)
g(f ) → 0
untuk f → ∞. Oleh karena itu g(f ) < c jika dan hanya jika f < c1 atau
f > c2 untuk c1 dan c2 tertentu. Karena F berdistribusi Fm−1,n−1 di bawah
H maka c1 dan c2 ditentukan sehingga
P (Fm−1,n−1 < c1 atau Fm−1,n−1 > c2) = α
dan g(c1) = g(c2). Secara praktis c1 dan c2 ditentukan sehingga masing-
masing ekor dari distribusi Fm−1,n−1 mempunyai probabilitas α/2 yaitu
Definisi 4.1
Interval random adalah interval berhingga atau tak berhingga dengan paling
sedikit 1 titik ujungnya meruapakan variabel random.
Definisi 4.2
Misalkan L(X1, X2, . . . , Xn) dan U (X1, X2, . . . , Xn) dua statistik sehingga
Interval random [L(X1, X2, . . . , Xn), U (X1, X2, . . . , Xn)] adalah interval
keper- cayaan untuk θ dengan koefisien konfidensi 1 − α(0 < α < 1) jika
dan
P (L(X1, X2, . . . , Xn) ≤ θ < ∞) ≥ 1 − α
dengan koefisien kepercayaan 1 − α.
Interval random [L(X1, X2, . . . , Xn), U (X1, X2, . . . , Xn)] adalah interval
kepercayaan untuk θ dengan koefisien kepercayaan 1 − α jika probabilitas
bahwa paling sedikit 1 − α interval random
Contoh 4.1
Misalkan X1, . . . , Xn variabel random saling bebas dari distribusi N(µ, σ2).
µ
dengan koefisien kepercayaan 1 − α. Panjang interval tersebut adalah
(b − a)σ
l= √n .
Misalkan
2
nSn2
T¯n(σ ) =
Σn σ2
2 1
dengan Sn = n i= (Xi − µ)2 . Berarti T¯n tergantung pada σ 2 hanya melalui
statistik cukup S21dari σ2 dan distribusi χ2 untuk semua σ2. Akan
n n
ditentukan
a dan b dengan a < b sehingga
P (a ≤ χn2 ≤ b) = 1 − α
nS2
P (a ≤ n ≤ b) α σ2= 1
nS −nS2
2n 2
P( ≤σ ≤ )=1−α
b a
sehingga ( nS2n , nSn2 ) adalah interval kepercayaan untuk σ2 dengan koefisien
b a
kepercayaan 1 − α yang panjangnya adalah
.1 1
l= − n
a b
nS2.
Harapan panjang intervalnya Σadalah
EΣ. 1 − nS2Σ 1 ΣnS2 Σ .1 1
E[l] = 1 − Σnσ2. (4.1.2)
Σ = EΣ. 1 − n 2
σ =
b σ2 a
ba n a b
Meskipun terdapat tidak berhingga banyak pasangan a dan b yang
memenuhi (4.1.2), tetapi secara praktis biasanya dipilih a dan b sehingga
luas ekornya adalah α/2.
Akan tetapi hal ini bukanlah pilihan yang terbaik karena interval yang
terbentuk bukanlah interval yang terpendek.
. Misalkan b = b(a) yaitu b
dl Σ
akan memenuhi
sebagai fungsi dari a. Karena l = 1
− b1 nS2 nmaka a penyebab l terpendek
a
d
= 0 atau
a
dl 1 1 db
=− 2
+ =0
da a b2 da
db
yaitu = b2 . Bila G n dan gn masing-masing adalah fungsi distribusi dan
d a2
fungsi akepadatan probabilitas dari χ2 n maka Gn(b) − Gn(a) = 1 − α sehingga
dGn(b) dGn(a) d
atau = (1 − α)
da da da
−
dGn(b) db
atau − gn(a) = 0
db
da
db
gn(b) − gn(a) = 0.
(a) da
Hal itu berarti db = g 2 . Akibatnya
n
a2gn(a) =∫ b2gn(b) sehingga a dan b
)a gn(a) = b gn(b). danb g (t)dt = 1 − α.
d gn(b 2
ditentukan sehingga
a
a n
Sebagai contoh, untuk n = 25, σ = 1 dan 1 − α = 0, 95 sehingga Zα/2 =
1, 96. Hal itu berarti interval kepercayaan 95% untuk µ adalah
[X¯ − 0, 392, X¯ + 0, 392].
Bila digunakan ekor yang sama diperoleh a = 13, 120 dan b = 40, 646 maka
interval kepercayaan 95% untuk σ2 adalah
Σ 2
25 25S225 Σ
, .
25S
40, 646 13, 120
Pada sisi lain, interval kepercayaan % terpendek untuk σ2 adalah
Σ 2
25S 25 25S225 Σ
, .
45, 7051 14, 2636
dengan rasio panjang antara kedua interval tersebut medekati 1,068.
Contoh 4.2
Misalkan X1, . . . , Xn variabel random saling bebas dari distribusi Gamma
Σn
dengan parameter β dan α diketahui (misal α = r). Statistik i= Xi meru-
pakan statistik cukup untuk β. Karena setiap j = 1, 2, . . . , n,1 variabel ran-
2
dom 2Xi/β berdistribusi χ2 maka
r
Σn2
Tn(β) = Xi
β
i=1
1
untuk menentukan interval kepercayaan dengan panjang terpendek analog
pada Contoh 4.1, yaitu dipilih a dan b sehingga a2g2rn(a) = b2g2rn(b) dan
a
95
∫ b
g2rn(t)dt = 1 −
α.
96
Untuk n = 7, r = 2 dan 1 − α = 0, 95 diperoleh a = 16, 5128 dan b = 49,
3675 dan interval kepercayaan dengan panjang terpendek adalah
Xi Σ n
ΣΣ i=1n
, 2 i=1 Xi Σ
2 3675 16, 5128
49,
sedangkan interval kepercayaan dengan luas ekor sama adalah
Xi Σ n
ΣΣ i=1
n , 2 i=1 Xi Σ
244, 461 15, 308
dengan rasio panjang antara dua interval tersebut mendekati 1, 075.
Contoh 4.3
Misalkan X1, . . . , Xn variabel random saling bebas dari distribusi Beta den-
Qn
gan parameter β = 1 dan α = θ tidak diketahui. Karena i=1 Xi atau
n
Σ i= ln i merupakan statistik cukup untuk θ.i Karena X
− dengan
Beta 1 Xβ = 1 dan α = θ maka Yi = 2θ ln Xi berdistribusi berdistribusi
chi-kuadrat
dengan derajat bebas 2 sehingga dengan mengingat X1, . . . , Xn saling bebas
diperoleh
Σ n
Tn(θ) = −2θ ln Xi
i=1
P (a ≤ χ22 ≤ b) = 1 − α
n n
Σ
P (a ≤ −2θ ln Xi ≤ b) = 1 − α
i=1
a b
P (Σ n ) = 1 − α.
−2 i=1 ln ≤θ≤ ln Xi
Xi Σn −2
i=
1
Oleh karena itu interval kepercayaan 1 − α untuk θ adalah
Σ a Σ
− Σn b
, .
2 ln Xi −2 Σn ln Xi
i=1 i=1
P
2
a+b dl
ln Xi
. Dengan menganggap da = 0
∫ b
Contoh 4.4
Misalkan X1, . . . , Xn variabel random saling bebas dari distribusi U (0, θ).
Statistik Yn = X(n) adalah statistik cukup untuk θ dan mempunyai fungsi
kepadatan probabilitas
g (y n
) = yn−1
n n n
θn
untuk 0 ≤ yn ≤ θ. Misalkan Tn(θ) = Yn . θHal itu berarti Tn mempunyai
fungsi kepadatan probabilitas
hn(t) = ntn−1
Diperoleh P (a ≤ Yn
≤ b) = 1 − α atau P (X(n) ≤ θ ≤ X(n) ) = 1 − α. Oleh
θ b a
karena itu interval kepercayaan 1 − α untuk θ adalah
ΣX Σ
(n) X(n)
,
b a
dan panjang intervalnya adalah l = . 1 − 1 ΣX(n). Akibatnya
a b
dl Σ 1 da 1 Σ
= X (n) − 2 + .
d a b2
b db
Karena dl maka dl
=X a −
n+1 bn+1 . Karena < 0 untuk semua b
bn−1 dl
=
db an−1 da (n) b2 an+1 da
maka l turun dalam b dan nilai minimum dicapai bila a = α1/n. Oleh karena
itu interval kepercayaan dengan koefisien 1 − α dinyatakan dengan
ΣX(n) X Σ
( n)
,
.
α 1/n
97
4.2 Interval Kepercayaan Bila Muncul
Param- eter Nuisans
Contoh-contoh berikut ini menjelaskan bagaimana menentukan interval keper-
cayaan bila muncul parameter nuisans.
Contoh 4.5
Misalkan X1, X2, . . . , Xn variabel random saling bebas dari distribusi N(µ, σ2)
dengan µ dan σ2 tidak diketahui.
Kasus 1
Karena T (σ2) berdistribusi chi-kuadrat dengan derajat bebas n−1 maka den-
gan menggunakan alasan seperti pada Contoh 4.1 diperoleh interval keper-
cayaan untuk σ2 yaitu
2
Σ (n − n−1 (n − 1)Sn−1
2 Σ
,
1)S b a
dan interval kepercayaan terpendek diambil bila a dan b memenuhi
a2gn−1(a) = b2gn−1(b)
dan
∫ b
gn−1(t)dt = 1 − α.
a
Untuk n = 25 dan 1 − α = 0, 95 diperoleh a = 13, 5227 dan b = 44, 4802
yang bersesuaian dengan
[0, 539S2 , 1, 775S2 ].
24 24
Contoh 4.6
Sampel random X1, X2, . . . , Xn berasal dari distribusi N(µ1, σ2) dan
1 sam- pel
random berasal dari distribusi dengan µ − 1, µ2, σ1, σ2 tidak diketahui. Akan
dikonstruksikan interval kepercayaan untuk µ1 − µ2 dengan mengang- gap
σ1 = σ2 = σ. Misalkan
(X¯ m − Y¯n ) − (µ1 − µ2 )
.
Tm,n(µ1 − µ2) = . 2 2
. Σ
(m−1)Sm−1 +(n−1)Sn−1 1 1 −
m+n−2 m
n
Statistik Tm,n(µ1 − µ2) berdistribusi t dengan derajat bebas m + n − 2.
Hal itu berarti interval kepercayaan 1 − α untuk µ1 − µ2 adalah
Σ .(m − 1)S 2 . Σ
¯ ¯ + (n − n−1 1 1
(Xm − Yn) − m−1 − ,
1)S2 m n
tm+n−2;α/2 m+n−
.(m − 1)S 2 1) .
¯ ¯ 2 + (n − S2 − 1 .
(Xm − Yn) + m−1 n−1
m
tm+n−2;α/2 m+n−
2
1 ΣΣ
n
Untuk m = 13, n = 14 dan 1 − α = 0, 95 diperoleh t25;0,025 sehingga
Σ(X¯ − Y¯ ) − 0, 1586.12S 2 + 13S 2 , (X¯ − Y¯ ) − 0, 1586.12S 2 + 13S 2 Σ.
X Y X Y
2
σ
Akan dikonstruksikan interval kepercayaan untuk . Misalkan 1
2
σ2
. σ2 Σ
2
σ12 Sn−1
Tm, 1
2 2 .S2
=
n 2σ 2σ n−1
σ
. 2 Σ berdistribusi F dengan derajat bebas n − 1 dan m − 1.
Statistik m,
1
T n
σ22
Akan ditentukan a dan b dengan 0 < a < b sehingga
P (a ≤ Fn−1;m−1 ≤ b) = 1 − α
σ2 S2n−1
P (a ≤ σ1 2 S2 ≤ b) = 1 − α
2 m−1
2
2
m− 1 S −1 ) = 1 α.
1
P (aS 2 σ ≤b m 2
Sn−1≤ 2 S−
2
n−1
σ2
Oleh karena itu interval kepercayaan untuk adalah
σ
12
σ22
2 2
Σ Sm−1 S
a S2 , b m−1
.
2
n−1 ΣS n−1
Khususnya untuk interval kepercayaan yang mempunyai ekor sama diny-
atakan dengan
ΣFn−1;m−1;α/2 S2 2
m−1 S m−1
J ,F
2
Sn−1 n−1;m−1;α/2 Σ 2
Sn−1
J
dengan Fn −1;m−1;α/2 dan Fn−1;m−1;α/2 masing-masing adalah kuantil α/2 atas
dan bawah dari Fn−1;m−1 . Bila titik dibaca dari Tabel distribusi F maka titik
dapat dihitung dengan cara
J
Fn −1;m−1;α/2 = 1/Fn−1;m−1;α/2 .
Contoh 4.7
P (−c √
n(X¯ − (n − 1)Sn−1
2
≤ ≤ c, a ≤ b) = 1 − α
√ σ2
µ) ≤
σ
P (−c n(X¯ − (n − 1)Sn−1
2
≤ c) × P (a ≤ b) = 1 − α
≤ µ) σ2
≤
σ2 2
¯ c σ (n − 1)S2 (n − 1)S2
n−1 2 n−1
P ((µ − Xn)2 ≤ n , b ≤σ ≤ a ) = 1 − α.
Misalkan X1, X2, . . . , Xn variabel random dengan mean µ dan variansi σ2.
Dengan menggunakan Teorema Limit Pusat diperoleh
n(X¯ n − µ)
√ N(0,
1). σ ∼
Jika dianggap bahwa σ diketahui maka interval kepercayaan untuk µ dengan
koefisien kepercayaan mendekati 1 − α adalah
Σ σ ¯ σ Σ
¯
X − Zα/2 √ , X + Zα/2 √
n n
asalkan n → ∞. Misalkan σ juga tidak diketahui. Karena
Σ n
2
n S = (X¯ −2 X ) 2
i= u
→ σi 1 n
n
ntuk n → ∞ maka √
n(X¯
Sn − µ
→ N(0, 1).
)
Oleh karena itu interval kepercayaan untuk µ dengan koefisien kepercayaan
1 − α dinyatakan dengan
Σ Σ
X¯ − Zα/2 S√
n , X + Z S√
¯ α/2
n
n n
asalkan n → ∞.
Contoh 4.8
Contoh 4.9
α
adalah
Σ Sn ¯ S Σ
X¯ − Zα/2 √ , X + Zα/2 n .
√ n
n
4.4 Hubungan antara Uji Hipotesis dan In-
terval Kepercayaan
Terdapat hubungan erat antara pengkonstruksian interval kepercayaan
dan pengujian hipotesis. Misalkan variabel random saling bebas dengan
r ∗
fungsi kepadatan probabilitas f ∈
(x; θ),
⊆ θ Ω R . Untuk setiap θ Ω,
akan diuji ∈
hipotesis H(θ ) : θ = θ pada tingkat α dan A(θ∗) menyatakan daerah pener-
∗ ∗
imaan dalam Rn. Misalkan Z = (X1, X2, . . . , Xn)t dan z = (x1, x2, . . . , xn)t
didefinisikan daerah T (z) dalam Ω sebagai T (z) = {θ ∈ Ω|z ∈ θ}.
Dengan kata lain, T (z) adalah himpunan bagian dari Ω dengan sifat :
berdasarkan pada baris z, setiap H(θ) diterima bila θ ∈ T (z) yaitu
z ∈ θ → θ ∈ T (z).
Oleh karena itu
P (θ ∈ T (z)) = P (z ∈ A(θ)) ≥ 1 − α,
Teorema 4.1