Anda di halaman 1dari 108

Diktat Kuliah

STATISTIKA MATEMATIKA

Adi Setiawan

Universitas Kristen Satya Wacana


Salatiga
2006
i

Contents
1 Pendahuluan
1.1 Sifat Kecukupan . . .
1.2 Sifat Kelengkapan . .
1.3 Sifat Ketakbiasan . . .
1.4 Keluarga Eksponensial

.
.
.
.

1
1
7
11
13

2 Estimasi Titik
2.1 Metode yang digunakan bila tersedia statistik cukup yang lengkap
2.2 Metode yang digunakan bila tidak tersedia statistik cukup lengkap
2.3 Kriteria Pemilihan Estimator : Prinsip MLE . . . . . . . . . . . .
2.4 Estimator Momen . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.5 Kriteria Pemilihan Estimator : Pendekatan Teori Keputusan . . .
2.6 Sifat-sifat Optimal secara Asimptotik dari Estimator . . . . . . . .

19
21
22
28
31
33
40

3 Pengujian Hipotesis
3.1 Konsep Umum dari Pengujian Hipotesis Neyman-Pearson . .
3.2 Pengujian Hipotesis Sederhana Melawan Alternatif Sederhana
3.3 Uji UMP untuk Pengujian Hipotesis Komposit . . . . . . . .
3.4 Uji UMPU untuk Pengujian Hipotesis Komposit . . . . . . .
3.5 Pengujian Parameter dari Distribusi Normal . . . . . . . . . .
3.5.1 Uji Tentang Variansi . . . . . . . . . . . . . . . . . . .
3.5.2 Uji Tentang mean . . . . . . . . . . . . . . . . . . . .
3.6 Perbandingan Parameter Dua Distribusi Normal . . . . . . .
3.6.1 Perbandingan Variansi Dua Densitas Normal . . . . .
3.6.2 Perbandingan Mean Dua Densitas Normal . . . . . . .
3.7 Uji Likelihood Ratio . . . . . . . . . . . . . . . . . . . . . . .

.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.
.

46
46
49
58
70
73
73
75
77
77
79
80

4 Daerah Kepercayaan
4.1 Interval Kepercayaan
4.2 Interval Kepercayaan
4.3 Interval Kepercayaan
4.4 Hubungan antara Uji

.
.
.
.

.
.
.
.

91
. 91
. 98
. 101
. 102

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

. . . . . . . . . . . . . . . . . . . . . .
Bila Muncul Parameter Nuisans . . .
dan Interval Kepercayaan Pendekatan
Hipotesis dan Interval Kepercayaan .

ii

.
.
.
.

.
.
.
.

.
.
.
.

.
.
.
.

Chapter 1
Pendahuluan
Dalam bab ini terlebih dahulu akan dibahas tentang ruang parameter (parameter space), statistik cukup (sufficient statistics), sifat kelengkapan (completeness), sifat ketakbiasan (unbiasedness) dan keluarga eksponensial (exponential family).

1.1

Sifat Kecukupan

Misalkan X suatu variable random dengan fungsi kepadatan probabilitas


f (x, ) diketahui tetapi tergantung pada suatu vektor konstan berdimensi
r yaitu = (1 , 2 , . . . , r )t yang dinamakan parameter. Ruang parameter adalah himpunan semua nilai yang mungkin dari . Dalam hal ini
Rr dengan r 1. Misalkan X1 , X2 , . . . , Xn sampel random ukuran n
dari f (x; ) yaitu n variabel random yang saling bebas dan masing-masing
mempunyai fungsi kepadatan probabilitas f (x; ). Masalah mendasar dalam
statistika adalah membuat inferensi tentang parameter seperti melakukan
estimasi , menguji hipotesis tentang dan lain lain. Dalam melakukan hal
di atas , konsep tentang kecukupan memainkan peranan penting dalam membimbing kita untuk meringkas data tetapi tanpa kehilangan informasi yang
dibawa dalam data tentang parameter . Di samping sifat kecukupan juga
akan dibahas tentang konsep kelengkapan (completeness), sifat ketakbiasan
(unbiasedness) dan sifat ketakbiasan variansi minimum (minimum variance
unbiasedness).
Misalkan Tj : Rn 7 R untuk j = 1, 2, . . . , m dan Tj tidak tergantung
pada atau sebarang kuantitas yang tidak diketahui. Vektor
T = (T1 , . . . , Tm )

dinamakan statistik dimensi m, dengan T1 = T1 (X1 , X2 , . . . , Xn ),


T2 = T2 (X1 , X2 , . . . , Xn ),
dan Tm = Tm (X1 , X2 , . . . , Xn ). Sebelum didefinisikan sifat kecukupan, terlebih dahulu diberikan contoh-contoh berikut ini.
Contoh 1.1
Misalkan variabel random X berdistribusi seragam pada (, ). Bila diambil
1 = , 2 = maka diperoleh = (1 , 2 )t sehingga ruang parameternya
adalah = {(1 , 2 )t |1 , 2 R2 , 1 2 } dan fungsi kepadatan probabilitas
dari variabel random X adalah
1
f (x; ) =
(1.1.1)
2 1

untuk 1 < x < 2 . Jika diketahui dan = maka ruang parameternya


adalah = (, ) dan fungsi kepadatan probabilitas daria variable random
X adalah
1
f (x; ) =
(1.1.2)

untuk 1 < x < 2 atau


f (x; ) =

1
IA (x)

(1.1.3)

(1.1.4)

1
IA (x)

(1.1.5)

dengan A = (, ) dan IA (x) = 1 untuk x A and IA (x) = 0 untuk x A


merupakan fungsi indikator.
Jika diketahui dan = maka ruang parameternya = (, ) dan
fungsi kepadatan probabilitas dari variable random X adalah
f (x; ) =
untuk < x < atau
f (x; ) =
dengan A = (, ).
Contoh 1.2
Misalkan variabel random X berdistribusi N (, 2 ).
Bila dipilih 1 = , 2 = 2 maka = (1 , 2 )t sehingga
= {1 , 2 )t R2 |1 R, 2 > 0}
2

dan fungsi kepadatan probabilitas dari variabel random X adalah


f (x; ) =

h (x )2 i
1
1
exp
2
22
2

(1.1.6)

Jika diketahui dan dipilih = maka = R dan fungsi kepadatan probabilitas dari variabel random X adalah
h (x )2 i
1
(1.1.7)
exp
f (x; ) =
2 2
2 2
sedangkan jika diketahui dan dipilih 2 = maka = { R| > 0} dan
fungsi kepadatan probabilitas dari variabel random X adalah
(x )2 i
f (x; ) =
.
exp
2
2
h

(1.1.8)

Contoh 1.3
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi identik
(independent and identically distribution) yaitu Binom(1, ). Hal itu berarti
fungsi probabilitas dari Xi adalah
f (xi ; ) = xi (1 )1xi IA (xi )

(1.1.9)
P
untuk i = 1, 2, . . . , n, A = {0, 1} dan = (0, 1). Misalkan T = ni=1 Xi .
Karena Xi berdistribusi Binom(1, ) maka T berdistribusi Binom(n, ) sehingga fungsi probabilitas dari T adalah
 
n
fT (t; ) =
t (1 )1t IB (t)
(1.1.10)
t
dengan B = {0, 1, . . . , n}.
Misalkan dianggap bahwa percobaan Binomial telah dilakukan dan nilai
pengamatan dari Xi adalah xi untuk i = 1, 2, . . . , n. Masalah yang dihadapi
adalah bagaimana membuat inferensi tentang berdasarkan pada xi untuk
i = 1, 2, . . . , n. Apabila kita memberi tanda 1 untuk sukses maka akan
muncul pertanyaan tentang : dapatkah dilakukan inferensi tentang bila
diketahui banyaknya sukses yang terjadi. Bila banyaknya sukses yang terjadi
adalah t atau T = t untuk t = 0, 1, 2, . . . , 
n maka
 akan ditentukan berapa
n
probabilitas setiap satu kemungkinan dari
cara yang berbeda untuk
t
3

terjadinya t sukses.
P (X1 = x1 , . . . , Xn = xn )
P (X1 = x1 , . . . , Xn = xn |T = t) =
P (T = t)
(
P (X1 =x1 ,...,Xn =xn )
jika x1 + x2 + . . . + xn = t
P (T =t)
=
0
jika yang lain.
Hal ini berarti
P (X1 = x1 , . . . , Xn = xn |T = t) =

x1 (1 )1x1 . . . xn (1 )1xn
 
n
t (1 )1t
t
Pn

Pn

(1 )n i=1 xi
 
=
n
t (1 )1t
t
1
=  
n
t

i=1

xi

jika x1 + x2 + . . . + xn = t dan bernilai 0 untuk yang lain, sehingga untuk


semua
x1 , x2 , . . . , xn dengan xi = 0 atau 1 untuk i = 1, 2, . . . , n dan untuk
Pn
i=1 xi = t berlaku sifat
P (X1 = x1 , . . . , Xn = xn |T = t) = 

1

n
t

tidak bergantung pada . Oleh karena itu total banyaknya sukses t menyediakan semua informasi tentang .
Contoh 1.3 memotivasi definisi statistik cukup berikut ini.
Definisi 1.1
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x, ) dan
= (1 , 2 , . . . , r )t Rr .
Misalkan T = (T1 , T2 , . . . , Tm )t dengan
Tj = Tj (X1 , X2 , . . . , Xn )
4

untuk j = 1, 2, . . . , m statistik. Statistik T dinamakan statistik cukup


dimensi-m untuk keluarga F = {f (x; )| } atau untuk parameter
jika distribusi bersyarat (X1 , X2 , . . . , Xn )t diberikan T = t tidak bergantung
pada untuk semua nilai t.
Dengan menggunakan teorema berikut ini, identifikasi statistik cukup
dengan mudah dapat dilakukan.
Teorema 1.1 (Teorema Faktorisasi Fisher-Neyman)
Misalkan variabel random saling bebas dan berdistribusi identik dengan
fungsi kepadatan probabilitas f (x; ) dan = (1 , 2 , . . . , r )t Rr .
Statistik dimensi-m
T = (T1 (X1 , X2 , . . . , Xn ), T2 (X1 , X2 , . . . , Xn ), . . . , Tm (X1 , X2 , . . . , Xn ))t
merupakan statistik cukup untuk jika dan hanya jika fungsi kepadatan
probabilitas bersama dari dapat difaktorkan sebagai
f (x1 , x2 , . . . , xn ) = g[x1 , x2 , . . . , xn ; ]h(x1 , x2 , . . . , xn )
dengan g tergantung pada hanya melalui T dan h tidak tergantung pada .
Akibat 1.1
Misalkan : Rm 7 Rm fungsi terukur dan tidak tergantung pada serta
fungsi korespondensi satu-satu sehingga 1 ada. Jika statistik cukup untuk
maka (T) juga merupakan statistik cukup untuk dan juga merupakan
statistik cukup untuk () dengan : Rr 7 Rr merupakan fungsi terukur
dan korespondensi satu-satu.
Contoh 1.4
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dari U (1 , 2 ). Fungsi kepadatan probabilitas dari Xi adalah
f (xi ; ) =

1
2 1

untuk 1 < x < 2 . Bila x = (x1 , x2 , . . . , xn )t dan = (1 , 2 )t maka fungsi

kepadatan probabilitas bersamanya adalah


f (x1 , x2 , . . . , xn ; ) =

n
Y
i=1

1
I( , ) (xi ),
2 1 1 2

1
1 < X(1) < X(n) < 2 ,
(2 1 )n
1
I[ ,) (X(1) )I(,2 ) (X(n) ),
f (x1 , x2 , . . . , xn ; ) =
(2 1 )n 1
1
f (x1 , x2 , . . . , xn ; ) =
g1 (X(1) , )g2 (X(n) , ),
(2 1 )n
f (x1 , x2 , . . . , xn ; ) =

dengan g1 (X(1) , ) = I[1 ,) (X(1) ) dan g2 (X(n) , ) = I[1 ,) (X(1) )I(,2 ) (X(n) ).
Akibatnya dengan menggunakan Teorema Faktorisasi Fisher-Neyman diperoleh (X(1) , X(n) ) merupakan statistik cukup untuk . Khususnya jika 1 =
diketahui dan 2 = maka X(1) merupakan statistik cukup untuk . Dengan
cara yang sama jika 2 = diketahui dan maka X(n) merupakan statistik
cukup untuk .
Contoh 1.5
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dari N (, 2 ). Bila x = (x1 , x2 , . . . , xn )t , = 1 , 2 = 2 dan = (1 , 2 )t
maka fungsi kepadatan probabilitas dari Xi adalah
f (xi ; ) =

h (x )2 i
1
i
1
exp
2
22
2

sehingga fungsi kepadatan probabilitas bersamanya adalah


n
i
h
1
1 X
2
f (xi ; ) =
(x

)
.
exp

i
1
22 i=1
( 22 )n

Tetapi, karena
n
X
i=1

(xi 1 ) =

n h
X
i=1

(xi x) + (
x 1 )] =

n
X
i=1

(xi x)2 + n(
x 1 )2

maka fungsi kepadatan probabilitasnya menjadi


n
h
i
1
n
1 X
2
2
f (xi ; ) =
(xi x)
exp
(
x 1 )
22 i=1
22
( 22 )n

Pn

2 t
sehingga (X,
i=1 (Xi X) ) merupakan statistik cukup untuk . Pada sisi
lain fungsi kepadatan probabilitasnya dapat dinyatakan sebagai
n
n
 n 2 
 X
1 X 2
1
1
1
xi
x .
f (xi ; ) =
exp
exp
22
2 i=1
22 i=1 i
( 22 )n

P
Hal itu berarti, jika 2 = 2 diketahui dan 1 = maka ni=1 Xi merupakan
statistik
P cukup untuk . Di samping itu, jika 1 = diketahui dan 2 =
maka ni=1 Xi2 merupakan statistik cukup untuk . Demikian juga, dengan
2 t
menggunakan Akibat Teorema Faktorisasi Fisher-Neyman (X,
PnS ) meru-2
1
pakan statistik cukup untuk . Jika 1 = diketahui maka n i=1 (xi )
merupakan statistik cukup untuk 2 = .
Pada contoh-contoh di atas, dimensi dari statistik cukup sama dengan
dimensi parameternya. Jika X1 , X2 , . . . , Xn variabel random saling bebas
dan berdistribusi identik dari distribusi Cauchy dengan parameter = (, 2 )
dan fungsi kepadatan probabilitas
f (x; , 2 ) =

2
+ (x )2

untuk < x < maka tidak ada statistik cukup yang dimensinya lebih
kecil dari statistik cukup (X1 , X2 , . . . , Xn )t .
Jika m adalah bilangan bulat terkecil sehingga T = (T1 , T2 , . . . , Tm )t
dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , m merupakan statistik cukup untuk = 1 , . . . , r )t maka T dinamakan statistik cukup minimal
untuk .

1.2

Sifat Kelengkapan

Misalkan X vektor random berdimensi k dengan fungsi kepadatan probabilitas f (x; ) dan Rr . Misalkan g : Rk 7 R fungsi terukur sehingga
g(X) merupakan variabel random. Dianggap bahwa E [g(X)] ada untuk semua dan F = {f (x; )| }.
Definisi 1.2
Keluarga F dikatakan lengkap (complete) jika untuk setiap g,
E [g(X)] = 0
untuk semua menyebabkan bahwa g(X) = 0 kecuali mungkin pada N
sehingga P [X N ] = 0 untuk semua .
7

Contoh 1.6
Misalkan F = {f (x; )|f (x; ) =
A = {0, 1, 2, . . . , n}. Karena
E[g(X)] =

n
X
i=1

dengan =
dengan

n
x

g(x) (1 )

nx

x (1 )nx IA (x), (0, 1)} dengan

= (1 )

n
X
x=0

g(x)

n
x

maka E[g(X)] = 0 untuk semua (0, 1) akan ekuivalen


n
X
x=0

g(x)

n
x

x = 0

untuk setiap (0, ). Akibatnya untuk lebih dari n nilai-nilai dari


berlaku untuk x = 0, 1, 2, . . . , n yang ekuivalen dengan
 
n
=0
g(x)
x
untuk x = 0, 1, 2, . . . , n. Hal itu berarti bahwa keluarga distribusi binomial
F merupakan keluarga yang lengkap.

Contoh 1.7
Misalkan

e x
F = {f (x; )|f (x; ) =
IA (x), (0, )}
x!
dengan A = {0, 1, 2, 3, . . .}. Karena

X g(x)
e
= e
x = 0
E[g(X)] =
g(x)
x!
x!
x=0
x=0

dengan (0, ) maka g(x) = 0 untuk . hal ini ekuivalen dengan g(x) = 0
untuk x = 0, 1, 2, . . . , n. Akibatnya keluarga distribusi Poisson F merupakan
keluarga yang lengkap.
Contoh 1.8
Misalkan
F = {f (x; )|f (x; ) =

1
I[,] (x), (0, )}.

R
Karena E[g(X)] = 0 untuk semua = (, ) maka a g(x)dx = 0 untuk
semua > sehingga g(x) = 0 kecuali mungkin untuk himpunan N sehingga P [X N ] untuk semua dengan X adalah variabel random
yang mempunyai fungsi kepadatan probabilitas f (x; . Hal yang sama juga
benar jika f (x; ) adalah U (, ).
Contoh 1.9
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi N (, 2 ).
Jika diketahui dan = maka keluarga distribusi normal
F = {f (x; )|f (x; ) =

h (x )2 i
, R}
exp
2 2
2 2
1

merupakan keluarga yang lengkap. Sedangkan jika diketahui dan 2 =


maka keluarga distribusi normal
F = {f (x; )|f (x; ) =

h (x )2 i
exp
, (0, )}
2
2
1

tidak lengkap. Karena g(x) = x maka


E[g(X)] = E[X ] = 0
untuk semua (0, ) sedangkan g(x) = 0 berlaku hanya untuk x = .
Akhirnya, jika dan 2 tidak diketahui maka dapat ditunjukkan bahwa
keluarga distribusi normal
F = {f (x; , 2 )|f (x; , 2 ) =

h (x )2 i
, R, (0, )}
exp
2 2
2 2
1

lengkap atau statistik cukup juga merupakan statistik cukup untuk (, 2 )


yang lengkap.
Teorema 1.2
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ) dengan R r dan
T = (T1 , T2 , . . . , Tm )t
dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , m adalah statistik cukup
untuk . Misalkan V = (V1 , V2 , . . . , Vm )t dengan Vj = Vj (X1 , X2 , . . . , Xn )
9

untuk j = 1, 2, . . . , m sebarang statistik lain yang tidak tergantung pada T.


Misalkan g(x; ) fungsi kepadatan probabilitas dari T dan dianggap bahwa
himpunan S sehingga g(x; ) positif adalah sama untuk semua . Distribusi dari V tidak tergantung pada .
Teorema 1.3 (Teorema Basu)
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ) dengan R r dan
T = (T1 , T2 , . . . , Tm )t dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , m
adalah statistik cukup untuk . Misalkan g(x; ) fungsi kepadatan probabilitas dari T dan G = {g(x; )| } lengkap. Misalkan V = (V1 , V2 , . . . , Vm )t
dengan Vj = Vj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , m adalah statistik lain.
Jika distribusi dari tidak tergantung pada maka V dan T saling bebas.
Contoh 1.10
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi N (, 2 )
2
merupakan statistik cukup untuk dan
dengan
Statistik X
Pn diketahui.
2

(X X)
suatu statistik. Perhatikan bahwa
S 2 = i=1 n i
n
X
i=1

n
X
i=1

n
X

i=1
n
X
i=1

n
X

i=1
n
X
i=1

n
X
i=1

2 =
(Xi X)
2 =
(Xi X)
2 =
(Xi X)
2 =
(Xi X)
2 =
(Xi X)
2 =
(Xi X)
2 =
(Xi X)

n
X
i=1

n
X
i=1

n
X

i=1
n
X
i=1

n
X

i=1
n
X
i=1

n
X
i=1

2
[(Xi ) + ( X))
2 + 2( X)(X

[(Xi )2 + ( X)
i )]
2 + 2( X)

(Xi ) + n( X)
2

n
X
i=1

(Xi )

2 + 2( X)n(
X
)
(Xi )2 + n( X)
2 2n( X)n(

(Xi )2 + n( X)
X)
2
(Xi )2 n( X)
)2 .
(Xi )2 n(X

10

N (, 2 ) sehingga
Karena Xi N (0, 2 ) untuk j = 1, 2, . . . , n dan X
n
berakibat maka distribusi dari S 2 tidak bergantung pada . Dengan meng dan S 2 saling bebas.
gunakan Teorema Basu diperoleh bahwa X

1.3

Sifat Ketakbiasan

Definisi 1.3
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ) dengan R dan
T = (T1 , . . . , Tm )t dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , m
adalah statistik cukup untuk . Statistik U adalah statistik tak bias untuk
jika E [U ] = untuk setiap .
Teorema 1.4 (Teorema Rao-Blackwell)
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ) dengan R dan
T = (T1 , . . . , Tm )t
dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , m adalah statistik cukup
untuk . Misalkan U (X1 , X2 , . . . , Xn ) statistik tak bias untuk yang bukan
fungsi dari T saja. Jika (t) = E [U |T = t] maka
1. variabel random (T) merupakan fungsi statistik cukup T.
2. (T) merupakan statistik tak bias untuk .
3. Var ((T)) < Var (U ) dengan asalkan E [U 2 ] < .

Teorema berikut ini menyatakan sifat ketunggalan dari statistik cukup.


Teorema 1.5 (Teorema Ketunggalan Lehman-Scheffe)
Misalkan X1 , X2 , . . . , Xn variabel random dengan fungsi kepadatan probabilitas f (x; ) dengan R dan F = {f (x; )| }. Misalkan
T = (T1 , . . . , Tm )t dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , m
adalah statistik cukup untuk dan g(x; ) adalah fungsi kepadatan probabilitasnya. Misalkan G = {g(x; )| } lengkap. Jika U = U (T ) statistik
11

cukup tak bias untuk dan E [U 2 ] < untuk semua maka U adalah
statistik tak bias untuk dengan variansi terkecil dalam kelas yang mengandung semua statistik tak bias untuk .
Definisi 1.4
Statistik tak bias untuk yang mempunyai variansi minimum dalam kelas semua statistik tak bias dari dinamakan UMVU (uniformly minimum
variance unbiased ).
Terminologi uniformly diperoleh dari fakta bahwa variansi minimum
untuk semua .
Contoh 1.11
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi
P identik dengan distribusi Binom(1, ) dengan (0, 1). Statistik T = ni=1 Xi
= T merumerupakan statistik cukup untuk dan juga lengkap. Karena X
n
merupakan statistik tak
pakan statistik tak bias untuk maka statistik X
bias dengan variansi minimum untuk .
Contoh 1.12
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan distribusi N (, 2 ). Jika diketahui dan = maka
T =

n
X

Xi

i=1

statistik cukup untuk demikian juga T merupakan statistik yang lengkap.


= T /n merupakan statistik tak bias untuk dengan variansi
Akibatnya X
merupakan statistik tak bias untuk . Jika
minimum untuk karena X
P
2
= 0 dan = maka T = ni=1 Xi2 statistik cukup untuk . Karena T
juga merupakan statistik yang lengkap dan S 2 = T /n merupakan statistik
tak bias untuk dan S 2 merupakan statistik tak bias dengan variansi minimum untuk .
Contoh 1.13
Misalkan X1 , X2 , X3 variabel random saling bebas dan berdistribusi identik
dengan fungsi kepadatan probabilitas
h
i
f (x; ) = exp x
12

untuk x > 0. Misalkan = 1/ sehingga fungsi kepadatan probabilitas dari


X menjadi
h 1 i
1
f (x; ) = exp x .

2
Diperoleh E[Xi ] = dan Var(Xi ) = untuk i = 1, 2, 3. Hal itu berarti
bahwa X1 merupakan statistik tak bias untuk dengan variansi 2 . Demikian
juga T = X1 + X2 + X3 merupakan statistik cukup untuk dan juga merupakan statistik yang lengkap. Karena X1 bukan merupakan fungsi dari T
maka X1 bukan statistik tak bias dengan variansi minimum untuk . Oleh
karen itu dipilih statistik yang merupakan fungsi dari T dan juga merupakan
statistik tak bias untuk yaitu T /3 dengan sifat E[T /3] = . Dalam hal ini
Var(T /3) = 2 /3 lebih kecil dari 2 dengan (0, ).

1.4

Keluarga Eksponensial

Keluarga fungsi kepadatan probabilitas yang tergantung pada paremeter


dan berbentuk
f (x; ) = C() exp[Q()T (x)]h(x)
dengan x R, ( R) dan C() > 0 serta h(x) > 0 untuk x S
dinamakan keluarga eksponensial. Jika variabel random saling bebas dan
berdistribusi identik dengan f (x; ) dengan R maka fungsi kepadatan probabilitas dari X sebagai
f (x; ) = C() exp[Q()T (x)]h(x).

Contoh 1.14



n
Misalkan f (x; ) =
x (1 )nx IA (x) dengan A = {0, 1, 2, . . . , n}.
x
Fungsi probabilitas tersebut dapat dinyatakan sebagai
 

n
n
f (x; ) = (1 ) exp[log(
IA (x)
)]
x
1
sehingga distribusi Binomial merupakan anggota keluarga
den eksponensial

n

gan c() = (1 )n , Q() = log( 1


), T (x) = x, h(x) =
IA (x).
x

13

Contoh 1.15
Misalkan variabel random X berdistribusi N (, 2 ). Jika diketahui dan
= maka fungsi kepadatan probabilitas dari X adalah
f (x; ) =

h
i
h 2 i
h i
1
1
exp
exp 2 x exp 2 x2

2
2

dengan R sehingga distribusi tersebut merupakan anggota keluarga eksponesial dengan


c() =

h 2 i
1
exp 2 x ,

Q() =

,
2

T (x) = x,

h x2 i
h(x) = exp 2 .
2

Jika diketahui dan 2 = maka fungsi kepadatan probabilitas dari X


adalah
i
h
1
1
f (x; ) =
exp (x )2
2
2
dengan (0, ) sehingga distribusi tersebut merupakan anggota keluarga
eksponensial dengan
c() =

1
,
2

Q() =

1
,
2

T (x) = (x )2 ,

h(x) = 1.

Jika ruang parameter dari keluarga fungsi kepadatan eksponensial 1 parameter mengandung interval non degenerate maka keluarga tersebut lengkap.
Teorema 1.6
Misalkan X variabel random dengan fungsi kepadatan probabilitas f (x; )
dengan R seperti tersebut di atas. Keluarga
G = {g(x; )| }
dengan adalah fungsi kepadatan probabilitas dari T (X) maka G lengkap
asalkan mengandung interval non degenerate.
Teorema 1.7
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas merupakan anggota keluarga eksponensial 1 parameter.
P
1. Statistik T = ni=1 T (Xi ) merupakan statistik cukup untuk .
14

2. Fungsi kepadatan probabilitas dari T selalu berbentuk


h
i
n
g(t; ) = [c()] exp Q()t h (t)

dengan h(t) tidak bergantung terhadap asalkan T variabel random


diskrit.

3. Jika variabel random kontinu maka fungsi kepadatan probabilitasnya


dapat dinyatakan sebagai
h
i
g(t; ) = [c()]n exp Q()t h (t).

Teorema berikut ini menyatakan sifat kelengkapan dari suatu keluarga


distribusi.
Teorema 1.8
Keluarga G = {g(x; )| } lengkap asalkan mengandung interval non
degenerate.
Dalam hal ini G = {g(x; )| } dengan g(x; ) adalah keluarga fungsi
kepadatan probabilitas dari statistik cukup T .
Teorema 1.9
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas merupakan anggota keluarga eksponensial dan T seperti didefinisikan pada Teorema 1.7.1. Jika V sebarang
statistik yang lain, V saling bebas jika dan hanya jika distribusi dari V dan
T tidak tergantung pada .

Contoh 1.16
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan N (, 2 ) yang merupakan anggota keluarga eksponensial dalam = .
Statistik
n
1X

X=
Xi
n i=1

merupakan statistik cukup untuk sedangkan


Pn
2
(Xi X)
2
S = i=1
n
15

merupakan statistik lain yang tidak tergantung pada maka dengan menggunakan Teorema 1.9 diperoleh bahwa x dan S 2 saling bebas.
Generalisasi dari Keluarga Eksponensial
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan X = (X1 , . . . , Xn )t .
Fungsi kepadatan probabilitas bersama dari merupakan anggota keluarga eksponensial r parameter jika mempunyai bentuk
f (x; ) = c() exp

n
hX
i=1

i
Qi ()Ti (x) h(x)

dengan x = (x1 , x2 , . . . , xn )t untuk j = 1, 2, . . . , k dan k 1,


= (1 , 2 , . . . , r )t Rr ,
C() > 0, dan h(x) > 0 untuk x S himpunan nilai positif dari
f (x; ) yang saling bebas terhadap .

Contoh 1.17
Misalkan variabel random X berdistribusi N (1 , 2 ). Fungsi kepadatan probabilitas dari X dapat dinyatakan sebagai
f (x; 1 , 2 ) =

h
h
1
1 2i
2 i
1
x .
exp 1 x exp x
22
2
22
22

Hal ini berarti keluarga distribusi normal merupakan anggota keluarga distribusi eksponensial dengan
c() =

h
1
2 i
exp 1 ,
22
22

Q1 () =

1
,
2

Q2 () =

dan
T1 (x) = x,

T2 (x) = x,

Dalam hal ini = (1 , 2 ).

16

h(x) = 1.

1
,
22

Brief History of Fisher


R. A. Fisher (1890-1962). Statistician and geneticist. MacTutor References. SC, LP.
Fisher was the most influential statistician of the C20. Like Pearson,
Fisher, studied mathematics at Cambridge University. He first made an
impact when he derived the exact distribution of the correlation coefficient
(see Fishers z-transformation). Although the correlation coefficient was a
cornerstone of Pearsonian biometry, Fisher worked to synthesise biometry
and Mendelian genetics; for Fishers many disagreements with Pearson, see
Pearson in A Guide to R. A. Fisher. In 1919 Fisher joined Rothamsted
Experimental Station and made it the world centre for statistical research.
His subsequent more prestigious appointments in genetics at UCL and Cambridge proved less satisfying. The estimation theory Fisher developed from
1920 emphasised maximum likelihood and was founded on likelihood and
information. He rejected Bayesian methods as based on the unacceptable
principle of indifference. I n the 1930s Fisher developed a conditional inference approach to estimation based on the concept of ancillarity. His most
widely read work Statistical Methods for Research Workers (1925 + later
editions) was largely concerned with tests of significance: see Students t
distribution, chi square, z and z-distribution and p-value. The book also
publicised the analysis of variance and redefined regression. The Design of
Experiments (1935 + later editions) put that subject at the heart of statistics (see randomization, replication blocking). The fiducial argument, which
Fisher produced in 1930, generated much controversy and did not survive the
death of its creator. Fisher created many terms in everyday use, e.g. statistic
and sampling distribution and so there are many references to his work on
the Words pages. See Symbols in Statistics for his contributions to notation.
Fisher influenced statisticians mainly through his writingsee the experience
of Bose and Youden. Among those who worked with him at Rothamsted were
Irwin Wishart, Yates (colleagues) and Hotelling (voluntary worker) MGP. In
London and Cambridge Fisher was not in a Statistics department and Rao
was his only PhD student in Statistics. For more information see A Guide to
R. A. Fisher. See Hald (1998, ch. 28 Fishers Theory of Estimation 1912-1935
and his Immediate Precursors).

17

Brief History of Kolmogorov


Andrei Nikolaevich Kolmogorov (1903-87) Mathematician. MacTutor
References. MGP. LP.
Kolmogorov was one of the most important of C20 mathematicians and
although he wrote a lot of probability it was only a small part of his total
output. Like Khinchin, he was a student of Luzin at Moscow State University. In 1924 Kolmogorov started working with Khinchin and they produced
results on the law of the iterated logarithm and the strong law of large numbers. Kolmogorovs most famous contribution to probability was the Grundbegriffe der Wahrscheinlichkeitsrechnung (1933), (English translation) which
presented an axiomatic foundation. This made possible a rigorous treatment
of stochastic processes. His 1931 paper Analytical methods in probability
theory laid the foundations for the theory of markov processes; this paper
contains the Chapman-Kolmogorov equations. In 1941 Kolmogorov developed a theory of prediction for random processes, parallel to that developed
by Wiener. In the 60s Kolmogorov returned to von Misess theory of probability and developed it in the direction of a theory of algorithmic complexity; this work was continued by the Swedish mathematician P. Martin-Lf.
In statistics he contributed the Kolmogorov-Smirnov test. From 1938 Kolmogorov was associated with the Steklov Mathematical Institute. He had
many students, among them Gnedenko and Dynkin. See also Symbols in
Probability Life & Work. See von Plato (ch. 7) Kolmogorovs measure theoretic probabilities. See also Vovk & Shafer Kolmogorovs Contributions to
the Foundations of Probability and The Origins and Legacy of Kolmogorovs
Grundbegriffethe published version of the latter (Statistical Science (2006)
Number 1, 70-98) is different again.

18

Chapter 2
Estimasi Titik
Misalkan X variabel random dengan fungsi kepadatan probabilitas f (x; )
dengan Rr . Jika diketahui maka semua probabilitas yang diinginkan dapat dihitung. Akan tetapi biasanya tidak diketahui sehingga
memunculkan masalah bagaimana mengestimasi parameter atau suatu
fungsi dari yaitu g() dengan g fungsi real dan terukur.
Definisi 2.1
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ). Sebarang statistik
U = U (X1 , X2 , . . . , Xn )
yang digunakan untuk menaksir kuantitas yang tidak diketahui dinamakan
estimator dari g(). Nilai dari U (x1 , x2 , . . . , xn ) untuk nilai-nilai pengamatan
x1 , x2 , . . . , xn dinamakan estimasi dari g().
Definisi 2.2
Misalkan g fungsi real dan terukur. Estimator U = U (X1 , X2 , . . . , Xn ) dinamakan estimator tak bias (unbiased estimator ) dari g() jika
E[U = U (X1 , X2 , . . . , Xn )] = g()
untuk semua . Fungsi g dikatakan tertaksir (estimable) jika g() mempunyai estimator tak bias.
Definisi tentang ketakbiasan mengelompokkan statistik-statistik ke dalam
suatu kelas estimator tak bias. Jika U = U (X1 , X2 , . . . , Xn ) estimator tak
bias untuk g() maka harga harapan dari U sama dengan g(). Meskipun
19

kriteria ketakbiasan sudah mengkhususkan diri pada kelas estimator yang


memenuhi sifat tertentu tetapi kelas ini masih terlalu besar. Untuk itu perlu
dipilih dari dua estimator tak bias yaitu yang mempunyai variansi yang lebih
kecil.
Dasar pemikiran yang digunakan adalah bahwa variansi atau simpangan
baku memberikan ukuran konsentrasi di sekitar mean. Jika
U = U (X1 , . . . , Xn )
estimator tak bias untuk g() maka dengan menggunakan pertidaksamaan
Chebisev diperoleh
P [|U g()| ] 1

Var(U )
.

Oleh karena itu, Var(U ) yang kecil akan memperbesar batas bawah probabilitas konsentrasi U di sekitar g().
Definisi 2.3
Misalkan g tertaksir. Suatu estimator
U = U (X1 , X2 , . . . , Xn )
dikatakan estimator U M V U untuk g() jika U tak bias dan mempunyai
variansi minimum diantara kelas semua estimator tak bias dari g() dengan
. Jika U = U (X1 , X2 , . . . , Xn ) adalah sebarang estimator tak bias dari
g() maka
Var (U1 ) Var (U )
untuk semua .
Dalam banyak kasus, estimator UMVU ada. Untuk memperolehnya terdapat 2 metode yaitu metode pertama yang digunakan bila tersedia statistik
cukup yang lengkap dan metode kedua yang digunakan bila tidak tersedia
statistik cukup yang lengkap. Pada metode kedua, terlebih dahulu ditentukan batas bawah semua estimator dan kemudian memilih suatu estimator
yang mempunyai variansi sama dengan batas bawah tersebut.

20

2.1

Metode yang digunakan bila tersedia statistik cukup yang lengkap

Misalkan
T = (T1 , T2 , . . . , Tr )t
dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , r adalah statistik cukup
untuk dan U = U (X1 , X2 , . . . , Xn ) estimator tak bias dari g() dengan g
fungsi real. Misalkan (T) = E[U |T]. Estimator merupakan estimator tak
bias dari g() dan Var() Var(U ) untuk semua dengan kesamaan
dipenuhi bila U merupakan fungsi dari T.
Jika tersedia statistik cukup maka Teorema Rao-Blackwell mengatakan
bahwa pencarian estimator UMVU untuk g() cukup dibatasi pada kelas estimator tak bias yang hanya tergantung pada T. Jika T lengkap maka dengan
menggunakan Teorema Lehman-Scheffe, estimator tak bias (T) adalah estimator unik yang mempunyai variansi minimum seragam dalam kelas semua
estimator tak bias. Metode ini tidak hanya menjamin keberadaan estimator
tetapi juga menghasilkannya.
Teorema 2.1
Misalkan g fungsi terukur dan real. Misalkan terdapat estimator tak bias
U = U (X1 , X2 , . . . , Xn ) dari g() dengan variansi berhingga. Jika
T = (T1 , T2 , . . . , Tr )t
dengan Tj = Tj (X1 , X2 , . . . , Xn ) untuk j = 1, 2, . . . , r adalah statistik cukup
untuk , lengkap dan (T) = E[U |T] maka estimator UMVU untuk g()
dan tunggal.
Contoh 2.1
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi Binom(1, ) dan akan ditentukan estimator UMVU dari variansi X. Karena X
berdistribusi maka variansi dari X adalah Var(X) = g() = (1 ). Jika
Pn
2
(Xi X)
U = i=1
n1

maka E [U ] = g(). Hal itu berarti U merupakan estimator tak bias untuk
g(). Lebih jauh,
n
X
X
2=

(Xi X)
Xi2 nX.
i=1

i=1

21

Karena Xi = 0 atau 1 maka Xi2 = Xi sehingga


n
X
i=1

Jika T =

Pn

i=1

Xi2

=
nX

n
X
i=1

Xi n

n
1 X

i=1

Xi

2

Xi maka diperoleh

n
X

Xi2

i=1

=
nX

2

n
X
i=1

Xi n

n
1 X

Xi

i=1

2

=T

T2
,
n

1
sehingga U = n1
T Tn . Karena T merupakan statistik lengkap dan juga
merupakan statistik cukup untuk maka dengan mengingat Teorema 2.1, U
merupakan estimator UMVU untuk g() = (1 ).

Contoh 2.2
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi N (, 2 )
dengan dan 2 tidak diketahui. Akan ditentukan estimator UMVU P
untuk
2
2 t
2

dan P
. Misalkan = (, ) , g1 () = dan g1 () = . Jika X = ni=1 Xi
dan
dan ni=1 Xi2 merupakan statistik yang lengkap. Jika U1 = X
n

1X
2
(Xi X)
S =
n i=1
2

S 2 ) merupakan statistik yang lengkap. Jika U1 = X


dan U2 = nS 2
maka (X,
2
2
2
maka E[U1 ] = dan E[nS / ] = n 1 sehingga E[nS /(n 1)] 2 . Hal itu
berarti U1 estimator tak bias untuk dan U2 merupakan estimator tak bias
untuk 2 . Karena U1 dan U2 hanya tergantung pada statistik cukup yang
S 2 )t merupakan estimator UMVU untuk (, 2 ).
lengkap maka (X,

2.2

Metode yang digunakan bila tidak tersedia statistik cukup lengkap

Misalkan R, g fungsi real dan terdeferensialkan untuk semua .


Untuk menggunakan metode ini diperlukan syarat-syarat berikut ini :
1. f (x; ) positif pada himpunan S yang tidak bergantung pada .
2. interval terbuka dalam R.
3. f (x; )/ ada untuk semua dan semua x S.
22

4.

...

f (x1 ; ) . . . f (xn ; )dx1 . . . dxn atau


X

...

f (x1 ; ) . . . f (xn ; )

dapat dideferensialkan di bawah tanda integral atau tanda sigma.


5. I() = E[f (x; )/]2 positif untuk semua .
R
R
6. S . . . S u(x1 , . . . , xn )f (x1 ; ) . . . f (xn ; )dx1 . . . dxn atau
X
S

...

u(x1 , . . . , xn )f (x1 ; ) . . . f (xn ; )

dapat dideferensialkan di bawah tanda integral atau tanda sigma dengan sebarang statistik tak bias untuk .
Teorema berikut ini memberikan sifat tentang batas bawah dari variansi
suatu statistik.
Teorema 2.2 (Cramer-Rao Inequality)
Misalkan X1 , . . . , Xn variabel random saling-bebas dan berdistribusi identik dengan fungsi kepadatan serta dianggap syarat-syarat tersebut dipenuhi.
Untuk sebarang estimator tak bias U = U (X1 , . . . , Xn ) dari g() berlaku
Var(U )

[g 0 ()]2
nI()

dengan dan g 0 () = dg()/d.


Definisi 2.4
I() = E[f (x; )/]2 dinamakan informasi Fisher sedangkan nI() adalah
informasi yang terkandung dalam sampel X1 , . . . , Xn .
Contoh 2.3
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi Binom(1, )
dengan (0, 1). Fungsi probabilitas dari variabel random X yang berdistribusi Binom(1, ) adalah
f (x; ) = x (1 )1x
23

atau ln f (x; ) = x ln + (1 x) ln sehingga


ln f (x; )
1 1x
=
.

1
Akibatnya
 ln f (x; ) 2

1 2
1
2
x +
(1 x)2
x(1 x).
2
2

(1 )
(1 )

Karena E[X 2 ] = dan E[(1 X)2 ] = 1 serta E[X(1 X)] = 0 maka


informasi Fisher I() adalah
E

 ln f (x; ) 2

1
2
1
2
2
E[X
]
+
E[(1

X)
]

E[X(1 X)]
2
(1 )2
(1 )
1
1
= 2 +
(1 )

(1 )2
1
1
+
=
1
1
=
.
(1 )
=

Hal itu berarti batas bawah Cramer-Rao untuk g() adalah


[g 0 ()]2
nI()
1
=
1
n (1)

CRLB =

(1 )
.
n

merupakan estimator tak bias dan variasinya adalah


Karena X
= (1 )
V (X)
n
merupakan estimator
yaitu sama dengan batas bawah Cramer Rao maka X
UMVU untuk .
Contoh 2.4
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi Poisson()
24

dengan > 0. Fungsi probabilitas dari variabel random X yang berdistribusi


adalah
e x
f (x; ) =
x!
atau ln f (x; ) = + x ln ln(x!) sehingga
x
ln f (x; )
= 1 +

dan

 ln f (x; ) 2

1 2 2
x x.

Karena E[X] = dan E[X 2 ] = (1 + ) maka


h ln f (x; ) 2 i
2
1
= E[1] + 2 E[X 2 ] E[X]
E

1
2
= 1 + 2 (1 + )

1
= 1 + (1 + ) 2

1
= 1 + + 1

1
=
.

Hal itu berarti batas bawah Cramer-Rao untuk sama dengan


CRLB =

= 1+

1
[g 0 ()]2
= 1 = .
nI()
n
n

merupakan estimator tak bias untuk dan variansinya adalah


Karena X
= yaitu sama dengan batas bawah CRLB maka X
merupakan
Var(X)
n
estimator UMVU untuk .
Contoh 2.5
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi N (, 2 )
dengan R dan 2 > 0.
Kasus 1
Misalkan bahwa 2 diketahui dan = . Fungsi kepadatan probabilitas
X yang berdistribusi N (, 2 ) adalah
h (x )2 i
1
f (x; ) =
exp
2 2
2 2
25

atau

 1  (x )2
.
ln f (x; ) = ln

2 2
2 2

Akibatnya

1 (x )
ln f (x; )
=

atau

 ln f (x; ) 2

1 (x )2
.
2 2

berdistribusi N (0, 1) sehingga


Karena X berdistribusi N (, 2 ) maka (X)

2
berdistribusi chi-kuadrat dengan derajat bebas 1. Akibatnya E[ (X)
] = 1.
2
Hal itu berarti
 ln f (x; ) 2
1
1  (X )2 
E
=
= 2E

2
2
sehingga batas bawah Cramer-Rao untuk g() adalah
CRLB =

g 0 ()
1
2
= 1 = .
nI()
n
n 2

merupakan estimator tak bias untuk g() = dan variansinya


Karena X
= 2 yaitu sama dengan batas bawah Cramer-Rao maka X

adalah Var(X)
n
merupakan estimator UMVU untuk .
Kasus 2
Misalkan bahwa diketahui dan 2 = . Fungsi kepadatan probabilitas
X yang berdistribusi N (, ) adalah
f (x; ) =
sehingga ln f (x; ) =

1
2

h (x )2 i
1
exp
2
2

ln(2) 21 ln

(x)2
.
2

Akibatnya

1
(x )2
ln f (x; )
= +

2
2 2
dan

 ln f (x; ) 2

1
1 (x )2
1  x 4
= 2 + 2
.
+ 2
4
2

26


Karena variabel random X berdistribusi N (, 2 ) maka X
berdistribusi

N (0, 1) sehingga berdistribusi chi-kuadrat dengan derajat bebas 1. Akibat



2
2
= 1 dan Var (X)
= 2 sehingga
nya E (X)

h x 4 i
h (X )2 2 i

E
= E

h (X )2 i  h (X )2 i2
= Var
+ E

= 2 + 1 = 3.

Oleh karena itu


h ln f (x; ) 2 i
1
1 h x 4 i
1 h (x )2 i

E
= 2 E[1] + 2 E
+ 2E

4
2

sehingga

h ln f (x; ) 2 i

1
1
3

4 2 2 2 4 2
1
.
=
2 2
Karena batas bawah Cramer-Rao untuk g() adalah
E

CRLB =

1
2 2
[g 0 ()]2
= 1 =
.
nI()
n
n 22

Karena variabel random Xi berdistribusi N (, ) untuk i = 1, 2, . . . , n maka


Xi
berdistribusi N (0, 1) sehingga berdistribusi chi-kuadrat dengan derajat

bebas 1. Dengan mengingat Xi saling bebas untuk i = 1, 2, . . . , n maka


Pn (Xi )2
berdistribusi chi-kuadrat dengan derajat bebas n. Akibatnya
i=1

n
hX
(Xi )2 i
E
= n,

i=1

n
hX
(Xi )2 i
Var
= 2n

i=1

P
2
2
estimator tak bias untuk dan variansinya 2n sama
sehingga ni=1 (Xi )

dengan CRLB. Hal itu berarti merupakan estimator UMVU untuk .


Kasus 3
Bila dan 2 tidak diketahui maka = 1 dan 2 = 2 sehingga estimator
dan estimator UMVU untuk 2 adalah
UMVU untuk 1 adalah X
n

2 =

1 X
2.
(Xi X)
n 1 i=1
27

Karena

Pn

i=1


X
i X
2

berdistribusi chi-kuadrat dengan derajat bebas n 1

maka variansi dari 2 adalah 22 /(n 1). Hal itu berarti estimator UMVU
untuk 2 mempunyai variansi lebih besar dari batas bawah Cramer-Rao.
Estimator UMVU untuk g() dinamakan estimator efisien untuk g().
Jika u estimator UMVU untuk dan U sebarang estimator tak bias untuk
g() maka kuantitas mengukur efisiensi relatif U terhadap u. Jelas bahwa
efisiensi relatif mempunyai nilai dalam interval (0, 1].

2.3

Kriteria Pemilihan Estimator : Prinsip


MLE

Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ), Rr dan anggap
bahwa fungsi kepadatan probabilitas bersamanya dinyatakan dengan
f (x1 ; )f (x2 ; ) . . . f (xn ; ).
Bila fungsi kepadatan probabilitas bersama ini, variabel x dipandang sebagai
konstanta dan merupakan fungsi dari maka dinamakan fungsi likelihood
(likelihood function) dan dinotasikan dengan
L(|x1 , x2 , . . . , xn ).
Definisi 2.5
Estimasi = (x1 , x2 , . . . , xn ) dinamakan MLE (maximum likelihood estimator ) dari jika
L(|x1 , x2 , . . . , xn ) = max{L(|x1 , x2 , . . . , xn )}
dan = (x1 , x2 , . . . , xn ) dinamakan MLE untuk .
Karena fungsi y = ln x, x > 0 merupakan fungsi naik tajam maka untuk memaksimumkan L(|x1 , x2 , . . . , xn ) terhadap cukup dengan memaksimumkan
ln L(|x1 , x2 , . . . , xn ).
Contoh 2.6
Misalkan X1 , . . . , Xn variabel random saling-bebas dan berdistribusi Poisson().
Fungsi probabilitas dari Xi adalah
f (xi ; ) =
28

e xi
xi !

sehingga fungsi likelihoodnya adalah


L(|x1 , x2 , . . . , xn ) = exp[n]

xi

Qn

i=1

xi !

Logaritma naturalis dari fungsi likelihoodnya adalah


n
n
Y

X

l() = ln L(|x1 , x2 , . . . , xn ) = ln
xi ! n +
xi ln .
i=1

i=1

l
1 = 0 dan diperoleh = X.
Sedangkan
Oleh karena itu
= n + nX

2
l

= n
x 12 < 0 untuk semua > 0 sehingga berlaku juga untuk = .

Contoh 2.7
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi N (, 2 )
dengan parameter = (, 2 )t . Fungsi likelihoodnya adalah

sehingga

n
 1 


1 X
L(|x1 , x2 , . . . , xn ) =
exp 2
(xi )2
2 i=1
2 2

L(|x1 , x2 , . . . , xn ) = n ln(2) n ln(


Akibatnya

dan

2)

n
1 X
(xi )2 .
2
2 i=1

n
2 X
n
ln L
= 2
(Xi ) = 2 (X
)

2 i=1

n
n
1 X
ln L
= 2 + 4
(Xi )2 = 0
2

2
2 i=1
P
dan 2 = 1 n (Xi X)
2 . Jika 2 diketahui
sehingga diperoleh
= X
i=1
n
dan = maka
=Px adalah MLE untuk sedangkan jika diketahui dan
2 adalah MLE untuk 2 .
2 = maka
= n1 ni=1 (Xi X)

Contoh 2.8

Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi U (, ).


Fungsi kepadatan probabilitas dari U (, ) adalah
f (x; ) =
29

untuk < x < dengan = (, )t . Fungsi likelihoodnya adalah


L(|x1 , x2 , . . . , xn ) =
=

n
Y

i=1
n
Y
i=1

f (xi ; )
1

untuk < xi <

1
I[,) (X(1) )I(,] (X(1) ).
( )n

Fungsi likelihoodnya akan mencapai maksimum jika minimum yaitu


jika
= X(1) dan = X(n) . Jadi MLE untuk dan masing-masing adalah

= X(1) dan = X(n) . Khususnya, jika = c dan = + c dengan c


positif dan c diketahui maka fungsi likelihoodnya adalah
L(|x1 , x2 , . . . , xn ) =

1
I[c,) (X(1) )I(,+c] (X(1) ).
(2c)n

1
Fungsi likelihood dimaksimumkan dan nilai maksimumnya adalah (2c)
n untuk
sebarang sehingga c X(1) dan + c X(n) yaitu ekuivalen dengan

X(n) c X(1) + c.
Hal itu berarti bahwa sebarang statistik yang terletak antara X(n) c dan
X(1) + c merupakan MLE untuk . Sebagai contoh 21 [X(1) + X(n) ] merupakan
MLE untuk . Jika diketahui dan = maka = X(1) merupakan MLE
untuk sedangkan jika diketahui dan = maka = X(n) merupakan
MLE untuk .
Teorema 2.3
Misalkan X1 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan
probabilitas f (x; ) dan T = (T1 , . . . , Tr )t dengan Tj = Tj (X1 , . . . , Xn ) untuk j = 1, 2, . . . , r merupakan statistik cukup untuk = (1 , . . . , r )t . Jika
= (1 , . . . , r ) adalah MLE yang tunggal untuk dan merupakan fungsi
dari T .
Teorema 2.4
Misalkan X1 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan
probabilitas f (x; ) dan Rr . Jika didefinisikan pada ke Rm
yang merupakan fungsi korespondensi satu-satu dan adalah MLE untuk
30

maka () merupakan MLE untuk (). Hal itu berarti MLE invariant di
bawah transformasi satu-satu.
Contoh 2.9
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi N (, 2 )
dengan parameter = (, 2 )t . Berdasarkan Contoh 2.7, merupakan
MLE
untuk 2 . Misalkan didefinisikan : 7 dengan () = dan
= = {R R| 0} yang merupakan fungsi korespondensi satu-satu.
Dengan menggunakan Teorema 2. 4, diperoleh bahwa
v
u n
u1 X
t
2
(Xi X)
n i=1
merupakan MLE untuk .

2.4

Estimator Momen

Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi identik


dengan f (x; ) dan untuk bilangan positif r dianggap bahwa E[X r ] = mr
berhingga. Dengan menggunakan
metode ini mr akan diestimasi dengan
Pn
r
i=1 xi
momen sampel yaitu
. Bila sistem persamaan
n
n

1X k
x = mk (1 , 2 , . . . , r )
n i=1 i

dengan k = 1, 2, . . . , r dapat diselesaikan maka akan menghasilkan estimator


untuk j dengan j = 1, 2, . . . , r.
Contoh 2.10
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi N (, 2 )
dengan dan 2 tidak diketahui. Dengan menggunakan metode momen
diperoleh sistem persamaan
Pn
i=1 Xi
= E[X] = ,
Pn n 2
i=1 Xi
= E[X 2 ] = Var(X) + (E[X])2 = 2 + 2 ,
n
P
2.
dan 2 = 1 n (Xi X)
sehingga menghasilkan estimator momen
=X
n

31

i=1

Contoh 2.11
Misalkan X1 , . . . , Xn variabel random saling bebas dan berdistribusi U (, )
dengan dan tidak diketahui. Dengan metode momen diperoleh sistem
persamaan
Pn
i=1 Xi
= E[X] = + ,
= X
2
Pn n 2
X
( )2 ( + )2
i
i=1
= X2 = E[X 2 ] = Var(X) + (E[X])2 =
+
,
n
12
4
sehingga diperoleh

+ = 2X
 2
( )2  2

=
=
X2 X
12
12
atau

+ = 2X

+ = S 12.
Akibatnya estimator momen untuk dan berturut-turut adalah

12
12

=X
S, = X +
S.
2
2
Terlihat bahwa estimator momen dari dan bukan merupakan fungsi dari
statistik cukup dari dan . Hal ini merupakan salah satu kekurangan
dari metode momen. Kekurangan lain dari metode ini adalah bahwa metode
ini tidak dapat digunakan bila momennya tidak ada seperti pada distribusi
Cauchy.

32

2.5

Kriteria Pemilihan Estimator : Pendekatan


Teori Keputusan

Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ), R dan diinginkan
untuk mengestimasi .
Definisi 2.6
Fungsi keputusan adalah fungsi terukur yang didefinisikan dari Rn ke R.
Nilai (x1 , x2 , . . . , xn ) dari pada dinamakan keputusan (decision).
Definisi 2.7
Untuk mengestimasi berdasarkan X1 , X2 , . . . , xn dan menggunakan keputusan . Fungsi kerugian (loss function) adalah fungsi non negatif dari dan
(x1 , x2 , . . . , xn ) yang menyatakan kerugian yang diakibatkan bila mengestimasi dengan (x1 , x2 , . . . , xn ).
Fungsi kerugian yang biasa digunakan adalah
L[; (x1 , x2 , . . . , xn )] = | (x1 , x2 , . . . , xn )|
atau secara umum
L[; (x1 , x2 , . . . , xn )] = | (x1 , x2 , . . . , xn )|k
untuk k > 0 atau L[; (x1 , x2 , . . . , xn )] fungsi konveks dari . Bentuk fungsi
kerugian yang biasa digunakan adalah
L[; (x1 , x2 , . . . , xn )] = ( (x1 , x2 , . . . , xn ))2 .
Definisi 2.8
Fungsi resiko (risk function) yang bersesuaian dengan L[; ] dan dinotasikan
dengan R[; ] didefinisikan sebagai
R[; ] = E[L(; (x1 , x2 , . . . , xn ))].
Hal itu berarti bahwa resiko dari fungsi keputusan yang diberikan adalah
rata-rata atau harapan jika fungsi keputusan tersebut digunakan.
Dua keputusan dan dikatakan ekuivalen bila
R[; ] = E[L(; (x1 , x2 , . . . , xn ))] = E[L(; (x1 , x2 , . . . , xn ))] = R[; ].
33

Dalam konteks estimasi titik, keputusan (x1 , x2 , . . . , xn ) dinamakan estimasi


dari dan kebaikannya ditentukan berdasarkan resiko R[, ].
Definisi 2.9
Estimator dari dikatakan admisible jika tidak ada estimator lain dari
sehingga untuk semua R[; ] R[; ] untuk semua .
Definisi 2.10
Kelas dari estimator D dikatakan essentially complete jika untuk sebarang
estimator dari tidak dalam D sehingga R[; ] R[; ] untuk semua
.
Hal itu berarti bahwa pencarian estimator dengan sifat-sifat optimal
membatasi perhatian kita pada kelas yang essentially complete dari estimatorestimator admisible. Apabila hal ini dikerjakan, maka muncul pertanyaan
: yang manakah dari kelas ini yang dapat dipilih sebagai suatu estimator
dari . Untuk itu dipilih estimator sehingga untuk sebarang estimator
lain dalam kelas dari semua . Sayangnya estimator yang demikian
tidak ada kecuali untuk kasus-kasus yang sederhana. Akan tetapi, jika kita
membatasi hanya pada kelas estimator tak bias dengan variansi berhingga
dan mengambil fungsi kerugian kuadrat maka R[; ] menjadi variansi dari
(x1 , x2 , . . . , xn ). Kriteria pemilihan di atas bersesuaian dengan pencarian
estimator UMVU.
Estimator yang meminimumkan hal-hal buruk yang terjadi pada kita
yaitu meminimumkan resiko maksimum atas . Jika estimator yang mempunyai sifat tersebut ada maka dinamakan estimator minimaks (minimax
estimator ). Untuk mencari estimator minimaks ini masih dibatasi pada kelas estimator yang essentially complete.
Definisi 2.11
Dalam kelas D yaitu semua estimator yang mempunyai sifat R[; ] berhingga
untuk semua , estimator dikatakan minimaks (minimax ) jika untuk
sebarang estimator yang lain berlaku sifat
sup{R[; ]; } sup{R[; ]; }.
Misalkan R dan adalah variabel random dengan fungsi kepadatan

34

probabilitas yaitu fungsi kepadatan probabilitas prior


Z
X
R() = E[R(; )] =
R[; ]()d atau
R[; ]().

Hal itu berarti bahwa R() adalah resiko rata-rata dari seluruh ruang parameter bila digunakan estimator .
Misalkan D2 adalah kelas semua estimator sehingga R() berhingga untuk suatu prior pada yang diketahui.
Definisi 2.12
Dalam kelas D2 , estimator dikatakan estimator Bayes (dalam teori keputusan dan berkaitan dengan fungsi kepadatan probabilitas prior pada )
jika R() R( ) untuk semua estimator yang lain.
Penentuan Estimator Bayes
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas f (x, ), R. Dalam hal ini digunakan fungsi kerugian kuadrat. Misalkan variabel random dengan fungsi kepadatan prior .
Akan ditentukan sehingga menjadi estimator Bayes dari dalam arti teori
keputusan.
Teorema 2.5
Estimasi Bayes dari yang bersesuaian dengan fungsi kepadatan probabilitas
pada sehingga
Z
f (x1 ; )f (x2 ; )()f (xn ; ) . . . d

dan

f (x1 ; )f (x2 ; )()f (xn ; ) . . . d

berhingga untuk setiap (x1 x2 , . . . , xn )t diberikan oleh


R
f (x1 ; )f (x2 ; )()f (xn ; ) . . . d
(x1 x2 , . . . , xn ) = R
f (x1 ; )f (x2 ; )()f (xn ; ) . . . d

asalkan kontinu.
Jika nilai pengamatan dari Xi adalah xi untuk i = 1, 2, . . . , n maka
akan ditentukan fungsi kepadatan probabilitas bersyarat dari bila diberikan
35

X1 = x1 , X2 = x2 , . . . , Xn = xn merupakan fungsi kepadatan posterior dari


. Fungsi kepadatan posterior dari adalah
h(|x) =

f (x; )()
f (x1 ; )f (x2 ; ) . . . f (xn ; )
=
h(x)
h(x)
f (x1 ; )f (x2 ; ) . . . f (xn ; )()
=
h(x)

dengan
h(x) =

f (x; )()d =

f (x1 ; )f (x2 ; ) . . . f (xn ; )()d

untuk kontinu.
Estimator Bayes untuk yaitu (x1 x2 , . . . , xn ) adalah harapan dari
berkaitan dengan fungsi kepadatan probabilitas posteriornya. estimator Bayes
yang lain dari adalah median dari h(|x) atau modus dari h(|x) jika ada.
Contoh 2.12
Misalkan variabel random saling bebas dari distribusi Binom(1, ) dengan
= (0, 1). Fungsi kepadatan probabilitas priornya dipilih berdistribusi
Beta(, ) dengan parameter dan yaitu
() =

( + ) 1
(1 )1
()()

untuk (0, 1). Akibatnya


Z
I1 =
f (x1 ; )f (x2 ; ) . . . f (xn ; )d

Z
P
( + ) 1 P xi
=
(1 )n xi 1 (1 )1 d

()() 0
Z
P
( + ) 1 P xi +1
=

(1 )+n xi 1 d
()() 0
P
P
( + ) ( + ni=1 xi )( + n ni=1 xi )
=
()()
( + + n)

36

dan
I1 =

f (x1 ; )f (x2 ; ) . . . f (xn ; )d


Z
P
( + ) 1 P xi
(1 )n xi 1 (1 )1 d
=

()() 0
Z
P
( + ) 1 P xi ++11

=
(1 )+n xi 1 d
()() 0
P
P
( + ) ( + ni=1 xi + 1)( + n ni=1 xi )
=
.
()()
( + + n + 1)

Diperoleh estimator Bayes adalah


R
f (x1 ; )f (x2 ; )()f (xn ; ) . . . d
(x1 x2 , . . . , xn ) = R
f (x1 ; )f (x2 ; )()f (xn ; ) . . . d

P
( + + n)( + ni=1 xi + 1)
P
=
( + + n)( + ni=1 xi )


P
P
( + + n) + ni=1 xi ( + ni=1 xi )
P
=
( + + n)( + + n)( + ni=1 xi )
P
+ ni=1 xi
.
=
++n

Bila = = 1 maka distribusi priornya merupakan distribusi seragam pada


(0,1) sehingga diperoleh estimator Bayes
P
1 + ni=1 xi
.
(x1 x2 , . . . , xn ) =
2+n
Penentuan estimator Minimaks
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ), R dan fungsi kepadatan probabilitas prior pada . Fungsi kepadatan probabilitas posterior dari diberikan
X = (X1 , X2 , . . . , Xn )t = (x1 , x2 , . . . , xn )t dinyatakan dengan
h(|x) =

f (x1 ; )f (x2 ; ) . . . f (xn ; )


.
h(x)

Telah diperoleh bahwa estimator Bayes dari dalam arti teori keputusan
diberikan dengan
Z
(x1 , x2 , . . . , xn ) =
h(|x)d

37

asalkan kontinu.
Teorema 2.6
Misalkan terdapat fungsi kepadatan probabilitas pada sehingga untuk
estimasi Bayes yang didefinisikan dengan
R
f (x1 ; )f (x2 ; )()f (xn ; ) . . . d
(x1 x2 , . . . , xn ) = R
f (x1 ; )f (x2 ; )()f (xn ; ) . . . d

dan resiko R[; ] tidak tergantung pada . Estimator (x1 x2 , . . . , xn ) merupakan estimator minimaks.
Contoh 2.12
Misalkan X1 , . . . , Xn variabel random saling bebas dari distribusi Binom(1, )
dengan = (0, 1). Fungsi kepadatan
probabilitas priornya dipilih berdisPn
tribusi Beta(, ). Jika X =
i=1 Xi maka X berdistribusi Binom(n, )
sehingga E[X] = n dan Var(X) = n(1 ) serta
E[X 2 ] = Var(X) + (E[X])2 = n(1 ) + (n)2 = n(1 + n).
Bila

P
+ ni=1 Xi
+X
(x1 x2 , . . . , xn ) =
=
++n
++n

digunakan untuk mengestimasi maka akan mempunyai resiko


h
R[, ] = E

X + i
n++
h (n + + ) (X + ) i2
=E
n++
(n + + )2 2 2(n + + )E[X + ] + E[X + ]2
=
(n + + )2
2
(n + 2n + 2n + ( + )2 )2 2(n + + )(n + ) + E[X 2 ] + 2E[X] + 2
=
(n + + )2
2 2
2
2
( + ) n 2 2 + n n 2 + n2 2 + 2
=
(n + + )2
2 2
2
( + ) n 22 2 + n + 2
=
(n + + )2
2
2
[( + ) n] [22 + 2 n] + 2
.
=
(n + + )2

Bila = =

1
n
2

dan misalkan hasil estimasi dari maka (+)2 n = 0


38

dan 22 + 2 n = 0 sehingga

2
1
(1/4)n
2 =
.
R(, ) =
=
2
(n + + )
(n + n)
4(1 + n)2

Karena R(, ) tidak tergantung pada maka


Pn

1
n
+
2 nX
+1
i=1 xi

=
(x1 x2 , . . . , xn ) =
n+n
2( n + 1)
merupakan estimator minimaks.
Contoh 2.13
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dari distribusi N (, 2 )
dengan 2 diketahui dan = . Estimator x merupakan estimator UMVU
untuk tetapi juga merupakan estimator minimaks dan estimator yang admisible.
Contoh 2.14
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dari distribusi N (0, 2 )
dengan 2 tidak diketahui. Misalkan 2 = . Estimator UMVU untuk
adalah
n
1X 2
U=
X
n i=1 i
2

dan variansinya adalah 2n yaitu R(; U ) = 2n .


Misalkan estimatornya adalah = U . Resiko yang terjadi jika digunakan untuk mengestimasi adalah
R(; ) = E[U ]2
= E[(U ) + ( 1)]2
= 2 E[U ]2 + 2( 1)E(u ) + E[( 1)2 2 ].
Karena U estimator tak bias untuk maka E[U ] = sehingga E(U ) = 0
2
dan akibatnya E[U ]2 = E[U E(U )]2 = Var(U ) = 2n . Hal itu berarti
R(, ) = 22

+ 0 + ( 1)2 2
n

2
(22 + n2 2n + n)
n
2
=
[(n + 2)2 2n + n].
n
=

39

2
n
akan meminimumkan resiko dan resikonya sama dengan n+2
Nilai = n+2
2
yang lebih kecil dari 2n untuk semua . Akibatnya U tidak admisible yaitu
resikonya bukan yang terkecil.

2.6

Sifat-sifat Optimal secara Asimptotik dari


Estimator

Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ), R.
Definisi 2.12
Barisan estimator dari , {Vn } = {Vn (X1 , X2 , . . . , Xm )} dikatakan konsisten dalam probabilitas (konsisten lemah) jika
Vn
untuk n dan untuk semua . Demikian juga barisan estimator
dari , dikatakan konsiten hampir pasti (konsisten kuat) jika
Vn
untuk n dan untuk semua .
Teorema 2.7
Jika E[Vn ] dan Var(Vn ) untuk n maka Vn .
Definisi 2.13
Barisan estimator dari , yang sudah dinormalkan dikatakan normal secara
asimptotik ke N (0, 2 ()) jika

n(Vn ) d X
untuk n dan untuk semua dengan X berdistribusi normal
N (0, 2 ()) (di bawah P ).
Sifat
Jika

n(Vn ) N (0, 2 () untuk n maka Vn untuk n .


40

Definisi 2.14
Barisan estimator , dikatakan BAN (best asimptotically normal ) jika
1. estimator tersebut normal secara asimptotik.
2. variansi 2 () dari distribusi normal limitnya terkecil untuk semua
dalam kelas semua barisan estimator yang memenuhi (1).
Barisan estimator BAN juga dinamakan efisien secara asimptotik.
Teorema 2.8
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ) dengan R. Jika syarat-syarat 1 sampai 6
pada pasal 2.2 dipenuhi, maka persamaan likelihood

ln L(|x1 , x2 , . . . , xn ) = 0

mempunyai akar n = (X1 , X2 , . . . , Xn ) untuk setiap n, sehingga barisan


{n } dari estimator adalah BAN dan variansi dari distribusi normal limitnya
sama dengan invers informasi Fishernya yaitu
I() = E

h ln f (x; ) i2

dengan X mempunyai distribusi di atas.


Contoh 2.15

Misalkan X1 , . . . , Xn variabelP
random saling bebas berdistribusi Binom(1, ).
1

MLE dari adalah X = n ni=1 Xi dan dinotasikan dengan Xn . Dengan


menggunakan Hukum Bilangan Besar Kuat (Strong Law of Large Number SLLN ) dan Hukum Bilangan Besar Lemah (Weak Law of Large Number WLLN ) diperoleh

n(Xn ) N (0, I 1 ())


1
dengan I() = (1)
. Akibatnya dengan menggunakan Teorema Limit Pusat
(Central Limit Theorema) diperoleh bahwa

n(X )
p n
(1 )

41

berdistribusi N (0, 1) secara asimptotik.


Contoh 2.16
Misalkan X1 , . . . , Xn variabel P
random saling bebas berdistribusi Poisson().
= 1 n Xi dan dinotasikan dengan Xn . DenMLE dari adalah X
i=1
n
gan menggunakan Hukum Bilangan Besar Kuat dan Hukum Bilangan Besar
mempunyai sifat konsisten kuat dan konsisten lemah serta denLemah, X

gan Teorema Limit Pusat, n(Xn ) berdistribusi normal secara asimptotik


dengan variansi sama dengan I 1 () = .
Contoh 2.17
Misalkan X1 , . . . , Xn variabel random saling bebas dengan distribusi N (, 2 )
dengan tidak diketahui sedangkan 2 diketahui. MLE untuk adalah
2
XP
diketahui maka MLE untuk 2 adalah
n . Jika tidak diketahui dan

n
1
2
n(Xn ) yang berdistribusi normal adalah
i=1 (Xi ) . Variansi dari
n
1
2
I () = . Limit variansi dari
n
i
h1 X
(Xi )2 2
n
n i=1
yang berdistribusi normal adalah I 1 ( 2 ) = 2 2 .

Definisi 2.15
Misalkan X1 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan
probabilitas f (x; ) dengan R. Dua barisan estimator
{Un } = {U (X1 , . . . , Xn }
dan {Un } = {U (X1 , . . . , Xn } dikatakan ekuivalen secara asimptotik jika untuk setiap berlaku sifat

n(Un Vn ) 0.
Contoh 2.18
Misalkan X1 , . . . , Xn variabel random saling bebas berdistribusi Binom(1, ).
Estimator UMVU untuk adalah
n
X
= 1
Xi .
Un = Xn = X
n =1
42

Estimator ini juga merupakan MLE. Akan tetapi estimator Bayes untuk
dengan fungsi kepadatan probabilitas prior Beta(, ) adalah
P
+ ni=1 Xi
n++
dan estimator minimaksnya adalah

Wn =

n
2

P
+ ni=1 Xi

.
n+ n

Dengan menggunakan Teorema Limit Pusat

n(Un ) Z
dengan Z N (0, (1 )). Dapat juga ditunjukkan bahwa

n(Un Vn ) 0.

43

Brief History of Rao


C. R. Rao (b. 1920) Statistician. ASA MGP.
Rao is the most distinguished member of the Indian statistical school
founded by P. C. Mahalanobis and centred on the Indian Statistical Institute and the journal Sankhya. Raos first statistics teacher at the University
of Calcutta was R. C. Bose. In 1941 Rao went to the ISI on a one-year
training programme, beginning an association that would last for over 30
years. (Other ISI notables were S. N. Roy in the generation before Rao and
D. Basu one of Raos students.) Mahalanobis was a friend of Fisher and much
of the early research at ISI was closely related to Fishers work. Rao was sent
to Cambridge to work as PhD student with Fisher, although his main task
seems to have been to look after Fishers laboratory animals! In a remarkable
paper written before he went to Cambridge, Information and the accuracy
attainable in the estimation of statistical parameters, Bull. Calcutta Math.
Soc. (1945) 37, 81-91 Rao published the results now known as the Cramr-Rao
inequality and the Rao-Blackwell theorem. A very influential contribution
from his Cambridge period was the score test (or Lagrange multiplier test),
which he proposed in 1948. Rao was influenced by Fisher but he was perhaps
as influenced as much by others, including Neyman. Rao has been a prolific contributor to many branches of statistics as well as to the branches of
mathematics associated with statistics. He has written 14 books and around
350 papers. Rao has been a very international statistician. He worked with
the Soviet mathematicians A. M. Kagan and Yu. V. Linnik (LP) and since
1979 he has worked in the United States, first at the University of Pittsburgh
and then at Pennsylvania State University. He was elected to the UK Royal
Society in 1967 and he received the US National Medal of Science in 2002.
See ET Interview: C. R. Rao and ISI interview. For a general account of
Statistics in India, see B. L. S. Prakasha Raos About Statistics as a Discipline
in India.

44

Brief History of Neyman


Jerzy Neyman (1894-1981) Statistician. MacTutor References. NAS ASA
MGP. SC, LP.
Neyman was educated in the tradition of Russian probability theory
and had a strong interest in pure mathematics. His probability teacher at
Kharkov University was S. N. Bernstein. Like many, Neyman went into
statistics to get a job, finding one at the National Institute for Agriculture
in Warsaw. He appeared on the British statistical scene in 1925 when he
went on a fellowship to Pearsons laboratory. He began to collaborate with
Pearsons son Egon Pearson and they developed an approach to hypothesis
testing, which became the standard classical approach. Their first work was
on the likelihood ratio test (1928) but from 1933 they presented a general
theory of testing, featuring such characteristic concepts as size, power, Type
I error, critical region and, of course, the Neyman-Pearson lemma. More
of a solo project was estimation, in particular, the theory of confidence intervals. In Poland Neyman worked on agricultural experiments and he also
contributed to sample survey theory (see stratified sampling and Neyman allocation). At first Neyman had good relations with Fisher but their relations
began to deteriorate in 1935; see Neyman in A Guide to R. A. Fisher. From
the late 1930s Neyman emphasised his commitment to the classical approach
to statistical inference. Neyman had moved from Poland to Egon Pearsons
department at UCL in 1934 but in 1938 he moved to the University of California, Berkeley. There he built a very strong group which included such
notable figures as David Blackwell, J. L. Hodges, Erich Lehmann, Lucien Le
Cam (memorial) and Henry Scheff.

45

Chapter 3
Pengujian Hipotesis
Dalam seluruh bab ini X1 , X2 , . . . , Xn adalah variabel random saling bebas
dan berdistribusi identik yang didefinisikan pada ruang probabilitas (S, F, P ),
Rr dan mempunyai fungsi kepadatan probabilitas f (x; ).

3.1

Konsep Umum dari Pengujian Hipotesis


Neyman-Pearson

Berikut ini diberikan definisi tentang hipotesis yang mendasari bab ini.
Definisi 3.1
Suatu pernyataan berkenaan dengan parameter seperti dinamakan hipotesis (statistik) tentang dan biasanya dinotasikan dengan H
atau H0 . Demikian juga pernyataan bahwa c dengan c = adalah
hipotesis (statistik) tentang yang dinamakan alternatif dari H atau ditulis
dengan A atau Ha . Hal itu berarti H(H0 ) : c .
Seringkali hipotesis berasal dari klaim bahwa produk baru, teknik baru
dan sebagainya lebih effisien dari yang telah ada. dalam konteks ini H
atau H0 adalah suatu pernyataan yang meniadakan klaim ini dan dinamakan
hipotesis nul (null hypothesis).
Jika mengandung hanya satu titik yaitu = {0 } maka H dinamakan
hipotesis sederhana (simple hypothesis) dan jika mengandung lebih dari satu
titik maka dinamakan hipotesis komposit (composite hypothesis). Hal yang
sama juga berlaku untuk alternatif. Bila hipotesis dibuat maka akan muncul
masalah bagaimana menguji hipotesis berdasarkan pada nilai-nilai pengamatan.

46

Definisi 3.2
Uji random atau statistik (fungsi uji atau test function) untuk pengujian
hipotesis H melawan alternatif A adalah fungsi terukur yang didefinisikan
pada Rn ke [0, 1] dan mempunyai interpretasi berikut ini. Jika (x1 , x2 , . . . , xn )t
adalah nilai pengamatan dari (X1 , X2 , . . . , Xn )t dan
(x1 , x2 , . . . , xn ) = y
maka hal ini dapat digambarkan sebagai suatu koin, yang mempunyai probabilitas untuk mendapatkan muka sebesar y, dilempar satu kali dan bila
memperoleh muka maka H akan ditolak dan bila memperoleh belakang
maka H akan diterima. Dalam kasus khusus, y dapat bernilai 0 atau 1 untuk semua (x1 , x2 , . . . , xn )t sehingga uji dinamakan uji yang tidak random
(non randomized test). Hal itu berarti uji non random berbentuk

1 jika (x1 , x2 , . . . , xn )t B
(x1 , x2 , . . . , xn ) =
0 jika (x1 , x2 , . . . , xn )t B c
Dalam hal ini, himpunan Borel B Rn dinamakan daerah kritik (daerah
penolakan - rejection region) dan B c dinamakan daerah penerimaan (acceptance region). Dalam pengujian hipotesis, kita dapat menghilangkan salah
satu dari 2 jenis kesalahan berikut yaitu kesalahan yang terjadi karena H
ditolak padahal H benar yaitu parameter yang tidak diketahui terletak
dalam atau kesalahan yang terjadi karena menerima H padahal H salah.
Definisi 3.3
Misalkan () = P [MenolakH] sehingga
1 () = P [MenerimaH]
dengan . Hal itu berarti bahwa () dengan adalah probabilitas
untuk menolak H di bawah anggapan H benar.
Untuk , () adalah probabilitas kesalahan tipe I. Besaran
1 ()
dengan c adalah probabilitas menerima H yang dihitung di bawah
anggapan H salah. Jadi untuk c , 1 () menyatakan probabilitas
kesalahan tipe II.
Jelas bahwa, merupakan batas atas terkecil dari probabilitas kesalahan
tipe I. Diinginkan untuk membuat sekecil mungkin (lebih disukai 0) dan
47

pada saat yang sama membuat kuasanya sebesar mungkin (lebih disukai
1). Tentu saja, memaksimumkan kuasa ekuivalen dengan memaksimumkan
probabilitas kesalahan tipe II. sayangnya, dengan ukuran sampel yang tetap,
hal ini tidak dapat dilakukan. hal yang dapat dilakukan adalah memilih
ukuran tertentu untuk tingkat keberartian yang diperlukan (biasanya diambil
0,005; 0,001; 0,05 atau 0,1) dan mencari uji yang memaksimumkan kuasa.
Dengan anggapan bahwa kerugian potensial berkenaan dengan keputusan
yang salah, pembuat keputusan merupaka seorang yang konservatif yang
menyokong hipotesis nol sebagai kebenaran dan jika tidak demikian maka
haruslah ada fakta-fakta dari data bahwa hal tersebut salah. Dalam hal ini,
dia percaya bahwa akibat kesalahan penolakan hipotesis nol akan jauh lebih
buruk dari pada kesalahan yang diakibatkan oleh menerimanya.
Sebagai contoh, perusahaan obat menganggap bahwa pasar obat produk baru untuk menyembuhkan penyakit dibandingkan obat yang telah ada
mempunyai tingkat penyembuhan sebesar 60%. Berdasarkan pada percobaan
terbatas, divisi penelitian mengklaim bahwa obat baru lebih efektif. Jika
obat tersebut gagal lebih efektif atau mempunyai efek samping yang membahayakan, maka akan kehilangan pelanggan yang disebabkan oleh kekunoan
produk akan lebih kecil pengaruhnya dibandingkan dengan kegagalan yang
diakibatkan oleh ketidak-efektifan obat yang baru. Untuk itu, jika keputusan
dibuat berdasarkan pada sejumlah percobaan klinis maka hipotesis nol seharusnya adalah bahwa tingkat penyembuhan tidak lebih dari 60% melawan
alternatif bahwa tingkat penyembuhannya lebih dari 60%.
Perlu dicatat bahwa dalam uji non random dengan daerah kritik B diperoleh
() = P [(x1 , x2 , . . . , xn )t B]
= 1.P [(x1 , x2 , . . . , xn )t B] + 0.P [(x1 , x2 , . . . , xn )t B c ]
= E [(x1 , x2 , . . . , xn )].
Hal yang sama juga dapat dikerjakan untuk uji non random. Jadi
() = () = E [(x1 , x2 , . . . , xn )], .

Definisi 3.4
Uji tingkat yang memaksimumkan kuasa uji diantara semua uji tingkat
dikatakan uji paling kuasa seragam (uniformly most powerful - UMP ).
Jadi adalah uji UMP tingkat jika
48

1. sup[ ()| ] = .
2. () (), c untuk sebarang uji yang memenuhi (1).
Jika c hanya terdiri dari satu titik maka UMP hanya dinamakan uji paling
kuasa (most powerful - MP ).

3.2

Pengujian Hipotesis Sederhana Melawan


Alternatif Sederhana

Dalam kasus ini, ruang parameter hanya terdiri dari 2 titik yang dapat dituliskan sebagai 0 dan 1 yaitu
= {0 , 1 }.
Misalkan f0 dan f1 fungsi kepadatan probabilitas yang diketahui. Misalkan
dituliskan f0 = f (x; 0 ), dan X1 , X2 , . . . , Xn variabel random saling bebas
dengan fungsi kepadatan probabilitas f (x; ), .
Akan dilakukan pengujian hipotesis H : = {0 } melawan alternatif
A : = {1 } pada level . Dengan kata lain akan diuji hipotesis bahwa
populasi berdistribusi f0 melawan f1 .
Teorema 3.1
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ), = {0 , 1 }. Akan diuji hipotesis H : 0
melawan alternatif A : = 1 pada level (0 < < 1). Misalkan
R(z; 0 , 1 ) =

f (x1 ; 1 )f (x2 ; 1 ) . . . f (x2 ; 1 )


f (x1 ; 0 )f (x2 ; 0 ) . . . f (x2 ; 0 )

dan uji yang didefinisikan sehingga

1 jika R(z; 0 , 1 ) > c


jika R(z; 0 , 1 ) = c
(x1 , x2 , . . . , xn ) =

0 jika R(z; 0 , 1 ) < c

(3.2.1)

dengan konstan (0 1) dan c ditentukan sehingga


E0 [(x1 , x2 , . . . , xn ].

(3.2.2)

Untuk menguji hipotesis H melawan A pada tingkat digunakan uji seperti


(3.2.1) dan (3.2.2) merupakan uji UMP.
49

Akibat 3.1
Jika didefinisikan seperti (3.2.1) dan (3.2.2) maka () . Dalam
contoh-contoh berikut, = {0 , 1 } dan akan diuji hipotesis sederhana
melawan alternatif sederhana dengan tingkat keberartian .

Contoh 3.1
Misalkan X1 , X2 , . . . , Xn sampel random dari populasi yang berdistribusi
Binom(1, ). Berdasarkan sampel tersebut akan diuji hipotesis H : = 0
melawan alternatif A : = 1 pada level dengan anggapan 0 < 1 . Diperoleh
f (x1 ; 1 )f (x2 ; 1 ) . . . f (x2 ; 1 )
f (x1 ; 0 )f (x2 ; 0 ) . . . f (x2 ; 0 )
x1 (1 1 )1x1 1x2 (1 1 )1x2 . . . 1xn (1 1 )1xn
= 1x1
0 (1 0 )1x1 0x2 (1 0 )1x2 . . . 0xn (1 0 )1xn
 Pni=1 xi  1 nPni=1 xi
1
1
=
0
1 0

R(z; 0 , 1 ) =

sehingga
ln R(z; 0 , 1 ) =

n
X
i=1

Xi ln

 
1

50

+ n

n
X
i=1

 1 
1
Xi ln
.
1 0

Karena 0 < 1 maka R(z; 0 , 1 ) > c ekuivalen dengan


n
X
i=1

ln R(z; 0 , 1 )
  
 1 
1
1
Xi ln
+ n
Xi ln
0
1 0
i=1
h



X
1
1 1 i
Xi ln
ln
0
1 0
i=1
n
h  (1 ) i
X
1
0
Xi ln

(1

0
1)
i=1
n
X

n
X

Xi

i=1

n
X

> ln c
> ln c
> ln c n ln
> ln c n ln

1 
1

1 0

1 
1

1 0



11
ln c n ln 1
0
i
> h 
1 (10 )
ln 0 (11 )

Xi > c 0

i=1

dengan



11
ln c n ln 1
0

 .
c0 =
1 (10 )
ln 0 (11 )

Hal itu berarti uji MP dinyatakan sebagai

Pn
1 jika Pi=1 Xi > c0
jika Pni=1 Xi = c0
(z) =

n
0 jika
i=1 Xi < c0
dengan c0 dan ditentukan sehingga
E0 [(z)] = P0

n
hX
i=1

Pn

Xi > c0 + P0

n
hX
i=1

i
Xi = c 0 =

dan i=1 Xi Binom(n, i ) untuk i = 0, 1.


Sebagai gambaran, misalkan akan diuji hipotesis H : = 0, 5 melawan
A : = 0, 75 dengan = 0, 05 dan n = 25. Dalam hal ini, c0 dan
ditentukan sehingga
P 0 (
1 P 0 (

n
X

i=1
n
X
i=1

Xi > c0 ) + P0 (
Xi c0 ) + P0 (
51

n
X

i=1
n
X
i=1

Xi = c0 ) = 0, 05
Xi = c0 ) = 0, 05

1 0, 05 = P0 (
0, 95 = P0 (

n
X
i=1

n
X
i=1

Karena 0 dan P0 (
sehingga haruslah

Pn

i=1

Xi c0 ) + P0 (
Xi c0 ) + P0 (

n
X

Xi = c 0 )

i=1

n
X

Xi = c0 ).

i=1

Xi = c0 ) 0 maka P0 (

P 0 (

n
X
i=1

Pn

i=1

Xi = c 0 ) 0

Xi c0 ) 0, 95.

P
Untuk itu dipilih c0 sehingga P0 ( ni=1 Xi c0 ) 0, 95 tetapi paling dekat
dengan 0, 95. Berdasarkan Tabel P
kumulatif distribusi Binom(25, 0, 5) diperoleh bahwa c0 = 17 sehingga P0 ( ni=1 Xi c0 ) dan berlaku
P 0 (

n
X

Xi = c 0 ) = P 0 (

i=1

n
X
i=1

Xi 17) P0 (

n
X
i=1

Xi 16)

= 0, 9784 0, 9461 = 0, 0323.

Akibatnya
0, 95 = P0 (

n
X
i=1

Xi 17) P0 (

= 0, 9784 0, 0323
diperoleh = 0, 8792. Oleh karena

1
0, 8792
(z) =

Kuasa dari uji tersebut adalah


P=0,75 (

n
X
i=1

dengan

Pn

i=1

n
X

Xi = 17)

i=1

itu uji UMP menjadi


P
jika Pni=1 Xi > 17
jika Pni=1 Xi = 17
n
jika
i=1 Xi < 17.

Xi 17) + P=0,75 (

n
X
i=1

Xi 17)

Xi Binom(25, 0, 75).

Contoh 3.2
Misalkan X1 , . . . , Xn sampel random dari populasi yang berdistribusi Poisson().
52

Berdasarkan sampel tersebut akan diuji hipotesis H : = 0 melawan alternatif A : = 1 pada level dengan anggapan 0 < 1 . Diperoleh
f (x1 ; 1 )f (x2 ; 1 ) . . . f (x2 ; 1 )
f (x1 ; 0 )f (x2 ; 0 ) . . . f (x2 ; 0 )

R(z; 0 , 1 ) =

1 1 e1 1 2 e1
x1 !
x2 !
x
x
0 1 e0 0 2 e0
x1 !
x2 !
 Pni=1 xi
0

=
=

ln R(z; 1 , 0 ) =

...

1xn e1
xn !
0xn e0
xn !

exp n(1 0 )

sehingga

...

n
X

ln

i=1

 
0

n(1 0 ).

Karena R(z; 1 , 0 ) > c maka ln R(z; 1 , 0 ) > ln c sehingga


n
X

xi ln

i=1

n
X
i=1

xi ln

 
0

 
0

n(1 0 ) > ln c
n(1 0 ) > ln c + n(1 0 )

n
X

xi ln

i=1

Karena 0 < 1 maka 1 <

1
0

n
X

gai

Pn

i=1

> ln[c exp(n(1 0 ))].

sehingga ln 01 > 0. Akibatnya

xi >

i=1

atau

 

xi > c0 dengan c0 =

ln[c exp(n(1 0 ))]


 
ln 10

ln[c exp(n(
 10 ))]
ln

0
1

1 jika
jika
(z) =

0 jika

dengan c0 dan ditentukan sehingga


E0 ((z)) = P0 (

n
X

. Uji UMP didefinisikan seba-

Pn
Xi > c 0
Pi=1
n
Pni=1 Xi = c0
i=1 Xi < c0 .

xi > c0 ) + P0

i=1

n
X
i=1

53


xi = c 0 =

P
dan ni=1 Xi Poisson(ni ) untuk i = 0, 1.
Sebagai gambaran, misalkan akan diuji hipotesis H : = 0, 3 melawan
A : = 0, 4 dengan = 0, 05 dan n = 20. Diperoleh
E0 ((z)) = P0 (

n
X

xi > c0 ) + P0 (

i=1

n
X

xi = c0 ) = 0, 05

i=1

sehingga
1 P 0 (
1 0, 05 = P0 (
0, 95 = P0 (

n
X

i=1
n
X

i=1
n
X
i=1

xi c0 ) + P0 (

n
X

xi c0 ) P0 (
xi c0 ) P0 (

Pn

i=1
n
X

i=1
n
X

xi = c0 ) = 0, 05
xi = c 0 )
xi = c0 ).

i=1

Karena 0 dan P0 ( i=1 xi = c0 ) 0 maka P0 (


Untuk itu dipilih c0 sehingga
P 0 (

n
X
i=1

Pn

i=1

xi = c0 ) 0.

xi = c0 ) 0, 95

tetapi paling dekat dengan 0, 95. Berdasarkan Tabel Kumulatif distribusi


Poisson dengan mean 20(0, 3) = 6 diperoleh c0 = 10 sehingga
P(

n
X
i=1

xi 10)

dan
P(

n
X
i=1

xi = 10) = P (

n
X
i=1

xi 10) P (

n
X
i=1

xi 9)

= 0, 9574 0, 9161 = 0, 0413.

Oleh karena itu ditentukan sehingga 0, 9574 0, 0413 atau = 0, 1791. Uji
UMP menjadi

P
jika Pni=1 Xi > 10
1
0, 1791 jika Pni=1 Xi = 10
(z) =

n
0
jika
i=1 Xi < 10.
54

Kuasa ujinya adalah


P=0,4 (

n
X

xi > 10) + 0, 1791P=0,4(

i=1

n
X

xi = 10) = 0, 2013.

i=1

Contoh 3.3
Misalkan X1 , . . . , Xn sampel random dari populasi yang berdistribusi N (, 1).
Berdasarkan sampel tersebut akan diuji hipotesis H : = 0 melawan alternatif A : = 1 pada level dengan anggapan 0 < 1 . Diperoleh
f (x1 ; 1 )f (x2 ; 1 ) . . . f (x2 ; 1 )
f (x1 ; 0 )f (x2 ; 0 ) . . . f (x2 ; 0 )






(x2 1 )2
(x2 1 )2
(xn 1 )2
1 exp
1 exp
1 exp
.
.
.
2
2
2
2
2
2






=
2
2
(x2 0 )
(x2 0 )
(xn 0 )2
1 exp
1 exp
1 exp
.
.
.
2
2
2
2
2
2


P
exp 12 ni=1 (xi 1 )2


=
Pn
1
2
exp 2 i=1 (xi 0 )

R(z; 0 , 1 ) =

= exp

n
1 X

sehingga ln R(z; 1 , 0 ) =

i=1
1
2

[(xi 0 ) (xi 1 ) ]

Pn

i=1 [(xi

0 )2 (xi 1 )2 ] atau

1X 2
[x 20 xi + 02 (x2i 21 xi + 12 )]
ln(R(z; 1 , 0 ) =
2 i=1 i
n

1X
[2(0 1 )xi + 02 12 ]
=
2 i=1

= (1 0 )

n
X
i=1

1
xi + n(02 12 ).
2

Hal itu berarti R(z; 1 , 0 ) > c akan ekuivalen dengan ln R(z; 1 , 0 ) > ln c

55

yaitu
(1 0 )

n
X
i=1

1
xi + n(02 12 ) > ln c
2
(1 0 )
(1 0 )

n
X
i=1

n
X

i=1
n
X

1
xi > ln c + n(02 12 )
2
1
xi > ln c + n(1 0 )(1 + 0 )
2

ln c
1
+ n(1 0 )(1 + 0 )
1 0 2
i=1
1  ln c
n(1 + 0 ) 
.
+
x >
n 1 0
2


> c0 dengan c0 = 1 ln c + n(1 +0 ) . Uji UMP adalah
Berarti X
n 1 0
2
(z) =

xi >

> c0
1 jika X
0 yang lain

dengan c0 ditentukan sehingga


> c0 ) =
E0 [(z)] = P0 (X
N (i , 1 ) untuk i = 0, 1.
dan X
n
Sebagai gambaran, akan diuji hipotesis = 1 melawan A : = 1 dengan
= 0, 001 dan n = 9. Diperoleh
> c0 ) =
P=1 (X
=
=
=

(1)) > 3(c0 (1))]


P=1 [3(X
(1)) > 3(c0 (1))]
P=1 [3(X
+ 1) > 3(c0 + 1)]
P=1 [3(X
P=1 [N (0, 1) > 3(c0 + 1)]

sehingga c0 = 0, 03. Oleh karena itu uji UMP adalah



> 0, 03
1 jika X
(z) =
0 yang lain
Kuasa ujinya adalah
> 0, 03) = P=1 (3(X
1) > 3(0, 03 1))
P=1 (X
= P=1 (N (0, 1) > 2, 91) = 0, 9932.
56

Contoh 3.4
Misalkan X1 , . . . , Xn sampel random dari populasi yang berdistribusi N (0, ).
Berdasarkan sampel tersebut akan diuji hipotesis H : = 0 melawan alternatif A : = 1 pada level dengan anggapan 0 < 1 . Diperoleh
R(z; 0 , 1 ) =
=

f (x1 ; 1 )f (x2 ; 1 ) . . . f (x2 ; 1 )


f (x1 ; 0 )f (x2 ; 0 ) . . . f (x2 ; 0 )
1
21

x2

x2

x2

x2

xn
1
1
exp[ 211 ] 2
exp[ 221 ] . . . 2
exp[ 2
]
1
1
1

xn
1
1
exp[ 210 ] 2
exp[ 220 ] . . . 2
exp[ 2
]
0
0
0


Pn 2
 n/2 exp 21
i=1 xi
1
0

=
Pn 2 
1
1
exp 20 i=1 xi
1
20

 n/2

n
 1
1  X 2i
x

exp
1
21 20 i=1 i
n
h  X
i
 n/2
0
1
0
x2i .
exp
=
1
21 0 i=1

Akibatnya

n
1 0 X 2 1  0 
x + ln
ln R(z; 1 , 0 ) =
20 1 i=1 i 2
1

sehingga R(z; 1 , 0 ) > c dan mengakibatkan ln R(z; 1 , 0 ) > ln c yaitu


n
1 0 X 2 1  0 
x + ln
> ln c
20 1 i=1 i 2
1

n
1 0 X 2
1  0 
xi > ln c ln
20 1 i=1
2
1
n
1  1 
1 0 X 2
xi > ln c + ln
20 1 i=1
2
0
r
n

1 0 X 2
1 
x > ln c
20 1 i=1 i
0
n
 r 
X
20 1
1
2
xi >
ln c
.

1
0
0
i=1

57

Berarti

Pn

2
i=1 xi

> c0 dengan c0 =
(z) =

20 1
1 0

 q 
ln c 10 . Uji UMP menjadi

Pn 2
1 jika
i=1 xi > c0
0 yang lain

dengan c0 ditentukan sehingga


E0 [(z)] = P0

n
X

x2i

> c0 =

i=1

P
dan 1 ni=1 Xi2 2n untuk i = 0, 1.
Sebagai gambaran, akan diuji hipotesis H : = 4 melawan A : = 16
dengan = 0, 01 dan n = 20. Akan ditentukan c0 sehingga
P 0

n
X

x2i

> c0 = 0, 01

i=1

yaitu
P 0

n
X
i=1

n

1 X
1 
x2i > c0 = 0, 01.
x2i > c0 = P0
4 i=1
4

Berdasarkan Tabel distribusi chi-kuadrat dengan derajat bebas 20 diperoleh


c0 /4 = 37, 566 atau c0 = 150, 264. Akibatnya, uji UMP menjadi

Pn 2
1 jika
i=1 xi > 150, 264
(z) =
0 yang lain
dan kuasa ujinya adalah
P=16

n
hX
i=1

3.3

x2i > 150, 264

= P=16

n
h1 X
150, 264 i
x2i >
16 i=1
16

= 0, 977.

Uji UMP untuk Pengujian Hipotesis Komposit

Sebagian besar masalah praktis, paling sedikit salah satu merupakan hipotesis komposit. Misalkan variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ), R,
g(z; ) = f (x1 ; )f (x2 ; ) . . . f (xn ; )
58

dengan z = (x1 , x2 , . . . , xn )t dan Z = (X1 , X2 , . . . , Xn )t .


Definisi 3.5
Keluarga {g(x; )| } dikatakan mempunyai sifat MLR (monoton likelihood ratio) dalam V jika himpunan z sehingga g(z; ) > 0 tidak tergantung
pada dan terdapat fungsi terukur V yang didefinisikan dari Rn ke R, sehingga bila , 0 dengan < 0 maka berlaku sifat :
1. g(x; ) dan g(x; 0 ) berbeda.
2. g(x; 0 )/g(x; 0 ) fungsi naik dari V (z).
Keluarga terpenting dari fungsi kepadatan probabilitas yang mempunyai sifat
MLR adalah keluarga eksponensial 1 parameter.
Proposisi 3.1
Misalkan keluarga eksponensial
f (x; ) = C() exp[Q()T (x)]h(x)
dengan C() > 0 untuk semua R dan himpunan positif dari h
tidak tergantung pada . Jika Q fungsi naik maka keluarga
{g(x; )| }
Pn
mempunyai sifat MLR dalam V dengan V (z) =
T
(X
i ) dan g(x; )
i=1
dinyatakan dengan
g(z; ) = f (x1 ; )f (x2 ; ) . . . f (xn ; ).
Jika Q fungsi turun maka keluarga {g(x; )| } mempunyai sifat MLR
dalam V 0 = V .
Teorema 3.2
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ), mempunyai sifat MLR dalam V dengan
g(x; ) didefinisikan sebagai
g(z; ) = f (x1 ; )f (x2 ; ) . . . f (xn ; ).
Misalkan 0 dan = { | 0 }. Untuk pengujian hipotesis
komposit H : melawan alternatif pada tingkat keberartian maka
59

terdapat uji yang merupakan uji UMP dalam kelas semua uji yang mempunyai tingkat keberartian lebih kecil atau sama dengan . Dalam kasus LR
(likelihood ratio) dalam V (z), uji yang digunakan adalah

1 jika V (z) > c


jika V (z) = c
(z) =

0 jika V (z) < c


dengan c dan ditentukan sehingga

E0 [(z)] = P0 (V (z) > c) + P0 (V (z) = c) = .


Jika LR turun dalam V (z) maka ujinya digunakan

1 jika V (z) < c


jika V (z) = c
(z) =

0 jika V (z) > c


dengan c dan ditentukan sehingga

E0 [(z)] = P0 (V (z) < c) + P0 (V (z) = c) = .

Akibat 3.2
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas dapat dinyatakan sebagai
f (x; ) = C() exp[Q()T (x)]h(x)
dengan Q fungsi naik/turun tajam. Untuk pengujian hipotesis
H : = { | 0 }
melawan alternatif A : c . Dengan tingkat keberartian maka uji UMP
dalam kelas semua uji tingkat lebih kecil atau sama dengan . Jika Q naik
maka digunakan uji

1 jika V (z) > c


(z) =
jika V (z) = c

0 jika V (z) < c


dengan c dan ditentukan sehingga

E0 [(z)] = P0 (V (z) > c) + P0 (V (z) = c) = .


60

Sebaliknya, jika Q turun maka digunakan

1 jika
jika
(z) =

0 jika

uji
V (z) < c
V (z) = c
V (z) > c

dengan c dan ditentukan sehingga

E0 [(z)] = P0 (V (z) < c) + P0 (V (z) = c) = .


Demikian juga, untuk menguji hipotesis H : = { | 0 }
melawan alternatif A : c pada tingkat keberartian , terdapat uji yang
bersifat UMP di dalam kelas semua uji dari tingkat . Jika Q turun maka
digunakan uji

1 jika V (z) > c


jika V (z) = c
(z) =

0 jika V (z) < c


dengan c dan ditentukan sehingga

E0 [(z)] = P0 (V (z) > c) + P0 (V (z) = c) = .


Sebaliknya, jika Q naik digunakan uji

1 jika V (z) < c


jika V (z) = c
(z) =

0 jika V (z) > c


dengan c dan ditentukan sehingga

E0 [(z)] = P0 (V (z) < c) + P0 (V (z) = c) = .


Masalah penting lain adalah menguji
H : = { | 1

atau 2 }

melawan A : c dengan 1 , 2 dan 1 < 2 . Pendeknya, dapat


menyatakan dosis obat dan 1 , 2 adalah batas yang diperbolehkan. Jika
1 dosis yang diberikan tidak membahayakan namun tidak bermanfaat
sedangkan jika 2 dosis yang membahayakan. Jadi hipotesis tersebut
menyatakan bahwa obat dapat membahayakan atau tidak bermanfaat dan
diinginkan untuk menguji hipotesis tersebut. Jika distribusi anggapan dengan ukuran yang sesuai dianggap berbentuk eksponensial maka uji UMP ada.

61

Teorema 3.3
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ) dapat dinyatakan sebagai
f (x; ) = C() exp[Q()T (x)]h(x)
dengan Q fungsi monoton tajam dan R. Misalkan
= { | 1

atau 2 }

dengan 1 , 2 dan 1 < 2 . Uji hipotesis H : melawan alternatif


A : c adalah uji UMP . Jika Q fungsi naik maka dinyatakan dengan

1 jika c1 < V (z) < c2


i jika V (z) = ci (i = 1, 2)danc1 < c2
(z) =

0 yang lain

dengan c1 , c2 dan 1 , 2 ditentukan sehingga

E1 [(z)] = P1 (c1 < V (z) < c2 ) + 1 P1 (V (z) = c1 ) + 2 P1 (V (z) = c2 ) =


dan
E2 [(z)] = P2 (c1 < V (z) < c2 ) + 1 P2 (V (z) = c1 ) + 2 P2 (V (z) = c2 ) =
P
dengan V (z) = ni=1 T (Xi ).
Sebaliknya, jika Q fungsi naik maka dinyatakan dengan

1 jika V (z) < c1 atauV (z) > c2


i jika V (z) = ci (i = 1, 2)danc1 < c2
(z) =

0 yang lain
dengan c1 , c2 dan 1 , 2 ditentukan sehingga

E1 [(z)] = P1 (V (z) < c1 atauV (z) > c2 ) + 1 P1 (V (z) = c1 ) + 2 P1 (V (z) = c2 ) =

dan
E2 [(z)] = P2 (V (z) < c1 atauV (z) > c2 ) + 1 P2 (V (z) = c1 ) + 2 P2 (V (z) = c2 ) =

P
dengan V (z) = ni=1 T (Xi ). Dapat ditunjukkan bahwa fungsi () = E[(z)]
dengan merupakan fungsi naik untuk 0 dan turun untuk 0
dengan 1 < 0 < 2

62

Contoh 3.5
Misalkan X1 , . . . , Xn sampel random saling bebas dari distribusi Binom(1, )
dengan = (0, 1). Fungsi probabilitas dari X yang berdistribusi
Binom(n, ) adalah
f (x; ) = n (1 )nx IA (x)
dengan A = {0, 1, 2, . . . , n}. Fungsi probabilitas tersebut dapat dinyatakan
sebagai
h  i
f (x; ) = (1 )nx exp ln
IA (x)
1
sehingga distribusi Binomial merupakan anggota keluarga eksponensial dengan
 
c() = (1 ) , Q() = ln
, T (x) = x, h(x) = IA (x).
1
 
P

Karena Q() = ln 1
merupakan fungsi naik dan V (z) = ni=1 Xi maka
uji UMP untuk hipotesis H : 0 melawan A : > 0 adalah

Pn
1 jika P
i=1 Xi > c
jika P ni=1 Xi = c
(z) =

0 jika ni=1 Xi < c


n

dengan c dan ditentukan sehingga


E0 [(z)] = P0 (

n
X

Xi > c) + P0 (

i=1

n
X

Xi = c) =

i=1

P
dan ni=1 Xi Binom(n, ).
Sebagai gambaran, akan diuji hipotesis H : 0.5 melawan A : > 0.5
dengan = 0, 01 dan n = 25. Dalam hal ini c dan ditentukan sehingga
P=0,5

n
X

Xi > c + P=0,5

i=1

n
X
i=1


Xi = c = 0, 05.

Berdasarkan Tabel distribusi Binomial diperoleh c = 18 dan = 27/143.


Kuasa uji pada = 0, 75 adalah
(0, 75) = P=0,75

n
X
i=1

Xi > c + P=0,75

n
X
i=1

63

Xi = c = 0, 5923.

Untuk pengujian hipotesis H : 1 atau 2 melawan alternatif A :


1 < < 2 digunakan uji UMP yang dinyatakan dengan

Pn
1 jika cP
1 <
i=1 Xi < c2
n
i jika
X
(z) =
i = ci (i = 1, 2) dan c1 < c2
i=1

0 yang lain

dengan c1 , c2 dan 1 , 2 ditentukan sehingga

E1 [(z)] = P1 (c1 < V (z) < c2 ) + 1 P1 (V (z) = c1 ) + 2 P1 (V (z) = c2 ) =

dan
E2 [(z)] = P2 (c1 < V (z) < c2 ) + 1 P2 (V (z) = c1 ) + 2 P2 (V (z) = c2 ) =

P
dengan V (z) = ni=1 T (Xi ).
Sebagai gambaran, akan diuji hipotesis H : 0, 25 atau 0, 75
melawan A : 0, 25 < < 0, 75 dengan = 0, 05 dan n = 25. Untuk c1 = 10
dan c2 = 15 diperoleh
4161 + 22 = 205,

21 + 4162 = 205

atau 1 = 2 = 42435/86426 = 0, 4901. Uji UMP menjadi

Pn
1 jika 10
Pn< i=1 Xi < 15 Pn
i jika
(z) =
i=1 Xi = 15
i=1 Xi = 10 atau

0 yang lain

Kuasa dari uji pada = 0, 5 adalah

n
n


X

X
(0, 5) = P=0,5 10 <
xi < 15 + 0, 4901P=0,5
xi = 10
i=1

+ 0, 4901P=0,5

n
X

i=1

xi = 15

i=1

= 0, 6711.

Contoh 3.6
Misalkan X1 , . . . , Xn sampel random saling bebas dari distribusi Poisson()
dengan = (0, ). Fungsi probabilitas dari X yang berdistribusi
Poisson() adalah
x e
f (x; ) =
x!
64

untuk x = 0, 1, 2, . . . . Fungsi probabilititas tersebut dapat dinyatakan sebagai


f (x; ) =

ex ln e
x!

= e ex ln

1
x!

P
sehingga Q() = ln dan V (z) = ni=1 Xi . Karena Q() merupakan fungsi
naik maka uji UMP untuk hipotesis H 0 melawan A : > 0 adalah

Pn
1 jika Pi=1 Xi > c
jika Pni=1 Xi = c
(z) =

n
0 jika
i=1 Xi < c

dengan c dan ditentukan sehingga


E0 [(z)] = P0 (

n
X

Xi > c) + P0 (

i=1

n
X

Xi = c) =

i=1

P
dan ni=1 Xi Poisson(n).
Sebagai gambaran, akan diuji hipotesis H : 0, 5 melawan A : > 0, 5
dengan n = 10 dan = 0, 05. Berdasarkan Tabel distribusi Poisson dengan
mean n0 = 10(0, 5) = 5 diperoleh c = 9 dan = 182/363 = 0, 5014. Kuasa
dari uji pada saat = 1 adalah
(1) = P=1

n
X
i=1

= 1 P=1

n

X

Xi > 9 + 0, 5014P=1
Xi > 9
i=1

n
X
i=1

Xi 9

n
n
h
X

X
i
+ 0, 5014 P=1
Xi 9 P=1
Xi 8
i=1

i=1

= 0, 6048.

Contoh 3.7
Misalkan X1 , . . . , Xn sampel random saling bebas dari distribusi N (, 2 )
dengan = R. Fungsi probabilitas dari X yang berdistribusi N (, 2 )
adalah
h (x )2 i
1
f (x; ) =
exp
2 2
2 2
65

untuk x R. Fungsi probabilitas tersebut dapat dinyatakan sebagai


h x2 2x + 2 )2 i
1
exp
f (x; ) =
2 2
2 2

atau



  1
2 
x2 
f (x; ) = exp 2 exp 2 x
exp 2
2

2
2 2
P
n
sehingga Q() = / 2 dan V (z) = i=1 Xi . Karena Q() = / 2 fungsi naik
maka untuk menguji hipotesis H : 0 melawan A : > 0 adalah

>c
1 jika X
(z) =
<c
0 jika X
dengan c ditentukan sehingga
> c) =
E0 [(z)] = P0 (X
N (, 2 /n). Kuasa ujinya adalah
dan X
> c) = 1 P (X
c)
() = P (X
hX

c i

= 1P

/ n / n
h n(c ) i
= 1
.

Sebagai gambaran, berdasarkan sampel X1 , X2 , . . . , X25 dari distribusi


N (, 4) akan diuji hipotesis H : 20 melawan A : > 20 adalah

>c
1 jika X
(z) =
<c
0 jika X
dengan c ditentukan sehingga
> c) = 1 P=20 (X
c)
E0 [(z)] = P (X
hX
20 c 20 i

= 1P
/ n
/ n
 c 20 
= 1
= 0, 05
2/5

N (20, 4/25) di bawah anggapan H benar. Kuasa uji untuk = 21


dan X
adalah
 20, 66 21 
(21) = 1
= 1 (0, 85) = 1 0, 1977 = 0, 8023.
2/5
66

Untuk menguji hipotesis H : 1 atau 2 melawan A : 1 < < 2


digunakan uji UMP yang dinyatakan dengan

< c2
1 jika c1 < X
(z) =
0 yang lain
dengan c1 dan c2 ditentukan sehingga
< c2 ) =
E1 [(z)] = P1 (c1 < X
dan

< c2 ) = .
E2 [(z)] = P2 (c1 < X

Kuasa ujinya adalah


 n(c ) 
 n(c ) 
2
1
() =

Sebagai gambaran, berdasarkan pada sampel X1 , X2 , . . . , X25 N (, 4)


akan diuji hipotesis H : 1 atau 1 melawan A : 1 < < 1 dengan
= 0, 05. Uji UMP adalah

< c2
1 jika c1 < X
(z) =
0 yang lain
dengan c1 dan c2 ditentukan sehingga
< c2 ) = 0, 05
E1 [(z)] = P1 (c1 < X
dan

< c2 ) = 0, 05.
E2 [(z)] = P2 (c1 < X

Berdasarkan Tabel distribusi normal baku diperoleh c1 = 0, 344 dan c2 =


0, 344. Kuasa uji pada = 0 adalah
 25(0, 344 0) 
 25(0, 344 0) 

(0) =

= 0, 61.
4
4
Contoh 3.8
Misalkan X1 , . . . , Xn sampel random saling bebas dari distribusi N (, ) dengan = (0, ). Fungsi kepadatan probabilitas dari X yang berdistribusi
N(, ) adalah
h (x )2 i
1
f (x; ) =
exp
2
2
67

untuk x R. Fungsi probabilitas tersebut dapat dinyatakan sebagai


h
i
1
1
f (x; ) =
exp (x )2
2
2
Pn
sehingga Q() = 1/(2) dan V (z) = i=1 (xi )2 . karena Q() = 1/(2)
fungsi naik maka untuk menguji hipotesis H : 0 melawan A : > 0
adalah

Pn
2
1 jika
i=1 (Xi ) > c
(z) =
0 yang lain

dengan c ditentukan sehingga

E0 [(z)] = P0
dan

Pn

i=1 (Xi

n
X
i=1


(Xi )2 =

)2 2n . Kuasa uji dari uji ini adalah

() = P

n
X
i=1

(Xi ) > c

= 1P
= 1P

n
X

(Xi ) c

i=1
n
X

1

i=1

(Xi )2 <

c

c
= 1P
<
.

Sebagai gambaran, berdasarkan sampel X1 , X2 , . . . , X25 dari distribusi


N (, ) dengan diketahui, dan akan diuji hipotesis H : 4 melawan
A : > 4 adalah

P
1 jika Pni=1 (Xi )2 > c
(z) =
n
2
0 jika
i=1 (Xi ) c


2n

dengan c ditentukan sehingga


n
X

 Pn (X )2
c
i
2
i=1
= 0, 05
>
E=4 [(z)] = P
(Xi ) > c = P
4
4
i=1

dan

(1/4)

n
X
i=1

(Xi )2 225

di bawah anggapan H benar. Berdasarkan Tabel distribusi chi-kuadrat dengan derajat bebas 25 diperoleh bahwa c/4 = 37, 652 atau c = 150, 608. Kuasa
ujinya untuk = 12 adalah

150, 608 
() = 1 P 225 <
= 1 P (225 < 30, 1216) = 1 0, 02 = 0, 98.
12
68

Pada sisi lain, untuk menguji hipotesis H : 1 atau 2 melawan


A : 1 < < 2 digunakan uji UMP yang dinyatakan dengan

P
1 jika c1 < ni=1 (Xi )2 < c2
(z) =
0 yang lain
dengan c1 dan c2 ditentukan sehingga
E1 [(z)] = P1
dan

n

X
(Xi )2 < c2 =
c1 <

E2 [(z)] = P2 c1 <
Kuasa ujinya adalah

i=1

n
X
i=1


(Xi )2 < c2 = .



c2 
c1 
() = P 2n <
P 2n <
.

Sebagai gambaran, berdasarkan sampel X1 , X2 , . . . , X25 N (, ) akan


diuji hipotesis H : 1 atau 3 melawan A : 1 < < 3 dengan = 0, 01.
Uji UMP adalah

P
1 jika c1 < ni=1 (Xi )2 < c2
(z) =
0 yang lain
dengan c1 dan c2 ditentukan sehingga


c2 
c1 
P 225 <
P 225 <
= 0, 01
1
1

dan



c2 
c1 
P 225 <
P 225 <
= 0, 01.
3
3
Dengan metode coba-coba (trial and error ) dapat ditentukan c1 dan c2 dari
tabel distribusi chi-kuadrat dengan derajat bebas 25.

69

3.4

Uji UMPU untuk Pengujian Hipotesis Komposit

Dalam Teorema 3.3, untuk pengujian H : = { atau 2 }


melawan A : c uji UMP ada. Tidak mengherankan bahwa dengan
merubah H dan A mengakibatkan uji UMP tidak ada.
Di bawah anggapan Teorema 3.2, untuk menguji hipotesis H : = 0
melawan A : > 0 dan H : = 0 melawan A : 6= 0 uji UMP tidak
ada. Karena uji yang diberikan pada (3.2.1) dan (3.2.2) merupakan uji UMP
untuk > 0 tetapi lebih buruk dari uji trivial (z) = untuk < 0 .
Dengan cara yang sama uji yang diberikan oleh (3.2.1) dan (3.2.2) dengan
tanda ketidak-samaan dibalik merupakan uji UMP untuk < 0 tetapi lebih
buruk dari uji trivial (z) = untuk > 0 . Jadi, tidak ada uji tunggal
yang merupakan uji UMP untuk semua 6= 0 . Untuk itu perlu diatasi pada
kelas uji yang lebih kecil.
Definisi 3.6
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan berdistribusi identik dengan fungsi kepadatan probabilitas f (x; ), dan Rr .
Untuk pengujian H : melawan alternatif A : c pada tingkat ,
suatu uji yang didasarkan pada X1 , X 2, . . . , Xn dikatakan tak bias jika
E[(X1 , X2 , . . . , Xn )]
untuk semua dan
E[(X1 , X2 , . . . , Xn )]
untuk semua c . Suatu uji tak bias bila probabilitas kesalahan tipe I
paling banyak dan kuasa dari uji paling sedikit .
Definisi 3.7
Suatu uji dikatakan uji UMPU (uniformly most powerfull unbiased ) jika uji
tersebut UMP dalam kelas semua uji yang tidak bias.
Catatan : Uji UMP selalu UMPU. Uji UMP tak bias karena UMP paling
sedikit mempunyai kuasa yang sama dengan . Uji UMP merupakan uji
UMPU karena uji UMP merupakan UMP dalam kelas yang meliputi kelas
uji tak bias.

70

Teorema 3.4
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dan fungsi kepadatan
probabilitasnya dinyatakan dengan
f (x; ) = C() exp[Q()T (x)]h(x)
dengan R. Misalkan
= { ; 1 2 }
dengan 0 , 1 , 2 dan 0 = {0 } dengan 1 < 2 .
Untuk menguji hipotesis H : melawan alternatif A : c dan
hipotesis H : 0 melawan alternatif A0 : 0c pada level terdapat uji
UMP yang diberikan oleh

1 jika V (z) < c1 atauV (z) > c2


i jika V (z) = ci (i = 1, 2) dan c1 < c2
(z) =

0 yang lain
dengan c1 , c2 dan 1 , 2 ditentukan dengan E1 [(z)] = dan E2 [(z)] =
untuk H dan E0 [(z)] = dan E0 [V (z)(z)] = E0 [V (z)] untuk H 0 .
Dapat ditunjukkan bahwa () = E [(z)] dengan turun 0
dan naik untuk 0 untuk suatu 1 < 0 < 2 .
Contoh 3.9
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dari N (, ) dengan
2 diketahui dan = . Akan diuji hipotesis H : = 0 melawan A : 6= 0 .
Fungsi kepadatan probabilitas N (, 2 ) adalah
h (x )2 i
1
f (x; ) =
exp
2 2
2 2

untuk x R. Fungsi probabilitas tersebut dapat dinyatakan sebagai


h (x2 2x + 2 ) i
1
f (x; ) =
exp
2 2
2 2
atau
  1
h

x2 i
2 
exp 2
f (x; ) = exp 2 exp 2 x
2

2
2 2
P

n
sehingga Q() = dan V (z) = 12 i=1 Xi = nX2 . Oleh karena itu uji UMPU
adalah


1 jika nX2 < c1 atau nX2 > c2


(z) =
0 yang lain
71

dengan c1 dan c2 ditentukan sehingga E0 [(z)] dan


E0 [V (z)(z)] = E0 [V (z)].
Uji tersebut akan ekuivalen dengan uji


n(X0 )
< c01
1 jika

(z) =
0 yang lain
dengan c01 =

c
1
n

n0

dan c01 =

c
2
n

atau

n0
.


n(X0 )
2

> c02

0)
N (0, 1). Karena
Pada sisi lain, di bawah H, berlaku sifat n(X

0
0
N (0, 1) simetri maka c1 = c2 = c (yaitu c > 0) sehingga menjadi

n(X 0 )
< c

atau

0 )
n(X
>c

yang ekuivalen dengan


 n(X
0 )  2
21

di bawah H benar. Akibatnya uji UMPU menjadi


(

2
n(X0 )
1 jika
>c

(z) =
0 yang lain
dengan c ditentukan sehingga P (21 > c) = .

72

3.5

Pengujian Parameter dari Distribusi Normal

Dalam pasal ini, X1 , X2 , . . . , Xn merupakan variabel random saling bebas


dari distribusi n(, 2 ) dengan dan 2 tidak diketahui. parameter yang
menjadi perhatian adalah 1 parameter sedangkan yang lain sebagai parameter pengganggu (nuisance parameter ).

3.5.1

Uji Tentang Variansi

Proposisi 3.2
Untuk menguji hipotesis H : 0 melawan A : > 0 digunakan uji
UMP

Pn
2
1 jika
i=1 (Xi X) > c
(z) =
0 yang lain


dengan c ditentukan oleh P 2n1 > c2 = . Bila hipotesisnya adalah
H 0 : 0 melawan A0 : 0 maka digunakan uji

Pn
2
1 jika
i=1 (Xi X) < c
(z) =
0 yang lain


dengan c ditentukan oleh P 2n1 < c2 = .
Pn

2
(X X)

Kuasa uji dapat ditentukan dengan kenyataan bahwa i=1 2i


tribusi chi-kuadrat dengan derajat bebas n 1 bila diberikan.

berdis-

Contoh 3.10
Misalkan X1 , X2 , . . . , X25 merupakan variabel random saling bebas dari distribusi N (, 2 ) dengan dan 2 tidak diketahui. Untuk menguji hipotesis
H : 3 melawan A : > 3 digunakan uji UMP

Pn
2
1 jika
i=1 (Xi X) > c
(z) =
0 yang lain
dengan c ditentukan oleh P (224 > c/9) = 0, 05. Berdasarkan Tabel distribusi chi-kuadrat dengan derajat bebas 24 diperoleh c/9 = 36, 415 atau
c = 327, 735. Kuasa uji pada = 5 adalah
P (224 > 327, 735/25) = P (224 > 13, 1094) = 0, 962.
73

uji

Bila hipotesisnya adalah H 0 : 3 melawan A0 : < 3 maka digunakan


(z) =

Pn
2
1 jika
i=1 (Xi X) < c
0 yang lain

dengan c ditentukan sehingga P (224 < c/9) = 0, 05. Berdasarkan Tabel


distribusi chi-kuadrat dengan derajat bebas 24 diperoleh c/9 = 13, 848 atau
c = 124, 632. Kuasa uji pada = 2 adalah
P (224 < 124, 632/4) = P (224 < 31, 158) = 0, 8384.

Proposisi 3.3
Untuk menguji hipotesis H : 1 atau 2 melawan A : 1 < < 2
digunakan uji UMPU

P
2 < c2
1 jika c1 < ni=1 (Xi X)
(z) =
0 yang lain
dengan c1 dan c2 ditentukan oleh
P(
dan
P(

c2
c1
< 2n1 < 2 ) =
2
1
1

c1
c2
< 2n1 < 2 ) = .
2
2
2

Bila digunakan untuk menguji hipotesis H : 1 2 melawan A : < 1


atau > 2 digunakan uji UMPU

Pn
Pn
2 < c1 atau
2
1 jika
(Xi X)
i=1
i=1 (Xi X) > c2
(z) =
0 yang lain
P(
dan
P(

c2
c1
< 2n1 < 2 ) =
2
1
1

c2
c1
< 2n1 < 2 ) = .
2
2
2

74

Contoh 3.11
Misalkan X1 , X2 , . . . , X25 merupakan variabel random saling bebas dari distribusi N (, 2 ) dengan dan 2 tidak diketahui. Untuk menguji hipotesis
H : 2 atau 3 melawan A : 2 < < 3 digunakan uji UMPU

P
2 < c2
1 jika < c1 < ni=1 (Xi X)
(z) =
0 yang lain
dengan c1 dan c2 ditentukan berdasarkan metode trial and error oleh
c2
c1
c2
c1
P ( < 2n1 < ) = P (2n1 > ) P (2n1 > ) = 0, 05
4
4
4
4
dan
P(

c2
c1
c2
c1
< 2n1 < ) = P (2n1 > ) P (2n1 > ) = 0, 05.
9
9
9
9

Proposisi 3.4
Untuk menguji hipotesis H : = 0 melawan A : 6= 0 digunakan uji
UMPU

P
Pn
2 < c1 atau
2
1 jika < ni=1 (Xi X)
i=1 (Xi X) > c2
(z) =
0 yang lain
R c /2
dengan c1 dan c2 ditentukan oleh c12/20 g(t)dt dengan g adalah fungsi kepa0
datan probabilitas dari 2n1 .
Uji dengan menggunakan luas ekor sama yang biasa digunakan bukanlah
merupakan uji UMPU tetapi merupakan pendekatan dari uji UMPU untuk
n .

3.5.2

Uji Tentang mean

Proposisi berikut ini banyak digunakan dalam menentukan uji mean pada
suatu populasi.
Proposisi 3.5
Untuk menguji hipotesis H : 0 melawan A : > 0 digunakan uji
UMPU

1 jika t(z) > c
(z) =
0 yang lain
75

dengan c ditentukan oleh P (tn1 > c) = dan



n(X 0 )
.
t(z) = q
P
m
1
2

(X

X)
i
i=1
n1

Untuk menguji hipotesis H 0 : 0 melawan A0 : < 0 digunakan uji


UMPU

1 jika t(z) < c
(z) =
0 yang lain

dengan c ditentukan oleh P (tn1 < c) = .


Contoh 3.12

Misalkan X1 , X2 , . . . , X25 merupakan variabel random saling bebas dari distribusi N (, 2 ) dengan dan 2 tidak diketahui. Untuk menguji hipotesis
H : 0 melawan A : > 0 dengan = 0, 05 digunakan uji UMPU

1 jika t(z) > 1, 7109
(z) =
0 yang lain

dan untuk menguji hipotesis H : 0 melawan A : < 0 dengan


= 0, 05 digunakan UMPU

1 jika t(z) < 1, 7109
(z) =
0 yang lain.
Proposisi 3.6
Untuk menguji hipotesis H : = 0 melawan A : 6= 0 digunakan uji
UMPU

1 jika t(z) < c atau t(z) > c (dengan c > 0)
(z) =
0 yang lain
dengan c ditentukan oleh P (tn1 > c) = /2.
Proposisi 3.7
Misalkan X1 , X2 , . . . , X25 merupakan variabel random saling bebas dari distribusi N (, 2 ) dengan dan 2 tidak diketahui. Untuk menguji hipotesis
H : = 0 melawan A : 6= 0 dengan = 0, 05 digunakan uji UMPU

1 jika t(z) < 2, 0639 atau t(z) > 2, 0639(dengan c > 0)
(z) =
0 yang lain.

Untuk menentukan kuasa uji dari uji tersebut digunakan ujit non central.
76

3.6

Perbandingan Parameter Dua Distribusi


Normal

Diketahui X1 , . . . , Xm variabel random saling bebas dari distribusi N (1 , 12 )


dan Y1 , . . . , Yn variabel random saling bebas dari distribusi N (2 , 22 ). Dianggap dua sampel tersebut saling bebas dan semua parameter tidak diketahui.
Misalkan = 1 2 dan = 22 /22 . Akan diuji hipotesis tentang dan
. Bila salah satu parameter yang diamati merupakan parameter sedangkan
yang lain sebagai parameter pengganggu. Misalkan Z = (X1 , . . . , Xm )t dan
W = (Y1 , . . . , Yn )t , z = (x1 , . . . , xm )t dan w = (y1 , . . . , yn )t .

3.6.1

Perbandingan Variansi Dua Densitas Normal

Proposisi berikut ini digunakan untuk pengujian perbandingan variansi antara dua populasi.
Proposisi 3.8
Untuk menguji H : 0 melawan A : > 0 digunakan uji UMPU
(
Pn
(Y Y )2
1 jika Pmi=1(Xii X)
2 > c
i=1
(z) =
0 yang lain
(m1)c
dengan c ditentukan sehingga P (Fn1,m1 > c0 ) = dan c0 = (n1)
.
0
0
Sedangkan untuk menguji, H : 0 melawan A : < 0 digunakan uji
UMPU
(
Pn
(Y Y )2
1 jika Pmi=1(Xii X)
2 < c
i=1
(z) =
0 yang lain

dengan c ditentukan sehingga P (Fn1,m1 > c0 ) = . Kuasa ujinya dapat


ditentukan dengan kenyataan bahwa
Pn
P
1
2
1 m 1 ni=1 (Yi Y )2
i=1 (Yi Y ) /(n 1)
12
P
Pm
1
2 /(m 1) = n 1 m (Xi X)
2
(Xi X)
2
2

i=1

i=1

berdistribusi F dengan derajat bebas n 1 dan m 1 bila diberikan.


Contoh 3.13

Diketahui X1 , . . . , X21 variabel random saling bebas dari distribusi N (1 , 12 )


77

dan Y1 , . . . , Y25 variabel random saling bebas dari distribusi N (2 , 22 ). Dianggap dua sampel tersebut saling bebas dan semua parameter tidak diketahui. Untuk menguji H : 2 melawan A : > 2 dengan = 0, 05
digunakan uji UMPU
(
Pn
(Y Y )2
1 jika Pmi=1(Xii X)
2 > c
i=1
(z) =
0 yang lain
dengan c ditentukan sehingga P (F20,24 > c0 ) = 0, 05 dan
c0 =

(21 1)c
= 5c/12.
(24 1)2

Berdasarkan tabel distribusi F20,24 diperoleh c0 = 2, 0267 dan akibatnya c =


4, 864. Untuk menguji H : 2 melawan A : < 2 dengan = 0, 05
digunakan uji UMPU
(
Pn
(Y Y )2
1 jika Pmi=1(Xii X)
2 < c
i=1
(z) =
0 yang lain
dengan c ditentukan sehingga P (F20,24 < c0 ) = 0, 05 dan
c0 =

(21 1)c
= 5c/12
(24 1)2

atau P (F20,24 < (5c)/12) = P (F24,20 > 12/(5c)) = 0, 05.


Misalkan
Pn
1
2
i=1 (Yi Y )
0
V (z, w) = Pm
2 + 1 Pn (Yi Y )2 .
(Xi X)
i=1

i=1

Proposisi 3.9

Untuk menguji H : = 0 melawan A : 6= 0 digunakan uji UMPU



1 jika V (z, w) < c1 atau V (z, w) > c2
(z, w) =
0 yang lain
dengan c1 dan c2 ditentukan sehingga
P (c1 < Beta((m1)/2, (n1)/2 < c2 ) = P (c1 < Beta((m1)/2, (n1)/2 < c2 ).

78

3.6.2

Perbandingan Mean Dua Densitas Normal

Misalkan

Y X
2 + Pn (Yj Y )2
(X

X)
i
i=1
j=1

t(z, w) = qP
m

dan dianggap 12 = 12 = 2 .
Proposisi 3.10

Untuk menguji H : 0 melawan A : > 0 digunakan uji UMPU



1 jika t(z, w) > c
(z, w) =
0 yang lain
dengan c ditentukan oleh P (tm+n2 > c0 ) = dengan c0 = c
0

m+n2
1
1 .
+n
m

Untuk

menguji H : 0 melawan A : < 0 digunakan uji UMPU



1 jika t(z, w) < c
(z, w) =
0 yang lain
dengan c ditentukan oleh P (tm+n2 < c0 ) = dengan c0 = c
Contoh 3.14

m+n2
1
1 .
+n
m

Diketahui X1 , . . . , X15 variabel random saling bebas dari distribusi N (1 , 12 )


dan Y1 , . . . , X10 variabel random saling bebas dari distribusi N (2 , 22 ). Dianggap dua sampel tersebut saling bebas dan semua parameter tidak diketahui. Untuk menguji H : 0 melawan A : > 0 dengan = 0, 05
digunakan uji UMPU

1 jika t(z, w) > c
(z, w) =
0 yang lain

q
dengan c ditentukan oleh P (t15+102 > c0 ) = 0, 05 dan c0 = c 15+102
atau
1
1
+ 10
15
q
p
23
c0 = c 10+15
atau c0 = c 23(6). Berdasarkan tabel distribusi t diperoleh
150
p
c 23(6) = 1, 7139 atau c = 0, 1459. Sedangkan, untuk menguji H : 0
melawan A : < 0 dengan = 0, 05 digunakan uji UMPU

1 jika t(z, w) < c
(z, w) =
0 yang lain
79

q
atau
dengan c ditentukan oleh P (t15+102 < c0 ) = 0, 05 dan c0 = c 15+102
1
1
+ 10
15
q
p
23
c0 = c 10+15
atau c0 = c 23(6). Berdasarkan tabel distribusi t diperoleh
150
p
c 23(6) = 1, 7139 atau c = 0, 1459.
Proposisi 3.11

Untuk menguji H : = 0 melawan A : 6= 0 digunakan uji UMPU



1 jika t(z, w) < c atau t(z, w) > c(denganc > 0)
(z, w) =
0 yang lain
dengan c ditentukan oleh P (tm+n2 > c0 ) = /2.
Contoh 3.15
Diketahui X1 , . . . , X15 variabel random saling bebas dari distribusi N (1 , 12 )
dan Y1 , . . . , X10 variabel random saling bebas dari distribusi N (2 , 22 ). Dianggap dua sampel tersebut saling bebas dan semua parameter tidak diketahui. Untuk menguji H : = 0 melawan A : 6= 0 dengan = 0, 05
digunakan uji UMPU

1 jika t(z, w) < c atau t(z, w) > c
(z, w) =
0 yang lain
q
dengan c ditentukan oleh P (t15+102 > c0 ) = 0, 025 dan c0 = c 15+102
1
1
+ 10
15
q
p
23
atau c0 = c 10+15
atau c0 = c 23(6). Berdasarkan tabel distribusi t diper150
p
oleh c 23(6) = 2, 0687 atau c = 0, 1762. Kuasa ujinya dapat ditentukan
berdasarkan distribusi t non central.

3.7

Uji Likelihood Ratio

Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ), Rr dan . Misalkan
L() = f (x1 ; )f (x2 ; ) . . . f (xn ; )
dengan dan
L( c ) = f (x1 ; )f (x2 ; ) . . . f (xn ; )
80

dengan c . Bila dan c terdiri dari satu titik maka L() dan L( c )
dapat ditentukan dan untuk menguji H : melawan A : c , uji MP
menolak bila nisbah kemungkinannya (likelihood ratio-LR)
L()/L( c )
lebih besar. Akan tetapi bila dan c mengandung lebih dari satu titik
maka L() dan L( c ) tidak dapat ditentukan oleh H dan A dan metodee
pada pasal-pasal terdahulu tidak dapat digunakan.
Misalkan
L(
) = max{L()| },

L(
c ) = max{L()| c }

dan

= max{L()| }.
L()
terlalu kecil yaitu lebih kecil dari atau
Hipotesis H ditolak jika L(
)/L()
sama dengan c dan c ditentukan dari ukuran ujinya. Lemma Fundamental Neyman-Pearson merupakan kejadian khusus dari uji LR. Jika kuanti hampir sama nilainya maka data cenderung mendukung
tas L(
) dan L()
hipotesis bahwa yang sebenarnya terletak dalam yang dinyatakan dalam
H. Jika tidak demikian data cenderung mendiskreditkan H. Notasi yang
digunakan adalah
L(
)
.
=

L(
Di bawah H benar, statistik ln mempunyai distribusi asmptotik yang
diketahui. Hipotesis H ditolak jika
2 ln > c
dengan c ditentukan berdasarkan pada .
Teorema 3.5
Misalkan X1 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan
probabilitas f (x; ), dengan Rr dan berdimensi m. Nilainilai positif dari fungsi kepadatan probabilitas tidak bergantung pada . Di
bawah syarat-syarat 1-6 pada pasal 2.2, distribusi asimptotik dari 2 ln
adalah 2rm asalkan yaitu jika n berlaku sifat
P (2 ln x) G(x)
dengan x 0 untuk semua dan G adalah fungsi distribusi dari 2rm .
81

Contoh 3.16
Diketahui X1 , . . . , Xn variabel random saling bebas dari distribusi N (, 2 ).
Kasus 1 ( diketahui)
Akan diuji hipotesis H : = {0 } dengan = R. Karena MLE
maka
dari adalah
= X
n
h
i
1 X

2
L() = exp 2
(Xi X)
2 i=1

dan

n
i
h
X
2
= exp 1
.
(X

)
L()
i
0
2 2 i=1

Dalam hal ini lebih mudah ditentukan distribusi dari 2 ln dari pada .
Diperoleh
n
0 )2
2 ln = 2 (X

sehingga uji LR ekuivalen dengan



0 )2 > c
1 jika n2 (X
(z) =
0 yang lain
dengan c ditentukan sehingga P (21 > c) = .
Kasus 2 ( tidak diketahui)
Akan diuji hipotesis H : = {0 } dengan = R. Karena

n
X
i=1

dan

n
X
i=1

maka

2
(Xi X)

(Xi 0 )2

n
i
h
X
1
1

2 =p 1
L() = p
(Xi X)
exp p
en/2
(2
)n
(2
)n i=1
(2
)n

82

dan
n
i
h
X
1
1
1
L(
) = p
en/2
exp p
(Xi 0 )2 = p
n
n
n
(2
)
(2
) i=1
(2
)

sehingga

=
atau

Karena
n
X
i=1

(Xi 0 )

n 
X
i=1

=
=

n 
X

i=1
n 
X
i=1

2/n


n

Pn
2
(Xi X)
.
= Pni=1
2
i=1 (Xi 0 )

+ (X
0 )
(Xi X)

2

2 + 2(Xi X)(
X
0 ) + ( X
0 )2
(Xi X)
2 + 2(X
0 )
(Xi X)

n
X
2 + n(X
0 )2
=
(Xi X)

n
X
i=1

+
(Xi X)

i=1

maka
=
=
=
=
=
dengan

h Pn (X )2 i1
i
0
Pi=1
n
2

i=1 (Xi X)
P
h n (X X)
2 + n(X
0 )2 i1
i
i=1
P
n
2
i=1 (Xi X)
h
0 )2 i1
n(X
1 + Pn
2
i=1 (Xi X)
i1
h
0 )2
n(X
1
P
1+
n
1
2
n 1 n1
i=1 (Xi X)
h
t2 i1
1+
n1


n(X 0 )
t = t(z) = q
.
P
n
1
2

(X

X)
i
i=1
n1
83

n
X
i=1

0 )2
(X

Hal itu berarti, jika < 0 ekuivalen dengan t2 > c untuk c konstanta
tertentu. Uji LR ekuivalen dengan

1 jika t < c dan t > c
(z) =
0 yang lain
dengan c ditentukan sehingga P (tn1 > c)/2.
Contoh 3.17
Diketahui X1 , . . . , Xm variabel random saling bebas dari distribusi N (1 , 12 )
dan Y1 , . . . , Yn variabel random saling bebas dari distribusi N (2 , 22 ). Dianggap dua sampel tersebut saling bebas. Misalkan bahwa sampel X dan sampel
Y saling bebas dan diinginkan untuk menguji hipotesis berikut. Dalam hal
ini fungsi kepadatan probabilitas bersama X dan Y adalah
m
n
h
 1 m+n 1
i
1 X
1 X
2
2

exp

(X

(Y

)
.
i
1
j
2
1m 2n
212 i=1
222 j=1
2
Kasus 1
Dianggap bahwa 1 = 2 = tetapi tidak diketahui dan ingin diuji hipotesis H : 1 = 2 (= ) dengan tidak diketahui.
Di bawah = { = (1 , 2 , )t |1 , 2 R, > 0} maka MLE dari
parameter adalah
m
n

X
1 X
2
2
2

(Xi X) +
(Yj Y ) .

1, = X,
2, = Y ,
=
m + n i=1
j=1
Oleh karena itu


m+n
= 1
e(m+n)/2 .
L()
2

t
Di bawah = { = (1 , 2 , ) |1 , 2 R, > 0} maka MLE dari parameter
adalah
m
n
 mX
X
+ nY
1 X

=
Xi +
Yj =
.
m + n i=1
m+n
j=1

Misalkan diset vk = xk , k = 1, 2, . . . , m dan vm+k = yk , k = 1, 2, . . . , n.


Akibatnya
V =

m+n
m
n

X
1 X
1 X
Vk =
Xi +
Yj =
.
m + n k=1
m + n i=1
j=1

84

Hal itu berarti


m+n
1 X
=
(Vk V )2
m + n k=1
m
m
i
X
1 hX
2
2
(Xi
) +
(Yj
) .
=
m + n i=1
j=1

Oleh karena itu

1 m+n (m+n)/2
L(
) =
e
.
2

Akibatnya

=
dan


m+n

2/(m+n) =

2
.
2

Pada sisi lain


n
X
i=1

(Xi
)

n 
X
i=1

n 
X
i=1

+ (X

(Xi X)
)

2

2 + 2(Xi X)(
X
) + ( X

(Xi X)
)2

n
n
n
X
X
X
2


=
(Xi X) + 2(X )
(Xi X) +
(X
)2

i=1
n
X
i=1

i=1

i=1

2 + m(X
)2
(Xi X)

n
X


2+m X
mX + n Y 2
=
(Xi X)
m+n
i=1
n
X


2 + m nX n Y 2
=
(Xi X)
m+n
i=1
n
X
2+
=
(Xi X)
i=1

mn2
Y )2 .
(X
2
(m + n)

Dengan cara yang sama diperoleh


m
X
j=1

(Yj
) =

n
X
j=1

(Yj Y )2 +
85

m2 n
Y )2 .
(X
(m + n)2

Akibatnya
(m +

n)
2

m
n
hX
i
X
2
=
(Xi
) +
(Yj
)2

i=1
n
X
i=1
n
X

j=1

2+
(Xi X)

mn2
Y )2
(X
(m + n)2

m2 n
Y )2
+
(X
2
(m + n)
j=1
mn 2
(X Y ) .
= (m + n)
2 +
m+n
(Yj Y )2 +

Di samping itu berlaku sifat

dengan

h
2/(m+n) = 1 +
p

i1
t
m+n2

mn

(X
m+n

Y )
t= r
hP
i.
Pn
m
1
2
2

i=1 (Xi X) +
j=1 (Yj Y )
m+n2

Oleh karena itu, uji LR menolak H bila < 0 maka akan ekuivalen dengan
uji

1 jika t < c dan t > c (c > 0)
(z, w) =
0 yang lain
dengan c ditentukan oleh P (tm+n2 > c) = /2 dan z = (x1 , x2 , . . . , xm )t
dan w = (y1 , y2 , . . . , yn )t (karena di bawah H, t berdistribusi tm+n2 ).
Kasus 2
Akan diuji hipotesis H : 1 = 2 (= tidak diketahui).
Di bawah = { = (1 , 2 , 1 , 2 )t |1 , 2 R, 1 , 2 > 0} diperoleh
n

1,

= X,

2,

= Y ,

1,

1 X
2,
(Xi X)
=
m i=1

2,

1X
=
(Yj Y )2 .
n j=1

Di bawah = { = (1 , 2 , 1 , 2 )t |1 , 2 R, 1 = 2 (> 0)} diperoleh

1, =
1, ,
dan


X
1 X
2+
=
(Xi X)
(Yj Y )2 .
m + n i=1
j=1
m

2, =
2,
m

86

Oleh karena itu

dan

sehingga


m+n
1
= 1
L()
e(m+n)/2
2
2
m/2
n/2
(
1, ) (
2, )
2
 1 m+n
1
e(m+n)/2
L(
) =
2 )(m+n)/2
(

dengan

2
2

1,
)m/2
2,
)n/2

2 )(m+n)/2


 Pn
2 m/2
(Xi X)
(m + n)(m+n)/2 Pi=1
n
2
j=1 (Yj Y )
=
P
 Pn (X X)
2 + n (Yj Y )2 (m+n)/2
i
mm/2 nn/2 i=1 Pn (Yj j=1
Y )2
j=1
P

n
1
2 m/2
(m+n)/2 m1 m1 P i=1 (Xi X)
(m + n)
n
1
2
n1 n1
j=1 (Yj Y )
=
P

n
1
2 m/2
m1 m1 P i=1 (Xi X)
m/2
n/2
m n
1 + n1 1 n (Y Y )2
j=1 j
n1

m/2
m1
(m+n)/2
f
n1
(m + n)
=

(m+n)/2
m/2
n/2
m n
1 + m1
f
n1
f=

1
m1
1
n1

Pm

Pni=1

2
(Xi X)
.
(Yj Y )2

j=1

Uji LR menolak H bila < 0 akan ekuivalen dengan uji F yang menolak
H jika g(f ) < c untuk c tertentu dan

m/2
m1
f
n1
g(f ) = 
(m+2)/2 .
m1
1 + n1 f
Nilai maksimum g(f ) dicapai bila f =

m(n1)
.
n(m1)

Dalam hal ini g() dan

g(f ) 0
untuk f . Oleh karena itu g(f ) < c jika dan hanya jika f < c1 atau
f > c2 untuk c1 dan c2 tertentu. Karena F berdistribusi Fm1,n1 di bawah
H maka c1 dan c2 ditentukan sehingga
P (Fm1,n1 < c1

atau Fm1,n1 > c2 ) =


87

dan g(c1 ) = g(c2 ). Secara praktis c1 dan c2 ditentukan sehingga masingmasing ekor dari distribusi Fm1,n1 mempunyai probabilitas /2 yaitu
P (Fm1,n1 < c1 ) = P (Fm1,n1 > c2 ) = /2.

88

Brief History of Bayes


Thomas Bayes (1702-1761) Clergyman and mathematician. MacTutor
References SC, LP.
Bayes attended the University of Edinburgh to prepare for the ministry
but he studied mathematics at the same time. In 1742 Bayes became a fellow
of the Royal Society: the certificate of election read We propose and recommend him as a Gentleman of known Merit, well Skilled in Geometry and all
parts of Mathematical and Philosophical Learning and every way qualified
to be a valuable Member of the Same. Bayes wrote only one paper on probability, the posthumously published An Essay towards solving a Problem in
the Doctrine of Chances (1763). (For statement of the problem, see Bayes).
The paper was submitted to the Royal Society by Richard Price who added
a post-script of his own in which he discussed a version of the rule of succession. In the paper Bayes refers only to de Moivre and there has been
much speculation as to where the problem came from. Bayesian methods
were widely used in the C19, through the influence of Laplace and Gauss,
although both had second thoughts. Their Bayesian arguments continued to
be taught until they came under heavy attack in the C20 from Fisher and
Neyman. In the 1930s and 40s Jeffreys was an isolated figure in trying to develop Bayesian methods. From the 50s onwards the situation changed when
Savage and others made Bayesianism intellectually respectable and recent
computational advances have made Bayesian methods technically feasible.
From the early C20 there has been a revival of interest in Bayes himself and
he has been much more discussed than ever before. See Bellhouse biography,
Sheynin ch. 5 Life & Work and Todhunter ch.XIV (pp. 294-300). See Stigler
(1986): Chapter 3, Inverse Probability and Hald (1998): Chapter 8, Bayes,
Price and the Essay, 1764-1765.) There is a major new biography, A. I. Dale
Most Honorable Remembrance: The Life and Work of Thomas Bayes.

89

Brief History of Gosset


Student = William Sealy Gosset (1876-1937) Chemist, brewer and statistician. MacTutor References. Wikipedia SC, LP.
Gosset was an Oxford-educated chemist whose working life was spent, not
in a university, but working for Guinness, the Dublin brewer. Gossets career
as a publishing statistician b egan after he studied for a year with Karl Pearson. In his first published paper Student (as he called himself) rediscovered
the Poisson distribution. In 1908 he published two papers on small sample
distributions, one on the normal mean (see Students t distribution and Studentization) and one on normal correlation (see Fishers z-transformation).
Although Gossets fame rests on the normal mean work, he wrote on other
topics, e.g. he proposed the variate difference method to deal with spurious correlation. His work for Guinness and the farms that supplied it led
to work on agricultural experiments. When his friend Fisher made randomization central to the design of experiments Gosset disagreedsee his review
of Fishers Statistical Methods. Gosset was not very interested in Pearsons
biometry and the biometricians were not very interested in what he did; the
normal mean problem belonged to the theory of errors and was more closely
related to Gauss and to Helmert than to Pearson. Gosset was a marginal
figure until Fisher built on his small-sample work and transformed him into
a major figure in C20 statistics. E. S. Pearson was another great admirer.
For a sample of Gossets humour see the entry kurtosis. See Life & Work

90

Chapter 4
Daerah Kepercayaan
4.1

Interval Kepercayaan

Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ), Rr .
Definisi 4.1
Interval random adalah interval berhingga atau tak berhingga dengan paling
sedikit 1 titik ujungnya meruapakan variabel random.
Definisi 4.2
Misalkan L(X1 , X2 , . . . , Xn ) dan U (X1 , X2 , . . . , Xn ) dua statistik sehingga
L(X1 , X2 , . . . , Xn ) U (X1 , X2 , . . . , Xn ).
Interval random [L(X1 , X2 , . . . , Xn ), U (X1 , X2 , . . . , Xn )] adalah interval kepercayaan untuk dengan koefisien konfidensi 1 (0 < < 1) jika
P (L(X1 , X2 , . . . , Xn ) U (X1 , X2 , . . . , Xn )) 1
untuk semua . U (X1 , X2 , . . . , Xn ) dinamakan batas kepercayaan atas
sedangkan L(X1 , X2 , . . . , Xn ) dinamakan batas kepercayaan bawah untuk
jika untuk semua berlaku sifat
P ( < U (X1 , X2 , . . . , Xn )) 1
dan
P (L(X1 , X2 , . . . , Xn ) < ) 1
91

dengan koefisien kepercayaan 1 .


Interval random [L(X1 , X2 , . . . , Xn ), U (X1 , X2 , . . . , Xn )] adalah interval
kepercayaan untuk dengan koefisien kepercayaan 1 jika probabilitas
bahwa paling sedikit 1 interval random
[L(X1 , X2 , . . . , Xn ), U (X1 , X2 , . . . , Xn )]
mengandung parameter dengan .
Interpretasi dari pernyataan tersebut adalah : misalkan eksperimen random dilakukan n kali dan jika xi adalah nilai pengamatan Xi , i = 1, 2, . . . , n.
Bila dikonstruksikan interval
[L(X1 , X2 , . . . , Xn ), U (X1 , X2 , . . . , Xn )]
dan proses tersebut diulang secara independen N kali sehingga diperoleh N
interval. Bila N membesar maka paling sedikit (1)N dari N interval akan
mengandung parameter yang sebenarnya. Panjang interval kepercayaan
adalah
l = l(X1 , X2 , . . . , Xn ) = U (X1 , X2 , . . . , Xn ) L(X1 , X2 , . . . , Xn )
dan harapan panjangnya adalah E [l] jika harapannya ada.
Dimungkinkan terdapat lebih dari satu interval kepercayaan untuk dengan koefisien konfidensi 1 . Untuk itu diinginkan untuk mencari interval kepercayaan yang mempunyai panjang minimum diantara kelas interval
kepercayaan . Prosedur umum untuk mengkontruksikan interval kepercayaan
adalah sebagai berikut : dimulai dari variabel random
Tn () = T (X1 , X2 , . . . , Xn ; )
yang tergantung pada X hanya melalui statistik cukup yang distribusinya
dapat ditentukan dengan pasti Ln (X1 , X2 , . . . , Xn ) dan U (X1 , X2 , . . . , Xn )
fungsi yang sederhana dari Tn () yang dipilih dengan alasan yang jelas.
Contoh 4.1
Misalkan X1 , . . . , Xn variabel random saling bebas dari distribusi N (, 2 ).
Kasus 1 Jika diketahui dan parameter
Misalkan didefinisikan statistik
Tn () =

)
n(X
.

92

Statistik Tn () tergantung pada X1 , X2 , . . . , Xn hanya melalui statistik cukup


dan mempunyai distribusi N (0, 1) untuk semua . Akan
dari yaitu X
ditentukan a dan b sehingga
P (a N (0, 1) b) = 1

n(X )
b) = 1
P (a

+ b ) = 1 .
b X
P (X
n
n

(4.1.1)

b , X
+ b ] adalah interval kepercayaan untuk
Oleh karena itu [X
n
n
dengan koefisien kepercayaan 1 . Panjang interval tersebut adalah
l=

(b a)

.
n

Interval kepercayaan yang memenuhi (4.1.1) dengan panjang interval terpendek sehingga b dan a memenuhi (4.1.1).
Dapat ditunjukkan bahwa l terpendek bila b = c(c > 0) dan a = c
dengan c adalah kuantil atas dari distribusi N (0, 1) yang dinotasikan dengan Z/2 . Oleh karena itu interval kepercayaan terpendek untuk dengan
koefisien konfidensi 1 adalah
i
h
+ Z/2 .
Z/2 , X
X
n
n
Kasus 2 Jika diketahui dan parameter
Misalkan

nS 2
Tn ( 2 ) = 2n

Pn
1
2
2

dengan Sn = n i=1 (Xi ) . Berarti Tn tergantung pada 2 hanya melalui


statistik cukup Sn2 dari 2 dan distribusi 2n untuk semua 2 . Akan ditentukan
a dan b dengan a < b sehingga
P (a 2n b) = 1
nS 2
P (a 2n b) = 1

nSn2
nSn2
P(
2
) = 1
b
a

93

sehingga ( nSb n , nSa n ) adalah interval kepercayaan untuk 2 dengan koefisien


kepercayaan 1 yang panjangnya adalah
1 1 2

l=
nSn .
a b

Harapan panjang intervalnya adalah


h 1 1 
i
h 1 1  nS 2 i
1 1 2
n 2

E[l] = E
nSn2 = E
n . (4.1.2)
a b
a b 2
a b

Meskipun terdapat tidak berhingga banyak pasangan a dan b yang memenuhi


(4.1.2), tetapi secara praktis biasanya dipilih a dan b sehingga luas ekornya
adalah /2.
Akan tetapi hal ini bukanlah pilihan yang terbaik karena interval yang
terbentuk bukanlah interval yang terpendek.
Misalkan b = b(a) yaitu b

1
1
2
sebagai fungsi dari a. Karena l = a b nSn maka a penyebab l terpendek
akan memenuhi

dl
da

= 0 atau

dl
1
1 db
= 2 + 2
=0
da
a
b da
2

db
= ab 2 . Bila Gn dan gn masing-masing adalah fungsi distribusi dan
yaitu da
fungsi kepadatan probabilitas dari 2n maka Gn (b) Gn (a) = 1 sehingga

d
dGn (b) dGn (a)

= (1 )
da
da
da
atau

dGn (b) db
gn (a) = 0
db da

atau

db
gn (a) = 0.
da
db
= ggnn(a)
. Akibatnya a2 gn (a) = b2 gn (b) sehingga a dan b
Hal itu berarti da
(b)
Rb
ditentukan sehingga a2 gn (a) = b2 gn (b). dan a gn (t)dt = 1 .
Sebagai contoh, untuk n = 25, = 1 dan 1 = 0, 95 sehingga Z/2 =
1, 96. Hal itu berarti interval kepercayaan 95% untuk adalah
gn (b)

0, 392, X
+ 0, 392].
[X
Bila digunakan ekor yang sama diperoleh a = 13, 120 dan b = 40, 646 maka
interval kepercayaan 95% untuk 2 adalah
h 25S 2
2 i
25S25
25
,
.
40, 646 13, 120
94

Pada sisi lain, interval kepercayaan % terpendek untuk 2 adalah


h 25S 2
2 i
25S25
25
,
.
45, 7051 14, 2636
dengan rasio panjang antara kedua interval tersebut medekati 1,068.
Contoh 4.2
Misalkan X1 , . . . , Xn variabel random saling bebas dari distribusi
Gamma
P
dengan parameter dan diketahui (misal = r). Statistik ni=1 Xi merupakan statistik cukup untuk . Karena setiap j = 1, 2, . . . , n, variabel random 2Xi / berdistribusi 22r maka
n
2X
Xi
Tn () =
i=1

berdistribusi chi-kuadrat dengan derajat bebas 2rn untuk semua > 0.


Akan ditentukan a dan b dengan a < b sehingga P (a 22m b) = 1 .
Diperoleh
n
2X
Xi b) = 1
i=1
P
P
2 ni=1 Xi
2 ni=1 Xi
P(

) = 1
b
a

P (a

Oleh karena itu interval konfidensi dengan koefisien konfidensi 1 adalah


h 2 Pn X 2 Pn X i
i
i
i=1
i=1
,
b
a

Panjang interval kepercayaannya adalah

1 X
l=2

Xi
a b i=1

1

 hP
i


n
2Xi
1
1
Dengan harapan E(l) = E
= 2rn a b . Prosedur
i=1
untuk menentukan interval kepercayaan dengan panjang terpendek analog
pada Contoh 4.1, yaitu dipilih a dan b sehingga a2 g2rn (a) = b2 g2rn (b) dan
1
a

1
b

b
a

g2rn (t)dt = 1 .
95

Untuk n = 7, r = 2 dan 1 = 0, 95 diperoleh a = 16, 5128 dan b = 49, 3675


dan interval kepercayaan dengan panjang terpendek adalah
h 2 Pn X 2 Pn X i
i
i
i=1
i=1
,
49, 3675 16, 5128
sedangkan interval kepercayaan dengan luas ekor sama adalah
h 2 Pn X 2 Pn X i
i
i
i=1
i=1
,
44, 461
15, 308

dengan rasio panjang antara dua interval tersebut mendekati 1, 075.


Contoh 4.3
Misalkan X1 , . . . , Xn variabel random saling bebas dari distribusi
Qn Beta dengan
parameter

=
1
dan

tidak
diketahui.
Karena
i=1 Xi atau
Pn
i=1 ln Xi merupakan statistik cukup untuk . Karena Xi berdistribusi
Beta dengan = 1 dan = maka Yi = 2 ln Xi berdistribusi chi-kuadrat
dengan derajat bebas 2 sehingga dengan mengingat X1 , . . . , Xn saling bebas
diperoleh
n
X
Tn () = 2
ln Xi
i=1

berdistribusi chi-kuadrat dengan derajat bebas 2n. Akan ditentukan a dan


b dengan a < b sehingga
P (a 22n b) = 1
n
X
P (a 2
ln Xi b) = 1
i=1

P(

a
Pn

i=1

ln Xi

b
Pn

i=1

ln Xi

) = 1 .

Oleh karena itu interval kepercayaan 1 untuk adalah


h
i
a
b
Pn
, Pn
.
2 i=1 ln Xi 2 i=1 ln Xi

Panjang intervalnya sama dengan l = 2 Pna+bln Xi . Dengan menganggap


i=1
maka diperoleh g2n (a) = g2n (b) dan
Z b
g2n (t)dt = 1 .
a

96

dl
da

=0

Contoh 4.4
Misalkan X1 , . . . , Xn variabel random saling bebas dari distribusi U (0, ).
Statistik Yn = X(n) adalah statistik cukup untuk dan mempunyai fungsi
kepadatan probabilitas
n
gn (yn ) = n ynn1

untuk 0 yn . Misalkan Tn () = Yn . Hal itu berarti Tn mempunyai


fungsi kepadatan probabilitas
hn (t) = ntn1
untuk 0 t 1. Akan ditentukan a dan b dengan sifat 0 a < b 1
sehingga
Z b
P (a b) =
ntn1 dt = bn an = 1 .
a

Diperoleh P (a Yn b) = 1 atau P ( b(n)


karena itu interval kepercayaan 1 untuk adalah

X(n)
)
a

= 1 . Oleh

X(n) i
,
b
a


dan panjang intervalnya adalah l = a1 1b X(n) . Akibatnya
hX

n1

(n)

h
dl
1 da
1i
= X(n) 2
+
.
db
a db b2
n+1

n+1

dl
dl
dl
Karena db
= ab n1 maka da
= X(n) a b2 ab
. Karena da
< 0 untuk semua b
n+1
maka l turun dalam b dan nilai minimum dicapai bila a = 1/n . Oleh karena
itu interval kepercayaan dengan koefisien 1 dinyatakan dengan

X(n) ,

X(n) i
.
1/n

Untuk n = 23 dan 1 = 0, 95 maka diperoleh [X(32) , 1, 098X(32) ].

97

4.2

Interval Kepercayaan Bila Muncul Parameter Nuisans

Contoh-contoh berikut ini menjelaskan bagaimana menentukan interval kepercayaan bila muncul parameter nuisans.
Contoh 4.5
Misalkan X1 , X2 , . . . , Xn variabel random saling bebas dari distribusi N (, 2 )
dengan dan 2 tidak diketahui.
Kasus 1
Akan dikonstruksikan interval kepercayaan untuk . Misalkan

n(X )
Tn () =
Sn1
dengan

2
Sn1

1X
(Xi )2 .
=
n i=1

Statistik Tn1 () tergantung pada X1 , . . . , Xn hanya melalui statistik cukup


2
(Xn , Sn1
) dari (, 2 )t . Karena
berdistribusi t dengan derajat bebas n 1 maka diperoleh interval kepercayaan berbentuk
h
Sn1
Sn1 i

Xn b , Xn a .
n
n
Dengan alasan yang sama seperti pada Contoh 4.1 diperoleh interval kepercayaan dengan panjang terpendek yaitu
h

Sn1
n1
n tn1;/2 S
X
, Xn + tn1;/2
n
n

dengan tn1; adalah kuantil atas dari distribusi t dengan derajat bebas n1.
Untuk n = 25 dan = 0, 96 interval kepercayaan yang bersesuaian dengan
diambil dengan t24;0,025 = 2, 0639 sehingga diperoleh
h
i

Xn 0, 41278S24 , Xn + 0, 41278S24 .

98

Kasus 2
Akan dikonstruksikan interval kepercayaan untuk 2 . Misalkan
2
(n 1)Sn1
.
2
Karena T ( 2 ) berdistribusi chi-kuadrat dengan derajat bebas n1 maka dengan menggunakan alasan seperti pada Contoh 4.1 diperoleh interval kepercayaan untuk 2 yaitu
h (n 1)S 2
i
2
n1 (n 1)Sn1
,
b
a
dan interval kepercayaan terpendek diambil bila a dan b memenuhi

Tn ( 2 ) =

a2 gn1 (a) = b2 gn1 (b)


dan

b
a

gn1 (t)dt = 1 .

Untuk n = 25 dan 1 = 0, 95 diperoleh a = 13, 5227 dan b = 44, 4802


yang bersesuaian dengan
2
2
[0, 539S24
, 1, 775S24
].

Contoh 4.6
Sampel random X1 , X2 , . . . , Xn berasal dari distribusi N (1 , 12 ) dan sampel random berasal dari distribusi dengan 1, 2 , 1 , 2 tidak diketahui.
Akan dikonstruksikan interval kepercayaan untuk 1 2 dengan menganggap 1 = 2 = . Misalkan
m Yn ) (1 2 )
(X
Tm,n (1 2 ) = r

.
2
2
+(n1)Sn1
(m1)Sm1
1
1
n
m+n2
m
Statistik Tm,n (1 2 ) berdistribusi t dengan derajat bebas m + n 2. Hal
itu berarti interval kepercayaan 1 untuk 1 2 adalah
s
h


2
2
m Yn ) tm+n2;/2 (m 1)Sm1 + (n 1)Sn1 1 1 ,
(X
m+n2
m n
s

i
2
2
m Yn ) + tm+n2;/2 (m 1)Sm1 + (n 1)Sn1 1 1 .
(X
m+n2
m n
99

Untuk m = 13, n = 14 dan 1 = 0, 95 diperoleh t25;0,025 sehingga


q
q
i
h
2
2
2

(X Y ) 0, 1586 12SX + 13SY , (X Y ) 0, 1586 12SX


+ 13SY2 .
Akan dikonstruksikan interval kepercayaan untuk
Tm,n

 2 
1
22

12
.
22

Misalkan

2
12 Sn1
.
2
22 Sn1

 2

Statistik Tm,n 12 berdistribusi F dengan derajat bebas n 1 dan m 1.


2
Akan ditentukan a dan b dengan 0 < a < b sehingga
P (a Fn1;m1 b) = 1
2 S 2
P (a 12 2n1 b) = 1
2 Sm1
2
2
S
Sm1
12
P (a m1

b
) = 1 .
2
2
Sn1
22
Sn1
Oleh karena itu interval kepercayaan untuk

12
22

adalah

i
h S2
2
Sm1
m1
.
a 2 ,b 2
Sn1 Sn1
Khususnya untuk interval kepercayaan yang mempunyai ekor sama dinyatakan dengan
h

i
2
2
Sm1
Sm1
0
Fn1;m1;/2 2 , Fn1;m1;/2 2
Sn1
Sn1

0
dengan Fn1;m1;/2
dan Fn1;m1;/2 masing-masing adalah kuantil /2 atas
dan bawah dari Fn1;m1 . Bila titik dibaca dari Tabel distribusi F maka titik
dapat dihitung dengan cara
0
Fn1;m1;/2
= 1/Fn1;m1;/2 .

Untuk m, n dan 1 seperti di atas diperoleh dan sehingga interval keper2


cayaan untuk 12 adalah
2

0, 3171

2
2 i
S12
S12
,
3,
2388
.
2
2
S13
S13

100

4.3

Interval Kepercayaan dan Interval Kepercayaan Pendekatan

Konsep interval kepercayaan dapat diperumum menjadi daerah kepercayaan


untuk parameter multi-dimensi.
Contoh 4.7
Akan dikonstruksikan daerah kepercayaan dalam R2 untuk (, 2 )t . Variabel random berdistribusi N (0, 1) dan berdistribusi chi-kuadrat dengan derajat bebas n 1 dan keduanya saling bebas. Akan dicari c(c > 0), a dan
b(0 < a < b) sehingga

P (c N (0, 1) c) = 1

dan P (a 2n1 ) = 1 . Diperoleh



2
(n 1)Sn1
n(X )
P (c
c, a
b) = 1
2


2
(n 1)Sn1
n(X )
P (c
c) P (a
b) = 1

2
2
2
2 2
n )2 c , (n 1)Sn1 2 (n 1)Sn1 ) = 1 .
P (( X
n
b
a
Misalkan X1 , X2 , . . . , Xn variabel random dengan mean dan variansi 2 .
Dengan menggunakan Teorema Limit Pusat diperoleh

n(Xn )
N (0, 1).

Jika dianggap bahwa diketahui maka interval kepercayaan untuk dengan


koefisien kepercayaan mendekati 1 adalah
h
i
Z/2 , X
+ Z/2
X
n
n
asalkan n . Misalkan juga tidak diketahui. Karena
Sn2

n
X
i=1

untuk n maka

n )2 2
(Xi X

n )
n(X
N (0, 1).
Sn
101

Oleh karena itu interval kepercayaan untuk dengan koefisien kepercayaan


1 dinyatakan dengan
h

Sn i
Sn

X Z/2 , X + Z/2
n
n

asalkan n .
Contoh 4.8
Misalkan X1 , . . . , Xn variabel random saling bebas dari distribusi Binom(1, ).
Akan dikonstruksikan interval kepercayaan untuk dengan koefisien keper n (1 X
n ) maka dengan hasil di atas
cayaan mendekati 1 . Karena Sn2 = X
diperoleh interval kepercayaan untuk berikut
r
r
h
n (1 X
n)

i
X
Z/2
+ Z/2 Xn (1 Xn ) .
X
,X
n
n
Contoh 4.9
Misalkan X1 , . . . , Xn variabel random saling bebas dari distribusi Poisson().
Interval kepercayaan untuk dengan koefisien kepercayaan mendekati 1
adalah
h
Sn
Sn i

X Z/2 , X + Z/2 .
n
n

4.4

Hubungan antara Uji Hipotesis dan Interval Kepercayaan

Terdapat hubungan erat antara pengkonstruksian interval kepercayaan dan


pengujian hipotesis. Misalkan variabel random saling bebas dengan fungsi
kepadatan probabilitas f (x; ), Rr . Untuk setiap , akan diuji
hipotesis H( ) : = pada tingkat dan A( ) menyatakan daerah penerimaan dalam Rn . Misalkan Z = (X1 , X2 , . . . , Xn )t dan z = (x1 , x2 , . . . , xn )t
didefinisikan daerah T (z) dalam sebagai T (z) = { |z }. Dengan
kata lain, T (z) adalah himpunan bagian dari dengan sifat : berdasarkan
pada baris z, setiap H() diterima bila T (z) yaitu
z T (z).
102

Oleh karena itu


P ( T (z)) = P (z A()) 1 ,
sehingga T (z) adalah daerah kepercayaan untuk dengan koefisien kepercayaan 1 .
Teorema 4.1
Misalkan variabel random saling bebas dengan fungsi kepadatan probabilitas f (x; ), Rr . Untuk setiap , misalkan masalah pengujian
hipotesis pada tingkat dan didefinisikan T (z) oleh
T (Z) = { |z A()}
maka T (z) adalah daerah kepercayaan untuk dengan koefisien kepercayaan
1 .

103

Brief History of Pearson


Karl Pearson (1857-1936) Biometrician, statistician & applied mathematician. MacTutor References. SC, LP.
Karl Pearson read mathematics at Cambridge but made his career at University College London. Pearson was an established applied mathematician
when he joined the zoologist W. F. R. Weldon and launched what became
known as biometry; this found institutional expression in 1901 with the journal Biometrika. Weldon had come to the view that the problem of animal
evolution is essentially a statistical problem and was applying Galtons statistical methods. Pearsons contribution consisted of new techniques and eventually a new theory of statistics based on the Pearson curves, correlation,
the method of moments and the chi square test. Pearson was eager that his
statistical approach be adopted in other fields and amongst his followers was
the medical statistician Major Greenwood. Pearson created a very powerful
school and for decades his department was the only place to learn statistics.
Yule, Wishart and F. N. David were among the distinguished statisticians
who started their careers working for Pearson. Among those who attended
his lectures were the biologist Raymond Pearl, the economist H. L. Moore,
the medical statistician Austin Bradford Hill and Jerzy Neyman; in the 1930s
Wilks was a visitor to the department. Pearsons influence extended to Russia
where Slutsky (see minimum chi-squared method) and Chuprov were interested in his work. Pearson had a great influence on the language and notation
of statistics and his name often appears on the Words pages and Symbols
pagessee e.g. population, histogram and standard deviation. When Pearson retired, his son E. S. Pearson inherited the statistics part of his fathers
empirethe eugenics part went to R. A. Fisher. Under ESP (who retired in
1961) and his successors the department continued to be a major centre for
statistics in Britain. M. S. Bartlett went there as a lecturer after graduating
from Cambridge in 1933 (his teacher was Wishart) and again as a professor
when ESP retired. For more on KP see Karl Pearson: A Readers Guide. See
Stigler (1986): Chapter 10, Pearson and Yule.

104

Brief History of Markov


A. A. Markov (1856-1922) Mathematician. MacTutor References. SC,
LP.
Markov spent his working life at the University of St. Petersburg. Markov
was, with Lyapunov, the most distinguished of Chebyshevs students in probability. Markov contributed to established topics such as the central limit
theorem and the law of large numbers. It was the extension of the latter to
dependent variables that led him to introduce the Markov chain. He showed
how Chebyshevs inequality could be applied to the case of dependent random
variables. In statistics he analysed the alternation of vowels and consonants
as a two-state Markov chain and did work in dispersion theory. Markov had
a low opinion of the contemporary work of Pearson, an opinion not shared
by his younger compatriots Chuprov and Slutsky. Markovs Theory of Probability was an influential textbook. Markov influenced later figures in the
Russian tradition including Bernstein and Neyman. The latter indirectly
paid tribute to Markovs textbook when he coined the term Markoff theorem
for the result Gauss had obtained in 1821; it is now known as the GaussMarkov theorem. J. V. Uspenskys Introduction to Mathematical Probability
(1937) put Markovs ideas to an American audience. See Life & Work There is
an interesting volume of letters, The Correspondence between A.A. Markov
and A.A. Chuprov on the Theory of Probability and Mathematical Statistics ed. Kh.O. Ondar (1981, Springer) See also Sheynin ch. 14 and G. P.
Basharin et al. The Life and Work of A. A. Markov.

105

Bibliography
[1] Lindgren, B. W., (1993), Statistical Theory 4th edition, Chapman &
Hall Inc, New York.

[2] Oosterhoff, J., (1993), Algemene Statistiek, Faculteit Wiskunde en


Informatica, Vrije Universiteit Amsterdam, Amsterdam.

[3] Roussas, G. G., (1973), A first Course in Mathematical Statistics,


Addison-Wesley Publishing Company, Reading Massachusetts.

106

Anda mungkin juga menyukai