Pendugaan Nilai Parameter

Point Estimation
X1, ..., Xn adalah contoh acak dari fmp/fkp
f(x|) untuk -<x<
 = konstanta yang nilainya tidak diketahui.

Catatan Istilah

Estimation = Pendugaa/ proses menduga

Estimator = Penduga
Estimate = (Nilai) Dugaan

Definisi:
Suatu fungsi dari X1, ..., Xn, misalnya W(X1, ..., Xn) adalah penduga bagi 

Penduga adalah statistik tapi statistik belum tentu penduga

Beberapa Metode Untuk Memperoleh Penduga

1. Penduga Momen
Peubah acak X dengan fmp/fkp f(x|)

Definisi:
Momen populasi ke-k dari peubah acak X adalah :
k = E[Xk] untuk k=1,2,....

Momen ke -1  k = E[X]  disebut dengan rataan/nilai tengah peubah acak X

Momen ke -2  k = E[X2]
............................................
Momen ke -k  k = E[Xk]

Momen contoh yang ke – k

1 n
mk   X ik  X k
n i 1
1 n
k  1  m1   Xi  X
n i 1
 1 n 2
k  2  m2   Xi  X 2
n i 1
...........................................

Ilustrasi
Var[ X ]  E[ X  E ( X )] 2
 E[ X  1 ] 2
 E[ X 2  2 X1  12 ]
 E[ X 2 ]  2 E[ X ]1  12
 E[ X 2 ]  212  12
 E[ X 2 ]  12

Momen ke – k k=(1, ..., k) k = 1, 2, ....

X~N(1, ..., k)
1=E[X]=1
2=E[X2]=2+12
Peubah acak X dengan fkp/fmp f(x|1,...,k) penduga bagi (1,...,k) dapat diperoleh dengan metode
momen sebagai berikut :
Membuat k persamaan :

1 ˆ m1
 2 ˆ m 2
............
 k ˆ m k

" ˆ ": diguga

k persamaan dengan k anu (1,...,k) dapat dihasilkan dari k persamaan.

Ilustrasi
1. Peubah acak Bernoulli () k =1.
Ambil contoh acak X1,...,Xn
 1  E[ X ]  
1 n
m1   Xi
n i 1
X
1 n
( 1 ˆ m1 )  (   Xi )
n i 1

2. Peubah Acak Uniform

 1
 , untuk 1  x   2
f ( x | 1, 2)   2  1

0 , untuk x lainnya
2
1
1  E[ X ]   x dx
1  2  1
2
1 1 2 1 ( 2  1 ) 2 1
 x   ( 2  1 )
 2  1 2  2  2  1
1
2
2
1
 2  E[ X 2 ]   x 2 dx
1  2  1
2
1 1 3 1 ( 2  1 ) 3 1 2
 x   (1  1 2   22 )
 2  1 3  3  2  1
1
3
n
1
m1   Xi
n i 1
1 n 2
m2   Xi
n i 1
1 1 n
1 ˆ m1  (1   2 ) ˆ  X i
2 n i 1
1 1 n 2
3
 Xi
 2 ˆ m2  (12  1 2   22 ) ˆ
n i 1
Untuk mendapatkan 1 dan 2 dapat menggunakan rumus ABC
ax 2  bx  c  0
b c
x2  x 0
a a
2
 b b2 c
 x     0
 2a  2
4a a

2
 b b2 c
 x    
2a  4a 2
a
b b2 4ac
x   2
 2
2a 4a 4a
 b  b 2  4ac
x 
2a
Asal a > 0

2 n
 2 ˆ  X i  1
n i 1
1 2 1 n 2
(1  1 2   2 ) ˆ  X i
2

3 n i 1
1  2  1 n 2
2
2 n  2 n 
1  1   X i  1     X i  1   ˆ  X
3   n i 1   n i 1   n i 1 i


Lanjutin ya..

……………………………….

Hasilnya :
3 n
1 ˆ X  ( X  X )2
n i 1
3 n 3 n
 1 ˆ X  
n i 1
( X  X )   2 ˆ 2 X  [ X 
2

n i 1
( X  X )2 ]

3 n
ˆ X   ( X  X )2 ]
n i 1
Tidak memenuhi syarat karena 1>2
 3 n 3 n
1 ˆ X  
n i 1
( X  X ) 2
  2 
ˆ 2 X  [ X   (X  X )2 ]
n i 1
3 n
ˆ X  
n i 1
(X  X )2 ]

Memenuhi syarat karena 1<2

Sehingga :

Penduga bagi 1

3 n
ˆ1  X  ( X  X )2
n i 1
Penduga bagi 2
3 n
ˆ2  X  ( X  X )2 ]
n i 1
3. Peubah acak Normal X~N(1,2)
Ambil contoh acak X1,...,Xn
1  E ( X )   1
 2  E ( X 2 )   2  12
1 n
m1   Xi
n i 1
1 n 2
m2   Xi
n i 1
1 n
1 ˆ m1  1 ˆ  Xi
n i 1

1 n 2
 2 ˆ m2   2  12 ˆ  Xi
n i 1
1 n 2
 2 ˆ 
n i 1
X i  12
2
1 n 1 n 
ˆ  X i2    X i 
n i 1  n i 1 
1 n  
2
1 n
ˆ  X i2    X i  
n  i 1 n  i 1  
1 n
ˆ  ( X i  X ) 2
n i 1
2. Metode Kemungkinan Maksimum
(Maximum Likelihood Method)

Peubah acak X dengan fmp/fkp f(x|)

Ambil contoh acak X1,...,Xn
n
f ( x1 ,..., x n |  )   f ( xi |  )
i 1

= konstanta, nilainya tidak diketahui tetapi dapat ditentukan batas-batasnya dengan  

n
f ( x1 ,..., x n |  )   f ( xi |  ) adalah fungsi dari (x1,...,xn) dengan  adalah kontanta. Jika contoh
i 1

sudah terambil maka (x1,...,xn) sudah tertentu dan diketahui, sehingga nilai f ( x1 ,..., xn |  ) hanya
tergantung pada  atau dengan kata lain merupkan fungsi dari . Fungsi tersebut dinamakan fungsi
kemungkinan dari , yang dapat ditentukan sebagai berikut :
L(|x1,...,xn) , untuk  . Fungsi ini bentuknya sama dengan f ( x1 ,..., xn |  )

Ilustrasi
1. Peubah acak Bernoulli () dengan 0<<1
Ambil contoh acak X1, X2
 x1  x2 (1   ) 2( x1  x2 ) , untuk xi  0,1 ; i  1,2
f ( x1 ,.x2 |  )  
0 , untuk xi lainnya

 x1  x2 (1   ) 2( x1  x2 ) , untuk 0    1
L( | x1 ,.x2 )  
0 , untuk  lainnya

x1 x2 L(|x1, xn)
0 0 (1-)2
0 1 (1-)
1 0 (1-)
1 1 2

L( | 0,0)  (1   ) 2
L( | 0,1)  L( | 1,0)   (1   )
L( | 1,1)   2
 1
L(|1,1)

L(|0,0)
L

¼ L(|0,1)=L(|1,0)


0 ½

Grafik ini memberikan gambaran nilai  yang terpilih jika sudah diambil contoh acak. Nilai
maksimum  = ½ .

Jika terambil (0,0)   kecil  0

Jika terambil (1,1)   besar  1
Jika terambil (0,1) atau (1,0)  = ½
Sehingga penduga  adalah :

0 , bila ( x1 , x2 )  (0,0)

ˆ  1 / 2 , bila ( x1 , x2 )  (0,1), (1,0)
1 , bila ( x , x )  (1,1)
 1 2

DEFINISI 7.2.1
Pendugaan kemungkinan maksimum bagi  diambil nilai  yang membentuk fungsi L(|x1,...,xn)
sebesar-besarnya, yaitu ˆ( x1 ,..., xn )
Ilustrasi
1. X~Bernoulli () , 0    1
n n

 xi n  xi
L( | x1 ,..., x n )   i 1 (1   ) i 1
, untuk 0    1
n
Kemungkinan x
i 1
i  0,1,2,..., n
n
 Perhatikan bila x
i 1
i  0 maka L( | x1 ,..., x n )  (1   ) n untuk 0    1 Fungsi ini turun

menonton pada 0    1 jadi  ̂ 0 akan membuat L( | x1 ,..., xn ) maximum

n
 Perhatikan bila x
i 1
i  n maka L( | x1 ,..., x n )   n untuk 0    1 . Fungsi ini naik menonton

pada 0    1 jadi  ̂ 1 akan membuat L( | x1 ,..., xn ) maximum

n n
n  xi n  xi
 Bila x
i 1
i  1,2,..., n  1 maka L( | x1 ,..., xn )   i1 (1   ) i 1
, untuk 0 1
n n
ln L( | x1 ,..., xn )   xi ln   [n   xi ] ln( 1   )
i 1 i 1
n n

d ln L( | x1 ,..., x n ) 
xi n   xi
 i 1  i 1
0
d  (1   )
n n
(1   ) xi   [n   xi ]  0
i 1 i 1
n

x
i 1
i  n 0

1 n
ˆ   xi
n i 1
1 n
Mengecek apakah fungsi L( | x1 ,..., xn ) benar maksimum pada  xi dapat dicari
n i 1
ˆ 

turunan keduanya. Jika turunan kedua fungsi L( | x1 ,..., xn ) < 0 maka fungsi L( | x1 ,..., xn )
adalah maksimum.
 n n

d ln L( | x1 ,..., x n )
2 x i n   xi
  i 1 2  i 1

d  (1   ) 2
1 n
ˆ   xi
n i 1
n n

x i n   xi
n
 i 1
2
 i 1
2
 0 karena n   xi
1 n   1 n  i 1
  xi  1   x i 
 n i 1   n i 1 

 1 n
Jadi    X i akan membuat L( | x1 ,..., xn ) maksimum. Sehingga penduga untuk  adalah
n i 1
:
 n

0 , bila  Xi  0 
 n i 1

1 n
 1 n n
    X i , bila  X i  1,2,..., n  1   X i untuk  X i  0,1,2..., n
ˆ
 n i 1 i 1  n i 1 i 1
1 
n

 , bila  X i  1 
 i 1 

Sehingga :
X proporsi banyaknya Xi yang bernilai 1.

f ( x1 ,..., xn |  )  P[( X 1 ,..., X n )  ( x1 ,..., xn )]  Diskrit

L( | x1 ,..., xn ) kontinu karena kontinu

2. Peubah Uniform (0,) dengan 0<<

1
 , untuk 0  x  
f ( x |  )  
0 , untuk x lainnya , sedangkan 0    
Ambil X1,...,Xn adalah contoh acak sehingga fungsi fmp bersamanya adalah :
1
f ( x1 ,..., x n |  )  n , untuk 0  xi   ; i  1,2,.

1
 n I ( 0, ) (maks{xi })

1
L( | x1 ,..., x n )  n I ( 0, ) (maks{xi })

1
 n I (maks{xi }, )

 y  maks{xi }
1 1
 I ( y , )  , untuk y    
 n
n

Catatan :
1
L( | x1 ,..., x n )  : adalah fungsi turun monoton untuk y   < 
n
0 

y=maks{xi}

1/n L(|x1,…,xn)=1/n y   <


0 y 

Fungsi di atas tidak dapat diturunkan karena tidak akan pernah mencapai 0

Pendugaan Dengan Metode Momen

Peubah Acak Uniform
1
 , untuk 0  x  
f ( x |  )  
0 , untuk x lain
 
1
11 2 
1  E ( X )   x dx  x 
0
  2 0 2
1 n
m1   Xi
n i 1
1 ˆ m1
 1 n
2
ˆ  X i  ˆ  2 X
n i 1

Kesimpulan :
 Penduga momen bagi  : ˆ  2 X
 Penduga Maksimum bagi  : ˆ  Maks{X i }

Hasil ini menunjukkan bahwa metode pendugaan yang berbeda mungkin memberikan hasil
yang berbeda pula.
1. Peubah Acak Normal X~N(1, 2)
Fkp bersama peubah acak normal N(1, 2)
1 n
f ( x1 ,..., x n | 1 ,  2 )  (22 )  n / 2 exp(  
2 2 i 1
( xi  1 ) 2 , untuk    x  
n
1
L(1 ,  2 | x1 ,..., x n )  (22 )  n / 2 exp( 
2 2
 (x
i 1
i  1 ) 2 , untuk    1  

untuk 0   2  
n
n 1
ln L(1 ,  2 | x1 ,..., x n )   ln( 22 ) 
2 2 2
 (x
i 1
i  1 ) 2

 ln L(1 ,  2 | x1 ,..., x n ) 1 n

1

2 2
 2( x
i 1
i  1 )  0
n n
ˆ 1 x X

i 1
x i  n 1  0   1  i
n i 1
 ln L(1 ,  2 | x1 ,..., x n ) n 1 n

 2
  2
2 2 2 2
 (x
i 1
i  1 ) 2  0
n
n 2   ( x i  x ) 2
i 1
n

 (x i  x)2
ˆ2  i 1

Penduga kemungkinan maksimum bagi (1,2)

1 n
 ˆ1   X i  X
n i 1
1 n
 ˆ2   ( X i  X ) 2
n i 1
Penduga kemungkinan maksimum
Pada umumnya parameter  dinyatakan sebagai fungsi kontinu sehingga bisa diturunkan. Namun
parameter  juga dapat dinyatakan sebagai fungsi diskrit.

Ilustrasi
1. Peubah Acak Bernoulli () dengan  adalah fungsi diskrit.
X~Bernoulli () , {0.1, 0.5, 0.8}
Ambil contoh acak X1, X2, X3
Fkp besamanya adalah :

x1 x2  x3 3( x  x  x )
f ( x1 ,...., xn |  )   (1   ) 1 2 3

Sehingga fungsi kemungkina maksimumnya :

x1  x2  x3 3( x  x  x )
L( | x1 ,...., xn )   (1   ) 1 2 3

L(|x1, x2, x3) PKM Bagi 

x1 x2 x3
=0.1 =0.5 =0.8 ( ˆ )
0 0 0 0.729 0.125 0.008 ˆ =0.1
0 0 1
0 1 0 0.081 0.125 0.032 ˆ =0.5
1 0 0
0 1 1
1 0 1 0.009 0.125 0.128 ˆ =0.8
1 1 0
1 1 1 0.001 0.125 0.512 ˆ =0.8

Dapat dilihat bahwa PKM bagi  memiliki nilai yang bebeda-beda tergantung dari contoh yang
terambil. Hal ini menunjukkan bahwa penduga kemungkinan maksimum bagi  tergantung pada
contoh yang terambil.

0.1 , untuk ( x1 , x2 , x3 )  (0,0,0)


ˆL  0.5 , untuk ( x1 , x2 , x3 )  (0,0,1), (0,1,0), (1,0,0)
0.8 , untuk ( x , x , x )  (0,1,1), (1,0,1), (1,1,0), (1,1,1)
 1 2 3

2. Peubah Acak Normal X~N(1,2)

Fkp bersama peubah acak normal N(1, 2)
 n
1
f ( x1 ,..., x n | 1 ,  2 )  (22 ) n / 2
exp( 
2 2
 (xi 1
i  1 ) 2 , untuk    x  
n
1
L(1 ,  2 | x1 ,..., x n )  (22 )  n / 2 exp( 
2 2
 (xi 1
i  1 ) 2 , untuk    1  

, untuk 0   2  
n
n 1
ln L(1 ,  2 | x1 ,..., x n )   ln( 22 ) 
2 2 2
 (x
i 1
i  1 ) 2

 ln L(1 ,  2 | x1 ,..., x n ) 1 n
1 n
n
1

2 2
 2( xi  1 )  0 
i 1 2
x
i 1
i 
2
1
n n
ˆ 1 x X

i 1
x i  n 1  0   1  i
n i 1
 ln L(1 ,  2 | x1 ,..., x n ) n 1 n

 2
  2
2 2 2 2
 (x
i 1
i  1 ) 2  0
n
n 2   ( x i  x ) 2
i 1
n

 (x i  x)2
ˆ2  i 1

Untuk membuktikan bahwa hasil PKM untuk 1 dan 2 memaksimumkan fungsi likelihoodnya
maka harus dilakukan pembuktian sebagai berikut :
a) Turunan kedua fungsi logaritma likelihoodnya terhadap 1 harus lebih kecil dari nol
 2 ln L n n2
  n 0
12  2  1 n ( x  x ) 2   2
2  ( x i x )
ni  1 i i 1

Terbukti

b) Turnan kedua fungsi logarimta likelihoodinya terhadap 2 harus lebih kecil dari nol
n
 ( xi  x )
2
 ln L
2
n n3
 2  i 1  0
 2
2
2 2  23 2
2   ( xi  x ) 2 
n
n
 1  x x
1 i 1 
i
ni  1
n
2  1  ( x  x ) 2
ni  1 i

Terbukti
 c) Determinan matriks turunan kedua fungsi likelihoodnya lebih besar dari nol.
n
 ( xi  1 )
2
 ln L
2
  i 1
1 2  22
n
 ( xi  1 )
2
 ln L
2
 ln L
2
n
  i 1
12 1  2 2  22
 n
 2 ln L  ln L
2
 ( xi   1 )
2
n
 ( xi  x )
2
n
1  2  22
 i 1
 i 1 n
2
2 2 2
2  23  1  x x
1
i
ni  1
n
2  1  ( x  x ) 2
ni  1 i
n5
= 3
0
2   ( xi  x ) 2 
n

i 1 
Terbukti

Kesimpulan :

Penduga kemungkinan maksimum bagi (1,2) adalah

1 n
 ˆ1   X i  X
n i 1
1 n
 ˆ2   ( X i  X ) 2
n i 1
1 n
PKM untuk 1 adalah ˆ1 ( X 1 ,..., X n )   X i
n i 1
1 n
PKM untuk 2 adalah ˆ2 ( X 1 ,..., X n )   ( X i  X ) 2
n i 1

X~f(x|)
X1,...,Xn adalah contoh acak
ˆ( X 1 ,..., X n ) adalah PKM bagi 

TEOREMA 7.2.1
Jika ˆ( X 1 ,..., X n ) adalah PKM bagi , maka setiap fungsi dari ˆ( X 1 ,..., X n ) , misalnya
 [ˆ( X ,..., X ) adalah PKM bagi  ( ) .
1 n