Anda di halaman 1dari 6

Buletin Ilmiah Mat. Stat.

dan Terapannya (Bimaster)


Volume 02, No. 1 (2013), hal. 51 – 56.

PERBANDINGAN METODE MAXIMUM LIKELIHOOD ESTIMATION (MLE)


DAN METODE BAYES DALAM PENDUGAAN PARAMETER
DISTRIBUSI EKSPONENSIAL

Dwi Nurlaila, Dadan Kusnandar, Evy Sulistianingsih

INTISARI

Penelitian ini membandingkan metode MLE dan metode Bayes dalam menduga parameter Distribusi
Eksponensial. Distribusi prior untuk metode Bayes yang digunakan pada penelitian ini adalah perluasan
distribusi prior Jeffrey. Perbandingan kedua metode dilakukan melalui simulasi data pada berbagai
kondisi parameter dan ukuran sampel. Evaluasi terhadap kedua metode dilakukan melalui pengamatan
terhadap nilai bias dan MSE yang dihasilkan. Penelitian ini menunjukkan bahwa metode Bayes dengan
nilai konstanta Jeffrey lebih kecil dari satu selalu menghasilkan nilai bias dan MSE yang lebih baik
dibandingkan dengan metode Maximum Likelihood Estimation (MLE).

Kata kunci: Distribusi Eksponensial, Metode MLE, Metode Bayes.

PENDAHULUAN
Pendugaan parameter adalah bagian dari statistik inferensi yang merupakan suatu cara untuk
memprediksi karakteristik dari suatu populasi berdasarkan sampel yang diambil. Secara umum
pendugaan parameter digolongkan menjadi dua yaitu pendugaan titik dan pendugaan selang. Beberapa
metode pendugaan titik yang digunakan untuk menduga parameter diantaranya adalah metode momen,
metode kuadrat terkecil, metode Maximum Likelihood Estimation (MLE) dan metode Bayes. Metode
momen menduga parameter dengan cara menyamakan k momen sampel dengan k momen populasi dan
menyelesaikan sistem persamaan yang dihasilkan [1]. Sedangkan metode kuadrat terkecil prinsip
kerjanya adalah meminimumkan jumlah kuadrat penyimpangan atau error nilai-nilai observasi
terhadap rata-ratanya. Selanjutnya metode MLE merupakan suatu metode pendugaan parameter yang
memaksimalkan fungsi likelihood. Kemudian metode Bayes merupakan metode pendugaan yang
menggabungkan distribusi prior dan distribusi sampel. Distribusi prior adalah distribusi awal yang
memberi informasi tentang parameter. Distribusi sampel yang digabung dengan distribusi prior akan
menghasilkan suatu distribusi baru yaitu distribusi posterior yang menyatakan derajat keyakinan
seseorang mengenai letak parameter setelah sampel diamati [2].
Al Kutubi dan Ibrahim [3] melakukan penelitian mengenai pendugaan parameter Distribusi
Eksponensial dari data waktu hidup. Penelitian tersebut menggunakan metode Bayes dengan distribusi
prior Jeffrey dan perluasan distribusi prior Jeffrey. Penelitian ini menghasilkan bahwa perluasan
distribusi prior Jeffrey memberikan penduga terbaik dibandingkan dengan penduga lainnya. Penelitian
lain mengenai metode Bayes yang menduga parameter Distribusi Gamma dilakukan oleh Pradhan dan
Kundu [4]. Penelitian tersebut membandingkan kinerja Bayes dengan MLE serta metode momen
menggunakan simulasi Monte Carlo. Dari hasil simulasi dapat dilihat bahwa penduga Bayes dan
penduga MLE lebih baik dari penduga momen. Jika dibandingkan penduga Bayes dan penduga MLE
maka dapat disimpulkan bahwa pada saat penduga Bayes dengan prior non-informatif menghasilkan
nilai yang sama dengan MLE, tetapi pada saat menggunakan prior informatif penduga Bayes lebih
baik dibandingkan MLE. Selanjutnya Shawky dan Bakoban [5] juga melakukan penelitian mengenai
pendugaan parameter sebuah bagi Distribusi Gamma Exponentiated.

51
52 D NURLAILA, D KUSNANDAR, DAN E SULISTIANINGSIH

Penelitian tersebut menggunakan metode Bayes dan MLE untuk memperoleh penduga dari parameter
bentuk, reliability (keandalan) dan failure rate functions (fungsi tingkat kegagalan). Penelitian ini
menganjurkan penggunaan pendekatan Bayes dengan quadratic loss function (kuadrat fungsi
kehilangan) untuk menduga parameter bentuk dari Distribusi Gamma Exponentiated. Sementara MLE
lebih dianjurkan untuk menduga keandalan dan fungsi tingkat kegagalan. Kemudian Penelitian yang
dilakukan oleh Yarmohammadi dan Pazira [6] menggunakan metode Bayes dan MLE dalam menduga
parameter bentuk, reliability dan failure rate function pada Generalized Exponential Distribution.
Hasil yang diperoleh dari pengamatan menunjukkan secara umum bahwa lebih baik menggunakan
pendekatan Bayes dengan LINEX loss function untuk memperkirakan parameter bentuk dari
Generalized Exponential Distribution. Sedangkan untuk memperkirakan keandalan dan fungsi tingkat
kegagalan menggunakan pendekatan Bayes dengan Precautionary loss function. Pendugaan parameter
pada Distribusi Weibull juga menggunakan metode Bayes dan MLE yang diteliti oleh Ahmed et al [7].
Pada penelitian tersebut metode Bayes menggunakan distribusi prior Jeffrey dan perluasan distribusi
prior Jeffrey untuk memperkirakan parameter Distribusi Weibull pada data waktu hidup. Penelitian ini
menyimpulkan bahwa metode Bayes yang digunakan dalam menduga parameter Weibull ini tidak
lebih unggul dibandingkan dengan metode MLE.
Tujuan penelitian ini adalah membandingkan tingkat efektifitas metode Maximum Likelihood
Estimation (MLE) dan metode Bayes dalam menduga parameter Distribusi Eksponensial.
Perbandingan kedua metode dilakukan melalui studi simulasi yang melibatkan tiga nilai parameter dan
tiga ukuran sampel. Metode Bayes yang digunakan pada penelitian ini menggunakan perluasan
distribusi prior Jeffrey. Kemudian perbandingan keefektifitasan kedua metode dilihat dari nilai bias
dan MSE yang diperoleh.

METODE MAXIMUM LIKELIHOOD ESTIMATION


Metode Maximum Likelihood Estimation adalah metode pendugaan yang memaksimumkan fungsi
likelihood. Dalam penelitian ini metode MLE digunakan untuk menduga parameter Distribusi
Eksponensial. Distribusi Eksponensial merupakan salah satu distribusi kontinu. Distribusi ini
digunakan pada data waktu hidup dengan kegagalan konstan. Distribusi Eksponensial dengan
parameter θ memiliki fungsi kepadatan peluang sebagai berikut [8]:
1 
x
f  x ,  e , x  0,   0

Adapun fungsi likelihood dari Distribusi Eksponensial adalah sebagai berikut [1]:
L  f  x   f  x   ... f  x  
 1   2   n 
n
1
1  θ  xi
 n e i 1 . (1)
θ
Nilai yang maksimum dari L(θ) juga akan maksimum pada log-likelihood. Adapun persamaan log-
likelihood dari Distribusi Eksponensial adalah

 1 n 
 1 θ  xi

ln L  ln  n e i1 
θ 
 

n
1
ln L    n ln  

 xi . (2)
i 1
Perbandingan Metode MLE dan Metode Bayes dalam Pendugaan Parameter Distribusi Eksponensial 53

Nilai penduga diperoleh dengan menurunkan Persamaan (2) terhadap dan menyamakan turunannya
dengan nol, yaitu:
  n 
  n ln   1 x   0,
   i
 i 1 

sehingga diperoleh,
1 n
ˆ   xi  x.
n i 1
Dengan demikian penduga Maximum Likelihood Estimation bagi adalah x .

METODE BAYES
Dasar dari metode Bayes adalah probabilitas bersyarat, sehingga untuk melakukan pendugaan
diperlukan sebuah informasi awal dari parameter yang disebut dengan distribusi prior. Distribusi prior
dapat dinotasikan dengan ( ), yang mana adalah parameter dari distribusi sampel. Salah satu
distribusi prior adalah distribusi prior Jeffrey [3] yaitu ( ) √ ( ), dimana
  2 ln f  x,   
I    n E  .
  2 
 
Dalam aplikasinya, distribusi prior Jeffrey diperluas menjadi perluasan distribusi prior Jeffrey yaitu
    I  c ,
untuk semua .
Sehingga perluasan distribusi prior Jeffrey untuk Distribusi Eksponensial yaitu
nc
    k ,
 2c
dengan k adalah konstanta, , dan n adalah jumlah sampel.
Distribusi prior kemudian dikombinasi dengan distribusi sampel yang akan menghasilkan distribusi
baru yaitu distribusi posterior. Distribusi posterior diperoleh dengan cara membagi fungsi kepadatan
bersama dengan fungsi marginal. Untuk menghasilkan fungsi kepadatan bersama dan fungsi marginal
dilakukan dengan cara berikut [9]:
Fungsi kepadatan bersama dari  x1 ,..., xn ,   yaitu:
 
H x1 ,...,xn ,   L xi     
 ~ 
1 n
θ

kn c xi
 e i 1
. (3)
 n  2c
Fungsi marginal dari ( ) yaitu:

P x1 ,..., x n    H  x1 ,..., x n ,   d
0
54 D NURLAILA, D KUSNANDAR, DAN E SULISTIANINGSIH

1 n
θ
 
kn c xi
Px1 ,...,xn    n  2c
e i 1
d
0

kn c n  2c  2!
 n  2c 1
n 
  xi  (4)
 i 1 
Dari Persamaan (3) dan Persamaan (4) distribusi posterior dapat ditulis sebagai berikut:
H x1 ,...,xn , 
  x1 ,...,xn   
 H x1 ,...,xn ,  d
0
n
1

 xi
 n  2c
 e i 1
 1 n  2 c
n 
  xi  n  2c  2!
 i 1 
Pendugaan Bayes adalah rata-rata dari distribusi posterior [10].

E        x1 ,...,xn  d
0
n
1

 xi
  n  2c
 e i 1
  1 n  2c
d
n 
0
  xi  n  2c  2!
 i 1 
 
 
1  n  2c  3! 
 1 n  2 c  n n  2c  2 
n 
  xi  n  2c  2!    xi  

 i 1    i 1  
n
 xi
i 1

n  2c  2
1 n
Dengan demikian penduga Bayes bagi adalah  xi .
n  2c  2 i1

Penduga yang diperoleh menggunakan metode MLE dan metode Bayes akan dibandingkan
menggunakan simulasi. Simulasi data dilakukan dengan membangkitkan berbagai jenis kondisi data
yang melibatkan tiga nilai yaitu 0,5; 1 dan 1,5 serta tiga macam ukuran sampel yaitu n = 25, n = 50
dan n = 100. Kemudian dilakukan perulangan sebanyak 10.000 kali untuk setiap kombinasi dan n.
Data yang diperoleh tersebut dianalisis untuk menduga parameter menggunakan metode MLE dan
metode Bayes. Penduga parameter dengan metode Bayes menggunakan perluasan distribusi prior
Jeffrey yang melibatkan beberapa nilai konstanta Jeffrey yaitu c = 0,1; 0,3; 0,5; 0,7 .
Selanjutnya dihitung nilai bias dan MSE dari kedua metode tersebut dengan rumus sebagai berikut: (5)
 
Bias ˆ  E ˆ  

MSE ˆ    E ˆ   E ˆ    E ˆ    


2 2 2
(6)
 
Simulasi pada penelitian ini dilakukan dengan program R. Kemudian nilai bias dan MSE yang
dihitung menggunakan rumus pada persamaan (5) dan Persamaan (6) ditampilkan pada Tabel 1 dan 2.
Perbandingan Metode MLE dan Metode Bayes dalam Pendugaan Parameter Distribusi Eksponensial 55

Tabel 1. Nilai Bias yang Dihasilkan oleh Penduga MLE dan Penduga Bayes dari Parameter Distribusi
Eksponensial

Bias
n θ Bayes
MLE
c = 0,1 c = 0,3 c = 0,5 c = 0,7 c = 1,3
0,5 0,0198382 -0,0175902 -0,0092727 -0,0009553 0,0073621 0,0323143
25 1 0,0447217 -0,0304983 -0,0137828 0,0029328 0,0196483 0,0697949
1,5 0,0637863 -0,0488063 -0,0237857 0,0012348 0,0262554 0,1013172
0,5 0,0107099 -0,0076756 -0,0035899 0,0004957 0,0045814 0,0168385
50 1 0,0207361 -0,0160104 -0,0078445 0,0003214 0,0084873 0,0329850
1,5 0,0273758 -0,0276097 -0,0153907 -0,0031717 0,0090473 0,0457043
0,5 0,0049288 -0,0041599 -0,0021402 -0,0001205 0,0018992 0,0079584
100 1 0,0099802 -0,0081994 -0,0041595 -0,0001196 0,0039204 0,0160401
1,5 0,0182523 -0,0090762 -0,0050032 0,0030698 0,0091428 0,0273618

Tabel 2. Nilai MSE yang Dihasilkan oleh Penduga MLE dan Penduga Bayes dari Parameter
Distribusi Eksponensial

MSE
n θ Bayes
MLE
c = 0,1 c = 0,3 c = 0,5 c = 0,7 c = 1,3
0,5 0,0119779 0,0102857 0,0104092 0,0106771 0,0110892 0,0131913
25 1 0,0486523 0,0411063 0,0417635 0,0430033 0,0448259 0,0537898
1,5 0,1097739 0,0934137 0,0947635 0,0974194 0,1013816 0,1211051
0,5 0,0056572 0,0052095 0,0052493 0,0053232 0,0054312 0,0059598
50 1 0,0223582 0,0206341 0,0207789 0,0210599 0,0214771 0,0235456
1,5 0,0503304 0,0468377 0,0470802 0,0476276 0,0484800 0,0528670
0,5 0,0026017 0,0025027 0,0025103 0,0025261 0,0025501 0,0026717
100 1 0,0104834 0,0100806 0,0101124 0,0101772 0,0102749 0,0107661
1,5 0,0243369 0,0232298 0,0233454 0,0235355 0,0238002 0,0250414

Tabel 1 dan 2 menunjukkan nilai bias dan MSE yang berbeda-beda dari masing-masing metode.
Terlihat bahwa kedua metode memiliki pola yang sama yaitu semakin besar ukuran sampel nilai bias
dan MSE yang dihasilkan semakin kecil. Hal ini terjadi untuk semua ukuran θ. Metode Bayes dengan
nilai konstanta Jeffrey yang lebih kecil dari satu menghasilkan nilai bias dan MSE yang lebih kecil
dibandingkan dengan metode MLE. Akan tetapi sebaliknya metode Bayes dengan nilai konstanta
Jeffrey yang lebih besar dari satu menghasilkan nilai bias dan MSE yang lebih besar dari metode
MLE. Kedua metode tersebut memiliki nilai bias yang relatif kecil yaitu | | dari nilai
parameter. Nilai bias terkecil diperoleh ketika konstanta Jeffrey sama dengan 0,5 , keadaan ini
konsisten dalam berbagai kondisi data. Selain itu metode Bayes dengan konstanta Jeffrey 0,1
menghasilkan nilai MSE yang lebih kecil dari yang lain. Semakin besar nilai konstanta Jeffrey maka
nilai bias dan MSE yang dihasilkan semakin besar. Dari analisis yang dilakukan diketahui bahwa
56 D NURLAILA, D KUSNANDAR, DAN E SULISTIANINGSIH

metode Bayes dengan perluasan distribusi prior Jeffrey lebih baik dibandingkan dengan metode MLE.
Namun hal tersebut tidak berlaku secara umum, karena hal tersebut ditentukan oleh nilai c yang
merupakan konstanta Jeffrey.

PENUTUP
Penelitian ini menghasilkan bahwa untuk menduga parameter Distribusi Eksponensial, Metode
Bayes dengan perluasan distribusi prior Jeffrey lebih efektif dibandingkan dengan metode MLE.
Akan tetapi hal ini hanya berlaku ketika c sebagai konstanta Jeffrey kurang dari satu. Karena
menghasilkan nilai bias dan MSE yang lebih kecil dibandingkan dengan metode MLE.

DAFTAR PUSTAKA
[1]. Bain LJ, Engelhardt M. Introduction to Probability and Mathematical Statistics. Boston:
Duxbury Press; 1992.
[2]. Walpole RE, Myers RH. Ilmu Peluang dan Statistika untuk Insinyur dan Ilmuwan. Bandung:
Penerbit ITB; 1995.
[3]. Al-Kutubi HS, Ibrahim NA. Bayes Estimator for Exponential Distribution with Extension of
Jeffery Prior Information. Malaysian Journal of Mathematical Sciences. 2009; 3(2):297-313.
[4]. Pradhan B, Kundu D. Bayes Estimation and Prediction of the Two-Parameter Gamma
Distribution. Journal Statistical Computation and Simulation. 2011; 81:1187-1198.
[5]. Shawky AI, Bakoban RA. Bayesian and Non-Bayesian Estimations on the Exponentiated Gamma
Distribution. Applied Mathematical Sciences. 2008; 2(51):2521-2530.
[6]. Yarmohammadi M, Pazira H. Classical and Bayesian Estimations on the Generalized Exponential
Distribution Using Censored Data. Int.Journal of Math.Analysis. 2010; 4(29):1417-1431.
[7]. Ahmed AM, Al-Kutubi HS, Ibrahim NA. Comparison of the Bayesian and Maximum Likelihood
Estimation for Weibull Distribution. Journal of Mathematics and Statistics. 2010; 6(2):100-104.
[8]. Forbes C, Evans M, Hastings N, Peacock B. Statistical Distributions. Hoboken, NJ: John Wiley
& Sons; 2011.
[9]. Subanar. Statistika Matematika. Yogyakarta: Graha Ilmu; 2012.
[10]. Casella G, Berger RL. Statistical Inference. Boston: Duxbury Press; 2002.

Dwi Nurlaila : Fakultas MIPA Universitas Tanjungpura, Pontianak, ella_azka88@yahoo.com


Dadan Kusnandar : Fakultas MIPA Universitas Tanjungpura, Pontianak,
dadan_kusnandar@mipa.untan.ac.id
Evy Sulistianingsih : Fakultas MIPA Universitas Tanjungpura, Pontianak, vi_sulistia@yahoo.com