Metode Maksimum Likelihood ( Maximum Likelihood Estimator / MLE )

Metode maksimum likelihood adalah metode yang sangat popular dalam menghasilkan
estimator. Misalkan X1, X2, … , Xn adalah sampel random dari populasi dngan densitas
f ( x | θ1 ,θ 2 , … , θk ), fungsi likelihood didefinisikan dengan :
n
L ( θ1 ,θ 2 , … , θk ∨ X )=∏ f (x i∨θ1 ,θ 2 , … , θk )
i=1

Bila fungsi likelihood ini terdiferensialkan dalam θ1 , θ2 ,… , θ k maka calon estimator

maksimum likelihood yang mungkin adalah harga-harga ( θ^ , θ^ , … , θ^ ) sedemikian sehingga :
1 2 k

∂ L ( θ1 ,θ 2 , … , θk ∨ X )

Dalam banyak kasus dimana diferensi digunakan, akan lebih mudah bekerja pada logaritma
alam (ln) dari L ( θ1 ,θ 2 , … , θk ∨ X ) yaitu :

l=log L ( θ1 , θ2 ,… , θ k ∨X ). Hal ini dimungkinkan karena fungsi logaritma naik egas pada
(0 , ∞), yang artinya L ( θ1 ,θ 2 , … , θk ∨ X )dan l=log L ( θ1 , θ2 ,… , θ k ∨X ) mempunyai ekstrem
yang sama. Dalam estimator likelihood maksimum sifat yang terpenting adalah sifat invarian.

Untuk lebih jelas lagi, dalam menentukan estimator maksimum likelihood dari
θ=(θ ¿ ¿1 , θ2 , … ,θ k ) ¿ dengan langkah-langkah sebagai berikut :
n
1. Tentukan fungsi likelihood dahulu : L ( θ1 ,θ 2 , … , θk ∨ X )=∏ f ( x i∨θ1 ,θ 2 , … , θk )
i=1

2. Bentuk log likelihood : l=log L ( θ1 , θ2 ,… , θ k ∨X )

3. Tentukan turunan dari l=log L ( θ1 , θ2 ,… , θ k ∨X ) terhadap θ1 , θ2 ,… , θ k:
∂ log ( L ( θ1 ,θ2 , … , θk ∨ X ) )
untuk i=1,2 ,… , k
∂ θi
4. Bentuk persamaan likelihood :
∂ log ( L ( θ1 ,θ2 , … , θk ∨ X ) )
=0 , untuk i=1,2 , … , k
∂ θi

Contoh soal :

1. Kita anggap X1, …, Xn adalah smpel acak dari distribusi eksponensial.

1
f ( x ,θ )= e−x/ θ ,0< x < ∞
θ
Tentukan θ^ MLE .

Pembahasan :

Langkah 1 : menentukan fungsi likelihood

n
L (θ )=∏ f ( x i ;θ )
i=1

¿ ( 1θ e ) …( 1θ e )
−x i / θ −x n /θ

n
n −1 ∑ x

()
1 i
θ
¿ e i=1

Langkah 2 : menentukan log likelihood

n
n −1 ∑ x
1
()
i
Log L (θ ) = log eθ i=1

()
1 n
n
−1
= log + log θ ∑ x i

θ e i=1

n
1
= -n ln θ - ∑x
θ i=1 i

Langkah 3 : memaksimumkan fungsi Log L (θ )

Untuk memaksimumkan fungsi Log L (θ ), kita mencari turunan pertamanya kemudian

menyamakan dengan nol. Setelah itu, kita selesaikan persamaan untuk mendapatkan
estimator yang diinginkan.

( )
n
1
d ( log L ( θ ) )
d −n ln θ− ∑x
θ i=1 i
=0↔
dθ dθ
n
n 1
↔− + 2 ∑ x i=0
θ θ i=1
n
n 1
↔ = 2 ∑ xi
θ θ i=1
n

∑ xi
i=1
↔ θ=
n

θ^ MLE =x
Langkah 4 : menentukn θ^

Jadi, estimator maksimum likelihoodnya adalah θ^ MLE =x

2. Let X ⁓ Bin (n,p) , 0 ≤ p ≤ 1

^p MLE=…?

Pembahasan :

Langkah 1 : menentukan fungsi likelihood

L ( p , x )=f ( x , p )=( nx) p (1− p )

x n−x
, x = 0,1,2,…,n dan 0 ≤ p ≤ 1

Langkah 2 : menentukan log likelihood

[( )
log L ( p , x )=log n p x ( 1− p )n− x
x ]
¿ log ( nx)+log p + log ( 1−p )
x n−x

¿ log ( ) + x log p+ ( n−x ) log (1− p)

n
x

Langkah 3 : memaksimumkan fungsi Log L (θ )

Untuk memaksimumkan fungsi Log L ( p , x ), kita mencari turunan pertamanya kemudian

menyamakan dengan nol. Setelah itu, kita selesaikan persamaan untuk mendapatkan
estimator yang diinginkan.

d ( log L ( p , x ) )
=
( (nx)+ x log p+ ( n−x ) log (1−p))
d log

dp dp

1 −1 x ( n−x )
↔ 0+ x . + ( n−x ) . = −
p (1− p) p ( 1−p )

x (1− p )− p(n−x ) x−xp− pn+ px x−np

↔ = =
p(1−p) p(1−p) p(1− p)

Langkah 4 : menentukn kapan kurva naik atau turun

Kurva itu naik pada saat turunan > 0 dan sebaliknya. Atau dapat pula menggunakan turunan
kedua.
 x−np
→ <0 , p ( 1− p ) selalu positif maka :
p ( 1− p )

x−np <0
x
−np<−x atau np> x → p> (maka kurva turu n)↓
n
x−np
→ >0
p ( 1− p )

x−np >0

x
−np>−x ↔ p < (maka kurna naik) ↑
n
x
Jadi, ^p MLE=
n