Diatribusi Sampel, Likelihood, dan Penaksir

A. Sampel Acak
Misalkan X₁, X₂, X₃,…,Xₙ sampel acak berukuran n (random sample of size n). fungsi
peluang n-variat nya adalah
fX₁, X₂,…,Xₙ(X₁, X₂,…Xₙ) = ∏𝑛𝑖=1 𝑓𝑋 (𝑋𝑖)
Contoh/Latihan:
1. Misalkan X₁, X₂,…,Xₙ sampel acak dari distribusi Eksponensial dengan parameter θ.
Fungsi peluang n-fariatnya adalah…
2. Misalkan X₁, X₂,…,Xₙ sampel acak dari distribusi Uniform pada selang (a,b). fungsi
peluang n-fariatnya adalah…
B. Likelihood

Misalkan fungsi peluang n-fariat bergantung pada parameter yang tidak diketahui θ. Fungsi
peluang tersebut ditulis sebagai

fX, X₂,…,Xₙ(X₁,…, Xₙ|θ₁,…,θₖ)

atau

fX(X|θ)

Contoh/Latihan:

1. Misalkan X, X₂,…,Xₙ sampel acak dari distribusi N(μ, σ²). Fungsi peluang n-variat yang
bergantung pada parameternya ditulis sebagai…

DEFINISI

Fungsi Likelihood adalah ukuran yang menyatakan seberapa sering nilai θ, diberikan bahwa
x telah terobservasi. Fungsi likelihood BUKAN suatu peluang. Fungsi likelihood diperoleh
dengan (i) menukar peran θ dan x dalam fungsi peluang n-variat, dan (ii) membuang suku
yang tidak bergantung pada θ. Notasi:

L(θ) = L(θ|x)∞fx (x|θ)

Contoh/Latihan:

1. Misalkan X₁, X₂,…Xₙ sampel acak dari distribusi Eksponensial dengan parameter θ.
Fungsi likelihoodnya adalah…

Function likefunction:

% This Function calculates the likelihood function of distribution

% Created by K Syuhada, 14/3/2011

Clear

Clc

n=input(‘n=’);

% Size of random sample

% data

X=exprnd(0,5,n,1);

Sum X=Sum (X);

% Parameter of exponential distribution

Lamda= 0,5 : 0,05 : 5;

For I = 1:length (lamda)

L(i)= (lamda (i)^n)*exp(-lamda(i)*sumx);

End

Plot (lamda, L)

2. Misalkan X₁, X₂,…, Xₙ Sampel acak dari ditribusi Uniform pada selang (𝜋,b). Fungsi
likelihoodnya adalah…
PRINSIP LIKELIHOOD

Jika dua percobaan, yang melibatkan model dengan parameter θ, memberikan likelihood
yang sama, maka inferensi terhadap θ haruslah sama.

ILUSTRASI

Pandang percobaan 1 dimana sebuah koin dilantunkan sebanyak n kali secara bebas.
Misalkan p adalah peluang muncul MUKA dan X peubah acak yang menyatakan banyaknya
MUKA yang muncul. Fungsi peluang dari X dan fungsi likelihoodnya adalah…

Pandang percobaan 2 dimana sebuah koin dilantunkan hingga diperoleh MUKA sebanyak 6
kali secara bebas. Misalkan Y peubah acak yang menyatakan banyaknya lantunan yang
dibutuhkan agar diperoleh enam MUKA. Fungsi peluang dari X dan funsi likelihoodnya
adalah…

Dari percobaan diatas, misalkan kita ingin melakukan uji hipotesis:

H₀ : p = 0,5 versus H₀ : p < 0,5

Nilai signifikasinya atau p-value adalah…

PENAKSIR LIKELIHOOD MAKSIMUM

Mislkan L(θ) adalah fungsi likelihood (fungsi dari parameter θ). Kita dapat menentukan nilai
θ yang memaksimumkan L(θ). Penaksir untuk θ, yaitu θ disebut penaksir Likelihood
Maksimum (maximum likelihood estimator, MLE). Penaksir suatu parameter adalah fungsi
dari peubah acak.

Contoh/Latihan:

1. Diketahui sampel acak berukuran n dari distribusi Bernoulli (p). Fungsi likelihoodnya:

L(θ) = θΣxᵢ (1 - θ)ⁿ - Σxᵢ, 0 < θ < 1.

Untuk menentukan nilai θ yang memaksimumkan L(θ), transformasikan L(θ) menjadi log
L(θ):
l(θ) = log L(θ) = Σ xᵢ log(θ) + (n - Σxᵢ) log (1 – θ),

𝑛𝜋𝑥 𝑛𝜋𝑥
∑ (𝑎𝑛 cos + 𝑏𝑛 sin )kemudian hitung turunan pertama l(θ) terhadap θ:
𝐿 𝐿

𝑑𝑙(𝜃) Σxᵢ n − Σxᵢ

= −
dθ 𝜃 1−𝜃

SIFAT PENAKSIRAN

Setelah kita mendapatkan penaksir θ, kita dapat menetukan sifat baik penaksir. Salah satunya
adalah sifat TAK BIAS. Penaksir θ dikatakan tak bias apabila

E(θ) = θ.

Untuk contoh sampel acak Bernoulli

𝑋 1 +⋯+𝑋ₙ
E(θ) = E( )
𝑛

1
= 𝑛 E(X₁+…+Xₙ)

1
=𝑛(E (X₁)+…+E(Xₙ))

1
=𝑛(θ+…+θ)

=θ

Jadi penaksir θ=X adalah penaksir bias untuk θ.

Catatan: jika suatu penaksir θ bersifat bias maka selisih nilai ekspetasi dan nilai θ tidak
nol, atau E (θ-θ)≠ 0.