Pengantar Statistika Matematika II PDF

Estimasi Titik
611.01.010 Pengantar Statistika Matematika II

Bab 3: Estimasi Titik
Atina Ahdika, S.Si, M.Si
Statistika FMIPA
Universitas Islam Indonesia
Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Estimasi Titik
Estimasi Titik Metode Momen
Metode Maksimum Likelihood
Estimasi Titik
Bila sampling berasal dari populasi yang digambarkan melalui

fungsi peluang fX (x|θ), pengetahuan tentang θ menghasilkan
karakteristik mengenai keseluruhan populasi.
Suatu estimator titik adalah sebarang fungsi
T = t(X1 , X2 , . . . , Xn ) dari sampel. Ini berarti bahwa
sebarang statistik adalah estimator titik.

Estimasi Titik
Terdapat beberapa metode penaksiran parameter:

1 Metode Momen
2 Metode Maksimum Likelihood
3 Metode Bayes

Estimasi Titik
Metode Momen
Misalkan X1 , X2 , . . . , Xn adalah sampel dari populasi dengan fungsi

kepadatan peluang f (x|θ1 , θ2 , . . . , θk ). Estimator metode momen
didapat dengan menyamakan j momen sampel pertama dengan j
momen populasi dan menyelesaikan sistem persamaan simultan
yang dihasilkan.
Momen ke-j populasi µj = E (X j )

n
1X j
Momen ke-j sampel mj = Xi
n
i=1

Estimasi Titik
Karl Pearson (1800), menyatakan bahwa estimator suatu

parameter dengan menggunakan metode momen dapat diperoleh
dengan menyelesaikan persamaan
µj = mj , j = 1, 2, . . . , k

Estimasi Titik
Contoh 1
Misalkan X1 , X2 , . . . , Xn adalah i.i.d N(µ, σ 2 ). Kita akan

menentukan estimator untuk µ dan σ 2 dengan menggunakan
metode momen. Kita mempunyai
n
1X
m1 = Xi = X̄
n
i=1
n
1X
m2 = Xi2
n
i=1
µ1 = E (X ) = µ
µ2 = E (X 2 ) = σ 2 + µ2

Estimasi Titik
Maka, estimator µ dan σ 2 dengan metode momen adalah
µ1 = m1 ⇒ µ̂ = X̄
n n
1X 2
2 1X
µ2 = m 2 ⇒ σ̂ = Xi − X̄ 2 = (Xi − X̄ )2 = S 2
n n
i=1 i=1
Catatan:
n
S 2 = n1 (Xi − X̄ )2
P
i=1

Estimasi Titik
Contoh 2
Misalkan X1 , X2 , . . . , Xn adalah i.i.d dengan fungsi kepadatan

peluang
fX (x|θ) = θ x θ−1 , 0 < x < 1
Tentukan estimasi parameter untuk θ dengan menggunakan
metode momen.

Estimasi Titik
Kita mempunyai
Z1 Z1
θ
E (X ) = x θ x θ−1 dx = θ x θ dx =
θ+1
0 0
Dengan menyamakan E (X ) = X̄ , maka
E (X ) = X̄
θ
= X̄
θ+1
θ = (θ + 1)X̄
(1 − X̄ )θ = X̄
X̄
θ̂ =
1 − X̄

Estimasi Titik
Contoh 3
Misalkan X1 , X2 , . . . , Xn adalah i.i.d U(α, β). Tentukan estimasi

parameter untuk α dan β dengan menggunakan metode momen.

Estimasi Titik
Kita mempunyai
α+β
µ1 = = X̄ (1)
2
n
(β − α)2 (α + β)2 1X 2
µ2 = + = Xi (2)
12 4 n
i=1

Estimasi Titik
Dengan demikian kita dapat memperoleh

1 Dari persamaan (1) kita peroleh
α̂ + β̂ = 2X̄ (3)
2 Substitusikan persamaan (3) ke persamaan (2) sehingga
n
(β̂ − α̂)2 4X̄ 2 1X 2
+ = Xi
12 4 n
i=1
n
(β̂ − α̂)2 1 X
= Xi2 − X̄ 2
12 n
i=1
n
(β̂ − α̂)2 1 X
= (Xi − X̄ )2
12 n
i=1
(β̂ − α̂)2
= S 2 ⇒ (β̂ − α̂)2 = 12 S 2
12
√
β̂ − α̂ = S 12 (4)
Estimasi Titik
Dengan menyelesaikan persamaan (3) dan (4) kita peroleh
1 √
α̂ = X̄ − S 12
2
1 √
β̂ = X̄ + S 12
2

Estimasi Titik
Contoh 4
Misalkan X1 , X2 , . . . , Xn adalah i.i.d dari distribusi dengan
fX (x|θ) = θ e −θx , x > 0

metode momen.

Estimasi Titik
Jawab:
1
θ̂ =
X̄

Estimasi Titik
Contoh 5
Misalkan X1 , X2 , . . . , Xn adalah i.i.d dari distribusi dengan
fX (x|θ) = (θ + 1) x θ , 0 < x < 1

metode momen.

Estimasi Titik
Jawab:
2X̄ − 1
θ̂ =
1 − X̄

Estimasi Titik
Metode Maksimum Likelihood (MLE)
Sejauh ini, metode maksimum likelihood adalah metode yang

paling populer dan menghasilkan estimator paling ”baik”
dibandingkan metode lain. Misalkan X1 , X2 , . . . , Xn adalah i.i.d
sampel dari populasi dengan fungsi kepadatan peluang fX (x|θ).
Fungsi kemungkinan (likelihood) didefinisikan sebagai
n
L(θ|→
−
Y
x ) = L(θ|x1 , . . . , xn ) = fX1 ,X2 ,...,Xn (x1 , x2 , . . . , xn |θ) = fXi (xi |θ)
i=1

Estimasi Titik
Maximum Likelihood Estimator (MLE)

n
Misalkan L(θ|→
− Q
x)= fXi (xi |θ), θ ∈ Ω adalah fungsi peluang
i=1
bersama dari X1 , X2 , . . . , Xn . Untuk suatu himpunan observasi
(x1 , x2 , . . . , xn ), sebuah nilai θ̂ di Ω di mana L(θ|→
−
x ) maksimum
disebut sebagai maximum likelihood estimator (MLE) dari θ.
Yaitu, θ̂ adalah sebuah nilai θ yang memenuhi
fX1 ,X2 ,...,Xn (x1 , x2 , . . . , xn |θ̂) = max fX1 ,X2 ,...,Xn (x1 , x2 , . . . , xn |θ)
θ∈Ω

Estimasi Titik
Nilai θ yang memaksimumkan L(θ|→ −x ) dapat diperoleh dengan

mencari solusi dari persamaan berikut
d
L(θ|→
−
x)=0 (5)
dθ
Nilai θ yang memaksimumkan L(θ|→−x ) tersebut dapat diperoleh
juga dengan menyelesaikan persamaan
d
log L(θ|→
−
x)=0 (6)
dθ
Persamaan (6) lebih sering digunakan karena lebih mudah dalam
penyelesaian.

Estimasi Titik
Contoh 6
Misalkan X1 , X2 , . . . , Xn adalah i.i.d Bernoulli (θ). Tentukan

estimasi dari θ dengan menggunakan metode MLE.

Estimasi Titik
Cara 1
Karena Xi ∼ Bernoulli(θ) maka

n
L(θ|→
−
Y P P
x)= θxi (1 − θ)1−xi = θ xi
(1 − θ)n− xi
i=1
P
Misalkan y = xi , maka kita mempunyai
L(θ|→
−
x ) = θy (1 − θ)n−y
Selanjutnya turunkan L(θ|→

−
x ) terhadap θ dan diperoleh

Estimasi Titik
d d y
L(θ|→
− θ (1 − θ)n−y

x)=
dθ dθ
0 = y θy −1 (1 − θ)n−y + θy (n − y ) (1 − θ)n−y −1 (−1)
y θy −1 (1 − θ)n−y = θy (n − y ) (1 − θ)n−y −1
y n−y
=
θ 1−θ
y − y θ = nθ − y θ
y = nθ
y
θ̂ =
n

Estimasi Titik
Cara 2
Kita akan menurunkan fungsi log L(θ|→

−
x ) terhadap θ. Dari
perhitungan sebelumnya, kita mempunyai L(θ|→−x ) = θy (1 − θ)n−y ,
→
−
maka fungsi log L(θ| x )-nya adalah
Log L(θ|→
−
x ) = log (θy (1 − θ)n−y )
= log θy + log (1 − θ)n−y
= y log θ + (n − y ) log (1 − θ)

Estimasi Titik
Selanjutnya,
d d
Log L(θ|→
−
x)= [y log θ + (n − y ) log (1 − θ)]
dθ dθ
y n−y
0= −
θ 1−θ
y n−y
=
θ 1−θ
y − y θ = nθ − y θ
y = nθ
y
θ̂ =
n

Estimasi Titik
Contoh 7
Misalkan X1 , X2 , . . . , Xn adalah i.i.d Poisson (θ). Tentukan

estimasi dari θ dengan menggunakan metode MLE.

Estimasi Titik
Misalkan Xi ∼ POI (θ), maka fungsi likelihoodnya adalah

n
θxi
L(θ|→
−
Y
x)= e −θ
xi !
i=1
Pn
θ i=1 xi
= e −nθ n
Q
xi !
i=1

Estimasi Titik
dan fungsi log Likelihoodnya adalah

 
Pn
 −nθ θ i=1 xi 
log L(θ|→
−
x ) = log 
e n


Q
xi !
i=1
n
!
Pn Y
−nθ i=1 xi
= log e + log θ − log xi !
i=1
n
X n
X
= −nθ + xi log θ − log xi
i=1 i=1

Estimasi Titik
Turunkan fungsi log L(θ|→

−x ) terhadap θ dan diperoleh
n n
" #
d →
− d X X
log L(θ| x ) = −nθ + xi log θ − log xi
dθ dθ
i=1 i=1
n
X xi
0 = −n +
θ
i=1
n
X xi
n=
θ
i=1
n
X xi
θ̂ =
n
i=1

Estimasi Titik
Contoh 8
Misalkan X1 = 3, X2 = 2, X3 = 1, dan X4 = 3 adalah hasil

pengamatan dari sampel random ukuran empat dari populasi
dengan distribusi geometrik
p(x|θ) = (1 − θ)x−1 θ, x = 1, 2, 3, . . .
Tentukan MLE dari θ.

Estimasi Titik
Fungsi likelihood dari kasus di atas adalah
L(θ|→−x ) = (1 − θ)3−1 θ (1 − θ)2−1 θ (1 − θ)1−1 θ (1 − θ)3−1 θ

= (1 − θ)5 θ4
log L(θ|→
−
x ) = log (1 − θ)5 θ4

= 5 log (1 − θ) + 4 log θ
Selanjutnya, turunkan fungsi log likelihood terhadap θ

d 5 4
log L(θ|→
−
x)=− + =0
dθ 1−θ θ
5 4
− + =0
1−θ θ
5 4
=
1−θ θ
4
5θ = 4 − 4θ ⇒ θ̂ =
9
Estimasi Titik
Contoh 9
Misalkan X1 , X2 , . . . , Xn adalah i.i.d dengan fungsi kepadatan

peluang
1 xi
fXi (xi |θ) = e − θ , x > 0, θ > 0
θ
Tentukan estimasi untuk θ dengan menggunakan metode MLE.

Estimasi Titik
θ̂ = x̄

Estimasi Titik
Contoh 10
Misalkan X1 , X2 , . . . , Xn adalah i.i.d N(θ, σ 2 ) dengan θ dan σ 2

keduanya tidak diketahui. Tentukan estimasi untuk θ dan σ 2
dengan metode MLE.

Estimasi Titik
θ̂ = x̄
n
(xi −x̄)2
σ̂ 2 =
P
n
i=1

Pengantar Statistika Matematika II PDF

Diunggah oleh

Informasi Dokumen

Deskripsi Asli:

Judul Asli

Hak Cipta

Format Tersedia

Bagikan dokumen Ini

Bagikan atau Tanam Dokumen

Opsi Berbagi

Apakah menurut Anda dokumen ini bermanfaat?

Apakah konten ini tidak pantas?

Hak Cipta:

Format Tersedia

Pengantar Statistika Matematika II PDF

Diunggah oleh

Hak Cipta:

Format Tersedia

Estimasi Titik

611.01.010 Pengantar Statistika Matematika II

Atina Ahdika, S.Si, M.Si

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Bila sampling berasal dari populasi yang digambarkan melalui

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Terdapat beberapa metode penaksiran parameter:

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 , X2 , . . . , Xn adalah sampel dari populasi dengan fungsi

Momen ke-j populasi µj = E (X j )

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Karl Pearson (1800), menyatakan bahwa estimator suatu

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 , X2 , . . . , Xn adalah i.i.d N(µ, σ 2 ). Kita akan

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Maka, estimator µ dan σ 2 dengan metode momen adalah

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 , X2 , . . . , Xn adalah i.i.d dengan fungsi kepadatan

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Dengan menyamakan E (X ) = X̄ , maka

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 , X2 , . . . , Xn adalah i.i.d U(α, β). Tentukan estimasi

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Dengan demikian kita dapat memperoleh

Dengan menyelesaikan persamaan (3) dan (4) kita peroleh

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 , X2 , . . . , Xn adalah i.i.d dari distribusi dengan

fX (x|θ) = θ e −θx , x > 0

Tentukan estimasi parameter untuk θ dengan menggunakan

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 , X2 , . . . , Xn adalah i.i.d dari distribusi dengan

fX (x|θ) = (θ + 1) x θ , 0 < x < 1

Tentukan estimasi parameter untuk θ dengan menggunakan

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Metode Maksimum Likelihood (MLE)

Sejauh ini, metode maksimum likelihood adalah metode yang

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Maximum Likelihood Estimator (MLE)

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Nilai θ yang memaksimumkan L(θ|→ −x ) dapat diperoleh dengan

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 , X2 , . . . , Xn adalah i.i.d Bernoulli (θ). Tentukan

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Karena Xi ∼ Bernoulli(θ) maka

Selanjutnya turunkan L(θ|→

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Kita akan menurunkan fungsi log L(θ|→

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 , X2 , . . . , Xn adalah i.i.d Poisson (θ). Tentukan

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan Xi ∼ POI (θ), maka fungsi likelihoodnya adalah

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

dan fungsi log Likelihoodnya adalah

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Turunkan fungsi log L(θ|→

Atina Ahdika, S.Si, M.Si 611.01.010 Pengantar Statistika Matematika II

Misalkan X1 = 3, X2 = 2, X3 = 1, dan X4 = 3 adalah hasil