BAB 12

EVALUASI ESTIMATOR TITIK

A. Statistik Inferensial
Untuk mengetahui karakteristik yang bersifat numerik dari suatu populasi, observasi
terhadap satu atau lebih variabel acak yang terkait perlu dilakukan. Hasil observasi ini kemudian
dianalisis dengan menggunakan teknik-teknik tertentu untuk mengestimasi karakteristik (dalam
model parametrik disebut parameter) populasi atau menguji hipotesis tentang populasi. Bagian
statistika yang membahas teori estimasi dan uji hipotesis dinamakan statistika inferensial
(inferential statistics).
Estimasi parameter dibedakan menjadi dua macam, yaitu estimasi titik dan estimasi
interval. Bab ini membahas estimasi titik. Estimasi interval dan uji hipotesis akan di bahas di
bab-bab yang akan datang.

B. Estimasi Titik
Kongsep dari estimasi titik sangat sederhana. bila sampling berasal dari populasi yang
digambarkan melalui densitas f (x | θ), pengetahuan tentang θ menghasilkan karakteristik
mengenai keseluruhan populasi. Dengan kata lain Estimasi Titik adalah suatu nilai (suatu titik)
yang digunakan untuk menduga suatu parameter populasi.
Dalam statistik T = t (X1, X2, ..., Xn ) yang digunakan untuk memperkirakan nilai dari τ
(θ) adalah estimator dari τ (θ) dan nilai yang diamati dalam statistik , t (x1, x2, ..., xn ) disebut
estimate dari τ (θ).
Perhatikan bahwa terdapat perbedaan antara estimate dan estimator. Suatu estimator
adalah fungsi sampel. sedangkan estimate adalah nilai terealisasi dari estimator yaitu bilangan
yang didapat bila sempel benar benar terambil.

C. Beberapa Metode Estimator

1) Metode Moment
Adalah Metode yang diciptakan oleh Karl Pearson pada tahun 1800 dan merupakan
metode tertua dalam menentukan estimator titik.Ide utama dari metode momen adalah
menyamakan karakteristik sampel tertentu seperti mean dan varians untuk nilai-nilai yang
diharapkan populasi yang bersesuaian dan kemudian menyelesaikan persamaan yang
dihasilkan untuk mendapatkan nilai perkiraan parameter tidak diketahui
Definisi 1
Jika X1, X2, ..., Xn adalah sampel random dari populasi dengan fungsi densitas f (x ; θ 1,
θ2, ..., θn ) , maka moment populasi ke k didifinisikan sebagai µ k = E (Xk )
Definisi 2
Misalkan X1, X2, ..., Xn adalah sampel random dari populasi dengan fungsi densitas f (x ;
θ1, θ2, ..., θk ). Estimator metode moment didapat dengan menyamarkan k moment sampel
pertama pada k moment sampel populasi dan menyelesaikan sistem persamaan simultan yang
dihasilkan (diselesaikan untuk θ1, θ2, ..., θk ).

Contoh :
Misalkan X1, X2, ..., Xn adalah sampel random dari populasi yang berdistibusi Poisson
dengan parameter λ . Dengan metode moment tentukan estimator untuk λ.
Penyelesaian :

Karena hanya satu parameter yang akan diestimasi maka hanya diperlukan satu pesamaan dan
langsung diperolah estimator titiknya.

Contoh :
Misalkan X1, X2, ..., Xn merupakan sampel acak dari sebarang distribusi dengan mean µ dan
Variansi σ2 maka dengan mudah dapat ditunjukkan bahwa :
2) Metode Maksimum Likelihood
Metode kedua dalam estimasi parameter dari suatu distribusi probabilitas didasarkan
pada fungsi likelihood. Sejauh ini metode Maksimum Likelihood adalah metode yang paling
populer dalam menghasilkan estimator. untuk mendapatkan metode maksimum likelihood
akan di berikan definisi fungsi likelihood sebagai berikut:
Definisi
Fungsi densitas bersama dari n variable random X 1, X2, ..., Xn dengan nilai pengamatan
x1, x2, ..., xn dinotasikan dengan f (x1, x2, ..., xn ; θ) dan disebut fungsi likelihood. Untuk x1,
x2, ..., xn tetap adalah fungsi dari θ dan dinotasikan dengan L(θ).Jika X 1, X2, ..., Xn adalah
sampel random dari fungsi densitas f (x1; θ) , maka fungsi likelihoodnya adalah: L(θ) = f (x1;
θ), ..., f (xn ; θ) = Πn−1f (xn ; θ)
Definisi
Misalkan L(θ) = f (x1; θ), ..., f (xn ; θ) = Πn−1f (xn ; θ), θϵΩ Adalah Fungsi densitas
bersama X1, X2, ..., Xn dan bila diberikan himpunan dari pengamatan x1, x2, ..., xn nilai θ
dalam Ω yang memaksimumkan L(θ) disebut penduga maksimum likelihood dari θ. Dalam
hal ini θ merupakan nilai dari θ yang memenuhi f (x1, x2, ..., xn ; θ) = maxθϵΩf (x1, x2, ..., xn ;
θ)
Sesungguhnya ide dasar dari metode maksimum likelihood adalah mencari nilai parameter
yang memberi kemungkinan (likelihood) yang paling besar untuk mendapatkan data yang
terobservasi sebagai estimator.

Langkah Langkah Menentukan Estimator Maksimum Likelihood :

Tentukan fungsi likelihood. Bentuk log likelihood. Tentukan turunan dari bentuk log
likelihood dan meyamakan turunannya sama dengan nol . Bentuk persamaan likelihood.

Contoh :
Banyak cacat dalam suatu lini produksi ditemukan mengikuti distribusi Poisson dengan
suatu rata-rata ? yang tidak diketahui. Dua sampel random diambil dan banyaknya unit-unit
yang cacat adalah 10 dan 12. Tentukan estimasi kemungkinan maksimum (MLE) dari µ ?
Jawab :
D. Metode Evaluasi Estimator
Estimator titik untuk parameter 𝜃 melalui pendekatan klasik yaitu metode
moment dan metode maksimum likelihood, mungkin diperoleh estimator yang berbeda.
Masalahnya sekarang adalah bagimana memilih salah satu estimator terbaik yang
memenuhi sifat sifat kebaikan suatu estimator. Dalam presentasi ini akan diperkenalkan
patokan dasar untuk mengevaluasi estimator dan meyelidiki kelakuan beberapa estimator
terhadap kreteria tertentu.

Metode Evaluasi Estimator :

1. Sifat Takbias (Unbias)
Sifat takbias ini merupakan sifat baik dari suatu estimator yang dipeoleh
melalui pendekatan klasik, dalam pemilihan estimator terbaik salah satunya harus
memenuhi sifat takbias ini.
Definisi :
 Sebuah estimator T dikatakan estimator tak bias untuk τ (θ) , Jika E(T) = τ (θ)
untuk semua θ∈Ω . Jika tidak demikian T dikatakan estimator bias untuk τ (θ).

Contoh :
Jika X1, X2, ..., Xn merupakan sampel acak dari sebarang distribusi dengan mean
µ = E(Xi ) dan variansi 𝜎 2 = Var(Xi ) maka menurut Teorema 𝑋̅dan 𝑆 2 masing-
masing adalah estimator tak bias untuk µ dan 𝜎 2 karena E(𝑋̅) = µ dan E(𝑆 2 ) = 𝜎 2

2. Sesatan Kuadrat Rata-rata(mean square Error/MSE)

Definisi :
kesalahan kuadrat rata-rata (MSE) dari estimator T[𝑥] dari parameter θ adalah
2
fungsi θ yang didifinisikan dengan 𝐸𝜃 [[T(𝑥) − θ] ] . dengan mudah dapat kita
2
2
lihat bahwa 𝐸𝜃 [[T(𝑥) − θ] ] = varT(𝑥) + (Bias (T(𝑥))) dengan Bias(T(𝑥)) =

𝐸𝜃 T(𝑥) – θ

Jadi , MSE mempunyai dua komponen , variansi yang mengukur variabilitas

estimator ( precision ) dan bias mengukur akuransi dari estimator . jadi untuk
2
estimator takbias kita mempunyai 𝐸𝜃 [[T(𝑥) − θ] ] = varT(𝑥)

Teorema
𝑀𝑆𝐸(𝑇) = 𝑉𝑎𝑟(𝑇) + [𝐵𝑖𝑎𝑠(𝑇)]2
Bukti gunakan sebagai latihan !

Meskipun banyak estimator takbias yang masuk akal dari pandagan MSE , kita
harus berhati hati bahwa pengontrolan bias tika otomatis menjadi pengontrolan
bias. Pada khususnya, sering terjadi timbal balik antara variansi dan bias
sedemikian hingga sedikit kenaikan bias dapat ditukar dengan penurunan yang
lebih besar dari variansi , yag hasilnya dapat diperbaiki pada MSE .

3. Estimator Takbias Terbaik

 Pada umumnya , MSE adalah fungsi dari parameter. sehingga tidak ada estimator
terbaik untuk θ . Salah satu penyebab adalah MSE dari estimator saling
berpotongan yang berati kebaikan dari estimator hanya bersifat lokal . salah satu
cara untuk mengatasi tidak adanya estimator terbaik adalah melalui pembatasan
pada kelas estimator. salah satu pembatasan yang kita bahas adalah melalui kelas
takbias.

Definisi
Sebuah estimator T ∗ dikatakan estimator tak bias dengan variansi minimum
secara uniform (uniformly minimum variance unbiased estimator / UMVUE )
untuk τ (θ) jika
i. T ∗ estimator tak bias untuk τ (θ) dan
ii. Untuk sebarang estimator tak bias T untuk τ (θ) , 𝑉𝑎𝑟(𝑇 ∗) < 𝑉𝑎𝑟(𝑇) untuk
semua 𝜃 ∈ Ω
Dalam kasus tertentu UMVUE untuk τ (θ) dapat ditemukan dengan menggunakan
batas bawah Cramer-Rao (Cramer-Rao lower bound / CRLB).

Teorema (CRLB)
Jika T adalah estimator tak bias untuk τ (θ), maka :
[𝜏 ′ (𝜃)]2
𝑉𝑎𝑟(𝑇) ≥
𝜕
𝑛𝐸 [ ] ln 𝑓(𝑋; 𝜃)
𝜕𝜃
Contoh
Misalkan X1, X2, ..., Xn merupakan sampel acak dari sebarang distribusi
eksponensial,
𝜕 𝑥−𝜃
X ∼ EXP(θ) dan τ (θ) = θ Karena [𝜕𝜃] ln 𝑓(𝑋; 𝜃) = 𝜃2

𝜕 2 1
maka dapat ditunjukkan bahwa E[𝜕𝜃] = 𝜃2
𝜃2
sehingga CRLB untuk τ (θ) sama dengan jelas bahwa 𝑋 merupakan estimator
𝑛
𝜃2
tak bias untuk τ (θ) = θ Selanjutnya dapat ditunjukkan bahwa 𝑉𝑎𝑟(𝑋) = 𝑛

Kesimpulannya 𝑋 merupakan UMVUE untuk τ (θ)

 Definisi
Misalkan T dan T ∗ merupakan estimator tak bias untuk τ (θ) Efisisensi relatif
dari T terhadap T ∗ didefinisikan sebagai
𝑉𝑎𝑟(𝑇∗)
𝑟𝑒(𝑇, 𝑇 ∗) = 𝑉𝑎𝑟(𝑇)

𝑇 ∗ dikatakan efisien jika 𝑟𝑒(𝑇, 𝑇 ∗)≤ 1 untuk semua estimator tak bias T untuk τ
(θ) dan semua θεΩ . Jika T ∗ adalah estimator efisien untuk τ (θ)
Maka efisiensi dari estimator tak bias T untuk τ (θ) didefinisikan sebagai :
e(T) = 𝑟𝑒(𝑇, 𝑇 ∗)

4. Konsistensi
Sejauh ini kreteria yang kita bahas adalah kreteria sampel berhingga.
sebaliknya konsistensi adalah sifat asimtotis , yaitu mengambarkan sifat astimator
bila ukuran sampel menjadi tak berhingga. ini hanya satu dari kreteria yang kita
bahas.
Konsistensi adalah sifat barisan estimator , bukan dari estimator tunggal
walapun biasanya disebut suatu estimator konsisten. Bila kita mengobservasi
menurut densitas f (x;θ) kita dapat meng-kontruksi barisan estimator
dengan melakukan prosedur estimasi yang sama untuk
ukuran sampel n. Sebagai contoh dan seterusnya. Selanjutnya

kita dapat mendifinisikan barisan konsisten.

Definisi
Barisan estimator adalah barisan estimator dikatakan
konsisten untuk τ(θ), bila untuk setiap dan untuk setiap

ekuvalen dengan

Definisi
Barisan estimator untuk τ(θ) dikatakan MSE konsisten jika

untuk setiap
Barisan estimator untuk τ(θ) dikatakan tak bias asimtotik jika

untuk setiap

Teorema

Bila barisan estimator dari parameter θ yang memenuhi :

i.

ii.

maka adalah barisan estimator parameter θ konsisten

Teorema

Bila barisan estimator dari parameter θ. Misalkan Dan

barisan konstante yang memenuhi :

i.

ii.

maka barisan adalah barisan konsisten dari estimator θ.

Definisi

Misalkan dan merupakan estimator tak bias asimtotik untuk τ(θ). Efisisensi
relatif asimtotik dan dari didefinisikan sebagai :
 Barisan dikatakan efisien secara asimtotik jika ≤ 1 untuk semua
barisan estimator takbias asimtotik untuk τ(θ) dan semua . Jika adalah
barisan estimator efisien secara asimtotik untuk τ(θ) maka efisiensi asimtotik dari
barisan estimator tak bias asimtotik untuk τ(θ) didefinisikan sebagai :

E. Sifat Sifat Asimtotis dari MLE

Dalam keadaan tertentu , dapat ditunjukan bahwa praduga kemungkinan
maksimum atau MLE mempunyai sifat sifat yang diinginkan. Secara spesifik, bila syarat
syarat reguler tertentu dipenuhi, maka penyelesain likelihood mempunyai sifat sifat
sebagai berikut :
i. ada dan tunggal
ii. estimator kongsiten untuk θ.
iii. berdistribusi normal asimtotis dengan mean θ dan variansi

iv. efisien secara asimtotis dalam arti var( ) secara asimtotis dengan CLRB dari
θ