PEMBAHASAN

Misal X peubah acak dengan pdf ( ), dimana ruang parameter adalah selang

buka. Kita memerlukan kondisi kereguleran tambahan berikut.

Asumsi 3.5.1 Kondidi Kereguleran Tambahan (Additional Regularity Conditions). (R3): pdf ( (R4): ( ) ) dapat diturunkan dua kali atas . dapat diturunkan dua kali atas di bawah tanda integral.

Kondisi (R1)-(R4) mempunyai arti bahwa parameter tidak muncul dalam ujung selang dimana ( ) dan kita dapat mengubah pengintegralan dan penurunan berkenaan dengan . Pembahasan kita untuk kasus kontinu, untuk kasus diskret dapat diperoleh serupa. Kita mulai dengan identitas berikut ( )

jika identitas tersebut kita turunkan terhadap , maka kita peroleh Kita ubah identitas tersebut menjadi ekuivalen dengan ( ) ( ) ( ) ( ( ) ) ( )

Kita tulis persamaan terakhir menjadi bentuk ekspektasi, * yang berarti bahwa purata dari peubah acak turunkan terhadap , maka kita peroleh (
(

adalah 0. Jika persamaan (3.5.1) kita

Suku kedua pada ruas kanan persamaan (3.5.3) dapat kita tulis sebagai ekspektasi, yang diseut Informasi Fisher yang dinyatakan sebagai ( ), yaitu, ( ) ( ) ( ) ( ) [( ( ) ) ] ( )

Dengan menggunakan persamaan (3.5.3) Informasi Fisher dapat dihitung dari ( ) ( ) ( ) ( )

Dengan menggunakan persamaan (3.5.2) , maka Informasi Fisher merupakan varians dari
( )

yaitu ( ) ( ( ) ) ( )

Fungsi ( )

disebut sebagai fungsi skor. Ingat bahwa dalam menentukan MLE dari , yaitu , adalah solusi dari ( ) ( ). Maka

Contoh 3.5.1 Misal suatu peubah acak dari sebaran Bernoulli, yaitu ( ) ( dan ( Jadi ( ) 0
( ( ) )

( ) ( (

( ) )

Turunan pertama dan kedua persamaan tersebut terhadap

berturut-turut adalah

( (

) )

( (

) ) ( ) ( )

yang nilainya akan menjadi besar untuk

yang mendekati 0 atau 1.

Contoh 3.5.2 Misal

sampel acak sehingga ( ) yang terdefinisi

di mana pada (

mempunyai sampel acak dari sebaran dengan pdf ). Maka pdf dari adalah ( ) (

), yang disebut sebagai model

lokasi. Anggap ( ) memenuhi kondisi kereguleran. Maka ( ) ( ( ( ( ( ) ) ( ) ) ) ) ( ) ( )

Ini berarti model lokasi informasi Fisher-nya tidak bergantung pada parameter . Secara khusus jika sampel acak dari sebaran Laplace, yaitu suatu sebaran yang pdf-nya ( Maka dapat ditulis sebagai )
| |

di mana

mempunyai sampel acak dari sebaran dengan pdf ( )

| |

Dalam analisis kita punya apakah atau ( ) Oleh karena itu ( )

| | . Maka

( ) di mana

( )

atau

bergantung pada

( )

| |

( ) ) ( )
( )

( )

( ) , informasi Fisher

Dari persamaan 3.5.6, untuk sampel berukuran satu, katakanlah merupakan varians peubah acak

. Bagaimana untuk sampel acak berukuran n? Misal ( ). Jika fungsi kemungkinan ( )

sampel acak dari sebaran dengan pdf

adalah pdf dari sampel ini dan peubah acak yang variansnya adalah informasi, dalam sampel inindiberikan oleh ( ) ( )

Jumlah ini adalah dari iid (independent and identically distributed) dengan varians ( ). Oleh karena itu informasi sampel ini adalah ( Informasi dari sampel acak berukuran ( ) adalah , ( ( ) ) ( ) ( )

ini merupakan )-

kali dari informasi sampel berukuran dari sebaran

satu. Sehingga dalam Contoh 3.5.1, informasi Fisher untuk sampel acak berukuran Bernoulli

Kita sekarang siap untuk memperoleh batas bawah Rao-Cramer yang diberikan oleh teorema berikut.

Teorema 3.5.1 Batas Bawah Rao-Cramer. Misal dari sebaran dengan pdf ( terpenuhi. Misal ( ) , ( ( )) untuk ( ). Maka ( ) Bukti , ( )( ) ) adalah statistik dengan purata

adalah sampel acak

. Anggap bahwa kondisi kereguleran (R0)-(R4)

Kita buktikan untuk kasus kontinu dan untuk kasus diskret dapat diperoleh dengan cara serupa. Kita tulis ekspektasi dari Y sebagai ( ) ( ) ( ) ( ) ( )

Jika persamaan di atas kita turunkan terhadap , maka kita peroleh ( ) ( ( ) ( ) ) [ ( ) ( ( ) ) ]

( ) ( )

) [ ( )

] ( )

Kita definisikan peubah acak | ( ) | dan ( )

Berdasarkan persamaan (3.5.2) dan (3.5.7) berturut-turut kita peroleh ( ) ( ) Sehingga persamaan (3.5.9) dapat dinyatakan sebagai ( ) dimana mempunyai ( ) ( ) Karena , maka * ( ) ( ) + ( ) ( ) ( ) ( ) ( ) (

) Oleh karena itu

merupakan koefisien korelasi antara

dan . Dengan menggunakan ( )

, kita

yang dapat kita susun seperti pada persamaan (3.5.8), bukti selesai. Akibat 3.5.1 di bawah asumsi pada Teorema 3.5.1, jika ( penduga dari , sehingga ( ) )

, maka ketaksamaan Rao-Cramer menjadi ( ) ( ) yang telah dicoba pada dan ( ) ) Oleh ( )

Perhatikan kembali model Bernoulli dengan peluang sukses Contoh 3.5.1. Telah ditunjukkan bahwa dari ( )

Dari Latihan 3.3.2 (a) MLE

adalah Purata dan varians dari sebaran ini berturut-turut adalah dan (

karena itu purata dan varians dari berturut-turut adalah varians dari MLE mencapai batas bawah Rao-Cramer.

Dalam kasus ini

Definisi 3.5.1 Misal efisien dari jika varians dari

penduga takbias dari parameter

. Statistik

disebut penduga

mencapai batas bawah Rao-Cramer.

Definisi 3.5.2 Dalam hal kita dapat menurunkan terhadap suatu parameter di bawah tanda integral atau jumlah, maka nisbah dari batas bawah Rao-Cramer dan varians dari sebarang penduga takbias dari suatu parameter disebut keefisienan (efficiency) penduga.

Contoh 3.5.3 Misal purata

sampel acak dari sebaran Poisson yang mempunyai . Kita akan

. Dari contoh 3.3.2 kita telah memperoleh adalah MLE dari ( )

menunjukkan bahwa penduga ini adalah penduga efisien dari . Kita mempunyai ( )

Maka *( ( ) ) + *( ) +
0 . /1

Oleh karena itu diperoleh batas bawah Rao-Cramer Jadi, adalah penduga efisien dari .

, yang juga merupakan varians dari

Contoh 3.5.4 Misal. ( ), yaitu sebaran dengan pdf ( Kita mempunyai )

sampel acak berukuran (

( )

dari sebaran )

Dan turunan keduanya adalah ( Oleh karena itu informasi Fisher ( ) )

. Jadi, diperoleh batas bawah Rao-Cramer , adalah

( )-

. Dari latihan 3.1.3 (a) dapat diperoleh bahwa MLE dari

Untuk memperoleh sebaran dari .

, Misalkan

. Transformasi ini menghasilkan . /.

/ Dari Latihan 1.4.4 diperoleh

Oleh karena itu, dengan menggunakan teorema 1.4.1 diperoleh , untuk . Secara khusus untuk [ ] ( ( ) )

, diperoleh , . . Untuk
)( )

Oleh karena itu, penduga bias, tetapi bias ini hilang jika [ ] Jadi, ( )
( ) ( )

, diperoleh

Varians ini lebih besar dari pada batas bawah Rao-Cramer. Jadi, bukan penduga efisien dari . Asumsi 3.5.2 Kondisi Kereguleran Tambahan (Aditional Regularity Conditions). (R5): pdf ( ) dapat diturunkan tiga kali sebagai fungsi dari ( ) sehingga | Dengan , ( ), untuk semua ( )| ( ), dan untuk semua dalam ruang . Selanjutnya, untuk semua

, ada konstanta dan fungsi

peubah acak .

Teorema 3.5.2 ( ) untuk

Misal. ( )

sampel acak dari suatu sebaran dengan pdf

sehingga kondisi kereguleran (R1)-(R5) terpenuhi. Anggap informasi . Maka untuk sebarang barisan dari solusi MLE memenuhi ( ) ( ( ) ) ( )

Fisher memenuhi

Bukti. Ekspansi fungsi turunan dari kemungkinan ( ) ke dalam deret Taylor sekitar ( ) di mana antara ( ) ( ) ( ) ( ) ( ) ( ) pada ( )

dan . Karena

, maka kita peroleh

( )

( ) ) (

Dengan menggunakan CLT kita peroleh Karena jumlah ini iid dengan Hukum Bilangan Besar, ( ) ( ) ( ) ( ) ( ) .
(

( ))

( )

. Juga dengan menggunakan

Untuk melengkapi bukti ini kita perlu hanya menunjukkan bahwa suku kedua dalam penyebut pada persamaan (3.5.12) konvergen dalam peluang ke nol. Karena 2.3.7, dapat diperoleh jika kita dapat menunjukkan bahwa peluang. Misal | | ( adalah konstanta dalam kondisi (R5). Catatan bahwa | , yang dengan menggunakan kondisi (R5) berakibat | Oleh kondisi (R5), , ( )( )| | ( ) | ( ) ( ) , oleh Teorema ) adalah terbatas dalam | berakibat

. Oleh karena itu ( ) , ( )sebarang. Pilih | ] ] dan sehingga ( ( ) )

Untuk batas, kita pilih

, ( )- Misal [| [| ( )

, ( )-|

Selanjutnya dari persamaan (3.5.15), (3.5.16) dan (3.5.17) bahwa * maka ( + *| ( )| , ( )-+

) adalah terbatas dalam peluang.

Kita merampat (generalize) Definisi 3.5.1 dan Definisi 3.5.2 mengenai keefisienan asimtotik.

Definisi 3.5.3 Misal (

sampel acak dari sebaran dengan pdf ( sehingga ) .

) Anggap

) adalah penduga dari (

Maka (a) Koefisien asimtotik dari didefinisikan sebagai ( ) (b) Penduga (c) Misal ( )

dikatakan efisien secara asimtotik jika nisbah dalam (a) adalah satu.

penduga yang lain sehingga ( ) ke

Maka Keefisienan relatif asimtotik dari (

adalah

Oleh karena itu dengan Teorema 3.5.2, di bawah kondisi kereguleran, penduga kemungkinan maksimum adalah penduga efisien secara asimtotik. Ini adalah hasil yang baik. Juga, jika dua penduga adalah normal secara asimtotik dengan purata asimtotik sama, maka secara intuitif penduga dengan varians asimtotik yang lebih kecil yang akan kkita pilih dari yang lainnya sebagai penduugga yang lebih baik. Dalam hal ini, keefisienan relatif asimtotik dari penduga terpilih ke yang tidak terpilih adalah lebih besar dari satu.