Modul 6

Regresi Jackknife

6.1 Prosedur Jackknife
Adalah prosedur pengambilan sampel baru secara berulang dari data
asal berukuran n dengan cara menghilangkan pengamatan ke-i , i = 1, 2, 3, , n.

Misalkan terdapat data asal berukuran n, yaitu X = ( x
1
, x
2
, , x
n
)
maka dengan prosedur Jackknife akan diperoleh sampel-sampel baru
berukuran (n-1) sebagai berikut (Shao, 1995):
sampel ke-1 , X
(1)
= ( x
2
, x
3
, , x
n
) tanpa pengamatan ke-1
sampel ke-2 , X
(2)
= ( x
1
, x
3
, , x
n
) tanpa pengamatan ke-2

sampel ke-n , X
(n)
= ( x
1
, x
2
, , x
n-1
) tanpa pengamatan ke-n

Algoritma 1 : Prosedur Jackknife
1. Mulai
2. Input data asal (berukuran n)
3. Ulangi untuk i = 1, 2, , n langkah berikut:
- Hilangkan pengamatan ke-i untuk memperoleh sampel ke-i
- Cetak sampel ke-i
4. Selesai

6.2 Inferensi Statistik Dengan Bantuan Prosedur Jackknife
Misalkan dalam suatu penelitian diambil sampel berukuran n amatan, X =
(x
1
, x
2
, , x
n
) dan dari sampel ini dihitung estimator
) (

X S = (6.1)
dengan suatu metode tertentu. Jika statistik tersebut distribusinya sulit
ditentukan maka dalam inferensi selanjutnya, prosedur Jackknife dapat
digunakan sebagai alternatif untuk menyelesaikannya. Dengan menerapkan
metode yang sama dengan metode untuk mendapatkan (6.1) maka dari sampel-
sampel baru Jackknife akan diperoleh estimator-estimator (Efron, 1993) :
) (

) ( ) ( i i
X S = (6.2)
Kemudian uji hipotesa pada taraf terhadap parameter dilakukan
dengan pendekatan interval kepercayaan persentil Bootstrap : dari sebaran
nilai-nilai yang didapat dengan (6.2) akan ditentukan distribusi kuantilnya,
selanjutnya diambil kuantil /2 sebagai batas bawah dan kuantil (1- /2) sebagai
batas atas interval. Tolak H
0
jika nilai parameter yang dinyatakan di H
0
tidak
berada di dalam interval kepercayaan (Efron, 1993).



Teori dan praktikum Statistika Komputasi : Modul 6 22

6.3 Regresi Linier
Bila diberikan himpunan pasangan data regresi { (y
i
, x
i1
, x
i2 , ,
x
ip
) } , i =
1, 2, , n yang mengikuti model regresi linier :
ip p i i i
x x x y + + + + = ...
2 2 1 1 0
, i = 1, 2, , n (6.3)
maka estimator koefisien (parameter) regresi diberikan
dalam bentuk matrik sebagai berikut (Drapher dan Smith, 1992) :
)

,...,

2 1 0 p
=
Y ' X X) ' (X
1
=

(6.4)
dimana :
' ) , , , (
2 1 n
y y y L = Y (6.5)

=
np n n
p
p
x x x
x x x
x x x
L
M M M M
L
L
2 1
2 22 21
1 12 11
1
1
1
X (6.6)

Algoritma 2 : Regresi
1. Mulai
2. Input data
3. Hitung estimator koefisien regresi Y ' X X) ' (X
1
=

4. Tampilkan nilai-nilai estimator koefisien regresi tersebut

5. Selesai

6.4 Inferensi Koefisien Regresi Dengan Prosedur Jackknife
Apabila prosedur Jackknife di atas dilakukan terhadap data regresi
maka untuk mendapatkan sampel baru ke-i adalah dengan menghilangkan
pasangan data ke-i. Sehingga melalui prosedur Jackknife akan diperoleh
sampel-sampel baru:
Y
(i)
: adalah vektor Y pada (6.5) tanpa elemen ke-i, i=1,2,,n.
X
(i)
: adalah matrik X pada (6.6) tanpa baris ke-i, i=1,2,,n.
Dengan menerapkan metode yang sama dengan metode untuk mendapatkan
(6.4) maka dari sampel-sampel baru Jackknife akan diperoleh estimator-
estimator dalam bentuk vektor :
) (
'
) ( ) (
'
) ( ) (

i i i i i
Y X ) X X (
1
= , i=1,2,,n. (6.7)
Berdasarkan (6.7) dapat dirinci masing-masing estimator koefisien :
) ( ) ( 1 ) ( 0

, ,

i p i i
L dengan i=1,2,,n (6.8)
Selanjutnya untuk uji hipotesis terhadap masing-masing koefisien
p
,..., ,
1 0
, dapat dilakukan dengan pendekatan interval kepercayaan persentil
Bootstrap.


Teori dan praktikum Statistika Komputasi : Modul 6 23
Algoritma 3 : Inferensi Koefisien Regresi Dengan Prosedur Jackknife
1. Mulai
2. Input data regresi
3. Hitung estimator titik dengan rumus (6.4)
4. Ulangi untuk i = 1, 2, , n langkah berikut :
- Hilangkan pasangan data ke-i untuk memperoleh sampel baru ke-i
- Hitung estimator titik dengan (6.7) pada sampel baru tersebut
5. Tentukan distribusi kuantil dari tiap-tiap estimator berdasarkan hasil
pada langkah 4
6. Tentukan batas bawah dan batas atas interval keperc. berdasar hasil
langkah 5 untuk masing-masing parameter sesuai dengan taraf
7. Tentukan keputusan uji hipotesis
8. Selesai

6.5 Program
Program prosedur Jackknife (resampling) :
sampl . j ackkni f e<- f unct i on( x)
{
x<- as. vect or ( x)
n<- l engt h( x)
f or ( i i n 1: n)
{
xbar u<- x[ - i ]
cat ( " sampel j ackkni f e ke- " , i , " : \ n" )
pr i nt ( xbar u)
}
}
Program Regresi :
r eggan<- f unct i on( m)
{
m<- as. mat r i x( m)
y<- m[ , 1]
n<- l engt h( y)
m[ , 1] <- r ep( 1, n)
x<- m
b<- sol ve( t ( x) %*%x) %*%( t ( x) %*%y)
r et ur n( b)
}



Soal Latihan :
1. Buatlah program untuk prosedur Jackknife pada regresi !
2. Buatlah program untuk inferensi koefisien regresi dengan prosedur
Jackknife ! (note : menent. distr. kuantil lihat help (quantile) )

Teori dan praktikum Statistika Komputasi : Modul 6 24