Analisis Regresi Pemeriksaan Model

Materi Pembelajaran: Materi Pembelajaran:

Regresi Berganda: Uji Parsial (Uji t)
uji t, interval kepercayaan, R2

Capaian Pembelajaran:
Melakukan uji parsial (uji t) dan menentukan interval kepercayaan
bagi βj , serta menginterpretasi koefisien determinasi R2.

Matriks variance-covariance bagi b Matriks variance-covariance bagi b

lanjutan
• Penduga parameter regresi dalam notasi matriks: • Matriks dugaan ragam-peragam bagi b regresi berganda:
b  ( X ' X)-1 X ' Y  var(b0 ) cov(b0 , b1 )  cov(b0 , bk ) 
 cov(b , b ) var(b1 )  cov(b1 , bk )  1
var(b )   0 1
  X ' X s2
• Matriks nilai-nilai dugaan Y:      
 
Yˆ  Xb  X( X ' X)-1 X ' Y  HY H  X( X ' X)-1 X '  cov( b0 , bk ) cov( b1 , bk )  var(bk ) 
dengan s 2  KTG

• Matriks dugaan ragam-peragam bagi b regresi sederhana:

 var(b0 ) cov(b0 , b1 )  1 2
• Dugaan simpangan baku bagi bj adalah:
var(b)  
cov(b , b ) var(b )    X ' X s s(bj )  c( j1)( j1) s dengan s  KTG
 0 1 1 
dengan c( j 1)( j 1) = unsur ke j  1 diagonal matriks ( X ' X ) 1
s2 = KTG
 Uji Parameter Regresi Linier Berganda: Uji Parameter Regresi Linier Berganda:
uji t (uji parsial) uji t (uji parsial)
lanjutan
• Uji-t dimaksudkan untuk menguji pengaruh masing-masing variabel
Y   0  1 X 1   2 X 2  
penjelas satu per satu (parsial) terhadap variabel responnya.
Hipotesis : Statistik uji-nya :
• Model regresi berganda 1. H 0 : 1  0 bj   j
thitung  ; s(b j )  c( j 1)( j 1) s
Y   0  1 X 1   2 X 2     k X k   H1 : 1  0 s (b j )
atau 1  0
derajat bebasnya = n – k - 1
• Hipotesis yang hendak diuji adalah: ( j = 1,2,...,k ) atau 1  0
H0 :  j  0 Variabel penjelas Xj tidak berhubungan linier dg Y 2. H 0 :  2  0 unsur ke (j+1) diagonal (X’X)-1
H1 :  j  0 Variabel penjelas Xj berhubungan linier dg Y H1 :  2  0
akar dari KTG
atau  j  0 Variabel penjelas Xj berhubungan linier positif dg Y atau  2  0
atau  2  0 k = banyaknya variabel penjelas
atau  j  0 Variabel penjelas Xj berhubungan linier negatif dg Y

Contoh: uji-t Contoh: uji-t

dua variabel penjelas, notasi matriks dua variabel penjelas, notasi matriks
lanjutan
Data: Model regresi dalam notasi matriks: • Akan diuji apakah X1 dan/atau X2 berpengaruh linier
Y  Xβ  ε thdp Y
Y X1 X2  6, 683 1,529 0, 064 
3,5  1 3,1 30   
3,5 3,1 30 • Diperoleh bahwa ( X ' X)1   1,529 0, 760 0, 028 
3,2  1 3,4 25   0, 064 0, 028 0, 005 
3,2 3,4 25     
3,0 3,0 20 3,0  1 3,0 20   0 
    • Persamaan regresi-nya: Yˆ  0, 214  0,898 X 1  0, 017 X 2
2,9 3,2 30 Y   2,9  X  1 3,2 30  β   1 
4,0 3,9 40  4,0  1 3,9 40    0 
    • Hipotesisnya:
2,5 2,8 25  2,5  1 2,8 25 
 2,3  1 2,2 30 
2,3 2,2 30    H0 :  j  0 Peubah penjelas Xj tidak berhubungan linier dg Y
H1 :  j  0 Peubah penjelas Xj berhubungan linier dg Y
 Contoh: uji-t Contoh: uji-t
dua variabel penjelas, notasi matriks dua variabel penjelas, notasi matriks
lanjutan lanjutan
• Statistik uji-nya: db = 7 – 3 = 4 t 4; 0,025 = 2,776
bj   j Untuk j = 1  t hitung = 3,55  tolak H0
thitung  ; s(b j )  c( j 1)( j 1) s /2=0,025 /2=0,025
s (b j )
Untuk j = 2  t hitung = 0,829  terima H0
2 2 1
• s  ˆ  KTG   67, 44  67,1031  0, 08422
4 -tn-3,α/2 0 tn-3,α/2
KESIMPULAN:
s  0, 08422  0, 2902 Tolak H0 Terima H0 Tolak H0
1. Cukup bukti untuk mengatakan
0, 898 – 2,776 2,776 bahwa ada hub linier antara X1 dan Y
• untuk j  1, s ( b1 )  0, 760  0, 2902  0, 2530  t hitung   3, 550
0, 2530 2. Tidak cukup bukti untuk mengatakan
bahwa ada hub linier antara X1 dan Y
0, 017
untuk j  2, s ( b2 )  0, 005  0, 2902  0, 0205  t hitung   0, 829
0, 0205

Contoh: uji-t Uji Parameter Regresi Linier Berganda:

dua variabel penjelas, keluaran Minitab uji t (uji parsial)
lanjutan lanjutan
Kaidah keputusan: untuk j = 1, 2, …., k
Regression Analysis: Y versus X1, X2
H0 :  j  0 H0 :  j  0 H0 :  j  0 H0 :  j  0 H0 :  j  0
The regression equation is
Y = - 0.214 + 0.898 X1 + 0.0175 X2 H1 :  j  0 H1 :  j  0 H1 :  j  0 H1 :  j  0 H1 :  j  0

Predictor Coef SE Coef T P

Constant -0.2138 0.7502 -0.29 0.790
X1 0.8984 0.2530 3.55 0.024   /2 /2
X2 0.01745 0.02116 0.82 0.456 > 0,05

S = 0.290208 R-Sq = 83.3% R-Sq(adj) = 74.9% -t t -t/2 t/2

Terima H0
Tolak H 0 Tolak H 0 Tolak H 0
jika thitung  tdbGalat; / 2 jika thitung  tdbGalat; /2 jika thitung  t dbGalat; /2
atau thitung  tdbGalat; / 2
 Uji Parameter Regresi Linier Berganda: Contoh: uji-t
uji t (uji parsial) tiga variabel penjelas
lanjutan
Y   0  1 X 1   2 X 2   3 X 3  
Interpretasi hasil keputusan: j = 1, 2, …., k Contoh: Data Tekanan Darah
H0 :  j  0 H0 :  j  0 H0 :  j  0 Orang Tekanan Ukuran
Umur
Mero Orang Tekanan Ukuran
Umur
Mero Data di samping adalah data
ke Darah Tubuh kok ke Darah Tubuh kok
yg diambil secara acak dari
H1 :  j  0 H1 :  j  0 H1 :  j  0 1 135 2,876 45 0 17 145 3,36 49 1
32 orang usia di atas 40
2 122 3,251 41 0 18 142 3,024 46 1
3 130 3,1 49 0 19 135 3,171 57 0 tahun di Bogor. Ukuran
Tolak H0: Variabel penjelas Xj Variabel penjelas Xj Variabel penjelas Xj 4 148 3,768 42 0 20 142 3,401 56 0
tubuh adalah besaran
berpengaruh nyata berpengaruh nyata berpengaruh nyata 5 146 2,979 54 1 21 150 3,628 56 1
6 129 2,79 47 1 22 144 3,751 58 0 “quatelet index”=100 (bobot
thd variabel respon Y thd variabel respon Y thd variabel respon Y 7 162 3,668 60 1 23 137 3,296 53 0
badan / tinggi badan2).
secara linier dan secara linier dan secara linier 8 160 3,612 48 1 24 132 3,21 50 0
9 144 2,368 44 1 25 149 3,301 54 1 Merokok adalah var boneka.
hubungannya negatif hubungannya positif 10 180 4,637 64 1 26 132 3,017 48 1
11 166 3,877 59 1 27 120 2,789 43 0 Ingin diketahui variabel apa
12 138 4,032 51 1 28 126 2,956 43 1
Terima H0: Variabel penjelas Xj Variabel penjelas Xj Variabel penjelas Xj 13 152 4,116 64 0 29 161 3,8 63 0 saja dari variabel-variabel
tidak berpengaruh tidak berpengaruh tidak berpengaruh 14 138 3,673 56 0 30 170 4,132 63 1 tsb yg mempengaruhi
15 140 3,562 54 1 31 152 3,962 62 0
negatif thd variabel positif thd variabel nyata thd variabel 16 134 2,998 50 1 32 162 4,01 65 0 tekanan darah secara linier
respon Y secara linier respon Y secara linier respon Y secara linier
berpengaruh = memiliki hubungan
Yˆ  50,5  12,8 X 1  0,848 X 2  9,11X 3

Contoh: uji-t Contoh: uji-t

tiga variabel penjelas tiga variabel penjelas, keluaran Minitab
lanjutan lanjutan
Untuk j =1  t hitung = 3,02  tolak H0
Output Minitab: Data Tekanan Darah
Untuk j =2  t hitung = 2,90  tolak H0
/2=0,025 /2=0,025 Regression Analysis: Tekanan Darah versus Ukuran Tubuh;
Untuk j =3  t hitung = 3,25  tolak H0 KEPUTUSAN:
Umur; Merokok
KESIMPULAN: Tolak H0 untuk ketiga
The regression equation is variabel penjelas dg
1. Cukup bukti untuk mengatakan
-t28,α/2 0 t28,α/2 Tekanan Darah = 50,5 + 12,8 Ukuran Tubuh + 0,848 Umur α = 5%
bahwa ada hub linier antara ukuran
+ 9,11 Merokok
Tolak H0 Terima H0 Tolak H0 tubuh dan tekanan darah
2. Cukup bukti untuk mengatakan Predictor Coef SE Coef T P KESIMPULAN:
– 0,683 0,683 bahwa ada hub linier antara umur Constant 50,54 11,19 4,52 0,000
dan tekanan darah Ukuran Tubuh 12,841 4,256 3,02 0,005 Ukuran tubuh, umur,
Umur 0,8481 0,2928 2,90 0,007 dan status merokok
db = 32 – 3 – 1 = 28 t 28; 0,025 = 0,683
3. Cukup bukti untuk mengatakan memiliki hub linier
Merokok 9,113 2,805 3,25 0,003
bahwa ada hub linier antara status dengan tek. darah
merokok dan tekanan darah t tabel : t 28; 0,025 = 0,683
 Pendugaan interval bagi βj
Pemeriksaan Model
• Bagi model regresi bergalat normal, kita memperoleh:

bj   j
Materi Pembelajaran:  tdbGalat j  0,1, 2, , k
s (b j )
Interval kepercayaan bagi βj
• Dengan demikian, batas-batas kepercayaan bagi βj
dengan koefisien kepercayaan 1 – α adalah:
b j  tdbGalat; /2 s(b j )   j  b j  tdbGalat; /2 s(b j )

Contoh: dua variabel penjelas Contoh: dua variabel penjelas

interval kepercayaan bagi β1 interval kepercayaan bagi β2
lanjutan
• Diketahui: • Diketahui:
Yˆ  0, 214  0,898 X 1  0, 017 X 2 b1  0,898 Yˆ  0, 214  0,898 X 1  0, 017 X 2 b2  0, 017

s  KTG  0, 08422  0, 2902 s (b1 )  0, 2530 s  KTG  0, 08422  0, 2902 s (b2 )  0, 0205

db = 7 – 3 = 4 t 4; 0,025 = 2,776 db = 7 – 3 = 4 t 4; 0,025 = 2,776

• b j  tdbGalat; /2 s(b j )   j  bj  tdbGalat; /2 s(b j ) • b j  tdbGalat; /2 s(b j )   j  bj  tdbGalat; /2 s(b j )

0,898  (2, 776)(0, 2530)  1  0,898  (2,776)(0, 2530) 0, 017  (2,776)(0,0205)  2  0,017  (2, 776)(0,0205)

0,196  1  1,600 0, 0399  2  0,0739

 Koefisien Determinasi Berganda:
Koefisien R2
Pemeriksaan Model
• Proporsi keragaman Y yang dijelaskan oleh semua
variabel X dalam model regresi.
Keragaman yg dijelaskan JKR JKT  JKG JKG
Materi Pembelajaran: R2 
Total keragaman

JKT

JKT
 1
JKT

Koefisien Determinasi R2 2
• Nilai 0  R  1
• R2 akan bernilai 0 bila semua b j  0 ( j  1, , k )
• R2 akan bernilai 1 bila semua amatan Y berada tepat
pada permukaan respon dugaannya Yi  Yˆi i

Koefisien Determinasi Berganda:

Koefisien adjusted R2

• Nilai R2 tidak pernah turun meskipun ditambahkan

variabel X ke dalam model.
• Hanya nilai Y yang menentukan besarnya JKT.
• Tidak ada gunanya membandingkan model yg satu
dg yg sdh ditambah variabel penjelasnya.
• Solusinya gunakan adjusted R2.
• Penambahan variabel penjelas akan menurunkan
nilai adjusted R2 (dibandingkan R2).
JKG / (n  k  1) n  1  JKG JKG
2
Radj  1  1     1  R2
JKT / (n  1)  n  k  1  JKT JKT