Anda di halaman 1dari 45

Analisis Regresi 1

Pokok Bahasan
Pengujian pada Regresi Ganda
Model Regresi Linier Berganda

Model Regresi Linier Berganda, dengan k


peubah penjelas :

Y  β0  β1X1  β2 X2    βk Xk  ε

Parameter regresi sebanyak k+1 diduga melalui data.


Untuk regresi berganda, perhitungannya menjadi
lebih mudah jika dilakukan dengan matriks dan
dibantu dengan menggunakan komputer

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Model Regresi Linier Berganda

Dugaan Persamaan Regresi Linier


Berganda, dengan k peubah penjelas :

yˆ i  b0  b1x1i  b2 x 2i    bk xki
ASUMSI : Hubungan setiap peubah penjelas
dengan peubah responnya LINIER
(pangkat X1 sampai Xk adalah satu)

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Ringkasan Regresi Linier Berganda

 Model Regresi Berganda dengan k peubah penjelas :

Y  β0  β1X1  β2 X2    βk Xk  ε
 Model umum Regresi Berganda dengan k peubah
penjelas dan n amatan dalam notasi matriks :

n
y1  n X k 1 k 1  1  n  1

 Dugaan bagi parameter Regresi Berganda:


1
b 
( k 1) 1 ( k 1) ( X' X) ( k 1) (k 1) X'n y
n 1

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Ringkasan Regresi Linier Berganda
lanjutan

 Nilai ramalan yˆ  Xb  H y H  X(X' X) 1 X'


 Matriks dugaan ragam peragam bagi b :
Vˆ (b0 ) cov (b0 , b1 ) ....... cov (b0 , bk ) 
 
ˆ
cov(b1 , b0 ) V (b1 ) ....... cov (b1 , bk )
ˆ
V (b)     X ' X 1 2
s
 ... ... ... 
cov(b , b ) cov(b , b ) ............Vˆ (b ) 
 k 0 k 1 k 

dengan :
s2 = KT sisaan
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Ringkasan Regresi Linier Berganda
lanjutan

 KOEFISIEN DETERMINASI
b' X ' Y b ' X ' Y  nY 2
R 
2
R 2 adj 
Y 'Y Y ' Y  nY 2

 Dugaan simpangan baku


sb j  c( j 1)( j 1) s dengan :
s2 = KT sisaan
c(j1)(j1)  unsur ke j  1 diagonal matriks (X' X) 1

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Ringkasan Regresi Linier Berganda
lanjutan

ASUMSI ASUMSI YANG HARUS DIPENUHI DALAM


ANALISIS REGRESI BERGANDA :

1. Kondisi Gauss-Marcov
1. E[ i ]  0 nilai - harapan/rataan sisaan  nol
2. E[ i ]  var [ ]   2 , ragam sisaan homogen untuk setiap nilai x
2

( homoscedas ticity )
3. E[ i j ]  0, i  j sisaan saling bebas/tdk ada autokorelasi
2. Galat menyebar Normal
3. Galat bebas terhadap peubah bebas, cov(x i ,  j )  0, i
4. Tidak ada multikolinieritas pd peubah bebas, cov(x i , x j )  0, i  j
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
PENGUJIAN MODEL

Uji t
Uji F

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter
Regresi Linier Berganda : uji-t
 Uji-t dimaksudkan untuk menguji pengaruh setiap peu-
bah penjelas secara satu per satu terhadap peubah
responnya

Model Regresi Berganda dg k peubah penjelas :


Y  β0  β1X1  β2 X2    βk Xk  ε
H0 :  j  0 Peubah penjelas Xj tidak berhubungan linier dg Y

H1 :  j  0 Peubah penjelas Xj berhubungan linier dg Y

atau  j  0 Peubah penjelas Xj berhubungan linier positif dg Y


atau  j  0 Peubah penjelas Xj berhubungan linier negatif dg Y

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter
Regresi Linier Berganda : uji-t
lanjutan

Model Regresi-nya: Y  β0  β1X1  β2 X2    βk Xk  ε


Hipotesis :
1. Statistik uji-nya :
H 0 : 1  0
H 1 : 1  0 bj   j
t hit  , sb j  c( j 1)( j 1) s
atau 1  0 sb j
. .
atau 1  0

. .
Derajat bebasnya = n – k - 1

k. H0 : k  0 Unsur ke (j+1) diagonal (X’X)-1


H1 :  k  0
Akar dari KT sisaan
atau  k  0
atau  k  0 k = banyaknya peubah penjelas

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter
Regresi Linier Berganda : uji-t
lanjutan

Kaidah Keputusan : untuk i = 1, 2, …., k


H0:  i  0 H0:  i ≤ 0 H0:  i = 0
H1:  i < 0 H1:  i > 0 H1:  i ≠ 0

a a/2 a/2
a
-ta ta -ta/2 ta/2

tolak H0 jika t < -tn-2, a Tolak H0 jika t > tn-2, a Tolak H0 jika t < -tn-2, a/2
atau t > tn-2, a/2

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter
Regresi Linier Berganda : uji-t
lanjutan

Interpretasi hasil keputusan : i = 1, 2, …., k

H0:  i  0 H0: i ≤ 0 H0: i = 0


H1:  i < 0 H1: i > 0 H1: i ≠ 0
TOLAK H0: Peubah penjelas Xi Peubah penjelas Xi Peubah penjelas Xi
berpengaruh nyata berpengaruh nyata berpengaruh nyata
thdp peubah respon thdp peubah respon thdp peubah respon Y
Y secara linier dan Y secara linier dan secara linier
hubungannya negatif hubungannya positif

TERIMA H0: Peubah penjelas Xi Peubah penjelas Xi Peubah penjelas Xi


tidak berpengaruh tidak berpengaruh tidak berpengaruh
negatif thdp peubah positif thdp peubah nyata thdp peubah
respon Y secara linier respon Y secara linier respon Y secara linier
berpengaruh = memiliki hubungan
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji Parameter
Regresi Linier Berganda : uji-t
lanjutan
CONTOH : DATA TEKANAN DARAH
Orang Tekanan Ukuran
Umur
Mero Orang Tekanan Ukuran
Umur
Mero Data di samping adalah data
ke Darah Tubuh kok ke Darah Tubuh kok
yg diambil secara acak dari
1
2
135
122
2,876
3,251
45
41
0
0
17
18
145
142
3,36
3,024
49
46
1
1
32 orang usia di atas 40
3 130 3,1 49 0 19 135 3,171 57 0 tahun di Bogor. Ukuran
4
5
148
146
3,768
2,979
42
54
0
1
20
21
142
150
3,401
3,628
56
56
0
1
tubuh adalah besaran
6 129 2,79 47 1 22 144 3,751 58 0 “quatelet index”=100 (bobot
7
8
162
160
3,668
3,612
60
48
1
1
23
24
137
132
3,296
3,21
53
50
0
0
badan / tinggi badan2).
9 144 2,368 44 1 25 149 3,301 54 1 Merokok adalah p boneka.
10 180 4,637 64 1 26 132 3,017 48 1
11 166 3,877 59 1 27 120 2,789 43 0 Ingin diketahui peubah apa
12 138 4,032 51 1 28 126 2,956 43 1
13 152 4,116 64 0 29 161 3,8 63 0 saja dari peubah-peubah tsb
14 138 3,673 56 0 30 170 4,132 63 1 yg mempengaruhi tekanan
15 140 3,562 54 1 31 152 3,962 62 0
16 134 2,998 50 1 32 162 4,01 65 0 darah secara linier

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter
Regresi Linier Berganda : uji-t
lanjutan

PLOT MASING-MASING PEUBAH PENJELAS VS TEKANAN DARAH

Matrix Plot of Tekanan Darah vs Ukuran Tubuh; Umur; Merokok Plot di samping
40 50 60 menunjukkan
180
bahwa :
170 1. Ukuran tubuh me-
160
miliki hub linier
Tekanan Darah

positif dg tek darah


150
2. Umur memiliki hub
140 linier pos dg
130
tekanan darah
3. Stat merokok me-
120
miliki hub lin posi-
2,4 3,2 4,0 0,0 0,5 1,0
Ukuran Tubuh Umur Merokok tif dg tek darah

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter
Regresi Linier Berganda : uji-t
lanjutan

OUT PUT MINITAB : DATA TEKANAN DARAH

Regression Analysis: Tekanan Darah versus Ukuran Tubuh; KEPUTUSAN:


Umur; Merokok
Ke-3 p.penjelas nya-
The regression equation is ta tolak H0. a = 5%
Tekanan Darah = 50,5 + 12,8 Ukuran Tubuh + 0,848 Umur
+ 9,11 Merokok KESIMPULAN:
KESIMPULAN:

Predictor Coef SE Coef T P Ukuran tubuh, umur,


Constant 50,54 11,19 4,52 0,000 dan status merokok
Ukuran Tubuh 12,841 4,256 3,02 0,005 :
Umur 0,8481 0,2928 2,90 0,007 Memiliki hub linier
Merokok 9,113 2,805 3,25 0,003 dengan tek. darah
t tabel : t 28; 0,025 = 0,683
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji Parameter
Regresi Linier Berganda : uji-t
(lanjutan)

Untuk j=1  t hit = 3.02  tolak H0


Untuk j=2  t hit = 2.90  tolak H0
a/2=.025 a/2=.025 Untuk j=3  t hit = 3.25  tolak H0

KESIMPULAN :
1. Cukup bukti untuk mengatakan
-tn-4,α/2 0 tn-4,α/2 bahwa ada hub linier antara ukuran
Tolak H0 Terima H0 Tolak H0
tubuh dan tekanan darah
2. Cukup bukti untuk mengatakan
-0,683 0,683 bahwa ada hub linier antara umur
dan tekanan darah
d.b. = 32 – 3-1 = 28 t28,.025 = 0,683
3. Cukup bukti untuk mengatakan
bahwa ada hub linier antara status
merokok dan tekanan darah

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter
Regresi Linier Berganda : uji-F
Dengan uji F ini kita dapat mengetahui :
 peubah-peubah penjelas yang ada dalam model

berpengaruh secara serempak terhadap respon atau


tidak.
 Penambahan satu peubah penjelas ke dalam model

setelah peubah penjelas lainnya ada dalam model


berpengaruh nyata atau tidak terhadap respon
 Penambahan sekelompok peubah penjelas ke dalam
model setelah peubah penjelas lainnya ada dalam
model berpengaruh nyata atau tidak terhadap respon

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter Regresi Linier Berganda :
uji-F untuk model keseluruhan
H 0 : 1   2  ...   k  0 H0 : peubah respon tidak memp
hub linier dg peubah
H1 : min ada satu  j  0, j  1,2,....., k penjelas ke-1 s.d ke-k

Derajat Jumlah Kuadrat Kuadrat


Sumber H1 :
Bebas (JK) Tengah
Keragaman (db) (KT) peubah respon
JK Regresi memp hub linier
b1, b2,..,bk| b0 k b’X’Y – Y’11’Y dg min 1 peubah
k
penjelas ke-1 s.d
JK sisaan ke-k
Sisaan n – k-1 Y’Y – b’X’Y n  k -1
KTregresi
Total
n-1 Y’Y – Y’11’Y Fhit 
(terkoreksi) KTsisaan
KRITERIA PENOLAKAN : Tolak H 0 jika F  Fk,n k 1,α
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji Parameter Regresi Linier Berganda :
uji-F untuk model keseluruhan
lanjutan

H 0 : 1   2  ...   k  0
OUT PUT MINITAB : DATA TEKANAN DARAH H1 : min ada 1  j  0, j  1,2,.., k

The regression equation is


KEPUTUSAN:
Tekanan Darah = 50,5 + 12,8 Ukuran Tubuh + 0,848 Umur
+ 9,11 Merokok tolak H0. a = 5%
S = 7,88677 R-Sq = 72,6% R-Sq(adj) = 69,6%
KESIMPULAN:
Analysis of Variance
Source DF SS MS F P Tekanan darah
Regression 3 4610,3 1536,8 24,71 0,000 memiliki hubungan
Residual Error 28 1741,6 62,2 linier dg min satu
Total 31 6352,0 peubah penjelas

F tabel : F (3,28), 5% =2,95

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji Parameter Regresi Linier Berganda :
uji-F untuk model keseluruhan
lanjutan

H 0 : 1   2   3  0 Statistik uji-nya:
H1 : min ada satu  j  0, j  1,2,3 Fhit  KTregresi  24,71
KTsisaan
F tabel : F (3,28), 5% =2,95
Keputusan:
Tolak H0

a = .05
Kesimpulan:
Cukup bukti untuk mengatakan
bahwa minimum ada satu peubah
0 F penjelas yg berhubungan linier dg Y
Terima H0 Tolak H0
F.05 = 2,95
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Parsial dan uji-F Sekuensial

PADA ANALISIS REGRESI LINIER BERGANDA :


Terhadap semua peubah penjelas yang tersedia :
 Diuji peubah penjelas apa yg berpengaruh nyata thd respon.
 Dari yang ada dalam model, usahakan yang dipakai hanya
peubah penjelas yang keberadaannya dalam model menyum-
bangkan keragaman kepada garis regresi cukup besar
 Jika suatu peubah penjelas keberadaannya dalam model
sudah dapat diwakili oleh yg lainnya, maka peubah penjelas
tsb tidak perlu lagi digunakan dlm model
 Lebih disenangi model yang memiliki banyaknya peubah
penjelas yang lebih sedikit.

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji-F Parsial dan uji-F Sekuensial
lanjutan

 Uji-F Parsial dapat dilakukan terhadap semua


koefisien regresi, dengan menganggap semua
peubah penjelas masuk dalam model kecuali
peubah yang ingin diuji pengaruhnya.
 Bila peubah dimasukkan satu per satu secara
bertahap ke dalam suatu persamaan regresi,
maka dapat dikatakan sebagai Uji-F
sekuensial.

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji-F Parsial dan uji-F Sekuensial
lanjutan
MODEL LENGKAP dengan k+r PEUBAH PENJELAS
Model terdiri dari k peubah penjelas X dan r peubah penjelas Z

Y  β 0  β1x1    β k x k  α1z1  α r z r  ε
Untuk melihat pengaruh r peubah penjelas tambahan
tsb dpt dilakukan sebagai berikut :
1. Model lengkap dengan k+r peubah penjelas,
dikeluarkan r peubah penjelas, dicek perubahan
pengaruhnya
2. Model belum lengkap (baru k peubah penjelas),
ditambah r peubah penjelas lainnya, dicek
perubahannya.
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Parsial dan uji-F Sekuensial
lanjutan
CARA PEUBAH BERADA DALAM MODEL
Y  β0  β1x1  β 2 x 2  β3 x3  ε Y  β 0  ε
Y  β0  β 2 x 2  β3 x 3  ε Y  β0  β1x1  ε
Y  β0  β1x1  β3x 3  ε Y  β0  β1x1  a1Z1  ε
Y  β0  β1x1  β 2 x 2  ε Y  β0  β1x1  β 2 x 2  a 2 Z 2  ε
Uji-F PARSIAL Uji-F SEKUENSIAL
Model dibangun dengan mengeluar- Model dibangun dengan menambah-
kan satu peubah penjelas yg akan kan satu persatu peubah penjelas
diuji pengaruhnya dari model lengkap. baru ke dalam model .
Diuji pengaruhnya. Diuji pengaruhnya

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji-F Parsial
Model lengkap : k+r peubah penjelas

Y  β 0  β1x1    β k x k  α1z1  α r z r  ε

Model tidak lengkap : k peubah penjelas

TUJUAN: membandingkan JK sisa model lengkap


dengan JK sisa model tidak lengkap
H 0 : α1  α 2    α r  0
H1 : minimal ada satu α j  0 (j  1,..., r)
( JKs(r) - JKs ) / r
Tolak H 0 jika F   Fr,n k r 1,α , s e2  KTsisa
s e2
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Parsial
lanjutan

LANGKAH-LANGKAH UJI-F PARSIAL


Lakukan analisis regresi thdp model lengkap dan hitung JK sisa
nya (JKs)

Lakukan analisis regresi thdp model tidak lengkap (data tanpa


peubah z, dengan banyaknya peubah yg dikeluarkan sebanyak
r), kemudian hitung JK sisa-nya (JKs(r))

Hitung nilai statistik F nya dan tentukan keputusannya


berdasarkan a.

( JKs(r) - JKs ) / r
F
s e2
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Parsial
lanjutan
BANYAKNYA PEUBAH PENJELAS YG DIKELUARKAN = 1

MODEL LENGKAP MODEL TDK LENGKAP YG KELUAR


Y  β0  β1X1  β 2 X2  β3X3  ε Y  β0  β1X1  β 2 X 2  ε X3
Y  β0  β1X1  β3X3  ε X2
k=2, r=1 Y  β 0  β 2 X 2  β3X3  ε X1

JK sisa (JKs) JK sisa (JKs(r) )

KT sisa (se2) ( JKs(r) - JKs ) / r  Fr, n -k -r -1; a


F3 
se2

F3 untuk menguji pengaruh peubah penjelas X3 thdp Y
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Sekuensial
Penambahan satu peubah baru (r=1) ke model secara bertahap

Model Lengkap Y  β 0  β1x1    β k x k  α jz j  ε , j  1,2,...

Y  β 0  β1x1  ε H 0 : α1  0
k=1 , r=1
H1 : α1  0
Y  β 0  β1x1  a1z1  ε
H0 : α2  0
k=2 , r=1
Y  β 0  β1x1  β 2 x 2  a 2 z 2  ε H1 : α 2  0

k=3 , r=1 H0 : α3  0
Y  β 0  β1x1  β 2 x 2  β3 x 3  a 3z3  ε H1 : α 3  0

KT( a | b1 , b 2 ,.., b k )
Tolak H 0 jika F   F1,n  k 11,1-α
KTsisa (b1 , b 2 ,.., b k , a)
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Uji-F Sekuensial
lanjutan

F hitung dan KAIDAH KEPUTUSAN

k=1 , r=1
KT( a1 | b1 ) Y  β 0  β1x1  ε
F H 0 : α1  0
KTsisa (b1 , a1 )
H1 : α1  0 Y  β 0  β1x1  a1z1  ε
F tabel  F(1,n 3), 1-α
JK regresi EKSTRA/db
k=2 , r=1
KT( a2 | b1 , b 2 )
F Y  β 0  β1x1  β 2 x 2  ε
KTsisa (b1 , b 2 , a2 ) H 0 : α 2  0
H1 : α 2  0
F tabel  F(1,n  4 ), 1-α Y  β 0  β1x1  β 2 x 2  a 2 z 2  ε
Tolak H0 jika F hit >F tabel

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Uji-F Sekuensial
lanjutan

MENGHITUNG JK regresi EKSTRA


MODEL AWAL MODEL SETELAH PENAMBAHAN
Y  β 0  β1x1  ε Y  β 0  β1x1  a1z1  ε

JK ( b1 ) JK ( b1,a1 ) KTsisa (b1,a1)


JK (a1 | b1 )  JK (b1 , a1 )  JK (b1 )
KT (a1 | b1 )  JK (a1 | b1 ) / 1

KT( a1 | b1 )
F
KTsisa (b1 , a1 )
F tabel  F(1,n 3), 1-α
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Contoh : Uji-F Sekuensial

Karena 8.1498 lebih besar daripada F(1,12,0.95)=4.75,


berarti penambahan advertising ada manfaatnya
Uji F ini, biasanya disebut “uji-F sekuensial”

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Contoh : Uji-F Sekuensial
lanjutan

 Jika kita memasukkan peubah advertising lebih dulu,


berapakah sumbangannya terhadap model ?
 Jika advertising sudah ada dalam persamaan, berapa
sumbangan peubah price jika kemudian peubah ini
dimasukkan ke dalam persamaan regresi ?

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Contoh : Uji-F Sekuensial
lanjutan

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Contoh lain: uji-F sekuensial
lanjutan

Suhu plat pembungkus dan jarak plat pembungkus dalam mesin


pembungkus sabun mempengaruhi persentase sabun terbungkus
yang lolos inspeksi.

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Hipotesis Linier Umum

Hipotesis linier biasanya muncul dari pengetahuan pene-


liti dan dugaannya tentang model-model yang mungkin

Model regresi yg ingin digunakan Peneliti curiga modelnya :

Y  β0  β1X1  β 2 X 2  ε Y  β0  β(X1 - X 2 )  ε
Y  β0  βX1  βX 2  ε

β1  β 2  β  H0 : β1  β 2  H0 : β1  β 2  0
HIPOTESIS LINIER H1 : β1  β 2  0
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Hipotesis Linier Umum
lanjutan

Model: E[Y] = β0 + β1X1 + β2X2 + … + βkXk

Bentuk Umum Hipotesis Linier Dalam Notasi Matriks


H0 : c10 β0 + c11 β1 + c12 β2 + … + c1k βk = 0,
c20 β0 + c21 β1 + c22 β2 + … + c2k βk = 0,
H0 : C  0
‫׃‬
cm0 β0 + cm1 β1+ cm2 β2 + … + cmk βk = 0.
H1 : C   0
Dalam hipotesis ini ada m fungsi linier yang tersusun atas
β0, β1, β2, … ,βk yang belum tentu semuanya bebas

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Pengujian Hipotesis Linier Umum

 Misalkan C adalah matriks berukuran mp, dan rank(C) = r


 Full model: Y = Xβ + 

JK sisa ( FM )  Y ' Y  ˆ ' X ' Y , (db  n - p)

 Reduced model: y = Z + , Z adalah matriks n(p-r) dan 


adalah vektor berukuran (p-r) 1
ˆ  ( Z ' Z ) 1 Z ' y
JK sisa ( RM )  Y ' Y  ˆ ' Z ' Y , (db  n - p  r )
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Pengujian Hipotesis Linier Umum
lanjutan

 JKH = JKRes(RM) – JKRes(FM) dengan d.b sebesar r.


 JKH adalah jumlah kuadrat yang berasal dari hipotesis

H0: Cβ = 0
 Statistik Uji :

JK H / r ˆ ' C '[C ( X ' X ) 1 C ' ]1 Cˆ / r



F ~ Fr ,n p atau F 
JK Re s ( FM ) /( n  p) JK sisa ( FM ) /( n  p)
 H0: Cβ = d v.s. H1: Cβ  d maka
(Cˆ  d )'[C ( X ' X ) 1 C ' ]1 (Cˆ  d ) / r
F ~ Fr ,n p
JK sisa ( FM ) /( n  p)
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Regresi pada kasus terjadi
multikolinier
MULTIKOLINIERITAS
 Masalah multikolinieritas terjadi pada regresi berganda
jika peubah-peubah X saling berkorelasi. Adanya hu-
bungan linier yg kuat antara peubah-peubah bebas X.
 Hal ini akan mempengaruhi ragam dari dugaan
koefisien regresi
 Peubah X yang dianggap penting kemungkinan akan
tidak nyata walaupun nilai R2 nya tinggi.
 Pendugaan dari koefisien regresi menjadi tidak benar,
misalnya koefisien memiliki tanda negatif padahal dalam
hubungan X dan Y sebenarnya adalah positif
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Regresi pada kasus terjadi
multikolinier
lanjutan

Bagaimana cara mendeteksi multikolinieritas?


 Periksa korelasi antar peubah penjelas X
 Hitunglah nilai Variance Inflation Factor (VIF)
dimana : VIF = (1-Rj2)-1.
Rj2 adalah R-kuadrat dari regresi dimana
Xj merupakan peubah respon dan peubah
X lainnya menjadi predictor.
 Jika VIF lebih besar dari 10 biasanya ada masalah
multikolinieritas.
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Regresi pada kasus terjadi
multikolinier
lanjutan

Bagaimana cara mengatasi multikolinieritas?


 Jika kita ingin memilih variabel X dimana hanya X
yang nyata yang akan memasuki model
 Gunakan prosedur penyeleksian variabel, seperti
forward, backward, stepwise
 Jika kita ingin mempertahankan konfigurasi variabel X
yang akan memasuki model
 Gunakan metode estimasi di luar metode kuadrat
terkecil, seperti Ridge Regression, Principal
Component Regression, Partial Least Square

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Tahapan Pembentukan Model
 Mengerti masalah
Penentuan Model * yang diteliti
 Memilih peubah
tetap dan tidak
tetap-nya
Menduga parameter  Mengidentifikasi
model regresinya
 Menentukan
data-data yang
Verifikasi Model diperlukan untuk
membangun
model

Inferensia dan Interpretasi


Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Tahapan Pembentukan Model
(lanjutan)

 Menduga parameter
Penentuan Model regresi dengan meng-
gunakan data yg ada
 Mendapatkan selang
kepercayaan bagi
Menduga parameter * parameter regresi
 Untuk peramalan, yang
diinginkan adalah
sisaan se terkecil
Verifikasi Model  Jika menduga
parameter secara
individual, pastikan
tidak ada multikolini-
Inferensia dan Interpretasi eritas dan bias

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB


Tahapan Pembentukan Model
(lanjutan)

 Evaluasi model yg
Penentuan Model didapat dg seksama
(Mis. Apakah tanda
parameter benar?)
 Apakah ada parameter
Menduga parameter yg bias atau yg tidak
masuk akal?
 Cek asumsi regresi
(Mis. Apakah eror ~ N
Verifikasi Model * (0,2?
 Apabila ada masalah,
perhatikan kembali
modelnya dan cari
Inferensia dan Interpretasi model lainnya yg kira-
kira sesuai
Itasia & Y Angraini, Dep. Statistika FMIPA-IPB
Tahapan Pembentukan Model
(lanjutan)

Penentuan Model  Interpretasikan


hasil analisis regre-
si, sesuaikan dg
masalah yg diteliti
Menduga parameter
 Bentuk selang ke-
percayaan atau la-
kukan uji hipotesis
Verifikasi Model bagi parameter
regresi
 Gunakan model
untuk peramalan
Inferensia dan Interpretasi * dan prediksi

Itasia & Y Angraini, Dep. Statistika FMIPA-IPB

Anda mungkin juga menyukai