Model Regresi Berganda

Hubungan linear (dlm parameter) antara 1 peubah tak

bebas & 2 atau lebih peubah bebas

Intersep-Y Random
Slope Populasi Error
Populasi

Yi  0  1X1i  2X2i      pXpi  i

Ŷi  b0  b1X1i  b2X2i      bp Xpi  ei

Peubah tak bebas Peubah bebas (Explanatory)

(Respons) utk sampel utk model sampel
 Model Regresi Berganda (Sampel)
utk 2 Peubah Bebas
Y Yi  b0  b1 X 1i  b2 X 2i  ei

ei

X2

X1
Yˆi  b0  b1 X 1i  b2 X 2i
Model Regresi Berganda: Teladan
O il (G a l) T e m p(0F) In su la tio n
Tentukan suatu model utk 275.30 40 3
memprediksi bahan bakar 363.80 27 3
pemanas (Galon) yg 164.30 40 10
digunakan sebuah rumah- 40.80 73 6
satu-keluarga di bln 94.30 64 6
Januari berdasarkan rata- 230.90 34 6
rata temperatur (0F) dan 366.70 9 6
ketebalan isolasi (inchi). 300.60 8 10
237.80 23 10
121.40 63 3
31.40 65 10
203.50 41 6
441.10 21 3
323.00 38 3
52.50 58 10
 Yi  b0  b1 X1i  b2 X 2i  ei
Y Yi
; y  Y Y  X1  X1i
;x1 X1i  X1 X2  X2i
; x2 X2i  X2
i i
N N N

b0  ˆ0  Y  ˆ1 X 1  ˆ2 X 2

ˆ
b1  1 
 2

 x1i yi     x2i yi  x1i x2i 
x2i
2 2

 x1i  x2i   x1i x2i 
2

ˆ
b2   2 
 2

 x2i yi     x1i yi  x1i x2i 
x1i
 2 2

 x1i  x2i   x1i x2i 
2

 Yi  b0  b1 X 1i  b 2 X 2 i  e i
2  ei2 s
Var (e)  s 
N  p 1
 KTS Koef Variasi: CV 
Y

s2
Var ( b1 )  s b2 1
 2

x1i 1  r 2
  x1i x2i
rx x  2 2
2 1 2

2 s  1i  2i
x x
Var (b2 )  sb2  2
 x2 i 1  r 2
 
2
s r
Cov(b1 , b2 )  sb b  1 2
1  r 
2
  2
x1i 2
x2i
 Dugaan Model Regresi Sampel

Yˆi  b 0  b1 X 1 i  b 2 X 2 i
C o efficien ts
Satuan
Output Excel In te rce p t 562.1510092 Galon
X V a ria b le 1 -5.436580588 Gal/0F
X V a ria b le 2 -20.01232067 Gal/inc

Ŷi  562.151  5.437 X 1i  20.012 X 2i

Dgn isolasi yg tetap, utk tiap
kenaikan 1 0F dlm temperatur, rata-
rata jml bahan pemanas yg di-
gunakan turun sebesar 5.437 galon.
Dgn temperatur tetap, utk tiap
kenaikan 1 inchi isolasi, rata-
rata penggunaan bahan pemanas
turun sebesar 20.012 galon.
 Penggunaan Model utk Prediksi
Dugalah rata-rata jml bahan bakar pemanas yg
digunakan utk sebuah rumah jika rata-rata
temperaturnya 30 0F dan isolasinya 6 inchi.

Ŷi  562.151  5.437 X 1i  20.012X 2i

 562.151  5.437  30  20.012  6
 278.969 Dugaan bahan bakar
pemanas yg digunakan
sebanyak 278.97 galon
 Koefisien Determination
Output Excel SSR
R eg ressio n S tatistics rY2,12 
SST
Multiple R 0.982654757
R Square 0.965610371
Adjusted R Square 0.959878766 r2 terkoreksi
Standard Error 26.01378323 •Utk membandingkan
Observations 15 model dgn jml peubah
bebas berbeda
•Merefleksikan jml
peubah bebas dan
ukuran contoh
• lebih kecil dari r2
 Beberapa Plot Sisaan (Dibakukan)


• Sisaan Vs Yi
 Mungkin perlu transformasi peubah Y
• Sisaan Vs X1
 Mungkin perlu transformasi peubah X1
• Sisaan Vs X2
 Mungkin perlu transformasi peubah X2
• Sisaan Vs Time
 Mungkin punya sifat autokorelasi
 Insulation R esidual P lot
Plot Sisaan: Teladan

Output Excel 0 2 4 6 8 10 12

Tem perature R esidual P lot

60

40

20
Re sidua ls

0
0 20 40 60 80
-20

-40
Tidak terlihat
suatu Pola
-60
 I. Uji Model Secara Keseluruhan
Yi = 0 + 1 X1 + 2 X1 +…+ p Xp + εi

•Apakah Model dapat menjelaskan keragaman Y

•Hipotesis Statistik:
H0: Model tdk dpt menjelaskan keragaman Y
2regresi = 2ε atau 2regresi/ 2ε = 1
b1 = b2 = … = bp = 0 (tidak dapat menjelaskan)
H1: Model dpt menjelaskan keragaman Y
2regresi > 2ε atau 2regresi/ 2ε > 1
Minimal ada bi  0 (ada peubah
bebas yg mempengaruhi Y)
a = 0.05
•Statistik uji-F = KTR/KTS ~ F(p, n-1-p)
F(2,12)
0 3.89
 Uji Model Secara Keseluruhan:
Analisis Ragam (ANOVA)
ANO V A
df SS MS F S ig n ifican ce F
Re g re ssio n 2 228014.6 114007.3 168.4712028 1.65411E-09
Re sid u a l 12 8120.603 676.7169
T o ta l 14 236135.2

p value
p = 2, jumlah peubah
penjelas n-1

Statistik Uji F = KTR

KTS
 Uji Model Secara Keseluruhan
Statistik Uji:
H0: b1 = b2 = … = bp = 0 F  168.47
(Output Excel)
H1: Minimal ada bi  0
a = .05
Keputusan:
db = 2 dan 12
H1 pada a = 0.05
Nilai Kritis: Kesimpulan:
• Model dpt menjelaskan
keragaman Y
a = 0.05
• Minimal ada satu peubah
bebas yg mempengaruhi Y
0 3.89 F
II. Uji Signifikansi Masing2 Peubah Bebas
•Apakah peubah bebas Xi mempengaruhi Y
•Hypotesis Statistik:
H0: bi = 0 (Xi tidak mempengaruhi Y)
H1: bi  0 (Xi mempengaruhi Y)

Statistik Uji t utk X1

(Temperatur)
C o efficien ts S tan d ard E rro r t S tat
In te rce p t 562.151009 21.09310433 26.65094
X V a ria b le 1 -5.4365806 0.336216167 -16.1699
X V a ria b le 2 -20.012321 2.342505227 -8.54313

Statistik Uji t utk X2

(Isolasi)
 Teladan Uji t
Apakah temperature berpengaruh nyata pada konsumsi
bulanan bahan bakar pemanas? Ujilah pada a = 0.05.

H0: b1 = 0 Statistik Uji:

H1: b1  0 t = -16.1699
db = 12 Keputusan:
Nilai Kritis: Tolak H0 at a = 0.05
Tolak H 0 Tolak H0 Kesimpulan:
.025 .025 Terbukti nyata, pengaruh
temperatur pada konsumsi
bahan bakar pemanas.
-2.1788 0 2.1788 Z
Dugaan Selang Kepercayaan utk Slope

Tentukan SK 95% bagi slope populasi 1 (pengaruh

temperatur thd Konsumsi Bahan Bakar Pemanas)
b1  t n  p 1Sb1
Co efficien ts L o w er 95% Up p er 95%
In te rce p t 562.151009 516.1930837 608.108935
X V a ria b le 1 -5.4365806 -6.169132673 -4.7040285
X V a ria b le 2 -20.012321 -25.11620102 -14.90844

-6.169  1  -4.704

Rata-rata konsumsi BBP berkurang antara 4.7 galon

sampai 6.17 galon tiap kenaikan suhu 10 F.
 Pengujian Sebagian Model

• Kontribusi keragaman peubah Xi thd Model

(jika semua peubah lain sdh ada dlm model)
 Dinotasikan dgn JKR(Xisemua peubah selain Xi )
  Koefisien determinasi parsial X1 dgn Y jika X2
2
konstan rY 1.2
• Evaluasi Model secara Terpisah
• Berguna dlm Memilih Peubah Bebas
 Pengujian Sebagian Model: JKR

Kontribusi X1 jika X2 sdh tercakup dlm model:

JKR(X1X2) = JKR(X1 dan X2) - JKR(X2)

Dari bagian ANOVA Dari bagian ANOVA

regresi utk model : regresi utk model :
Ŷi  b0  b1 X 1i  b2 X 2i Ŷi  b0  b2 X 2i
 Uji F Parsial utk Kontribusi Xi

• Hipotesis:
 H0 : Peubah Xi tidak signifikan memperbaiki
model setelah yg lainnya tercakup dlm model
H1 : Peubah Xi signifikan memperbaiki
model setelah yg lainnya tercakup dlm model
• Statistik Uji: Dgn db = 1 dan (n - p -1)
 F = JKR( X i SemuaSelainnya)
KTS
 Koefisien Determinasi Parsial
2 JKR ( X 1 X 2 )
rY 1.2 
JKT  JKR ( X 1 dan X 2 )  JKR ( X 1 X 2 )

Dari bagian ANOVA Dari bagian ANOVA

regresi utk model: regresi utk model:
Ŷi  b0  b1 X 1i  b2 X 2i Ŷi  b0  b2 X 2i

Note: JKR(X1X2) = JKR(X1 dan X2) - JKR(X2)

Ujilah pada a = .05 utk menentukan apakah peubah
temperatur signifikan memperbaiki model setelah
peubah isolasi ada dlm model
H0: X1 tidak memperbaiki a = .05, db = 1 dan 12
model (X2 sdh ada)
Nilai Kritis = 4.75
H1: X1 memperbaiki model
ANOVA (For X1 and X2) ANO V A (For X2)
SS MS SS
R e g re ssi o n 51076.47
Regression 228014.6263 114007.313
R e si d u a l 185058.8
Residual 8120.603016 676.716918 T o ta l 236135.2
Total 236135.2293

JKR ( X 1 X 2 ) 228 ,015  51,076

F  = 261.47
KTS 676 ,717
Kesimpulan: Tolak H0. X1 memperbaiki model
 Akibat Multikolinieritas

• Koefisien Determinasi tinggi, tapi

banyak koefisien yg tdk nyata
• Sulit memisahkan pengaruh dari
masing-masing faktor.
• Tanda koefisien bukan hubungan yg
sebenarnya
• Koefisien tdk nyata, bukan berarti
peubah tsb tdk berpengaruh.
 Contoh Output Minitab
The regression equation is
Demand = 850 - 5.03 P + 4.74 Pr + 0.277 Advertise + 0.0107 Income + 1.31 T

Predictor Coef SE Coef T P

Constant 850.0 134.8 6.31 0.000
P -5.0326 0.4394 -11.45 0.000
Pr 4.7435 0.9696 4.89 0.000
Advertise 0.2774 0.1046 2.65 0.014
Income 0.010658 0.001316 8.10 0.000
T 1.3091 0.7534 1.74 0.095

S = 33.6398 R-Sq = 91.5% R-Sq(adj) = 89.7%

Analysis of Variance

Source DF SS MS F P
Regression 5 291364 58273 51.49 0.000
Residual Error 24 27159 1132
Total 29 318523