EKONOMETRIKA

Pertemuan 7:
Analisis Regresi Berganda

Dosen Pengampu MK:

Dr. Idah Zuhroh, M.M.
Evellin D. Lusiana, S.Si, M.Si
 Mengapa regresi berganda?
 Model regresi dengan hanya melibatkan satu
variabel independen seringkali kurang memadai
 Misal, jumlah permintaan tidak hanya
dipengaruhi oleh harga, tapi bisa juga oleh
variabel lain seperti
 Harga barang subtitusi/komplemen
 Pendapatan
 Status sosial, dsb.
 Model regresi berganda paling sederhana
adalah menyertakan 2 variabel independen
 Model Regresi Berganda

 Bentuk umum model regresi berganda

Yi  0  1 X1i  ...   k X ki  ui
Yi  0  1 X1i   2 X 2i  ui 2 variabel
independen

Koefisien regresi parsial

 Interpretasi persamaan regresi berganda

E(Yi X1i , X 2i )  0  1 X1i  2 X 2i

Rata-rata nilai variabel dependen (Y) bila

diketahui nilai variabel-variabel indepen (X1, X2)
 Multikolinearitas dalam Regresi Berganda [1]

 Salah satu asumsi dalam analisis regresi

adalah tidak ada multikolinearitas (korelasi)
antar variabel independen.

1 X1  2 X 2  0 1  2  0

 Jika 1  0, 2  0 maka X1 dan X2 dikatakan

linier dependen.
 Multikolinearitas dalam Regresi Berganda [2]

 Contoh: jika X1  2 X 2  0
X1  2 X 2

 Apabila dimasukkan dalam model

Yi   0  1 X 1i   2 X 2i  ui
= 0  1 (2 X 2i )   2 X 2i  ui
= 0  (2 1   2 ) X 2i  ui
  0   X 2i  ui • Pengaruh X1 telah terwakili oleh X2
• β1 dan β2 tidak dapat diestimasi
terpisah
 Arti Koefisien Regresi Parsial

Yi  0  1 X1i   2 X 2i  ui
 Nilai β1 dapat diartikan sebagai
pengaruh perubahan 1 unit X1
Y
terhadap rata-rata Y, apabila X2  1
X 1
dianggap konstan

 Nilai β2 dapat diartikan sebagai Y

pengaruh perubahan 1 unit X2  2
X 2
terhadap rata-rata Y, apabila X1
dianggap konstan
 Estimasi Parameter
Model Regresi Berganda

 Metode OLS
Yˆi  ˆ0  ˆ1 X 1i  ˆ2 X 2i  uˆi
uˆi  Yˆi  ( ˆ0  ˆ1 X 1i  ˆ2 X 2i )
n 2 n 2

min   uˆi   min  Yˆi  ˆ0  ˆ1 X 1i  ˆ2 X 2i 

i 1 i 1

 Selanjutnya, turunkan (diferensialkan) terhadap

β0, β1, dan β2 lalu disamadengankan nol
 Sehingga akan diperoleh persamaan normal sbb

Y  ˆ0  ˆ1 X 1  ˆ2 X i

n n n n

 i 1i 0  1i 1  1i  ˆ3  X1i X 2i
Y X
i 1
 ˆ
 X  ˆ
 X 2

i 1 i 1 i 1
n n n n

 i 2i 0  2i 1  1i 2i 3  2i
Y X
i 1
 ˆ
 X  ˆ
 X X
i 1
 ˆ
 X 2

i 1 i 1
 Estimator parameter model regresi berganda
yakni

ˆ0  Y  ˆ1 X1  ˆ2 X i

 n  n 2   n  n 
  i 1i   2i    i 2i   1i 2i 
y x x  y x x x
ˆ1   i 1  i 1   i 1  i 1 
yi  Yi  Y
 n 2  n 2   n 
  1i   2i    1i 2i 
x x  x x
 i 1  i 1   i 1  x1i  X 1i  X 1

 n  n 2   n  n  x2i  X 2i  X 2
  i 2i   1i    i 1i   1i 2i 
y x x  y x x x
ˆ2   i 1  i 1   i 1  i 1 
 n 2  n 2   n 
  x1i   x2i     x1i x2i 
 i 1  i 1   i 1 
 Sedangkan varians dan standar error

 n n n 
 X 1  x2i  X 2  x1i  2 X 1 X 2  x1i x2i 
2 2 2 2

var( ˆ0 )     . 2
1 i 1 i 1 i 1
n n n
 n

2 



i 1
x1i  x2i   x1i x2i 
2

i 1
2

 i 1 



x 2

   
se ˆ j  var ˆ j
2i
var( ˆ1 )  i 1
2
. 2 j=0,1,2
n n
n 

i 1
x  2
1i
i 1
x   1i 2i 
 i 1
2
x
2ix
 n

i
ˆ
u 2

n
ˆ 2  i 1

x 2
1i n3
var( ˆ2 )  i 1
2
. 2
n
nn


i 1
x  2
1i
i 1
x   1i 2i 
 i 1
2
x
2ix

 Estimasi OLS : Notasi Matriks [1]
 Model Regresi Berganda secara umum dapat
dituliskan dalam notasi matriks
Yi  0  1 X1i  ...   k X ki  ui
Y  Xβ  u
 0 
1 X 21 X 31 ... X k1   
Y1  1 X 22 X 32 ... X k 2   1  u1 
  β  u
Y X  1 X 23 X 33 ... X k 3     
 
Yn 

    

 k  un 
1 ... X kn   
X 2n X 3n  
n 1 n  (k  1) (k  1) 1 n 1
 Estimasi OLS : Notasi Matriks [2]

 Estimator OLS  minimumkan RSS

RSS  uˆuˆ
RSS
 ˆ 

RSS  Y  Xβ Y  Xβˆ  ˆ
 2XY  2XXβˆ  0

 
 Y  βˆ X Y  Xβˆ  X Xβˆ  X Y
 YY  βˆ XY  YXβˆ  βˆ XXβˆ
βˆ  XX  XY
1

 YY  2YXβˆ  βˆ XXβˆ

 Uji Hipotesis: Uji Parsial
H0 :  j  0
H1 :  j  0 j=0,1,2

 Statistik uji:
ˆ j   j ˆ j
t 
 
se ˆ j  
se ˆ j

 Tolak H0 jika
Dalam hal
 │t│ > t tabel (t(n-k-1,α)) ini, k=2
 P-value < α
 Uji Hipotesis: Uji Serentak
n n n n

 y  ˆ
1  i 1i
y2
ix  ˆ
 2  i 2i
y x   i
ˆ
u 2
H 0 : 1  2  ...  k  0
i 1 i 1 i 1 i 1
H1 : ada min. satu  j  0
TSS ESS RSS
Dalam hal
ini, k=2
 Tabel Analisis Varians (ANOVA)
Sumber Variasi Sum square Derajat bebas Mean Square F
(SS) (db) (MS)
Regresi ESS k RSS/p MS of ESS /MS of RSS
Error/residual RSS n-k-1 ESS/(n-k-1)
Total TSS n-1

 Tolak H0 jika
 F > F tabel (F(k,(n-k-1));α)
 P-value < α
Contoh: Data child mortality (Table 6-4)

 Dependen
 child mortality
(CM - per 1000
kelahiran)
 Independen
 Female literacy
rate (FLR - %)
 Per capita GNP
(PGNP)

CM  0  1FLR  2 PGNP  u
 Uji t dan p-value

ESS=R2.(TSS)

σy
RSS

TSS=(σy.)2 (n-1)
 H 0 : 1  2  0
 Tabel ANOVA H1 : ada min. satu  j  0 (j=1,2)
Sumber Sum square Derajat Mean F
Variasi (SS) bebas (db) Square (MS)
Regresi 257362.2121 2 128681.1061 73.83
Residual 106315.6 61 1742.8822
Total 363678.0286 63

F tabel (F(2,61);0.05) = 3.15

 Karena F > F tabel maka Ho ditolak

 Kesimpulan: ada satu diantara FLR dan PGNP yang
mempengaruhi CM
 Konfirmasi terhadap mana di antara kedua var. Independen yg
berpengaruh, dilakukan dengan uji t (uji parsial)
 H 0 : 1  0 H 0 : 2  0
H1 : 1  0 H1 :  2  0

t tabel (t61;0.05) = 1.9996

 Karena nilai│t│dari kedua var. Independen
lebih besar dari t tabel, maka Ho dari kedua
hipotesis tersebut ditolak.
 Kesimpulan: FLR dan PGNP keduanya
berpengaruh signifikan terhadap CM
  Model estimasi CM

CMˆ  263.64  2.231FLR  0.006 PGNP Adj-R 2  0.6981

 Interpretasi
 Setiap peningkatan 1% angka buta huruf wanita (FLR) akan
mengakibatkan kematian anak turun sekitar 2 anak per 1000
kelahiran, dengan asumsi pendapatan per kapita (PGNP)
bersifat konstan.
 Setiap peningkatan 1000 unit pendapatan per kapita akan
menurunkan kematian anak sebesar 6 anak per 1000 kelahiran,
dengan asumsi angka buta huruf wanita bersifat konstan.
 Adjusted R2 sebesar 0.6981 atau 69.81% menunjukkan bahwa
69.81% keragaman variabel kematian anak dapat dijelaskan
oleh angka buta huruf dan pendapatan per kapita, sedangkan
30.19% sisanya dijelaskan variabel lain di luar model
 Korelasi Parsial [1]

 Korelasi (r) adalah suatu ukuran yang

menunjukkan derajat/kekuatan asosiasi
hubungan antar dua variabel  disebut juga
korelasi derajat nol (zero-order correlation)
 Apabila ingin diketahui, bagaimana hubungan
antar variabel Y dengan X1, jika ada variabel X2
yang juga berhubungan dengan keduanya?
 Korelasi Parsial [2]
 Misal, andaikan model berikut adalah model regresi
yang benar (true regression)
Yi  0  1 X1i   2 X 2i  ui

 Kemudian, X2 dikeluarkan dari model sehingga

Yi  0  1.2 X1i  ui

 Apakah β1.2 akan sama dengan β1?

 Koefisien korelasi parsial adalah ukuran yang
menyatakan derajat hubungan antar Y dan X1, dengan
mengasumsikan X2 konstan atau dengan meniadakan
pengaruh dari X2
 Korleasi Parsial [3]
 ryx1.x2 = korelasi parsial antar Y dan X1, di mana X2 konstan
 ryx2.x1 = korelasi parsial antar Y dan X2, di mana X1 konstan
 rx1x2.y = korelasi parsial antar X1 dan X2 di mana Y konstan
ryx1  ryx 2 rx1x 2
ryx1. x 2 
 yx 2  x1x 2 
1  r 2
1  r 2

ryx 2  ryx1rx1x 2
ryx 2. x1 
 yx1  x1x 2 
1  r 2
1  r 2

rx1x 2  ryx1ryx 2
rx1x 2. y 
1  r 1  r 
2
yx1
2
yx 2
Koef. Determinasi vs Korelasi Parsial

ryx2 1  ryx2 2  2ryx1ryx 2 rx1x 2

R 
2

1 r 2
x1x 2

R  r  1  r
2 2
yx1
2
yx1 r2
yx 2. x1

R r
2 2
yx 2  1  r2
yx 2 r 2
yx1. x 2
 Koefisien Determinasi Terkoreksi
 Penggunaah R2 akan menunjukkan nilai yang semakin
besar seiring pertambahan variabel independen dalam
model.
 Padahal bila memperhatikan prinsip parsimony, model
komplekas tidak selalu lebih baik daripada model
sederhana
 Oleh karena itu, dilakukan koreksi (adjusted) terhadap
rumus R2 yang memperhatikan jumlah parameter dalam
model
RSS
nk
Adj  R  1 
2
TSS
n 1