Regresi Linier Berganda

Dr. Agr. Sc. Ernoiz Antriyandarti, SP, MP, M.Ec

 Regresi Linier Berganda
Model regresi linier berganda melibatkan lebih dari satu variabel
bebas. Modelnya :
Y   0  1 X 1   2 X 2  ...   k X k
Dimana
Y = variabel terikat
Xi = variabel bebas ( i = 1, 2, 3, …, k)
0 = intersep
i = koefisien regresi ( i = 1, 2, 3, …, k)
Model penduganya adalah
Y  b0  b1 X1  b2 X 2  ...  bk X k
Keadaan-keadaan bila koefisien-koefisien
regresi, yaitu b1 dan b2 mempunyai nilai :
• Nilai=0 variabel Y tidak dipengaruh oleh X1
dan X2
• Nilainya negatif terjadi hubungan dengan
arah terbalik antara variabel Y dengan
variabel-variabel X1 dan X2
• Nilainya positif terjadi hubungan yang
searah antara variabel Y dengan variabel
bebas X1 dan X2
 Regresi vs Korelasi
• Analisis Korelasi: tujuan utama adalah untuk
mengukur kekuatan atau tingkat hubungan linier
antara dua variabel (keduanya dianggap acak)
• Analisis Regresi: mencoba memperkirakan atau
memprediksi nilai rata-rata dari satu variabel
(dependen, dan diasumsikan bersifat stokastik)
berdasarkan nilai-nilai tetap dari variabel lain
(independen, dan non-stokastik), antara variabel
dependen dan independen mempunyai hubungan
kausalitas
 Menaksir Koefisien Regresi Dengan
Menggunakan Matriks

Dari hasil Metode Kuadrat Terkecil didapatkan persamaan

normal :

nb0  b1  X 1i  b2  X 2i ...  bk  X k i   Yi

b0  X1i  b1  X1i b2  X1i X 2i ...  bk  X1i X ki   X1iYi

2

…..

b0  X ki  b1  X ki X1i b2  X ki X 2i ...  bk  X ki   X kiYi

2
 Menaksir Koefisien Regresi Dengan
Menggunakan Matriks

Tahapan perhitungan dengan matriks :

1. Membentuk matriks A, b dan g

 n  X1i  X 2i ...  X ki 
 
  X1i  X1i X 2i  X1i X ki 
2
 X 1i ...
A
 ... ... ... ... ... 
 
 X ki  X ki X1i  X ki X 2i  X ki
2
... 
Menaksir Koefisien Regresi Dengan
Menggunakan Matriks

b0   g 0   Yi 
b   
b  1
g  g 1   X 1iYi

 ...   ... 
   
bk   g k   X kiYi 
 Menaksir Koefisien Regresi Dengan
Menggunakan Matriks

2. Membentuk persamaan normal dalam

bentuk matriks
Ab=g

3. Perhitungan matriks koefisien b

b = A-1 g
 Metode Pendugaan Parameter
Regresi
Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2
variabel bebas
n n
 ei   Yi  b0  b1 X 1i  b2 X 2i 
2 2

i 1 i 1
Tahapan pendugaannya :
1. Dilakukan turunan pertama terhadap b0 , b1 dan b2
  ei  2

 2Yi  b0  b1 X1i  b2 X 2i 
b0

  ei
2

 2Yi  b0  b1 X1i  b2 X 2i X1i
b1

  ei
2

 2Yi  b0  b1 X1i  b2 X 2i X 2i
b2
 Metode Pendugaan Parameter
Regresi
2. Ketiga persamaan hasil penurunan disamakan dengan
nol
nb0  b1  X i1  b2  X i 2   Yi
b0  X1i  b1   b2  X1i X i 2   X1iYi
2
X i1

b0  X 2i  b1  X i1 X 2i  b2  X i 2   X 2iYi
2
 Metode Pendugaan Parameter
Regresi
3. Nilai b1 dan b2 dapat diperoleh dengan memakai
aturan-aturan dalam matriks

J X 2 X 2 J X 1Y  J X 1 X 2 J X 2Y
b1 

J X1 X1 J X 2 X 2  J X1 X 2 2

J X 1 X 1 J X 2Y  J X 1 X 2 J X 1Y
b2 

J X1 X1 J X 2 X 2  J X1 X 2  2

b0  Y  b1 X1  b2 X 2
 Uji Kecocokan/Kesesuaian Model
1. Dengan Koefisien Determinasi
JKR
R 
2
JKT
• Untuk mengetahui prosentase pengaruh variable-
variable X1 dan X2 terhadap variable Y digunakan
koefisien determinasi
• R2 menunjukkan proporsi variasi total dalam respon Y yang
dapat diterangkan oleh model

R2  r
r merupakan koefisien korelasi antara Y dengan kelompok X1 , X2
, X3 , … , Xk
Uji Kecocokan/Kesesuaian Model

2. Dengan Pendekatan Analisis Ragam

Tahapan Ujinya :
1. Hipotesis =
H0 :   0
H1 :   0
dimana
 = matriks [ 0, 1, 2, … , k ]
 Uji Kecocokan/Kesesuaian Model

2. Tabel Analisis Ragam

Komponen SS db MS Fhitung
Regresi
Regresi SSR k MSR=SSR / k MSR
s2
Eror SSE n – k – 1 s2 = SSE / n-k-1
Total SST n–1
Uji Kecocokan/Kesesuaian Model
n  __
Dimana : SSR  SST  SSE  ( y i  y ) 2
i 1
n 
SSE   ( yi  yi ) 2
i 1
n __
SST  ( yi  y ) 2
i 1
Uji Kecocokan/Kesesuaian Model

3. Pengambilan Keputusan

H0 ditolak jika Fhitung > Ftabel(k , n-k-1)

pada taraf kepercayaan 
 Contoh Output

Y = Prestasi
R2 = 0.839, artinya 83.9% dari Prestasi dapat
dijelaskan oleh variabel minat dan motivasi, dan
16.1% dejelaskan oleh variabel lainnya.
 Contoh Output

Variabel Minat dan Motivasi secara

bersama-sama mempengaruhi Prestasi
secara signifikan
 Uji Parsial Koefisien Regresi

Tahapan Ujinya :
1. Hipotesis =
H0 : j  0
H1 : j  0
dimana j merupakan koefisien yang akan
diuji
 Uji Parsial Koefisien Regresi

2. Statistik uji :
bj   j
t
sbj
Dimana :
bj = nilai koefisien bj s
sbj 
s=
SSE / n  k 1

J X j X j 1  r122 
J X1 X 2
r12 
J J
X1 X1 X2X2 
 Uji Parsial Koefisien Regresi

3. Pengambilan keputusan

H0 ditolak jika thitung > t /2(db= n-k-1)

pada taraf kepercayaan 
 Contoh Output

Variabel Motivasi tidak berpengaruh nyata

terhadap variabel Kinerja Karyawan, sedangkan
variabel Gaji berpengaruh positif secara signifikan
terhadap Kinerja Karyawan.
 Data

Terdapat 3 tipe data:

• Time series data
• Cross-sectional data;
• Pooled data/Panel Data