ANALISI REGRESI LINIER BERGANDA

1.PENDAHULUAN

Analisis regresi linier berganda adalah analisis hubungan

linier antara dua atau lebih variabel bebas ( X1, X2,….Xk )
dengan satu variabel tak bebas ( Y )
Tujuan regresi linier berganda untuk menyelidiki pola
hubungan antara satu variabel tak bebas dengan beberapa
variabel bebas secara serentak. Data yang digunakan
biasanya berskala interval atau ratio.

1
Struktur data dengan k variabel bebas dan n pengamatan sebagai
berikut

Y X1 X2 X3 ... Xk
y1 x11 x12 x13 x1k
y2 x21 x22 x23 x2k
.
.
yn xn1 xn2 xn3 xnk

2
 Model regresi linier berganda ( variabel banyak ) :
Y  0  1 X 1   2 X 2  ...   k X k   (1 )

Dimana Y ,
adalah variabel tak bebas
X1 X 2 X k adalah variabel bebas ( prediktor)
,…
 0 , 1  ,….  adalah parameter regresi
,


2 k
adalah kesalahan pengganggu (residual)
Pengamatan ke i dapat ditulis sebagai berikut :

yi  0  1 xi1  2 xi 2  ...  k xik   i i= 1,2,…,n ;k<n (2)

Persamaan ( 1 ) adalah model Linier dan dapat ditulis dalam bentuk

persamaan matriks :

Y = Xβ + ε
atau dalam bentuk :

3
 y1  1 x11 ...x1k   0   1 
       
1 x . . x   2 
 y2   21 2k 
 1
.   .  .   . 
       
.  .  .  . 
y  1 x ... x     
 n  nk   k n 
n1
 
Model penduga dari persamaan ( 1 ) adalah

yˆ  b0  b1 X 1  b2 X 2  ...  bk X k
Dari persamaan matriks, penduga untuk β adalah

 X X  X Y
1
ˆ T T

4
  b0 
dimana  
 b1 
ˆ  . 
 
. 
b 
 k 

CATATAN
Yang dimaksud dengan model linier atau non linier , adalah linier
atau non linier di dalam parameter ( β ) , sedangkan pangkat tertinggi
dalam variabel bebas disebut ordo.

Contoh
Y  0  1 X  11 X 2  
adalah suatu model regresi linier ( dalam β ) ordo kedua ( dalam X )

5
 Asumsi dalam regresi yang harus dipenuhi :
a. Residual dalam persamaan (2) diasumsikan
Independently and Identically Distributed
Normal (IIDN) dengan mean adalah nol dan
varian = σ2.
Arti IIDN :
1. εi , i = 1, 2, . . . n berdistribusi normal
2 ε1 , ε2 , … εn mempunyai mean nol
3 ε1 , ε2 , … εn mempunyai varian sama ( tapi tidak diketahui ) = σ2,
artinya varian konstan atau sering kali dikatakan homogen atau asumsi
HOMOKEDASTISITAS.
Apabila asumsi ini tidak dipenuhi maka terjadi HETEROSKEDASTISITAS.
Untuk mengetahui keberadaan heteroskedastisitas Perlu dilakukan UJI
HETEROSKEDASTISITASUji Glesjer.
Uji Glejser dilakukan dengan cara meregresikan antara variable bebas
dengan nilai mutlak residualnya.

6
Jika nilai signifikansi parameter regresi > 0.05 maka tidak
terjadi masalah heteroskedastisitas.

4 ε1 , ε2 , … εn adalah independent satu terhadap yang lain

(kovarian = 0 ),
Apabila ini tidak dipenuhi terjadilah AUTOKORELASI diantara
residual, untuk mengetahui keberadaan Autokorelasi perlu
dilakukan pengujian -Uji Durbin Watson

  ei ei 1 
n 2

Uji Durbin Watson

d i 2 dimana ei  yi  yˆ
n

e
i 1
2
i

Rentang untuk d adalah 0 < d < 4.

 Nilai d akan kecil bila selisih ei  ei 1 kecil.

 Apabila ei dan ei 1 berkorelasi positif maka nilai d dekat dengan nol,
 Apabila ei dan ei 1 berkorelasi negatif maka nilai d dekat dengan 4
( besar )
7
  ei dan ei 1 tidak ada korelasi maka nilai d dekat dengan 2.

Uji hipotesis untuk Autokorelasi:

 H0 :  =0
H1 :  >0
α =…%
Pernyataan H0 di tolak bila d < dL ; H0 diterima bila d > dU.
Tidak ada keputusan yang dapat diambil bila d  d  d
L U
Bila hal ini terjadi maka sampel diperbesar.
 H0 :  =0

H1 :  <0
α =…% .
Pernyataan H0 di tolak bila d > 4 - dL ; H0 diterima bila d < 4 - dU ,
Tidak ada keputusan bila 4 - dU < d < 4 – dL

8
H0 :  =0
H1 :  0
α =…%
Pernyataan H0 di tolak bila d < dL atau 4 –d < dL ; H0 diterima bila d > dU
dan 4 – d > dU, Sedangkan untuk nilai d lainnya tidak ada keputusan.

b. Asumsi terhadap variabel bebas ( predictor ) yaitu antar variabel bebas

tidak boleh ada korelasi, apa bila ada korelasi maka terjadilah
MULTIKOLINERITAS.
Untuk mengetahui ada tidaknya multikolinearitas maka perlu dilakukan
uji MULTIKOLINERITAS dengan menggunakan VIF
(Variance Inflation Factor )
RUMUS VIF  1
1  R 2j
Apabila
VIF = 1 tidak ada korelasi yang signifikan antar variabel bebas.
VIF > 1 mengindikasikan ada korelasi antar variabel bebas
VIF > 5 mengindikasikan ada salah satu variabel bebas merupakan
fungsi dari variabel bebas yang lain. 9
2. PENGUJIAN MODEL
a. Uji Residual
Model regresi yang di dapat berdasarkan data sampel dengan
menggunakan metode kwadrat terkecil (Least square method )
yaitu dengan meminimumkan jumlah kuadrat kesalahan (error),
maka residual dianggap sebagai kesalahan pengukuran yang harus
memenuhi beberapa asumsi sebagai berikut
Identik memiliki varian yang sama ( Homokedatisitas )
Saling bebas artinya tidak ada korelasi antar residual ( Autokorelasi )
Berdistribusi normal.

b. Uji Model Regresi

Uji model regresi dilakukan dengan dua cara yaitu uji serentak untuk
parameter regresi dan dilanjutkan dengan uji individu masing masing
parameter apabila pernyataan H0 tidak dapat diterima ( ditolak ) pada
uji serentak.

10
1. Uji serentak
H0: β1 = β2 = . . . = βk = 0
H1: paling sedikit (minimal) ada satu βj tidak sama dengan nol, j= 1, 2,. . ,k
α =…..%
Statistik uji yang digunakan adalah statistik uji F dari table ANOVA.
Apabila statistic uji F ( Fhitung > Ftabel ) maka pernyataan H0 tidak dapat
diterima. Berarti ada satu βj tidak sama dengan nol.
Maka uji dilanjutkan ke uji individu
2. Uji individu
H 0 : βj = 0
H 1 : βj ≠ 0 j= 1, 2,. . . ,k
α = ...%
Statistik uji yang digunakan adalah statistik uji t ( thitung), apabila thitung > ttabel
maka pernyataan H0 tidak dapat diterima,artinya parameter βj
secara statistik mempunyai arti terhadap model regresi.

11
3. KOEFISIEN DETERMINASI ( R2 )
a. Untuk mengukur kecocokan/ketepatan suatu garis regresi yang
didapatkan terhadap data pengamatan. Makin besar nilai R2 makin tepat
garis regresi yang diperoleh, sebaliknya makin kecil nilai R2 makin tidak
tepat garis regresi untuk mewakili data pengamatan. Nilai 0 < R2 < 1 atau
0 < R2 < 100%.
b.Untuk mengukur besarnya proporsi ( persentase ) dari jumlah variasi Y
yang dapat diterangkan oleh model regresi. Dengan perkataan lain untuk
mengukur sumbangan (share ) dari variabel bebas X terhadap variasi Y.
Jumlah Kuadrat Re gresi JKR
R2  
Jumlah Kuadrat Total JKT
Rumus : Jumlah Kuadrat Kesalahan
 1
Jumlah Kuadrat Total

12
4. KOEFISIEN KORELASI PARTIAL ( PARTIAL CORRELATION )
Koefisien korelasi partial digunakan untuk mengetahui hubungan antara
dua variabel dimana variabel lainnya yang dianggap berpengaruh
dikendalikan atau dibuat tetap ( sebagai variabel kontrol )

r12.3  koefisien korelasi antara

Y dan X 2 , dengan X 3 kons tan
r12  r13 r23
r12.3 
1  r132 1  r232

13
CONTOH : MENGARTIKAN MODEL REGRESI BERGANDA

Dilakukan suatu penelitian terhadap 10 rumah tangga yang diambil

secara acak di suatu kompleks perumahan tentang konsumsi atas
komoditas tertentu ( dalam satuan ), harga komoditas ( dalam satuan )
dan pendapatan ( dalam satuan ).

Konsumsi = Y ; Harga Komoditas = X1 dan Pendapatan = X2

Konsumsi = f ( harga komoditas, pendapatan ) atau Y = f ( X1 , X2 )

14
Konsumsi Harga Komoditas Pendapatan

6 3 4
9 4 5
9 6 7
10 5 6
10 7 8
14 3 7
7 4 5
10 5 6
5 6 5
4 7 4

15
Hasil Pengolahan dengan SPSS
Plot data

Konsumsi ada hubungan linear dengan pendapatan, konsumsi dengan

komoditas pola tidak jelas, ada hubungan linear antara pendapatan dan
komoditas.
Untuk memperkuat dugaan berdasarkan plot digunakan nilai korelasi
1 16
 Correlations

Konsumsi komoditas pendapatan

Konsumsi Pearson 1 -.354 .766**
Correlation
Sig. (2-tailed) .316 .010

N 10 10 10
komoditas Pearson -.354 1 .223
Correlation
Sig. (2-tailed) .316 .536

N 10 10 10
pendapatan Pearson .766** .223 1
Correlation
Sig. (2-tailed) .010 .536

N 10 10 10
**. Correlation is significant at the 0.01 level (2-tailed).
17
Arti table korelasi diatas :
Korelasi antara konsumsi dan komoditas mempunyai korelasi negatif
dan korelasinya kecil, sedang konsumsi denganpendapatan mempunyai
korelasi positif dan kuat.
Korelasi antara pendapatan dan komoditas mempunyai korelasi positif
tapi korelasinya kecil, sehingga dapat dikatakan tidak terjadi multikolinieritas
dan ini dapat ditunjukkan dengan nilai VIF adalah 1.052 < 5,
sehingga antar variabel bebas tidak ada multikolinieritas.

18
:
Model Summaryb

Adjusted R Std. Error of Durbin-

Model R R Square Square the Estimate Watson
1 .936a .875 .840 1.18179 3.386
a. Predictors: (Constant), pendapatan, komoditas
b. Dependent Variable: Konsumsi
Dari table diatas dapat dijelaskan
H0 :  = 0
H1 : 0
α =1%
nilai DW jika disekitar dua berarti residual tidak terjadi
autokorelasi.Mengingat nilai DW dekat dengan emapt,maka ada
autokorelasi kuat (negatif), jika nilai DW dekat dengan nol, maka
ada autokorelasi kuat (positif). Secara kasar :
0 < DW < 1 ada autokorelasi kuat positif
1,5 < DW < 2,5 tidak ada autokorelasi
3 < DW < 4 ada autokorelasi kuat negatif 19
Jika berdasarkan tabel dengan cara sebagai berikut :
Pernyataan H0 di tolak bila d < dL atau 4 –d < dL ; H0 diterima bila d > dU
dan 4 – d > dU, Sedangkan untuk nilai d lainnya tidak ada keputusan.

Pengujian model regresi dilakukan dengan menggunakan Tabel ANOVA

ANOVAb
Sum of Mean
Model Squares df Square F Sig.
1 Regression 68.624 2 34.312 24.567 .001a
Residual 9.776 7 1.397
Total 78.400 9

a. Predictors: (Constant), pendapatan, komoditas

b. Dependent Variable: Konsumsi

20


b . Dependent Variable: Konsumsi

Uji model regresi:
H 0 : β 1 = β2 = 0

H1 : paling sedikit ada satu βi 0
α = 1%
Dengan menggunakan Hasil Anova diatas
Fhitung = 24.567 dan signifikan dengan α =1% berarti paling
sedikit ada satu βi 0
Uji hipotesis secara individu untuk mengetahui βi 0
Dari hasil table coefficient dibawah ini menguji βi 0
Ternyata hasil uji koefisien untuk komoditas maupun
pendapatan signifikan, jadi model sesuai.

21
 Coefficientsa

Standa
rdized
Unstandardized Coeffic Collinearity
Coefficients ients Correlations Statistics

Std. Zero- Parti Tolera

Model B Error Beta T Sig. order al Part nce VIF
1 (Const 2.684 1.975 1.359 .216
ant)
Komod -1.092 .271 -.552 -4.029 .005 -.354 -.836 -.538 .950 1.052
itas
penda 1.961 .302 .889 6.490 .000 .766 .926 .866 .950 1.052
patan

a. Dependent Variable: Konsumsi

b. Independent variable Komoditas dan Pendapatan.
Dari tabel diatas terlihat nilai VIF > 1, berarti ada indikasi multikolinieritas
antar variabel independen ( komoditas dan pendapatan )
1 22
Dari table diatas nilai koefisien korelasi parsial antara pendapatan
dengan Konsumsi dengan syarat komoditas sudah ada dalam model
sebesar -0.836 berarti mempunyai korelasi negative dan sangat kuat.

Dari tabel diatas nilai koefisien korelasi parsial antara Komopditas

dengan konsumsi dengan syarat pendapatan sudah ada di dalam
model sebesar 0.926 berarti mempunyai korelasi positif
dan sangat kuat.

1 23
 yˆ  2.684  1.092 ko mod itas  1.961 pendapa tan
Persamaan diatas dapat dijelaskan :
 Konstanta 2.684; artinya jika komoditas dan pendapatan nilainya
adalah 0 maka konsumsi ( Y) nilainya adalah 2.684.
 Koefisien komoditas sebesar -1.092 artinya jika pendapatan nilainya
tetap dan komoditas mengalami kenaikan satu satuan, maka
konsumsi akan turun sebesar 1.092 satuan
 Koefisien pendapatan sebesar 1.961 artinya jika komoditas nilainya
tetap dan pendapatan naik satu satuan, maka konsumsi akan naik
sebesar 1.961 satuan

Koefisien bernilai positif artinya terjadi hubungan positif antara pendapatan

dengan konsumsi, semakin naik pendapatan maka semakin meningkat
konsumsinya

24
Gambar Histogram dibawah ini menunjukkan pengujian residual yang
telah dibakukan berdistribusi normal

25
Gambar Normal P-P Plot lebih jelas dibanding gambar Histogram
untuk menunjukkan pengujian residual yang telah di bakukan
berdistribusi normal.

26