Analisis Regresi

ANALISIS REGRESI
• Melihat ‘pengaruh’ variable bebas/independet variabel/ thd variable
terikat/dependent variabel.
• Berdasarkan jumlah variabel bebas :
Ada 1 vaiabel bebas - regresi sederhana
Ada > 1 variabel bebas - regresi berganda
• Berdasar sifat hubungan kedua variabel :
 Bersifat linier - regresi linier
 Bersifat non-linier - regresi non linier
• Berdasar skala pengukuran variabel bebas dan terikat :
Var. terikat senmua var. bebas interval/rasio - regresi standar
Var. terikat dan sebagian var. bebas interval tapi ada sebagian
var. bebas nomilal/ordinal - regresi dummy
Var. terikat berskala nominal/ordinal - regresi logistik/ordinal
Persamaan Garis Regresi:

Yi   0  1 X 1i   i dalam populasi.

yi  yˆ i  ei  b0  b1 X 1i  ei dalam sample.

yˆ i  b0  b1 X 1i persamaan yang diduga.

ei  yi  yˆ ei adl error atau residual

b1 disebut ‘slope’, koefisien regresi dari X, koefisien kemiringan.

b0 disebut intercept, titik potong terhadap sumbu Y, dugaan Y bila X=0.

Metode Kuadrat terkecil biasa (Ordinary least squares, OLS)

digunakan untuk menduga ‘slope’ (b1) dan ‘intercept’ (b0).

 (Y  Yˆ ) 2
Yi   0  1 X 1i   2 X 2i   i
diminimalkan.
 Regresi Berganda (Multiple Regression)
• Independent variable yang dianalisis lebih dari dua.
• Kegunaan:
 Untuk melihat ‘pengaruh’ lebih dari satu variabel bebas thd
variable terikat sekaligus dlm satu metode analisis.
 Untuk melihat variabel bebas yang lebih berpengaruh thd
variabel terikat .
 Memprediksi nilai ‘variabel terikat’ bila diketahui nilai-nilai
‘variabel bebas’.
• Asumsi antara lain:
 Y (variabel terikat) atau e (residuals) mengikuti sebaran normal.
normal
 Nilai antar variabel terikat saling tidak berkorelasi (tidak terjadi
‘auto correlation’).
correlation
 Keragaman (variation) nilai residual haruslah sama untuk semua
nilai Y (homoscedasticity variance).
variance)
 antar variabel bebas tidak berkorelasi (tidak terjadi multi-
collinearity).
collinearity
 Regression Modeling Steps
• Hypothesize deterministic component
• Estimate unknown model parameters
• Hitung koefisien keterandalan
• Evaluate model and Use model for
prediction and estimation
Langkah 1 Uji Regresi
• Terdiri dari 2 macam hipotesis
Uji model keseluruhan (uji F)
• Menguji apakah model sudah baik
Model Baik
Model Baik

• Uji vaiabel bebas (Uji T)

• Menguji variabel bebas mana yang berpengaruh

• Demikian selanjutnya untuk semua variabel

 Langkah 2, menghitung persamaan regresi

• Rumus untuk menduga persamaan regresi

b1 
   X  Y 
n  X iY i  i i

n X   X 
2 2
i i

b0  Y  b1 X
Langkah 3, Hitung koefisien determinasi
• Koefisien determinasi merupakan ukuran berapa besar variasi
variabel terikat dipengaruhi variabel bebas
• Dihitung dari nilai korelasi yang dikuadratkan
 Kasus: Income Sales Person
• Y adalah income sales person (dalam dolar).
• X1 adalah usia.
• X2 adalah pengalaman kerja.
• X3 adalah jenis kelamin

• Ingin diketahui:
 ‘Pengaruh’ X1, X2 dan X3 thd Y.
 Ingin diketahui antara X1, X2 dg X2 mana yang lebih
dominan ‘berpengaruh’ thd Y.
 Ingin diduga income sales person (Y) jika diketahui usia
(X1), pengalaman kerja (X2) dan jenis kelamin (X3).
 Multiple Regression
Perintah dalam SPSS
• Buka file multiple_reg
• Pada kotak Dependent isikan variabel Income
• Pada kotak Independent isikan variabel Usia, Pengalaman Kerja
dan Jenis Kelamin
• Pada kotak Method, pilih Enter
• Abaikan yang lain dan tekan OK
 Kasus: Multiple Regression, Metode Enter
Konteks penelitian: 11 sales person dipilih secara acak (random), n = 11.

Y = Income sales person (dalam dolar).

X1 = Usia.
R2 adjusted berguna
X2 = Pengalaman kerja. untuk membandingkan
dua persamaan regresi
X3 = Jenis kelamin yg berbeda banyaknya
Model Summary independent variable.
Adjusted R Std. Error of the
Model R R Square Square Estimate
1 .979 a
.959 .941 2758.308
a. Predictors: (Constant), Jenis Kelamin, Pengalaman Kerja, Usia

Multiple Correlation: R2 = 0.959 atau R2 = 95.9%, X1, X2 dan

X3 mampu menjelaskan keragaman Y
Korelasi X1, X2 dan X3 (bersama-
sebanyak 95.9%.
sama) dengan Y sebesar 0.979.
 Lanjutan Kasus: Multiple Regression, Metode Enter
ANOVAb
Model Sum of Squares df Mean Square F Sig.
1 Regression 8.770E8 2 4.385E8 64.105 .000a
Residual 5.472E7 8 6840078.364    
Total 9.317E8 10      
a. Predictors: (Constant), X2 Pengalaman Kerja, X1 Usia    
b. Dependent Variable: Y Income        

Pengaruh model (seluruh independent variables bersama-sama)

thd dependent variable:
Hipotesis:
H0. Dalam populasi tidak ada pengaruh seluruh variabel bebas
thd variabel terikat.
H1. Dalam populasi minimal ada satu variabel bebas berpengaruh
thd variabel terikat.
Bandingkan F hitung dg F Tabel. Jika F hitung > F tabel, maka terima H1.
Bandingkan Sig dg Taraf nyata. Jika Sig < Taraf nyata, maka terima H1.

Karena Sig < taraf nyata maka terima H1. Minimal satu variabel
bebas ‘berpengaruh’ thd variabel terikat. YANG MANA?
 Lanjutan Kasus: Multiple Regression, Metode Enter
ANOVAb
Model Sum of Squares df Mean Square F Sig.
1 Regression 1.242E9 3 4.139E8 54.402 .000a
Residual 5.326E7 7 7608262.177
Total 1.295E9 10
a. Predictors: (Constant), Jenis Kelamin, Pengalaman Kerja, Usia
b. Dependent Variable: Income

Pengaruh model (seluruh independent variables bersama-sama)

thd dependent variable:
Hipotesis:
H0. Dalam populasi tidak ada pengaruh seluruh independent variables
thd dependent variable.
H1. Dalam populasi minimal ada satu independent variable
berpengaruh thd dependent variable.
Bandingkan F hitung dg F Tabel. Jika F hitung > F tabel, maka terima H1.
Bandingkan Sig dg Taraf nyata. Jika Sig < Taraf nyata, maka terima H1.

Karena Sig < taraf nyata maka terima H1. Minimal satu independent
variable ‘berpengaruh’ thd dependent variable. YANG MANA?
Lanjutan Kasus: Multiple Regression, Metode Enter
Coefficientsa

Unstandardized Standardized
Coefficients Coefficients
Model B Std. Error Beta t Sig.
1 (Constant) -9071.764 5331.943 -1.701 .133
Usia 1148.913 204.717 .620 5.612 .001
Pengalaman Kerja 1513.691 650.596 .246 2.327 .053
Jenis Kelamin 5239.227 2826.196 .240 1.854 .106
a. Dependent Variable: Income
Dugaan Persamaan Regresi:
Bandingkan thitung
yˆ i  -9071.764  1148.913X 1i  1513.691X 2i  5239.227 X 3i
dg ttabel, v = n-2-1.
Kalau thitung > ttabel
“Usia” lebih terima H1. Dalam
Jadi dalam populasi: populasi ada
dominan
ada ‘pengaruh’ Usia ‘pengaruh’ X thd Y
dibanding
dan Jenis Kelamin thd
“Pengalaman
income.
Kerja” dan
Tidak ada ‘pengaruh’ “Jenis Jika Sig < taraf nyata
Pengalaman Kerja thd Kelamin” thd maka terima H1.
income. income Dalam populasi ada
‘pengaruh’ X thd Y