ANALISIS REGRESI
LINIER BERGANDA
Ummiy Fauziyah Laili
Prodi Ekonomi Syariah
IAIN Sunan Ampel Surabaya
REGRESI VS KORELASI
• Korelasi mengukur kekuatan asosiasi (hubungan) linier
antara dua variabel, korelasi tidak menunjukkan hubungan
fungsional, korelasi tidak membedakan antara variabel
dependen dan independen
• Regresi mengukur kekuatan asosiasi (hubungan) linier
antara dua variabel atau lebih, menunjukkan arah hubungan
antara variabel dependen dan independen, variabel
dependen diasumsikan random/stochastic yang artinya
mempunyai distribusi yang probabilistik, variabel independen
diasumsikan memiliki nilai tetap (dalam pengambilan sampel
yang berulang)
ANALISIS REGRESI LINIER BERGANDA
PENGERTIAN REGRESI
Analisis Regresi digunakan untuk menyelidiki hubungan antara variabel dependen
(Dependen/respon) Y dengan variabel independen (Independen/variabel
penjelas, prediktor) X.
PENGERTIAN REGRESI LINIER BERGANDA
Analisis Regresi Berganda digunakan untuk menyelidiki hubungan antara variabel
dependen (Dependen) Y dengan beberapa variabel independen (Independen) X1,
X2, …Xn.
TEKNIK ETIMASI VARIABEL DEPENDEN DENGAN OLS
Dengan Ordinary Least Squares (pangkat kuadrat terkecil biasa), yang intinya
mengestimasi suatu garis regresi dengan jalan meminimalkan jumlah dari kuadrat
kesalahan setiap observasi terhadap garis tersebut
Asumsi Ordinary Least Squares
• Hubungan antara prediktor dan kriterium adalah linier Uji Linearitas
Model Regresi Linear, artinya Linear dalam parameter seperti persamaan berikut :
Yi = b1 + b2Xi + ui
• Nilai X diasumsikan non-stochastic, artinya nilai X dianggap tetap dalam sampel yang berualang
• Nilai rata-rata kesalahan adalah nol, atau E(ui/Xi)=0
• Homokedastisitas, artinya variance kesalahan sama untuk setiap periode (homo = sama, skedastisitas =
sebaran), sehingga Var (ui/Xi)=σ2 Uji Heterokesdasitas
• Tidak ada autokorelasi antar kesalahan (antar ui dan uj tidak ada korelasi) sehingga Cov (ui,uj/Xi,Xj)=0
Uji Autokorelasi
• Variabel dependen terdistribusi normal Korelasi antar prediktor yang rendah (tidak Uji Normalitas
• ada multikolinieritas yang sempurna) Uji Multikolinearitas
• Antara ui dan Xi saling bebas, sehingga Cov (ui/Xi) = 0
• Jumlah Observasi, n, harus lebih besar daripada jumlah parameter yang diestimasi (jumlah Variabel
independen)
• Adanya variabilitas dalam nilai X, artinya nilai X harus berbeda
• Model regresi telah dispesifikasi secara benar. Dengan kata lain tidak ada bias (kesalahan) sesifikasi dalam
model yang digunakan dalam analisis empirik
• Jika data prediktor bersifat kualitatif (jender, agama, dsb) maka perlu ditransformasi menjadi variabel
dummy
ASUMSI REGRESI LINIER BERGANDA
• DATA. The dependent and independent variables should be quantitative.
Categorical variables, such as religion, major field of study, or region of
residence, need to be recoded to binary (dummy) variables or other types of
contrast variables.
• ASSUMPTIONS. For each value of the independent variable, the distribution of
the dependent variable must be normal. The variance of the distribution of the
dependent variable should be constant for all values of the independent variable.
The relationship between the dependent variable and each independent variable
should be linear, and all observations should be independent.
Sumber : Manual SPSS 13.0 (2004)
MENILAI GOODNESS OF FIT SUATU
MODEL
PERHITUNGAN STATISTIK DISEBUT SIGNIFIKAN SECRA
STATISTIK APABILA NILAI UJI STATISTIKNYA BERADA
DALAM DAERAH KRITIS (DAERAH TOLAK Ho )
1.Koefisien Determinansi (R2)
2.Uji Statistik F
3.Uji Statistik t
1. Koefisien Determinansi R2
• Mengukur seberapa jauh kemampuan model dalam menerangkan
variasi variabel Y
• 0< R2 <1
• R2 kecil berarti kemampuan variabel-variabel X dalam menjelaskan
variasi variabel Y amat terbatas
• R2 mendekati 1 berarti variabel-variabel X memberikan hampir semua
informasi yang dibutuhkan untuk memprediksi variabel Y
• Kelemahan R2 adalah bias terhadap jumlah variabel X yang dimasukkan
model, setiap penambahan Variabel X maka R2 pasti menigkat tidak
peduli apakah veriabel tersebut berpengaruh signifikan atau tidak,
sehingga dianjurkan menggunakan adjusted R 2 pada saat mengevaluasi
model regresi terbaik, karena adjusted R2 dapat naik atau turun apabila
ada penambahan Variabel X dalam Model
• Jika adjusted R2 bernilai negatif maka bisa dianggap bernilai 0
2. UJI STATISTIK F
• Menguji joint hipotesa bahwa b1, b2 dan b3 secara simultan sama
dengan nol,
Ho : b1=b2=.....=bk=0
Ha : b1≠b2 ≠..... ≠ bk ≠ 0
• Uji signifikansi secara keseluruhan terhadap garis regresi yang
diobservasi maupun estimasi, apakah Y berhubungan Linier terhadap
X1, X2 dan X3
• Kriteria Uji F dengan Quick look : jika F >4 maka Tolak Ho pada =5%
(variabel X secara serentak dan signifikan mempengaruhi Variabel Y)
• Fhitung > Ftabel maka tolak Ho (variabel X secara serentak dan signifikan
mempengaruhi Variabel Y)
2. UJI STATISTIK t
• Menunjukkan seberapa jauh Variabel X secara individual menjelaskan
variasi variabel Y
Ho : b1=0
artinya apakah suatu variabel X bukan merupakan penjelas yang
signifikan terhadap variabel Y
Ha : b1≠ 0
artinya variabel X merupakan penjelas yang signifikan terhadap Variabel
Y
• Kriteria Uji t dengan Quick look : jika df > 20 dengan =5% dan atau t> +2
maka tolak Ho (variabel X secara individu dan signifikan mempengaruhi
Variabel Y)
• thitung > ttabel maka tolak Ho (variabel X secara individual dan signifikan
mempengaruhi Variabel Y)
Persamaan Regresi Linier Berganda
ŷ =a + b1X1 + b2X2 + …. + bnXn + e
Dimana:
Y = Variable Dependen/ Variabel Terikat
a = konstanta Regresi/titik potong sumbu Y(Intercept)
b1 b2 = koefisien regresi/pengaruh
X1X2 = Variable Independen/bebas
e =0
Contoh Regresi Linier Berganda
Sebuah Penelitian tentang “Faktor-Faktor yang mempengaruhi
Pendapatan keluarga (INCOME)” menyatakan sebuah
hipotesis bahwa INCOME(Y) dipengaruhi oleh SIZE (X1),
EARN (X2), WEALTH (X3) dan SAVING (X4)
Contoh Regresi Linier Berganda
X1 = SIZE (jumlah anggota keluarga)
Y
(INCOME)
X2 = EARNS (pinjaman)
X3 = WEALTH (kekayaan)
X4 = SAVING (simpanan)
Contoh Regresi Linier Berganda dengan SPSS
3. Buka file Crossec1
4. Klik analyze
5. Klik regression
6. Klik linear
Contoh Regresi Linier Berganda dengan SPSS
6. klik INCOME (Y) masukkan pada dependent variabel
7. Klik SIZE (X1), EARN (X2), WEALTH (X3) dan SAVING (X4)
masukkan ke independent variabel
8. Oke
Contoh Regresi Linier Berganda dengan SPSS
Analisis Hasil Pengolahan data:
Persamaan regresi yang diperoleh
INCOME = 3,848 - 0,302 SIZE + 0,840 EARNS+ 0,059 WEALTH + 0,009
SAVING + e
•Konstanta 3,848 menyatakan bahwa jika variabel independen
dianggap konstan, maka rata-rata income keluarga sebesar 3,848 ribu
dolar
Note : standardized beta coefficient :
Jika masing-masing koefisien variabel X distandarisasi dulu, maka
nilai koefisiennya juga berbeda karena garis regresi melewati origin
(titik pusat) sehingga tidak ada konstantanya, keuntungannya adalah
mampu mengeliminasi perbedaan unit ukuran pada variabel
independen, jika ukuran variabel X berbeda (ada kg, Rp, liter dll),
maka sebaiknya menggunakan standardized beta coef
• EARNS 0,840 menyatakan bahwa setiap penambahan gaji kepala
keluarga (EARNS) sebesar 1000 dolar maka akan meningkatkan
INCOME keluarga sebesar 840 dolar
• WEALTH 0,059 menyatakan bahwa setiap penambahan kekayaan
keluarga (WEALTH) SEBESAR 1000 Dolar maka akan
meningkatkan INCOME keluarga sebesar 59 dolar
Contoh Regresi Linier Berganda dengan SPSS
SIGNIFIKANKAH
PERSAMAAN
DIATAS ?
Uji F (Uji Serentak)
Ho : 1 =2 =3 =4 (Tidak ada pengaruh secara serempak variabel x terhadap variabel Y)
H1 : 1 ≠2 ≠3 ≠4 (ada pengaruh secara serempak variabel x terhadap variabel Y)
Karena nilai sig < atau (0,000 < 0,05) maka tolak Ho
Sehingga :
Model regresi dapat digunakan untuk memprediksi INCOME (Y),
Atau SIZE, EARNS,WEALTH dan SAVING secara bersama-sama berpengaruh terhadap
INCOME
Uji T (Uji Parsial)
Untuk variabel X1 :
Ho : 1 = 0 (Tidak ada pengaruh antara variabel x1 terhadap variabel Y)
H1 : 1 ≠ 0 (ada pengaruh antara variabel x1 terhadap variabel Y)
Untuk Variabel yang lain - nya menyesuaikan
vARIABEL NILAI SIG (P-VALUE) Keputusan ( = 5%) Artinya
SIZE 0,075 Terima Ho Tidak berpengaruh
EARNS 0,000 Tolak Ho Berpengaruh
WEALTH 0,003 Tolak Ho Berpengaruh
SAVING 0,892 Terima Ho Tidak Berpengaruh
Contoh Regresi Linier Berganda dengan SPSS
Analisis Hasil Pengolahan data:
Koefisien Determinansi (R2 atau R square) nilainya 0,814 artinya Kemampuan
model dalam menerangkan variabel Y adalah sebesar 81,4 %
Adjusted R2 sebesar 0,807 artinya 80,7% variasi INCOME dapat dijelaskan oleh
variasi keempat variabel independen, sedangkan sisanya (100% - 80,7 % = 19,3 % )
dijelaskan oleh sebab-sebab lain diluar model.
Standar Error of Estimate (SEE) sebesar 2,45627 ribu dolar, makin kecil nilai SSE
akan membuat model regresi semakin tepat dalam memprediksi variabel Y
Sedangkan Korelasi (R) nilainya 0,902 berarti hubungan antara variabel X dengan
Variabel Y dapat dikatakan hubungan yang kuat atau erat karena nilainya
mendekati 1
Pertanyaan besar
Ternyata Ada Variabel
yang tidak signifikan,
Bagaimana ?
Pertanyaan besar
Kenapa ada variabel
yang tidak signifikan
padahal R tinggi ?
2
Kemungkinan
Ada 3 kemungkinan
1.Variabel yang tidak signifikan memang tidak
menyumbangkan informasi tentang Y
2.Ada Multikolinearitas (perlu uji Multiko)
3.Oto Korelasi
Akan dibahas pada uji asumsi klasik
LATIHAN REGRESI LINIER BERGANDA
Faktor-faktor apa yang mempengaruhi nilai suatu merk (Y)pada setiap
orang ?
Menurut agen ternama Young and Rubicam Ada empat faktor , yaitu :
1.Diferensiasi (X1)
2.Relevansi (X2)
3.Kebanggaan (X3)
4.Pengetahuan Tentang merk (X4)
No Y X1 X2 X3 X4
responden
1 550 5 5 3 4
2 275 3 5 3 4
3 350 4 5 3 3
4 410 4 5 3 3
5 520 5 6 4 4
6 210 2 2 3 3
7 110 2 3 3 3
8 544 5 6 3 3
9 325 3 3 4 3
10 625 6 6 3 4
LATIHAN REGRESI LINIER BERGANDA
Pertanyaan :
1. Bagaimana persamaan regresinya secara lengkap?
Jelaskan
2. Signifikankah semua Variabelnya?
3. Bagaimana kesimpulan Uji serempak (overall)nya?
4. Bagaimana kesimpulan Uji Parsiallnya ?
5. Adakah Multikolinearitas?
6. Bagaimana cara mengatasi Multikolinearitas?
7. Bagaimana persamaan regresi terbaiknya jika
menggunakan Stepwise regression?