ANALISIS
REGRESI &
KORELASI
Dalam kehidupan sehari-hari, seringkali
dijumpai hubungan antara suatu variabel
dengan satu atau lebih variabel lain.
Contoh:
* Dosis dan jenis pupuk yang diberikan
berhubungan dengan hasil pertanian
yang diperoleh.
* Jumlah pakan yang diberikan pada
ternak berhubungan dengan berat
badannya,
* Dan sebagainya
Ide dasar analisis regresi :
Dikenalkan oleh Sir Francis Galton
Ada kecenderungan bhw ortu yg tinggi akan
memiliki anak yg tinggi dan sebaliknya.
Ada kecenderungan tinggi anak bergerak
menuju rata-rata tinggi populasi.
Galton menyebut : Regresi menuju mediokritas
(regression toward mediocrity)
Regresi modern :
Studi mengenai ketergantungan 1 variabel
dependen dengan 1 atau lebih variabel
independen, dengan tujuan untuk
mengestimasi dan atau memprediksi rata-rata
populasi atau nilai rata-rata variabel dependen
berdasarkan nilai variabel independen yang
diketahui.
Hasil analisis adalah koefisien regresi untuk
masing-masing variabel independen.
Hubungan Statistik vs
Deterministik
Analisis regresi hanya menitik beratkan pada
hubungan statistik.
Hubungan Statistik pada dasarnya menggunakan
variabel stokastik (random), yaitu variabel yang
memiliki distribusi probabilitas.
Hubungan Deterministik bukan merupakan
hubungan statistik karena bersifat eksak.
Jika regresi diterapkan pd model dengan
hubungan deterministik, akibatnya model akan
menderita gejala “Multikolineariti” yang
mendekati sempurna.
Macam hubungan antara
2 atau lebih variabel :
Keeratan hubungan Korelasi
Bentuk hubungan Regresi
Regresi vs Korelasi
Analisis Korelasi :
► Bertujuan unt mengukur kekuatan
asosiasi (hubungan) linier antara dua
variabel.
► Tidak menunjukkan hub. Fungsional.
► Tidak membedakan variabel dependen dan
variabel independen.
Analisis Regresi :
► Mengukur kekuatan hubungan antar variabel
► Menunjukkan arah hubungan antara variabel
independen dengan variabel dependen.
KORELASI
Koefisien Korelasi Pearson
(Product Moment Coefficient)
n XY - X Y
r
n X2
- X n Y - Y
2 2 2
Pengelompokan Regresi :
Regresi Linier Sederhana
Regresi Linier Berganda
Regresi Non Linier
Regresi dengan Variabel Dummy
Regresi Logistik
Regresi Simultan
• REGRESI LINIER SEDERHANA
Regresi Linier dengan :
# 1 variabel dependen
# 1 variabel independen
Contoh:
X Y
1 1.3
2 3.5
3 4.2
4 5.0
5 7.0
6 8.8
7 10.1
8 12.5
9 13.0
10 15.6
AnalisisRegresi mendasarkan pada model
probabilistik, yang terdiri atas komponen
deterministik dan kesalahan random.
Y = b0 + b1 X +
Y : variabel dependen
X : variabel independen
b0 : intersep (konstanta)
b1 : slope (koefisien regresi)
: komponen kesalahan random (error)
E(Y) = b0 + b1 X = komponen
deterministik
Metode Kuadrat Terkecil
Biasa (OLS)
Diperkenalkan oleh : Carl Friedrich Gauss
Digunakan unt mengestimasi garis regresi dgn jalan
meminimalkan jumlah dari kuadrat kesalahan setiap
observasi thd garis tersebut.
n
SEE
i 1
(Y i - Ŷ i ) 2
Tujuan utamanya mengestimasi fungsi regresi
populasi berdasarkan fungsi regresi sampel.
E (Y/X i ) β 0 β1 X i
Y - Ŷ Y - a - b X
2 2
e
Q
= - 2 (Y - a - b X) = 0 Y - a.n - b X = 0
a
Q
= - 2 (Y - a - b X) (X) = 0 XY - a X - b X2 = 0
b
a.n + b X = Y Persamaan Normal I
a X + b X2 = XY Persamaan Normal II
X Y
XY - n XY - nXY
b
X - X X
2 2
- nX
a Y - bX
• REGRESI LINIER BERGANDA
Regresi Linier dengan :
# 1 variabel dependen
# Lebih dari 1 variabel independen
Y = a + b1 X1 + b2 X2 + e
Persamaan Normal :
I Y = n.a + b1 X1 + b2 X2
II YX1 = a X1 + b1 (X1)2 + b2 X1X2
III YX2 = a X2 + b1 X1X2 + b2 (X2)2
Statistik dalam Regresi Linear :
R2 = koefisien determinasi
R2 menunjukkan besarnya sumbangan variabel
bebas terhadap variasi tidak bebas.
R2 adjusted = R2 yang disesuaikan dengan
banyaknya variabel bebas (k) dan banyaknya
observasi elemen sampel (n).
R2 adjusted dapat digunakan untuk
membandingkan 2 regresi berganda dengan Y yang
sama, tetapi banyaknya variabel bebas tidak sama.
Uji F (Uji Simultan)
Hipotesis yang digunakan adalah :
H0 : Semua variabel bebas secara bersama-sama
tidak mempengaruhi variabel tidak bebas (Y)
H1 : Semua variabel bebas secara bersama-sama
mempengaruhi variabel tidak bebas (Y) atau
paling tidak ada 1 variabel bebas yang
mempengaruhi variabel tidak bebas (Y).
Kriteria uji F H0 ditolak jika F hitung ≤ F tabel
H0 diterima jika F hitung > F tabel.
Tabel ANOVA
Sumber Variasi JK db KT F hitung F tabel
Regresi JKR k–1 KTR = KTR/KTG F( ; v1 ; v2)
JKR/(k – 1)
Galat JKG n–k KTG =
JKG/(n – k)
Total JKT n–1
Uji t (Uji parsial)
Hipotesis yang digunakan adalah :
H0 : i = 0 Variabel bebas Xi tidak berpengaruh
terhadap variabel tdk bebas (Y)
H1 : i ≠ 0 Variabel bebas Xi berpengaruh
terhadap variabel tdk bebas (Y)
Kriteria uji t H0 ditolak jika t hitung ≤ t tabel
H0 diterima jika t hitung > t tabel.
bi
t hitung =
Se(bi )
S
Se(bi )
{( X i2 ) (n)( X i ) 2 }{(1 (r1( 2 ) ) 2 }
S = KTG
n( X 1 X 2 ) ( X 1 )( X 2 )
r1( 2 )
n( X 1
2
) ( X 1 ) 2 n( X 2
2 ) ( X 2 ) 2
UJI ASUMSI KLASIK :
(Khususnya untuk masalah ekonomitri)
• Autokorelasi
• Multikolineariti
• Heteroskedastisitas
Uji Autokorelasi
• Bertujuan menguji apakah dalam model regresi
linier ada korelasi antara kesalahan pengganggu
(error) pada periode t dengan error pada periode
sebelumnya.
• Diuji dengan Uji Durbin-Watson (DW test)
• Nilai DW hitung dibandingkan dengan DW tabel
• Secara umum, tidak ada korelasi jika
DW hitung ± 2
Uji Multikolineariti
• Bertujuan menguji apakah dalam model regresi linier ada
korelasi antar variabel bebas
• Dideteksi dengan :
* Nilai R2 tinggi, tetapi banyak variabel yang
tidak signifikan.
* Dilihat nilai Tolerance dan atau VIF (Variance
inflation factor)nya
Jika tolerance > 0,1 bebas multikolineariti
Jika VIF < 10 bebas multikolineariti
Cara mengobati :
1. Transformasi variabel dlm bentuk log atau ln, dsb.
2. Mengeluarkan 1 atau lebih variabel bebas yang mempunyai
korelasi tinggi
3. Gunakan metode analisis regresi lain.
4. Atau yang lain.
Uji Heteroskedastisitas
• Bertujuan menguji apakah dalam model regresi
linier terjadi ketidaksamaan variance dari residual
1 pengamatan ke pengamatan yang lain.
• Dideteksi dengan :
* Melihat plot antara prediksi variabel terikat
dengan residualnya.
* Uji Park : ln e2 = a + bi ln Xi
* Uji Glejser : |e| = a + bi Xi
* Uji White : e2 = a + bi Xi + bj Xj2
Cara mengobati :
1. Melakukan transformasi bentuk model,
misalnya membagi regresi dengan salah satu
variabel bebasnya.
2. Melakukan transformasi log.
Regresi Dengan Variabel Dummy
Kita bisa menggunakan variabel bebas dengan skala
ukuran non metrik.
Caranya dengan menempatkan variabel tersebut sebagai
variabel dummy.
Koefisien regresi dari variabel dummy ini bukan
menjelaskan pengaruh variabel dummy terhadap variabel
Y , tetapi akan menjelaskan perbedaan dari variabel tidak
bebas berdasarkan kategori dalam variabel dummy
tersebut
Jika variabel dummy berkategiri n, maka digunakan
sebanyak (n-1) variabel dummy.
Masing variabel dummy diberi nilai 0 atau 1.
Model regresi dengan variabel dummy 2 kategori,
ditulis dengan :
Y=+D+e
Model regresi dengan 1 variabel bebas dan variabel
dummy 2 kategori, ditulis dengan :
Y=+X+D+e
Model regresi dengan k variabel bebas dan variabel
dummy 2 kategori ditulis dengan :
Y = + 1 X1 + 2 X2 + ……….. + k Xk + D + e
Model regresi dengan 1 variabel bebas dan variabel
dummy 3 kategori, ditulis dengan :
Y = + X + ………….. + 1 D1 + 2 D2 + e
Model regresi dengan k variabel bebas dan variabel
dummy 3 kategori ditulis dengan :
Y = + 1 X1 + 2 X2 + ……….. + k Xk + 1 D1 +
2 D2 + e
Contoh variabel dummy 3 kategori
Misalnya :
Pekerjaan : Petani, Pedagang, Pegawai
* Dummy D1
D1 = 1 jika Petani
D1 = 0 jika yang lain
* Dummy D2
D2 = 1 jika pedagang
D2 = 0 jika yang lain
Contoh variabel dummy 3 kategori
Pekerjaan : Petani, Pedagang, Pegawai
Nilai variabel Nilai Variabel
Pekerjaan dummy D2 dummy D1
Petani 1 0
Pedagang 0 1
Pegawai 0 0
