PENGANTAR
Regresi dan korelasi digunakan untuk
mempelajari pola dan mengukur hubungan
statistik antara dua atau lebih variabel
Jika hanya digunakan dua variabel disebut
regresi dan korelasi sederhana
Jika digunakan lebih dari dua variabel
disebut regresi dan korelasi berganda.
1
3/13/17
PENGANTAR
Analisis Regresi - analisis statistika yang
memanfaatkan hubungan antara dua
atau lebih peubah kuantitatif sehingga
salah satu peubah dapat diprediksi
apakah dipengaruhi oleh peubah lainnya
Korelasi mengukur (menaksir) keeratan
hub antara dua variabel
PENGANTAR
Variabel yang akan diduga disebut variabel terikat
(tidak bebas) atau dependent variable, biasa
dinyatakan dg variabel Y.
Variabel yang menerangkan perubahan variabel
terikat disebut variabel bebas atau independent
variable, biasa dinyatakan dengan variabel X
Persamaan regresi (penduga / perkiraan / peramalan)
dibentuk untuk menerangkan pola hubungan
variabel-variabel.
Analisis korelasi digunakan untuk mengukur keeratan
hubungan antara variabel-variabel.
2
3/13/17
JENIS DATA
Nominal
Ordinal
Interval
Rasio
LATAR BELAKANG
Sering kali ada lebih dari 1 variabel independen (Xk) yang
menentukan variabel dependen (Y). Sehingga model Regresi
Jamak (Multiple Regression Model) diperlukan. Jikalau hubungan
antara Y dan Xk linear maka model disebut Model Regresi Linear
Jamak (Multiple Linear Regression Model).
yˆ = b0 + b1 x1 + b2 x 2 ++ bk x k
3
€
3/13/17
4
3/13/17
ASUMSI KLASIK
Hasil regresi harus memenuhi asumsi regresi
sehingga nilai estimasi yang diperoleh akan bersifat
BLUE
Best, Linear, Unbiased, Estimator
Asumsi dikembangkan oleh Gauss & Markov, dan
kemudian terkenal sbg Gauss-Markov Theorem
BEST
Hasil regresi dikatakan Best (terbaik) apabila garis
regresi yang dihasilkan guna melakukan estimasi
atau peramalan dari sebaran data, menghasilkan
error yang terkecil.
5
3/13/17
LINEAR
Linear dalam model artinya model yang digunakan
dalam analisis regresi telah sesuai dengan kaidah
model OLS - variabel-variabel penduganya hanya
berpangkat satu.
Linear dalam parameter menjelaskan bahwa
parameter yang dihasilkan merupakan fungsi linear
dari sampel
UNBIASED
Unbiased atau tidak bias, Suatu estimator dikatakan
unbiased jika nilai harapan dari estimator b sama
dengan nilai yang benar dari b.
Artinya, nilai rata-rata b = b. Bila rata-rata b tidak
sama dengan b, maka selisihnya itu disebut
dengan bias.
6
3/13/17
7
3/13/17
8
3/13/17
9
3/13/17
10
3/13/17
11
3/13/17
KURVA NORMAL
Distribusi normal merupakan suatu
kurve berbentuk lonceng.
Penyebab data tidak normal, karena
terdapat nilai ekstrim dalam data seri
yang diambil.
Nilai ektrim adalah nilai yang terlalu
rendah atau terlalu tinggi.
23
1. Kesalahan dalam pengambilan unit sampel.
Solusi: Mengganti unit sampel.
2. Kesalahan dalam menginput data.
Solusi: Memperbaiki input data yang salah.
3. Data memang aneh dibanding lainnya.
Solusi: Menambah jumlah sampel atau
membuang data yang aneh.
24
12
3/13/17
DATA NORMAL
Ekstrim Rendah Ektrim Tinggi
-2,58 0 2,58
Pada α=0,01
-1,96 0 1,96
Pada α=0,05
25
DATA EKSTRIM
Ekstrim Ektrim
Rendah Tinggi
-2,58 0 2,58
xi − x 50.000 − 63.333
Z= = = −0439
δ 31.734
26
13
3/13/17
UJI NORMALITAS
U j i n o r m a l i t a s d i g u n a k a n u n t u k
mengetahui apakah residual
terstandarisasi yang diteliti berdistribusi
normal atau tidak.
27
Uji Normalitas
CARA MENDITEKSI:
1. Dengan gambar:
Jika kurva regression residual
terstandarisasi membentuk gambar
lonceng.
2. Dengan angka:
Uji Liliefors
Chi Kuadrat (X2)
Uji dengan kertas peluang normal
Uji dengan Kolmogornov Smirnov
28
14
3/13/17
Uji Normalitas
Uji normalitas dapat dilakukan secara:
Univariate
Dilakukan dengan menguji normalitas pada
semua variabel yang akan dianalisis.
Multivariate
Dilakukan dengan menguji normalitas pada nilai
residual yang telah distandarisasi.
29
Contoh Kasus
Data time series sbb.
30
15
3/13/17
Manual Liliefors
Buat persamaan regresinya
Mencari nilai Prediksinya
Cari nilai residualnya
Stadarisasi nilai residualnya
Urutkan nilai residual terstandarisasi dari yang
terkecil sampai yang terbesar.
Mencari nila Zr relatif komulatif.
Mencari nila Zt teoritis berdasarkan tabel Z
Mengihitung selisih nilai Zr dengan Zt atau (Zr-
Zt-1) dan diberi simbol Li hitung
Bandingkan nilai Li hitung dengan tabel Liliefors.
Jika Lihitung > L tabel maka data berdistribusi
normal demikian juga sebaliknya. 31
Pengujian Manual
Y =2,553-1,092X1+1,961X2
Ypred =2,553-1,092(2) +1,961(3) = 6,252
Resid = 5-6,252
Zresid = (-1,252—0,002)/1,042 = -1,200
Zr = (1/10) = 0,1, (2/10) = 0,2, dts
Tabel Z cum = 1,20 ditabel Z = 0,885
Luas Z = Karena < 0,5 maka Luas Z = 1-0,858 =0,142
Li = Zt-Zr(t-1) = 0,142-0,10=0,042
32
16
3/13/17
Memunculkan Nilai Residual Terstandarisasi
Buka file : Data_Regresi_1
Analyze → Regression → Linear...
Masukan variabel Y → pada kotak Dependent
X1, X2, → pada kotak Independent
Save…: ⇒ pada kotak Residual : klik Standardized → Continue
(bertujuan untuk membuat variabel / kolom baru pada data yaitu Zre_1 )
Abaikan pilihan yang lain → OK
Uji Kolmogornov Smirnov
Buka file : Data Regresi_1
Analyze → Non Parametrics Test → 1 Sample K-S...
Masukan variabel Standardized Residual pada kotak Test Variable List
Abaikan pilihan yang lain (biarkan pada posisi defaultnya) → OK
33
34
17
3/13/17
Output Kolmogornov
Smirnov
One-Sample Kolmogorov-Smirnov Test
Standardized
Residual
Karena Nilai Sig. > 0,05
N
Normal Parameters a,b Mean 5.960465E-09
10
maka tidak signifikan.
Std. Deviation .8819171
Most Extreme
Differences
Absolute
Positive
.297 Tidak siginifikan berarti
.257
Kolmogorov-Smirnov Z
Negative -.297
.940
data relatif sama dengan
Asymp. Sig. (2-tailed)
a. Test distribution is Normal.
.340 rata-rata sehingga disebut
b. Calculated from data. normal.
35
36
18
3/13/17
UJI MULTIKOLINIERITAS
PENGERTIAN
Uji multikolinieritas berarti terjadi korelasi
yang kuat (hampir sempurna) antar
variabel bebas.
Tepatnya multikolinieritas berkenaan
dengan terdapatnya lebih dari satu
hubungan linier pasti, dan istilah
kolinieritas berkenaan dengan
terdapatnya satu hubungan linier.
37
Uji
Multikolinieritas
PENYEBAB
Karena sifat-sifat yang terkandung dalam
kebanyakan variabel ekonomi berubah bersama-
sama sepanjang waktu.
Besaran-besaran ekonomi dipengaruhi oleh faktor-
faktor yang sama.
38
19
3/13/17
Uji Non-Multikolinieritas
Cara menditeksi:
1. Dengan melihat koefesien korelasi antar
variabel bebas:
Jika koefesien korelasi antar variabel bebas
≥ 0,7 maka terjadi multikolinier.
2. Dengan melihat nilai VIF (Varian Infloating
Factor):
Jika nilai VIF ≤ 10 maka tidak terjadi
multikolinier.
39
Contoh KasusMultikolinieritas
Berikut ini adalah data time series,
Berdasarkan data tersebut ujilah apakah data
tersebut terjadi gejala Multikolikolinier ?.
40
20
3/13/17
Hitung nilai korelasi antar varibel bebas (r)
Kuadratkan nilai korelasi antar variabel
bebas (r2).
Hitung nilai tolenrance (Tol) dengan rumus
(1-r2).
Hitung nilai VIF dengan rumus 1/TOL
Jika VIF < 10, maka tidak terjadi
multikolinier.
41
42
21
3/13/17
43
Output:
44
22
3/13/17
45
UJI NON-HETEROSKEDASTISITAS
PENGERTIAN
Uji heteroskedastisitas berarti adanya varian dalam
model yang tidak sama (konstan).
PENYEBAB
Variabel yang digunakan untuk memprediksi
memiliki nilai yang sangat beragam, sehingga
menghasilkan nilai residu yang tidak konstan.
46
23
3/13/17
Uji Heteroskedastisitas
CARA MENDITEKSI:
1. Dengan Uji Park
Yaitu dengan meregresikan variabel bebas
terhadap nilai log-linier kuadrat.
2. Dengan Uji Glejser
Yaitu dengan meregresikan variabel bebas
terhadap nilai residual mutlaknya.
3. Dengan Uji Korelasi Rank Spearman
Mengkorelasikan nilai residual dengan variabel
bebas dengan menggunakan Rank-spearman.
47
Berdasarkan data tersebut ujilah apakah data
tersebut apakah terjadi gejala Heteroskedastisitas ?
48
24
3/13/17
49
50
25
3/13/17
Pengujian Heteroskedastisitas
Dengan SPSS
Memunculkan Nilai Residual
Buka file : Data_Regresi_1
Analyze → Regression → Linear...
Masukan variabel Y → pada kotak Dependent
X1, X2, → pada kotak Independent
Save…: ⇒ pada kotak Residual : klik unstandardized → Continue
(bertujuan untuk membuat variabel / kolom baru pada data yaitu res_1 )
Abaikan pilihan yang lain → OK
Mutlakan Nilai Residualnya
Buka file : Data Regresi_1
Tranform → Compute
Pada Target Variabel diisi dengan ABRES
Pada Numeric Expresion diisi dengan ABS(RES_1)
Abaikan pilihan yang lain → OK
Meregresikan variabel bebas terhadap Nilai Mutlak Residual
Buka file : Data_Regresi_1
Analyze → Regression → Linear...
Masukan variabel ABRES → pada kotak Dependent
X1, X2, → pada kotak Independent
Abaikan pilihan yang lain → OK
52
26
3/13/17
53
• X1 tidak signifikan karena p-value > 0,05 sehingga X1 tidak terjadi gejala
heteroskedastisitas.
• X2 signifikan karena p-value < 0,05 sehingga X2 terjadi gejala
heteroskedastisitas.
54
27
3/13/17
Tambah jumlah pengamatan.
Tranformasikan data ke bentuk LN atau Log atau
bentuk laiannya.
55
UJI NON-AUTOKORELASI
PENGERTIAN
Uji ini dilakukan untuk mengetahui apakah ada
korelasi antara anggota serangkaian data
observasi yang diuraikan menurut waktu (time
series) atau ruang (cross section).
56
28
3/13/17
Uji Otokorelasi
PENYEBAB:
Adanya kelembaman waktu
Adanya bias spesifikasi model
Manipulasi data
57
Uji Otokorelasi
Uji Durbin Watson
Uji Lagrange Multiplier
Uji Breusch-Godfrey
58
29
3/13/17
Berdasarkan data tersebut ujilah apakah data
tersebut apakah terjadi gejala otokorelasi ?
59
60
30
3/13/17
e = Y-Ypred = 5-6,252=-1,252
e2 = = -1,2522= 1,568
et-1 = e mundur 1peiode
e-et-1 = 0,879-(-1,252) = 2,131
∑ (e − e t −1 )2 33,104
2
(e-et-1) = 2,131 = 4,541 DW = 2
= = 3,386
∑e t
9,777
61
Kriteria Pengujian
1,641
Tabel Durbin Watson
Tanpa
dk =k,n
Tanpa
Kesimpulan
Kesimpulan
K=2 dan n=10
Otokorelas
i+
Tidak ada
Otokorelas dL = 0,697
Otokorelas i–
dL dU 2 4 – dU 4 – dL
0,697 1,641
i
2,359 3,303 dU = 1,641
3,386
4-dU = 2,359
4-dL = 3,303
62
31
3/13/17
Buka file : Data_Regresi_1
Analyze → Regression → Linear...
Masukan variabel Y → pada kotak Dependent
X1, X2, → pada kotak Independent
Klik Statistics…:
Pada Residual pilih Durbin Watson
Klik Continue
Abaikan pilihan yang lain → OK
63
64
32
3/13/17
65
Jika diketahui Junmlah Variabel bebas 3,
pengamatan 20, dan diperoleh nilai durbin watson
sebesar 2,354.
Ujilah apakah terjadi gejala outokorelasi ?
Gunakan gambar untuk menguji !
66
33
3/13/17
UJI LINIERITAS
67
68
34
3/13/17
• Buka file : Data Regresi_1
• Analyze → Regression → Linear...
• Reset..
• Masukan variabel Y → pada kotak Dependent
X1, X2, → pada kotak Independent(s)
• Plots… : ⇒ pada Y : → diisi : ZRESID
X : → diisi : ZPRED → Continue.
• OK
69
Scatterplot
1,0
Dependent Variable: Y
Regression Standardized Residual
,5
0,0
-,5
-1,0
-1,5
-3 -2 -1 0 1 2
70
35
3/13/17
71
36