Analisis Regresi Berganda

& Pengujian Asumsi OLS

Aloysius Deno Hervino
adhervino@gmail.com

Analisis Regresi
Adakalanya model regresi sederhana tidak mencerminkan
kondisi perilaku variabel ekonomi yang sebenarnya.
Analisis regresi hanya bisa dilakukan terhadap suatu
fungsi.
Syarat Fungsi:
Persamaan
DV di kiri dan IV di kanan
Tidak bisa dibolak-balik
Hubungan tingkah laku, bukan hubungan pasti
(identitas)
Pengaruh IV terhadap DV harus memiliki landasan teori
[ekonomi].

Lanjut
Properti Fungsi:
Intersep; Autonomous; Konstanta.
Parameter; Koefisien; Slope.
Average; Marginal; Elastisitas.

Prosedur Analisis Regresi

1. Menetapkan Model Ekonomi
Y = f (X1, X2, X3, , )

2. Menetapkan Hipotesa dan Menyusun

Landasan Teori Hipotesa
One tailH0 : i = 0 ; HA : i > 0 atau i < 0
Two tail H0 : i = 0 ; HA : i 0

3. Mencari Data
Data Primer
Data Sekunder

Prosedur Analisis Regresi

4. Membuat Scatter Plot
5. Memilih Model Regresi
Model Linier
Model Non Linier [log-log; log-lin; linlog]

6. Melakukan Regresi
7. [Uji Asumsi Klasik] Intepretasi Hasil
dan Uji Diagnostik

Membuat Scatter Plot dan Memilih Model Regresi

DV

DV

(1)

IV

(2)

IV

Gambar (1): Lebih tepat menggunakan model regresi non-linier

Gambar (2): Lebih tepat menggunakan model regresi linier
Dari Scatter Plot dapat terdeteksi kebutuhan akan Dummy Independent
Variable

Analisis Regresi
Metode estimasi koef. Regresi menggunakan OLS
(BLUE), syaratnya:
Hubungan Y dan X adalah linier [parameter]
Nilai X tetap untuk observasi yang berulang-ulang
(non-stokastik).
Tidak ada korelasi antar variabel bebas (multikol)
Nilai harapan atau rata-rata dari variabel
gangguan (e) adalah nol.
Varian dari variabel gangguan adalah sama
(homo).
Tidak ada korelasi antar variabel gangguan
(korelasi serial = autokorelasi).
Variabel gangguan berdistribusi normal.

Lanjut
Model Umum
Yi/t = b0 + b1 X1i/t + b2 X2i/t + + bk Xki/t + ei/t
b0 intesep
bk parameter
Yi/t DV
Xki/t IV
ei/t variabel gangguan/error term
i/t Individu/Waktu

Lanjut
Mengartikan b1 dan b2 dalam model
regresi berganda:
b1 mengukur perubahan rata-rata Y
terhadap perubahan per unit X1 ,
sementara X2 diasumsikan tetap. Hal
yang sama untuk b2.
Jika modelnya non linier misalnya
model non linier log-log, maka
intepretasi dari masing-masing
parameter regresinya adalah
elastisitas.

Lanjut
Pengujian yang diperlukan:
Uji t Koef. Regresi Parsial
Koef. Determinasi yang disesuaikan (tidak
terkait banyaknya variabel independen).
Uji Hipotesis Koef. Regresi secara Menyeluruh
(Uji F).
Uji Asumsi OLS/Klasik (multikolinieritas,
heteroskedastisitas, otokorelasi, dan
normalitas).
Uji Perubahan Struktural Model Regresi (Uji
Chow).
Uji Stabilitas Model (CUSUM dan CUSUMQ).
Uji validitas model (Ramsey Reset Test)

CARA MEMBACA NILAI-NILAI STATISTIK DALAM REGRESI

Nilai t-statistik:

Hipotesa satu arah

Hipotesa positif
H0 = nol

Hipotesa negatif
H0 = nol

Ha > nol

Ha < nol

t-stat > t-tabel : H0 ditolak

t-stat < t-tabel : H0 ditolak

t-stat < t-tabel : H0 diterima

t-stat > t-tabel : H0 diterima

Hipotesa dua arah

H0 = 0

|t-stat| >|t-tabel| : H0 ditolak

Ha 0

|t-stat| <|t-tabel| : H0 diterima

Nilai F-statistik:
Jika nilai F-stat > F-tabel : Semua variabel
independen memiliki joint impact terhadap
variabel dependen
Nilai R2 :
Jika R2 = a artinya semua variabel independen
yang ada dalam model dapat menerangkan
(a*100) persen variasi dari variabel dependen

Pengujian Asumsi OLS

Multikolinieritas
Deteksi
Nilai R2 tinggi namun hanya sedikit variabel
independen yang signifikan.
Korelasi parsial antar variabel independen.
Regresi Auxiliary Membuat regresi antar
variabel independen.
Metode Klien
Membandingkan nilai R2 regresi auxiliary dengan R2
regresi awal.
Rule of thumb-nya, jika R2 Auxiliary > R2 awal
mengandung unsur multikol, dan sebaliknya.

Lanjut
Penyembuhan
Doing nothing
BLUE tidak asumsi tidak adanya multikolinieritas
Adanya multiko akan berdampak sulitnya
memperoleh standar error yang kecil.

Doing something
Menghilangkan variabel independen yang
memiliki korelasi yang kuat.
Transformasi variabel
Bentuk diferensi pertama kelemahannya
mungkin terjadi korelasi serial (otokorelasi)
Melanggar asumsi OLS.
Penambahan Data

Lanjut
Heteroskedastisitas
Deteksi
Informal
Pola residual (Homo = tidak pasti; Hetero =
tertentu)

Formal

Metode
Metode
Metode
Metode
Metode
Metode

Park
Glejser
Korelasi Spearman
GoldFeld-Quandt
Breusch-Pagan
White

Lanjut
Metode Park
Hetero muncul karena residual tergantung
dari variabel independen.
Prosedur:
Estimasi regresi awal, lalu perolah residualnya.
Estimasi regresi antara residual kuadrat dengan
variabel independen.
Jika variabel independen signifikan, maka
mengandung heteroskedastisitas.

Lanjut
Metode Glejser
Hetero karena varian variabel gangguan
nilainya tergantung dari variabel
independen.
Prosedur:
Regresikan nilai absolut variabel gangguan
dengan variabel independen.
Indikator simpulan sama dengan Park

Lanjut
Metode Korelasi Spearman
Prosedur:
Peroleh residual dari estimasi model awal.
Absolutkan nilai residualnya, lalu diurutkan.
Lakukan hal yang sama untuk variabel X.
Cari korelasi antara keduanya.
Gunakan uji t Jika t hitung > t tabel, maka
terdapat heteroskedastisitas.

Lanjut
Metode GoldFeld-Quandt
Memperbaiki kelemahan Park dan Glejser
Hetero varian variabel gangguan merupakan fungsi
positif dari variabel independen.
Prosedur:

Urutkan data sesuai dengan nilai X (kecil besar)

Hilangkan observasi yang ditengah.
Membagi data yang tersisa (n c)
Buat regresi pada masing-masing kelompok secara
terpisah [(n c)/2].
Peroleh nilai RSS1 dan RSS2.
Hitung rasionya [(RSS2/df)/(RSS1/df)] bandingkan
dengan F tabel.

Lanjut
Autokorelasi
Adanya autokorelasi dalam regresi maka
estimator
Metode OLS masih linier
Metode OLS masih tidak bias
Metode OLS tidak memiliki varian yang
minimum lagi.
Menyebabkan perhitungan standard error tidak
bisa dipercaya.
Uji t dan F tidak bisa digunakan sebagai evaluasi
hasil regresi.

Lanjut
Deteksi
Metode Durbin-Watson (DW)
du = < d <= (4-du)

Metode Breusch-Godfrey
LM-test

Penyembuhan
Nilai rho atau koef. Model AR(1) diketahui.
Nilai rho tidak diketahui namun bisa dicari
melalui estimasi.

Lanjut
Nilai rho diketahui
Transformasi persamaan metode generalized
difference equation.
Prosedur:
Model awal dan residual mengikuti pola AR(1).
Buat persamaan dengan lag satu dari model
regresi awal.
Kalikan kedua sisi dengan rho yang diperoleh
dari pers. AR(1)
Kurangi pers. Awal dengan pers. tadi.

Lanjut
Nilai rho tidak diketahui
Estimasi nilai rho
Metode Diferensi Tingkat Pertama R2 > d
Berenblutt-Webb.
Statistik d Durbin Watson
Metode 2 langkah Durbin
Metode Cochrane-Orcutt