MODUL 2

REGRESI LINEAR SEDERHANA

Regresi merupakan alat analisis dalam ekonometrika dan merupakan studi bagaiamna
satu variabel dependen dipengaruhi oleh satu variabel independen. Tujuannya adalah untuk
memprediksi nilai variabel dependen berdasarkan satu atau lebih variabel nidependen. Berikut
ini adalah persamaan dari regresi :

Persamaan regresi tersebut menjelaskan hubungan antara variabel X dengan variabel Y. Tanda
hat (^) biasanya digunakan untuk menggambarkan bahwa variabel tersebut merupakan prediksi
atau estimasi dari vartiabel yang sebenarnya. Perbedaan antara dat aaktual dengan nilai
prediksinya disebut dengan residual atau e hat (lihat persamaan). Jika nilai prediksi lebih besar
dari nilai aktualnya maka prediksinya overestimate yang menghasilkan nilai residual positif,
sedangankan sebaliknya underestimate yang menghasilkan nilai residual negative.

a. Metode Ordinary Least Square (OLS)

Tujuannya adalah untuk mendapatkan jumlah residual yang sekecil mungkin. Atau

mendapatkan nilai Y hat atau sedekat mungkin dengan data aktualnya (Y). Metode ini
meminimumkan jumlah residual kuadrat karena nilai residual terkadang bisa positif maupun
negative, jika hanya hanya menjumlahkan jumlah residual kemungkinan hanya akan
menghasilkan nilai 0, olehkarena itu metode ini dikuadrtakan.

b. Asumsi OLS
Asumsi ini berkaitan dengan persamaan diatas
1. Hubungan antara Y dan X adalah linear dalam parameter.
2. Variabel X adalah variabel tidak acak atau tidak random. Jika variabel independennya
lebih dari satu maka diasumsikan tidak ada hubungan linear antara variabel independen
atau tidak ada multikolinearitas yang sempurna anatara satu variabel independen dengan
independen lainnhya.
 3. Nilai rata-rat adari error adalah Nol.

4. Varian dari error adalah sama (homoskedastis)

5. Tidak ada serial korelasi antara error atau error tidak saling berhubungan.

6. Variabel error berdistribusi normal

Asumsi 1 – 5 dikenal dengan model regresi linear klasik.

c. Estimator yang BLUE

Ada tiga kriteria kebaikan estimator sehingga bisa digunakan untuk membuat keputusan
tentang parameter populasi yaitu :
1. Tidak bias (Unbiasedness)

adalah tidak bias, jika adalah bias

2. Konsisten

Jika nilai statistic cenderung sama dengan parameter populasi ketika jumlah
sampel terus bertambah.
3. Efisien
Jika estimator mempunyai deviasi standar atau standar error yang lebih kecil didalam
populasi yang sama.
REGRESI LINEAR BERGANDA

Regresi berganda adalah regresi yang terdiri dari lebih satu variabel inependen. Bentuk umum
dari regresi berganda dapt dituliskan sebagai berikut :

Dimana :

- Y adalah variabel dependen

- X1 dan X2 adalah variable independen
- e adalah variabel gangguan
- i adalah observasi ke-i yang menunjukan observasi untuk data cross section, jika time
series maka t yang menunjukan waktu
- β0 adalah intersep/ slope/ kemiringan
- β1 dan β2 adalah koefisien regresi parsial

Jika regresi berganda memenuhi OLS (yang dipelajari dalam regresi sederhana), maka
persamaan dan cara memngartikan niai dari koefisien berbeda, misalkan dalam persamaan
berikut:

Artinya : nilai harapaan atau rata-rata dari Y pada nilai tertentu variabel indepnden X1 dan X2.
Cara mengartikan β1 dan β2 agak berbeda, yakni

- β1 mengukur perubahan rata-rata Y atau nilai harapan E(Y|X1, X2), terhadap perubahan
per unit X1 dengan asumsi X2 tetap.
- β2 mengukur perbedaan rata-rata Y atau nilai harapan E(Y|X1, X2), terhadap perubahan
per unit X2 dengan asumsi X1 tetap.

Dalam regresi berganda ini tidak boleh ada adanya hubungan antara variabel independen yakni
X1 dan X2 atau yang disebut dengan multikolinearitas.
a. Koefisien Determinan (R2) dan Koefisien Determinan yang Disesuaikan
Jika semua data terletak pada garis regresi atau dengan kata lain semua nilai residual nol
maka kita mempunyai garis regresi yang sempurna. Namun hal ini jarang terjadi karena e
(error) bernilai bisa positif maupun negative. Jika dijumlahkan maka nilai e besar, dalam
hal ini mencari nilai e sekecil mungkin. R 2 adalah alat untuk mengukur seberapa baik
regresi cocok dengan datanya atau mengukur persentasi total variasi Y yang dijelaskan
oleh regresi melalui variabel independen yang ada.

TSS = ESS + SSR

Maka R2 = ESS/TSS atau TSS – SSR /TSS atau 1-ESS/TSS
nilai dari R2 adalah 0 ≤ R2 ≤1
Semakain angka dari R2 mendekati 1 maka semakin baik garis regresi karena mampu
menjelaskan data aktualnya. Semakin mendekati angka nol maka garis regresi kurang
baik, karena kurang mampu menejlaskan data aktualnya.

Persoalan dlam penggunaan R2 adalah nilainya selalu naik ketika menambah variabel
independen X dalam model walaupun penambahan X tersebut tidak atas pembenaran dari
teori ekonomi. Maka darai itu dikembangkan lah adjusted R2 sehingga lebih terpercaya
nilai dari regresi tersebut.

Lambang adjusted R2 =

Contoh cara pembacaan :

Misalkan, Y adalah jumlah permintaan barang, X adalah harga.

Jika nilai β1 = -2 pembacaannya adalah jika penurunan harga (karena nilai β1 negatif)
sebesar 1 unit maka permintaan barang akan naik (karena Y positif) 2 unit, dengan
asumsi variabel independen yang lain konstan. Dan seterusnya untuk variabel independen
yang lain.
 Jika nilai β0 = 0.356 pembacaanya adalah permintaan barang sebesar 0.356 ketika harga
barang adalah 0 (namun di ekonomi ini tidak rasional, hanya misal).

Variabel Dummy

Regresi terkadang karena menyesuaikan kebutuhan untuk estimasi dan peramalan terkadang
terdapat variabel kualitatif. Namun, supaya bisa diestimasi maka variabel kualitatif tersebut
harus dikuantitatifkan. Karena variabel kualitatif tersebut berarti tidak adanya sebua atribut.
Salah satu metodenya adalah dengan cara membentuk variabel yang kualtatif tersebut menajadi
variabel dummy dengan mangambil nilai 1 atau 0. Angka 1 menunjukan adanya atribut,
sedangkan 0 menunjukan tidak adanya atribut.

Regresi dengan variabel dummy

a. Regresi variabel kualitatif dengan dua kategori

Misal,

Dimana:

Y = rata rata produksi per hektar

X1i = rata rata penggunaan pupuk per hektar

D1 = 1 jika lokasi di pulau jawa, 0 jika lokasi diluar jawa

Maka persamaannya menjadi :

 Dari kedua persamaan tersebut menunjuka bahwa jka memasukkan variabel independen
kualitatif maka akan menyebabkan produksi dijawa dan luar jawa konstanta atau slope
atau intersepnya berbeda.

b. Regresi variabel kualitatif dengan lebih dari dua kelas

Misal, Dalam hal tingkat pendidikan pekerja dapat dikategorikan menjadi tingkat
pendidikan SMA, diploma, dan sarja (S1). Kita akan memberi contoh variabel kualitatif
dengan lebih dari dua kelas pada gaji karyawan. Apakah tingkat pendidikan
memepengaruhi gaji karyawan. Kita mempunyai tiga atribut untuk variabel kualitatif,
sehingga berdasarkan aturannya maka hanya membutuhkan 2 variabel dummy untuk
membentuk model regresi.

Dimana :
Y = gaji karyawan
X = masa kerja karyawan
D1 = 1 jika diploma dan 0 tidak
D2 = 1 jika sarjana, dan 0 jika tidak
Maka persamaan dapat diintrepretasika sebagai berikut :

Dalam hal ini kelompok kategori dasar atau pembanding adalah karyawan dengan
pendidikan SMA sehingga β0 merupakan intersep atau karyawn SMA. β2 dan β3
 menunjukan berapa besar perbedaan intersep karyawan dengan pendidikan diploma dan
karyawan dengan pendidikan sarjana dibandingkan dengan karyawan SMA.

Aturan Penggunaan Teknik Variabel Dummy

1. Kalau variabel kualitatif ada dua kelas maka hanya digunakan 1 variabel dummy, karena
satu variabel dummy sudah mampu membedekan dua atribut (n-1).
2. Nilai 1 dan 0 pada variabel dummy bersifat manasuka atau arbiter. Maksutnya
bergantung pada kita menandai nilai 1 dan 0 (biasanya diberikan keterangan).
3. Kelompok atau kategori dalam variabel dummy yang bernilai 0 merupakn kategori dasar
sebagai kelompok pengontrol (β0)
4. Koefisisen β2 pada variabel dummy disebut koefisien intersep pembeda karena ini
menunjukan berapa besar perbedan intersep yang bernilai 1 dengan intersep dari
kelompok pengontrol. (lihat contoh produksi padi)

Cara pembacaan variabel dummy :

Yi = 0.456 + 0.34X1i + 0.76Di + e

Dimana:

Y = rata rata produksi per hektar

X1i = rata rata penggunaan pupuk per hektar

D1 = 1 jika lokasi di pulau jawa, 0 jika lokasi diluar jawa

Maka :

0.456 = rata-rata produksi pupuk sebesarr 0.456 unit (disesuaikan dengan besaran yg dipaakai)
ketika diasumsikan variabel lain 0

0.34X1 = kenaikan 1 unit (disesuaikan dengan besaran yang digunakan jika pakia kg berarti 1
kg) pada rata rata penggunaan pupuk akan meningkatkan rata-rata produksi sebesar 0.34 unit

0.46 Di = rata-rata produksi pupuk di luar jawa (dibaca yang 1) lebih besar 0.76 unit dibanding
dengan prod di jawa (dibandingkan dengan 0 )

Contoh perhitungan:
Misal :

X1 = 15, maka hitunglah untuk ketika D=1 dan 0

D=1 maka Y=0.456 + 0.34(15) +0,46(1) = 6.016

D=0 maka Y= 0.456 + 0.34(15) +0,46(0) = 5.556