MODEL REGRESI LINEAR SEDERHANA

Model
Model regresi linear sederhana dapat digunakan untuk
memodelkan atau menguji hubungan satu arah dari dua
variabel ekonomi. Misalnya: hubungan antara konsumsi dan
pendapatan, hubungan antara suku bunga dan harga saham,
hubungan antara kurs dan neraca perdagangan, hubungan
antara pengeluaran iklan terhadap pendapatan beberapa
perusahaan. Secara teori, hubungan-hubungan tersebut
bersifat satu arah dari variabel indipenden (suku bunga,
kurs, pengeluaran iklan) ke variabel dependent (harga
saham, neraca perdagangan, pendapatan perusahaan)
sehingga, secara kausalitas, hubungan tersebut menjelaskan
pengaruh variabel indipenden terhadap variabel dependen.

Bentuk
  persamaan regresi linear sederhana adalah
, (1)
=variabel indipenden
=variabel dependen
=error (atau residual)
danparameter regresi dimana disebut juga intersept,
dan koefisien regresi (variabel )
Asumsi-asumsi

1.   Sebanyak n observasi veriabel independent adalah
bilangan konstan (fixed).
2. Mean error adalah 0, atau
3. Error adalah homokedastik, atau memiliki varians
konstan, atau konstan
4. Error dan (tidak saling berkorelasi (indipenden),
atau
5. Parameter-parameter dan dipersamaan (1) dan
standar deviasi adalah konstanta yang tidak
diketahui.

6.   Persamaan (1) adalah linear dalam parameter, jadi
nilai-nilai tergantung dari nilai parameter-
parameter, sehingga berdasarkan asumsi (1) sampai
(4), maka
,

7. Error berdistribusi normal dan indipenden , atau ).

Berdasarkan asumsi (1) sampai dengan (7), maka
)
Estimasi parameter-parameter
  
Dengan menggunakan asumsi-asumsi residual maupun
model, maka parameter-parameter persamaan regresi
dapat diestimasi dengan menggunakan metode kuadrat
terkecil (ordinary least square= OLS) menggunakan
konsep kalkulus diferensial, yakni dengan cara
meminimumkan fungsi:

Yang memenuhi kedua diferensial parsial , dan

sehingga diperoleh
 

dimana
(rata-rata hitung x)
(rata-rata hitung y)

Hasil estimasi parameter –parameter yang diperoleh

dengan metode OLS adalah hasil estimasi yang tidak
bias
 Selanjutnya varians error (residual) persamaan regresi
yang tak bias adalah

Varians kesalahan estimator adalah

, dan
Varians kesalahan estimator adalah
Pengujian Hipotesis
Hipotesis adalah suatu asumsi yang harus diuji
untuk menentukan hubungan antara dua set data.
Pengujian hipotesis adalah tindakan dalam
statistik/ekonometrik di mana seorang analis
menguji asumsi tentang parameter populasi.
Metodologi yang digunakan oleh analis tergantung
pada sifat data yang digunakan dan alasan analisis.
Pengujian hipotesis digunakan untuk
menyimpulkan hasil hipotesis yang dilakukan pada
data sampel dari populasi.

Ada
  2 jenis hipotesis yakni hipotesis nol () dan hipotesis
alternatif ( atau ). adalah suatu pernyataan nilai yang mana
peneliti tidak harapkan, sedangkan adalah suatu pernyataan
nilai yang mana peneliti harapkan.
Contoh:rumusan hipotesis
1. lawan
2. lawan
3. lawan
Contoh (1) dan (2) digunakan untuk uji hipotesis satu
sisi (kiri dan kanan), sedangkan contoh (3) digunakan
untuk uji hipotesis dua sisi.
 Ada dua jenis kesalahan dalam pengujian hipotesis,
yakni kesalahan tipe I, dan kesalahan tipe II.
Kesalahan tipe I adalah suatu kesalahan penolakan
yang benar. Sementara itu, kesalahan tipe II adalah
suatu kesalahan karena penerimaan yang salah.
Statistik uji
, k=1, 2 (2)
disebut derjat bebas
Bilangan 2 pada persamaan (1) menunjukkan jumlah
parameter regresi, dan n jumlah pasangan data
(observasi)
Daerah penerimaan dan penolokan H0
 
Uji sisi kanan, =taraf signifikansi, nilai t kritik

Tolak H0
Terima H0

 
: Tolak H0 jika
Daerah penerimaan dan penolokan H0
Uji sisi kiri

Tolak H0

Terima H0

 
: Tolak H0 jika
Daerah penerimaan dan penolokan H0
Uji dua sisi

Terima H0
Tolak H0 Tolak H0

 
: Tolak H0 jika
Pendekatan p-value
p-value singkatan dari probability value (nilai
peluang/probabilitas). P-value akan tergantung dari
hipotesis alternatif.
 Pada uji sisi kanan, yakni jika :
p-value adalah nilai
probabilitas bahwa nilai t sama
dengan atau lebih besar dari
nilai statistik uji t sebagaimana
ditunjukkan oleh Gambar
Kriteria uji: terima (tolak ) jika
p-value ( tingkat signifikansi
1%, 5% atau 10%)
Koefisien korelasi dan determinasi
 Rumus koefisien korelasi antara variabel indipenden
x, dan variabel dependen y adalah

Nilai menunjukkan keeratan hubungan antara x dan

y
Koefisien determinasi ( model regresi sederhana
digunakan untuk menjelaskan kontribusi (proporsi
variasi) variabel indipenden (x) terhadap variabel
dependen (y) yakni sebesar dimana . Selanjutnya,
ditentukan oleh variabel lain di luar model. biasa
disebut juga ukuran goodness-of-fit. Dalam regresi
linear sederhana berlau =.
 𝑦= 𝛽1 + 𝛽2 𝑥
 ^

 
= -)+() (3)
   kedua sisi persamaan (3) dikuadratkan dan
Bila
dimanupulasi secara aljabar di dapat persamaan
(4)
Jika =total jumlah kuadrat (SST),
=jumlah kuadrat regresi (SSR), dan
=jumlah kuadrat error (SSE), maka (4) menjadi

Koefisien determinasi didefenisikan dengan

Contoh 1.

Tabel berikut merupakan output Eviews10 tentang hasil

estimasi persamaan regresi linear sederhana antara
pengeluaran iklan dan pendapatan 21 perusahaan di
Amerika Serikat, tahun 1983. Variabel dependen adalah
pendapatan (INC) dan variabel indipenden adalah
pengeluaran iklan (IKL), dan konstanta (intercept)
adalah C (lihat tabel)
Catatan : tipe data adalah cross-section

Berdasarkan
  uji statistik-t dengan kriteria uji p-value diperoleh
bahwa baik intercept maupun koefisien variabel IKL signifikan.
Jadi, ada pengaruh pengeluaran iklan terhadap pendapatan
perusahaan. Persamaan regresi adalah
(5)
Koefisien determinasi Jadi kontribusi variabel pengeluaran
iklan (IKL) tehadap pendapatan perusahaan (INC) adalah
42,3961%. Setiap kenaikan 1 satuan pengeluaran iklan,
pendapatan naik sebesar 0,363174.

Catatan: Simpulan di atas akan valid, jika model (5) memenuhi

asumsi klasik (autokorelasi, homokedastis, dan normalitas)
Contoh 2.


Tabel
  berikut merupakan ouput Eviews-10 tentang
estimasi persamaan regresi linear sederhana antara kurs
IDR/USD (EXC) dan neraca perdagangan Indonesia
Januari 2006 hingga Juni 2019 (tipe data adalah time
series). Intercep C dan koefisien EXC signifikan.
Persamaan regresi linear sederhana adalah
(6)
Model (6) akan valid, jika memenuhi asumsi klasik
Reference
Hill, R. C., Griffiths, W, E and Lim, G, C. (2018).
Principles of Econometrics (5th Ed.). Hoboken, NJ :
John Wiley and Son Inc