EKONOMETRIKA

Ordinary Least Square (OLS)

Dr. Ir. Cungki Kusdardjito, M.P

Candarisma Dhanes Noor Viana, S.P., M.Sc
Pendahuluan
  = + +  FRP
 = + +  FRS
Ordinary Least Suqares (OLS)
  
Persoalan penting ketika membuat regresi sampel yaitu bagaimana
caranya kita mendapatkan garis regresi yang baik. Garis regresi
sampel yang baik terjadi jika nilai prediksinya sedekat mungkin
dengan data aktualnya atau dapat juga dikatakan bahwa kita mencari
nilai dan yang menyebabkan residual sekecil mungkin. Perbedaan
nilai actual dengan nilai prediksi disebut residual.
Ordinary Least Suqares (OLS)
 Untuk
  memperoleh FRS (suatu penaksir FRP yang sebenarnya), analisis yang
sering digunakan yaitu metode kuadrat terkecil biasa (ordinary least squares
atau OLS)
 = + +  FRP
 = + +  FRS
 = actual - ramalan
 = -
 = - - … persamaan 1
Ordinary Least Suqares (OLS)
  = - - … persamaan 1  menunjukkan bahwa residu benar-benar
merupakan selisih antara nilai Y actual dengan nilai Y yang ditaksir
 Cara terbaik untuk menaksir FRP yaitu dengan memilih nilai dan
(penaksir dari dan ) sehingga mendapatkan nilai residu sekecil mungkin
 Metode kuadrat terkecil biasa (OLS) menyatakan bahwa dan harus
dipilih sedemikian rupa sehingga jumlah kuadrat residu (RSS)
mempunyai nilai sekecil mungkin
Ordinary Least Suqares (OLS)
  ==  RSS
 =+ Persamaan Normal
 =+
 = -  penaksir dari titik potong populasi (penaksir OLS)
 = = =  penaksir dari titik potong populasi (penaksir OLS)
 , huruf kecil menyatkan standar deviasi dari nilai rata-rata sampel
Ordinary Least Suqares (OLS)
  Beberapa hal yang dapat diperhatikan dari penaksir OLS yaitu :
1. FRS yang diperoleh dengan metode OLS melewati nilai rata-rata
sampel X dan Y, sehingga FRS ditulis dengan persamaan sebagai
berikut :
=+
2. Nilai rata-rata residu = , nilainya = 0, hal ini menunjukkan
ketepatan perhitungan secara aritmatika
Ordinary Least Suqares (OLS)
3.   Jumlah hasil kali antara residu e dan nilai-nilai variable penjelas X
adalah nol, sehingga kedua variable tersebut tidak berkorelasi ,
secara matematis dapat ditulis sebagai berikut : = 0
4. Jumlah hasil kali antara residu dan (= )yang ditaksir adalah nol,
sehingga = 0
Model Regresi Linear Klasik(MRLK)
Asumsi-asumsi pada model regresi linear klasik :
 
1. Model regresi berbentuk linear dari segi parameter
2. Variabel penjelas X tidak berkorelasi dengan faktor gangguan acak u. Variabel penjelas
X bersifat nonstokhastik (nilainya merupakan angka yang telah ditentukan sebelumnya)
3. Dengan nilai tertentu, nilai rata-rata atau nilai harapan dari faktor gangguan acak u
adalah nol
E= 0
Asumsi ini menyatakan bahwa faktor-faktor lain tidak berkorelasi dengan (variable yang
dimasukkan secara eksplisit ke dalam model) sehingga dengan nilai tertentu, maka nilai rata-
rata dari faktor lain adalah nol
Model Regresi Linear Klasik(MRLK)
 
4. Varians dari masing-masing adalah konstan atau homoskedastis (homo
artinya sama dan skedastis artinya varians) atau dengan kata lain
homoskedastis artinya variansnya sama
var () =
5. Tidak ada korelasi antara dua faktor kesalahan acak. Asumsi ini menyatakan
bahwa tidak ada otokorelasi artinya faktor kesalahan bersifat acak
kov (, ) = 0 , i≠j dimana kov artinya kovarians dan i,j adalah kesalahan
acak
Model Regresi Linear Klasik(MRLK)
6.   Model regresi ditentukan secara tepat. Sebagai alternatif, tidak
ada bias spesifikasi atau kesalahan spesifikasi pada model
yang digunakan dalam analisis empiris
7. Dalam FRP = + + , faktor kesalahan mengikuti distribusi
normal dengan rata-rata sebesar nol dan varians
N(0, )
Varians dan Kesalahan Standar dari
Penaksir OLS
 Salah satu konsekuensi langsung dari asumsi-asumsi Model Regresi
Linear Klasik (MRLK) yaitu memungkinkan kita untuk menaksir varians
dan kesalahan standar dari penaksir kuadrat terkecil biasa (OLS).
 Penaksir OLS merupakan variable acak karena nilainya akan berubah-
ubah dari sampel satu ke sampel lainnya, sehingga penaksir-penaksir
tersebut bervariasi dari satu sampel ke sampel lainnya.
 Variabilitas penarikan sampel ini diukur dengan varians dari penaksir-
penaksir ini atau dengan kesalahan standar (se)nya.
Varians dan Kesalahan Standar dari
Penaksir OLS
 Varians
  dan kesalahan standar dari penaksir OLS dapat dihitung
dengan rumus sebagai berikut :
var () = =
 
Keterangan
var = varians
se () = Se = kesalahan standar
= varians dari faktor
gangguan acak

var () = =
se () =
Varians dan Kesalahan Standar dari
Penaksir OLS
 homoskedastis ditaksir berdasarkan rumus berikut :
 
 =  
Semakin kecil nilai maka nilai taksiran dari model regresi
akan semakin mendekati nilai Y yang sebenarnya
 =

 Keterangan :
= penaksir dari
= jumlah kuadrat residu (RSS) yaitu jumlah dari
selisih kuadrat antara Y actual dengan Y taksiran
n-2 = derajat kebebasan (df)
Sifat-sifat dari Penaksir OLS
Teorema Gauss-Markov
Berdasarkan asumsi-asumsi dari model regresi linear klasik, penaksir
OLS memiliki varians yang terendah diantara penaksir-penaksir
linear lainnya. Dalam hal ini penaksir OLS disebut sebagai penaksir
tak bias linear terbaik (best linear unbiased estimators atau BLUE)
Sifat-sifat dari Penaksir OLS
 Sifat-sifat
  penaksir OLS yaitu BLUE:
1. dan merupakan penaksir linear
2. Kedua penaksir tersebut tidak bias,
E( = dan E( =
3. E( ) = , varians kesalahan dari penaksir OLS tidak bias. Dalam penerapan yang dilakukan secara
berulang-ulang, secara rata-rata nilai taksiran dari varians kesalahan akan tepat sama dengan nilai
varians yang sebenarnya. Diharapkan pula varians nya minimum (best)
4. dan merupakan penaksir yang efisien, dalam hal ini var () lebih kecil daripada varians penaksir tak
bias linear lainnya untuk dan var () lebih kecil daripada varians penaksir tak bias linear lainnya untuk
Penaksir yang tidak bias dengan varian minimum disebut dengan penaksir yang efisien
 
Koefisien Determinasi
Menerangkan seberapa banyak variasi pada variabel tak bebas Y dipengaruhi oleh variasi pada
variabel bebas X. Atau dengan kata lain, kita ingin mengetahui seberapa baik garis regresi sesuai
(fits) dengan data yang ada
Semakin tinggi nilai R2 yang diperoleh, semakin baik garis regresi yang diperoleh.
Untuk menghitung R2 ditentukan dengan:

Dalam bentuk simpangannya :

 
Koefisien Determinasi
 
Koefisien Determinasi
Hubungan antara TSS, ESS dan RSS
Hubungan antara TSS, ESS dan RSS
 Hubungan antara TSS, ESS dan RSS

TSS = ESS +RSS

 
Koefisien Determinasi
Nilai goodness of fit R2 ditentukan oleh:
 
Koefisien Determinasi
 
Koefisien Determinasi
R2 disebut juga sebagai koefisien determinasi (coefficient of determination), dan R2 paling sering
dipergunakan untuk mengukur ketepatan garis regresi yang diperoleh, yaitu seberapa jauh nilai
variabel tak bebas Y dapat diterangkan oleh variabel bebas X.

R2 mengukur persentase/proporsi total variasi Y yang dapat diterangkan oleh model

regresi

nilai R2 adalah non-negatif dan besarnya adalah 0 ≤ R2 ≤ 1

 
Koefisien Determinasi
Ringkasan beberapa bentuk rumus R2
Koefisien Korelasi r
Akar kuadrat dari R2 adalah koefisien korelasi r. Koefisien korelasi mengukur derajat
asosiasi linier antara dua variable
Estimasi Interval dan Uji Hipotesis
 Estimasi
  interval dinyatakan

 Interval semacam ini disebut sebagai selang kepercayaan (confidence interval)

 1 – a disebut sebagai koefisien kepercayaan (confidence coefficient). 1- a kadang dinyatakan dalam

persen

 a, dimana 0 < a < 1 disebut sebagai tingkat kepercayaan (level of significance)

 batas-batas interval dinamakan sebagai nilai kritis, (critical values), atau disebut juga sebagai
confidence limit (batas kepercayaan). disebut sebagai batas bawah nilai kritis (lower confidence
limit), sedangkan disebut sebagai batas atas nilai kritis (upper confidence limit)
Estimasi Interval dan Uji Hipotesis
  interval disebut juga sebagai estimator interval
 Nilai


 Jika a = 0.05 (=5%) maka dapat diinterpretasikan sebagai probabilitas (random) dalam interval yang kita tetapkan akan
terdapat nilai adalah sebesar (atau 95 persen

 Beberapa hal yang perlu diperhatikan :

1. Interval di atas tidak menujukkan bahwa probabilitas terletak di dalam suatu interval adalah 95 persen, tetapi interval di
atas menyatakan bahwa dengan metode yang kita gunakan, berdasarkan nilai interval yang diperoleh maka probabilitas
akan terdapat nilai dalam interval tersebut adalah sebesar 95 persen.

2. Interval di atas bersifat acak (random), sehingga akan berbeda dari contoh (sampel) yang satu dengan contoh
(sampel) yang lainnya. Karena bersifat acak (random), maka harus diinterpretasikan bahwa dalam jangka panjang
rata-rata interval tersebut akan terdapat nilai yang sebenarnya

3. Dalam suatu sampel (contoh) yang tertentu, tidak bersifat acak (random)
Selang Kepercayaan (Confidence Interval)

 Selang
  Kepercayaan untuk b2
Hitung nilai t hitung untuk b2 dengan rumus :

se(b2) = =
Selang Kepercayaan (Confidence Interval)

 nilai
  t hitung mengikuti distribusi t dengan derajat bebas n – 2, sehingga
selang kepercayaan untuk b2, yaitu:

Pr (-ta/2 £ t £ ta/2) = 1 – a

Pr

Pr

dalam persen
Selang Kepercayaan (Confidence Interval)

 Selang
  Kepercayaan untuk b1

dalam persen
Selang Kepercayaan (Confidence Interval)

  
Contoh:

b2 = 0.5091

se(b2) = 0.0357

df = 8

asumsikan bahwa a = 5%, yaitu koefisien kepercayaan = 95%

t tabel untuk df = 8, ta/2 = t0.025 = 2.306

Sehingga

 0.5091 ± 2.306(0.0357)

 0.5091 ± 0.0823

 0.4268 £ £ 0.5914
Uji Hipotesis
   b2 adalah 0.0591, misalkan kita ingin menghipotesakan apakah (pada contoh)
Nilai

H0 : = 0.3 hipotesa nol

H1 : .3 (2 ujung) hipotesa alternatif

Kita tahu bahwa selang kepercayaan adalah 0.4268 £ £ 0.5914, dimana dalam jangka panjang
interval tersebut akan memuat nilai yang sesungguhnya untuk a = 0.05. Karena = 0.3 (H0)
terletak diluar interval tersebut, maka tolak H0.
Uji Hipotesis
   menguji hipotesis kita gunakan:
Untuk

b2* adalah nilai b2 untuk hipotesis nol (H0)

Dalam prakteknya, kita mempergunakan nilai H 0: b2* = 0, yang berarti menguji apakah nilai parameter b2
=0
Uji Hipotesis
  t hitung dapat dicari dengan:
Nilai

1 ujung (one-tailed)

2 ujung (two-tailed)
 CONTOH SOAL DAN
PENYELESAIANNYA ADA
DI FILE PDF
Silahkan dipelajari sambil mengerjakan tugas berikut !
Daftar Pustaka
 Gujarati, D.N. 2007. Dasar-Dasar Ekonometrika. Erlangga
 Widarjono, A. 2013. Edisi Ke-4. Ekonometrika Pengantar dan
Aplikasinya. UPP STIM YKPN
TERIMAKASIH