ANALISIS REGRESI LINIER

R E G R E S I S E D E R H A N A D U A V A R I A B E L ( B I V A R I A T )
R E G R E S I L I N I E R M U L T I V A R I A T ( M A J E M U K )
L I N I E R I T A S
O R D I N A R Y L E A S T S Q U A R E ( O L S )
F U N G S I R E G R E S I P O P U L A S I ( F R P )
F U N G S I R E G R E S I S A M P E L ( F R S )
 Regresi bivariat dan multivariat

 Regresi adalah mengestimrasi dan atau membuat

prediksi dari nilai rata-rata populasi variabel
dependen berdasarkan nilai variabel (variabel-
variabel) independen (penjelas) yang telah
ditentukan nilainya
◦ Regresi bivariat (dua variabel) adalah model regresi
sederhana yang terdiri dari dua variabel dimana variabel
dependen (regresan) berhubungan dengan satu variabel
indepedenden/penjelas (regresor)
◦ Regresi multivariat (majemuk) adalah model regresi yang
terdiri lebih dari dua variabel, dimana variabel dpenden
(regresan) berhubungan dengan lebih dari satu variabel
independen
 ekspektasi

 Ekspektasi non kondisional

◦ Ekspektasi nilai rata-rata dari populasi [E(Y)] yang diperoleh
dengan cara menggabungkan (menambahkan) semua nilai
dari hasil observasi populasi dan membagi dengan
keseluruhan jumlah dari populasinya
 Ekspektasi kondisional
◦ Ekspektasi nilai rata-rata dari populasi [E(Y|X] yang diperoleh
dengan cara menghitung nilai rata-rata dari setiap sub
(kelompok) populasi, sehingga pada pengamatan terhadap
sejumlah populasi akan diperoleh beberapa nilai rata-rata
setiap sub populasinya (ekspektasi nilai Y untuk setiap nilai X)
 linieritas

 Model persamaan matematis yang membentuk

garis fungsi linier
◦  Y = ƒ(X)
◦  Y = β1 + β2X
◦  Y = a + bX
 Linieritas variabel
◦ Hubungan variabel dependen [Y] dengan satu (atau
lebih)variabel independen [X] bersifat geometris dan
membentuk garis linier
 Linieritas parameter
◦ Hubungan variabel dependen [Y] dengan satu (atau lebih)
variabel independen dimana koefisien regresi (slope) garis
regresi bersifat linier
 Garis dan Fungsi regresi populasi

 Garis Regresi Populasi (GRP)

◦ Kurva yang menghubungkan rata-rata nilai dari sub populasi Y
yang terkait dengan nilai tertentu dari regresor (X)
◦ Titik tengah dari rata-rata nilai kondisional variabel (variabel
dependen) untuk setiap nilai tetap dari variabel regresor (variabel
penjelas atau variabel independen)
 Fungsi Regresi Populasi (FRP)
◦ Nilai ekspektasi dari distribusi Y dari Xi yang telah ditetapkan
◦ Fungsi yang berhubungan dengan Xi  ƒ (Xi)
◦ FRP  mengestimasi nilai dari koefisien regresi yang tidak
diketahui berdasarkan observasi terhadap nilai-nilai X dan Y
 Ordinary Least Square (OLS)

 Carl Friedreich Gauss (Matematikawan Jerman)

 Pendekatan estimasi nilai variabel dengan
matematika sederhana
 Estimasi nilai variabel dengan pendekatan kuadrat terkecil
 Ekspektasi nilai suatu variabel dengan tingkat kesalahan
minimum
 Menghasilkan tingkat akurasi ekpektasi dengan
kemungkinan error yang kecil sepanjang kaidah-kaidah
(asumsi dasar) pendekatan OLS dipenuhi
 Syarat estimator dengan OLS

 Karakteristik numerik  data bersifat nukmerik

dengan mengabaikan bagaimana data tersebut
didapatkan
 Karakteristik statistik  estimator OLS berlaku
hanya pada kondisi asumsi tertentu mengenai
bagaimana data didapatkan
 Estimator dinayatakan secara individu sebagi jumlah yang
dapat diobservasi
 Estimator berupa titik (point estimation)
 Dengan menggunakan hasil nilai estimator, maka garis
estimasi dapat digambarkan
 Model regresi

 Linier  Y = β1 + β2X
 Log-linier  ln Y = β1 + β2lnX
 Log-lin  ln Y = β1 + β2X
 Lin-log  Y = β1 + β2lnX
 Reciprocal  Y = β1 + β2(1/X)
 Log-reciprocal  ln Y = β1 - β2(1/X)

 (lihat p. 224 – Gujarati)

 Syarat dasar model regresi parametrik

Normalitas  karakteristik data berdistri-busi normal

Asumsi klasik :
 Autokorelasi  terjadinya korelasi antar data dalam
variabel
 Heteroskedastis  adanya disturbance term yang
tidak konsisten (σ2)
 Multikolinieritas  korelasi diantara variabel bebas
 Model Regresi linier sampel

CLRM (Classical Linier Regression Model)

 Yt = β1 + β2X
 Yt = ekpektasi nilai Y (dependen variabel)
 β1 = koefisien intersep
 β2 = koefisien regresi
 X = independen variabel

 (lihat p. 75 - … Gujarati)
 Reporting regression analysis

 Yt = -0,00144 + 0,7240 Xt
se = (0,9317) (0,700)
t = (- 0,0154) (10,3428)
P = (0,987) (0,000)
r2 = 0,9065
df = 11
F1,11 = 108,30
Signifikansi (kelayakan penggunaan model regresi
sebagai generalisasi populasi)

 Signifikansi model
 Signifikansi regressor
 Signifikansi estimator
 Penerimaan hipotesis
 Nilai alpha

 Nilai signifikansi ( 1 – alpha)

 Nilai probabilitas (P-value)

Signifikansi (kelayakan penggunaan model regresi
sebagai generalisasi populasi (lanjutan …………)

 TSS (total sum square)

 ESS (explained sum square)
 RSS (residual sum square)
 TSS = ESS + RSS
 1 = ESS/TSS + RSS/TSS
 r2 = determinasi = ESS/TSS
 r2 = 1 – RSS/TSS
 (lihat p.96 - …. Gujarati)