Analisis Regresi

Bab 6
 Pendahuluan
• Diperkenalkan pertama kali oleh Sir Francis Galton thn 1886
• Beliau menemukan adanya tendensi bahwa orangtua yg memiliki tubuh tinggi, memiliki anak-anak yg tinggi pula dan
orangtua yang memiliki tubuh yang pendek akan memiliki anak-anak yg pendek pula. Kendati begitu, beliau juga
mengamati bahwa ada kecenderungan tinggi anak bergerak menuju rata-rata tinggi populasi secara keseluruhan. Dengan
kata lain, ketinggian anak yg amat tinggi atau orang tua yg amat pendek cenderung bergerak ke arah rata-rata tinggi
populasi. Inilah yg disebut dgn hukum Galton mengenai regresi universal. Dalam Bahasa Galton, beliau menyebutnya
sebagai regresi menuju mediokritas (Maddala, 1992)
• Interpretasi modern ttg regresi agar berlainan dgn regresi versi Galton. Secara umum, analisis regresi pada dasarnya adalah
studi mengenai ketergantungan variable dependen (terikat) dengan satu atau lebih variable independent (variable
penjelas/bebas) dgn tujuan utk mengestimasi dan/atau memprediksi rata-rata populasi atau nilai rata-rata variable
dependen berdasarkan nilai variable independent yg diketahui (Gujarati, 2003)
• Hasil analisis regresi adalah berupa koefisien utk masing-masing variable independent. Koefisien diperoleh dgn cara
memprediksi nilai variable dapenden dgn suatu persamaan. Koefisien ini dihitung dgn tujuan meminimumkan
penyimpangan antara nilai actual dan nilai estimasi variable dependen berdasarkan data yg ada
 Regresi VS Korelasi
• Analisis korelasi bertujuan utk mengukur kekuatan asosiasi (hubungan) linear antara dua variable.
Korelasi ini tdk menunjukkan hubungan fungsional atau dgn kata lain analisis korelasi tdk
membedakan antara variable dependen dgn variable independent
• Dalam analisis regresi, selain mengukur kekuatan hubungan antara dua variable atau lebih, juga
menunjukkan arah hubungan antara variable dependen dgn variable independent. Variabel dependen
diasumsikan random/stokastik, yg berarti mempunyai distribusi probabilistic. Variabel independent/
bebas diasumsikan memiliki nilai tetap (dalam pengambilan sampel yg berulang)
• Tehnik estimasi variable dependen yg melandasi analisis regresi disebut OLS (ordinary least square)
• Metode OLS pertama kali diperkenalkan oleh Carl Friedrich Gauss, seorang ahli matematika dari
Jerman. Inti metode OLS adalah mengestimasi suatu garis regresi dgn jalan meminimalkan jumlah dari
kuadrat kesalahan setiap observasi thd garis tersebut
 Asumsi OLS

Gujarati (2003) mengemukakan Asumsi utama yg mendasari model regresi linear klasik dgn menggunakan model OLS, yaitu:
1. Model regresi linier, artinya linear dalam parameter seperti dalam persamaan di bawah ini:

2. Nilai X diasumsikan non-stokastik, artinya nilai X dianggap tetap dalam sampel yang berulang
3. Nilai rata-rata kesalahan adalah nol, atau E(ui/Xi)= 0
4. Homokedastisitas, artinya variance kesalahan sama utk setiap periode
5. Tidak ada autokorelasi antar kesalahan
6. Antara ui dan Xi saling bebas, sehingga Cov (ui/Xi) = 0
7. Jumlah observasi, n, harus lebih besar daripada jumlah parameter yg diestimasi (jumlah variable bebas)
8. Adanya variabilitas dalam nilai X, artinya nilai X harus berbeda
9. Model regresi telah dispesifikasi secara benar, dgn kata lain tidak ada bias (kesalahan) spesifikasi dalam model yg digunakan dalam analisis
empiric
10. Tidak ada multikolinearitas yg sempurna antar variable bebas
 Menilai Goodness of Fit suatu Model
• Ketepatan fungsi regresi sampel dalam menaksir nilai actual dapat diukur dari GoF. Secara
statistic, setidaknya ini dapat diukur dari nilai koefisien determinasi, nilai statistic F dan nilai
statistic t. Perhitungan statistic disebut signifikan secara statistic apabila nilai uji statistiknya
berada dalam daerah kritis (daerah dimana Ho ditolak). Sebaliknya disebut tidak signifikan
bila nilai uji statistiknya berada dalam daerah dimana Ho diterima
• Koefisien determinasi : Mengukur seberapa jauh kemampuan model dalam menerangkan
variasi variable independent. Nilai koefisien determinasi adalah antara 0 dan 1. Nilai R 2 yang
kecil berarti kemampuan variable-variable independent dalam menjelaskan variasi variable
dependen amat terbatas. Nilai yg mendekati satu berarti variable-variable independent
memberikan hampir semua informasi yg dibutuhkan utk memprediksi variasi variable
dependen.
 Kelemahan Koefisien Determinasi
• Penggunaan koefisien determinasi adalah bias thd jumlah variable
independent yg dimasukkan ke dalam model. Setiap tambahan satu
variable independent maka R2 pasti meningkat tidak peduli apakah
variable tersebut berpengaruh secara signifikan terhadap variable
dependen. Oleh karena itu, banyak peneliti menganjurkan utk
menggunakan nilai adj R2 pada saat mengevaluasi mana model regresi
terbaik. Tidak seperti R2 , nilai adj R2 dapat naik atau turun apabila satu
variable independent ditambahkan ke dalam model
 Langkah Analisis
• Pilih Analyze kemudian submenu regression, lalu pilih linear
• Tampak di layar windows linear regression
• Pada kotak dependent isikan variable dependennya
• Pada kotak method, pilih Enter
• Abaikan yg lain dan tekan Ok
• Hasil output SPSS