ANALISIS REGRESI LINEAR

Reza Mubarak, M.Si.

Korelasi
• Bertujuan untuk mengukur TINGKAT KEERATAN hubungan LINIEAR
antara DUA buah variabel.
• Ukuran tingkat keeratan tersebut dinamakan KOEFISIEN KORELASI
(rho=𝜌).
Regresi
• Definisi:
Suatu analisis yang bertujuan untuk menunjukkan HUBUNGAN
secara matematis antara VARIABEL DEPENDEN/RESPON dengan
VARIABEL INDEPENDEN/PENJELAS.
• Tujuan regresi adalah mendapatkan KOEFISIEN dari variabel
independen/penjelas.
Korelasi vs Regresi
• Perbedaan Korelasi dan Regresi.
• Korelasi:
1. Hanya dua variabel yang dibandingkan
2. Variabel dianggap variabel random (acak)
• Regresi:
1. Variabel independen/penjelas bisa lebih dari satu.
2. Variabel dependen dianggap variabel random, sedangkan variabel
independen dianggap variabel fixed (non-stokastik).
Analisis Regresi
• Regresi antara SATU variabel DEPENDEN (Y) dengan p variabel
INDEPENDEN (X).

𝑌 = 𝛽0 + 𝛽1 𝑋1 + 𝛽2 𝑋2 + ⋯ + 𝛽𝑝 𝑋𝑝 + 𝜀
Estimasi Parameter Regresi
• Estimasi parameter regresi yang paling umum digunakan adalah
Ordinary Least Square (OLS)
• Di dalam software statistika, misal SPSS, secara default juga
menggunakan OLS.
Cara Mendapatkan 𝛽0 dan 𝛽1
X hanya 1 Variabel

(σ 𝑥)(σ 𝑦)
σ 𝑥𝑦 − σ(𝑥 − 𝑥)(𝑦
ҧ − 𝑦)
ത
𝛽1 = 𝑛 =
σ 𝑥 2 σ (𝑥 − 𝑥)
ҧ 2
σ 𝑥2 −
𝑛

σ𝑦 (σ 𝑥)
𝛽0 = 𝑦ത − 𝛽1 𝑥ҧ = − 𝛽1
𝑛 𝑛
X sebanyak 2 Variabel
𝑻 −𝟏 𝑻
𝜷= 𝑿 𝑿 𝑿 𝒀
Keterangan:

1 x1,1 x2,1   y1,1 

𝛽0 1 x y 
x2,2 
𝜷 = 𝛽1 , X = 1,2
, Y =  1,2 
𝛽2    
   
1 x1,n x2,n   y1,n 
 Ukuran Kebaikan Model Regresi
• Secara statistika, terdapat tiga ukuran dalam menilai kebaikan model
regresi, yaitu:
1. Koefisien Determinasi (R2)
2. Pengujian Hipotesis, yaitu:
a) Pengujian Koefisien secara Serentak (Uji F)
b) Pengujian Koefisien secara Individu (Uji t)
Koefisien Determinasi 2
(R )
• R2 digunakan untuk mengetahui dan mengukur seberapa jauh
KEMAMPUAN MODEL dalam MENERANGKAN VARIASI variabel
dependen.
• Semakin BESAR nilai R2 (mendekati 1), maka model yang dibentuk
oleh variabel-variabel independen SEMAKIN BAIK, begitu juga
sebaliknya.
• Nilai 0 < R2 < 1.
Pengujian Hipotesis

Uji Uji
Serentak Individu
(Uji F) (Uji t)
 Uji F
• Untuk menguji apakah SEMUA VARIABEL INDEPENDEN yang dimasukkan ke
dalam model mempunyai PENGARUH secara BERSAMA-SAMA.
• Rumusan Hipotesis
❑Hipotesis Awal (H0) : 𝛽1 = 𝛽2 = ⋯ = 𝛽𝑝 = 0
❑Hipotesis Alternatif (H1) : Minimal ada satu 𝛽𝑖 ≠ 0
dimana 𝑖 = 1,2, … , 𝑝
❑ Statistik Uji : Uji F
❑ Keputusan : H0 ditolak jika Fhitung > Ftabel atau Sig. < 𝛼.
Ftabel = 𝐹𝛼(𝑣1,𝑣2) dimana 𝛼=0.05 , v1=p , v2=n-p-1 , n=banyaknya data
Fhitung= nilai F pada output SPSS.
Cara membaca Tabel F • Misal, Banyaknya data (n) = 20,
Banyaknya X (p) = 2, α = 0.05
• Sehingga, v1 = p = 2,
v2 = n – p – 1= 20-2-1= 17
• Maka, Ftabel = 𝐹𝛼(𝑣1 ,𝑣2 ) = F0.05(2,17) = 3.59
 Uji t
• Untuk menguji SETIAP VARIABEL INDEPENDEN yang dimasukkan ke dalam
model mempunyai PENGARUH per INDIVIDU.
• Rumusan Hipotesis
❑Hipotesis Awal (H0) : 𝛽𝑖 = 0
❑Hipotesis Alternatif (H1) : 𝛽𝑖 ≠ 0 dimana 𝑖 = 1,2, … , 𝑝
❑Statistik Uji : Uji t
❑Keputusan : H0 ditolak jika 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 > ttabel atau Sig. < 𝛼.
ttabel = 𝑡(𝛼,𝑛−𝑝) dimana 𝛼=0.05 , n=banyaknya data
2
thitung= nilai t pada output SPSS.
Cara membaca Tabel t • Misal, Banyaknya data (n) = 20,
Banyaknya X (p) = 2, α = 0.05
• Sehingga, α/2 = 0.05/2 = 0.025,
v = n – p = 20-2= 18
• Maka, ttabel = 𝑡(𝛼/2,𝑣) = t0.025,18 = 2.101
Contoh Soal
Misal, ada data dengan X sebanyak 1 variabel

No Tahun X Y
1 1982 3081.1 4620.3
2 1983 3240.6 4803.7
3 1984 3407.6 5140.1
4 1985 3566.5 5323.5
5 1986 3708.7 5487.7
6 1987 3822.3 5649.5
7 1988 3972.7 5865.2
8 1989 4064.6 6062.0
Input Data
Ada beberapa cara input data ke SPSS
• Copy Paste dari excel → caranya seperti disini
• Input Langsung ke SPSS
Analisis Regresi
• Setelah data diinput seperti di slide sebelumnya, maka lakukan
analisis regresi
• Cara analisis regresi dengan menggunakan SPSS serta mendapatkan
outputnya dapat dilihat disini
Output
Uji F dan t dari Contoh Soal
Uji F
H0: 𝛽1 = 0
H1: Minimal ada satu 𝛽𝑖 ≠ 0 dimana 𝑖 = 1
Statistik Uji : Uji F
H0 ditolak jika Fhitung > Ftabel atau Sig. < 𝛼
Dari output didapatkan Sig. = 0.000 dengan α = 0.05
Keputusan: Tolak H0 karena Sig. < 0.05 sehingga minimal ada satu variabel
independen yang berpengaruh signifikan terhadap variabel dependen

Uji t
H0: 𝛽1 = 0
H1: 𝛽1 ≠ 0
Statistik Uji : Uji t
H0 ditolak jika 𝑡ℎ𝑖𝑡𝑢𝑛𝑔 > ttabel atau Sig. < 𝛼
Dari output didapatkan Sig. = 0.000 dengan α = 0.05
Keputusan: Tolak H0 karena Sig. < 0.05 sehingga variabel independen yang
berpengaruh signifikan terhadap variabel dependen
Kebaikan Model
• Untuk melihat apakah model regresi
yang terbentuk sudah baik atau tidak
dengan melihat Koefisien Determinasi
(R2)
• Dari output dapat dilihat nilai R2=99.5%,
yang berarti Model Sangat Baik dalam
MENERANGKAN VARIASI variabel
dependen karena diatas 75%
• R2 < 50% → Model Kurang Baik
50 % < R2 < 75% → Model Cukup Baik
R2 > 75% → Model Sangat Baik
Model Regresi Linear Sederhana
• Setelah di Uji F dan Uji t, maka dapat
dibentuk model regresi linear, yaitu:
Y = 205,43 + 1,431 X1 + e
Asumsi Klasik Regresi Linier
• Tidak terjadi multikolinieritas (antar variabel tidak berkorelasi
tinggi/sempurna)
• Homoskedastisitas (Varians error sama)
• Tidak terjadi Autokorelasi (Error tidak berkorelasi berdasarkan urutan
waktu)
• Error berdistribusi normal

(Dibahas di Pertemuan Selanjutnya)

Soal

Jumlah
Jumlah Pekerja Upah per Orang
No Rumah
(Orang) (Juta/Bulan)
(Unit)
1 69 23 1.9
2 95 29 1.9
3 102 29 1.2
4 118 35 1.1
5 126 42 1.3
6 125 46 1.4
Soal
1. Buatlah model regresi dari soal tersebut dengan;
X1 = Jumlah Pekerja, X2= Upah Per Orang dan Y= Jumlah Rumah?
2. Tentukan:
a. Koefisien Determinasi-nya dan jelaskan maksudnya
b. Jelaskan tahapan-tahapan sampai mendapatkan keputusan pada
uji F dan t pada model regresi tersebut.
Terima Kasih