05/12/2017

Analisis regresi
 Regresi: kembali ke tahap perkembangan
sebelumnya (psi.).
 Analisis regresi: analisis yang digunakan untuk
STATISTIKA mengetahui relasi dependensi (pengaruh) dari
satu atau beberapa variabel independen
terhadap sebuah variabel dependen.
Lektion Sieben (#7):  Analisis regresi:
Analisis Regresi – Analisis regresi linier → hubungan antar variabel mengarah pada
hubungan linier (garis lurus)
– Analisis regresi nonlinier → hubungan antar variabel mengarah pada
hubungan nonlinier.
Verfasser bei Usmania Institute

Analisis regresi linier

 Analisis regresi linier:
– Analisis regresi linier sederhana (simple regression): regresi
linier dengan sebuah variabel independen.
ANALISIS
Model: 𝒀 = 𝒃𝟎 + 𝒃𝟏 𝑿
– Analisis regresi linier berganda (multiple regression): regresi
REGRESI LINIER
linier dengan lebih dari 1 variabel independen. SEDERHANA
Model: 𝒀 = 𝒃𝟎 + 𝒃𝟏 𝑿𝟏 + 𝒃𝟐 𝑿𝟐 + ⋯ + 𝒃𝒏 𝑿𝒏
• X : Variabel independen/prediktor/bebas
• Y : Variabel dependen /respon/terikat
• 𝒀 : Prediksi Y
• b0 : intersep regresi
• b1 , b2 ,.. bn : slope regresi Koefisien regresi

1
 05/12/2017

Regresi linier sederhana Model regresi linier

sederhana
 Kegunaan (umum): mengetahui relasi
dependensi (pengaruh) sebuah variabel  Bagan:
independen (X) terhadap sebuah variabel
dependen (Y). X →Y
 Kegunaan (khusus) untuk mengetahui:  Persamaan:
– Apakah X berpengaruh terhadap Y.  Y = b 0 + b 1X + e
– Apakah pengaruh tersebut positif ataukah negatif.
– Seberapa besar pengaruh tersebut.  𝑌 = b 0 + b 1X
– Prediksi nilai Y bilamana nilai X diketahui.
 Syarat data:
– Kedua variabel metrik (I,R), dan
– Ukuran sampelnya besar.

Contoh penerapan
 Apakah durasi belajar dalam seminggu berpengaruh
terhadap IPK mahasiswa? Seberapa besar pengaruh
tersebut? Jika seorang mahasiswa belajar 12 jam
seminggu, berapa prediksi IPKnya?
 Apakah besarnya upah berpengaruh terhadap tingkat
produktivitas? Jika upah sebesar Rp. 10.000 per jam,
berapa prediksi tingkat produktivitasnya?
 Apakah usia bangunan berpengaruh terhadap harga
rumah? Seberapa besar pengaruh tersebut? Jika sebuah
rumah berusia 5 tahun, berapa prediksi harga jualnya?
 Apakah profitabilitas berpengaruh terhadap return
saham? Seberapa besar pengaruh tersebut?

2
 05/12/2017

FUNGSI LINIER SAMPEL 2 TITIK persamaan:

Y y=2+x
Y Y = a + b·X Observasi:
X Y 5
∆𝒚 𝒚𝟐 − 𝒚𝟏
(x2, y2) 𝒃=𝒎= = 1 3
∆𝒙 𝒙𝟐 − 𝒙𝟏
3 5
(x1, y1) Δy 3
(0, a)
 a>0?  b>0?
Δx
a  a=0?  b<0?
 a<0?  b=0?
X
 b=∞? 1 3 X
x=1→y= 3
1. (1, 3) dan (2, 5) → y = ? x=3→y= 5
2. a = 2, b = 0 → y = ?; x = 1 → y = ?; x = 50 → y = ?;
x = 49.000 → y = ?

SAMPEL 3 TITIK persamaan: Hasil observasi

Y y=2+x
6
Observasi:
 Hasil mana yang umum terjadi sebagai hasil
X Y 5
1 3
observasi (sampel)?
3 5
4 6 3 X Y X Y
1 3 1 3
vs 3 5
3 5
4 6 4 4

1 3 4 X
x=1→y= 3
x=3→y= 5
x=4→y= 6

3
 05/12/2017

SAMPEL 3 TITIK MEMBUAT GARIS PREDIKSI

Apakah ada sebuah garis yang
Y Y
melewati ketiga titik secara
Observasi: sekaligus? Observasi:
X Y 5 X Y 5
1 3 1 3
4 4
3 5 3 5
4 4 3 4 4 3

persamaan:
y = 2 + x ????
1 3 4 X 1 3 4 X
x=1→y= 3
x=3→y= 5 Garis mana yang paling baik dalam mewakili
SALAH ketiga titik tersebut?
x=4→y= 6

MEMBUAT GARIS PREDIKSI MEMBUAT GARIS PREDIKSI

Y Y

Garis mana yang

paling baik dalam X Y
mewakili ketiga titik x1 y1 (xn , yn)
tersebut? Mengapa? (x1, y1)
x2 y2 𝒚 = a + bx
en
⁞ ⁞
(x2, 𝒚2)
Xn yn e1 (xn, 𝒚n)
e2
X
ei = error (x1, 𝒚1)
(x2, y2)
 Tahap utama analisis regresi: mencari persamaan garis prediksi = residual
(𝒀). e i = yi - 𝑦 i
 Garis prediksi (𝒀) adalah garis yang terbaik dalam mewakili X
seluruh observasi (titik-titik) yang ada.
Garis prediksi yang terbaik adalah garis yang.....???

4
 05/12/2017

 Garis regresi (prediksi) terbaik → 𝒆𝟏𝟐 + 𝒆𝟐𝟐 + ... + 

𝜕𝑺 ?
= 0 → yi = na + b  xi ......... (persamaan 1)
𝒆𝒏𝟐 menghasilkan nilai yang paling minimum. 𝜕𝒂
𝜕𝑺 ?
 𝒆𝟏𝟐 + 𝒆𝟐𝟐 + ... 𝒆𝒏𝟐 = ∑ 𝒆𝒊𝟐 = S  = 0 → xi yi = a xi + b xi𝟐 ......... (persamaan 2)
𝜕𝒃
 S : jumlah kuadrat error (= jumlah kuadrat  Dari persamaan (1) dan (2) diperoleh:
residual)
 S = 𝒆𝟏𝟐 + 𝒆𝟐𝟐 + ... + 𝒆𝒏𝟐 yi xi
= (y1 - 𝒚𝟏)2 + (y2 - 𝒚𝟐)2 + .... + (yn - 𝒚𝒏)2 xi yi xi𝟐 xi𝟐 yi − xi xi yi
𝒂= =
= (y1 – a – bx1)2 + (y2 – a – bx2)2 +... + (yn – a – 𝒏 xi 𝒏xi𝟐 − xi 𝟐
bxn) 2 xi xi𝟐
 Garis prediksi terbaik → S paling minimum
𝒏 yi
𝜕𝑺 𝜕𝑺 𝒏xi yi − xi yi
 S minimum jika: = 0 ; dan =0 xi xi yi
𝜕𝒂 𝜕𝒃 𝒃= =
𝒏 xi 𝒏xi𝟐 − xi 𝟐
xi xi𝟐

𝒏xi yi−xi yi

 Jadi, 𝒃 = Interpretasi koefisien regresi
𝒏xi𝟐 −
xi 𝟐
 Karena garis regresi (prediksi) selalu melalui
titik (𝒙, 𝒚), maka: 𝒚 = a + b𝒙 → a = 𝒚 ‒ b𝒙.  Arah pengaruh:
– b > 0 → X berpengaruh positif terhadap Y.
 Ternyata, – b < 0 → X berpengaruh negatif terhadap Y
𝒏xi yi − xiyi 𝑺𝒙𝒚 – b = 0 → ??
𝒃= =  Besar pengaruh:
𝒏xi − xi
𝟐 𝟐 𝑺𝒙 𝟐 – b > 0 → untuk setiap X naik (turun) sebesar 1 satuan,
maka Y naik (turun) sebesar b satuan.
 Kaitan b dan r :
– b < 0 → untuk setiap X naik (turun) sebesar 1 satuan,
𝑺𝒙𝒚 maka Y turun (naik) sebesar b satuan.
Karena r = 𝑺 → b = r . ?? dan r = b . ??
𝒙 𝑺𝒚  Prediksi:
– Jika diketahui nilai X = c, maka prediksi nilai Y adalah:
𝑌= a + b.c

5
 05/12/2017

KOEFISIEN REGRESI
Contoh soal
TERSTANDARISIR
Diketahui data sampel tentang insentif per pekan (X) dalam ratusan ribu
rupiah dan jumlah unit yang diproduksi (Y) dalam ratusan unit sebagai Koefisien regresi terstandarisir diperoleh ketika
berikut: semua variabel dinyatakan dalam skor terstandarisir
i X Y
(Z).
xi  x
1 1 2 z xi  → skor terstandarisir
2 2 4 SX
3 3 5
4 4 7 ˆ
zY   z X → model regresi terstandarisir

z z
1. Tentukan persamaan regresinya.
2. Bagaimana interepretasinya? X Y SX
  b1  rXY → koefisien regresi terstandarisir
3. Jika seorang karyawan diberi insentif sebesar 500 ribu rupiah per
pekan, berapa prediksi dari jumlah unit yang diproduksi oleh
z 2
X SY
karyawan tersebut?
Jadi, pada regresi linier sederhana berlaku: koefisien regresi
terstandarisir = koefisien korelasi pearson

Koefisien determinasi
(R 2)
2
Soal 1
 Koefisien determinasi (R ) adalah ukuran kebaikan model regresi (seberapa
baik model regresi yang dihasilkan dalam menjelaskan data).
 Nilai R2 : 0 ‒ 1
– R2 = 0 : model sama sekali tidak bisa menjelaskan data
 Diketahui: 𝑿 = 4; 𝒀 = 5; SX = 1; SY = 2; rXY = 0,5
– R2 = 1 : model regresi secara sempurna dapat menjelaskan data  Tentukanlah:
– R2 = 0,87 → 87% variabilitas Y dapat dijelaskan oleh variabilitas X.
1. Persamaan regresinya.
 3 cara menghitung R2:
2. Interpretasi dari persamaan regresi tersebut.
n
3. Jika diketahui X = 10, tentukanlah berapa perkiraan
Sum Square Regression (SSR)  ( yˆ i  y)
harga Y.
R2   i 1
n
Total Sum Square (TSS) 4. Berapa nilai koefisien regresi terstandarisirnya?
(y i  y)
i 1 5. Hitung besarnya koefisien determinasi!
2
R  rY2Yˆ 6. Bagaimana interpretasi dari koefisien determinasi
Jadi, untuk regresi linier sederhana berlaku:
tersebut?
2
R    rXY R 2  2  rXY
2
 rY2Yˆ

6
 05/12/2017

Soal 2 Soal 3
 Diketahui output SPSS sebagai berikut:  Diketahui output SPSS sebagai berikut:
Coefficientsa
Coefficientsa
Unstandardized Standardized
Unstandardized Standardized Coeff icients Coeff icients
Coeff icients Coeff icients
Model B Std. Error Beta t Sig.
Model B Std. Error Beta t Sig. 1 (Constant) 63,976 30,049 2,129 ,041
1 (Constant) 280,154 28,811 9,724 ,000 bany ak kamar 46,580 7,989 ,718 5,830 ,000
usia bangunan
-1,263 ,540 -,382 -2,339 ,026 a. Dependent Variable: harga rumah (dalam jutaan rupiah)
(dalam bulan)
a.
Dependent Variable: harga rumah (dalam jutaan rupiah)
 Tentukanlah:  Tentukanlah:
1. Persamaan regresinya. 1. Persamaan regresinya.
2. Interpretasi dari persamaan regresi tersebut. 2. Interpretasi dari persamaan regresi tersebut.
3. Jika diketahui usia bangunan rumah tersebut 10 3. Jika diketahui banyaknya kamar 4 unit, tentukanlah
tahun, tentukanlah berapa perkiraan harga rumah berapa perkiraan harga rumah tersebut.
tersebut.

Regresi linier berganda

 Kegunaan (umum): mengetahui relasi
dependensi (pengaruh) dua atau lebih variabel
independen (X) terhadap sebuah variabel
dependen (Y).
ANALISIS
 Kegunaan (khusus) untuk mengetahui:
REGRESI LINIER – Apakah masing-masing variabel independen X berpengaruh
terhadap Y.
BERGANDA – Apakah pengaruh tersebut positif ataukah negatif.
– Variabel independen mana yang mempunyai pengaruh terbesar.
– Prediksi nilai Y bilamana nilai setiap variabel X diketahui.
 Syarat data:
– Seluruh variabel metrik (I,R), dan
– Ukuran sampelnya besar.

7
 05/12/2017

Model regresi linier

sederhana
Contoh penerapan
 Apakah durasi belajar dalam seminggu dan tingkat kecerdasan
 Bagan: (IQ) berpengaruh terhadap IPK mahasiswa? Mana yang lebih
berpengaruh terhadap IPK, apakah durasi belajar ataukah IQ? ?
X1 Jika seorang mahasiswa yang mempunyai IQ 105 belajar 12 jam
seminggu, berapa prediksi IPKnya?
X2 Y  Apakah luas tanah, banyak kamar, dan usia bangunan
⁞ berpengaruh terhadap harga rumah? Variabel mana yang lebih
berpengaruh? Jika sebuah rumah dengan luas tanah 200 m2,
Xn banyaknya kamar 5 unit, dan usia bangunan 5 tahun, berapa
prediksi harga jualnya?
 Apakah ukuran perusahaan dan profitabilitas berpengaruh
 Persamaan: terhadap return saham? Masing-masing variabel berpengaruh
positif ataukah negatif? Variabel mana yang pengaruhnya
 Y = 𝒃𝟎 + 𝒃𝟏 𝑿𝟏 + 𝒃𝟐 𝑿𝟐 + ⋯ + 𝒃𝒏 𝑿𝒏 + 𝒆 paling besar?
 𝒀 = 𝒃𝟎 + 𝒃𝟏 𝑿𝟏 + 𝒃𝟐 𝑿𝟐 + ⋯ + 𝒃𝒏 𝑿𝒏

Interpretasi koefisien regresi

 Arah pengaruh:  Pengaruh terbesar:

– bi > 0 → variabel Xi pengaruh positif terhadap Y.
– bi < 0 → ??
– Jika variabel-variabel independen diukur dalam
– bi = 0 → ??
satuan yang sama:
 Besar pengaruh: Bandingkan koefisien regresi (b) dalam harga
– bi > 0 → untuk setiap Xi naik (turun) sebesar 1 satuan, absolut. Nilai terbesar adalah yang mempunyai
sedangkan variabel yang lain tetap (konstan), maka Y pengaruh terbesar.
naik (turun) sebesar bi satuan.
– bi < 0 → untuk setiap Xi naik (turun) sebesar 1 satuan,
– Jika variabel-variabel independen diukur dalam
sedangkan variabel yang lain tetap (konstan), maka Y satuan yang berbeda-beda:
turun (naik) sebesar bi satuan. Bandingkan koefisien regresi terstandarisir ()
 Prediksi: dalam harga absolut. Nilai terbesar adalah yang
– Jika diketahui nilai Xi = ci, maka prediksi nilai Y adalah: mempunyai pengaruh terbesar.
𝒀 = 𝒃𝟎 + 𝒃𝟏 𝒄𝟏 + 𝒃𝟐 𝒄𝟐 + ⋯ + 𝒃𝒏 𝒄𝒏

8
 05/12/2017

KOEFISIEN REGRESI Koefisien determinasi

TERSTANDARISIR (R 2)
2
 Koefisien determinasi (R ) adalah ukuran kebaikan model regresi (seberapa
baik model regresi yang dihasilkan dalam menjelaskan data).
Koefisien regresi terstandarisir diperoleh ketika semua
 Nilai R2 : 0 ‒ 1
variabel dinyatakan dalam skor terstandarisir (Z). – R2 = 0 : model sama sekali tidak bisa menjelaskan data
– R2 = 1 : model regresi secara sempurna dapat menjelaskan data
xi  x – R2 = 0,87 → 87% variabilitas Y dapat dijelaskan oleh variabilitas dari seluruh
z xi  → skor terstandarisir
SX variabel independen X.
 3 cara menghitung R2:
ˆ
zY  1 z1  2 z2 → model regresi terstandarisir n

dengan 2 variabel independen Sum Square Regression (SSR)  ( yˆ i  y)

R2   i 1

S1 r1Y  r2Y r12 Total Sum Square (TSS) n

1  b1  (y i  y)
SY 1  r122 R 2  rY2Yˆ i 1

koefisien regresi terstandarisir

S r r r m
 2  b2 2  2Y 1Y2 12 R 2    p  rpY
SY 1  r12 p 1

Soal 1 Soal 2
 Diketahui output SPSS sebagai berikut:
Coefficientsa

Unstandardized Standardized
 Melanjutkan soal nomor 1. Jika diketahui:
Model B
Coeff icients
Std. Error
Coeff icients
Beta t Sig.
– r antara Banyak Kamar dan Harga Rumah = 0,718
1 (Constant)
bany ak kamar
117,101
44,655
33,001
7,262 ,688
3,548
6,149
,001
,000
– r antara Usia Bangunan dan Harga Rumah = ‒0,382
usia bangunan
(dalam bulan)
-1,051 ,370 -,318 -2,841 ,008 Tentukanlah:
a. Dependent Variable: harga rumah (dalam jutaan rupiah)
1. Koefisien determinasinya.
 Pertanyaan:
1. Bagaimana model/persamaan regresinya? 2. Interpretasi dari koefisien determinasi
2. Apakah banyak kamar mempengaruhi harga? Mengapa? Pengaruh
tersebut positif atau negatif? Mengapa? tersebut.
3. Bagaimana interpretasi dari persamaan regresi tersebut?
4. Variabel mana yang lebih berpengaruh terhadap harga rumah?
5. Jika diketahui banyaknya kamar 4 unit, dan usia bangunan 10 tahun,
tentukanlah berapa perkiraan harga rumah tersebut.