ANALISIS REGRESI

REGRESI LINEAR SEDERHANA Pertemuan-2-4

MATERI : REGRESI LINEAR SEDERHANA
Pendahuluan
Model regresi linear sederhana
Metode Pendugaan kuadrat terkecil dari Parameter
Uji hipotesis dari parameter
Prediksi dari observasi baru.
Koefisien Determinasi
Penggunaan software untuk Regresi Linier Sederhana
01
KORELASI VS REGRESI
 KORELASI VS REGRESI
Korelasi
merupakan ukuran kekuatan hubungan dua
variabel (tidak harus memiliki hubungan
sebab akibat)

Regresi merupakan teknik statistika yang digunakan

untuk mempelajari prngaruh/ hubungan
fungsional dari satu atau beberapa peubah
bebas (peubah yang mempengaruhi) terhadap
satu peubah tak bebas (peubah yang
dipengaruhi)
 KEGUNAAN ANALISIS REGRESI
1. Memprediksi peubah dependent (Y) apabila peubah indenpendent (X)
deketahui.
2. Memilih peubah (X) yang sangat mempengaruhi peubah (Y) atau variabel
screening.
3. Membentuk Model yang menggambarkan hubungan antara peubah (X) dan
(Y) dari data kedalam model regresi.
4. Menduga Parameter dari model regresi.
 CONTOH
No Variabel 1 Variabel 2
1 Luas Tanah Harga Tanah
2 Nilai Ulangan Lama Belajar
3 Besar bunga Bank Lama Menabung di Bank X
Yang diterima
4 Jumlah Saudara Besar gaji yang diterima
ditempat kerja
 Model Regresi

Sederhana Berganda

Linear Non-linear Linear Non-linear

Sederhana
a. Linier
Hubungannya linier y  β 0  β1x  ε

b. Non Linier
Polinom
Multiplikatif
y  β0  β1x  ε
2

y  β 0 x β1  ε
Eksponensial

y  β 0 e β 1 x .ε
 Linear Sederhana Variabel bebas/
Variabel penjelas • Perubahan Y
diasumsikan
variabel tak bebas/ karena adanya
Variabel respon y  β 0  β1x  ε perubahan X

Persamaan Regresi y  β 0  β1x

Linear Sederhana
Linear Sederhana
(populasi) Intersep Y Koefisien kemiringan/
slope populasi Galat/eror
populasi

Y  β 0  β 1X  ε
Komponen linier (fix) Komponen acak

Y : peubah tak bebas/respon merupakan peubah

acak dengan pusat/ nilai harapan di β 0  β1X
dan ragam  2
MODEL REGRESI LINIER SEDERHANA
error
Maka dari titik-titik tersebut bisa ditarik
Y satu garis lurus, yaitu:
Misalkan terdapat tiga
f(x)=2x+1
titik koordinat:
x y
1 3
2 5
3 7

x
1 2 3
MODEL REGRESI LINIER SEDERHANA (lanjutan)

Y
yi Garis
εi Regresi
εi εi Slope
Sisaan/galat /kemiringan= β1
E[Y | xi ]
untuk xi
εi
Intersep = β0

xi X
DUGAAN PERSAMAAN GARIS REGRESI LINIER SEDERHANA
Dugaan persamaan garis regresi linier sederhana

Nilai dugaan Dugaan bagi

Dugaan bagi
y pada kemiringan garis
intersep β0
pengamatan regresi β1
ke - i
Nilai x pada

ŷ i  b 0  b1x i pengamatan
ke - i

Sisaan ei mempunyai rataan sebesar nol

ei  ( y i - yˆ i )  y i - (b0  b1x i )
 Asumsi dan Interpretasi dari Parameter Model
ASUMSI MODEL REGRESI LINIER
• Bentuk hubungannya linear (Y merupakan fungsi linier dari X, plus galat yang
acak)
• Galat εi adalah peubah acak yang bebas thdp nilai x
• Galat merupakan peubah acak yang menyebar Normal dengan rataan 0 dan
memiliki ragam konstan, σ2
(sifat ragam yang konstan/homogen ini disebut homoscedasticity)
2
E[ε i ]  0 dan E[ε i ]  σ 2 untuk (i  1,  , n)

• Galat εi, tidak berkorelasi satu dengan yang lainnya, sehingga E[ε i ε j ]  0 , i  j
atau cov[ε , ε ]  0 , i  j
i j
INTERPRETASI KOEFISIEN KEMIRINGAN DAN
INTERSEP

ŷ i  b 0  b1x i
b0 adalah nilai dugaan rataan y ketika x bernilai nol
(jika x = 0 dalam selang pengamatan)

b1 adalah nilai dugaan perubahan rataan y (nilai

harapan Y) jika x berubah satu satuan
Metode Kuadrat terkecil
(least square method= LSM)
 Model Regresi Linier Sederhana

POPULASI : Y  β 0  β 1X  ε

diduga Metode Kuadrat

Terkecil (MKT)
SAMPLE : ŷ i  b 0  b1x i  ei
• Metode Kuadrat Terkecil adalah metode paling populer untuk
menetapkan persamaan regresi linier sederhana.

• Metode kuadrat terkecil adalah suatu metode untuk menghitung

koefisien regresi sampel (b0 & b1) sebagai penduga koefisien
regresi populasi (β0 & β1), sedemikian rupa sehingga jumlah
kesalahan kuadrat memiliki nilai terkecil.
Kesalahan error- i : ei = Yi – (b0 + b1Xi)
Jumlah kesalahan kuadrat : ∑ei2 = ∑ [Yi – ( b0+ b1Xi)] 2
• Jadi metode kuadrat terkecil adalah metode menghitung b0 dan
b1 sedemikian rupa sehingga ∑ei2 minimum.

• Caranya adalah dengan membuat turunan parsial, ∑ei2 mula-

mula diturunkan terhadap b0 kemudian terhadap b1 dan
menyamakannya dengan nol, sehingga kita dapat memperoleh
rumus :
 n
 n  n 
n xi yi    xi   yi 
b1  i1  i1  i1 
2
2  
n n
n xi   xi 
i 1  i1 
n n

y i x i
b0  i 1
 b1 i 1 b 0  y  b1 x
n n
 Biaya
Volume CONTOH
Promosi
No Penjualan
(Juta
(ribu item) Seorang pengusaha ingin meneliti tentang
Rupiah)
1 12 56 pengaruh biaya promosi terhadap volume
2 14 62 penjualan produk kosmetiknya. Adapun
3 13 60
variabel terikat(Y) adalah volume
4 12 61
5 15 65 penjualan dan variabel bebas(X) adalah
6 13 66 biaya promosi.
7 14 60
Tuliskanlah persamaan regresinya dan
8 15 63
9 13 65 interpretasikan
10 14 62
 Biaya Volume
No xy x^2
Promosi Penjualan
1 12 56 672 144
Y= 45,28 + 1,238x
2 14 62 868 196
3 13 60 780 169 Interpretasi :
bo= 45,28 : rata-rata volume
4 12 61 732 144
penjualan saat tidak ada biaya
5 15 65 975 225 promosi adalah 45,28 ribu item
6 13 66 858 169 (45.280 item)
7 14 60 840 196
8 15 63 945 225 b1=1,23 : setiap kenaikan biaya
9 13 65 produksi satu satuan )satu juta
845 169
rupiah) , maka volume penjualan
10 14 62 868 196 akan meningkat 1,23 ribu item
Total 135 620 8383 1833 (1230 item)
CONTOH Jarak tempuh Emisi
Pada Percobaan dalam bidang lingkungan, 31 553
ingin diketahui apakah semakin jauh jarak 38 590
tempuh akan semakin besar juga emisi HC
48 608
52 682
yang dihasilkan?
63 752
Diambil contoh 10 mobil secara acak, kemudian dicatat
jarak tempuh yang sudah dijalani mobil (dalam ribu
67 725
kilometer) dan diukur Emisi HC-nya (dalam ppm).
75 834
84 752
TENTUKANLAH
89 845
a.Plot antara X dan Y.
99 960
b. Persamaan regresi dugaan, dan interpretasikan masing-masing
parameter regresi.
PENGURAIAN KERAGAMAN
SUMBER KERAGAMAN REGRESI
Nilai pengamatan yi yang dihasilkan beragam. Keragaman ini disebabkan oleh ?

Y
yi 
 y
JKG= (yi - yi )2
_
JKT = (yi - y)2

yi  _
_ JKR = (yi – y )2 _
y y

xi X
UKURAN KERAGAMAN
JKT = Jumlah Kuadrat Total
Mengukur keragaman nilai yi di sekitar nilai rataannya y
JKR = Jumlah Kuadrat Regresi
Menjelaskan keragaman karena adanya hubungan linier antara
x dan y
JKG = jumlah Kuadrat Galat
Menjelaskan keragaman yang disebabkan oleh faktor-faktor selain faktor
hubungan linier x dan y
MENGUKUR KERAGAMAN
Total Keragaman disebabkan oleh dua bagian ini :

JKT  JKR  JKG

Jumlah Jumlah Kuadrat Jumlah Kuadrat
Kuadrat Total = Regresi + Galat/Sisaan

JKT   (y i  y) 2 JKR   (ŷ i  y) 2 JKG   (y i  ŷ i ) 2

Dimana :
=
DERAJAT BEBAS JUMLAH KUADRAT

Jumlah Kuadrat (JK)

Ragam 
derajat bebas (db)

JK Regresi |b 0 1
ANOVA (ANALYSIS OF VARIANCE)

ANOVA (Analysis of Variance)  Uji F

JKT  JKR  JKG

JKT   (y i  y) 2 JKR   (ŷ i  y) 2 JKG   (y i  ŷ i ) 2
TABEL ANOVA
PENDUGA BAGI RAGAM SISAAN/GALAT

Dengan asumsi
bahwa
e
JKS i 1
2
i
modelnya σ̂  s  KTsisaan
2 2
e  
pas/cocok
n2 n2

0 1

s e  s e2
se mengukur keragaman penyimpangan nilai
pengamatan yi terhadap garis regresi
 Biaya Volume
No Promosi Penjualan
CONTOH (X) (Y)
1 12 56
2 14 62
3 13 60
4 12 61
5 15 65
6 13 66
7 14 60
8 15 63
9 13 65
10 14 62
UJI F (ANOVA)

df JK KT F Ftabel
reg 1 16,09278 16,09278 2,014595 5,32
galat 8 63,90478 7,988097
total 9 80
Karena F hitung < F tabel, maka Terima Ho, maka biaya
promosi tidak berpengaruh pada volume penjualan
 The regression equation is
C2 = 45,3 + 1,24 C1

Predictor Coef SE Coef T P

Constant 45,29 11,81 3,83 0,005
OUTPUT MINITAB

C1 1,2381 0,8722 1,42 0,194

S = 2,82632 R-Sq = 20,1% R-Sq(adj) = 10,1%

Se
Analysis of Variance
JK KT
Source DF SS MS F P
Regression 1 16,095 16,095 2,01 0,194
Residual Error 8 63,905 7,988
Total 9 80,000
Analisis Regresi
UJI PARSIAL Uji t untuk kemiringan garis regresi (B1)
UJI PARSIAL Uji t untuk kemiringan garis regresi (B1)

dimana

a/2=.025 a/2=.025

Tolak H0 Terima H0 Tolak H0

-tn-2,α/2 tn-2,α/2
UJI PARSIAL Uji t untuk kemiringan garis regresi (B1)

2
𝑒

63,90478
=7,988
 SE Coef B1
=

= = 1,419
UJI PARSIAL Uji t untuk intersep garis regresi (B0)


UJI PARSIAL Uji t untuk intersep garis regresi (B0)

x
2
b0  β0 s 2
t s 
2 e i
d.b.  1
s b0 n (x i  x)
b0 2

s b0
JKG
se 
n2
UJI PARSIAL Uji t untuk intersep garis regresi (B0)

x
2 2
s e i
s 
2

n (x i  x)
b0 2
UJI PARSIAL Uji t untuk intersep garis regresi (B0)

SE Coef
Constanta
Maka = = 11,8088

b0  β0 45,2857
t
s b0

cukup bukti untuk mengatakan bahwa : Semua volume

penjualan dapat dijelaskan oleh biaya promosi
KOEFISIEN DETERMINASI
K )

• Dilihat dari nilai koefisien determinasi (R2)  merupakan ukuran

seberapa besar keragaman dari peubah respon (y) dapat dijelaskan
oleh model (peubah penjelas (x))

• Nilainya antara 0 - 100%, semakin mendekati 100% maka

semakin bagus
K )

16, 095/80 =0,2011=20,1%

Maka sebesar 20,1 % volume penjualan dapat

dijelaskan oleh biaya promosi, dan sisanya (79,9 %)
dijelaskan oleh faktor diluar model
RUMUS

𝒙𝒚
𝒚𝒚
 City Number of Number of
TUGAS INDIVIDU MANUAL Police Robberies
Officers
1 64 625
2 53 750
3 67 560
4 52 690
5. Lakukan analisis yang sama dengan software 5 82 515
minitab dan R 6 59 680
NB: 7 67 630
1. Tugas diketikan, baik manual maupun dengan software
8 90 510
harus dibuatkan langkah-langkah yang jelas
2. Rumus-rumus (pada bagian manual) harus diketik 9 50 800
3. Tugas yang tidak rapi atau asal-asalan TIDAK AKAN 10 77 550
DINILAI 11 88 550
12 71 525
13 58 625