REGRESI LINIER

SEDERHANA (SIMPLE
LINEAR REGRESSION)
REGRESI LINIER SEDERHANA
(SIMPLE LINEAR REGRESSION)

CAKUPAN MATERI:
Model Regresi Linier Sederhana
Metode Kuadrat Terkecil (Least Squares Method)
Koefisien Determinasi
Asumsi Model
Uji Keberartian (Testing for Significance)
Estimasi dengan Persamaan Regresi
Analisis Residual: Pemeriksaan Asumsi Model
Hubungan antara dua kejadian dapat dinyatakan
dengan hubungan dua variabel.

Apabila dua variabel X dan Y mempunyai hubungan,

maka nilai variabel X yang sudah diketahui dapat
dipergunakan untuk memperkirakan/menaksir Y.

Peramalan pada dasarnya merupakan

perkiraan/taksiran mengenai terjadinya suatu
kejadian.
Variabel Y yang nilainya akan diramalkan disebut varibel
tidak bebas, sedangkan varibel X yang nilainya
dipergunakan untuk meramalkan nilai Y disebut variabel
bebas atau variabel peramal dan seringkali disebut
variabel yang menerangkan.

Jadi, jelas analisis korelasi ini memungkinkan kita untuk

mengetahui sesuatu di luar hasil penyelidikan.

Salah satu cara untuk melakukan peramalan adalah

dengan menggunakan garis regresi.
KOEFISIEN KORELASI DAN
KEGUNAANNYA

Hubungan dua variabel ada yang positif dan negatif.

Hubungan X dan Y dikatakan positif apabila kenaikan
(penurunan) X pada umumnya diikuti oleh kenaikan
(penurunan) Y.

Sebaliknya dikatakan negatif kalau kenaikan (penurunan)

X pada umumnya diikuti oleh penurunan (kenaikan) Y.
Koefisien korelasi (x dan y) mempunyai hubungan
positif
Koefisien korelasi (x dan y) mempunyai hubungan
negatif
Jadi, kalau variabel X dan Y ada hubungan, maka
bentuk diagram pencarnya adalah mulus/teratur.

Apabila bentuk diagram pencar tidak teratur, artinya

kenaikan/penurunan X pada umumnya tidak diikuti
oleh naik turunnya Y, maka dikatakan X dan Y tidak
berkorelasi.
Koefisien korelasi (x dan y) tidak mempunyai hubungan atau
hubungan lemah sekali
Y Y

atau

0 X 0 X
 Kuat dan tidaknya hubungan antara X dan Y apabila dapat dinyatakan
dengan fungsi linear(paling tidak mendekati), diukur dengan suatu nilai
yang disebut koefisien korelasi.

Nilai koefisien korelasi ini paling sedikit 1 dan paling besar +1.

Jadi jika r = koefisien korelasi, maka r dapat dinyatakan sebagai berikut :

-1 r +1
Kuat (-) Kuat (+)

-1 +1

Lemah (-) Lemah (+)

Jika r =+1, hubungan X dan Y sempurna dan positif,

r = -1, hubungan X dan Y sempurna dan negatif,
r mendekati +1, hubungan sangat kuat dan positif,
r mendekati 1, hubungan sangat kuat dan negatif.
REGRESI LINIER SEDERHANA
(SIMPLE LINEAR REGRESSION)
Model Regresi Linier Sederhana
y = 0 + 1x +
Persamaan Regresi Linier Sederhana
E(y) = 0 + 1x
Estimasi Persamaan Regresi Linier Sederhana
^
y = b0 + b1x
dimana
y = variabel tak bebas (response/dependent variable)
x = variabel bebas (predictor/independent variable)
= suku sisaan (error/residual)
0 = intercept (titik potong garis regresi dengan sumbu y)
1 = slope/kemiringan garis regresi
METODE KUADRAT TERKECIL

Kriteria Kuadrat Terkecil

Prinsip: Meminimalkan jumlah kuadrat jarak/selisih
antara nilai variabel tak bebas sebenarnya dengan
nilai estimasi variabel tak bebas (error)

dimana:
yi = nilai observasi ke-i dari variable tak bebas
^
y = nilai estimasi ke-i dari variabel tak bebas
i
METODE KUADRAT TERKECIL

Kemiringan (Slope) Persamaan Regresi Estimasi

Intercept Persamaan Regresi Estimasi

dimana:
xi = nilai variabel bebas untuk observasi ke-i
yi = nilai variabel tak bebas untuk observasi ke-i
x = rata-rata nilai variabel bebas
y = rata-rata nilai variabel tak bebas
n = total observasi
Analisis Korelasi
Analisis korelasi merupakan metode analisis data yang
mengukur derajat hubungan antara dua variabel random X dan
Y melalui sebuah bilangan yang disebut koefisien korelasi r.

Kuadrat dari koefisien korelasi disebut koefisien

determinasi yang merepresentasikan besarnya proporsi
variasi dalam variabel y yang dijelaskan oleh variabel x
dalam model
Koefisien Determinasi (R2)
KOEFISIEN DETERMINASI

Hubungan antara SST, SSR, SSE

SST = SSR + SSE

Koefisien Determinasi (Coefficient of Determination)

r2 = SSR/SST
dimana:
SST = total sum of squares
SSR = regression sum of squares
SSE = error sum of squares
UJI SIGNIFIKANSI

Untuk menguji keberartian hubungan regresi, maka

harus dilakukan uji hipotesis apakah b1 sama dg nol.
Dua pengujian yang umum digunakan adalah Uji t dan
Uji F
Kedua pengujian di atas memerlukan estimasi varian
dari dalam model regresi, s2.
Mean square error (MSE) menghasilkan estimasi untuk
varian .
s2 = MSE = SSE/(n-2)
dimana:
UJI SIGNIFIKANSI: Uji t

Hipotesis
H0: 1 = 0
Ha: 1 0

Statistik Uji

dimana

Aturan Penolakan
Tolak H0 jika t < -t/2 atau t > t /2
dimana t/2 didasarkan pada distribusi t dengan derajat
bebas n - 2.
CONFIDENCE INTERVAL UNTUK 1

Kita dapat menggunakan interval keyakinan/

confidence interval (1-)100% 1 untuk menguji
hipotesis seperti halnya yang digunakan pada uji t.
H0 ditolak jika nilai hipotesis 1 tidak masuk dalam
confidence interval untuk 1.
Confidence interval untuk 1 adalah:

dimana b1 = estimasi titik dari 1

= batas kesalahan
t/2 = nilai t tabel (didasarkan pada distribusi
t dengan derajat bebas n-2)
UJI SIGNIFIKANSI: Uji F

Hipotesis
H0: 1 = 0
Ha: 1 = 0
Statistik Uji
F = MSR/MSE
Aturan Penolakan
Tolak H0 jika F > F

dimana F didasarkan pada distribusi F dengan derajat

bebas 1 dan n - 2.
CONTOH: REED AUTO SALES

Sebagai bagian dari kampanyenya, Reed Auto

menggunakan media televisi untuk iklan selama akhir
pekan yang lalu. Berikut adalah data dari 5 sampel
penjualan.

Banyaknya iklan TV Jumlah Mobil Terjual

1 14
3 24
2 18
1 17
3 27
CONTOH: REED AUTO SALES

Kemiringan Persamaan Regresi Estimasi

b1 = 220 - (10)(100)/5 = 5
24 - (10)2/5
Intercept Persamaan Regresi Estimasi
b0 = 20 - 5(2) = 10
Estimasi Persamaan Regresi
^
y = 10 + 5x
Interpretasi: Jika banyaknya iklan bertambah 1 kali,
maka dapat meningkatkan banyak penjualan mobil
sebanyak 5.
CONTOH: REED AUTO SALES

Scatter Diagram

30
25
Jumlah Mobil Terjual

20
y = 5x + 10
15
10
5
0
0 1 Banyaknya2Iklan TV 3 4
CONTOH: REED AUTO SALES

KOEFISIEN DETERMINASI
r2 = SSR/SST = 100/114 = 0,8772

Artinya:
Hubungan regresi sangat kuat karena 88% variasi
mobil yang terjual dapat dijelaskan oleh banyaknya
iklan TV.

KOEFISIEN KORELASI
ASUMSI MODEL

Asumsi tentang suku sisaan (error),

Error merupakan suatu random variabel dengan
rata-rata nol (E()=0).
Varian error , dinotasikan dengan 2, adalah sama
untuk semua nilai variabel bebas (homoscedastic).
Nilai saling bebas (non autocorrelation).
Sisaan terdistribusi normal.
CONTOH: REED AUTO SALES

Uji t
Hipotesis H0: 1 = 0
Ha: 1 0
Aturan Penolakan
Untuk = 0,05 dan derajat bebas = 3, t0,025 = 3,182
Tolak H0 jika t > 3,182
Statistik Uji
t = 5/1,08 = 4,63
Kesimpulan
Tolak H0, banyaknya iklan melalui TV signifikan
mempengaruhi jumlah mobil yang terjual (pada
=0,05).
CONTOH: REED AUTO SALES

Aturan Penolakan
Tolak H0 jika 0 tidak masuk dalam confidence interval
untuk 1.
Confidence Interval 95% untuk 1
= 5 3,182(1,08) = 5 3,44
atau 1,56 sampai 8,44
Kesimpulan
Tolak H0, banyaknya iklan melalui TV signifikan
mempengaruhi jumlah mobil yang terjual (pada
=0,05).
CONTOH: REED AUTO SALES

Uji F
Hipotesis H0: 1 = 0
Ha: 1 = 0
Aturan Penolakan
Untuk = 0,05 & derajat bebas = 1, 3: F0,05 = 10,13
Tolak H0 jika F > 10,13
Statistik Uji
F = MSR/MSE = 100/4,667 = 21,43
Kesimpulan
H0 ditolak.
EXERCISE