REGRESI

LINIER SEDERHANA

Oleh:
Agung Rakhmat Cahyono
NBI : 421304405

FAKULTAS TEKNIK
PROGRAM STUDI MESIN
UNIVERSITAS 17 AGUSTUS 1945
2016 1
REGRESI LINIER SEDERHANA

 regresi linier sederhana adalah hubungan secara linear antara

satu variabel independen (X) dengan variabel dependen (Y).
Analisis ini untuk mengetahui arah hubungan antara variabel
independen dengan variabel dependen apakah positif atau
negatif dan untuk memprediksi nilai dari variabel dependen
apabila nilai variabel independen mengalami kenaikan atau
penurunan.. Data yang digunakan biasanya berskala interval
atau rasio.

2
 Rumus regresi linear sederhana sebagi berikut:
 Y’ = a + bX
Keterangan:
 Y’  = Variabel dependen (nilai yang diprediksikan)
 X    = Variabel independen
 a    = Konstanta (nilai Y’ apabila X = 0)
 b    = Koefisien regresi (nilai peningkatan ataupun
penurunan)
3
nilai “a” didapat dari :

nilai “b” didapat daril :

4
 Koefisien regresi ‘b’ adalah kontribusi besarnya
perubahan nilai variabel bebas, semakin besar nilai
koefisien regresi maka kontribusi perubahan semakin
besar, demikian pula sebaliknya akan semakin lecil.
Kontribusi perubahan variabel bebas (X) juga
ditentukan oleh koefisien regresi positif atau negatif.

5
 Berikut ini adalah Langkah-langkah dalam melakukan Analisis
Regresi Linear Sederhana secara umum :

1. Tentukan Tujuan dari melakukan Analisis Regresi Linear Sederhana

2. Identifikasikan Variabel Faktor Penyebab (Predictor) dan Variabel
Akibat (Response)
3. Lakukan Pengumpulan Data
4. Hitung  X², Y², XY dan total dari masing-masingnya
5. Hitung a dan b berdasarkan rumus diatas.
6. Buatkan Model Persamaan Regresi Linear Sederhana.
7. Lakukan Prediksi atau Peramalan terhadap Variabel Faktor Penyebab
atau Variabel Akibat

6
 Restorant Populasi Mahasiswa Penjualan per Kuartal
i Xi Yi

1 2 58
2 6 105
Least Squares Method.
3
4
8
8
88
118
5
Populasi Mahasiswa 12
dan penjualan 117untuk
perkuartal 10 restoran
6 16 137
7 20 157
8 20 169
9 22 149
10 26 202

7
Perhitungan
Ŷi = b 0 + b 1 X
 Yi = perhitungan perolehan penjualan kuartalan restoran ke i.
 b0 = bilangan konstanta (intercept) regresi garis hasil perhitungan.
 b1 = sudut (slope) garis regresi hasil perhitungan.
 Xi = jumlah mahasiswa untuk restoran ke i

Rumus penting.
 Least Square Criterion: min Σ (Yi – Ŷi)2
 Slope b1 = {Σ (Xi – X̃ ) (Yi - Ỹ)}/Σ(Xi-X̃ )2
 Intercept b0 = Ỹ – b1X̃
 X̃ = (Σxi)/n
 Ỹ= (Σ Yi)/n
Note:
Yi : Nilai pengamatan dari dependent variable untuk ke i pengamatan.
Ŷi : Nilai perhitungan dari dependent variable untuk ke i pengamatan.
Ỹ : Nilai mean dari dependent variable
Xi : Nilai dari independent variable untuk ke i pengamatan.
X̃ : Nilai mean dari independent variable untuk ke i pengamatan.
n : Total angka pengamatan.

8
Jumlah sampel 10 restoran atau n = 10
 X̃ = (Σxi)/n = 140/ 10 = 14
 Restoran
Ỹ= (ΣY Xi
i)/n = 1300/10
Yi
=130 Xi - X̃ Yi - Ỹ (Xi - X̃ ) (Yi - Ỹ ) (Xi - X̃ )2
i

1 2 58 -12 -72 864 144

2 6 105 -8 -25 200 64
3 8 88 -6 -42 252 36
4 8 118 -6 -12 72 36
5 12 117 -2 -13 26 4
6 16 137 2 7 14 4
7 20 157 6 27 162 36
8 20 169 6 39 234 36
9 22 149 8 19 152 64
10 26 202 12 72 864 144
140 1300 2840 568
Σxi ΣYi Σ(Xi - X̃ ) (Yi - Ỹ ) Σ(Xi - X̃ )2

b1 = {Σ (Xi – X̃ ) (Yi - Ỹ)}/Σ(Xi-X̃ )2

= 2840/568 = 5
b0 = Ỹ – b1X̃ = 130 – 5x14 = 60

Maka persamaan regresi : Ŷ = 60 + 5X

Dengan persamaan ini dapat memperkirakan berapa penjualan yang dapat terjadi sesuai dengan
9
jumlah Mahasiswa yang ditentukan jumlahnya. Jika jumlah Mahasiswa misalkan 16000 orang maka
penjualan diperkirakan akan mencapai Ŷ = 60 + 5x16 = 140
Welcome to Minitab, press F1 for help.

Regression Analysis: Quarterly versus Student

The regression equation is

Quarterly = 60,0 + 5,00 Student

Predictor Coef SE Coef T P

Constant 60,000 9,226 6,50 0,000
Student 5,0000 0,5803 8,62 0,000

S = 13,8293 R-Sq = 90,3% R-Sq(adj) = 89,1%

Analysis of Variance

Source DF SS MS F P
Regression 1 14200 14200 74,25 0,000
Residual Error 8 1530 191
Total 9 15730 10
11
12
CONTOH SOAL
Seorang Manager mengumpulkan data pengalaman dan kemampuan menjual dari10
orang Sales dengan data sebagai berikut:

Tenaga Sales Pengalaman Hasil Penjualan

(Th) Rp 000.000,-
1 1 80
2 3 97
3 4 92
4 4 102
5 6 103
6 8 111
7 10 119
8 10 123
9 11 117
10 13 136

1. Gambarkan scatter diagram dengan pengalaman sebagai variabel bebas.

2. Hitung persamaan regresinya dapat menggunakan prediksi penjualan berdasarkan
pengalaman tenaga sales.
3. Berapa prediksi kemampuan penjualan dari tenaga sales dengan pengalaman 9 13
tahun?
14
15
Regression Analysis: Annual sales versus Pengalaman

The regression equation is

Annual sales = 80,0 + 4,00 Pengalaman

Predictor Coef SE Coef T P

Constant 80,000 3,075 26,01 0,000
Pengalaman 4,0000 0,3868 10,34 0,000

S = 4,60977 R-Sq = 93,0% R-Sq(adj) = 92,2%

Analysis of Variance

Source DF SS MS F P
Regression 1 2272,0 2272,0 106,92 0,000
Residual Error 8 170,0 21,3
Total 9 2442,0
16
Coeffisient Determination.
Koefisien determinasi adalah alat ukur the goodness of fit atas estimasi persamaan
regresi.
1. Sum Of Squares Due to Error (SSE)
SSE = Σ (Yi – Ŷi)2
SSE adalah mengukur kesalahan penggunaan estimasi persamaan regresi untuk
menghitung nilai variabel terikat dari sampel. Contoh x 1 = 2 dan Y1 = 58, dengan
menggunakan persamaan regresi kita peroleh Ŷ 1 = 60 + 5x(2) = 70. Error atau kesalahan
perhitungan Y1 – Ŷ1 = 58 – 70 = -12. kesalahan kuadratis menjadi (-12) 2 = 144. SSE =
1530 sebagai ukuran kesalahan estimasi dg menggunakan persamaan regresi Ŷ = 60 +
5X untuk memprediksi penjualan. SSE= jumlah kuadratis perbedaan nilai data penjualan
restoran ke i terhadap nilai persamaan garis ke i.
Restorant Xi: Populasi Yi :Penjualan Prediksi Kesalahan
i Mahasiswa Perkuartal Penjualan Error (Kesalahan) (Error)
(1000) Rp 0.000.000 Ŷi = 60 + 5Xi Yi – Ŷi Kuadratis

1 2 58 70 -12 144
2 6 105 90 15 225
3 8 88 100 -12 144
4 8 118 100 18 324
5 12 117 120 -3 9
6 16 137 140 -3 9
7 20 157 160 -3 9
8 20 169 160 9 81
9
10
22
26
149
202
170
190
-21
12
17 441
144
SSE = 1530
2. Total Sum Of Squares (SST)
SST = Σ (Yi – Ŷ)2
SST adalah menggunakan nilai rata-rata (mean) hasil penjualan kuartalan untuk
10 sampel: Ŷ = Σ Yi /n = 1300/10 = 130 dan angka ini yaitu Ŷ = 130 untuk
menghitung jumlah kuadratis deviasi yang terjadi pada sampel atau disebut
SST. SST= jumlah kuadratis nilai perbedaan data penjualan restoran ke i
terhadap rata-rata penjualan 10 restoran.

Restorant Xi = Populasi Yi = Penjualan Deviation Kuadrat Deviasi

i Mahasiswa Perkuartal Yi – Ŷ (Yi – Ŷ)2
(000) (0.000.000)
1 2 58 -72 5.184
2 6 105 -25 625
3 8 88 -42 1.764
4 8 118 -12 144
5 12 117 -13 169
6 16 137 7 49
7 20 157 27 729
8 20 169 39 1.521
9 22 149 19 361
10 26 202 72 5.184
SST= 15.730

3. Sum Of Square Due To Regression (SSR)

SSR = Σ (Ŷi – Ŷ)2
18
Hubungan SST, SSR dan SSE: SST = SSR + SSE
 Y

Y10 - Ŷ
200

Y10 - Ȳ

Ŷ10 - Ȳ
5X
+
Penjualan Kuartalan (Rp0.000.000,-)

60
=
Ŷ

125
Y = Ȳ = 130

100

75

50

25

X
2 4 6 8 10 12 14 16 18 20 22 24 26

Populasi Mahasiswa (000)

DEVIASI TENTANG GARIS REGRESI ESTIMASI DAN GARIS Y = Ȳ

19
4. Koefisien Determinasi.
r2 = SSR/SST
dari data contoh restoran
r2 = SSR/SST = 14.200/15.730 = 0,9027
Dengan kata lain 90,27% variabilitas penjualan dapat dijelaskan terdapat
hubungan linier antara jumlah populasi mahasiswa dengan penjualan
dengan menggunakan persamaan regresai Ŷ = 60 + 5X.

5. Test Signifikan.
a. Mean Square Error (Estimate of σ2)
s2 = MSE = SSE/ n-2
n – 2 = degrees of freedom.
SSE pada kasus restoran SSE = 1530
s2 = MSE = SSE/ n-2 = 1530/(10-2) = 191,25
Standard error of estimate = s = √MSE = √191,25 = 13,829
20
b. t test
Estimate Standard Deviastion of b1
Sb1 = S/√Σ(Xi - X̃ )2
S = 13,829
Σ(Xi - X̃ )2 = 568
Sb1 = 13,829/√568 = 0,5803
b1 = 5
t = b1/ sb1 = 5/ 0,5803 = 8,62
t tabel dengan degrees of freedom n – 2 = 10 – 2 = 8, dengan tingkat signifikan α = 0,01
maka diperoleh t = 3,355 dengan luas area diatas ekor ½ α = 0,01/2 = 0,005. Karena test
menggunakan distribusi normal 2 ekor maka p value dengan t = 8,62 harus memiliki luas p
kurang dari 2(0,005) = 0,01. Dari hasil perhitungan MINITAB p-value = 0.000. Karena p-
value < α = 0,01 maka H0 ditolak dan disimpulkan β1 tidak sama dengan 0 pada persamaan
regresi Y = β0 + β1X +ε
Kesimpulan: t Test untuk signifikan pada regresi linier sederhana
H0 : β1 = 0
Ha : β1 ≠ 0
Test Statistik t = b1/Sb1
Aturan Penolakan:
p-value approach: Tolak H0 bila p- value ≤ α Critical value approach: Tolak H0 bila t≤ -tα/2
atau bila t ≥ tα/2 21
Dimana tα/2 berdasarkan t distribusi dengan n – 2 degrees of freedom
c. Confidence Interval untuk β1
Bentuk confidence interval untuk β1 sebagai berikut:
b1 ± tα/2Sb1
 b1 adalah angka koefisien faktor hasil perhitungan
 sedangkan tα/2Sb1 adalah margin kesalahan
Koefisien confidence dihubungkan dengan interval 1 – α, dan tα/2 adalah nilai t
yang dihasilkan pada daerah α/2 pada ekor distribusi t dengan degree of
freedom n – 2.
Contoh: nilat t yang terkait dengan α = 0,01 dengan degree of freedom n – 2 = 10
– 2 = 8. dari tabel t0,005 = 3,355. Dengan demikian 99% confidence interval atas
perhitungan β1 adalah:
b1 ± tα/2Sb1 = 5 ± 3,355(0,5803) = 5 ± 1,95
= 3,05 atau 6,95
Kesimpulan: Hipotesis H0: β1 = 0
Ha : β 1 ≠ 0
Dengan menggunakan t test unutuk test signifikan dengan interval tingkat
22ini
kepercayaan 99% diperoleh interval β1 dengan nilai antara 3,05 sd 6,95, hal
berarti β1 = 0 tidak dalam interval tersebut maka H0 ditolak
d. F test.
Pada regresi dengan satu variabel bebas F test hasilnya sama dengan t test, bila t test
mengindikasikan β1 ≠ 0 dan hubungan signifikan maka Ftest akan menghasilkan
kesimpulan yang sama. Tetapi pada variabel bebas lebih dari satu hanya F test yang
menghasilkan hasil test secara keseluruhan terdapat hubungan yang signifikan.
Mean square due to regression atau disebut juga mean square regression disingkat MSR
MSR = SSR/ Regression degree of freedom.
Regression degree of freedom adalah sama dengan jumlah variabel bebas. Mengingat
regresi sederhana jumlah variabel bebas 1, maka
MSR = SSR/1 = SSR
F = MSR/MSE
Pada kasus restoran maka F = 14.200/191,25 = 74,25
Lihat tabel F.
Cara mencari tabel F tsb:
 Lihat kolom Denominator Degrees of Freedom kebawah adalah angka n – 2, dimana n
adalah jumlaf sampel.
 Lihat kolom Area Upper Tail kebawah adalah angka luas area diatas ekor yang
mencerminkan angka dari α
 Pada angka degree of freedom n – 2 lihat kekanan pada angka α kemudian lihat angka
numerator degree of freedom yang sama dengan banyaknya variabel bebas, untuk regresi
linier atau sederhana dengan variabel bebas 1 maka lihat pada angka 1 disitu tertera 11,2623
inilah nilai F = 11,26
Kesimpulan F test.
F Test untuk test signifikan regresi linier sederhana
Hipotesis H0 : β1 = 0
Ha: β1 ≠ 0
Test statistik
f = MSR/MSE
Aturan penolakan:
p-value approach: Tolak H0 bila p-value ≤ α
Critical value approach: Tolak Ho bila F ≥ Fα
Dengan catatan:
 Fα sama dengan F distribusi dimana degree of freedom sama dengan 1 pada kolom numerator.
 Dan n – 2 pada kolom denominator
Tabel ANOVA Untuk Regresi Linier Sederhana

Source of Sum of Squares Degree of Mean Square F P-value

Variance Freedom
Regression SSR 1 MSR = SSR/1 F = MSR/MSE p-value

Error SSE n-2 MSE = SSE/ (n – 2)

24
Total SST n-1