Anda di halaman 1dari 24

REGRESI

LINIER SEDERHANA

Oleh:
Agung Rakhmat Cahyono
NBI : 421304405

FAKULTAS TEKNIK
PROGRAM STUDI MESIN
UNIVERSITAS 17 AGUSTUS 1945
2016

REGRESI LINIER SEDERHANA

regresi linier sederhana adalah hubungan secara


linear antara satu variabel independen (X) dengan
variabel dependen (Y). Analisis ini untuk
mengetahui arah hubungan antara variabel
independen dengan variabel dependen apakah
positif atau negatif dan untuk memprediksi nilai
dari variabel dependen apabila nilai variabel
independen
mengalami
kenaikan
atau
penurunan.. Data yang digunakan biasanya
berskala interval atau rasio.

Rumus regresi linear sederhana sebagi berikut:

Y = a + bX

Keterangan:

Y = Variabel dependen (nilai yang


diprediksikan)

X = Variabel independen

a= Konstanta (nilai Y apabila X = 0)

b= Koefisien regresi (nilai peningkatan


ataupun penurunan)

Koefisien regresib adalah kontribusi


besarnya perubahan nilaivariabel bebas,
semakin besar nilai koefisien regresi maka
kontribusi perubahan semakin besar,
demikian pula sebaliknya akan semakin
lecil. Kontribusi perubahan variabel bebas
(X) juga ditentukan oleh koefisien regresi
positif atau negatif.
5

Berikut ini adalah Langkah-langkah dalam melakukan


Analisis Regresi Linear Sederhana secara umum :

1. Tentukan Tujuan dari melakukan Analisis Regresi


Linear Sederhana
2. Identifikasikan Variabel Faktor Penyebab (Predictor)
dan Variabel Akibat (Response)
3. Lakukan Pengumpulan Data
4. Hitung X, Y, XY dan total dari masing-masingnya
5. Hitung a dan b berdasarkan rumus diatas.
6. Buatkan Model Persamaan Regresi Linear
Sederhana.
7. Lakukan Prediksi atau Peramalan terhadap Variabel
Faktor Penyebab atau Variabel Akibat

Restorant
i
1
2
3
4
5
Populasi
6
7
8
9
10

Populasi Mahasiswa
Xi
2
6
8
8
12
dan
16
20
20
22
26

Least Squares Method.


Mahasiswa

penjualan

Penjualan per Kuartal


Yi

58
105
88
118
117
perkuartal
137untuk
157
169
149
202

10 restoran

Perhitungan
i = b 0+ b 1X

Yi = perhitungan perolehan penjualan kuartalan restoran ke i.

b0 = bilangan konstanta (intercept) regresi garis hasil perhitungan.

b1 = sudut (slope) garis regresi hasil perhitungan.

Xi = jumlah mahasiswa untuk restoran ke i

Rumus penting.

Least Square Criterion: min (Yi i)2

Slope b1 = { (Xi XX ) (Yi - Y)}/(Xi-XX )2

Intercept b0 = Y b1XX

XX = (xi)/n

Y= ( Yi)/n

Note:
Yi : Nilai pengamatan dari dependent variable untuk ke i pengamatan.
i : Nilai perhitungan dari dependent variable untuk ke i pengamatan.
Y : Nilai mean dari dependent variable
Xi : Nilai dari independent variable untuk ke i pengamatan.
XX : Nilai mean dari independent variable untuk ke i pengamatan.
n : Total angka pengamatan.

Jumlah sampel 10 restoran atau n = 10

XX = (xi)/n = 140/ 10 = 14

Restoran
Xi
Yi
Y= (Y
=130
i)/n = 1300/10
i

1
2
3
4
5
6
7
8
9
10

2
6
8
8
12
16
20
20
22
26
140
xi

58
105
88
118
117
137
157
169
149
202
1300
Yi

Xi - XX
-12
-8
-6
-6
-2
2
6
6
8
12

Yi - Y

(Xi - XX ) (Yi - Y )
-72
-25
-42
-12
-13
7
27
39
19
72

864
200
252
72
26
14
162
234
152
864
2840
(Xi - XX ) (Yi - Y )

(Xi - XX )2
144
64
36
36
4
4
36
36
64
144
568
(Xi - XX )2

b1 = { (Xi XX ) (Yi - Y)}/(Xi-XX )2


= 2840/568 = 5
b0 = Y b1XX = 130 5x14 = 60
Maka persamaan regresi : = 60 + 5X

Dengan persamaan ini dapat memperkirakan berapa penjualan yang dapat terjadi sesuai dengan
jumlah Mahasiswa yang ditentukan jumlahnya. Jika jumlah Mahasiswa misalkan 16000 orang maka
penjualan diperkirakan akan mencapai = 60 + 5x16 = 140

Welcome to Minitab, press F1 for help.


Regression Analysis: Quarterly versus Student
The regression equation is
Quarterly = 60,0 + 5,00 Student
Predictor Coef
SE Coef
Constant 60,000 9,226
Student 5,0000
0,5803

T
6,50
8,62

P
0,000
0,000

S = 13,8293 R-Sq = 90,3% R-Sq(adj) = 89,1%


Analysis of Variance
Source
DF
SS
MS
F
P
Regression
1 14200 14200 74,25 0,000
Residual Error 8
1530
191
Total
9 15730

10

11

12

CONTOH SOAL
Seorang Manager mengumpulkan data pengalaman dan kemampuan menjual dari10
orang Sales dengan data sebagai berikut:

Tenaga Sales

1
2
3
4
5
6
7
8
9
10

Pengalaman
(Th)
1
3
4
4
6
8
10
10
11
13

Hasil
Penjualan
Rp 000.000,80
97
92
102
103
111
119
123
117
136

1.

Gambarkan scatter diagram dengan pengalaman sebagai variabel bebas.

2.

Hitung persamaan regresinya dapat menggunakan prediksi penjualan berdasarkan


pengalaman tenaga sales.

3.

Berapa prediksi kemampuan penjualan dari tenaga sales dengan pengalaman 9


tahun?

13

14

15

Regression Analysis: Annual sales versus


Pengalaman
The regression equation is
Annual sales = 80,0 + 4,00 Pengalaman
Predictor
Coef
SE Coef
Constant
80,000 3,075
Pengalaman 4,0000 0,3868

T
P
26,01 0,000
10,34 0,000

S = 4,60977 R-Sq = 93,0% R-Sq(adj) = 92,2%


Analysis of Variance
Source
DF
Regression
1
Residual Error 8
Total
9

SS
MS
F
P
2272,0 2272,0 106,92 0,000
170,0
21,3
2442,0

16

Coeffisient Determination.
Koefisien determinasi adalah alat ukur the goodness of fit atas estimasi persamaan
regresi.
1. Sum Of Squares Due to Error (SSE)
SSE = (Yi i)2
SSE adalah mengukur kesalahan penggunaan estimasi persamaan regresi untuk
menghitung nilai variabel terikat dari sampel. Contoh x1 = 2 dan Y1 = 58, dengan
menggunakan persamaan regresi kita peroleh 1 = 60 + 5x(2) = 70. Error atau kesalahan
perhitungan Y1 1 = 58 70 = -12. kesalahan kuadratis menjadi (-12)2 = 144. SSE =
1530 sebagai ukuran kesalahan estimasi dg menggunakan persamaan regresi = 60 +
5X untuk memprediksi penjualan. SSE= jumlah kuadratis perbedaan nilai data penjualan
restoran ke i terhadap nilai persamaan garis ke i.
Restorant
i
1
2
3
4
5
6
7
8
9
10

Xi: Populasi
Mahasiswa
(1000)

Yi :Penjualan
Perkuartal
Rp 0.000.000
2
6
8
8
12
16
20
20
22
26

58
105
88
118
117
137
157
169
149
202

Prediksi
Penjualan
i = 60 + 5Xi
70
90
100
100
120
140
160
160
170
190

Error (Kesalahan)
Yi i
-12
15
-12
18
-3
-3
-3
9
-21
12

Kesalahan
(Error)
Kuadratis
144
225
144
324
9
9
9
81
441
144
SSE = 1530

17

2. Total Sum Of Squares (SST)


SST = (Yi )2
SST adalah menggunakan nilai rata-rata (mean) hasil penjualan kuartalan untuk
10 sampel: = Yi /n = 1300/10 = 130 dan angka ini yaitu = 130 untuk
menghitung jumlah kuadratis deviasi yang terjadi pada sampel atau disebut
SST. SST= jumlah kuadratis nilai perbedaan data penjualan restoran ke i
terhadap rata-rata penjualan 10 restoran.
Restorant
i

Xi = Populasi
Mahasiswa
(000)

1
2
3
4
5
6
7
8
9
10

3.

Yi = Penjualan
Perkuartal
(0.000.000)
2
6
8
8
12
16
20
20
22
26

58
105
88
118
117
137
157
169
149
202

Deviation
Yi

Kuadrat Deviasi
(Yi )2
-72
-25
-42
-12
-13
7
27
39
19
72

5.184
625
1.764
144
169
49
729
1.521
361
5.184
SST= 15.730

Sum Of Square Due To Regression (SSR)


SSR = (i )2
Hubungan SST, SSR dan SSE: SST = SSR + SSE

18

Y
Y10 -

200

Penjualan Kuartalan (Rp0.000.000,-)

Y10 -

60

10 -

5X

125

Y = = 130

100

75
50
25
X
2

10 12

14

16

18

Populasi Mahasiswa (000)

20

22

24

26

19

DEVIASI TENTANG GARIS REGRESI ESTIMASI DAN GARIS Y =

4.

Koefisien Determinasi.
r2 = SSR/SST
dari data contoh restoran
r2 = SSR/SST = 14.200/15.730 = 0,9027
Dengan kata lain 90,27% variabilitas penjualan dapat dijelaskan terdapat
hubungan linier antara jumlah populasi mahasiswa dengan penjualan
dengan menggunakan persamaan regresai = 60 + 5X.

5. Test Signifikan.
a. Mean Square Error (Estimate of 2)
s2 = MSE = SSE/ n-2
n 2 = degrees of freedom.
SSE pada kasus restoran SSE = 1530
s2 = MSE = SSE/ n-2 = 1530/(10-2) = 191,25
Standard error of estimate = s = MSE = 191,25 = 13,829

20

b. t test
Estimate Standard Deviastion of b1
Sb1 = S/(Xi - XX )2
S = 13,829
(Xi - XX )2 = 568
Sb1 = 13,829/568 = 0,5803
b1 = 5
t = b1/ sb1 = 5/ 0,5803 = 8,62
t tabel dengan degrees of freedom n 2 = 10 2 = 8, dengan tingkat signifikan = 0,01
maka diperoleh t = 3,355 dengan luas area diatas ekor = 0,01/2 = 0,005. Karena test
menggunakan distribusi normal 2 ekor maka p value dengan t = 8,62 harus memiliki luas p
kurang dari 2(0,005) = 0,01. Dari hasil perhitungan MINITAB p-value = 0.000. Karena pvalue < = 0,01 maka H0 ditolak dan disimpulkan 1 tidak sama dengan 0 pada persamaan
regresi Y = 0 + 1X +
Kesimpulan: t Test untuk signifikan pada regresi linier sederhana
H 0 : 1 = 0
Ha : 1 0
Test Statistik t = b1/Sb1
Aturan Penolakan:
p-value approach: Tolak H0 bila p- value
atau bila t t/2

Critical value approach: Tolak H0 bila t -t/2

Dimana t/2 berdasarkan t distribusi dengan n 2 degrees of freedom

21

c.

Confidence Interval untuk 1


Bentuk confidence interval untuk 1 sebagai berikut:
b1 t/2Sb1

b1 adalah angka koefisien faktor hasil perhitungan

sedangkan t/2Sb1 adalah margin kesalahan

Koefisien confidence dihubungkan dengan interval 1 , dan t/2 adalah nilai t


yang dihasilkan pada daerah /2 pada ekor distribusi t dengan degree of
freedom n 2.
Contoh: nilat t yang terkait dengan = 0,01 dengan degree of freedom n 2 = 10
2 = 8. dari tabel t0,005 = 3,355. Dengan demikian 99% confidence interval atas
perhitungan 1 adalah:
b1 t/2Sb1 = 5 3,355(0,5803) = 5 1,95
= 3,05 atau 6,95
Kesimpulan: Hipotesis H0: 1 = 0
Ha: 1 0
Dengan menggunakan t test unutuk test signifikan dengan interval tingkat
kepercayaan 99% diperoleh interval 1 dengan nilai antara 3,05 sd 6,95, 22
hal ini
berarti 1 = 0 tidak dalam interval tersebut maka H0 ditolak

d.

F test.
Pada regresi dengan satu variabel bebas F test hasilnya sama dengan t test, bila t test
mengindikasikan 1 0 dan hubungan signifikan maka Ftest akan menghasilkan
kesimpulan yang sama. Tetapi pada variabel bebas lebih dari satu hanya F test yang
menghasilkan hasil test secara keseluruhan terdapat hubungan yang signifikan.
Mean square due to regression atau disebut juga mean square regression disingkat MSR
MSR = SSR/ Regression degree of freedom.
Regression degree of freedom adalah sama dengan jumlah variabel bebas. Mengingat
regresi sederhana jumlah variabel bebas 1, maka
MSR = SSR/1 = SSR
F = MSR/MSE
Pada kasus restoran maka F = 14.200/191,25 = 74,25
Lihat tabel F.
Cara mencari tabel F tsb:

Lihat kolom Denominator Degrees of Freedom kebawah adalah angka n 2, dimana n


adalah jumlaf sampel.

Lihat kolom Area Upper Tail kebawah adalah angka luas area diatas ekor yang
mencerminkan angka dari

Pada angka degree of freedom n 2 lihat kekanan pada angka kemudian lihat angka
numerator degree of freedom yang sama dengan banyaknya variabel bebas, untuk regresi
linier atau sederhana dengan variabel bebas 1 maka lihat pada angka 1 disitu tertera 11,26
inilah nilai F = 11,26

23

Kesimpulan F test.
F Test untuk test signifikan regresi linier sederhana
Hipotesis

H0: 1 = 0
Ha: 1 0

Test statistik
f = MSR/MSE
Aturan penolakan:
p-value approach: Tolak H0 bila p-value
Critical value approach: Tolak Ho bila F F
Dengan catatan:

F sama dengan F distribusi dimana degree of freedom sama dengan 1 pada kolom numerator.
Dan n 2 pada kolom denominator
Tabel ANOVA Untuk Regresi Linier Sederhana
Source of
Variance

Sum of
Squares

Degree of
Freedom

Mean Square

P-value

Regression

SSR

MSR = SSR/1

F = MSR/MSE

p-value

Error

SSE

n-2

MSE = SSE/ (n
2)

Total

SST

n-1

24