Analisis Regresi

Regresi Linear Sederhana

Dr. Hendro Widjanarko, SE., MM

Jurusan Manajemen
Fakultas Ekonomi
UPN “Veteran” Yogyakarta
Analisis regresi merupakan sebuah alat statistik yang
memberikan
penjelasan tentang pola hubungan (model) antara dua
variabel atau lebih
(Draper dan Smith, 1992). Dalam analisis regresi,
dikenal dua jenis variabel yaitu :
- Variabel Respon disebut juga variabel dependent
yaitu variabel yang keberadaannya diperngaruhi
oleh variabel lainnya dan dinotasikan dengan Y.
- Variabel Prediktor disebut juga variabel independent
yaitu variabel yang bebas (tidak dipengaruhi oleh
variabel lainnya) dan dinotasikan dengan X.
• Gagasan perhitungan ditetapkan oleh
Sir Francis Galton (1822-1911)
• Persamaan regresi :Persamaan
matematik yang memungkinkan
peramalan nilai suatu peubah takbebas
(dependent variable) dari nilai peubah
bebas (independent variable)
 Pengantar

• Dua variabel numerik  ingin diketahui

hubungannya
• Dua variabel numerik  salah satu variabel
dianggap sebagai variabel yang
mempengaruhi variabel lainnya
• Variabel yang mempengaruhi  X, variabel
bebas, variabel penjelas
• Variabel yang dipengaruhi  Y, variabel tak
bebas, variabel respon
 Pengantar

Misalnya ingin melihat hubungan antara

pengeluaran untuk iklan (ads
expenditures, X) dengan penerimaan
melalui penjualan (sales revenue, Y)
Tahun 1 2 3 4 5 6 7 8 9 10

X 10 9 11 12 11 12 13 13 14 15

Y 44 40 42 46 48 52 54 58 56 60
 Pengantar
65
sales revenue (millions of dollars)

60

55

50

45

40

35
8 10 12 14 16
ads expenditures (millions of dollars)
 Pengantar
65
Ingin dibuat
model
sales revenue (millions of dollars)

60

55
Y = a + bX
Model memuat
50 error, selisih nilai
45 e sebenarnya
dengan dugaan
40 Ŷ berdasar model
Y
35
8 10 12 14 16 e  Y - Ŷ
ads expenditures (millions of dollars)
 Bagaimana mendapatkan a dan b?

Metode yang digunakan : OLS (ordinary

least squares), mencari a dan b sehingga
jumlah kuadrat error paling kecil

Cari penduga a dan b sehingga

 e   Y - â - b̂X 
n n 2
2
i i i
i 1 i 1

minimum
Bagaimana mendapatkan a dan b?

 X  X Yi  Y 
n

i
b̂  i 1

 X  X
n
2
i
i 1

â  Y  b̂X

Rata-rata Y Rata-rata X
 Ilustrasi Perhitungan
X Y X-rata Y-rata (X-rata)(Y-rata) (X-rata)2
10 44 -2 -6 12 4
9 40 -3 -10 30 9
11 42 -1 -8 8 1
12 46 0 -4 0 0
11 48 -1 -2 2 1
12 52 0 2 0 0
13 54 1 4 4 1
13 58 1 8 8 1
14 56 2 6 12 4
15 60 3 10 30 9

X  12  X  XY  Y  106 b = 106 / 30 = 3.533

Y  50  X  X 
2
 30 a = 50 – 3.533 (12) = 7.60
 65
sales revenue (millions of dollars)

y = 3.5333x + 7.6
60

55

50

45

40

35
8 10 12 14 16
ads expenditures (millions of dollars)
 Interpretasi a dan b

• a = besarnya nilai Y ketika X sebesar 0

• b = besarnya perubahan nilai Y ketika X
berubah satu satuan. Tanda koefisien b
menunjukkan arah hubungan X dan Y
Pada kasus ilustrasi
• a = 7.6 = besanya sales revenue jika tidak
ada belanja iklan adalah 7.6 mlo
• b = 3.533 = jika belanja iklan dinaikkan 1
juta dolar maka sales revenue naik 3.533
juta dolar
 Uji Signifikasi Koefisien b
H0 : b = 0 (artinya X tidak mempengaruhi Y)
H1 : b  0 (artinya X mempengaruhi Y)

 Y  Ŷ 
n
2
i i
b̂ - 0
stat uji  t  s b̂  i 1

(n  k ) X i  X 
n
s b̂ 2

i 1

Tolak H0 jika nilai t melebihi nilai t pada tabel dengan

derajat bebas (n-2) pada nilai peluang /2

Tolak H0 jika nilai-p < 

 Uji signifikansi koefisien b

• Nilai sb = 0.52
• Nilai t = 6.79
• Nilai t pada tabel (db = 8,  = 5%) =
2.306
• Kesimpulan : Tolak H0, data
mendukung kesimpulan adanya
pengaruh ads expenditure terhadap
sales revenue.
 Ukuran Kebaikan Model

• Menggunakan koefisien determinasi

(R2, R-squared)
• R-squared bernilai antara 0 s/d 1
• R-squared adalah persentase
keragaman data yang mampu
diterangkan oleh model
• R-squared tinggi adalah indikasi model
yang baik
 Ukuran Kebaikan Model

R 2

 Ŷ  Y 
i
2

 Y  Y 
2
i

• Model dalam ilustrasi bisa ditunjukkan

memiliki R-squared 0.85 atau 85%
 di SAS

PRC FREQ DATA = sas-data-set;

MODEL dependent = independent;
RUN;
data contoh;
input X Y;
label X = 'ads expenditures (juta $)'
Y = 'revenue (juta ($)';
cards;
10 44
9 40
11 42
12 46
11 48
12 52
13 54
13 58
14 56
15 60
;
proc reg data=contoh;
model Y = X;
run;
 The REG Procedure
Model: MODEL1
Dependent Variable: Y revenue (juta ($)
nilai p pengujian
pengaruh X thd Y
Number of Observations Read 10
Number of Observations Used 10

Analysis of Variance

Sum of Mean
Source DF Squares Square F Value Pr > F

Model 1 374.53333 374.53333 45.77 0.0001

Error 8 65.46667 8.18333
Corrected Total 9 440.00000

Root MSE 2.86065 R-Square 0.8512

Dependent Mean 50.00000 Adj R-Sq 0.8326
Coeff Var 5.72131

Parameter Estimates

Parameter Standard
Variable Label DF Estimate Error t Value Pr > |t|

Intercept Intercept 1 7.60000 6.33232 1.20 0.2644

X ads expenditures (juta $) 1 3.53333 0.52228 6.77 0.0001
 The REG Procedure
Model: MODEL1 koefisien regresi
Dependent Variable: Y revenue (juta ($)

Number of Observations Read 10 Y = 7.6 + 3.53 X

Number of Observations Used 10

Analysis of Variance

Sum of Mean
Source DF Squares Square F Value Pr > F

Model 1 374.53333 374.53333 45.77 0.0001

Error 8 65.46667 8.18333
Corrected Total 9 440.00000

Root MSE 2.86065 R-Square 0.8512 R2

Dependent Mean 50.00000 Adj R-Sq 0.8326
Coeff Var 5.72131

Parameter Estimates

Parameter Standard
Variable Label DF Estimate Error t Value Pr > |t|

Intercept Intercept 1 7.60000 6.33232 1.20 0.2644

X ads expenditures (juta $) 1 3.53333 0.52228 6.77 0.0001
proc reg data=contoh;
model Y = X;
symbol1 v = '=' c = blue;
plot Y*X /cline = red;
run;