ANALISIS REGRESI

(REGRESSION ANALYSIS)
Oleh:
Agung Priyo Utomo, S.Si., MT.(agung@stis.ac.id)
Sekolah Tinggi Ilmu Statistik (STIS)

Agung Priyo Utomo (STIS Jakarta)

Inferensi dalam Analisis Regresi

Model Regresi Linear Sederhana

Yi = 0 + 1Xi + i
Dimana i

merupakan random variabel yang

terdistribusi NID(0,2)

Contoh:
Sebuah Perusahaan, Westwood Company, sedang
meneliti tentang hubungan antara jumlah sparepart
yang diproduksi (X) dengan jumlah jam kerja yang
diperlukan (Y) dari 10 proses produksi terakhir.
(Data ada di buku Neter and Wasserman, halaman 40)

Agung Priyo Utomo (STIS Jakarta)

INFERENSI TENTANG MODEL

Confidence Interval dan Uji Hipotesis

Confidence Interval (1-)100% untuk 1

P( 1 s( 1 )t(1

2 ,n 2)

1 1 s( 1 )t(1

2 ,n 2)

) (1 )100%

Pada contoh Westwood Company, diperoleh

1 2.0
0 10.0
n = 10
SSE = 60 MSE = 7.5
2
2
(
X

X
)
3400
X i 28400 X 2.0 i
2
(
Y

Y
)
13660
i

Sehingga CI
P(1.89 1

Dengan tingkat kepercayaan

95%, jika jumlah sparepart yg
95 % untuk 1 adalahdiproduksi bertambah 1 unit,
maka akan meningkatkan rata 2.11) = 95 %
rata jam kerja antara 1,89
sampai 2,11 jam
3
Agung Priyo Utomo (STIS Jakarta)

INFERENSI TENTANG MODEL

Confidence Interval dan Uji Hipotesis

Uji Hipotesis Tentang 1

a. H0: 1 = 0
b. H0: 1 0
c. H0: 1 0
H1 : 1 0
H1 : 1 > 0
H1 : 1 < 0
1
*
Statistik Uji: t
s ( 1 )
Keputusan pada tingkat sign. : Tolak H0 jika
a. | t* || t(1 ,n2) |
b. t* t(1,n2) c. t* t(1 ,n2)
Kesimpulan :
Jika H0 ditolak, maka dengan tingkat kepercayaan (1- )
100 %, terdapat hubungan yang linier antara variabel X
dan variabel Y (terdapat pengaruh yg signifikan dari
variabel X thd variabel Y)
2

Agung Priyo Utomo (STIS Jakarta)

INFERENSI TENTANG MODEL

Confidence Interval dan Uji Hipotesis

Pada contoh Westwood Co., diperoleh t* = 42.58

t(0.975,8) = 2.306 dan t(0.95,8) = 1.860

Keputusan?
Kesimpulan?

Statistik Uji-t setara dengan Statistik Uji-F

Agung Priyo Utomo (STIS Jakarta)

PENDEKATAN ANOVA DALAM

ANALISIS REGRESI

Dasar: Partisi dari Sum Squares Total (SST) dan

derajat bebas
Yi Y Yi Yi Yi Y
2
2
2

(
Y

Y
)

(
Y

Y
)

(
Y

Y
)
i
i i i
SST
Total Sum of Squares
df
n1

SSE
Error SS
n2

SSR
Regression SS
1

Rumus untuk penghitungan

SST Yi 2

( Yi ) 2
n

(
Xi
)

SSR 12 X i2

Agung Priyo Utomo (STIS Jakarta)

ILUSTRASI GEOMETRIS
PARTISI JUMLAH KUADRAT
Yi
Yi

Yi Yi

Yi Y
Y

Agung Priyo Utomo (STIS Jakarta)

PENDEKATAN ANOVA DALAM

ANALISIS REGRESI

Mean Squares (MS): SS dibagi dengan derajat bebasnya

SSR
SSE
MSR
SSR dan MSE
1
n2

Tabel ANOVA untuk Regresi Linear Sederhana

Source of
Variation

SS

df

MS

Regression

(Yi Y )2

MSR

2 12 ( X i X ) 2

Error

(
Y

Y
)
i i

n2

MSE

Total

(Yi Y )2

n1

E{MS}

Agung Priyo Utomo (STIS Jakarta)

F*

MSR
MSE

PENDEKATAN ANOVA DALAM

ANALISIS REGRESI

Anova tersebut dapat digunakan untuk menguji

H0: 1 = 0 vs H1: 1 0

Tabel ANOVA untuk Kasus Westwood Company

Pada Westwood Co., diperoleh SSR = 13600 dan SSE =
60, sehingga

13600
60
MSR
13600 dan MSE
7.5
1
8

Agung Priyo Utomo (STIS Jakarta)

PENDEKATAN ANOVA DALAM

ANALISIS REGRESI

Tabel ANOVA untuk Kasus Westwood Company

Source of
Variation

SS

df

MS

Regression

13600

13600

Error

60

7.5

Total

13660

F*
1813

Keputusan: Tolak H0 jika F* > F(1-;1, n-2)

Dari tabel F, diperoleh F(0.95;1, 8) = 5,32
Kesimpulan?
Agung Priyo Utomo (STIS Jakarta)

10

PENILAIAN KETEPATAN MODEL

(GOODNESS OF FIT)

Koefisien Determinasi (R2)

Mengukur proporsi keragaman total dari nilai
observasi Y di sekitar rataannya yang dapat
diterangkan oleh garis regresinya atau variabel bebas
yg digunakan.
SSR
SSE
R
1
SST
SST
2

Nilainya: 0 R2 1, makin mendekati 1 berarti model

regresi yg digunakan makin tepat/baik

Agung Priyo Utomo (STIS Jakarta)

11

KOEFISIEN KORELASI
Linear Correlation Coefficient

suatu ukuran yang menyatakan erat tidaknya hubungan

linier yang ada antara variable X dan Y,
nilai korelasi dirumuskan sebagai
r R
2

( xi x )( yi y )
( xi x )2 ( yi y )2

Nilai koefisien korelasi berkisar -1 sampai 1 (-1 r 1)

tanda positif atau negatif dari R sesuai dengan tanda
positif atau negatif pada parameter 1
Agung Priyo Utomo (STIS Jakarta)

12

Various degrees of linear correlation

Agung Priyo Utomo (STIS Jakarta)

13

Various degrees of linear correlation

Agung Priyo Utomo (STIS Jakarta)

14

CONTOH: REED AUTO SALES

KOEFISIEN DETERMINASI
R2 = SSR/SST = 100/114 = 0,8772
Artinya:
Hubungan regresi sangat kuat karena 88% variasi mobil
yang terjual dapat dijelaskan oleh banyaknya iklan TV.

KOEFISIEN KORELASI
rx y 0,8772 0,9366

Agung Priyo Utomo (STIS Jakarta)

15

KESETARAAN UJI KOEFISIEN REGRESI

DAN KOEFISIEN KORELASI

rXY = rYX

S
1 r y r
Sx

Hipotesis
H 0 : 1 = 0
H 1 : 1 0

(
y

y
)
i i
Sy

; 1

Sx

i ( xi x)2

setara dengan

2
(
y

y
)
i i

2
i ( xi x)

H0 : = 0
H1 : 0

Tolak H0 berarti ada hubungan linier antara variabel X

dan Y
Agung Priyo Utomo (STIS Jakarta)

16

KESETARAAN UJI KOEFISIEN REGRESI

DAN KOEFISIEN KORELASI (L)

Statistik Uji:
t hitung

r 0
1 r
n2
2

r n2
1 r

~ t n2

Tolak H0 jika
t hitung t
2

;n 2

Agung Priyo Utomo (STIS Jakarta)

17

Example: linear correlation coefficient for Car Age and

Price Data

Agung Priyo Utomo (STIS Jakarta)

18

SPSS Printout for one Predictor

Variabl es Entered/Removedb

Model
1

Variables
Entered
Car Age
a
(y ears)

Variables
Remov ed
.

Method
Enter

a. All requested v ariables entered.

b. Dependent Variable: Price ($)
Model Summary

Model
1

R
.924a

R Square
.853

Adjusted
R Square
.837

St d. Error of
the Estimate
12.577

a. Predictors: (Constant), Car Age (y ears)

R2, Percentage of Variance

Agung Priyo Utomo (STIS Jakarta)

19

Error of
prediction
ANOVAb

Model
1

Regression
Residual
Total

Sum of
Squares
8285.014
1423.532
9708.545

df
1
9
10

Mean Square
8285.014
158.170

a. Predictors: (Constant ), Car Age (y ears)

F
52.380

Sig.
.000a

Is regression Significant?

b. Dependent Variable: Price ($)

Coeffi ci entsa

Model
1

(Constant)
Car Age (y ears)

Unstandardized
Coef f icients
B
St d. Error
195.468
15.240
-20.261
2.800

St andardized
Coef f icients
Beta
-.924

t
12.826
-7.237

Sig.
.000
.000

a. Dependent Variable: Price ($)

Slope

Intercept
Agung Priyo Utomo (STIS Jakarta)

20