=
2
2 1
1 2 1
2
1 1
2 1
...
... ... ... ... ...
...
...
ki i ki i ki ki
ki i i i i i
ki i i
X X X X X X
X X X X X X
X X X n
A
10
Menaksir Koefisien Regresi
Dengan Menggunakan Matriks
(
(
(
(
=
k
b
b
b
b
...
1
0
(
(
(
(
(
=
=
=
=
i ki k
i i
i
Y X g
Y X g
Y g
g
...
1 1
0
11
Menaksir Koefisien Regresi
Dengan Menggunakan Matriks
2. Membentuk persamaan normal dalam
bentuk matriks
A b = g
3. Perhitungan matriks koefisien b
b = A
-1
g
12
Metode Pendugaan Parameter
Regresi
Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2
variabel bebas
Tahapan pendugaannya :
1. Dilakukan turunan pertama terhadap b
0
, b
1
dan b
2
( )
= =
=
n
i
n
i
i i i i
X b X b b Y e
1 1
2
2 2 1 1 0
2
( )
( )
i i i
i
X b X b b Y
b
e
2 2 1 1 0
0
2
2 =
c
c
( )
( )
i i i i
i
X X b X b b Y
b
e
1 2 2 1 1 0
1
2
2 =
c
c
( )
( )
i i i i
i
X X b X b b Y
b
e
2 2 2 1 1 0
2
2
2 =
c
c
13
Metode Pendugaan
Parameter Regresi
2. Ketiga persamaan hasil penurunan disamakan
dengan nol
= + +
i i i
Y X b X b nb
2 2 1 1 0
= + +
i i i i i i
Y X X X b X b X b
1 2 1 2
2
1 1 1 0
= + +
i i i i i i
Y X X b X X b X b
2
2
2 2 2 1 1 2 0
14
Metode Pendugaan
Parameter Regresi
3. Nilai b
1
dan b
2
dapat diperoleh dengan memakai
aturan-aturan dalam matriks
2 2 1 1 0
X b X b Y b =
2
1
2 1
1
2
2
1
2
1
1
2
1
2 1
1
1
1
2
2
1
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
=
= = =
= = = =
n
i
n
i
n
i
n
i
n
i
n
i
n
i
X X X X
Y X X X Y X X
b
2
1
2 1
1
2
2
1
2
1
1
1
1
2 1
1
2
1
2
1
2
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
|
|
.
|
\
|
=
= = =
= = = =
n
i
n
i
n
i
n
i
n
i
n
i
n
i
X X X X
Y X X X Y X X
b
15
Uji Kecocokan Model
1. Dengan Koefisien Determinasi
R
2
menunjukkan proporsi variasi total dalam respon Y
yang dapat diterangkan oleh model
r merupakan koefisien korelasi antara Y dengan
kelompok X
1
, X
2
, X
3
, , X
k
JKT
JKR
R =
2
r R =
2
16
Uji Kecocokan Model
2. Dengan Pendekatan Analisis Ragam
Tahapan Ujinya :
1. Hipotesis =
H
0
: | = 0
H
1
: | = 0
dimana
| = matriks [ |
0
, |
1
, |
2
, , |
k
]
17
Uji Kecocokan Model
2. Tabel Analisis Ragam
Komponen
Regresi
SS db MS F
hitung
Regresi JKR k JKR / k JKR /k
s
2
Galat JKG n k 1 s
2
= JKG / n-k-1
Total JKT n 1
18
Uji Kecocokan Model
3. Pengambilan Keputusan
H
0
ditolak jika
pada taraf kepercayaan o
F
hitung
> F
tabel(1 , n-k-1)
19
Uji Parsial Koefisien Regresi
Tahapan Ujinya :
1. Hipotesis =
H
0
: |
j
= 0
H
1
: |
j
= 0
dimana |
j
merupakan koefisien yang akan
diuji
20
Uji Parsial Koefisien Regresi
2. Statistik uji :
Dimana :
b
j
= nilai koefisien b
j
s =
c
jj
= nilai matriks A
-1
ke-jj
jj
j j
c s
b
t
|
=
1 / k n JKG
21
Uji Parsial Koefisien Regresi
3. Pengambilan keputusan
H
0
ditolak jika
pada taraf kepercayaan o
t
hitung
> t
o/2(db= n-k-1)
22
Pemilihan Model Terbaik
1. All Possible Regression
Tahapan pemilihan :
i. Tuliskan semua kemungkinan model regresi dan
kelompokkan menurut banyaknya variabel
bebas
ii. Urutkan model regresi menurut besarnya R
2
iii. Periksalah untuk setiap kelompok apakah
terdapat suatu pola variabel yang konsisten
iv. Lakukan analisa terhadap kenaikan R
2
pada tiap
kelompok
23
Pemilihan Model Terbaik
Contoh :
Akan dianalisis model regresi yang terdiri dari 4 variabel bebas
Pembagian kelompoknya
Kelompok A terdiri dari koefisien intersep
Kelompok B terdiri dari 1 variabel bebas
Kelompok C terdiri dari 2 variabel bebas
Kelompok D terdiri dari 3 variabel bebas
Kelompok E terdiri dari 4 variabel bebas
0
| = Y
i i
X Y | | + =
0
j j i i
X X Y | | | + + =
0
k k j j i i
X X X Y | | | | + + + =
0
4 4 3 3 2 2 1 1 0
X X X X Y | | | | | + + + + =
24
Pemilihan Model Terbaik
Persamaan regresi yang menduduki posisi utama
dalam setiap kelompok adalah
Persamaan terbaiknya adalah Y = f(X
1
, X
4
)
Kelompok Model Regresi R
2
B Y = f(X
4
) 67,5%
C Y = f(X
1
, X
2
) 97,9%
Y = f(X
1
, X
4
) 97,2%
D Y = f(X
1
, X
2
, X
4
) 98,234%
E Y = f(X
1
, X
2
, X
3
, X
4
) 98,237%
25
Pemilihan Model Terbaik
2. Backward Elimination Procedur
Tahap pemilihannya :
i. Tuliskan persamaan regresi yang mengandung
semua variabel
ii. Hitung nilai t parsialnya
iii. Banding nilai t parsialnya
a. Jika t
L
< t
O
maka buang variabel L yang menghasilkan
t
L
, kemudian hitung kembali persamaan regresi tanpa
menyertakan variabel L
b. Jika t
L
> t
O
maka ambil persamaan regresi tersebut
26
Pemilihan Model Terbaik
Contoh :
Akan dianalisis model regresi yang terdiri dari 4 variabel bebas
Model regresi yang mengandung semua variabel bebas
Model terbaiknya
Y = f(X
1
,X
2
)
4 4 3 3 2 2 1 1 0
X X X X Y | | | | | + + + + =
Persamaan Regersi t parsial F
Y = f(X
1
,X
2
,X
3
,X
4
) 157,266*
X
1
4,337*
X
2
0,497*
X
3
0,018
X
4
0,041*
Y = f(X
1
,X
2
,X
4
) 166,83*
X
1
154,008*
X
2
5,026*
X
4
1,863
Y = f(X
1
,X
2
) 229,5*
27
Pemilihan Model Terbaik
3. Stepwise Regression Procedur
Tahap pemilihannya :
i. Hitung korelasi setiap variabel bebas terhadap variabel Y.
Variabel bebas dengan nilai korelasi tertinggi masukkan dalam
model regresi (syarat uji F menunjukkan variabel ini
berpengaruh nyata)
ii. Hitung korelasi parsial setiap variabel bebas tanpa
menyertakan variabel bebas yang telah mauk model.
Masukkan variabel bebas dengan korelasi parsial tertinggi ke
dalam model
iii. Hitung nilai t parsial variabel yang telah masuk model, jika
tidak berpengaruh nyata keluarkan dari model
iv. Kembali ke langkah ii
28
Pemilihan Model Terbaik
Contoh :
Akan dianalisis model regresi yang terdiri dari 4 variabel
bebas
29
Model Variabel Korelasi t parsial F
r
iy
0,731
r
2y
0,816
r
3y
-0,535
r
4y
-0,821
Y = f(X
4
) 22,798*
r
1y.4
0,915
r
2y.4
0,017
r
3y.4
0,801
Y = f(X
1
,X
4
) 176,627*
r
2y.14
0,358 X
1
= 108,223*
r
3y.14
0,320 X
4
= 159,295*
Y = f(X
1
, X
2
,X
4
) 166,832*
X
1
= 154,008*
X
2
= 5,026*
X
4
= 1,863
r
3y.124
0,002
Y = f(X
1
, X
2
) 229,504*
Model terbaik
Y = f(X
1
, X
2
)