Regresi Linier Berganda

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Model Regresi Linier Berganda

Model Regresi Linier Berganda, dengan k peubah penjelas :

! = #$ + #& '& + #( '( + ⋯ + #* '* + +

Parameter regresi sebanyak p = k+1 diduga melalui data.

ASUMSI : Hubungan setiap peubah penjelas dengan peubah responnya LINIER
(pangkat X1 sampai Xk adalah satu)

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Model Regresi Linier Berganda
Model untuk suatu amatan

Data Regresi Linier Berganda Untuk setiap amatan model

regresi linier berganda dapat
dituliskan sebagai:

Galat : !" = $" − &' − &()"( − ⋯ − &+ )", , . = 1,2, … , 2

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Model Regresi Linier Berganda
Model-model yang lebih kompleks
Model Regresi Linier Berganda
!" = !
1.
!$ = ! $
!% = ! %

2.

3.

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Model regresi linier berganda
dengan notasi matriks

Regresi linier berganda dengan ! peubah

penjelas dan " amatan dalam notasi matriks :

#$×& = ($×) *)×& + ,$×&

p adalah banyaknya
parameter, p = k+1

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Model regresi linier berganda
dengan notasi matriks

Contoh: model regresi linier berganda dalam notasi matriks

Data : y x1 x2 Model Regresi dalam notasi Matriks : ! = #$ + &

3.5 3.1 30 3.5 1 3.1 30
3.2 3.4 25 3.2 1 3.4 25 ()
3.0 1 3.0 20
3.0 3.0 20 != #= $= (*
2.9 1 3.2 30 (+
2.9 3.2 30 4.0 1 3.9 40
4.0 3.9 40 2.5 1 2.8 25
2.3 1 2.2 30
2.5 2.8 25
2.3 2.2 30

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

Asumsi Regresi Linier Berganda

ASUMSI YANG HARUS DIPENUHI DALAM ANALISIS REGRESI BERGANDA :

1. Kondisi Gauss-Marcov

1. / $" = 0, nilai harapan/rataan galat sama dengan nol

2. / $21 = 345 $ = 6 2 7, ragam galat homogen untuk setiap nilai x (homoscedasticity)
3. / $1 $9 = 0, ) ≠ ,, sisaan saling bebas/tidak ada autokorelasi

2. Galat menyebar Normal

3. Galat bebas terhadap peubah bebas, cov (!" , $" ) = 0, ∀)
4. Tidak ada multikolinieritas pd peubah bebas, cov (!" , !* ) = 0, ∀) ≠ ,

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Model Regresi Linier Berganda
Penduga MKT bagi Parameter (notasi matriks)

Ø Model regresi dalam notasi matriks : ASUMSI :

! = #$ + & 4 & =5 4 ! = #$
Ø Penduga MKT bagi $ diperoleh
dengan meminimumkan
' $ = &( & = ! − #$ ( (! − #$) Minimalisasi '($) menghasilkan sistem persamaan

Diasumsikan bahwa #( # memiliki invers, sehingga

- = #( #
$ /6 #( !
penduga MKT bagi $ dapat dituliskan sebagai
adalah matriks hat
,
Ø Vektor nilai dugaan ! - = .!
, = #$
! .=# ## ( /0
# (
atau matriks proyeksi

Ø Vektor sisaan dapat dituliskan sebagai 1 = ! − !, 1 = ! − .!

- = .!
, = #$ 1 = 23 − . !
!

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Model Regresi Linier Berganda
Penduga MKT bagi Parameter (notasi matriks)

Contoh : Menduga parameter regresi linier berganda dengan MKT

-1
Dugaan bagi parameter regresi : ! b=
"
( k +#×%
1) 1 ( k +1) ( X' X) ( k +1) (k +1) X'n n y1 p = k+1

é1 3.1 30 ù
Dari data contoh tsb. didapat : ê1
ê 3.4 25 úú
é1 1 1 1 1 1 1 ù ê1 3.0 20 ú é 7.0 216
. 200.0 ù
ê3.1 3.4 3.0 3.2 3.9 2.8 2.2ú ê ú ê ú
X’X = ê ú ê1 3.2 30 ú ¢
X’X = ê
X X = 216
. 68. 3 626.0 ú
êë30 25 20 30 40 25 30 úû ê1 3.9 40 ú êë200.0 626.0 5950.0úû
ê ú
ê1 2.8 25ú
ê1 2.2 30 úû Matriks simetri
ë
3x7

7x3

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Model Regresi Linier Berganda
Menduga Parameter dg MKT

Dengan perhitungan cara matriks didapat :

é 7.0 216
. 200.0 ù é 6.683 - 1.529 - 0.064 ù
ê
X ¢ X = ê 216
. 68.3 626.0 ú
ú ( X' X) -1 = êê- 1.529 0.760 - 0.028 úú
êë200.0 626.0 5950.0úû êë- 0.064 - 0.028 0.005úû

é 6.683 - 1.529 - 0.064 ù é1 1 1 1 1 1 1 ù é3.5 ù é- 0.214 ù

! ê- 1.529 0.760 - 0.028 ú ê3.1 3.4 3.0 3.2 3.9 2.8 2.2ú ê3.2 ú = ê 0.898ú
"#×% = ê úê úê ú ê ú
êë- 0.064 - 0.028 0.005úû êë30 25 20 30 40 25 30 úû ê3.0 ú êë 0.017úû
ê ú
(X’X) -1 X’ ê 2.9ú
ê 4.0ú
ê ú
ê 2.5ú
Dugaan persamaan ê 2.3ú
regresinya : yˆ = -0.214 + 0.898x + 0.017x
&
' 1 2
ë û
y

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

Model Regresi Linier Berganda
Sifat-sifat Penduga MKT
! merupakan penduga tak bias bagi "
1. "

)=*++ ,

= # (X’X)-1(X’X) " + # (X’X)−1X’ $

(X’X)-1 (X’X) = I
= # (" + # (X’X)−1X’$

= " + (X’X)−1 X’ # $
ASUMSI : # $ =&
= "

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

Model Regresi Linier Berganda
Sifat-sifat Penduga MKT

!
2. Ragam "

= * + (,) ,)-; ,) , [ ,) , -; ])
#$% <8 = < #$% 8 <′
[ ,) , -. ]′=[ ,) , ) ]-. = ,) , -1

#$% (8) = * + :

)
! =' "
#$% " !−" "
!−" = * + ,) , -. = * +/ 0 = ,) , -.

! 1 adalah * + 011 dan ragam peragam ("

#$% " ! 2 ,"
! 1 ) adalah * + 021

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

Model Regresi Linier Berganda
Sifat-sifat Penduga MKT

3. Penduga (') , * = 0,1, … , 0, menyebar normal dengan nilai tengah () dan ragam 1 2 3)) .

ASUMSI :
D = 9C + = F = =A F D = 9C
8 = 9: 9 ;<

= ~ ? (A, 1 2 B) y ~ ? (9C, 1 2B)

G ~ ? (C, 1 2H)
C

3)) = elemen diagonal matriks C (') ~ ? ((* , 1 23**)

Galat baku bagi (') : 4. 6 (') = 17 3))

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

Model Regresi Linier Berganda
Sifat-sifat Penduga MKT

4. Dugaan bagi ragam y atau ragam ) (* +).

!=#−# '
% = # − &( -./

-./ 2.
∑ 6> 8 60 > ?
*0 + = .1 /23445 = ;8<

1.
-./ ' 7 :7 6
67 689 p banyaknya
*0 + = .1 /23445 = parameter
d.b. = n-p ;8<

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Interpretasi Parameter Regresi

q )4 ∶ disebut sebagai intersep.

Adalah rataan nilai 2 ketika 36 = 37 = . . . = 38 = 0.

q Koe#isien regresi )* , + = 1 , 2 , . . . , 1 , memiliki interpretasi yaitu

)* mengukur dugaan perubahan rataan nilai 2 jika 3* berubah satu
satuan dan peubah penjelas lainnya dianggap tetap.

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

Contoh : Supervisor
Performance Data
• Sebuah survei dilakukan terhadap karyawan dari
divisi keuangan termasuk pertanyaan yang
berkaitan dengan kepuasan karyawan dengan
supervisor mereka.
• Ada pertanyaan yang dirancang untuk mengukur
kinerja supervisor secara keseluruhan, serta
pertanyaan yang terkait dengan aktivitas tertentu
yang melibatkan interaksi antara supervisor dan
karyawan.
• Sebuah studi eksplorasi dilakukan untuk mencoba
menjelaskan hubungan antara karakteristik
supervisor tertentu dan kepuasan keseluruhan
dengan supervisor seperti yang dirasakan oleh
karyawan.

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Contoh : Supervisor Performance Data
Misalkan, hanya menggunakan 2 peubah penjelas.
Modelnya adalah sbb:
1 = 56 + 50/1 + 52/2 + 9
Dugaan persamaan regresi :
1: = 15.3276 + 0.7803/0 − 0.0502/2
Koe#isien regresi dari peubah /0 dapat
diinterpretasikan rataan nilai 1 akan naik sebesar
0.7803 jika /0 berubah satu satuan dan peubah /2
diasumsikan tetap.

Sama halnya dengan peubah /0 , koefisien regresi dari

peubah /2 dapat diinterpretasikan rataan nilai 1 akan
turun sebesar 0.0502 jika /2 berubah satu satuan dan
peubah /0 diasumsikan tetap.
IDS & YA DEP. STA-FMIPA IPB UNIVERSITY
 Selang Kepercayaan bagi !"

ASUMSI :
#$ ∼ & (0, * +)
-$ ∼ &( , * +)
-$
!." ∼ &(!" , * +/"" ) , /"" = elemen diagonal ke-j matriks 0 = 12 1 34

5 ∼ &(6,
6 )

Selang kepercayaan (1-7)100% bagi !"

Menyebar t
dengan derajad
bebas n-p

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

Contoh : Supervisor Performance Data

Selang kepercayaan 95% bagi !G

9 = 30, <= = 23, > B.BC
3?@A, D E/.?8F

!" ∶ 0.613 ± (2.069×0.1610)

!/ ∶ −0.073 ± (2.069×0.1357)
!3 ∶ 0.320 ± (2.069×0.1685)
!5 ∶ 0.081 ± (2.069×0.2215)
!6 ∶ 0.038 ± (2.069×0.1470)
!8 ∶ −0.217 ± (2.069×0.1782)

Hitung !!!

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY

 Terima kasih

IDS & YA DEP. STA-FMIPA IPB UNIVERSITY