Materi 5
1
Materi 5: Pemodelan Regresi Linier Majemuk
b0, b1, b2, b3,….., bk,ei dugaan β0, β1, β2, β3, βk,ui
b0 = Ῡ-b1X1-b2 X2 (5.4)
2
(∑ 𝑦𝑖 𝑥1𝑖 )(∑ 𝑥2𝑖 )−(∑ 𝑦𝑖 𝑥2𝑖 )(∑ 𝑥1𝑖 𝑥2𝑖 )
b1 = 2 2 (5.5)
(∑ 𝑥1𝑖 )(∑ 𝑥2𝑖 )−(∑ 𝑥1𝑖 𝑥2𝑖 )
2
(∑ 𝑦𝑖 𝑥21𝑖 )(∑ 𝑥1𝑖 )−(∑ 𝑦𝑖 𝑥1𝑖 )(∑ 𝑥1𝑖 𝑥2𝑖 )
b2 = 2 2 (5.6)
(∑ 𝑥1𝑖 )(∑ 𝑥2𝑖 )−(∑ 𝑥1𝑖 𝑥2𝑖 )
2
Materi 5: Pemodelan Regresi Linier Majemuk
b = Vektor parameter
3
Materi 5: Pemodelan Regresi Linier Majemuk
A. INTERPRETASI MODEL
Coefficients
Model Unstandardized Standardized
Coefficients Coefficients t Sig.
B Std.Error Beta
1 (constant) 45748.484 35718.945 1.281 .207
ASET 1.106E-02 .002 .794 5.033 .000
KREDIT 8.126E-03 .009 .148 .938 .353
a. Dependent Variable: LABA
4
Materi 5: Pemodelan Regresi Linier Majemuk
tersebut laba bank dari menyalurkan kredit hanya 0,8 persen. Jika
dibandingkan dengan suku bunga saat itu (tahun 2000-2001) tentunya hasil
regresi tersebut perlu diragukan. Permasalahan ini akan dibahas pada bagian
selanjutnya.
B. MULTIKOLINIERITAS
5
Materi 5: Pemodelan Regresi Linier Majemuk
b1 = 0.
6
Materi 5: Pemodelan Regresi Linier Majemuk
𝜎2
Var(b1) = ∑ (5.11)
𝑥1𝑖 (1−𝑟𝑥21 𝑥2 )
7
Materi 5: Pemodelan Regresi Linier Majemuk
Oleh karena s.e (b1) merupakan akar dari Var (b1), sehingga bila
Var (b1) besar maka s.e (b1) juga besar. Dengan demikian
interval yang dihasilkan juga akan besar.
Var (bj) yang besar mengakibatkan s.e (bj) juga besar. Bila
standard error terlalu besar maka besar pula kemungkinan
taksiran β menjadi tidak signifikan.
8
Materi 5: Pemodelan Regresi Linier Majemuk
di mana:
2
𝑟𝑌𝑋1
adalah korelasi sederhana antara Y dan X2
2
𝑟𝑌𝑋1 .𝑋2
adalah korelasi parsial antara Y dan X1 dengan
menganggap X2 konstan.
𝑅2
F = 1−𝑅2(n-k-1)
9
Materi 5: Pemodelan Regresi Linier Majemuk
Model Summary
ANNOVAb
Coefficients
10
Materi 5: Pemodelan Regresi Linier Majemuk
11
Materi 5: Pemodelan Regresi Linier Majemuk
Pada bagian ini kita tidak akan membicarakan cara manual untuk
mendapatkan nilai eigenvalues, karena membutukan banyak
pengetahuan tentang aljabar. Hal ini tentunya berada diluar
ruang lingkup buku ini. Dengan menggunakan SPSS, nilai-nilai
eigenvalues akan diperhitungkan bila kita meminta untuk
mendiagnosa kolinieritas. Adapun aturan yang digunakan
adalah: multikolinieritas ditengarai ada di dalam persamaan
regresi bila nilai Eigenvalues mendekati 0.
12
Materi 5: Pemodelan Regresi Linier Majemuk
𝜎2
Var(b1) = ∑ 𝑥 2 (5.11)
1𝑖 (1−𝑟𝑥1 𝑥2 )
Jadi:
𝜎2
Var(b1) = ∑ 𝑥 VIF
1𝑖
13
Materi 5: Pemodelan Regresi Linier Majemuk
1
5= 𝑅𝑗2= 0,8
(1−𝑅𝑗2 )
14
Materi 5: Pemodelan Regresi Linier Majemuk
Coefficientsa
Collinearity Diagnosticsa
15
Materi 5: Pemodelan Regresi Linier Majemuk
Tidak ada cara yang spesifik untuk mengatasi kolinieritas. Satu cara
mungkin saja berhasil mengatasi multikolinieritas dalam suatu
model, tetapi ada kalanya cara tersebut tidak dapat diterapkan pada
model lain. Oleh karena itu, ada beberapa cara yang dapat dilakukan,
yaitu:
16
Materi 5: Pemodelan Regresi Linier Majemuk
W = β0 + β 1 I + β2 A + u (5.15)
di mana:
W = upah kerja
I = pendapatan perusahaan
A = aset perusahaan
β2 = 0,15 β1 (5.16)
Y = β0 + β1 I + 0,15 β1 A + u
Y = β0 + β1 ( I + 0,15 A) + u
Y = β0 + β1 X + u
Di mana: X = I + 0.15 A
17
Materi 5: Pemodelan Regresi Linier Majemuk
3. Mentransformasikan variable
18
Materi 5: Pemodelan Regresi Linier Majemuk
di mana:
Yt* = ( Yt - Yt-l )
b. Membuat Rasio
19
Materi 5: Pemodelan Regresi Linier Majemuk
20
Materi 5: Pemodelan Regresi Linier Majemuk
21
Materi 5: Pemodelan Regresi Linier Majemuk
LABA = b0 + b1 TRANS
Model Summary
Coefficients
Understandized Standardized
Model Coefficients Coefficients T Sig
B Std.Error Beta .
1 (Constant) 54477.754 33022.123 1.650 .10
TRANS 6
2.367E-03 .000 .934 18.170 .00
0
a. Dependen Variabel: LABA
22
Materi 5: Pemodelan Regresi Linier Majemuk
C. HETEROSKEDASTISITAS
23
Materi 5: Pemodelan Regresi Linier Majemuk
Laba
Laba = b0 + b1 OMSET
Omset
24
Materi 5: Pemodelan Regresi Linier Majemuk
Produksi
25
Materi 5: Pemodelan Regresi Linier Majemuk
∑ 𝑋𝑖 𝜎𝑖2
var (b1) = (∑
𝑋𝑖 )2
26
Materi 5: Pemodelan Regresi Linier Majemuk
1. Metode Grafik
Sebagaimana telah dipelajari bahwa heteroskedastisitas
merupakan suatu kondisi dimana var (ui2) tidak konstan. Dengan
demikian, pada suatu nilai variable bebas X atau sekelompok
nilai X akan mempunyai nilai var (ui2) yang berbeda dengan
variable bebas X atau sekelompok nilai X lainnya. Oleh karena
itu, bila nilai-nilai ui2 diplot dengan nilai-nilai variable bebas
akan ditemui suatu pola atau bentuk yang tidak random.
Perhatikan beberapa plot antara residual dan variabel X
di bawah ini.
27
Materi 5: Pemodelan Regresi Linier Majemuk
0 (a) X 0 (b) X
𝑢𝑖2 𝑢𝑖2
0 (c) X 0 (d) X
28
Materi 5: Pemodelan Regresi Linier Majemuk
2. Uji Formal
a. Uji Breusch-Pagan-Godfey
Pada prisnsipnya, uji ini juga tidak jauh berbeda dengan
ujilainnya, yaitu mencoba mengukur varian uᵢ² akibat
perubahan nilai-nilai variabel bebasnya.
29
Materi 5: Pemodelan Regresi Linier Majemuk
𝑉𝑖 adalah residual.
30
Materi 5: Pemodelan Regresi Linier Majemuk
̂𝑖2
𝑢
𝜎̃ 2 = 𝑛
= 3,28+E12/50 = 65.600.000.000
31
Materi 5: Pemodelan Regresi Linier Majemuk
Model Summary
ANOVAᵇ
Coefficients
a. Dependent Variable : PI
32
Materi 5: Pemodelan Regresi Linier Majemuk
2
Angka tersebut sangat besar dibandingkan 𝑋(𝑚−1) dengan ᵅ = 5%,
dan df = 1, yang sebesar 3,8414. Oleh karena itu kita dapat menolak H˳ yang
menyatakan homoskedastis. Tau dengan kata lain, residual model diatas
adalah heteroskedastis.
𝑌𝑖 = 𝛽0 + 𝛽1 𝑋1𝑖 + 𝛽2 𝑋2𝑖 + 𝑢𝑖
33
Materi 5: Pemodelan Regresi Linier Majemuk
3. Dengan Hipotesis:
H˳ : Homoskedastis
H₁ : Lainnya
n R² ~ᵪ²
34
Materi 5: Pemodelan Regresi Linier Majemuk
1
Jika persamaan tersebut masing-masing dikalikan , maka:
𝜎𝑗
𝑌𝑗 1 𝑋 𝑢
= 𝛽0 ( ) + 𝛽1 ( 𝑗) + ( 𝑗) (5.24)
𝜎𝑗 𝜎𝑗 𝜎𝑗 𝜎𝑗
𝑌𝑖 ∗ = 𝛽0∗ + 𝛽1 𝑋𝑖 ∗ + 𝑢𝑖 ∗ (5.25)
1
2. Transformasi dengan (𝑋 )
𝑗
35
Materi 5: Pemodelan Regresi Linier Majemuk
𝑌𝑗 1 𝑢𝑗
𝑋𝑗
= 𝛽0 (𝑋 ) + 𝛽1 + (𝑋 ) (5.28)
𝑗 𝑗
𝑌𝑖 ∗ = 𝛽0 𝑋 ∗ + 𝛽1 + 𝑣𝑖
Apakah sudah homokedastis? Perhatikan bukti berikut:
𝑢2 1 1
E=(𝑣𝑖2 )=E( 𝑗2 )= 2 E(𝑢𝑗2 )= (𝜎 2 𝑋𝑗2 )=σ2konstan (5.29)
𝑋𝑗 𝑋𝑗 𝑋𝑗2
36
Materi 5: Pemodelan Regresi Linier Majemuk
𝑌𝑗 1 𝑢𝑗
=𝛽0 ( )+𝛽1 √𝑋𝑗 +( ) (5.30)
√𝑋𝑗 √𝑋𝑗 √𝑋𝑗
𝑢𝑗2 1 1
E=(𝑣𝑖2 )=E( )=𝑋 E(𝑢𝑗2 )=𝑋 (𝜎 2 𝑋𝑗 )=σ2konstan (5.31)
√𝑋𝑗2 𝑗 𝑗
𝑌𝑗 1 𝑋 𝑢
𝐸(𝑌𝑗 )
=𝛽0 (𝐸(𝑌 )+𝛽1 (𝐸(𝑌𝑗 )+(𝐸(𝑌𝑗 ) (5.32)
𝑗) 𝑗) 𝑗)
37
Materi 5: Pemodelan Regresi Linier Majemuk
𝑌𝑗 1 𝑌 𝑢
Ŷ𝑗
=𝛽0 (Ŷ )+𝛽1 Ŷ𝑗+( Ŷ 𝑗) (5.34)
𝑗 𝑗 𝑗
Ln 𝑌𝑗 = 𝛽0 +𝛽1 Ln 𝑋𝑗 + 𝑢𝑗
ū2𝑖 0,129
𝜎̃ 2 = = = 0,00258
𝑛 50
38
Materi 5: Pemodelan Regresi Linier Majemuk
2
Oleh karena nilai 𝑋(𝑚−1) dengan α = 5%, dan df = 1 sebesar 3,8414,
yang berarti 𝛩 mempunyai nilai lebih besar, maka kita memutuskan untuk
menolak hipotesis yang menyatakan residual homoskedastis pada α = 5%.
2
Akan tetapi bila dilihat nilai 𝑋(𝑚−1) dengan α = 1%. Paling tidak kondisi ini
mengindikasikan bahwa transformasi yang dilakukan memang dapat
mengatasi permasalahan heteroskedastisitas.
Model Summary
ANOVAb
39
Materi 5: Pemodelan Regresi Linier Majemuk
Coefficients
D. PEMILIHAN MODEL
D.1. R2 Adjusted
40
Materi 5: Pemodelan Regresi Linier Majemuk
besar (‘kuat’) pula hubungan antara variabel terikat dengan satu atau
banyak variabel bebas. Masalahnya, bila kita mempunyai dia buah
regresi dengan variabel terikat yang sama, tetapi jumlah variabel
bebasnya berbeda, misalkan:
𝑆𝑆𝑅 𝑆𝑆𝑅 ∑ 𝑢2
R2 = 𝑆𝑆𝑇 = 1 - 𝑆𝑆𝑇 = 1 - ∑(𝑌 −Ῡ)
𝑖
2
𝑖
41
Materi 5: Pemodelan Regresi Linier Majemuk
terikat yang dapat diterangkan oleh variabel bebas, sehingga nilai SSR
akan besar, yang berakibat nilai SSE akan kecil.
∑ 𝑢2 / (𝑛−𝑘)
R2 = 1 - ∑(𝑌 −Ῡ)/(𝑛−1)
𝑖
(5.35)
𝑖
42
Materi 5: Pemodelan Regresi Linier Majemuk
Model (i)
Model Summary
Model (ii)
Model Summary
43
Materi 5: Pemodelan Regresi Linier Majemuk
Model Summary
Di mana:
44
Materi 5: Pemodelan Regresi Linier Majemuk
SSE = 3,28E + 12
SSE = 2,1E + 12
SSE = 2,17E + 12
45
Materi 5: Pemodelan Regresi Linier Majemuk
∑ 𝑢𝑖2 𝑆𝑆𝐸
SIC = 𝑛𝑘/𝑛 𝑛
= 𝑛𝑘/𝑛 𝑛
(5.38)
𝑘 𝑅𝑆𝑆 2 2,1𝐸+12
In SIC(ii) = (𝑛) In n+ In( 𝑛
) = (50) In 50 + In( 50
) = 24,62
𝑘 𝑅𝑆𝑆 3 2,17𝐸+12
In SIC(iii) = ( ) In n+ In( ) = ( ) In 50 + In( ) = 24,73
𝑛 𝑛 50 50
Catatan: sebagaimana terlihat dinilai AIC, maka nilai SIC juga tidak
bisa di dapat secara langsung jika pengolahan data menggunakan SPSS.
46
Materi 5: Pemodelan Regresi Linier Majemuk
E. STANDARISASI VARIABEL
𝑌𝑖 − Ῡ 𝑋𝑖 − 𝑋
𝑌𝑖∗ = 𝑆𝑌
; dan 𝑥𝑖∗ 𝑆𝑋
(5.40)
di mana:
Ῡ = rata-rata observasi Y
X = rata-rata observasi X
47
Materi 5: Pemodelan Regresi Linier Majemuk
𝑌𝑖 − Ῡ
𝑌𝑖∗ = 𝑆𝑌
∑ 𝑌𝑖 −Ῡ 0
Ῡ∗𝑖 = 𝑛𝑆𝑌
= 𝑛𝑆 = 0 (nilai tengah = 0)
𝑌
𝛽0∗ = Ῡ - 𝛽1∗X
48
Materi 5: Pemodelan Regresi Linier Majemuk
Coefficienta
49
Materi 5: Pemodelan Regresi Linier Majemuk
yang merupakan ukuran hubungan linier antar dua variabel (Y dan X).
Adapun formula penghitungannya sebagai berikut:
𝑛 ∑ 𝑋𝑖 𝑌𝑖 −(∑ 𝑋𝑖 )(∑ 𝑌𝑖 )
r= (5.41)
√[𝑛 ∑ 𝑋𝑖 −(∑ 𝑋𝑖 )2 |𝑛 ∑ 𝑌𝑖 −(∑ 𝑌𝑖 )2 ]
r 01.2, yaitu koefisien korelasi parsial antara Y dengan X1i di mana X2i
dianggap konstan.
50
Materi 5: Pemodelan Regresi Linier Majemuk
r 02.3, yaitu koefisien korelasi parsial antara Y dengan X2i di mana X1i
dianggap konstan.
r 12.3, yaitu koefisien korelasi parsial antara X1i dengan X2i di mana Y
dianggap konstan.
51
Materi 5: Pemodelan Regresi Linier Majemuk
G. DIAGNOSTIK REGRESI
Outlier adalah nilai yang terpisah dari nilai observasi, yang dapat
bernilai sangat besar atau sangat kecil. Mengingat pendugaan koefisien
regresi dan berbagai perhitungan lain yang menyangkut regresi, seperti
koefisien determinasi atau uji hipotesis, sangat banyak memanfaatkan nilai
rata-rata, maka nilai ekstrim akan mempunyai pengaruh terhadap ketepatan
model.
52
Materi 5: Pemodelan Regresi Linier Majemuk
𝑒𝑖
𝑆𝑒𝑖
Di mana 𝑆𝑒𝑖 , adalah standar deviasi residual, yang dapat dicari dengan
menggunakan rumus:
Di mana 𝑆𝑌.𝑋′𝑠 adalah standard error estimasi atau akar dari Mean Square or
Error √𝑀𝑆𝐸.
53