SUMMARY BAB 13

1. Pendahuluan
Analisis regresi merupakan suatu pemodelan peubah prediktor X terhadap peubah respon yang
diamati Y disebut analisis regresi linier sederhana. Agar lebih memahami konsep analisis regresi
model diterapkan dalam matriks guna simplifikasi dari masalah yang bersifat general.
 Model linier regresi
secara umum model matematis regresi memperlihatkan suatu hubungan peubah prediktor
X yang mempengaruhi peubah respon Y.

𝑌𝑖 = 𝛽0 + 𝛽1 𝑋𝑖 + 𝜀𝑖 𝑖 = 1, … , 𝑛

Model tersebut merupakan sistem persamaan linier sebanyak n pengamatan

𝑌1 = 𝛽0 + 𝛽1 𝑋1 + 𝜀1

𝑌2 = 𝛽0 + 𝛽1 𝑋2 + 𝜀2

⋯⋯⋯⋯⋯⋯⋯⋯

𝑌𝑛 = 𝛽0 + 𝛽1 𝑋𝑛 + 𝜀𝑛

Apakah persamaan linier tersebut konsisten?

Sehingga matriks persamaan regresi menjadi

𝑌1 1 𝑋1 𝜀1
𝑌 1 𝑋2 𝛽 𝜀2
𝒀 = ( 2) + ( ) + ( 0) = ( ⋮ )
⋮ ⋮ ⋮ 𝛽1
𝑌𝑛 1 𝑋𝑛 𝜀𝑛

 Metode kuadrat terkecil

Metode kuadrat terkecil merupakan suatu teknik untuk menduga parameter yang
memetakan pengaruh peubah prediktor terhadap peubah respon. Terdapat beberapa tujuan
dari metode kuadrat terkecil, sebagai berikut:

o Merubah SPL yang belum tentu konsisten menjadi sistem persamaan normal yang
pasti konsisten
o Mendapatkan suatu garis yang paling akurat (error terkecil)
o Dari uji koefisien secara serempak untuk mendapatkan suatu model dari data
sampel yang berlaku untuk populasi.
1
Muhamad Fariq Hidayat (176090500011003)
 Dalam analisis regresi vektor jawab selalu konsisten, mengapa?
Untuk menjawab pertanyaan terkait kekonsistenan SPL maka mari dibuktikan dengan
mendiferensikan terhadap masing-masing konstanta, sebagai contoh 𝑖 = 1,2 pada
persamaan regresi.

Q = e2 = (y – b0 – b1x)2

Q
0  -2(y – b0 – b1x) = 0  nb0 + b1x = y (1)
b 0

Q
0  -2(y – b0 – b1x)x = 0  b0x + b1x2 = xy (2)
b 1

Persamaan (1) dan (2) merupakan persamaan normal dengan penyelesaian sebagai
berikut:

 n  x  b 0   y  𝑇 ̂
 x  x 2   b  =  xy  atau (𝑿 𝑿) 𝜷 = 𝑿𝑇 𝒀
   1  
Persamaan normal tersebut memiliki vektor jawab sehingga persamaan regresi tersebut
konsisten. Sehingga MKT juga berfungsi mengubah sistem persamaan yang belum
konsisten menjadi persamaan normal yang vektor jawabnya oleh karena itu pada
persamaan regresi 𝛽̂ bisa didapatkan.

𝐸(𝒀) = 𝑿𝛽 dengan bentuk matriks jumlah kuadrat ragam galat

𝜀12 𝜀1 𝜀2 ⋯ 𝜀1 𝜀𝑛
𝜺𝜺′ = (𝜀2 𝜀1 𝜀22 ⋯ 𝜀2 𝜀𝑛 )
⋯ ⋯ ⋱ ⋯
𝜀𝑛 𝜀1 𝜀𝑛 𝜀2 ⋯ 𝜀𝑛2
Nilai regresi (fitted value) atau 𝑌̂ dan 𝑒 simpangan pengamatan dari garis regresi dengan
kata lain sisaan yang dapat digunakan untuk pengepasan (fitting) seluruh nilai duga
amatan dilihat dari jumlah kuadrat sisaan dan kemudian menjadi jumlah kuadrat galat
𝑒1
𝑒
𝒆′ 𝒆 = (𝑒1 𝑒2 ⋯ 𝑒𝑛 ) ( 2 ) = ∑ 𝑒𝑖2
⋮
𝑒𝑛

13.3 Analisis Ragam

2
Muhamad Fariq Hidayat (176090500011003)
Tabel 13.1 Analisis ragam model regresi

Sumber Keragaman db JK KT 𝐹

Regresi𝑡𝑒𝑟𝑘𝑜𝑟𝑒𝑘𝑠𝑖 1 (∑ 𝑌)2 𝐽𝐾𝑅𝑒𝑔𝑟𝑒𝑠𝑖 𝐽𝐾𝑅𝑒𝑔𝑟𝑒𝑠𝑖 ⁄𝑑𝑏𝑅𝑒𝑔𝑟𝑒𝑠𝑖

̂ 𝑇 𝑿𝑇 𝒀 −
𝜷
𝑛 𝑑𝑏𝑅𝑒𝑔𝑟𝑒𝑠𝑖 𝐽𝐾𝐺𝑎𝑙𝑎𝑡 ⁄𝑑𝑏𝐺𝑎𝑙𝑎𝑡

𝐺𝑎𝑙𝑎𝑡 𝑛−2 ̂ 𝑇 𝑿𝑇 𝒀
𝒀𝑇 𝒀 − 𝜷 𝐽𝐾𝐺𝑎𝑙𝑎𝑡
𝑑𝑏𝐺𝑎𝑙𝑎𝑡

𝑇𝑜𝑡𝑎𝑙 𝑛−1 (∑ 𝑌)2

𝒀𝑇 𝒀 −
𝑛

𝐷𝑎𝑡𝑎 = 𝐷𝑢𝑔𝑎𝑎𝑛 + 𝑆𝑖𝑠𝑎𝑎𝑛

̂+ 
𝒀 = 𝑿𝜷
̂+ 
𝒀 = 𝒀
̂ + (𝒀 − 𝒀
𝒀 = 𝒀 ̂)

̂ dengan 𝜷
̂ = 𝑿𝜷
di mana 𝒀 ̂ = (𝑿𝑇 𝑿)−1 𝑿𝑇 𝒀

maka untuk menduga ragam 𝜎 2 dibutuhkan jumlah kuadrat galat (JKG)

𝐽𝐾𝐺 ̂ )𝑇 (𝒀 − 𝑿𝜷
= (𝒆𝑻 𝒆) = (𝒀 − 𝑿𝜷 ̂)

Kasus. Bab 10 kasus peubah biner menguji parameter 𝐻0 ⋮ 𝛽1 = 0 𝑣𝑠 𝐻1 ⋮ 𝛽1 ≠ 0

5%
𝐻0 𝑑𝑖𝑡𝑒𝑟𝑖𝑚𝑎 , jika 𝑠𝑡𝑎𝑡𝑖𝑠𝑡𝑖𝑘 𝑢𝑗𝑖 𝐹 ≤ 𝐹𝑑𝑏 𝑟𝑒𝑔𝑟𝑒𝑠𝑖,𝑑𝑏 𝑔𝑎𝑙𝑎𝑡 ,
Keputusan ∶ {
𝐻0 𝑑𝑖𝑡𝑜𝑙𝑎𝑘, 𝑆𝑒𝑙𝑎𝑖𝑛𝑛𝑦𝑎

Interpretasi. Berdasarkan Tabel Anova pada kasus Bab 10 statistik uji F 16.3 lebih besar dari F-
tabel menyatakan bahwa pengujian secara simultan berbeda nyata pada taraf kesalahan 5%.

(∑ 𝑌)2
̂ 𝑇 𝑿𝑇 𝒀 −
JK (Regresi𝑡𝑒𝑟𝑘𝑜𝑟𝑒𝑘𝑠𝑖 ) = 𝜷
𝑛

Dekomposisi jumlah kuadrat regresi digunakan untuk menguji hipotesi dari parameter peubah
prediktor 𝑋 dengan statistik uji 𝐹 yang berguna untuk menguji kontribusi keragaman 𝑋 terhadap
keragaman 𝑌.

13.4 Uji Hipotesis dan Selang kepercayaan

3
Muhamad Fariq Hidayat (176090500011003)
  Pengujian nilai tengah satu populasi
𝐻0 ⋮ 𝛽1 = 0 𝑣𝑠 𝐻1 ⋮ 𝛽1 ≠ 0
5%
𝐻 𝑑𝑖𝑡𝑒𝑟𝑖𝑚𝑎, jika 𝑠𝑡𝑎𝑡𝑖𝑠𝑡𝑖𝑘 𝑢𝑗𝑖 𝑡 ≤ 𝑡𝑛−2
Keputusan ∶ { 0
𝐻0 𝑑𝑖𝑡𝑜𝑙𝑎𝑘, 𝑆𝑒𝑙𝑎𝑖𝑛𝑛𝑦𝑎
𝛽̂1 − 𝛽1
𝑠𝑡𝑎𝑡𝑖𝑠𝑡𝑖𝑘 𝑢𝑗𝑖 𝑡 =
√𝑉(𝛽̂1 )

𝑆𝐾 = 𝛽̂1 ± 𝑡𝑛−2
5%
√𝑉(𝛽̂1 )

 Pengujian nilai tengah masing-masing populasi (𝛽̂0 + 𝛽̂1 )

Untuk menguji populasi kedua parameter langkah berikut langkah-langkah

1.22 −1.22 1
o V(𝛽̂0 + 𝛽̂1 ) = (1 1) ( ) ( ) = 1.046.
−1.22 2.267 1
o 𝜇̂ 𝑌∙𝑋 = (61.25 + (−5.04)) = 56.21 → 𝜷 ̂ = (𝑿𝑇 𝑿)−1 𝑿𝑇 𝒀 = ( 61.25 )
−5.04
o Uji hipotesis 𝐻0 ⋮ (𝛽̂0 + 𝛽̂1 ) = 0 𝑣𝑠 𝐻1 ⋮ (𝛽̂0 + 𝛽̂1 ) ≠ 0

(𝛽̂0 + 𝛽̂1 ) − (𝛽0 + 𝛽1 )

𝑡=
√𝑉(𝛽̂0 + 𝛽̂1 )
o Selang Kepercayaan

𝑆𝐾 = (𝛽̂0 + 𝛽̂1 ) ± 𝑡𝑛−2

5%
√𝑉(𝛽̂0 + 𝛽̂1 )

4
Muhamad Fariq Hidayat (176090500011003)