Regresi Polinomial

Rosita Kusumawati, Universitas Negeri Yogyakarta, 2019

Model kuadratik  Polinomial order dua
dengan 1 variabel independen
Y   0  1 X  11 X 2   ,  ~ N  0,  2 
iid

• Persamaan regresi dugaan  ˆ

Y  b0  b1 X  b11 X 2

• Kekolinieran ganda  x  X  X
pers. regresi dugaan menjadi ˆ
Y  b0  b1 x  b11 x
' ' ' 2

Yˆ  b  b  X  X   b X  X 
' ' ' 2
0 1 11

 b b X b X
'
0
'
1
'
11
2
  b  2b X  X  b
'
1
'
11
'
11 X 2
Y   0  1 X  11 X   ,  ~ N  0,  
iid
2 2
Model kuadratik
ˆ
Y  b0  b1 x  b11 x
' ' ' 2

 b b X  X b X  X 
' ' ' 2
0 1 11

 b  b X  b X   b  2b X  X  b X
'
0
'
1
'
11
2 '
1
'
11
'
11
2

• sehingga
b0  b0'  b1' X  b11' X 2
b1  b1'  2b11' X
b11  b11'
 Y1   0  1 x1  11 x12  1
Model kuadratik Y2   0  1 x2  11 x22   2

• Yi   0  1 xi  11 X i2   i

Yn   0  1 xn  11 xn2   n

1 x1 x12 
1 1 1  2
x2  
 n 0  i 
x 2

xt x   x1   1 x2
x2 xn 
 
 0 i
x 2
 i
x 3

 x12 x22 xn  
2

1 xn
2
xn 

  xi
2
i
x 3
 i
x 4
 Y1   0  1 x1  11 x12  1
Model kuadratik Y2   0  1 x2  11 x22   2

• Yi   0  1 xi  11 X i2   i

Yn   0  1 xn  11 xn2   n

 Y1 
1 1 1      Yi 
  Y2   
x Y   x1
t
x2 xn      xiYi 
 
 x12 x22 xn      xi2Yi 
2

Yn 
 Y1   0  1 x1  11 x12  1
Model kuadratik Y2   0  1 x2  11 x22   2

• Ingat xi  0
Yi   0  1 xi  11 X i2   i
• Sehingga persamaan normal menjadi

 X t X  b  X tY Yn   0  1 xn  11 xn2   n

 n

0  i   0 
x 2
  b '
  Yi 
 
 x xb   0
t
i
x 2
 xi   b1   x Y    xiYi 
3 ' t

  xi2 i  i   11   i Yi 
4 ' 
x 3
x b  x 2


Contoh soal
• Diberikan data persneling baru (X), dan konsumsi bahan bakar dalam km per liter
(Y), diberikan pada tabel di bawah ini.

a. Buatlah diagram pencar antara X dan Y. Kesimpulan apa yang dapat diperoleh
b. Tentukan koefisien korelasi antara X dengan X2. Jika ada kekolinieran ganda
lakukan transformasi x  X  X
c. Hitunglah koefisien korelasi antara x dengan x2.
d. Apa yang dapat disimpulkan dari hasil a dan c?
e. Tentukan persamaan regresi polinomial kuadratik dugaan
Script R
• attach(polinomial)
• head(polinomial)
• plot(X,Y,main=“Kuadratik – Polinomial Order Dua")
• model1<-lm(Y~X)
• summary(model1)
• abline(model1,lwd=3,col="red")

• #cara 1
• model2a<-lm(Y~x+I(x^2))
• summary(model2a)
• cor(polinomial, use="complete.obs", method="pearson")
Script R
• #cara 2
• xsqr<-x^2
• model2b<-lm(Y~x+xsqr)
• summary(model2b)
•
• #cara 3
• model2c<-lm(Y~poly(x,degree=2,raw=T)) #orthogonal polynomials
raw=F
• summary(model2c)
• model1<-lm(Y~X)

• lines(smooth.spline(x,predict(model2a)),col="blue",lwd=3) #lwd
untuk garis yang tebal dan lty untuk garis yang putus-putus
Uji Apakah 2 Sama dengan Nol (Menyelidiki
apakah suku kuadratik dapat dibuang dari model)
• H0 : 2 = 0
• H1 : 2  0
• Taraf Nyata :  = 0.05
• Statistik Uji : thit = b2/s{b2} = -7.008 atau F = (JKR(x2|x)/1)/(JKG(x,x2)/(n-p)) =
KTR(x2|x)/KTG(x,x2) = 49.17
• Kriteria Keputusan : H0 ditolak jika |thit| > t/2(n-p)  H0 ditolak jika |thit| >
t0.025(14-3) = 2.201 atau H0 ditolak jika Fhit > F (1,n-p)  H0 ditolak jika Fhit >
F0.05(1,11) = 4.84
• Kesimpulan : H0 ditolak atau dapat disimpulkan bahwa pengaruh kuadratik
memang ada, sehingga suku kuadratik harus dipertahankan di dalam
model
JKG  x, x 2   Y tY  bt x tY   Yi 2  b0 Yi  b1 xiYi  b11  xi2Yi
 Koefisien Koefisien Simpangan thit
Regresi Regresi Baku
Dugaan Dugaan
b0'
 0hat s b0' 
s b0' 
0

1  1hat s b1' 

s b  KTG x x
2
  ' 1  11  11hat s b11' 

 s b  s b , b  s b , b 
2 ' ' ' ' '

 
0 0 1 0 11

s 2
b   s b , b  s b  s b , b  
' ' 2 ' ' '

 
1 0 1 1 11

 s b , b  s b , b  s b  
' ' ' ' 2 '
 11 0  11 1 11
Koefisien Determinasi Ganda

• R2 = JKR(x,x2)/JKT = 171773/172453 = 0,996 yang berarti bahwa

keragaman Yi bisa diturunkan sampai 99,6% bila hubungan polinomial
kuadratik terhadap Xi dimasukkan ke dalam model.

JKG  x, x 2   Y tY  bt x tY

1 t
JKT  Y Y    Y JY
t

n
JKR  JKT  JKG
• #perbandingan model dengan partial F-test
• #H0: tidak ada perbedaan antara kedua model
• #H1: model polinomial lebih baik
• #H0 ditolak jika p-value kurang dari alpha
• anova(model1,model2c)
Uji Kecocokan Model Regresi Polinomial Kuadratik
(Untuk pengamatan berulang)
• H0 : E{Y} = 0+1x+2x2 (model regresi polinomial kuadratik cocok
digunakan)
• H1 : E{Y}  0+ 1x+2x2 (model regresi polinomial kuadratik tidak
cocok digunakan) JKG  x, x 2    Yi 2  b0 Yi  b1 xiYi  b11  xi2Yi
• Taraf nyata : α n 2
JKGM     Yij  Y j  
k i

JKKM /(k  p) 
• Statistik uji : F
JKGM /(n  k ) j 1  i 1 
• Kriteria keputusan : H0 ditolak jika Fhit > F(k-p, n-k), dengan k =
banyaknya x yang berbeda, dan p = banyaknya parameter
• Kesimpulan JKKM  JKGx, x 2   JKGM
JKGM = Jumlah Kuadrat Galat Murni
JKKM = Jumlah Kuadrat Ketidakcocokan Model
Latihan Soal
• 1. Diberikan data banyak dispenser (X), dan volume penjualan dalam ratusan
galon (Y), diberikan pada tabel di bawah ini.

a. Buatlah diagram pencar antara X dan Y. Kesimpulan apa yang dapat diperoleh
b. Tentukan koefisien korelasi antara X dengan X2. Jika ada kekolinieran ganda
lakukan transformasi
c. Hitunglah koefisien korelasi antara x dengan x2.
d. Apa yang dapat disimpulkan dari hasil a dan c?
e. Tentukan persamaan regresi polinomial kuadratik dugaan
• 2. Suatu penelitian telah dilakukan untuk mengetahui hubungan antara tentang
tes kemampuan bahasa (X) dan nilai karya ilmiah (Y) dari 10 siswa kelas I SMA.
Diduga bahwa model regresi polinomial kuadratik cocok digunakan. Diketahui
 0,1813176 0, 006212 0, 002259 
 0, 006212 0, 0032523 0, 0001725 
  
1
x t
x  
 0, 002259 0, 0001725 0, 0000627 

i
Y  458, i
Y 2
 21604, ii
x Y  304, i i
x 2
Y  17252, i
x 2
 360,  i  31620
x 4

a. Tentukan persamaan regresi polinomial kuadratik dugaan.

b. Tentukan koefisien determinasi ganda dan berikan maknanya.
c. Apakah suku kuadratik dapat dibuang dari model? Gunakan  = 0,05
Model kubik
ˆ
Y  b0  b1 X  b2 X  b1 X
2 3

xX X
nb0  b1  X i  b2  X i2  b3  X i3   Yi
b0  X i  b1  X i2  b2  X i3  b3  X i4   X i Yi
b0  X  b1  X  b2  X b3  X   X Y
i
2
i
3
i
4
i
5 2
i i

b0  X i3  b1  X i4  b2  X i5 b3  X i6   X i3Yi
Script R
• model3<-lm(Y~poly(x,degree=3,raw=T))
#orthogonal polynomials raw=F
• summary(model2c)