PCA (untuk menangani asumsi non multikolinieritas yang tidak terpenuhi)

- Standarisasi variable independen

- Model regresi komponen utama :
Y = α0 + α1w1 + α2w2 + … + αmwm + ε , w = nilai eigen ; α = pembobot
- skor pca :
W1 = a11z1 + a21z2+ a31z3 + … + ap1zp
W1 = a12z1 + a22z2+ a32z3 + … + ap2zp
.
.
.
Wm = a1mz1 + a2mz2+ a3mz3 + … + apmzp
- Model :
Y = α0 + α1(a11z1+a21z2+…+ap1zp)+ α2(a12z1+a22z2+…+ap2zp)+…
Y = Co + C1Z1+C2Z2+…+CpZp
- Mengembalikan model
̂
̂ = 𝛽𝑖,𝑃𝐶𝐴
𝛽𝑖 𝑆 𝑖

̂ ̅̅̅̅
𝛽 1,PCA𝑋1 ̂ ̅̅̅̅
𝛽 P,PCA𝑋𝑃
𝛽̂ 0 = 𝛽̂ 0,PCA + ( 𝑠 + ⋯+ )
1 𝑠 𝑃

MINITAB

Uji asumsi memenuhi atau tidak

Standarisasi
tempat kolom pca (c10-c13) coeff

score (c14-c17)  nilai omega

Nilai eigen (dari output)

Principal Component Analysis: Z1, Z2, Z3, Z4

Eigenanalysis of the Correlation Matrix

Eigenvalue 2.6050 1.1326 0.2289 0.0336

Proportion 0.651 0.283 0.057 0.008
Cumulative 0.651 0.934 0.992 1.000

Pilih nilai eigen yg > 1  W1 dan W2

Variable PC1 PC2 PC3 PC4

Z1 -0.531 -0.335 -0.773 -0.085
Z2 -0.594 0.151 0.417 -0.671
Z3 -0.604 0.113 0.285 0.736
Z4 0.022 -0.923 0.384 0.011

Karena yg terpilih adalah W1 dan W2 maka yg diregresikan PCA1 dan PCA2

Meregresikan untuk mencari a11 … ap1
Kemudian bikin persamaan :
The regression equation is
Y = 851 - 535 W1 + 400 W2

Predictor Coef SE Coef T P VIF

Constant 850.7 316.2 2.69 0.015
W1 -534.6 200.8 -2.66 0.016 1.0
W2 399.7 304.5 1.31 0.206 1.0

Model regresi PCA : Y = 850.7 – 534.6W1 + 399.7W2

Skor PCA (lihat hasil PC1 dan PC2)

W1 = -0.531394z1 + a21z2+ a31z3 + … + ap1zp dst

W2 = -0.335266 Z1 … dst

Disubstitusi W1 dan W2 (model regresi komponen utama)

Y = 850.7 – 534.6 (-0.531394z1 + a21z2+ a31z3 + … + ap1zp )+ 399.7W2
Setelah dikalikan satu per satu . dikembalikan ke bentuk Y = B0 + B1X1 + ….