Syntax Regresi Ridge

ahs <- read.csv("D:/Kuliah/Semester 6/Analisis Regresi/AHS_1.csv",sep=",",header=T)

attach(ahs)
head(ahs)
cor(ahs)
library(car)
vif(rg)
names(ahs)
rg <-lm(AHS~.,data=ahs)
summary(rg)
library(MASS)
rgr <-lm.ridge(AHS~.,data=ahs,lambda=seq(0,50,by=0.1))
summary(rgr)
plot(lm.ridge(AHS ~ ., ahs,lambda = seq(0,50,0.1)))
koef1<-summary(rg)$coef[,1]
koef1
lambda1 <- 6*0.4255/(t(koef1)%*%koef1)
lambda1
rgrl <-lm.ridge(AHS~.,data=ahs,lambda=lambda1)
summary(rgrl)
coef(rgrl)
Output Regresi Ridge
read.csv("D:/Kuliah/Semester 6/Analisis Regresi/AHS_1.csv",sep=",",header=T)
> attach(ahs)
> head(ahs)
AHS RRLS APK APM APS LULUSANS1
1 11.94 6.88 93.8 78.7 89.4 4.4
2 13.29 6.96 94.6 84.1 91.8 4.1
3 12.08 7.18 90.3 76.1 86.0 2.7
4 12.73 7.72 97.1 84.0 90.4 3.3
5 11.98 7.24 90.7 83.8 89.7 3.6
6 12.15 7.41 89.4 80.9 89.0 3.7
> cor(ahs)
AHS RRLS APK APM APS
LULUSANS1
AHS 1.0000000 0.7684577 0.6162483 0.6555001 0.7534311
0.8630113
RRLS 0.7684577 1.0000000 0.5785409 0.7469807 0.7862028 0.8770487
APK 0.6162483 0.5785409 1.0000000 0.8482332 0.8951657
0.5105736
APM 0.6555001 0.7469807 0.8482332 1.0000000 0.9276406 0.5830388
APS 0.7534311 0.7862028 0.8951657 0.92764061.0000000
0.7158711
LULUSANS1 0.8630113 0.8770487 0.5105736 0.5830388 0.7158711 1.0000000
> library(car)
Warning message:
package ‘car’ was built under R version 3.4.4
> vif(rg)
RRLS APK APM APS LULUSANS1
7.621193 6.542482 10.225095 18.378081 6.160367
> rg <-lm(AHS~.,data=ahs)
> summary(rg)
Call:
lm(formula = AHS ~ ., data = ahs)
Residuals:
Min 1Q Median 3Q Max
-0.86705 -0.24653 0.02961 0.21185 1.04235
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 7.876e+00 2.518e+00 3.128 0.00373 **
RRLS -1.215e-01 1.119e-01 -1.086 0.28562
APK 1.818e-02 3.168e-02 0.574 0.56997
APM 3.328e-02 3.885e-02 0.856 0.39812
APS -7.181e-05 6.790e-02 -0.001 0.99916
LULUSANS1 2.834e-01 6.342e-02 4.469 9.23e-05 ***
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 0.4255 on 32 degrees of freedom
Multiple R-squared: 0.7959, Adjusted R-squared: 0.764
F-statistic: 24.95 on 5 and 32 DF, p-value: 3.552e-10
> library(MASS)
> rgr <-lm.ridge(AHS~.,data=ahs,lambda=seq(0,50,by=0.1))
> summary(rgr)
Length Class Mode
coef 2505 -none- numeric
scales 5 -none- numeric
Inter 1 -none- numeric
lambda 501 -none- numeric
ym 1 -none- numeric
xm 5 -none- numeric
GCV 501 -none- numeric
kHKB 1 -none- numeric
kLW 1 -none- numeric
> plot(lm.ridge(AHS ~ ., ahs,lambda = seq(0,50,0.1)))

0.8
0.6
0.4
t(x$coef)

0.2
0.0
-0.2

0 10 20 30 40 50

x$lambda

> koef1<-summary(rg)$coef[,1]
> koef1
(Intercept) RRLS APK APM APS
7.876352e+00 -1.215121e-01 1.818280e-02 3.327597e-02 -7.180635e-05
LULUSANS1
2.833963e-01
> lambda1 <- 6*0.4255/(t(koef1)%*%koef1)
> lambda1
[,1]
[1,] 0.04108899
> rgrl <-lm.ridge(AHS~.,data=ahs,lambda=lambda1)
> summary(rgrl)
Length Class Mode
coef 5 -none- numeric
scales 5 -none- numeric
Inter 1 -none- numeric
lambda 1 -none- numeric
ym 1 -none- numeric
xm 5 -none- numeric
GCV 1 -none- numeric
kHKB 1 -none- numeric
kLW 1 -none- numeric
> coef(rgrl)
RRLS APK APM APS LULUSANS1
7.831547729 -0.117708750 0.018097829 0.032183599 0.001327224 0.280803073
Model Regresi Ridge
𝑌 = 7.8315 − 0.1177RRLS + 0.0181APK + 0.0322APM + 0.0013APS
+ 0.2808LULUSANS1
Interpretasi
- NilaikoefisienAHS sebesar 7.8315 dengan RRLS, APK, APM, APS dan LULUSANS1
dianggapkonstan.
- Nilai koefisien AHS berkurang sebesar 0.1177 ketika terjadi peningkatan satu satuan
RRLS dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.0181 ketika terjadi peningkatan satu satuan APK
dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.0322 ketika terjadi peningkatan satu satuan
APM dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.0013 ketika terjadi peningkatan satu satuan APS
dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.2808 ketika terjadi peningkatan satu satuan
LULUSANS1 dengan variabel lain dianggap konstan.
- Nilai koefisien AHS berkurang sebesar 0.0996 ketika terjadi peningkatan satu satuan
RRLS dan sastu satuan APK dengan variabel lain dianggap konstan.
- Nilai koefisien AHS berkurang sebesar 0.0674 ketika terjadi peningkatan satu satuan
RRLS, APK, dan APM dengan variabel lain dianggap konstan.
- Nilai koefisien AHS berkurang sebesar 0.0661 ketika terjadi peningkatan satu satuan
RRLS, APK, APM, dan APS dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.2147 ketika terjadi peningkatan satu satuan
RRLS, APK, APM, APS dan LULUSANS1.
Syntax Regresi PCA
ahs <- read.csv("D:/Kuliah/Semester 6/Analisis Regresi/AHS_1.csv",sep=",",header=T)
attach(ahs)
head(ahs)
fitpca=princomp(ahs[,-1],cor=FALSE)
summary(fitpca)
loadings(fitpca)
x=cbind(ahs[,2],ahs[,3],ahs[,4],ahs[,5],ahs[,6])
KU1=c(-0.144,-0.586,-0.609,-0.475,-0.198)
KU2=c(-0.371,0.609,-0.145,-0.176,-0.663)
W1=x%*%KU1
W2=x%*%KU2
regpca=lm(ahs[,1]~W1+W2)
summary(regpca)
Outpput Regresi PCA
> ahs <- read.csv("D:/Kuliah/Semester 6/Analisis Regresi/AHS_1.csv",sep=",",header=T)
> attach(ahs)
> head(ahs)
AHS RRLS APK APM APS LULUSANS1
1 11.94 6.88 93.8 78.7 89.4 4.4
2 13.29 6.96 94.6 84.1 91.8 4.1
3 12.08 7.18 90.3 76.1 86.0 2.7
4 12.73 7.72 97.1 84.0 90.4 3.3
5 11.98 7.24 90.7 83.8 89.7 3.6
6 12.15 7.41 89.4 80.9 89.0 3.7
> fitpca=princomp(ahs[,-1],cor=FALSE)
> summary(fitpca)
Importance of components:
Comp.1 Comp.2 Comp.3 Comp.4 Comp.5
Standard deviation 8.978511 2.58585956 2.04236991 0.880972599 0.552522146
Proportion of Variance 0.871000 0.07224693 0.04506904 0.008385604 0.003298442
Cumulative Proportion 0.871000 0.94324691 0.98831595 0.996701558 1.000000000
> loadings(fitpca)
Loadings:
Comp.1 Comp.2 Comp.3 Comp.4 Comp.5
RRLS -0.144 -0.371 -0.261 0.877
APK -0.586 0.609 0.459 -0.270
APM -0.609 -0.145 -0.716 -0.252 -0.179
APS -0.475 -0.176 0.118 0.849
LULUSANS1 -0.198 -0.663 0.508 -0.272 -0.435
Comp.1 Comp.2 Comp.3 Comp.4 Comp.5
SS loadings 1.0 1.0 1.0 1.0 1.0
Proportion Var 0.2 0.2 0.2 0.2 0.2
Cumulative Var 0.2 0.4 0.6 0.8 1.0
W1 = -0.144 RRLS – 0.586 APK -0.609APM -0.475 APS – 0.198 LULUSANS1
W2 = - 0.371 RRLS + 0.609 APK – 0.145 APM -0.176 APS – 0.663 LULUSAN S1
> x=cbind(ahs[,2],ahs[,3],ahs[,4],ahs[,5],ahs[,6])
> KU1=c(-0.144,-0.586,-0.609,-0.475,-0.198)
> KU2=c(-0.371,0.609,-0.145,-0.176,-0.663)
> W1=x%*%KU1
> W2=x%*%KU2
> regpca=lm(ahs[,1]~W1+W2)
> summary(regpca)
Call:
lm(formula = ahs[, 1] ~ W1 + W2)
Residuals:
Min 1Q Median 3Q Max
-0.98292 -0.28861 -0.06737 0.17353 1.51707
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 5.660573 1.559510 3.630 0.000898 ***
W1 -0.069589 0.009066 -7.676 5.24e-09 ***
W2 -0.136554 0.031474 -4.339 0.000116 ***
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 0.5017 on 35 degrees of freedom

Multiple R-squared: 0.6897, Adjusted R-squared: 0.6719
F-statistic: 38.89 on 2 and 35 DF, p-value: 1.279e-09
Model Regresi PCA
Y= 5.660573 -0.069589 W1 -0.136554 W2
Y= 5.660573 -0.069589 (-0.144 RRLS – 0.586 APK -0.609APM -0.475 APS – 0.198
LULUSANS1) -0.136554 (- 0.371 RRLS + 0.609 APK – 0.145 APM -0.176 APS – 0.663
LULUSAN S1)
Y= 5.660573 + 0.0607 RRLS – 0.0424 APK + 0.0622 APM + 0.0571 APS +0.1043
LULUSANS1
Interpretasi :
- NilaikoefisienAHS sebesar 5.660573dengan RRLS, APK, APM, APS dan LULUSANS1
dianggapkonstan.
- Nilai koefisien AHS bertambah sebesar 0.0607 ketika terjadi peningkatan satu satuan
RRLS dengan variabel lain dianggap konstan.
- Nilai koefisien AHS berkurang sebesar 0.0424 ketika terjadi peningkatan satu satuan APK
dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.0622 ketika terjadi peningkatan satu satuan
APM dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.0571 ketika terjadi peningkatan satu satuan APS
dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.1043 ketika terjadi peningkatan satu satuan
LULUSANS1 dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.0183 ketika terjadi peningkatan satu satuan
RRLS dan sastu satuan APK dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.0805 ketika terjadi peningkatan satu satuan
RRLS, APK, dan APM dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.1376 ketika terjadi peningkatan satu satuan
RRLS, APK, APM, dan APS dengan variabel lain dianggap konstan.
- Nilai koefisien AHS bertambah sebesar 0.2419 ketika terjadi peningkatan satu satuan
RRLS, APK, APM, APS dan LULUSANS1.

Syntax Statistika Deskriptif

ahs <- read.csv("D:/Kampus/SEMESTER 6/ANALISIS REGRESI
LANJUTAN/AHS_1.csv",sep=",",header=T)
attach(ahs)
head(ahs)
summary(ahs)
Output statistika deskriptif
> ahs <- read.csv("D:/Kampus/SEMESTER 6/ANALISIS REGRESI
LANJUTAN/AHS_1.csv",sep=",",header=T)
> attach(ahs)
> head(ahs)
AHS RRLS APK APM APS LULUSANS1
1 11.94 6.88 93.8 78.7 89.4 4.4
2 13.29 6.96 94.6 84.1 91.8 4.1
3 12.08 7.18 90.3 76.1 86.0 2.7
4 12.73 7.72 97.1 84.0 90.4 3.3
5 11.98 7.24 90.7 83.8 89.7 3.6
6 12.15 7.41 89.4 80.9 89.0 3.7
> summary(ahs)
AHS RRLS APK APM
Min. :11.09 Min. : 3.650 Min. : 83.50 Min. :66.50
1st Qu.:12.07 1st Qu.: 6.275 1st Qu.: 90.88 1st Qu.:77.60
Median :12.71 Median : 7.210 Median : 95.45 Median :81.00
Mean :12.77 Mean : 7.410 Mean : 94.90 Mean :81.05
3rd Qu.:13.34 3rd Qu.: 8.455 3rd Qu.: 99.47 3rd Qu.:85.00
Max. :15.23 Max. :11.080 Max. :105.80 Max. :91.60

APS LULUSANS1
Min. :80.90 Min. : 1.800
1st Qu.:86.22 1st Qu.: 2.700
Median :90.05 Median : 3.950
Mean :89.94 Mean : 4.863
3rd Qu.:93.53 3rd Qu.: 6.125
Max. :97.40 Max. :11.000
Interpretasi :