1), 2), 3) Program Studi Matematika FMIPA Universitas Mataram, Jl. Majapahit No 62 Mataram 83125
Email : abdurrahmansalim18@gmail.com
1)
Abstrak : Berbagai cara dalam mengatasi mengatasi multikolinieritas antara lain dengan analisis
Regresi Ridge dan analisis Regresi Komponen Utama. Pada regresi ridge bertujuan untuk
mengatasi multikolinieritas antara variabel bebas di dalam model, kemudian
mentransformasikan parameter-nya dengan memilih tetapan bias yang optimum, sehingga
multikolinieritas dapat diatasi. Pada Regresi komponen utama juga dapat mengatasi
multikolinieritas dengan cara menghasilkan variabel-variabel baru yang merupakan kombinasi
linier dari variabel-variabel bebas dan antar variabel baru ini bersifat bebas.
AIC merupakan metode yang dapat digunakan untuk menentukan model regresi terbaik,
apabila nilai AIC kecil maka model tersebut dikatakan terbaik.
Hasil penelitian menunjukkan bahwa pada Regresi Ridge didapatkan tetapan bias c
sebesar 0,12, sehingga model laju pertumbuhan PDRB yang didapatkan adalah
dan untuk model Regresi Komponen Utama didapatkan model laju pertumbuhan PDRB sebagai
berikut
Dari kedua model laju pertumbuhan PDRB tersebut diperoleh bahwa nilai AIC untuk Regresi
Ridge lebih kecil dan koefisien determinasinya lebih besar daripada Regresi Komponen Utama.
Jadi, regresi ridge lebih tepat dalam memodelkan laju pertumbuhan PDRB.
Kata Kunci : Multikolinieritas, Regresi Ridge, Regresi Komponen Utama, dan AIC
Abstract : Several method to overcome multicollinearity among others with Ridge Regression
analysis and Principle component regression analysis. In ridge regression aims to overcome
multikolinieritas between independent variables in the model, then to transform its parameters to
select an optimum refraction constant, so that multicollinearity can be overcome. In principle
component regression aims to overcome multikolinieritas too by way to obtain new variables that
are linier combination of independent variables and between the new variable is to be independent.
AIC is a method that can be used to determine the best regression model, if AIC value is
small then the model is said to be the best.
The result of this study shows that ridge regression obtains a refraction constant ( c ) is
0.12, so that the model of rating growth of PDRB obtained is
and the principle component regression model to the model of rating growth of PDRB obtained is
From those two models are obtained that AIC value for ridge regression is smaller and its
determination coefficient is higher than principle component regression. So, ridge regression more
appropriate to use model of the growth rate of PDRB.
Key word : Multicollinearity, Ridge Regression, Principle Component Regression, and AIC
I. PENDAHULUAN
Produk Domestik Regional Bruto (PDRB) merupakan salah satu perangkat data
ekonomi makro yang banyak digunakan untuk mengetahui tingkat keberhasilan
pembangunan, sebagai masukan dalam perencanaan pembangunan, perumusan
kebijaksanaan sekaligus bahan evaluasi pembangunan di berbagai sektor pada tingkat
regional. Laju pertumbuhan PDRB itu sendiri dipengaruhi oleh beberapa hal, yaitu
pertanian; pertambangan dan penggalian; industri pengolahan; listrik, gas dan air
bersih; bangunan; perdagangan, hotel dan restoran; pengangkutan dan komunikasi;
bank, usaha persewaan dan jasa perusahaan; dan jasa-jasa (PDRB BPS NTB, 2005).
Pada penelitian ini terdapat beberapa faktor yang mempengaruhi laju
petumbuhan PDRB, sehingga diperlukan analisis regresi berganda dalam
menyelesaikan masalah tersebut. Analisis regresi berganda merupakan salah satu
analisis dalam analisis regresi yang dapat membuat model statistik antara variabel
terikat (Y) dan lebih dari satu variabel bebas (X). Analisis regresi ini bertujuan
menganalisis besarnya pengaruh variabel bebas terhadap variabel terikat dalam sebuah
model yang didapatkan.
Pada persamaan regresi linier berganda tersebut terdapat parameter-parameter
yang akan diduga menggunakan metode kuadrat terkecil. Salah satu masalah yang
terjadi dalam menduga parameter adalah adanya multikolinieritas. Multikolinieritas
adalah situasi dimana terdapat korelasi atau hubungan linier antar variabel bebas di
antara satu dengan yang lainnya sehingga variabel-variabel bebas tersebut tidak
bersifat orthogonal. Jika terdapat multikolinieritas di dalam persamaan regresi linier
berganda, maka akan mengakibatkan estimasi parameter dengan metode kuadrat
terkecil akan terganggu dan juga mengakibatkan standard error-nya jadi besar, variansi
dan kovariansi parameter tidak terhingga.
Dalam menyelesaikan masalah multikolinieritas ini ada beberapa cara
diantaranya adalah regresi ridge dan regresi komponen utama. Keduanya dapat
digunakan dalam mengatasi multikolinieritas serta mempunyai kelebihan masing-
masing dalam menyelesaikan masalah multikolinieritas. Sehingga penelitian ini sangat
menarik untuk membandingkan kedua metode tersebut dalam memodelkan laju
pertumbuhan PDRB Provinsi Nusa Tenggara Barat.
Vektor adalah vektor normal yang dipilih sehingga komponen utama ke-j
maksimum, serta orthogonal terhadap dengan ij dan diperoleh :
yang merupakan akar karakteristik terbesar ke-j.
Pentingnya suatu komponen utama ke-j diukur dengan persentase keragaman total
yang mampu diterangkan oleh komponen utama ke-j yaitu sama dengan . Dalam
analisis komponen utama yang telah mampu menerangkan keragaman cukup tinggi,
sekitar 80%-90%. Selanjutnya ditentukan persamaan regresi dari peubah tak bebas Y
dengan komponen utama tersebut. Diperlukan perhitungan skor komponen utama dari
setiap pengamatan dengan menggunakan rumus :
Dengan :
adalah skor komponen ke-i untuk pengamatan ke-h.
adalah vektor pembobot komponen utama ke-i.
adalah skor baku dari variabel yang diamati pada pengamatan ke-h.
Bentuk umum model persamaan regresi komponen utama adalah :
2.3 Metode AIC
Metode AIC adalah metode yang dapat digunakan untuk memilih model regresi
terbaik yang ditemukan oleh Akaike dan Schwarz (Grasa, 1989). Untuk menghitung
nilai AIC digunakan rumus sebagai berikut :
(2.51)
dengan :
k = jumlah parameter yang diestimasi dalam model regresi
n = jumlah observasi
e = 2.718
u = sisa (residual)
Persamaan diatas dapat juga ditulis sebagai :
(2.52)
Menurut metode AIC, model regresi terbaik adalah model regresi yang mempunyai AIC
terkecil (Widarjono, 2007).
Pengumpulan Data
tidak
Mendeteksi
Multikolinieritas
ya
mm
ya
Menyelesaikan Multikolinieritas dengan Model Regresi Ridge
dan Model Regresi Komponen Utama
Penarikan kesimpulan
Dari tabel VIF b*, terlihat bahwa nilai yang mendekati satu terdapat tetapan bias
c yang digunakan adalah 0.12. Selanjutnya nilai koefisien regresi ridge dari persamaan
(2.29) diperoleh nilai parameter regresi ridge (b*) terlihat pada tabel di bawah:
Tabel 4.5 Nilai b*
0<c<1 b1 b2 b3 b4 b5 b6 b7 b8 b9
0.00 -0.415 0.711 -0.221 -0.169 0.079 0.629 0.420 0.371 0.017
0.01 -0.188 0.854 -0.093 -0.086 0.068 0.300 0.215 0.127 0.021
0.02 -0.154 0.865 -0.070 -0.077 0.070 0.251 0.184 0.091 0.014
0.03 -0.140 0.864 -0.059 -0.075 0.073 0.230 0.171 0.075 0.007
0.04 -0.132 0.858 -0.051 -0.074 0.075 0.219 0.163 0.068 0.001
0.05 -0.126 0.852 0.044 -0.074 0.077 0.211 0.157 0.062 -0.005
0.06 -0.122 0.844 -0.039 -0.074 0.079 0.206 0.152 0.058 -0.010
0.07 -0.119 0.837 -0.034 -0.074 0.080 0.202 0.148 0.056 -0.015
0.08 -0.116 0.829 -0.030 -0.073 0.081 0.198 0.145 0.053 -0.019
0.09 -0.114 0.821 -0.026 -0.073 0.082 0.195 0.142 0.051 -0.023
0.10 -0.111 0.814 -0.023 -0.073 0.082 0.193 0.139 0.050 -0.026
0.11 -0.110 0.807 -0.019 -0.073 0.083 0.191 0.137 0.049 -0.029
0.12 -0.108 0.799 -0.016 -0.073 0.083 0.189 0.134 0.048 -0.032
0.13 -0.106 0.792 -0.014 -0.073 0.084 0.187 0.132 0.047 -0.035
0.14 -0.105 0.785 -0.011 -0.072 0.084 0.185 0.130 0.046 -0.037
0.15 -0.103 0.778 -0.008 -0.072 0.084 0.184 0.128 0.045 -0.039
0.20 -0.097 0.746 0.002 -0.070 0.085 0.177 0.120 0.043 -0.048
0.30 -0.088 0.690 0.016 -0.066 0.084 0.166 0.107 0.040 -0.057
0.40 -0.080 0.642 0.025 -0.061 0.082 0.156 0.098 0.039 -0.061
0.50 -0.074 0.601 0.031 -0.057 0.080 0.148 0.090 0.038 -0.062
0.60 -0.069 0.565 0.035 -0.053 0.078 0.140 0.084 0.038 -0.061
0.70 -0.064 0.533 0.038 -0.050 0.076 0.133 0.078 0.037 -0.060
0.80 -0.060 0.505 0.040 -0.046 0.037 0.013 0.074 0.036 -0.059
0.90 -0.057 0.480 0.041 -0.044 0.072 0.121 0.070 0.036 -0.057
0.99 -0.054 0.459 0.042 -0.041 0.070 0.116 0.066 0.035 -0.055
Dari tabel 4.5 didapat nilai VIF yang relatif mendekati 1 (satu) terdapat pada tetapan
bias c = 0.12. Sehingga untuk memilih koefisien regresi ridge sesuai dengan tetapan bias
nilai VIF yang mendekati 1 yaitu c = 0.12.
Oleh karena itu, model regresi ridge yang terbaik yang diperoleh dari tetapan
bias c = 0.12 adalah
Jadi komponen utama W1, W2, W3 dan W4 telah mampu menjelaskan 85.5%
keragaman dari Y, sehingga cukup dipilih komponen utama pertama, kedua, ketiga dan
keempat saja untuk membentuk regresi komponen utama.
Selanjutnya ditentukan vektor pembobot x komponen utama W1, W2, W3 dan W4 dari
tabel di bawah ini:
Tabel 4.8 Nilai Vektor Eigen
Variabel W1 W2 W3 W4
X1 0.358 -0.317 -0.267 0.027
X2 -0.005 0.262 -0.121 -0.864
X3 0.322 0.463 -0.189 0.083
X4 -0.284 0.233 -0.529 0.273
X5 0.380 0.450 -0.132 0.094
X6 0.508 -0.182 -0.089 -0.275
X7 -0.072 -0.145 -0.725 -0.003
X8 -0.230 0.535 0.135 -0.003
X9 0.476 0.139 0.168 0.294
b. Dapat dikatakan bahwa model regresi Ridge lebih baik karena memiliki nilai AIC
yang lebih kecil yakni 18.9027 dan nilai koefisien determinasi (R2) yang lebih
mendekati 1 yakni 0.9851 daripada model regresi Komponen Utama
5.2. Saran
Diharapkan penelitian selanjutnya, dapat dilakukan suatu metode lain untuk
mengatasi multikolinieritas dan mendapatkan model regresi terbaik, seperti regresi
akar laten, dan lain sebagainya.
DAFTAR PUSTAKA
[1] Draper, N and Smith, H. 1992. Analisis Regresi Terapan. Terjemahan Edisi Kedua. PT.
Gramedia Pustaka Utama, Jakarta.
[2] Grasa, A. A. 1989. Econometric Model Selection: A New Approach, Kluwer. Jurnal
Informatika Mulawarman, Vol. 4, No. 3.
[3] Widarjono, A. 2007. Ekonometrika: Teori dan Aplikasi untuk Ekonomi dan Bisnis.
Yogyakarta: Ekonisia Fakultas Ekonomi Universitas Islam Indonesia. Jurnal
Informatika Mulawarman, Vol. 4, No. 3.