Tugas kelompok

MODEL NON LINEAR HETEROSKEDASITAS

KELOMPOK 3:
RISKA

(H12113003)

HARTINA HUSAIN

(H12113005)

NIRMALASARI

(H12113010)

NURWASARI

(H12113020)

RAEHANA

(H12113003)

SARNIAH

(H12113031)

NUR WAHIDAH ABDURRAUF

(H12113034)

GEYSA FANDRILLA

(H12113320)

PUTRI INDI RAHAYU

(H12113501)

JURUSAN MATEMATIKA PRODI STATISTIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
UNIVERSITAS HASANUDDIN
TAHUN AJARAN 2015/2016

MODEL NON LINEAR HETEROSKEDASITAS MENGGUNAKAN

MARQUARDT LEVENBERG
1. Model Non Linear
Model nonlinear merupakan bentuk hubungan antara peubah respon dengan
peubah penjelas yang tidak linear dalam parameter.
Suatu model dikatakan linear bila segugus data diplotkan dan terletak pada suatu
garis lurus. Tetapi bila segugus data tersebut tidak terletak pada suatu garis lurus
atau membentuk suatu kurva maka ini disebut model nonlinear.

dengan
yi : peubah respon ke-i
f(.) : fungsi nonlinear
xi : peubah penjelas respon ke-i
: parameter
: galat ke-i
diasumsikan saling bebas dan menyebar normal dengan nilai tengah 0 dan
ragam

Salah satu contoh model non linear yaitu Model Produksi CES (Constant
Elasticity of Subtitutions). Elastisitas subtitusi adalah ukuran bagaimana
perusahaan dengan mudah mensubtitusikan satu input dengan input lainnya
untuk menjaga tingkat produksi pada level yang sama.

Model produksi CES didefinisikan sebagai berikut :

Dimana Y=output, x1 =input kapital, x2=input tenaga kerja,

2. Heteroskedasitas

1. Pengertian
Pengertian heteroskedastisitas adalah apabila kesalahan atau residual yang
diamati tidak memiliki varian yang konstan. Residual adalah faktor-faktor lain yang
terlibat akan tetapi tidak termuat dalam model. karena residual ini merupakan
variabel yang tidak diketahui, maka diasumsikan bahwa nilai residual bersifat acak.
Pada analisis regresi, heteroskedastisitas berarti situasi dimana keragaman
variabel independen bervariasi pada data yang kita miliki. Salah satu asumsi kunci
pada metode regresi biasa adalah bahwa error memiliki keragaman yang sama pada
tiap-tiap sampelnya. Asumsi inilah yang disebut homoskedastisitas. Jika keragaman
residual/error tidak bersifat konstan, data dapat dikatakan bersifat heteroskedastisitas.
Karena pada metode regresi ordinary least-squares (OLS) mengasumsikan
keragaman error yang konstan, heteroskedastisitas menyebabkan estimasi OLS
menjadi tidak efisien. Model yang memperhitungkan perubahan keragaman dapat
membuat penggunaan dan estimasi data menjadi lebih efisien.
Beberapa asumsi dalam model regresi yang terkait dengan heteroskedastisitas
antara lain adalah residual (e) memiliki nilai rata-rata nol, keragaman yang konstan,
dan residual pada model tidak saling berhubungan, sehingga estimator bersifat
BLUE. Jika asumsi ini dilanggar maka prediksi model yang dibuat tidak dapat
diandalkan.

Faktor penyebab heteroskedastisitas adalah sebagai berikut.

1. Error Learning Model
Sebagaimana adanya proses perbaikan yang dilakukan unit-unit ekonomi,
maka perilaku kesalahan menjadi lebih kecil dengan bertambahnya waktu. Dalam hal
ini diharapkan 2 menurun.
2. Perbaikan Dalam Pengumpulan Data
Dengan meningkatnya mutu tekhnik pengumpulan data, maka 2 diharapkan
menurun. Jadi sebuah bank yang mempunyai peralatan pemrosesan data yang canggih
cenderung melakukan kesalahan yang lebih sedikit pada laporan bulanan atau
kuartalan dibandingkan bank tanpa fasilitas tersebut.
3. Kesalahan spesifikasi model
Salah satu asumsi dalam analisis regresi adalah model dispesifikasi secara
benar. Jika satu variabel yang semestinya harus dimasukkan, tetapi karena suatu hal
variabel tersebut tidak dimasukkan, hal itu akan menyebabkan residual dari regresi
akan memberikan hasil yang berbeda dengan benar dan varians dari kesalahan tidak
konstan.

Gambar 2.1 Pola penyebaran residual pada persamaan regresi

Analogi sederhana pada kejadian heteroskedastisitas dapat kita lihat pada
model hubungan antara harga dengan permintaan (demand). Berdasarkan hipotesis
jika harga meningkat, maka demand akan turun, demikian juga sebaliknya. Pada
kejadian adanya indikasi masalah heteroskedastisitas adalah jika harga meningkat
maka demand akan konstan.
Uji heteroskedastisitas bertujuan menguji apakah dalam model regresi terjadi
ketidaksamaan veriance dari residual satu pengamatan ke pengamatan yang lain.
Dampak yang akan ditimbulkan adalah asumsi yang terjadi masih tetap tidak
berbias, tetapi tidak lagi efisien. Prasyarat yang harus terpenuhi dalam model regresi
adalah tidak adanya gejala heteroskedastisitas. Ada beberapa metode pengujian yang
bisa digunakan diantaranya yaitu uji Park, uji Glesjer, melihat pola grafik regresi, dan
uji koefisien korelasi Spearman.
Penanggulangan Heteroskedastisitas
1. Transformasi Logaritma Natural

Transformasi dalam bentuk logaritma akan memperkecil skala dari observasi dan
kemungkinan besar varians juga akan semakin mengecil dan ada kemungkinan
homoskedastisitas terpenuhi.
2. Transformasi Dengan Membagi Persamaan Dengan Variabel Bebas
Jika model regresi yang telah diuji terdapat heteroskedastisitas maka salah satu
penanggulangannya dapat dilakukan dengan membagi persamaan regresi tersebut
dengan variabel bebas (independen) yang mengandung heteroskedastisitas.

3. Metode Numerik Marquardt Levenberg

Algoritma LevenbergMarquardt
Algoritma

Levenberg-marquardt

merupakan

pengembangan

algoritma

backpropagation standar.Pada algoritma back propagation, proses update bobot

dan bias menggunakan negative gradient descent secara langsung sedangkan.
AlgoritmaLevenbergMarquardt menggunakan pendekatan matrik, Hesian (H)
yangdapatdihitungdengan,
H = JTe
sedangkan gradient dapatdigitungdengan,
g = JTJ
Dalamhal ini J merupakan sebuah matrik jacobian yang berisikan turunanan
pertama dari error jaringan terhadap bobot dan bias jaringan.

4. Aplikasi model non linear heteroskedasitas menggunakan Marquardt

Levenberg
EDITOR PROGRAM MATLAB UNTUK NON LINEAR LEAST SQUAREFUNGSI PRODUKSI CES DENGAN MARQUARDT-LEVENBERG
ITERATIONS
% Nonlinear Least Square
% CES Production Function
% Marquardt-levenberg Iterations
% Memerlukan file: f1, numgradf1, numgradS1 dan L1
% Program ini akan menaksir parameter b1, b2, b3 dan b4 yang
ada pada CES
Production Function
% Q = b1.(b2.L^b3 + (1-b2).K^b3)^(b4/b3)
clear;
LKy=[5.4293 6.6871 8.1879
5.5530 5.5175 7.4104
6.7105 6.6477 8.9496
6.6425 6.2364 8.3695
6.2046 6.6307 8.5519
6.1883 6.0521 8.3299
6.5191 6.1137 8.4877
6.6174 6.7056 9.1260
6.5889 6.7393 8.7961
6.5439 6.8648 8.7941
6.1269 4.4308 6.8657
6.8886 3.0445 5.7132
6.6931 5.6870 8.1641
6.0615 5.6240 7.9482
5.4424 6.3026 8.1264
6.4983 4.8598 7.2432
6.4473 2.8332 5.2521
4.0775 6.8090 7.7220
6.6983 5.4072 8.0002
6.6307 4.9767 7.3157
3.9120 5.0814 5.9833
6.7130 1.7918 4.4132
6.1800 6.7286 8.7229
6.5250 6.2558 8.6233
4.7536 6.8352 7.8589
6.0868 6.2046 8.0981
6.1225 5.2204 7.5533
5.8348 4.5218 6.8249
5.8805 6.1841 8.2967
5.0876 6.8395 8.1922];

L = LKy(:,1) ;
K = LKy(:,2) ;
Q = LKy(:,3) ;
y =
x =
T =
tic

Q;
[L K] ;
length(x);
;

rep
b =
k =
e =
f =
S =

= 2000 ;
[1.0; 0.5; 0.5; 0.5] ; % initial values of b
length(b) ;
eye(k) ;
f1(b,x) ;
(y-f)'*(y-f) ;

j1 = 0 ;
j2 = 0 ;
tn = 1 ;
lamda = 10;
for i = 1:rep ;
z = numgradf1(b,x);
zS = numgradS1(b,x,y) ;
step = -0.5*inv(z'*z + lamda*eye(k))*zS ;
bnext = b + step ;
fnext = f1(bnext,x) ;
Snext = (y-fnext)'*(y-fnext) ;
while
step
bnext
fnext
Snext
j1
w1
end;

Snext < S & j1 <=100;

= step*tn; % Perubahan tn
= b+step;
= f1(bnext,x);
= (y-fnext)'*(y-fnext);
= j1+1;
= i;

while
step
bnext
fnext
Snext
j2
w2
end;

Snext > S & j2 <=100;

= step/tn; % Perubahan tn
= b+step;
= f1(bnext,x);
= (y-fnext)'*(y-fnext);
= j2+1;
= i;

if norm(bnext-b) <= 1e-9 & abs(S-Snext) <= 1e-9

disp('Sudah konvergen. Dengan jumlah iterasinya adalah:') ;
disp(i) ;
break ;

end ;
if i == rep
disp('Belum konvergen, iterasinya perlu ditambah lagi.') ;
disp('Atau ubahlah initial values-nya') ;
disp(' ') ;
end ;
b = bnext ;
f = f1(b,x) ;
S = (y-f)'*(y-f) ;
end ;
disp('Hasil dari penggunaan iterasi Marquardt-Levenberg
adalah:') ;
[bnext' S]
t1 = toc ;
% Menentukan AIC dan SC
% Menggunakan file L1.m
LL
= L1(b,x,y);
AIC = abs(-2*LL+2*k);
SC
= abs(-2*LL+log(T)*k);
disp ('Nilai AIC dan SC adalah:');
[AIC SC]

..
%File f1.m
function f = f1(b,x)

% f1 CES production function

% f = f1(b,x)
L = x(:,1) ;
K = x(:,2) ;
b1
b2
b3
b4

=
=
=
=

b(1,:);
b(2,:);
b(3,:);
b(4,:);

f = b1*(b2*L.^b3 + (1-b2)*K.^b3).^(b4/b3);

..
%File L1.m
function LL = L1(b,x,y)
T

= length(x);

f = f1(b,x);
s2 = ((y-f)'*(y-f))/T;
LL = -0.5*(log (2*pi*s2) + (y-f)'*(y-f)/s2);

..
%File Numgradf1.m
function z = numgradf1(b,x)

% Numerical z (numerical gradient of

k = length(b);
d = 1e-7;
e = eye(k);
for j=1:k ;
bplus = b + d*e(:,j);
fplus = feval('f1',bplus,x) ;
bmin = b - d*e(:,j) ;
fmin = feval('f1',bmin,x) ;
z(:,j)= (fplus - fmin)/(2*d);
end;

..
%File Numgrads1.m
function z = numgradS1(b,x,y)

% Numerical z (numerical gradient of L)

% Output berupa vector dengan dimensi Kx1
k = length(b);
d = 1e-6;
e = eye(k);
for j=1:k;% Numerical gradients
bplus = b + d*e(:,j) ;
fplus = feval('f1',bplus,x) ;
Splus = (y-fplus)'*(y-fplus);
bmin = b - d*e(:,j) ;
fmin = feval('f1',bmin,x) ;
Smin = (y-fmin)'*(y-fmin);
z(j,:) = (Splus - Smin)/(2*d);
end;

..

OUTPUT PROGRAM MATLAB UNTUK NON LINEAR LEAST

SQUARE - FUNGSI PRODUKSI CES DENGAN MARQUARDTLEVENBERG ITERATIONS
Langkah 1, b = [ 1

0.8

0.8

0.9], tn =1

Sudah konvergen. Dengan jumlah iterasinya adalah:

449
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 2, b = [ 1

0.7

0.7

0.8], tn =1

Sudah konvergen. Dengan jumlah iterasinya adalah:

446
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 3, b = [ 1

0.6

0.6

0.8], tn =1

Sudah konvergen. Dengan jumlah iterasinya adalah:

438
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 4, b = [ 1

0.5

0.6

0.7], tn =1

Sudah konvergen. Dengan jumlah iterasinya adalah:

437
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 5, b = [ 1

0.5

0.6

0.6], tn =1

Sudah konvergen. Dengan jumlah iterasinya adalah:

442
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 6, b = [ 1

0.8

0.8

0.9], tn =3

Sudah konvergen. Dengan jumlah iterasinya adalah:

45
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 7, b = [ 1

0.7

0.7

0.8], tn =3

Sudah konvergen. Dengan jumlah iterasinya adalah:

44

Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:

ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 8, b = [ 1

0.5

0.6

0.7], tn =3

Sudah konvergen. Dengan jumlah iterasinya adalah:

49
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 9, b = [ 1

0.5

0.6

0.6], tn =3

Sudah konvergen. Dengan jumlah iterasinya adalah:

42
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 10, b = [ 1

0.8

0.8

0.9], tn =5

Sudah konvergen. Dengan jumlah iterasinya adalah:

34
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =

1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 11, b = [ 1

0.7

0.7

0.8], tn =5

Sudah konvergen. Dengan jumlah iterasinya adalah:

33
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 12, b = [ 1

0.5

0.6

0.7], tn =5

Sudah konvergen. Dengan jumlah iterasinya adalah:

30
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

0.9869

0.5073

Nilai AIC dan SC adalah:

ans =
35.7580 41.3628
Langkah 12, b = [ 1

0.5

0.6

0.6], tn =5

Sudah konvergen. Dengan jumlah iterasinya adalah:

29
Hasil dari penggunaan iterasi Marquardt-Levenberg adalah:
ans =
1.3724

0.3894

0.3100

Nilai AIC dan SC adalah:

0.9869

0.5073

ans =
35.7580 41.3628