SKRIPSI
SRIDEWI NAINGGOLAN
070823007
FAKULTAS MATEMATIKA
ILMU PENGETAHUAN ALAM DEPARTEMEN
MATEMATIKA UNIVERSITAS SUMATERA UTARA
MEDAN
2009
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
SKRIPSI
Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai Sarjana Sains
SRIDEWI NAINGGOLAN
070823007
FAKULTAS MATEMATIKA
ILMU PENGETAHUAN ALAM DEPARTEMEN MATEMATIKA
UNIVERSITAS SUMATERA UTARA
MEDAN
2009
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
3ii
PERSETUJUAN
Judul
Diluluskan di
Medan, 15 Juli 2009
Komisi Pembimbing
Pembimbing 2
Pembimbing 1
Diketahui/Disetujui oleh
Departemen Matematika FMIPA USU
Ketua,
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
iii
4
PERNYATAAN
SKRIPSI
Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa
kutipan dan ringkasan yang masing-masing disebutkan sumbernya.
Medan,
Juli 2009
SRIDEWI NAINGGOLAN
070823007
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
iv5
PENGHARGAAN
Puji dan syukur penulis panjatkan kepada Tuhan yang Maha Kuasa yang telah
memberikan anugerahnya sehingga skripsi ini dapat diselesaikan dengan sebaikbaiknya.
Ucapan terimakasih saya sampaikan kepada Ibu Dra. Rahmawati Pane, M.Si
dan Bapak Drs.H.Haluddin Panjaitan selaku pembimbing pada penyelesaian
skripsi ini dan juga kepada Drs. Pengarapen Bangun M.Si dan Drs. Ramli Barus
M.Si selaku penguji skripsi yang telah mengarahkan saya serta telah meluangkan
waktu, tenaga, pikiran, dan bantuannya sehingga skripsi saya ini dapat selesai
tepat waktu.
Ucapan terima kasih juga kepada ketua dan sekretaris departemen Dr. Saib
Suwilo, M.Sc dan Drs. Henri Rani Sitepu, M.Si., dan kepada ketua Program Studi
Ekstensi Matematika Bapak Drs. Marwan harahap, M.Eng, Dekan dan Pembantu
dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera
Utara, semua dosen pada Departemen Matematika FMIPA USU, pegawai di
FMIPA USU, dan rekan-rekan kuliah. Akhirnya, tidak terlupakan kepada Orang
Tua saya dan semua keluarga yang selama ini memberikan bantuan dan dorongan
yang diperlukan. Semoga segala bentuk bantuan yang telah diberikan mendapat
balasan yang jauh lebih baik dari Tuhan Yang Maha Kuasa.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
v6
ABSTRAK
regresi
nonlinear
dengan
menggunakan
metode
Marquardt
Compromise dan metode Gauss Newton. Dari analisa yang dilakukan didapat
bahwa metode Marquardt dan metode Gauss Newton dapat menaksir parameter
dalam kasus nonlinier dan menghasilkan galat ke nilai yang paling minimum.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
vi7
ABSTRACT
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
vii8
DAFTAR ISI
Halaman
Persetujuan
iii
Pernyataan
iv
Penghargaan
Abstrak
vi
Abstract
vii
Daftar Isi
viii
Bab 1 Pendahuan
10
13
13
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
xiii9
Bab 3 Pembahasan
14
14
16
17
17
18
30
Daftar Pustaka
31
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
BAB 1
PENDAHULUAN
Pada umumnya dalam suatu penelitian tidak diketahui secara tepat nilai-nilai
parameter dari distribusi teoritis dimana sampel diambil. Hal ini terjadi karena
tidak terambilnya seluruh unsur populasi yang akan diteliti. Intinya ditemukan
kesulitan untuk menentukan sampel yang representatif yang dapat mewakili
populasi dengan metode dan cara yang efektif. Adapun sampel yang digunakan
untuk menduga parameter disebut penaksir parameter dan angka yang merupakan
hasilnya disebut penaksiran secara statistik.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
Dari
uraian
diatas
penulis
tertarik
memilih
judul
penelitian:
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
Masalah yang akan dibahas dalam penelitian ini adalah bagaimana cara menaksir
parameter dalam regresi nonlinier menggunakan metode Marquardt dan metode
Gauss Newton serta membandingkan kedua metode tersebut.
Ruang lingkup dari penelitian ini dibatasi pada penaksiran parameter model
regresi nonlinier pada model Eksponensial dengan menggunakan metode iterasi
jalan tengah Marquardt dan metode gauss Newton dan hanya mendapatkan
penaksiran parameter saja.
Dengan
Y = peubah respon
= peubah bebas
= parameter
= galat
Persamaan dapat diperingkas menjadi:
Y = f ( , ) +
Atau
E ( y ) = f ( , )
Jika diasumsikan bahwa
Pada umumnya ~ N 0, 2
5
Untuk u = 1,2, , n dapat dituliskan dalam bentuk alternatifnya
Yu = f ( , ) + u
Dengan u adalah galat ke u = 1,2, n dapat diperingkas menjadi
Yu = f ( , ) + u
dengan
u = (1u , 2u , , ku )
Asumsi kenormalan dan kebebasan galat dapat dituliskan sebagai :
~ N (0, I 2 )
= ( 1 , 2 , , n )
0 = Vektor nol
I = Matriks Identitas
Dan keduanya berukuran sama
Jumlah kuadrat galat untuk model nonlinier didefenisikan sebagai:
n
S ( ) = {Yu f ( u , )}
u =1
(Gallant, 1942)
2
(Steven C Chapra)
Terdapat banyak kasus dalam rekayasa dimana model-model taklinear harus
dicocokkan pada data. Dalam konteks yang sekarang model-model ini
didefenisikan sebagai model yang mempunyai ketergantungan taklinier pada
parameter-parameternya.
Misalnya: f ( x ) = a 0 1 e a1x
Tidak terdapat cara untuk memanipulasi persamaan ini sehingga sesuai dengan
bentuk umum persamaan:
y = a0 z 0 + a1 z1 + a 2 z 2 + + a m z n + e
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
10 , 20 , , p
adalah nilai-nilai awal bagi parameter-parameter 1 , 2 , p
Nilai-nilai awal itu mungkin merupakan dugaan kasar belaka atau mungkin pula
merupakan nilai-nilai dugaan awal bersasarkan informasi yang tersedia. Nilainolai awal itu diharapkan akan diperbaiki dalam proses iterasi.
(Sanjoyo,2006)
Metode Jalan Tengah Marquardt mengaplikasikan metode iterasi seperti halnya
pada Metode Gauss Newton yaitu bertujuan menghasilkan jumlah kuadrat galat
yang paling minimum.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
BAB 2
LANDASAN TEORI
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
(1) Ketakbiasan
()
(2) Efisiensi
1 dan 2 dimana varians atau standar deviasi dari penduga 1 lebih kecil
dibandingkan varians atau standar deviasi penduga 2 , maka 1 relative
lebih efisien dibandingkan dengan 2 .
(3) Konsistensi
2 =
1
(X i X )2
1
( X i )2
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
(x, y ) ,
z=
f ( x, y ) = f (x, y ) didefenisikan sebagai berikut:
x
x
f (x + h, y ) f ( x, y )
f ( x, y ) = f x (x, y ) = lim
h 0
x
h
f ( x, y + k ) f ( x, y )
Deret Taylor dapat memberikan nilai hampiran bagi suatu fungsi pada suatu titik,
berdasarkan nilai fungsi dan derivatifnya pada titik yang lain. Suku pertama dari
deret Taylor adalah f (xi +1 ) f ( X i ) dan disebut aproksimasi orde nol. Hubungan
ini hendak menunjuk bahwa nilai fungsi f pada titik yang baru, f ( X i +1 ) adalah
sama dengan nilai fungsi pada titik yang lama f ( X i ) . Bila fungsi mengalami
perubahan
suku,
sehingga
dikembangkan
aproksimasi
orde
yaitu:
f ( X i ) + f ' ( X i )( X i +1 X i )
Dan secara umum deret Taylor dirumuskan sebagai berikut:
f ( X i +1 ) f ( X i ) + f ' ( X i )( X i +1 X i ) +
(n )
( )
f "(X i )
(x I +1 x I )2 + + f X i ( X i +1 X i )n + Rn
n!
2!
10
Rn =
f (n +1) ( ) n +1
h
(n 1)
Model nonlinier (yaitu nonlinier dalam parameter yang akan diduga) dapat dibagi
menjadi dua bagian yaitu model linier intrinsik dan model nonlinier Intrinsik.
(1) Model linier Intrinsik
Jika suatu model adalah linier intrinsik, maka model ini dapat dinyatakan
melalui transformasi yang tepat terhadap peubahnya kedalam bentuk linier
baku. Contoh:
Y = eks 1 + 2 t 2 + e
Y=
1
[e t e t ] + e
1 2
2
Model ini tidak mungkin dapat diubah kedalam suatu bentuk linier dalam
parameternya.
Regresi nonlinier adalah regresi yang memuat parameter nonlinier, artinya jika
parameter tersebut diturunkan terhadap parameter itu sendiri maka hasil
turunannya masih mengandung parameter itu sendiri. Estimasi dilakukan untuk
menentukan estimator parameter regresi. Salah satu metode yang digunakan untuk
mengestimasi parameter model regresi nonlinier adalah kuadrat terkecil nonlinier
dimana secara konseptual sama dengan metode kuadrat terkecil pada model
regresi linier.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
11
Metode kuadrat terkecil atau seing disebut dengan metode OLS (Ordinary Least
Square) diperkenalkan oleh Carl Friedrich Gauss, seorang matematikawan
Jerman. Penaksir- penaksir yang dihasilkan berdasarkan metode kuadrat terkecil
adalah bersifat tak bias dan konsisten. Didalam kenyataannya, salah satu penaksir
tak bias linier memiliki varians yang minimum, sehingga disebut penaksir takbias
linier terbaik (Best Linear Unbiased Estimator/BLUE). Sifat ini merupakan dasar
dari dalil Gauss- markov theorem yaitu sebagai berikut:
Dalil
12
Y = f (1 , 2 , k ;1 2 , p ) + e
Dilambangkan dengan
= (1 , 2 ,, k )
= (1 , 2 , , p )'
Maka persamaannya dapat ditulis menjadi
Y = f ( , ) + e
Atau
E (Y ) = f ( , )
Bila data amatannya berbentuk
Yu , 1u , 2u , , ku
Untuk u = 1, 2 , n maka dapat dituliskan modelnya kedalam bentuk:
Yu = f (1u , 2u , k ;1 , 2 , p ) + eu
S ( ) = {Yu f ( u , )}
u =1
Karena y u dan u merupakan amatan, dan bersifat tetap, maka jumlah kuadrat
tersebut merupakan fungsi dari . Nilai taksiran kuadrat terkecil bagi akan
dilambangkan dengan . Nilai taksiran ini tidak lain adalah nilai yang
meminimumkan S ( ) . Untuk menemukan nilai taksiran kuadrat terkecil ,
terlebih dahulu persamaan jumlah kuadrat galat dideferensialkan terhadap . Ini
akan menghasilkan
f ( u , )
S ( )
= {Yu f ( u , )}
( i )
i =
Untuk i = 1, 2, , p sedangkan besaran dalam kurung adalah turunan dari
f ( u , ) terhadap i dengan semua i diganti dengan yang bersubskrip sama,
jika f ( u , ) merupakan fungsi linier, maka nilai dugaan f ( u , ) tersebut
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
13
merupakan fungsi dari u saja dan tidak mengandung sama sekali. Misalnya
jika
f ( u , ) = 1 u + 2 2u + pm
Maka
f
= iu
i
i = 1, 2 ,, p
f
= te t
diperoleh
[Y
n
u =1
][
e t t u e tu = 0
Atau
n
Y t e
u =1
t
u
u u
t u e 2t u = 0
Perhatikan bahwa dengan hanya satu parameter dan suatu model nonlinier
yang relatif sederhana , penentuan nilai melalui penyelesaian persaman normal
tidaklah mudah.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
14
Metode ini dikembangkan oleh D.W Marquardt atau sering juga disebut metode
Levenberg Marquardt adalah salah satu metode didalam pendugaan nonlinier.
Metode Marquardt merupakan kompromi atau jalan tengah antara metode
linearisasi (atau deret Taylor) dengan metode turunan tercuram (Stepest Descent).
Metode Marquardt mengaplikasikan metode iterasi seperti halnya pada metode
Gauss Newton yaitu meminimumkan jumlah kuadrat galat, bedanya hanya
terletak pada penambahan perkalian skalar dan matriks identitas I k . Secara
umum metode Marquardt Compromise dinyatakan sebagai berikut:
1 S ( )
n +1 = n t n (D( n )' D( n ) + n I k )
( ) =
(( ) ( )
p n = Z n ' Z n + n I k
Dengan
n +1
( ) ( )
= Perkalian skalar
tn
= Panjang langkah
Ik
= Matriks Identitas
S ( )
( )
= Persamaan Normal
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
15
Dengan
n +1
( )
D (n )
(Yt f ( , ))
prediksi
Metode Gauss Newton dimulai dengan nilai awal untuk parameter regresi yaitu
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
BAB 3
PEMBAHASAN
Pada sebagian masalah nonlinier,cara yang sering dilakukan dan ternyata berhasil
adalah menuliskan persamaan normal secara terinci dan mengembangkan suatu
teknik iteratif untuk memecahkannya.Apakah cara ini berhasil atau tidak
bergantung pada persamaan normalnya dan metode iterasi yang digunakan, dalam
memperoleh taksiran parameter. Diantaranya adalah :1) Metode Gauss Newton
(metode linearisasi), 2) Metode Stepest Descent (Turunan tercuram), 3)
Marquardt Compromise ( jalan tengah Marquardt). Dan metode-metode ini dapat
diselesaikan dengan menggunakan program komputer.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
17
Bila
dilakukan
penguraian
deret
Taylor
bagi
f ( , )
disekitar
titik
Bila ditetapkan
f u0 = f ( u , 0 )
i0 = i i 0
f ( u , )
Z iu0 =
i = 0
Yu f u0 i0 Z iu0 + u
i =1
Dengan kata lain persamaan tersebut sudah berbentuk linier. Oleh karena
itu dapat ditaksir parameter-parameter i0 , i = 1, 2, , p dengan cara menerapkan
teori kuadrat terkecil. Bila ditetapkan
Z 110
0
Z 12
Z = 0
Z
1u
0
Z 1n
b10
0
b
b0 = 2
b p0
0
Z 21
Z p01
0
Z 22
Z p0 2
= Z0 , pn
iu
0
0
Z 2u Z pu
0
0
Z 2 n Z pn
Y1 f10
Y2 f 2
=Y f 0
y0 =
0
Yu f u
Y f 0
n
n
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
18
Misalnya, dengan notasi yang sudah jelas maksudnya, maka taksiran bagi
S ( ) = {Yi f ( , )}
i =1
f ( ) = f (1 , ), f ( , ),, f ( , )
Y = [Y1 , Y2 ,, Yn ]
n
f ( i , )
f ( i , )
f ( , )
= i =1
=
Y
i =1
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
19
( ) =
Dan pada proses iterasi notasi parameter yang ditaksir akan menjadi
( ( ) ( )
g n +1 = g n t n D g n ' D g n + n I k
( )
S g n
( )
g gn
Pada umumnya proses iterasi Gauss Newton dilakukan dengan langkah sebagai
berikut:
1) Dianggap (0 ) sebagai estimasi awal untuk
2) Hitung (i +1) = (0 ) + bi
3) Nilai (i +1) digunakan sebagai nilai untuk menghampiri model linier
4) Kemudian kembali lagi ke langkah pertama dan menghitung nilai b untuk
setiap iterasi, nila b yang baru ditambahkan kepada penaksiran yang
didapat dari iterasi sebelummya.
5) Iterasi dilanjutkan untuk melihat apakah hasilnya konvergen atau tidak.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
20
Contoh
Pernyatan masalah: Cocokkan fungsi f ( X i ; 0 , 1 ) = 0 (1 exp( 1 X i )) pada data
sebagai berikut:
x
0,25
0,28
0,75
0,57
1,25
0,68
1,75
0,74
2,25
0,79
Penyelesaian
Dengan Bentuk
21
Model tersebut akan dibentuk kedalam regresi nonlinier yaitu sebagai berikut:
Yi = f ( X i , ) + i
Q = [Yi f ( X i , k )]
k = 0,1, , p 1
i =1
k i =1
k = g
g0
g
1
g=
g p 1
Dari contoh diatas dapat diselesaikan sebagai berikut:
f ( X i ; ) = 0 (1 exp( 1 X i ))
Sehingga untuk contoh diatas turunan-turunan parsial fungsi terhadap parameterparameter adalah:
f ( X i , )
= 1 exp( 1 X i )
0
f ( X i , )
= 0 X i exp( 1 X i )
1
Ubahlah simbol 0 dan 1 untuk menaksir parameter dengan g 0 dan g1 . Akan
didapat persamaan normal dari turunan parsial diatas yaitu sebagai berikut:
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
22
g1 maka cara yang tepat untuk menyelesaikan persamaan normal diatas adalah
dengan menggunakan metode numerik untuk melakukan penaksiran secara iterasi.
Metode numerik yang sering kali dipakai untuk menyelesaikan permasalahan
didalam penaksiran parameter model nonlinier adalah Metode Gauss Newton dan
Metode Marquardt compromise.
k =0
k
= g
Dan
g 0(0 )
(0 )
g
g= 1
g (p0)1
f i 0 = f X i , g (0 )
k(0 ) = k g k(0 )
f ( X i , )
Dik(0 ) =
k ( 0 ) = g ( 0 )
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
23
Hampiran
deret
p 1
f ( X i , )
(0 )
f ( X i , ) f X i , g (0 ) +
k g0
k = g
k =0
Taylor
f ( X i , ) f i (0 ) + Dik(0 ) k(0 )
k =0
Yi f i (0 ) + Dik(0 ) k(0 ) + i
k =0
akan
Yi Dik(0 ) k(0 ) + i
i = 1,, n
k =0
Karena
Yi (0 ) = Yi f i (0 )
Maka akan didapat pendekatan didalam bentuk matriks seperti dibawah ini:
Y (0 ) D (0 ) (0 ) +
Yn(01)
Y1 f 1(0 )
Y f (0 )
n
n
D (0 )
D10(0 ) D1(,0p)1
=
D (0 ) D (0 )
n , p 1
n0
(0 )
0(0 )
=
(0 )
p 1
n p
p1
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
24
Selanjutnya parameter (0 ) dapat ditaksir dari persamaan normal pada model
regresi linier sederhana dan diperoleh:
b (0 ) = D (0 ) ' D (0 )
Dimana b (0 )
D (0 ) ' Y (0 )
(0 )
= Yi f X i , g
(0 )
)]
i =1
dengan
= Yi f i (0 )
i =1
Dari contoh sebelumnya dapat diselesaikan dengan iterasi Gauss Newton sebagai
berikut
Untuk lebih memudahkan pengiterasian dapat dilakukan dengan penerapan
matriks:
D5(02)
(
(
(
(
(
1 exp g1(0 ) X 1
(0 )
1 exp g1 X 2
= 1 exp g1(0 ) X 3
1 exp g1(0 ) X 4
(0 )
1 exp g1 X 5
0,2212
0,5276
= 0,7135
0,8262
0,8946
)
)
)
)
)
(
(
(
(
(
)
)
)
)
)
0,1947
0,3543
0,3581
0,3041
0,2371
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
25
f X 1 , g (0 ) = f1(0 )
))
))
))
))
))
f X 2 , g (0 ) = f 2(0 )
= 0,5276
f X 3 , g (0 ) = f 3(0 )
f X4, g
(0 )
)= f ( )
0
= 0,8264
f X 5 , g (0 ) = f 5(0 )
Untuk : Yi = 0,28
Y5(01)
(
(
(
(
(
(
(
(
(
(
))
))
))
))
))
(0 )
(0 )
Y2 g 0 1 exp g1 X 2
Y g (0 ) 1 exp g (0 ) X
0
1
3
3
(
)
(
)
0
0
Y4 g 0 1 exp g1 X 4
(0 )
(0 )
Y5 g 0 1 exp g1 X 5
0,28 0,2212 0,0588
0,57 0,5276 0,0424
Y1 f 1(0 )
(0 )
Y2 f 2
= Y3 f 3(0 ) =
Y4 f 4(0 )
(0 )
Y5 f 5
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
26
SSE
(0 )
(0 )
= Yi f X i , g
(0 )
)]
i =1
n
= Yi f i
i =1
b (0 ) = D (0 ) ' D 0
(0 )
D 'D
(0 )
(D ( ) 'Y ( ) )
0
D (0 ) ' Y (0 )
2,3193
=
0,9489
(D ( ) ' D ( ) )
0,1947
0,3543
0,3581
0,3041
0,2371
0,2212
0,5276
0,7153
0,8262
0,8946
0,9489
0,4404
0,4404
1
(2,3193 . 0,4404) (0,9489 .0,9489) 0,9489
3,6397 7,8421
=
19,1676
7,8421
0,9489
2,3193
0,0588
0,0424
=
0
,
0335
0,1046
0,1533
=
0,0365
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
27
7,8421 19,1676 0,0365
0,27172936
=
0,50256923
g (1) = g (0 ) + b (0 )
1 0,27172936
= +
1 0,50256923
0,72826923
=
1,50256923
Dengan cara yang sama seperti diatas dapat diperoleh iterasi berikutnya sehingga
didapat iterasi yang menghasilkan galat yang paling minimum
Iterasi
g0
g1
SSE
1,0000
1,0000
0,0247490
0,7282
1,5025
0,0243422
0,7911
1,6774
0,0006622
0,7921
1,6774
0,0006622
Dari hasil iterasi yang ketiga telah diperoleh iterasi yang konvergen, sehingga
itterasi dapat berhenti dan didapat MSE sebagai berikut:
SSE
n p
0,000662
=
52
= 0,0002206
MSE =
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
28
awal
tersebut
akan
berubah
menjadi
g 00 , g10 , g 0p 1 ,
selanjutnya
menyelesaikan persamaan normal dari suatu model regresi nonlinier yang akan
ditaksir, setelah itu akan ditentukan nilai skalar dari setiap iterasi yang dinotasikan
dengan dimana 0 < j 1 dan biasanya nilai merupakan faktor dari 10. Dan
iterasi akan berhenti pada saat nilai iterasi tersebut sudah konvergen yaitu
( ) =
( ( ) ( )
g (n +1) = g n t n D g n ' D g n + n I k
S (g )
(g )
gn
sebelumnya.
Diambil
nilai
awal
taksiran
untuk
model
0,9489
0,4404
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
29
3193
[(D ( ) ' D ( ) ) + I ] = 02,,9489
0
n k
2,3193
=
0,9489
[(D ( ) ' D ( ) ) + I ]
0
n k
0,9489
1
+ 0,00001
0,4404
0
0
1
0,9489
0,4404
3,6397 7,8421
=
7,8421 19,1678
( )
( )
S g (0 )
2
(0 ) = Yi (1 exp( g 1 X i )) g 0 (1 exp( g 1 X i )) = 0
g
+ 1 exp( 2,25)2
( )
( )
= 0 (2,1659 2,3192)
= 0,1533
S g (1)
[D ( ) ' D ( ) + I ]
0
n k
( )
3,6397
S g (n )
=
7,8421
g (n )
7,8421 0,1533
19,1369 0,0365
0,27172936
=
0,50256923
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
30
g 0 1 0,50256923
0,72826923
=
1,50256923
n
(0 )
SSE = Yi f X i , g (0 )
)]
i =1
n
= Yi f i
i =1
(
(
(
(
(
(
(
(
(
(
))
))
))
))
))
(1)
(1)
(1)
Y2 f 2 Y2 g 0 1 exp g1 X 2
Y f (1) = Y g (1) 1 exp g (1) X
3
0
1
3
3
3
(
)
(
)
1
1
1
(
)
Y4 f 41 Y4 g 0 1 exp g1 X 4
(1)
(1)
(1)
Y51 f 51 Y5 g 0 1 exp g1 X 5
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
31
Dengan cara yang sama diatas dapat diperoleh iterasi berikutnya sehingga didapat
iterasi yang menghasilkan galat yang paling minimum dan menjadi konvergen
kenilai 0,001 yaitu sebagai berikut:
Iterasi
g0
g1
SSE
1,0000
1,0000
0,0247490
0,7282
1,5025
0,0243422
0.7911
1,6774
0,0006622
0,7921
1,6774
0,0006622
Dari penyelesaian dengan dua metode ditatas dapat diketahui bahwa dengan
metode Marquardt dan metode Gauss Newton sama-sama menghasilkan galat
yang paling minimum pada iterasi yang ketiga.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
BAB 4
4.1 KESIMPULAN
Dari analisa yang dilakukan didapat bahwa metode Marquardt dan metode Gauss
Newton dapat menyelesaikan penaksiran parameter dalam kasus nonlinier dan
kedua metode itu menghasilkan jumlah kuadrat galat ke nilai yang paling
minimum. Metode Marquardt telah dikembangkan untuk mengatasi kekurangan
kekurangan yang terdapat dalam Metode Gauss Newton seperti kekonvergenan
yang mungkin melambat dan kemungkinan berosilasi secara lebar. Dan dalam
masalah-masalah yang praktis kedua metode lainnya dapat diterapkan sama
baiknya seperti Metode Marquardt.
4.2 SARAN
Dalam tulisan ini penulis hanya membahas tentang penaksiran parameter regresi
non linier model eksponensial dengan operasi turunan pertama yaitu metode
Marquardt dan metode Gauss Newton. Bagi para pembaca yang tertarik untuk
mengembangkan penelitian ini dapat menyelesaikan penaksiran parameter regresi
nonlinier dengan metode lainnya misalnya dengan menggunakan operasi turunan
kedua dan dengan model yang lain.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.
33
DAFTAR PUSTAKA
Draper, N.R. and Smith, H. 1966. Analisis Regresi Terapan. Pt Gramedia Pustaka
Utama, anggota IKAPI, Jakarta.
Neter, Jhon and Wasserman, William. 1985. Applied Linear Statistical Models.
Printed in the United States of America.
Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam
Penaksiran Parameter Regresi Nonlinier, 2010.