42

ISSN 2302-7290
Vol. 2 No. 2, April 2014

Konvergensi Global Metode Spectral Conjugate Descent yang

Baru Menggunakan Pencarian Garis Armijo yang Termodifikasi
Global Convergence of the New Spectral Conjugate Descent Method
with the Modified Armijo-type Line Search

Dahliatul Hasanah
Fakultas MIPA Universitas Negeri Malang
Jalan Semarang 5, Malang 65145

abstrak
Metode nonlinear spectral conjugate descent yang baru merupakan gabungan dari metode conjugate descent dan metode spectral
conjugate gradient. Metode ini menghasilkan yang berorientasi menurun (descent direction). Dengan menggunakan pencarian
garis strong Wolfe Rule, metode ini telah dibuktikan konvergen global. Tulisan ini menganalisis tentang konvergensi global metode
tersebut dengan menggunakan pencarian garis Armijo yang termodifikasi. Analisis ini menunjukkan bahwa menggunakan
pencarian garis Armijo yang termodifikasi, metode nonlinear spectral conjugate descent yang baru konvergen global.

Kata kunci: metode nonlinear spectral conjugate descent, konvergen global, pencarian garis Armijo yang termodifikasi

abstract
The new nonlinear spectral conjugate descent method is constructed by combining the spectral conjugate gradient method and
conjugate descent method. This method generates descent direction dk. Under the strong Wolfe rule this method is globally convergent.
This paper analyzed global convergence of this method using the modified Armijo line search. The result shows that the new nonlinear
spectral conjugate descent method is globally convergent under the modified Armijo line search.

Key words: nonlinear spectral conjugate descent method, global convergence, modified Armijo line search

pendahuluan Masalah optimasi nonlinier tanpa kendala

Beberapa tahun terakhir banyak bermunculan
metode-metode baru dan yang merupakan modifikasi
dari metode-metode lama untuk menyelesaikan
masalah optimasi tanpa kendala. Hal ini dikarenakan
masalah optimasi tanpa kendala banyak digunakan di
berbagai bidang seperti transportasi, eksplorasi bahan
bakar minyak, aerospace, dan sebagainya (Liu et al.,
2012). Semakin besar skala atau variabel yang terlibat
dalam masalah optimasi tanpa kendala, maka semakin
besar pula kebutuhan akan adanya suatu metode
yang mampu menyelesaikan masalah optimasi tanpa
kendala dalam skala besar.
merupakan pencarian nilai minimum dari fungsi
bernilai f(x) yaitu
min f(x), x ∈ Rn. ........................................................ (1.1)
f adalah fungsi nonlinier yang kontinu dan
terdiferensialkan dengan gradien g(x) = ∇f(x). Masalah
tersebut dapat diselesaikan secara numerik, yaitu
dengan cara iteratif. Iterasi yang dijalankan dinotasikan
dengan xk, k=1,2,.... Setiap iterasi diberikan oleh
xk+1=xk + akdk............................................................. (1.2)

Alamat Korespondensi:
e-mail: iyut_dlia@yahoo.com
 dalam mencari nilai
et.alminimum lokal
(2008) yang walaupun
menunjukkan membutuhkan
bahwa perhitungan
pencarian garis yang
Armijo yang lebih banyak
termodifikasi lebih efisien
dalam
dalammencari
mencarinilai
nilaiminimum
minimumlokal lokalwalaupun
walaupunmembutuhkan
membutuhkanperhitungan
perhitunganyang
yanglebih
lebihbanyak
banyak
dibandingkan pencarian
dalam garis lainnya.
mencari
METODE
nilai minimum lokal walaupun membutuhkan perhitungan yang lebih banyak
PENELITIAN
dibandingkan pencarian
dibandingkan pencarian garis lainnya.
garis lainnya.
dibandingkan pencarian garis lainnya.
Kekonvergenan metode spectral conjugate descent dengan menggunakan pencarian
Hasanah: Konvergensi Global Metode Spectral Conjugate Descent 43
METODE PENELITIAN Armijo yang termodifikasi akan dianalisis dengan menggunakan pendekatan secara numeri
METODE
METODE PENELITIAN
PENELITIAN
METODE PENELITIAN
Kekonvergenan metodeConjugate
Metode spectral conjugate
Metode
Gradient descent dengan
Conjugate menggunakan
Gradient pencarian garis
menggunakan
Kekonvergenan
Kekonvergenan
ak adalah panjang langkah (step length)metode
metode
yang ditentukan
spectral
Kekonvergenan conjugate
spectral
metode spectraldescent
conjugate dengan
descent
conjugate dengan
descentmenggunakan
menggunakan
dengan pencarian
pencarian garis
garis
pencarian garis
oleh suatu pencarian garis, dk adalah arah pencarian Pada umumnya metode conjugate
dan dengan menggunakan pendekatan secara numeric. gradient
Armijo yang termodifikasi akan
Pada
Armijo yangakan
dianalisis
umumnya
termodifikasi akanmetode conjugate
dianalisis dengan gradient
menggunakan dideskripsikan
pendekatan olehnumeric.
secara iterasi berikut ini:
Armijo
Armijo
x1 adalah titik yang
awal. yangtermodifikasi
termodifikasi akandianalisis dengan
dianalisis dengan menggunakan
menggunakan
dideskripsikan oleh pendekatan
pendekatan
iterasi berikut secara
secara
ini: numeric.
numeric.
SalahMetode Conjugate
satu metode Gradient
yang
Metode terkenal
Conjugateuntuk
Gradient
Metode
Metode Conjugate
Conjugate Gradient
Gradient
menyelesaikan masalah ini adalah metode conjugate
gradient. MetodePada
Pada
umumnya metode
iniPada
membutuhkan
umumnya
umumnya metode
conjugate
Padamemori
umumnya
adalah
metode yang
conjugate
gradient
metode
panjang
conjugategradient
dideskripsikan
conjugate
langkah
gradient dideskripsikan
oleh iterasioleh
gradient dideskripsikan
(steplength) yang
dideskripsikan oleh
berikut
ditentukan
iterasi
oleh iterasi
iterasiini:
oleh
berikut
berikut ini:
berikut suatu
ini: pencarian garis,
ini:
sedikit dan mempunyai sifat kekonvergenan lokal ak>0 adalah panjang langkah (steplength) yang
maupun global. Namun arah finisikan
pencarianoleh yang ditentukan oleh suatu pencarian garis, dk didefinisikan
adalah panjang langkaholeh: (steplength) yang ditentukan oleh suatu pencarian garis,
adalah panjang langkah (steplength) yang
dihasilkan dari metode ini tidak dijamin arah yang ditentukan oleh suatu pencarian garis, dide- dide-
menurun. Di lain adalah adalah
pihak, panjang
panjang
metode
finisikan
langkah
langkah
spectral
oleh
(steplength)
(steplength)
gradient yang
yang ditentukan { oleh
ditentukan oleh suatu
suatu pencarian
pencarian garis,
garis, dide- dide- (
finisikan
menggunakan oleh gradien sebagai arahnya di
hanya
finisikan
finisikan oleh
oleh
setiap pencarian garisnya. Metode ini mempunyai . .......................... (2.1) (2.1)
dengan adalah gradient{ dari f di titik , adalah parameter yang jika digu
performa yang lebih bagus daripada metode conjugate { (2.1)
gradient dalam berbagai masalah dengan (Birgin
untuk & Martinez,
meminimumkan
{ {
fungsi
adalah gradient kuadratik
dari f di titik yang , convex
adalah ketat maka
parameter yang arah
(2.1)
(2.1)
pencarian
jika digunakan dan
2001). dengan gk=g(xk) adalah gradien dari f di titik xk,
dengan untukadalah gradient
meminimumkan dari f diberdasarkan
fungsi titik , parameter
adalah parameter jikayang jika digunakan
Birgindengan
&dengan
Martinez (2001) merupakan
adalah konjugat
gradient
mengembangkan
adalah gradient dari f dibfkuadratik
dari titik ,yang
adalah
titik
kdi
convex
,Hessian
adalah
adalah ketat
yang
dari
parameter maka
fungsi
parameter arah
digunakan
yangyangpencarian
objektifjikajika untuk
(Zhang
digunakan dan
digunakan et.al,2006). Da
metode suntuk
pectralmeminimumkan
conjugate gradient yang merupakan meminimumkan fungsi kuadratik yang konveks ketat,
fungsi
merupakan kuadratik
konjugat yang
berdasarkan convex
Hessianketat dari maka
fungsi arah objektif pencarian
(Zhang et.al,2006). dan Dai, et.al
gabunganuntuk untuk
dari spectral (2004)
meminimumkan
meminimumkan
metode gradient menyatakan
fungsidankuadratik
fungsi kuadratik
metode bahwa
yang
yang
maka jika
convex fungsi
convex
arah ketat objektifnya
ketat
pencarian maka maka
dk dan arah dk-1adalah
arah pencarian
pencarian
merupakan fungsi kuadratik
dan
konjugatdan yang convex
conjugatemerupakan konjugat
gradient. Metode (2004)
ini menyatakan
berdasarkan
terbukti bahwa jika
Hessian
sangat efektif dari fungsi
berdasarkan
fungsiobjektifnya
Hessianadalah
objektif dari
(Zhang fungsi
fungsi kuadratik
objektif
et.al,2006). (Zhangyang
Dai,etconvex
al.,
et.al ketat
merupakan
merupakan konjugat
konjugatdan menggunakan
berdasarkan
berdasarkan Hessianpencarian
Hessian dari
2006). Daigaris
darifungsi
fungsi
et al. eksak
objektif
objektif
(2004) maka
(Zhang
(Zhang
menyatakan metode
et.al,2006).conjugate
et.al,2006).
bahwa jika Dai, et.al mengha
gradient
Dai,et.al
fungsi
untuk menyelesaikan masalah optimasi tanpa kendala
dan menggunakan pencarian garis eksak maka metode conjugate gradient menghasilkan
(2004)
nonlinier. Akan menyatakan
tetapi metode ini bahwa jika pencarian
menghasilkan
arah-arah fungsi arahobjektifnya
yangobjektifnya adalah
konjugat fungsi
adalah
satu fungsi
dengan kuadratik
kuadratik
lainnya. yang yangconvex
Terdapat konveks ketat formula un
banyak
(2004)
(2004) menyatakan
menyatakan bahwa
bahwa jika
jikafungsi
fungsi objektifnya
objektifnya adalah
adalah fungsi
fungsi kuadratik
kuadratik yangyang convex
convex ketat
ketat
yang belum tentu menurun.arah-arah pencarian yang konjugat ketat satu dan dengan
menggunakanlainnya. Terdapat pencarian banyakgarisformula
eksak,untuk
dan menggunakan pencarian yang garis diantaranya
terkenal, eksak maka maka metodeFletcher-Reeves
adalah
metode conjugate
conjugate gradient gradient (FR),menghasilkan
menghasilkan Polak-Ribiere-Polyak
arah- (PRP
Metodedanlain menggunakan
danyangmenggunakan
terkenalyang pencarian
adalah pencarian
metode
terkenal, garis
gariseksak
conjugate
diantaranya eksak
adalahmaka
maka metode
metode
Fletcher-Reeves conjugate
conjugate gradient
gradient
(FR), Polak-Ribiere-Polyak menghasilkan
menghasilkan(PRP) dan
descent dengan menggunakan
arah-arah pencarian yang pencarian garis
konjugat strong
satu(CD). arah
dengan pencarian yang
lainnya. Terdapat konjugat banyak satu dengan
formula lainnya.
untukini:
arah-arah
Wolfe. Metode arah-arah pencarian
pencarian
ini dikembangkan conjugate
yang
conjugate yang
oleh descentdescent
konjugat
konjugat
Fletcher (CD).satu
(1987). satudengan Formula-formula
dengan
Formula-formula
Terdapat lainnya.
lainnya.
tersebut
banyak Terdapat tersebut
Terdapat
diberikan
formula untuk diberikan
banyak
banyak
berikut formula
bk yang berikut
formula
ini: terkenal,untuk
untuk
di
yang
Salah satu sifatterkenal,
penting dari diantaranya
metode iniadalah Fletcher-Reeves
adalah arah antaranya adalah (FR), Fletcher-Reeves
Polak-Ribiere-Polyak
‖ ‖ (FR),
‖ ‖ (PRP)
Polak-Ribiere- dan
yang
yangterkenal,
terkenal,diantaranya
diantaranyaadalah
pencarian yang dihasilkan merupakan arah pencarian
adalahFletcher-Reeves
Fletcher-Reeves
Polyak (PRP) (FR),
(FR), Polak-Ribiere-Polyak
dan conjugate
‖
Polak-Ribiere-Polyak
‖ descent (CD). (PRP)
(PRP)dan
Formula- dan
(2.2) (
‖ ‖
conjugate
yang menurun descent
(descent (CD).
direction). Formula-formula tersebut diberikan berikut
formula tersebut diberikan berikut ini: ini:
conjugate
conjugate descent
descent (CD).
(CD). Formula-formula
Formula-formula tersebut
tersebut diberikan
diberikan berikut
berikut ini:ini:
Termotivasi oleh Birgin & Martinez, Liu et al. (2012) (2.3)
‖ ‖
‖ ‖ ‖ .......................................................
‖ ‖ (2.2) (
mengembangkan metode yang menggabungkan ‖ ‖
‖ ‖ ‖ (2.2)
metode conjugate descent dandan metode spectral conjugate ‖ ‖ ‖ ‖ (2.2)
(2.2)
dan
gradient yang disebut dengan metode spectral conjugate ‖ ‖
....................................................(2.3)
(2.3)
descent. Metode ini menghasilkan arah pencarian yang ‖ ‖ ‖ ‖ (2.3)
(2.3)
(2.4)
‖ ‖ ‖ ‖
menurun. Liu et al. (2012) telah menunjukkan bahwa (2
dan
metode ini konvergen global menggunakan pencarian
dandan dan
garis strong Wolfe. Di lain pihak, untuk pencarian ‖ ‖
garis yang lain belum ditunjukkan kekonvergenan ‖ ‖‖ ‖ (2.4)
............................................. (2.4)
globalnya.
(2.4)
(2.4)
Dalam makalah ini dibahas kekonvergenan global di mana
dengan di mana dan
dan ‖ ‖‖menyatakan
dan menyatakan
‖ menyatakan Euclidean norm.
Euclidean norm.
metode spectral conjugate descent dengan menggunakan Euclidean norm.
pencarian garis Armijo yang termodifikasi. Hal ini
termotivasi oleh Kim et al. (2008) yang menunjukkan di mana Metode
Metode dan ‖ ‖Conjugate
Spectral
Spectral menyatakan
Conjugate Euclidean norm.
Gradient
Gradient
Metode Spectral Conjugate Gradient
bahwa pencarian garis Armijo yang termodifikasi Metode spectral
Metode spectralgradient
gradient awalnya
awalnya dikembangkan
dikembangkan oleholeh
Barzilai dandan
Bor
Metode spectral gradient awalnya dikembangkan Barzilai
lebih efisien dalam mencari nilai minimum lokal oleh
Metode Spectral Conjugate Barzilai dan Borwein pada tahun 1988, kemudian
GradientRaydan mengembangkan metode ini lebih jauh untuk menyel
walaupun membutuhkan perhitungan yang lebih 1988,
Raydan kemudian
1988, kemudian Raydan mengembangkan
mengembangkan metode ini lebih metodejauh ini lebih jauh untuk men
banyak dibandingkan pencarian garis lainnya. Metode spectral untuk gradient
optimasi tanpa awalnya
menyelesaikan
kendala dikembangkan
dalam masalah
skala oleh
besar. Barzilai
optimasi
Birgin
optimasi tanpa kendala dalam skala besar. Birgin dan Martinez dan dan
tanpa Borwein
Martinez padamengemb
(2001) tahun
(2001) menge
1988, kemudian Raydankendala
metode dalam
mengembangkan
spectral skala
conjugate besar.
metode
gradient Birgin
ini lebih & Martinez
jauh untuk gabungan
yang merupakan menyelesaikan masalahspec
daridari
metode
(2001)metode spectral
mengembangkan conjugate
macamyang
tigagradient merupakan gabungan
metode spectral metode s
optimasi tanpa kendala dalam
metode skala
conjugate besar. Birgin
gradient. dan
Arah Martinez
pencarian (2001)
diberikan mengembangkan
oleh 3 macam
metode penelitian conjugate metode gradient
conjugate yang merupakan
gradient. Arah gabungan
pencarian diberikan darioleh
metode spectral conjugate
metode spectral yang merupakan
gradientgradient dan metode gabungan dari metode
conjugate gradient.spectral gradient dan
Kekonvergenan metode spectral conjugate descent
dengan menggunakan pencarian garis Armijo metodeyangconjugateArah pencarian
gradient.
di mana
diberikan
Arah pencarian oleh:oleh
diberikan
dandan parameter
di mana parameter ditentukan ditentukan oleholeh
termodifikasi dianalisis dengan menggunakan
pendekatan secara numerik.
di mana dan parameter ditentukan oleh

dandan

dan

Sedangkan
Sedangkan adalah spectral
adalah gradient
spectral yang
gradient dapat
yang ditentukan
dapat oleholeh
ditentukan
 dan ‖ di mana
‖ menyatakan dan ‖ ‖ menyatakan Euclidean norm.
Euclidean norm.
m skala besar. Metode
1988,Birgin dan Spectral
Martinez Conjugate
(2001) Gradient
mengembangkan jauh3 untuk
Metode kemudian
Metode Spectral Conjugate
Spectralmetode
Conjugate
Raydan mengembangkan
Gradient
spectral
Gradientconjugate
Metode
Untuk metode
gradient
ini lebih
Spectral
mendapatkan arah macam
Conjugate
yang merupakan
menyelesaikan masalah
Descent
pencarian yang menurun,
gabungan Liu et.al
dari metode (2012)
spectral mengkombinasi
gradient dan
de SpectralMetode
optimasi tanpa
Conjugate kendala
Gradient
Metode dalam skala
spectral
awalnya besar. Birgin
gradient
dikembangkan dan
awalnya
Untuk Martinez (2001)
dikembangkan
mendapatkan
oleh Barzilai
Barzilai mengembangkan
arah
dan Borweinoleh Barzilai
pencarian
Borwein 3
yang
pada tahun
tahun macam
dan Borwein
menurun, Liupada
et.al tahun
(2012) mengkombinasi
radient yang merupakan
Metode spectral gabungan
spectral gradient
gradient
Metodeconjugate awalnya dari
metode
Spectralgradient metode
dikembangkan
Conjugatespectral spectral
oleh
conjugate
Gradient gradient
dan
gradient dan
dan metode
pada conjugate descent. Arah pencarian dari metode
Conjugate
Metode spectralmetode
Gradient
metode spectral
1988,
gradient conjugate
awalnya
kemudian
gradient.
Raydan yang
dikembangkan Arah
merupakan
oleh
mengembangkan
metode pencarian
spectralgabungan
Barzilai
metode
conjugatediberikan
dari
dan metode
Borwein
ini lebih
gradient oleh
pada tahun
spectral
jauh
dan gradient
untuk
metode dan
menyelesaikan
conjugate descent. masalah
Arah pencarian dari metode
1988, kemudian
1988, kemudian Raydan
Raydan mengembangkan
mengembangkan metode
metode ini
ini lebih
lebih jauh
jauh untuk
untuk menyelesaikan
menyelesaikan masalah
masalah
Arah pencarian diberikan oleh spectral
Metode conjugate gradient
gradient descent
awalnya diberikan oleh
dikembangkan oleh Barzilai dan Borwein pada tahun 5
metodeawalnya
pectral gradient
kemudian conjugatedikembangkan
gradient. Arah pencarian
oleh diberikan
Barzilai dan oleh
Borwein pada tahun
diberikan oleh
optimasi Raydan mengembangkan metode inidan
lebih jauh(2001)
untuk menyelesaikan masalah
44
optimasi tanpa conjugate gradient descent Sains & Mat, Vol. 2 No. 2, April 2014: 42–48
optimasi tanpa
tanpa kendala
kendala dalam
dalam skalakendala
skala besar.
besar. dalam
Birgin
Birgin danskala besar.
Martinez
Martinez Birgin
(2001) dan Martinez
mengembangkan
mengembangkan
Metode 3(2001)
3
Spectral Conjugate
macam
macam mengembangkan
Metode
Descent Spectral3 Conjugate
macam Descent
Raydan 1988, kemudian
mengembangkan metode Raydan mengembangkan
Metode metode ini lebih jauh untuk menyelesaikan masalah
{ Conjugate (2.6)
asi metode
tanpa
metodekendala
spectraldalam
spectral di skala
mana
conjugate
metode
conjugate besar.ini
gradient
spectral
gradient yang
yanglebih
Birgin jauh
merupakan
dan
merupakan
conjugate untuk
Martinez menyelesaikan
danSpectral
gabungan
(2001) Conjugate
dari
parameter
yang
gabungan
gradient metode
merupakan
Metode
dari metode masalah
Descent
mengembangkan { 3dari
ditentukan
spectral
gabungan
Spectral
spectral
Untuk
gradient
gradient
mendapatkan
dan
macam
oleh
metode
danDescent Untuk
spectral
arah pencarian mendapatkan
gradient
yang dan Liu
menurun, arah et.al
pencarian
(2.6)
5
(2012)yang menurun
mengkombin
di mana optimasi tanpa kendala
dan
dan dalam
parameter
parameter skala besar. Birgin
ditentukan
ditentukan
b
Untuk oleh dan
oleh:
mendapatkan Martinezb (2001)
adalah
arahmendapatkan
pencarian mengembangkan
yang menurun, Liu 3 macam
et.al (2012)gradient
mengkombinasi
dan
endalaparameter
metode
dalam
e spectral
metode conjugate
conjugate
conjugate ditentukan
skala besar.
gradient.
metode
gradient
gradient. Arah
Birgin dan
yang
Arah
conjugate oleh
pencarian
Martinez
merupakan
pencarian diberikan
gradient.
adalah
(2001) oleh
gabungan
diberikan
Arah
Metode
mengembangkan
olehk
dari metode
pencarian
Spectral diberikan
Conjugate
3 Descent
metodeUntuk macam
oleh
spectral
spectral
k
gradient
conjugate arahmetode
dan
gradient spectral
pencarian
dan metodeyang conjugate
menurun,
conjugate Liu
descent. dan(2012)
et.al
Arah metodemengkombin
conjugate
pencarian dari metod
adalah
metode
yang spectral conjugate
merupakan gradient yang merupakan
metode spectral conjugate gabungan
gradient dandari metode
metode spectral
conjugate gradient
descent. Arah dan
pencarian
diberikandari metode
oleh
conjugate gradient
e conjugate gradient. Arah pencariangabungan
diberikandariolehmetode metode
Untukspectral gradient
mendapatkan
conjugate arahdan
spectral conjugate
descent gradient
pencarian
gradient conjugate
diberikan dan
yang menurun,
gradient
olehmetode descent
Liu conjugate
et.al (2012) descent. Arah
mengkombinasi pencarian dari meto
di mana metode conjugate
dan gradient.
parameter Arah pencarian
conjugate
ditentukan gradientdiberikan
oleh descent diberikan
oleh oleh
{ { (2.7)
(2.7)
di mana Arah pencarian diberikan
e gradient. dan parameter
oleh ditentukan
metode oleh conjugate
spectral conjugategradient
gradientdan
descent diberikan
metode oleh descent.
conjugate Arah pencarian dari metode
.......................................
{ (2.7)
di mana dan parameter ditentukan oleh { (2.6
{ (2.6)
na dan parameter ditentukan olehgradient descent diberikan oleh
conjugate {
adalah (2.8)
(2.8)
(2.6

dan parameter
dan
parameter adalah
di mana ditentukan oleh danadalah ditentukan oleh . .................................................(2.8)
Dengan menggunakanadalah pencarian garis { Armijo yang termodifikasi akan ditunjukkan bahwa (2.6)
Dengan menggunakan pencarian garis ArmijoDengan yang menggunakan
termodifikasi pencarian
akan garis Armijo
ditunjukkan bahwa { (2.7
dan metode ini konvergen global serta menghasilkan
yang termodifikasi
{ arah pencarian akan
{
yang menurun.
ditunjukkan bahwa metode(2.7)
adalah { (2.7
metode ini konvergen global serta menghasilkan ini konvergen arah pencarian global yang sertamenurun. menghasilkan arah
dan
dan dan (2.8
pencarian { yang menurun. (2.7)
(2.8)
dan Pencarian Garis Armijo Yang Termodifikasi (2.8
Dengan menggunakan pencarianDengan garis Armijo menggunakan pencarian garis
yang termodifikasi akanArmijoditunjukkanyang term
bah
Sedangkan adalah spectral Pencarian
gradientDenganyang
Garis dapat
Armijo
Pencarian ditentukan
menggunakan Yang
garis oleh
Termodifikasi
merupakan
pencarian Pencarian
salah
garis satu bagian
Armijo Garis yang
yang Armijo
penting
termodifikasi Yang
dalam Termodifikasi
metode
akan optimisasi.
ditunjukkan Ter-
bahwa
Dengan
metode ini menggunakan
konvergenPencarian pencarian
global metode
sertagaris ini
garismerupakan
menghasilkan konvergen
Armijoarah yang global serta
termodifikasi
pencarian (2.8)
menghasilkan
akan arah
ditunjukkan bah pencari
salah satuyang bagian menurun.yang
dan Pencarian
dapat
metode duaini garis
jenis merupakan
pencarian
konvergen garis,
global salah
yakni
serta satu bagian
pencarian
menghasilkan yang
garis
arah eksakpenting
pencarian dan dalam
tidak
yang eksak. metode
menurun. Namun optimisasi.
dalam prak-Ter-
Dengan menggunakan metodepencarianini konvergen penting
garis global
Armijodalam (2.5)
sertayang metode
menghasilkan
termodifikasioptimisasi.
arah akan Terdapat
pencarian yang dua
ditunjukkan menurun. jenis
bahwa
Sedangkan Sedangkan
sedangkan
adalah
Sedangkan adalah spectralspectral adalah
adalah
gradient
gradient
. Secara dapatyang
yang
numerik
spectral
spectral
dua teknya,
dapat
jenis
dapat
metode
gradient
gradient
pencarian
ditentukan
pencarian
ditentukan oleh
oleh
inikonvergen
sangat
yang
garis
garis,yang dapat
yang
efisien,yaknidapat
tidak ditentukan
pencarian
eksak
pencarian lebih garis garis,
dipilih oleh
eksak yakni
daripada
Pencarian pencarian
dan tidakpencarian
Gariseksak. garis
garis
ArmijoNamun eksak
yang eksak dan tidak
karena
dalam prak-
Yang Termodifikasi
metode ini Pencarianglobal akan serta tetapi
Garismenghasilkan
Armijo arahYang pencarian
Termodifikasi
arah pencarian yang menurun.
al gradient yangditentukandapat ditentukanoleh: olehsifatPencarian
pencarian Garis Armijo
garisPencarian
eksak yang Yang terlalu
eksak.
Termodifikasi
mahal
Namun
dan tidak
dalam
efisien.
praktiknya,
Di
Pencarian lain pihak,
garis
pencarian garis yang
bagi
merupakan sebagian salahbesarsatu bagian yang pe
yang dihasilkan
Sedangkan belum tentu teknya,
adalah pencarian
arahspectral
yang menurun
gradientgaris yangdirection).
(descent
yang tidak
dapat eksak
Garislebih
Pencarian
ditentukan Armijo
tidak
garis(2.5)dipilih
oleh Yangdaripada
eksak
merupakan Termodifikasi
lebihsalahdipilih pencarian
satu daripada
bagian garis
yang yang
pencarian
penting eksak
dalam karena
garis
metode optimisasi. T
metode-metode Pencarian optimisasi,
garis merupakan sebagai contoh
salah
yang
(2.5)
metode
satu
eksak bagian Newton
karenayang
dapat dua dan
penting
sifat jenis metode
dalam
pencarian
pencarian Quasi-Newton,
metode garis
garis,
(2.5)
optimisasi.
eksak
yakni kekon-Ter-
yang optimisasi.
pencarian
gkan adalah spectral
Berdasarkan
.. Secara metode
numerik
gradient
Secara numerikyang
..................................................
sifat pencarian
spectral
metode
dapat
metode garisGaris
conjugate
Pencarian
ini sangat
ditentukan
ini sangat eksak
gradient,
efisien, yang
dapat
oleh Armijo
efisien, akan
akan
Zhang (2.5)
Pencarian
terlalu
dua Yang et.al garis
(2006)
mahal
jenisTermodifikasi
(2.5)
tetapi
tetapi pencarian
arah
arah
merupakan
pencarian
pencarian
memodifikasi
dangaris,
tidakyakni salah
efisien. satu
pencarian bagian
Di lain garis yang
pihak, penting
eksakbagi dan tidak dalam
sebagian metode
eksak.besar Namun dalam prad
garis eksak T
vergenan
dapat dua metodenya
jenis pencariantidak bergantung
garis, yakni terlalu
pada
pencarian mahal
pencarian garis dan
garis
eksak tidak
eksak
dan efisien.
yang
tidak DiNamun
digunakan.
eksak. lain pihak, dalam bagi
prak-
alahyang Sedangkan
metode belum
Flethcer-Reeves arahadalah
sehingga . arah
Secara
spectral
metode-metode
numerik
pencarian
gradient
Pencarian
optimisasi,yang
yang metode
dapatdapat
dihasilkan
teknya,
garis dua
sebagai pencarian
merupakan inipencarian
ditentukan
jenis
adalah
contoh
sangat
araholeh
garis
salah efisien,
garis,
pencarian
yang
satu
metode
sebagian tidak
bagian
Newton
besar
teknya,
yakni
yang
eksak
yang akan pencarian
pencarian
lebih
penting
dan
metode-metode
tetapi
(2.5)
garis
dipilih
dalam
metode
garis arah
eksak yang
daripada
metode
Quasi-Newton,
optimisasi,
pencarian
dantidak
tidakeksak
pencarian
optimisasi. eksak. lebih
garis Namun
Ter-
kekon-
sebagai
dipilih
yang daripad
dalam
eksak pra
kare
yang dihasilkan
spectral belumyang
gradient
dihasilkan tentudapat
tentu arah ditentukan
yang
yang menurun
menurun oleh
(descent
(descent direction).
direction).
numerikmenurun.
metodeMetode ini sangat efisien,
Fletcher-Reeves . Secarayang
Secara akan
teknya, tetapi
Secara
pencarian
termodifikasi
numerik arah
umum,
metode
garis
teknya,
diberikan pencarian
pencarian
yang
ini
tidak
pencarian
oleh
sangat
garis
eksak
garis
contoh
tidak
efisien,
lebih
(2.5)
yang eksak
dipilih
tidak
metode
akan
mencari
daripada
sifat
eksak
Newton
tetapi
panjang
pencarian
lebih
arah
pencarian
dipilih
dan
langkah
garis garis
eksak
daripada
metode
pencarian
(steplength)
yang
yang eksak
Diterlalu
pencarian
Quasi-Newton,
yang
karena
mahal
garis dansebagian
yang tidak
eksakefisie
kare
yangmetode
Berdasarkan
Berdasarkan dihasilkan
metode spectral
spectral belum
conjugate
vergenan
conjugate tentu
numerik
dapat arah
dua
gradient,
metodenya
gradient, jenisyang
metode pencarian
Zhang
tidak
Zhang menurun
ini
sifat et.alsangat
pencarian
bergantung
et.al garis,
(2006)
(2006) (descent
garis
yakni
pada eksak
pencarian
memodifikasi
pencarian
memodifikasi yang terlalu
direction).
garis
garis eksak mahal
eksak danyangdan
tidak tidak
eksak. efisien.
digunakan. Namun lain
dalam pihak,
prak-bagi be
efisien, akan tetapi arah sesuai
pencarian sehingga
sifat pencarian yang fungsi
garis objektif
eksak
dihasilkan yang
(2.5)merupakan
terlalu mahal
kekonvergenanfungsidan yang
tidak menurun
efisien.
metodenya
metode-metode Di di (2.5)
setiap
lain pihak,
tidak
optimisasi, iterasinya.
bagi
bergantung Salah
sebagian
sebagai contoh satu
besar
pada metode Newton
u arah yang
metode menurun
. Secara
metode Flethcer-Reeves
(descent
yangnumerik
dihasilkan
sehingga direction).
metode
belum
arah ini
{tentu
pencarian sangat
arah
teknya,
yang efisien,
yang
pencarian sifat
akan
menurun
dihasilkan garis
adalah
pencarian
tetapi
metode-metode (descent
yang tidak
arah
garis
araheksak eksak
pencarian
optimisasi, lebih
direction).
pencarian
yang
yang
terlalu
sebagai
dipilih mahalmetode
contoh
daripada dan tidak
pencarian Newtonefisien.
garis dan
yangDimetode
lain pihak,
eksak bagi sebagiankeko
Quasi-Newton,
karena be
Flethcer-Reeves
belum tentu Berdasarkan
sehingga araharah yang
. metode
pencarian
SecaraSecara
menurun yang
pencarian
metode-metode
numerik
dihasilkan
spectral
umum,
(descent
garismetode
yang adalah
conjugate
pencarian
direction).
optimisasi,
tidakini
arah
garis
eksaksebagai
sangat adalahpencarian
pencarian
gradient,
tidakcontoh yang
eksak
pencarian
efisien, metode
akanZhang
garis
mencari
garis eksak
Newton
Armijo
tetapi
vergenan
et.al yang
panjang
dan
arah yang(2006)
metodenya
digunakan.
langkah
metode
dideskripsikan
pencarian memodifikasi
(steplength)
Quasi-Newton,
tidak sebagai
bergantung kekon-yang
beri-
pada pencarian garis e
.menurun.
Secarabelum
numerik metode ini menurun
sangat efisien,
sifat akan
pencarian tetapi
garismetode-metode
arah
vergenan
eksak pencarian
metodenya
yang optimisasi,
terlalu Secara
tidak
mahal sebagai
umum,
bergantung
dan tidak contoh
pencarian metode
pada memodifikasi
efisien. pencarian
Di lain Newton
garis tidak
garis
pihak, dan
eksak
bagi eksakmetode
yangmencari
sebagian Quasi-Newton, keko
digunakan.
besar
edihasilkan
spectral
menurun. Metodetentu
conjugate
Metode arah yang
Fletcher-Reeves
Berdasarkan
Berdasarkan
gradient,
Fletcher-Reeves yang
yang Zhang
metodemetode(descent
et.al
termodifikasi
spectral
termodifikasi
sesuai tentusehingga (2006)
diberikan
spectral conjugate
direction).
diberikan
fungsi
conjugatememodifikasi
oleh
oleh
objektif
gradient,gradient,
merupakan
Zhang
fungsi
et.al (2006)
yang bilangan
menurun diyangsetiap iterasinya. Salah satu
metode
diberikan
yangmenurun
Zhang etFlethcer-Reeves
oleh (2.2).
dihasilkan
al. belum
(2006) kut:
memodifikasi sehingga
vergenan
diberikan
arah yang
metode-metode metodearah
metodenya
menurun pencarian
tidak
vergenan
Flethcer-
optimisasi,
( )yang
bergantung
(descent
metodenya
Secara
sebagai umum,
pada
panjang
contohtidak
direction). dihasilkan
pencarian
langkah
, terdapat
bergantung
pencarian
metode
garis
garis
Newton
adalah
pada
tidak
eksak
(steplength)
Secara
bulat
pencarian
dan eksak
arah
yang
umum,
metode
pencarian
digunakan.
sesuai
nonnegative
garis
mencari sehingga
pencarian
eksakpaling
panjang
Quasi-Newton, yang yang
garis
kecil fungsi
tidak
digunakan.
langkah
kekon-
eksak mencari
(steplength) ya
belum tentu arah
Berdasarkan yang
metode
metode (descent
Flethcer-Reeves
spectral conjugate direction).
sehingga
gradient, Zhang
arah et.al
pencarian (2006)
yang memodifikasi
dihasilkan adalah arah pencarian yang
hingga arah pencarian yang
Reeves Berdasarkan
sehingga dihasilkan
{{ pencarian
arah adalah
pencarian
garis yang arah
Secara
yang
tidak pencarian
umum,
dihasilkan
eksak pencarian
adalah
Secara yang objektif
garis
pencarian
umum, tidak merupakan
eksak
pencariangaris mencari
Armijo
sesuai
garis tidak
fungsi
panjang
yang
sehingga eksak
yanglangkah
dideskripsikan
fungsi
mencari
menurun(steplength)
objektif
panjang
di
sebagai
merupakan setiap
langkahyang
beri-
fungsi yang
(steplength) men
ya
kan metode spectral
e Flethcer-Reeves
menurun.conjugate
sehingga
Metodegradient,
arahpencarian
pencarian
Fletcher-Reeves
metode sedemikian
spectral
vergenan
Zhang
yang et.al yang
sehingga
conjugate
metodenya
(2006) sesuai termodifikasi
tidak gradient,
sehingga
bergantung
memodifikasi fungsiZhang
pada
iterasinya.diberikan
objektifet.al
pencarian merupakan
Salah oleheksak
(2006)
garis
satu memodifikasi
fungsi
pencarian yang yang menurun
digunakan.
garis yang di tidaksetiap iterasinya. Salah s
eksak
adalah
menurun. arah
Metode Fletcher-Reevessesuaidihasilkan
yang menurun.
yang
sehingga adalah
fungsi Metode
termodifikasi arah pencarian
objektif diberikan
merupakan yang
oleh
fungsimerupakan
yang menurun diyang
setiap iterasinya. Salah satu
Reevesdiberikan
yang termodifikasi
diberikan oleh
Fletcher-Reeves
oleh (2.2). diberikan
(2.2). Flethcer-Reeves
metode kut:dihasilkan
yang oleh
sehingga
diberikan
termodifikasi arah
Secara umum,
diberikan sesuai
pencarian
pencarian sehingga
yang
(pencarian
oleh: ) yang
garis fungsi
adalah
dihasilkan
yang
garis objektif
, tidak
terdapat
tidak pencarian
adalah
eksak
eksak
pencarian
bilanganarah
adalah
mencari garis garis
fungsi
Armijo
pencarian
bulat
pencarian
panjang yang
garis tidak
yang
nonnegative
langkah menurun
yang
Armijo eksak
palingdiadalah
dideskripsikansetiap
kecil
yang dideskripsikan
(steplength)
pencarian
iterasinya.
yang
garis Arm
Salah
sebagai sa
be
-Reeves
run. sehingga
Metode Jika arah
Fletcher-Reeves
pencarian pencarian yangyang
garis yang termodifikasi
digunakan adalah adalah
diberikan
pencarian garis
pencarian arah
oleh
yang
garis pencarian
tidak
eksak, eksak
maka adalah
metode pencarian
ini kembaligaris ke Armijo yang dideskripsikan sebagai beri-
{ fungsi
pencarian garis sebagai
yang tidak berikut:
eksak diberikan
adalah
kut: pencarian
diberikan di garis Armijo yang )dideskripsikan,, terdapatsebagai be
palingbilanga
menurun. Metodesedemikian
Fletcher-Reeves {yang
sesuai Modifikasi
sehingga pencarian
termodifikasi objektif garismerupakan
Armijo
diberikan berdasarkan
fungsi
oleh ( yang )fungsimenurun setiap ( Salah
iterasinya. satu
e Fletcher-Reeves yang termodifikasi diberikan sehingga
oleh kut: diberikan , terdapat bilangan bulat nonnegative kecil
{ metode Fletcer-Reeves {
yang standard. kut: diberikan
pencarian garis yang kut:tidakdiberikan
( )terdapat
eksak adalah pencarian
bilangan
, terdapat
( garis ) bulatbulat
bilangan
Armijo ,
nonnegatif
terdapat
yang
nonnegative
bilangan
dideskripsikan
paling
paling
bulat
kecil
kecil
nonnegative
sebagai beri- paling kecil
sedemikian sehingga
diberikan
diberikan oleh
oleh (2.2).
(2.2). { sehingga sedemikian sehingga sedemikian sehingga
Jika pencarian
Jika pencarian garis
garis
{ yang yang digunakan
digunakan adalah
adalah pencarian
sedemikian
pencarian garis
garis eksak, maka
eksak, maka metode metode ini ini kembali
kembali ke ke
kut: diberikan sedemikian sehingga ( ) , terdapat bilangan bulat nonnegative paling kecil
iberikan
metode oleh (2.2).
Fletcer-Reeves yang standard. adalah matriks
Modifikasi pencarian simetris
garis dan
Armijo definit positif yangfungsi
berdasarkan dikembangkan oleh Wei et.al (2000). Un-
metode Fletcer-Reevesdiberikan
yang standard. Modifikasi pencarian
eh (2.2). diberikan oleh(2.2).
oleh (2.2). sedemikian sehingga
tuk memudahkan penggunaan, modifikasi ini dapat Armijo
Modifikasi Modifikasi
pencarian garis pencarian
digunakan berdasarkan
dengan fungsi garis
garis mengubah
Armijo
Armijo berdasarkan fungs
berdasarkanmenjadi
Modifikasi pencarian garis
Modifikasifungsi Armijo berdasarkan fungsi
pencarian garis Armijo berdasarkan fungsi
Jika pencarian garis yang digunakan untuk adalah . Untuk metodegaris
pencarian conjugate
eksak,descent, maka pencarian
metode ini garis Armijokeyang termodifikasi
kembali
Jika pencarian garisadalah yang digunakan
matriks
Modifikasi
simetris adalah
pencarian
dan pencarian
garis Armijo
definit positif garis eksak,fungsi
berdasarkan
yang maka metode ini et.al
kembali ke
encarian garis yangmetode digunakan adalah pencarian
Fletcer-Reeves yang dideskripsikan
garis eksak,
standard. sebagai
maka berikut:
metode
adalah matriks diberikan
ini kembali
simetris kedikembangkan
dan definit adalah
, positif matriks oleh
yang Wei
, simetris
dikembangkan (2000).
dan, definit oleh positif
dan
WeiUn- yang
et.al dikemb
(2000). U
gunakan adalah Jika pencarian
pencarian garis
garis eksak,
yang maka
digunakan metodeadalah ini kembali
pencarian gariske eksak, maka metode ini kembali ke
aris yang digunakan
e Fletcer-Reeves metode
yang adalah
Jika Fletcer-Reeves
pencariantuk
pencarian
standard. garis
garis yang
eksak,
yangmaka
memudahkan standard.
adalah matriks
metode
digunakan
penggunaan,
simetris
tukini kembali
adalah
adalah dan
modifikasi
memudahkan matriksdefinit
B positif
adalah
kepenggunaan,
ini dapat
ksimetris
yang
matriks
tuk
dandigunakan dikembangkan
memudahkan
definit positif
modifikasi
simetris
dengan
ini yang oleh danWei
penggunaan, et.al
definit
mengubahdengan
dapatdikembangkan
digunakan
(2000).positif
modifikasi
oleh Un-
menjadi ini dapat
Wei et.al (2000).
mengubah diguna
menjU
standard. pencarian
metode garis eksak,yang
Fletcer-Reeves maka tuk metode
memudahkan
standard. ini kembali
penggunaan, ke yang dikembangkan
modifikasi ini dapat digunakan olehdengan et al. (2000). menjadi
Wei mengubah Untuk
eeves yang standard. untuk . Untuk
adalah matriks tuk
metode memudahkan
simetris
untuk dan definit
conjugate penggunaan,
. Untuk positif
descent,metode pencarian
yang untuk garis
modifikasi
dikembangkan ini dapat. Untuk
Armijo
oleh Wei
pencarian metode
digunakan yang
et.al dengan
conjugate
termodifikasi
garis (2000).
Armijo mengubah
Un- descent, pencari
yang termodifik menja
metode Fletcer-Reeves yang standar. memudahkan conjugate
penggunaan, descent, modifikasi ini dapat
untuk . Untuk metode conjugate descent, pencarian garis Armijo yang termodifikasi
untuk digunakan
. Untuk metode dengan mengubah
dideskripsikan Bpencarian
sebagaik menjadi mI untuk
garis Armijo m>0. yang termodifik
, berikut:, diberikan ,d
tuk memudahkan dideskripsikan penggunaan, modifikasi ini dapat conjugate
digunakan descent,
dengan mengubah menjadi
dideskripsikan sebagai berikut: diberikan 5sebagai berikut: diberikan
, , pencarian , dan ,
dideskripsikan sebagai berikut: sebagai Untuk
diberikan metode conjugate , descent, , garis
, Armijo dan
Metode Spectral Conjugate Descent untuk dideskripsikan
. Untuk metode conjugate berikut:
descent, diberikan
pencarian garis Armijo, yang ,
termodifikasi , d
yang termodifikasi dideskripsikan sebagai berikut:
pectral Conjugate Descent Untuk mendapatkandideskripsikan arah pencarian sebagai yang berikut: diberikandiberikan , , , dan
dan
ntuk mendapatkan arah menurun,
pencarianLiu et al.
yang (2012) Liu
menurun, mengkombinasi
et.al (2012) mengkombinasi metode , misal didefinisikan ,, pencarian
misal
, misal didefinisikan
didefinisikan , pencarian pencarian garisgaris ArmijoArmijo
yangyat
spectral conjugate gradient dan metode conjugate descent.
pectral conjugate gradient dan metode conjugate descent. Arah pencarian dari metode garis mencari
Armijo
mencaridi mana yang termodifikasi
di manaadalah adalah
bilangan
adalah
bilangan bulatbulat
mencari
nonnegative
nonnegative
a k
paling paling
kecilkecil
seh
Arah pencarian dari metode conjugate gradient descent
, misal di mana jk adalah
didefinisikan bilangan
, pencarian bulat garis nonnegatif
Armijo yang paling
termodifikasi adalah
gradient descent diberikan
diberikanoleh oleh: , misal didefinisikan , pencarian garis Armijo yang termodifikasi adalah
kecil sehingga ( ( ) ) ( () ‖
mencari mencari di mana diadalah mana bilangan adalahbulat bilangan bulat nonnegative
nonnegative paling kecil paling
sehinggakecil sehingga
{ ......................... (2.6) (2.6)
dan dan
( ( ) ) ( ) ‖( ‖ ) ‖ ‖(2.9) (2.9)
( ( ) )
dan dan dan
{ (2.7) MisalMisal ( dan dan )bilangan bilangan riil yang
riil yang sangat sangat
kecil,kecil,
makamaka yangy
( ) (2.10) (2.10)
...................... (2.10)
tukantukan
oleh oleh
Misal Misal
dan dan bilangan
bilangan riil riil yang
yang sangat sangat
kecil, makakecil, yang
maka paling yang paling
sesuai sesuai diten-
diten-
(2.8)
tukan olehtukan oleh
{ {
menggunakan pencarian garis Armijo yang termodifikasi akan ditunjukkan bahwa
{ { (2.11)
i konvergen global serta menghasilkan arah pencarian yang menurun. (2.11)
dengan
dengan
dengan dengan
n Garis Armijo Yang Termodifikasi
HASIL
HASIL DANDAN PEMBAHASAN
PEMBAHASAN
ncarian garis merupakan salah satu bagian yang penting dalam metode optimisasi. Ter-
HASIL
HASIL DAN DAN PEMBAHASAN
PEMBAHASAN
 nisikan , pencarian garis , misal Armijo didefinisikan yang termodifikasi adalah , pencarian garis Armijo yang termodifikasi adalah
, misal didefinisikan , misal didefinisikan , pencarian garis ,Armijo pencarian yang garis Armijo yang
termodifikasi adalah termodifikasi adalah
, pencarian
adalah bilangan mencari
, pencarian bulatgaris garis
mencaridi mana yang
Armijo
Armijo adalah
diyangmana termodifikasi bilangan
termodifikasiadalah bulat adalah
adalah
bilangan nonnegative
bulatgaris paling kecil
nonnegative paling sehingga kecil sehingga
,, pencarian
pencarian , nonnegative
misal
garis
garis didefinisikan
Armijo
Armijo paling yang
yang kecil sehingga
termodifikasi
termodifikasi , pencarian
adalah
adalah Bukti. Dengan Armijo yang
menggunakan termodifikasiinduksi, adalah
kita akan tunjukkan bahwa kesimpulan benar. Untu
mencari di mana mencari adalahdibilangan mana bulat adalah nonnegative
bilangan bulat paling kecil sehingga
nonnegative paling kecil sehingga 7
bilangan
langan bulat
definisikan bulat, nonnegative
misal
nonnegative didefinisikan
, paling
paling
pencarian (kecilkecilgaris sehingga
sehingga Armijo , pencarian
) yang garis
termodifikasi Armijo yang
adalah termodifikasi
( ) ‖ adalah
‖
hh bilangan
bilangan bulat ) bulat mencari nonnegative
nonnegative di mana paling
paling kecil adalah
kecil ( (
sehingga bilangan bulat nonnegative
sehingga ) ‖ ‖ ) (2.9) berlaku paling kecil sehingga ( )
, sehingga berlaku ‖ ‖ (2.9) (2.9) ‖ ‖ Sehingga (3.2) benar unt
( adalah )paling ( bulatkecil ) paling kecil ( sehingga ‖ ‖Dengan
)Bukti. ( menggunakan )(2.9) ‖ ‖
) ) mencari
na adalah bilangan dan
di mana
Bukti.
, Hasanah:
pencarian
bulat
Dengan nonnegative
menggunakan
garis Armijo ( ( bilangan ) )‖
yang))Metode
‖induksi,
‖ ‖
termodifikasi
nonnegative
kita sehingga
akan (2.9)
(2.9) adalah
tunjukkan bahwa
Bukti.
.Descent
kesimpulan
Dengan
Kita asumsikan
7 benar.
menggunakan
‖ ‖untuk induksi,
Untuk induksi, (2.9)
kita akan , tunjukkan
kita akan tunjukkan bahwa kesimp
bahwa kesimpulan
‖ ‖ bena
)) dan
Konvergensi ( ((Global ‖‖ ) ‖‖ Spectral Conjugate
(2.9)
(2.9) ( ) benar (2.9)dan yaitu
7 45 . Ji
(bilangan dan )nonnegative berlaku
( dan ) , sehingga ( berlaku ) ‖ ) ‖ kesimpulan ‖( ‖ Sehingga
‖
) berlaku ‖ berlaku
(3.2) benar untuk , sehingga berlaku ‖ ‖ Sehingga
(2.9) , sehingga berlaku ‖ ‖ Sehingga (3.2) ben
hBukti. ( bulat
Dengan menggunakan
dan ) paling kecil
induksi, kita akan sehingga
( tunjukkan ( bahwa (2.10) ) (2.9)benar. , maka Untuk . Dari (2.4), (2.10) (2.6)
7 untuk
dan (2.8) didapatkan
(2.10) dan
. Kita ‖ asumsikan ‖ benar Untuk ,7 yaitu , yaitu
dan berlaku ) )riilMisal . h>0 Kita asumsikandan e>0
, sehingga Bukti. benar
(bilangan
berlaku Dengan untuk riil ) (‖ dan
menggunakan
yang sangat
‖sesuai induksi,
Sehingga
, yaitu
kecil, ) kita (3.2) akan.benar
Kita tunjukkan
asumsikan
untuk bahwa benar(2.10) . untuk
Jika
kesimpulan benar.dan (2.10) ‖
)
bilangan Misal yang sangat dan
kecil,
Misalpaling sesuai (maka bilangan
)
dan ( ditentukan‖ yang ‖ riil
paling
bilangan yang (2.10)
(2.10) sangat kecil,
diten-
riil yang sangat kecil, maka maka yang paling sesuai diten-
(( ))
maka jk yang , maka berlaku . Dari (2.4), (2.6) ,
(2.9)
)(2.10)
oleh (2.10)
dan
sehingga (2.8) didapatkan
berlaku
(
‖ ‖ , yang
maka
Sehingga
paling ) ‖sesuai
(2.10)
(3.2) .‖Dari
benar
diten-
(2.4),
untuk (2.6) ‖dan ‖(2.8) didapatkan ‖ ‖
Misal
. Kita Bukti.dan Misal
Dengan menggunakan
(bilangan dan riil induksi,
yang bilangan kita akan
,sangat riil yang
kecil, tunjukkan
maka sangat bahwa
‖ yangkecil, .maka
‖kesimpulan
paling makasesuai
, Jika yang
benar. diten- paling
.Untuk
Dari (2.4), sesuai (2.6) diten-dan7 (2.8) didapatkan
anganriilriil yang
yang (asumsikan
tukankecil,
sangat
sangat benar
oleh
kecil, )maka
tukan
untuk
maka oleh yang
Bukti. yang dan paling
paling
Dengan ) sesuai sesuaiyaitu
menggunakan diten-induksi,(2.10)
diten- kita akan tunjukkan (2.10)
bahwa kesimpulan benar. Untuk
angan
angan riil riil yang
yang Misal
sangat
sangat kecil,
kecil, dan
maka
maka bilangan
yang
yang
. Kita paling
paling
asumsikan riil yang
sesuai
sesuaibenar untuksangat
diten-
diten- kecil,
Jika ‖ dan maka yang , yaitu paling sesuai diten- ‖ (2.6), ‖ (2.8)
. )Jika
‖ , maka . Sehingga dari ‖ dan ‖ asumsi bahwa ‖ 7 7‖
makadan berlaku , sehingga berlaku ‖ Sehingga
n Misal
tukan, oleh
bilangan riil oleh
tukan
yang sangat
. Darioleh(2.4),
bilangan ( riil
kecil,
(2.6) yang
berlaku
maka
dan sangat(2.8)
yang) ‖didapatkan
kecil,‖ , sehingga
paling makasesuai berlaku yang
diten- ‖ paling ‖ (3.2)
sesuai ‖‖ (diten-
benar
‖ kesimpulan
untuk
(
Sehingga benar. (3.2)) ‖ benar ‖ untuk ‖ ‖ ‖ ‖
)tukan Bukti. Dengan menggunakan induksi, kita akan tunjukkan bahwa Untuk
{ . Kita asumsikan benar untuk , maka (2.10)
{dan . Dari{didapatkan
(2.4),
, yaitu (2.6) dan (2.8) didapatkan ‖ ‖ . Jika
tukan olehJika ( (2.11) (2.11)benar ‖. Sehingga ‖ . Jika 7
, makaberlaku ) ‖. .....................................
Kita asumsikan
‖ . Sehingga { , dari
Bukti.
Bukti.
benar
sehingga ‖(2.6), untuk
‖ berlaku
Dengan
Dengan (2.8)
(2.11) { ‖dan ‖asumsi
menggunakan
menggunakan
danJika ‖ , ‖yaitu
Jika bahwa induksi,
induksi,
Sehingga
kita
kita
,,akan
akan
maka
maka (3.2)
tunjukkan b
tunjukkan =0. (2.11)
Denganuntuk
bahwa
bahwa
dari (2.6), (2.8)
demikian
kesimpulan
kesimpulan benar.
benar.
dan asumsi bah
Untuk
Untuk
ngan riil yang {{ sangat kecil, maka
, maka yang paling sesuai
. Dari (2.4), (2.6) dan (2.8)Jika diten- didapatkan , maka (2.11) . Sehingga dari k (2.11) (2.6), (2.8) dan asumsi bahwa
{{ didapatkan . Kita asumsikan , maka benar {(2.11)
((2.11) untuk . Dari (2.4), )dan ‖ dari ‖ (2.6),
(2.6) ( (2.8)
dan , yaitu
didapatkan (2.8) ‖dan)
didapatkan ‖ ‖asumsi ‖ ‖‖ bahwa ‖ ‖‖ .‖Jikadidapatkan‖ ‖ ‖ ‖
dengan Bukti.(2.11)
(2.11) Dengan
berlaku
berlakubahwa menggunakan
didapatkan , sehingga
, sehingga berlaku induksi, berlaku kita akan (2.11)
tunjukkan ‖ ‖ ‖ ‖ bahwa kesimpulan
Sehingga
Sehingga (3.2)benar
(3.2) benar.untuk
benar Untuk
untuk
ika dengan , maka dengan { . Sehingga dari {
(2.6), (2.8) dan asumsi 0‖ Dengan
dengan Jika ( , maka , maka ) ‖ . Dari ‖ berlaku (2.4), (2.11)
(2.6)dari dan‖ (2.8) Bukti.
‖, sehinggadidapatkan (2.11)
‖ menggunakan induksi, kita akan tunjukkan bahwa kes
dengan . Jadi
Sehingga kesimpulan benar
(2.6), untuk berlaku
. dan
Dengan demikian ‖‖)terbukti‖ Sehingga
‖ ‖ bahwa
(3.2)
‖ metode
benar
‖‖7‖ spectral
untuk
Jikaconjuga
didapatkan dengan ( )‖ ‖ ( .
‖ ‖ . Kita
Kita asumsikan
asumsikan ) ‖ benar
benar ‖ ‖ ‖ ( dan
untuk (2.8)
untuk ‖ asumsi ‖dan‖ bahwa
(
‖ , ,yaitu
‖ yaitu
‖ , ‖sehingga
‖‖. .Jika ‖ ‖
{ Jika . Kita
descent asumsikan Bukti.benar
menghasilkan Dengan untuk
arah berlaku
menggunakan
pencarian dan yang
)induksi,
,
menurun, kita ‖akan
yaitu yaitu
‖ tunjukkan bahwa
berlaku ‖ ‖
‖‖ kesimpulan
‖‖ .
‖‖ Sehin
Jika
untuk
‖
seti
AHASAN dengan HASIL DAN ,didapatkan
makapembahasan . Sehingga ( (2.11)
dari (2.6),, ) ,maka
maka
(2.8)
‖ dan ‖ asumsi. .Dari Dari(2.4),
bahwa (2.4),
‖ ‖(2.6) (2.6)dan dan‖ (2.8) (2.8) didapatkan
‖ didapatkan
HASILhasil PEMBAHASAN
)DAN
dan
‖Jika ‖PEMBAHASAN ‖ ,demikian maka ‖. Sehingga dari ‖(2.6), (2.8). Kita dan asumsi
asumsikan bahwa. berlaku ‖ ‖ bahwa
HASIL
Jadi ( kesimpulan
DAN HASIL
PEMBAHASAN
didapatkan
benar
DAN
untuk
PEMBAHASAN
‖ Dengan
. Dengan
Bukti. menggunakan terbukti ‖,bahwa
iterasinya. induksi,
maka
Jadi kesimpulan
Jadi
‖metodekita kesimpulan
berlaku
akan spectral
.benar
Dari tunjukkan
(2.4),
untuk
benar
conjugate (2.6) untuk
,bahwa
. Dengan danbenar
sehingga Dengan
kesimpulan
(2.8) untuk demikian
didapatkan
demikian
7
benar.
terbukti
dan
Untukterbukti ,Sehingga
yaitu metode
bahwa metode spectral c
(3.2)s
algoritma metode Berikut
spectralBerikut adalah
conjugateadalah algoritma descent
algoritma dengan
metode metode menggunakan
( spectral conjugate pen- ‖dengan
N ) ‖ ‖ conjugate (‖descent ‖ menggunakan pen-
Berikut adalah
didapatkan algoritma spectral
metode conjugate descent Bukti. Dengan
dengan‖‖‖, benar
))pencarian ‖‖menggunakan
‖bahwa ‖untuk
menggunakan ‖ . Dari ‖induksi,
pen-
‖
‖dan kita
‖‖ menurun, ‖,akan
‖yaitu tunjukkan
‖‖yaitu bahwa‖‖k
AN
AN HASILmenghasilkan
descent DAN PEMBAHASAN Jika arah pencarian , berlaku
maka yang menurun, . Sehinggaspectral
yaitu
, sehingga dari (
Dengan (2.6),
berlaku. Kita ‖descent
(2.8)
menggunakan
menghasilkan
menghasilkan
asumsikan
dan asumsi
untuk
arah
maka
setiap
pencarian‖arah pencarian
garis
Sehinggayang Armijo (3.2)yang
menurun,
(2.4),
yang
benar (2.6) dan
termodifikasi,
yaituuntuk (2.8) didapatkan
‖ ‖ adal unt
ng adi kesimpulan
termodifikasi. descent
Berikut
benar dengan
adalah
untuk . menggunakan
DenganBerikut
algoritma
Bukti. adalah
metode
demikian
Dengan pencarian
algoritma
terbukti
menggunakan
spectral garis
metode
bahwa
conjugateinduksi, Armijo
metode kita
spectral
descent descentakan
spectral dengantunjukkan
conjugate conjugate menggunakan
descent bahwa dengan pen-
kesimpulan menggunakan benar. pen-
Untuk
ametode
MBAHASAN HASIL
metode DAN
spectral
spectral carian
iterasinya. PEMBAHASAN
garis
conjugate
conjugate carianArmijodescent
descent garis (yang
didapatkan dengan
dengan
Armijo termodifikasi.
yangmenggunakan
menggunakan ) ‖ ‖ pen-
termodifikasi. pen- ‖ ‖ (iterasinya.
‖ ‖, maka ‖) ‖‖ ‖ . Dari (2.4),
berlaku , sehingga ‖ berlaku
(2.6)
‖
dan (2.8)
‖ ‖
didapatkan ‖ ‖ Seh
ma metode yang termodifikasi. Berikut adalah algoritma
dengan metode
menggunakan
. benar
Kita spectral
asumsikan pen- barisan
conjugate
benar ,yang
untuk descent Jadidengan
menurun. kesimpulan
dan ‖‖. Hal menggunakan benar
ini mengakibatkan
, yaitu untukpen- k.danDengan
yang demikian
‖dihasilkan‖bahwa oleh Algoritma SCD-M
tma
descent metode spectral
spectral
menghasilkan
carian garis Armijo
conjugate
conjugate
arahcarian pencarian
yanggaris
Jadiyang
descent
descent Armijo
termodifikasi. dengan
kesimpulan
berlaku menurun,
yang menggunakan
(yaitu
termodifikasi.
untuk
Jika
Jika
, sehingga pen-
. Dengan
berlaku
demikian
)‖‖iterasinya. ‖‖maka
,maka untuk‖terbukti setiap ‖bahwa
.Sehingga
Sehingga Sehingga
metode
dari dari(2.6), ‖(2.6), spectral
(3.2) ‖((2.8)
(2.8)
benar
conjugate
‖dan ‖asumsi
asumsi
untuk ‖ . Jika
)bahwa ‖ ‖ ‖
difikasi.
fikasi.
alah algoritma BerikutAlgoritma
metode adalah SCD-MA
algoritma
Algoritma
spectral
Dengan conjugate
menggunakan metode
SCD-MA descentspectral
pencarian dengan conjugate
garis menggunakan
Armijo descent yang
termuat
dengan
pen-
di terbukti
termodifikasi,
.
menggunakan
Akibatnya bahwa
Dengan
terdapat
. Kita pen-
metode asumsikan
menggunakan
adalah
suatu spectral
konstan
benar
pencarian untukgaris descent
conjugate
sedemikian
dan yang , termodifikas
Armijo
sehingga
yaitu
AN odifikasi.
modifikasi.
terasinya. carian
Algoritma Jadi garis
kesimpulan Armijo
SCD-MA yang
descent
benar . Kita
termodifikasi.
untukmenghasilkan
asumsikan .(Dengan arah
benar , Jika
maka
demikian pencarian
didapatkan
didapatkan
untuk ) ‖terbukti yang
‖ dan . Dari,
bahwamaka
menurun,
(2.4),
‖ Dengan ‖metode (2.6) yaitu
,terbukti
.
danSehingga
menggunakan
yaitu (2.8)
spectral conjugate dari
didapatkan
‖pencarian
( metode
‖
pencarian
‖ (2.6), ‖
‖ ‖yang
(2.8)
untuk
garis dan
‖‖)menurun, asumsi
setiap
Armijo
‖Jika ‖
.conjugate
bahwa
yang termodifikasi, ‖ ‖ ‖
Algoritma
, barisan SCD-MA , yangAlgoritma , Jadi SCD-MA kesimpulan
. Pilih titik benar
awaluntuk . Dengan menghasilkan
demikian arah
bahwa spectral yaitu
o yang carian garis
termodifikasi. Armijo
Langkah yang 1 : termodifikasi.
diberikan
menurun. Hal ini mengakibatkan , , yang ,
dihasilkan . barisan
olehPilih Jika yang
titik
Algoritma menurun.
awal SCD-MA , makaHal
, maka ini mengakibatkan . Dari
Sehingga(2.4),dari(2.6)
yang dan
(2.6), (2.8) didapatkan
dihasilkan danoleh
asums Al
ma metode Dengan Algoritma
Langkah
spectral descent
menggunakan conjugate Langkah
SCD-MA
1 menghasilkan descent
pencarian 1 :
iterasinya.
: diberikan diberikan
arah
garispencarian
dengan menggunakan
Armijo , didapatkan
yang termodifikasi,
yang menurun,
pen- , barisan
yaitu yang , menurun.
adalah .
‖ ‖ HalPilih titik
untuk
untuk awal
ini mengakibatkan
setiap
setiap iterasinya. yang dihasilkan oleh Algoritma (3.3)S
, maka . Dari (2.4), (2.6) dan (2.8) ‖ didapatkan
‖ ‖ ‖ ‖ ‖
di, Langkah 1kesimpulan
: terdapat
diberikan , . Dengan , (. (yang , awal .‖Pilih
Langkah
Algoritma 1 ,:maka diberikan descent , menghasilkan ,untukarah , (
pencarian Pilih titik
Jikamenurun, ) )yaitu
) ‖ titik ‖awal
‖. Akibatnya
‖maka ‖spectral ‖ ‖
‖‖. Sehingga untukkonstan setiap‖ ‖‖(2.8)
‖(2.6), ‖ ‖asumsi
‖dan ‖ sehingga
MA , ., Jika ‖ ‖ , SCD-MA
, termuat stop.
,. Akibatnya Jadi . Pilih
. ,Pilih
Pilih titiktitik
titik
.Dengan awal benar
‖suatu
awal
awal konstan sedemikian
0. Asumsi
Set demikian sehingga
SCD-MA terbukti
termuatjuga bahwa
di
didapatkan
mengakibatkan metode
,termodifikasi, terdapat
terdapat suatu suatu
conjugate dari
konstan sedemikian
sedemikian bahwa
sehingga ‖unt‖
odifikasi.
barisan ,, yang menurun. ,.,iterasinya.
Langkah Set Hal 1 ini.: Set
,diberikan
,mengakibatkan .iterasinya.
. Pilih
Pilih Jika
,titik
titik ,menggunakan
.‖Jikadihasilkan
yang
awal
awal ‖, maka ‖, stop. pencarian
, maka
oleh termuat
, stop.
Algoritma garis
( .Armijo
di Pilih
SCD-MA . Akibatnya yang
titik ) ‖ terdapat
awal ‖ suatu
‖ ‖( konstan adalah
sedemikian
‖) ‖ ‖ ‖sehingga ‖ ‖
. Set(2.11) , . Setdescent .menggunakan
Jikamemenuhi,‖menghasilkan
‖,Jikamenurun. . Jika
, ,maka
maka arah
(dan ‖Jadi
stop.
stop.pencarian
‖,kesimpulan ,semuayang
maka ) ‖benar menurun,
stop. Dengan
didapatkan
‖ untuk yaitu menggunakan
‖ (2.8) ‖(3.3) ‖ pencarian
‖
‖terbukti ‖untuk garis
setiap Armijo yang
‖kan ‖ ‖Langkah
ikan pada
, maka
, maka 1 Langkah
:, diberikan
stop. stop. dan cari 2 : , menentukan
Dengan yang barisan , yang pada (2.9)
.pencarian
Pilih (2.11) Hal
titik
Jadi (2.10).
garis
dan ini
awal maka
mengakibatkan
kesimpulan
cariArmijo . yang
Pilih
benar
yang titik
berlaku
. memenuhi
Sehingga
untuk awalyang
termodifikasi, .dari
.Dengan (2.6),
dihasilkan
Dengan
(2.9) demikian
dandemikian(2.10).oleh dan
adalah
(dan asumsi
Algoritma
terbukti
(2.10).bahwa
bahwa
SCD-MA
bahwa
yang).menurun. ‖metode
metode spectral
‖ spectral conjugate
‖ ‖conjugate ‖
aermuat di
a ‖‖ ‖‖Langkah
., Akibatnya
, maka . Set
Langkah
maka stop.
stop.
terdapat
2Langkah
: menentukan suatu
, 2 : konstan
iterasinya.
menentukan
. Jika j
Dengan ‖pada sedemikian
‖ (2.11) pada
menggunakan , maka sehingga
dan(2.11) stop.
cari dan a
pencarian cari garis yang
termodifikasi,Armijo
Asumsi
memenuhi
Jika {f(x
yang
SCD-MA k (2.9)
)}termodifikasi,
adalah
juga
barisan
, maka
mengakibatkan adalah
Sehingga
terdapat suatu
Hal
dari (2.6),conjugate
konstan (2.8) dan
sedemikasum
(3.4)
Asumsi 2
dan : menentukan
SCD-MA Langkah juga 2
termuat : menentukan
pada
mengakibatkan
.(2.9)
‖Jika (2.11)
di(2.10).
k
didapatkan danterdapat pada
cari
maka Jadi
suatu(2.11)
stop.yang
kesimpulan
konstan dan k cari
memenuhi benar yang
(2.9)
untuk
sedemikian danmemenuhi
. (2.10).
Dengan
sehingga (2.9)
demikian
untuk dan (2.10).
terbukti ‖ bahwa
‖ metode spectral
ada(2.11). Set Langkah barisan ,yang yang menurun.
.memenuhi
3 :,memenuhi
misal Jika 3.‖barisan Hal ini ,. dan
Akibatnya
mengakibatkan
maka stop. terdapat
descent
descent
dan suatu
yang konstan
menghasilkan
.menghasilkan dihasilkan
Asumsi ini arah
arah
. JikaSCD-MA sedemikian
mengakibatkan
olehpencarian
pencarian Algoritma
juga sehingga
yang
yang {xkSCD-MA
mengakibatkan
(maka }menurun,
yang
menurun,
stop. dihasilkan
)yaitu
yaitu
terdapat
‖ ‖suatu ‖ ‖‖‖ ‖‖ untuk
olehkonstan
Algoritma untuk setiap
setiap
sedemikian ‖ ‖sehing
da
pada
pada,(2.11)
(2.11)
dan
. Jika
(2.11)
dan ‖cari
yang
dan
dan
cari
, ‖cari
Langkah cari
,yang
memenuhi maka
2 Langkah
:
yang
yang
stop.
Jika
menentukan (2.9)
memenuhi
memenuhi
dan
:Pilih
misal (2.9)
titik
yang
(2.9)
dan
(2.9) pada awal
dan
dan
(2.10).
(2.10).
, maka
(2.11)
menurun. (2.10).
(2.10). dan
Halpencariancari
ini Sehingga
dan yang
mengakibatkan dari (2.6),
memenuhi (2.8)
(3.3)
yang
Jadi.(2.9)
Jika dan dan asumsi
dihasilkan
kesimpulan (2.10). bahwa
oleh maka
benar stop.
Algoritma
untuk . SCD-MA
Dengan demikian terbukti
Langkah semua 3termuat
:gmisal aberlaku
Langkah Dengan
3 i:tentukan
smisal menggunakan
dan descentdan Lemma
menghasilkan
d a.maka garis
Jika Armijo
SCD-MA
3.2.sehingga semua
arah maka
Misalkan yang
pencarian didapatkan
termuat
. Asumsi
Jikastop.termodifikasi,
berlaku di
yang menurun,
SCD-MA W. maka Akibatnya
berlaku. stop.yaitu
Maka adalah
terdapat suatu
‖ ‖ untuk setiap met
bahwa
Asumsi
entukan
oleh
Langkah(2.7)
dan pada
SCD-MA
dan 2LLangkah
dan :ajuga n
(2.11)
kmengakibatkan
oleh
menentukan h4di
dan : 3tentukan
(2.8),
Langkah
.Jika
. cari
:maka
.Akibatnya
Jika mpada
4 terdapat
didapatkan
: yang
a(2.11)
tentukan
loleh
terdapat suatu
maka
memenuhi dan
(2.7)
maka oleh
suatu
cari
dan
konstan
stop.
oleh stop. (2.6).
(2.9)
iterasinya.
iterasinya.
konstan
(2.7) yang
oleh
dan
( dan (2.8),sedemikian
memenuhi
sedemikian
(2.10). oleh
nsemua
(2.8), (2.9)
tentukan
sehingga
) ‖
konstan
berlaku
maka dan
‖ untuk(2.10).
tentukan
f* oleh
‖
sedemikian (2.6).
‖ oleh (2.6).
sehingga ‖ ‖ (3.3) ‖ ‖
‖ ‖ dan dan
, maka Langkah stop. 3 : misal .. Jika
barisan Jika termuat
yang di
menurun. . Akibatnya
maka
maka
maka Hal dan
stop.
stop. ini
stop. terdapat
mengakibatkan
‖dan suatu
‖ tentukan konstan. Jika
Jadi kesimpulan
yang sedemikian
descent
dihasilkan maka
benar sehingga
menghasilkan
oleh‖(3.4)stop.
untuk Algoritma
‖Armijo . arah
Dengan pencarian
SCD-MA demikian yang ‖ menurun,
terbukti ‖ bahwa yaitu
metode spect(3.5)
Langkah
, kembali ke 4langkah
: tentukan Langkah
2. oleh4 : tentukan
Asumsi (2.7) SCD-MA dan oleh
juga (2.7)
(2.8), iterasinya.
mengakibatkan maka Dengan
Dengan oleh terdapat(2.8),suatu
menggunakan
menggunakan makaoleh tentukan
konstan(2.6).
pencarian garis
pencarian oleh
sedemikian
garis (2.6).
Armijo
( dan sehingga ‖untuk
yang termodifikasi,
yang termodifikasi,
)‖‖ ‖ ‖ ‖ adalah adalah
emua
l2.7)
7) dan danberlaku
Langkah oleh
oleh 3Langkah
: (2.8),
Langkah
(2.8), misal maka
maka
dan 5 : settentukan
tentukan oleh ,
oleh .dan
kembali (2.6).
(2.6).
Jika ke langkah maka 2. . Jika
stop. maka stop. (3.3)
hhpada (2.7)(2.11)
dan Langkah
oleh (2.8), 44Langkah
maka: tentukan
tentukan
:Misalkan tentukan
termuat 5 : set bkoleh
di oleh oleh
.Jadi (2.7)
Akibatnya(2.7)
((2.6). dan dan
, kembali
terdapat jkoleh
oleh ke (2.8),
suatu (2.8),
langkah maka
‖ konstan ‖ Dari 2.tentukan
descent
‖ sedemikian
Lemma iterasinya.
menghasilkan
‖demikian oleh (2.6).
3.2.sehingga
Misalkan arah
‖ bahwa ‖pencarian
Asumsi ‖ yang
SCD-MA yang
‖spectral menurun,
(3.3)
berlaku. Makayaitu ‖ ‖
n (2.7) dan oleh :(2.8), maka tentukan oleh (2.6).
dan Lemma cari 3.2. yang memenuhi (2.9) dan (2.10). )Dengan
Bukti. (3.3) kita dapatkan .................................................... (3.3)
global Langkah
Algoritma
maka 5Asumsi setSCD-MA
tentukan Langkah
SCD-MA d akan ,5Asumsi
semua
juga
oleh : set
kembali
dibuktikan
mengakibatkan
(2.6).
SCD-MA
berlaku ke‖
kesimpulan
langkah
‖ dengan, berlaku.
kembali barisan benar
2.menggunakan
barisan
terdapat Makake
yang
suatu untuk
yanglangkahmenurun.
menurun.
konstan .menggunakan
Lemma Dengan
2. HalHal3.2.iniini
(3.4) pencarian
mengakibatkan
mengakibatkan
Misalkan
sedemikian terbukti
Asumsi
sehingga garis SCD-MA
untuk Armijo
yang
yang metode dihasilkan
dihasilkan
berlaku. termodifikasi,
Maka oleh conjugate
oleh Algoritma
Algoritma SCD-MA
SCD-MA adalah
mbali
bali
kan Langkah
ke ke langkah
langkah
oleh (2.7) 4 :2. tentukan
2.
dan 5olehKekonvergenan oleh (2.7) dan
global oleh
Algoritma (2.8), maka
SCD-MA tentukan akan oleh
dibuktikan (2.6). dengan menggunakan
set(2.8), maka,tentukan oleh (2.6).
k Jadi kesimpulan benar untuk . Dengan demikian terbukti
Langkah Kekonvergenan
Asumsi SCD-MA global juga Algoritma
mengakibatkan SCD-MA terdapat akan
suatu konstan
iterasinya. dibuktikan Dengan dengan
(3.5) sedemikian
menggunakan menggunakan sehingga ‖ untuk
pencarian garis Armijo yang bahwa
termodi m
t.embali 3.2.
kembali ke langkah
kedanlangkah
Langkah
Kekonvergenan
semua
2.
2. 5berlaku :: set . global
Jadi
Jika
k=k+1,
Kekonvergenan kembali
kesimpulanAlgoritma
kembali
descent ‖ makake‖global
benar
ke
SCD-MA
langkah
stop.
menghasilkan
langkah
untuk
dan barisan
termuat
termuat
Algoritma 2.
. di2.
akandiyang
Dengan
arah menurun.
pencarian
. .Akibatnya
Akibatnya
SCD-MA
dibuktikan
demikian
Hal
yang
‖Asumsi
terdapat
terdapat
akan
dengan
terbukti‖inimenurun,
mengakibatkan
suatu
suatu
dibuktikan
menggunakan
SCD-MA
bahwa
yaitu
konstan
konstanmetode denganjuga sedemikian
sedemikian
‖spectral menggunakan
mengakibatkan
‖dihasilkan
‖yang conjugatedan
‖(3.4)
‖(3.3) sehingga
sehingga
dan
oleh
untuk Algoritma
setiap
terdapat
SCD-MA
Lemma
Algoritma Langkah
Algoritma Misalkan
5 asumsi-asumsi
SCD-MA
SCD-MA : set Asumsi
akanakan SCD-MA , kembali
berikut.
dibuktikan
dibuktikan berlaku. kedengan
dengan Maka
langkah 2. SCD-MA akan
menggunakan
menggunakan ∑( )pencarian ∑( )termodifikasi,
, kembali keDari langkah
Kekonvergenan asumsi-asumsi
Kekonvergenan 2.
Asumsi semua
global berikut.
SCD-MA
global berlaku
Algoritma juga
Algoritma mengakibatkan SCD-MA terdapat
.akan suatu
dibuktikan Bukti.
konstan barisan
Dengan descent
Dari
dengan yang menghasilkan
menggunakan
(3.3) menurun.
kita
sedemikian
menggunakan dapatkan Halarah
sehingga pencarian
ini mengakibatkan
garis
untuk yang menurun,
Armijo yangyang yaitu
dihasilkan ole
bal al(2.7)
Algoritma
Algoritma
dan olehSCD-MA
Bukti.
SCD-MA (2.8), makaakan
(3.3)
akantentukan dibuktikan
kita Lemmadapatkan
dibuktikan 3.2. dengan
dengan
iterasinya.
oleh Misalkan(2.6). menggunakan
menggunakan
Asumsi termuat ‖ di‖ yang
SCD-MA Akibatnya
berlaku.
Bukti. suatuDari terdapat
Maka konstan
(3.5)
(3.3) kitasuatu
M>0
dapatkankonstan
sedemikian (3.4) sedemikian
sehingga sehingga
untuk semua
asumsi-asumsidibuktikan asumsi-asumsi
berikut. dengan ‖descent ‖ berikut.
menghasilkan
menggunakandan arah pencarian
asumsi-asumsi menurun, yaitu ‖ ‖ untuk setiap(3.4) (3.3)
(3.3)
genan global Asumsi SCD-MA
Kekonvergenan
Algoritma SCD-MA
Asumsi global
semua SCD-MA Algoritma
akanberlaku dibuktikan SCD-MA dengan akanmenggunakan dibuktikanbarisan k dengan
berlaku ‖ yang ‖menggunakan
termuatiterasinya.
menurun. di . yang Akibatnya
Hal initermodifikasi, terdapat (3.5)
mengakibatkan suatu konstan yang sedemikian
dihasilkan olehsehingga
Algorit
embaliDari ke langkah asumsi-asumsi
berikut. Lemma2.dapatkan 3.2. Misalkan
terbatas berikut.
di mana Asumsi SCD-MA
adalah Dengan
titik Asumsi
Asumsi
berlaku.
awal. menggunakan ‖ ‖ juga
SCD-MA
SCD-MA
Maka pencarian
dan
juga mengakibatkan
mengakibatkan garis Armijo terdapatsuatu
terdapat suatu konstan
konstan ( sedemikian
sedemikian adalah sehinggauntuk
) sehingga (3.3)
untuk
Bukti. Asumsi(3.3) SCD-MA
kita Asumsi ∑(SCD-MA
iterasinya. ) ∑( ) Dengan ∑( menggunakan )
pencarian ∑(
garis Armijo yang )
rikut.asumsi-asumsi 1. Level
Asumsi
berikut. 1.set LevelBukti.
SCD-MA
Lemma 3.2. Misalkan Asumsi
set barisan yang Asumsi
menurun.
terbatas
SCD-MA
SCD-MA
Hal
dimengakibatkan
ini terbatas
mana
berlaku.
termuat
juga di
‖ mengakibatkanadalah
‖ Makamana titik
∑( awal.
di ..................................................................
Akibatnya
adalah
yang terdapat terdapat
titik
dihasilkan(3.5) suatu awal. suatu
oleh) Algoritma
konstan
(3.4)
konstan∑( sedemikian
sedemikian
SCD-MA sehingga
(3.4) sehingga )untuktermo
al ngsiAlgoritma
objektif SCD-MA
memenuhi akan kondisi dibuktikan Dari
Lipschitz,
Dengan (3.3)
dengan ‖
yaitukita
menggunakan dapatkan
menggunakan
‖ semua
semua
terdapat dan pencarianberlaku
berlaku
L > 0 garis Armijo yang termodifikasi, adalah
1. Level Asumsi set SCD-MA 1. Level set terbatas di mana ‖terbatas adalah dititik mana awal. adalah
barisan yang titik awal.Hal ini mengakibatkan
menurun. (3.5) yang dihasilkan
A Asumsi SCD-MA 2. terbatas
terbatas Gradient
∑( didi mana
2. mana dari
Lemma
Gradient fungsi
adalahadalah ) titik
3.2.
dari objektif
titik
Misalkan
fungsi
termuat awal.
awal.∑( di memenuhi
Asumsi
objektif semua
. Akibatnya SCD-MA memenuhi ‖ berlaku.
kondisi
berlaku
terdapat
)di mana
dan
Lipschitz,
suatuMaka
kondisi konstan Asumsi yaitu
Lipschitz, terdapat
SCD-MA
sedemikian yaitu juga L >
terdapat
sehingga 0 L > 0 terdapat suatu konstan
mengakibatkan (3.4))
(3.4) sedo
gga untuk 1.
1. Level
Level
terbatas
terbatas
Bukti. Dariset
set di
di mana
mana
(3.3) barisankita adalah
adalah
dapatkan
yang titik
titik
menurun. awal.
awal. Hal ini ( terbatas
terbatas;
mengakibatkan ) yang adalah dihasilkantitik awal.oleh ‖ ‖
Algoritma ‖ ‖ SCD-MA (
2. semua
Gradient dari2.berlaku Gradient
fungsi objektif dari fungsi
memenuhi objektif kondisi memenuhi Lipschitz,
Dengan Lemma
kondisi
demikian yaitu ∑ 3.2.
Lipschitz,
terdapat
( Misalkan
termuatjuga L yaitu >
di mengakibatkan Asumsi
0
. Akibatnya terdapat
) .SCD-MA
Sedangkan
terdapatL (>
(3.5) suatu 0 berlaku.
dari (2.9) didapatkan
)
ktifektif1.memenuhi
Level set kondisi
memenuhi x1sedemikian
kondisi
adalahLipschitz, sehingga
Lipschitz,
titik
terbatas
sedemikian awal. Bukti.
diyaituyaitu
mana Dariterdapat
untuk
sehingga (3.3)
semua
terdapat
adalahkita
∑(Ldapatkan
terbatas
untuk L>di>awal.
titik
semua 0‖mana
0berlaku
‖ adalah
dan )berlaku
Asumsi titik∑( awal.
semua
SCD-MA berlaku ) terdapat suatukonstan
konstan sedemikian (3.4) sehing
sedemikian s
bjektif memenuhi
objektif memenuhi
‖2. 2. Gradient kondisi
kondisi ‖ dari
Lipschitz,
Lipschitz,
termuat‖ fungsi di ‖ yaituobjektif
yaitu
. Akibatnya terdapat
terdapat memenuhi Lemma
Lemma
terdapat LL >>suatu kondisi
3.2.
3.2. 0(3.1)
0 Misalkan
Misalkan
konstan Maka
Lipschitz,
Asumsi
Asumsi sedemikian SCD-MAyaitusehingga
SCD-MA terdapat
berlaku.Maka
berlaku. L‖ >‖ 0
Maka (3.3)
sedemikian Gradien sehingga sedemikian
dari untuk
fungsi semua
sehingga
objektif ( kitamemenuhi untuk semua berlaku )kondisi ∑ ( berlaku semua berlaku ‖> ‖0 ) (3.1) ∑ ( ‖ ) ‖ (3.5)
semua
iemua 2. Gradient
fungsi objektif dari
berlaku
berlaku memenuhi fungsi objektif
Bukti.kondisi ∑( memenuhi
Dari Lipschitz,
(3.3) ‖SCD-MA
dapatkankondisi
yaitu )Lemma terdapat Lipschitz,
‖3.2.
∑( L‖ >‖yaitu
Misalkan 0 ‖Asumsi ‖ terdapat )suatu
‖‖ ‖‖Lkonstan
‖SCD-MA berlaku. (3.5)
uk uk semua
semuayangDengan
teorema menunjukkansedemikian
Lipschitz,
berlaku
berlaku
terbatas di mana sehingga
yaitu
bahwa adalah
Algoritmauntuk
terdapat Asumsi
titiksemua L
awal.
SCD-MA > ∑(0 ‖juga
sedemikian
menghasilkan
mengakibatkan
berlaku ) (
terdapat
Dengan ∑( demikian ) dan
dan∑ dan ( Maka ) sedemikian (3.1)sehingga. ..untuk
) . (3.5)
Sedangkan dari (2.9) dida
demikian ∑ ( ‖ ) ‖ ‖. Sedangkan ‖ Ini mengakibatkan
‖Dengan dari‖ (2.9) ‖ didapatkan ‖
Asumsi SCD-MA (3.1) juga mengakibatkan (3.3)
(3.1) terdapat suatu konstan
‖ ‖ sedemikian
hingga untuk semua ‖sehingga
‖sehingga Berikut
‖ ‖ untuk untuk
adalah
‖ semua
‖berlaku
Berikut semuateorema
adalah semua yang
teorema berlaku
menunjukkan
berlaku
berlaku (3.1)
yang(3.1) menunjukkan bahwa Algoritma
bahwa demikian ∑Lemma SCD-MA
Algoritma
∑‖ 3.2. ‖(‖ SCD-MAMisalkan
‖dan Asumsi
menghasilkan dan ∑) SCD-MA
menghasilkan
‖ berlaku.
. Sedangkan ‖ dari . Maka (3.2), keds
(3.5)
(2.9) didapatkan
Berdasarkan
‖
‖
bjektif memenuhi ‖‖
kondisi ‖‖ Asumsi ‖‖ SCD-MA juga‖ Bukti.
Bukti.
mengakibatkan Dari
(3.1)
(3.1) Dari ‖ (3.3)
(3.3)
terdapat‖kitakita dapatkan
dapatkan
suatu ‖ konstan sedemikian (3.1) sehingga untuk
menurun. ∑Berikut adalahLipschitz, teorema
Berikut‖yang yaitu
adalah ‖ menunjukkan
terdapat
)∑(
‖ teorema ∑‖ yang
Lbahwa >menunjukkan
( ‖ ((2.9)
0 Algoritma ) Bukti.
Lemma
∑(
)∑ )Dari
SCD-MA
bahwa Algoritma
(semua (3.3) kita
menghasilkan SCD-MA
berlaku )
dapatkan menghasilkan
‖ ‖ berlaku. )‖ ∑ ‖ Maka ( (3.4)
dan )
Dengan
yang demikian
yangmenunjukkan
menunjukkan arah ∑ (pencarian
‖ bahwa ( arah
bahwa yang
Algoritma
Algoritma ‖ menurun.
pencarian )yang
SCD-MA
SCD-MA
‖berlaku ‖. Sedangkan
menurun. menghasilkan
menghasilkan dari
Bukti. Dari deret (3.3) tersebut
‖didapatkan
∑
(3.1) kita ( 3.2.deret
adalah
( dapatkan Misalkan
‖ nonnegative
‖(3.1) Asumsi) ‖ ‖SCD-MA sehingga
) ∑ deret ( tersebut adalah deret )yang menuru
ma
masemua
uk yang
yang
danarahmenunjukkan
menunjukkan
dihasilkan berlaku Berikut
bahwa
bahwa
oleh adalah
semua
Algoritma
Algoritma
Algoritma teorema SCD-MA
SCD-MA,SCD-MA yang
. menunjukkan
............................
∑menghasilkan
maka menghasilkan bahwa
(3.1) Algoritma SCD-MA menghasilkan
pencarian
Ini yang
mengakibatkan arahmenurun. pencarian
∑Dengan yang ‖( menurun.
demikian ‖ menunjukkan ( ∑
dan Dengan )∑(∑(
demikian ..Ini
SedangkanBukti.
mengakibatkan
Berdasarkan dari
Dari‖ )(3.3))(2.9)
‖∑kedua didapatkan
kita ∑(
dan dapatkan
∑( ‖ ‖ ‖ ‖ dan dan ∑ )) . ‖ ‖ . Berda
dalah
∑
n. (teorema BerikutTeorema
yang
arah pencarian
adalah
Berikut
menunjukkan 3.1.
Teoremateorema
adalah‖ Misal
yang ‖ teorema
)bahwa
3.1.yang ∑
menurun. Misal menunjukkan
dan Lemma
yang
Algoritma 3.2.
dihasilkan
dan SCD-MA bahwa
Misalkan olehAlgoritma
Asumsi
bahwa Algoritma
menghasilkan
dihasilkan ) Ini SCD-MA
oleh SCD-MA
‖SCD-MA,
(Algoritma
mengakibatkan ‖berlaku. ∑ (3.2),
menghasilkan
Maka
maka
SCD-MA, ) maka ‖ ‖ dan (3.4)∑ . Berdasarkan (3.
n. ‖ Teorema 3.1. ‖ Misal ‖
Teorema ‖‖dan 3.1. ‖ Misal dihasilkan dan oleh (3.1)dihasilkan
Algoritma (3.2) oleh
SCD-MA, ∑(
Algoritma maka Lemma
SCD-MA, 3.2. ) Misalkan
maka ∑( Asumsi SCD-MA )
berlaku. Maka
Algoritma
deret Dengan tersebut SCD-MA
demikianadalah ∑
∑ deret menghasilkan
(
( maka nonnegative arah ) pencarian . Sedangkan
‖deret ‖ )tersebut ∑‖ ‖dari Bukti.
(‖ deret Dari
(2.9)deret (3.3)
didapatkan
tersebut kita
yangadalah dapatkan deret
) (3.2) (3.5)
nonnegative sehingga deret tersebut adalah der
arah
dihasilkan
ngmengakibatkan
menurun. pencarian
dihasilkan oleholeh ∑ yang
Algoritma
Algoritma menurun.
3.1.‖ Misal
SCD-MA,
SCD-MA,
Lemma
‖SCD-MA, Dengan 3.2. maka demikian
Misalkan
∑ ∑sehingga
Asumsi ( SCD-MA ‖
deret
berlaku. )adalah
tersebut
Maka
dan
‖. Sedangkan‖adalah makaderet
menurun.
dari nonnegative
(2.9) didapatkan sehingga (3.2)))deret)tersebut ∑( adalah deret yang
an
ma nni yang dihasilkan
dihasilkan
menunjukkan Teorema
yang oleh
olehmenurun.
Algoritma
Algoritma
bahwa Algoritma SCD-MA, dan dan
SCD-MA maka dihasilkan
maka menghasilkan oleh . Berdasarkan
Algoritma (3.2),
SCD-MA, kedua (( ∑( ‖ ‖ dan
Dengan ∑ demikian
(‖ ‖ ‖ oleh ‖ Bukti. Dari
‖ ‖ dan
∑) (3.3) ∑ kita ‖
(‖‖dapatkan ‖ . ‖
Dengan )‖ demikian (3.2) ‖ ‖ (3.2) dan
(3.5)kedua .
sal Teorema
deret dan adalah
tersebut 3.1. dihasilkan
Misal
deret ‖ danIni
nonnegative
‖‖ Dengan ‖‖ Algoritma
dihasilkan
mengakibatkan
( SCD-MA,
sehingga
∑ demikian ∑ oleh
deret Algoritma
(tersebut(3.2)
maka (3.2) ‖ ‖SCD-MA,
adalah
‖
‖deret )Dengan
)‖ dan dan
∑yang maka
∑demikian
(menurun.
‖ . Sedangkan dariDari ∑((3.3)
(2.9)
.‖Berdasarkan
didapatkan(‖)(3.2)dan(3.2), ) ) ∑( . )
n. (3.2)
(3.2) Bukti. kita dapatkan
Teorema 3.1. Misal deret
∑ dan {g k }
tersebut dan {d
adalah k } dihasilkan
deret nonnegative
‖ ‖ oleh sehingga deret tersebut (3.2) adalah deret yang menurun. ( )
Dengan demikian Ini mengakibatkan ‖ ∑ ‖Bukti. ‖ (3.3)
Dari ‖ ‖ kita ‖ dapatkan dan ∑ . (3.2) . Berdasarkan (3.2), kedua
n dihasilkan Algoritma oleh Algoritma SCD-MA, SCD-MA, (maka
Ini mengakibatkan maka ∑Dengan Dengan ‖ ∑( ‖‖demikian
) ‖ ∑ ∑∑( dan
demikian (( ∑ ) ∑()) ) . .Berdasarkan .Sedangkan
Sedangkan ) dari
(3.2),
dari(2.9)kedua
(2.9) didapatkan
didapatkan
deret tersebut adalah Dengan demikian
deret nonnegative sehingga ‖ ‖deret dan tersebut . ( )
‖ Ini deret tersebut ∑adalah
‖ mengakibatkan Dengan
deret nonnegative
(3.2) ∑ adalah
demikian sehingga
deret yang menurun.
( deret tersebut adalah ) ∑(
. deret
Sedangkan
yang menurun.
)
dari (2.9) didapatkan
∑(
∑∑ (( ‖ ‖ ∑
(3.2))dan D e n∑( ‖‖ ‖‖)) ∑∑ . Berdasarkan (3.2), kedua ))
‖ ‖ ∑( dan
Dengan demikian . ................................................... g. a n (d e mdemikian
Dengan
(()
i k i a7n ∑ ) ( ) .. Sedangkan
, dari (2.9)
Dengan demikian ∑
deret tersebut adalah deret nonnegative sehingga ‖
( ‖ dan deret ‖
tersebut ‖ )adalah ∑ 7 . (
deret yang menurun. ) ( (3.2),
7
)
Ini mengakibatkan∑∑Dengan
Inimengakibatkan sedangkan ‖‖ dari
‖‖ (2.9)dandandidapatkan
∑ ∑ . . Berdasarkan
Berdasarkan (3.2), kedua
kedua
Bukti. Dengan menggunakan 7 induksi, kita akan ( 7demikian
∑ ( ∑) ( ‖ )‖ ) . Sedangkan
∑ ( dari (2.9) didapatk
Bukti. Dengan menggunakan Dengan demikian
induksi, kita akanderet‖ mengakibatkan
‖ menggunakan
tunjukkan dan kesimpulan
bahwa ‖benar. .tunjukkan
Untuk
tunjukkan
Bukti. bahwa kesimpulan
Dengan menggunakan induksi, Bukti.
kitabenar.
akan
Ini
Dengan
deret tersebut
tersebut
Untuk
tunjukkan adalah∑deret
adalah
k=1 induksi,
deret kita
nonnegative
nonnegative ‖akan sehinggadan ∑deret
sehingga bahwa
deret kesimpulan
tersebut
tersebut adalah
adalah . Berdasarkan
benar.
deretyang
deret Untuk
yang (3.2), kedua
menurun.
menurun.
Dengan demikian ∑ ( bahwa kesimpulan ∑ ( ) Inibenar.
. Untuk
Sedangkan
mengakibatkan ‖ (2.9)
dari
∑ ‖ )didapatkan
‖ ∑‖ ( dan ∑ ) .B
Dengan menggunakan
berlaku
berlaku induksi, kita
d 1=g 1, benar.,
sehinggaakan
sehingga tunjukkan
Untukberlakuberlaku bahwa kesimpulan
‖
deret demikian ‖
tersebut benar.
Sehingga
. adalah Untuk (3.2) benar
deret‖‖berlaku
nonnegative untuk sehingga ‖∑ deret tersebut .adalah
n tunjukkan bahwa kesimpulan
berlaku , sehingga berlaku Denganberlaku
Dengan demikian , sehingga
‖ ‖ Sehingga ‖benardan
(3.2)‖Dengan dan
demikian
untuk
‖ ( Sehingga (3.2)
. )deret untuk
benar yang menurun.
. Sedangkan dari (2.
berlaku ‖ ‖Dengan demikian, benar(3.2) ∑benar untuk k=1. Kita ∑ deret tersebut
Jikaadalah ‖ deret
‖ )nonnegative
dan ∑ . sehingga
. Kita, sehingga
asumsikan berlaku
Dengan demikian
untuk (∑‖ dan ‖( Sehingga
Dengan , yaitu(3.2) benar
demikian ‖Ini).untuk
‖)benar mengakibatkan
Sedangkan‖‖ ( ‖dan ‖∑
dari .(2.9)
dan didapatkan ‖ ‖ .deret tersebut adalah
. Berdasarka
. Sehingga
asumsikan (3.2)
Kita asumsikan benarbenar
benaruntukuntuk
untukk-1 dan dan. Kita asumsikan
,, yaitu
yaitu
untuk ‖∑ (‖ . Jika
, yaitu
‖ ‖ ) ∑ (
Jika
deret tersebut Dengan demikian
adalah deret nonnegative ‖ sehingga
‖ danderet tersebut adalah deret. y
Kita asumsikan benar ,untuk
maka ‖∑ dan ‖( .. Jika
Dari
J iIni
, yaitu
k (2.4), (2.6) dan ‖
mengakibatkan (2.8)
∑,, maka ) ‖∑‖ ‖
didapatkan
‖maka (‖ . Jikadan ∑ (2.6) . Berdasarkan (3.2), kedua
didapatkan . Dari (2.4), dan (2.8) didapatkan
, yaitu a(2.4), )
, maka . Dari (2.6) dan (2.8) Ini demikian
mengakibatkan
Ini mengakibatkan‖ ∑ ‖ ‖ ‖ dan
dan ∑ .
, maka Dengan dan .
dan (2.8) didapatkan . Dari Dari(2.4),
(2.4),(2.6)(2.6)dandan
( mengakibatkan)∑‖ ‖
Ini
(2.8)
deret (2.8)didapatkan
didapatkan
tersebut adalah
‖ ‖deret nonnegative
‖ dan‖ ∑ sehingga deret tersebut
‖ ‖ . Berdasarkan
Berdasarkan
adalah deret
(3.2),
(3.2),
yang menurun.
keduakedua deret
( ‖ ‖
Dengan) demikian
(
‖‖ ‖ ‖tersebut ‖) ‖ tersebut
deret
dan‖ adalah
‖
deretderet
adalah deret
.
nonnegatif
‖ nonnegative
‖ ‖ ‖sehingga deret tersebut ada
sehingga deret
( deret
) ‖ tersebut
‖ adalah deret ‖ nonnegative
‖ ‖ sehingga
‖ deret tersebut adalah yang menurun.
‖ ‖
Jika ‖ ‖ ‖, maka
‖ . Sehingga Dengan demikian dan .
Jika Dengan demikian
, maka . Sehingga Jikadari (2.6), (2.8), dan
‖ ‖(2.8) maka
dari (2.6),
asumsi bahwa
danasumsi bahwa
dan . Sehingga dari (2.6), . (2.8) dan asumsi bahwa
, maka
(2.6), (2.8)didapatkan
dan asumsi bahwa . Sehingga dari (2.6), (2.8)didapatkan dan asumsi bahwa
didapatkan
patkan
( )‖ ‖ ‖ ‖ ‖ ‖) ‖ ‖‖ ‖ ‖ ‖ ‖ ‖ ‖ ‖
( )‖ ‖ ‖ ‖ ( ‖ ‖ ‖ ‖
‖ ‖ ( ‖ ‖benar ) ‖ ‖‖ ‖ ‖ ‖ ‖ ‖ ‖ ‖
Jadi kesimpulan untuk . Dengan Jadi demikian terbuktibenar
kesimpulan bahwauntukmetode spectral
. Dengan conjugate
demikian terbukti bahwa metode spectral conjugate
Jadi kesimpulan benar untuk . Dengan demikian terbukti bahwa metode spectral conjugate
esimpulan benar
descent untuk . Dengan
menghasilkan demikian
arah pencarian terbukti
yang bahwa
menurun,metodeyaitu
menghasilkan spectral conjugate ‖ ‖ untuk setiap ‖ ‖ untuk setiap
an terbuktidescent
bahwa menghasilkan
metode spectral conjugate
arah pencarian yang descentmenurun, yaitu arah pencarian ‖ ‖ yang untuk menurun,
setiap yaitu
 ‖ ‖
Dengan demikian∑∑ ((
Dengandemikian )) . .Sedangkan
Sedangkandari
dari(2.9)
(2.9)didapatkan
didapatkan
∑∑ (( ‖‖ ‖‖ )) ∑∑ (( Kita
)) definisikan
46 Sains & Mat, Vol. 2 No. 2, April 2014: 42–48
Ini mengakibatkan∑∑
Inimengakibatkan ‖‖ ‖‖ dan∑∑
dan . .Berdasarkan
Berdasarkan ‖ kedua
{‖(3.2),
(3.2),‖kedua
‖ ‖ ‖ }. Maka dapat kita simpulkan bahwa
deret
deret tersebut
tersebut adalah adalah deret
deret nonnegative
nonnegative sehingga
sehingga deret
deret tersebut
tersebut adalah deret yang .menurun.
tersebut adalah deret yang menurun. Denganadalah untuk
demikian deret
semua yang Lemma menurun. 3.4. Misal asumsi SCD-MA berlaku, {xk}
Dengan
Dengandemikian demikian ‖‖ ‖‖ dan
dan
dan . .. dan {gk} dihasilkan oleh algoritma SCD-MA. Oleh
Lemma 3.4. Misal asumsi SCD-MA berlaku, dan dihasilkan oleh alg
karena itu, terdapat suatu konstan M2>0 sedemikian
Kedua sifat ini sangat penting untuk menunjukkan MA. Maka terdapat sehingga suatu untuk konstan semua k berlaku sedemikian sehingga untuk semua b
kekonvergenan global Algoritma Kedua SCD-MA. sifat ini sangat penting untuk menunjukkan ‖ ‖ kekonvergenan global Algoritma SCD-MA.
ng untuk Keduamenunjukkan
sifat ini sangat kekonvergenan
penting untuk global Algoritma kekonvergenan
menunjukkan SCD-MA. global Algoritma SCD-MA. ‖ ‖
(3.7)
.......................................................... (3.7)
nunjukkan
Kedua sifat kekonvergenan
ini sangatLemma global
penting Algoritma
3.3.untuk Misal Asumsi
menunjukkan SCD-MA. SCD-MA
kekonvergenanLemma berlaku. 3.3. Misal
global Jika Asumsi
ada
Algoritma SCD-MA
SCD-MA. berlaku. Jika ada suatu konstan sedemikian sehingga
SCD-MA Lemma berlaku. Jika
3.3. Misal ada
Asumsi suatu konstan
SCD-MA berlaku. sedemikian
Jika ada sehingga suatu konstan sedemikian sehingga
erlaku. Jika ada suatu suatu
konstan konstansedemikian e>0 sedemikian sehingga untukkonstan untuk semua
semua berlaku ‖ sehingga ‖ , maka terdapat suatu konstan sedemikian se-
ku ‖Lemma ‖ 3.3.
, maka MisalterdapatAsumsisuatu SCD-MA berlaku.sehingga Jika sedemikian
ada suatu sedemikian
enting untuk menunjukkan
semua k>1 berlaku berlaku ‖konstan
kekonvergenan ‖ global maka
, maka Algoritma terdapat
terdapat SCD-MA. suatu se-konstan
suatu konstan sedemikian Bukti. (3.7) se- dapat dibuktikan pada beberapa kasus 9
, Kedua
maka
untuk terdapat
sifat
semua suatu penting
ini sangat konstan
berlaku untuk
‖ ‖ sedemikian
menunjukkan , maka se- hingga
kekonvergenan
terdapat suatu untuk
global
konstan semua
Algoritma berlakuSCD-MA.
berikut.
sedemikian se-
lakuSCD-MA
msi berlaku. MJika 1>0 ada sedemikian
suatu sehingga untuk semua k berlaku
hingga untuk semua Kedua berlaku
sifat inikonstan
sangat penting sedemikian untuk menunjukkan Bukti.
sehingga
Kitakekonvergenan
akansedemikian membuktikan global (3.7) Algoritma
dengan SCD-MA.
memperhatikan
‖ ‖ (3.7)beberapa
dengan kasus berikut ini.beberapa
Lemma
hingga 3.3.
untuk Misal
sifat ini sangat penting semua Asumsi
‖ untuk SCD-MA
berlaku
‖ menunjukkan berlaku. Jika
kekonvergenan global ada suatu konstan
(3.6)Algoritma SCD-MA.Bukti. sehingga Kita akan membuktikan memperhatikan (3.6) 9 kasus b
rlaku ‖ ‖ , maka terdapat
Lemma .................................................................
suatu
3.3.ini konstan
Misal Asumsi SCD-MA ‖ sedemikian
‖ berlaku. se-
Jika kekonvergenan
ada suatu (3.6) konstan Kasus 1. a
(3.6) =1.
ksedemikian Berdasarkan sehingga(3.2) (3.2) kita peroleh
‖ ‖Asumsi SCD-MA Kedua sifat ‖berlaku. ‖ sangat penting ‖ untuk menunjukkan
Bukti.Kasus Untuk
1. . Berdasarkan
kita global
peroleh
Kasus (3.2) Algoritma
1.se- kita peroleh SCD-MA.
. Berdasarkan
sehingga ‖ ‖kita‖peroleh ‖. Untuk , jika
mauntuk
peroleh
semua
3.3. Misal berlaku
Bukti.
sehingga Untuk
‖peroleh ‖ Jika , k=1
‖maka ada terdapat
(3.6)
. suatu
‖kita Untuk ‖ suatu
konstan
peroleh d,konstan
=g
1jika sedemikian
sehingga sedemikian
sehingga (3.6)
berlaku
sangat Bukti.
pentingUntuk untuk menunjukkan
untuk kita
semua kekonvergenan berlaku global
‖ ‖ Bukti.
sehingga
Algoritma
, Kita
maka ‖ 1akan
‖
SCD-MA.
terdapat membuktikan
‖ ‖ .
suatu Untuk konstan (3.7) dengan
, jika memperhatikan
sedemikian se- beberapa kasus berikut ini.
ini sangatuntuk penting untuk Lemma
Kedua
menunjukkan
‖ ‖ berlaku
‖kita 3.3.
sifat Misal
.. ini Asumsi
sangat k>2,
kekonvergenan penting SCD-MA global berlaku.
untuk menunjukkan
Algoritma
‖ ‖ SCD-MA. Jika ada
‖,, sedemikian
maka suatu
kekonvergenan konstan
dengan ‖ global ‖ , jika
menggunakan sedemikian
Algoritma
Bukti. Bukti. (2.4),
Kita sehingga
SCD-MA.
Kita |akan akan
‖ (2.6), ‖|membuktikan
membuktikan ‖ ‖‖
(2.8) dan(3.7)‖(3.7) | dengan
ketaksamaan
dengan | memperhatikan
‖ ‖‖ ‖ bebe
segitiga
memperhatikan be
hingga
semua
ngan Bukti. sehingga
Untuk
menggunakan
semua
berlaku (2.4), ‖ ‖ peroleh , ‖maka Untuk
Untuk terdapat , jika
suatu jika
sehingga konstan maka
‖. Untuk se-(3.2)
Misal Asumsi SCD-MA ,dengan ‖ ‖(2.6),
maka
berlaku.
hingga dengan
Jika
untuk
(2.8)
ada
semua
dan konstan
menggunakan
suatu ketaksamaan
berlaku (2.4), Kasus segitiga
(2.6),
sedemikian
1.(3.6)(2.8) . Berdasarkan
dan
sehingga ketaksamaan kita peroleh
segitiga
3.unakan
Misal Asumsi SCD-MA Lemma
untuk berlaku. menggunakan
dan 3.3.
semua Jika Misal
ada suatu berlaku
Asumsi ‖konstan‖(2.4),
SCD-MA ‖ (2.6),
,berlaku.
didapatkan maka
sedemikian
sehingga (2.8)
terdapat
Jika
‖ ada dan
‖ suatu
sehingga suatu
‖ konstan konstan
‖sehingga
. Hal
sehingga ini‖Kasus ‖sedemikian
sedemikian
Kasus 1.‖1.
mengakibatkan ‖sehingga
. .Hal se-
.‖Berdasarkan
‖ mengakibatkan
ini
Berdasarkan ‖ (3.2) (3.2)
‖ kita kita‖peroleh
‖ ‖ ‖. Dengan
peroleh ‖ ‖
asangat
untuk penting(2.4), untuk
semua (2.6),
, maka
berlaku menunjukkan
(2.8) dengan kekonvergenan
ketaksamaan
menggunakan global
segitiga‖ (2.6),
(2.4), Algoritma (2.8)SCD-MA.dan ketaksamaan
Bukti. (3.6)
‖Kita‖akan membuktikan
segitiga
| (3.7) dengan | ‖ memperhatikan beberapa kasus berikut ini.
kita peroleh berlaku ‖ ‖‖ ketaksamaan
didapatkan , sehingga
maka terdapat ‖segitiga‖ suatu ‖ didapatkan
‖. Untuk
konstan ‖ ‖ ‖sedemikian , jika
sedemikian
‖ ‖ se- ‖ ‖‖ (3.6)‖ se- ‖ ‖ ‖ ‖
‖‖ ‖
aBukti.
Misal Asumsi berlaku
Untuk SCD-MA‖hingga untuk
berlaku.
kita , makauntuk
semua
perolehJikaterdapatsemua
ada ‖ suatu
suatu berlaku
berlaku
‖konstan konstan
sehingga , ‖maka terdapat
sedemikian
sehingga
‖ Bukti. ‖. Kasus ‖ ‖ ‖suatu
Untuk se- ‖untuk konstan
‖ ,‖‖ jika .‖akan‖(3.7)
‖ sedemikian | | | | ‖‖
dengan
semua ‖didapatkan
‖‖menggunakan
berlaku‖ ‖ ‖‖(2.4),‖ ‖‖(2.6), ‖ (2.8)
‖‖ dan
‖ ‖ketaksamaan ‖‖ sehingga
demikian
‖ segitiga‖ ‖ ‖‖Kita ‖ ‖(3.6)
1.
.akan Hal
demikian
Hal
membuktikan
Bukti. ini
.Kita
Berdasarkan
mengakibatkan
mengakibatkan ‖membuktikan
untukkita
(3.2)
‖ dengan ‖ peroleh
memperhatikan
(3.7)
‖
.dengan
‖ beberapa
9 ‖ memperhatikan ‖ kasusDengan
‖ .
berikut ini.
beberapa kasus b
uk semua Bukti.
hingga Untukuntuk semua kitaberlaku peroleh ‖ sehingga‖ketaksamaan ‖ ‖ ‖ ‖ . sehingga
Untuk sehingga‖‖ , ‖‖jika
‖(3.6) ‖ ‖‖‖ ‖‖. ‖‖.Hal Halini mengakibatkan‖ ‖ ‖ ‖
inimengakibatkan
‖Untuk ‖ berlaku ‖‖berlaku
‖, kita‖‖ peroleh
maka ‖ , maka
dengan ‖ ‖ terdapat
menggunakan
‖‖ suatu
‖ sehingga‖‖ ‖‖konstan
(2.4), (2.6),
‖ ‖ Kasus ‖ (2.8) sedemikian
‖ ‖. 2.Untuk dan se- ‖ segitiga ‖‖ ‖ (3.2) ‖adalah ‖ |nonnegatif. ‖
|adalah ‖Berdasarkan
‖‖ ‖ nonnegatif.
. ‖Jika, jika . Berdasarkan kita peroleh
Kasus 9
‖ ‖‖ ‖‖ ‖ ‖‖ ‖‖‖ ‖ ‖‖ ‖ 1. Kasus
Kasus 1.
maka
2. . .Berdasarkan
Jika (3.2)
bilangan makakita peroleh bilangan definisi B
‖, maka ‖akan dengan ‖‖demikian
menggunakan ‖ dengan ‖ (2.4),‖‖ ‖‖(3.6) (2.6),
untuk(2.8) dan‖ . ‖‖ketaksamaan ‖ segitiga
‖ ‖ ‖(3.6) ‖ ‖ beberapa
Bukti. Untuk
Bukti. Kita kita peroleh
membuktikan (3.7) sehingga
memperhatikan . kasusUntuk berikut , (3.6)
ini. ‖jika‖ ‖ ‖‖ ‖ .
semua
didapatkan berlaku
‖‖
, ‖maka dengan ‖ ‖ ‖ ‖
‖ menggunakan ‖ ‖‖(2.4), (2.6), (2.8) dan ketaksamaanBukti. Kita
sehingga akan
segitiga Dengan
‖ membuktikan
‖ demikian
‖ ‖ demikian
demikian
‖‖ . (3.7)
Hal dengan
ini | untuk
mengakibatkan untuk
untuk
memperhatikan | ‖ ‖ .
beberapa
‖‖‖ kasus
‖‖ ‖ berikut ini.
‖ ‖
‖‖ ‖ ‖‖ ‖ ‖ ‖ ‖ ‖ ‖ ‖ | | ‖ ‖‖ ‖ tida.
9
‖ ‖ kita ‖‖ peroleh‖ ‖ didapatkan ‖‖ ‖ sehingga
Bukti. Kita ‖ akan ‖ ‖membuktikan ‖ ‖ ‖. Untuk (3.7) ‖ dengan
dalam pencarian
Bukti. Kita ‖ akan
, memperhatikan
jika garismembuktikanArmijodalam beberapa yang
pencarian termodofikasi,
(3.7)
kasus dengangaris memperhatikan
berikut Armijo
‖
‖ ini. ‖ ‖ yang termodofikasi,
beberapa tidakkasusmungkin berikutmemen-ini.
uk ‖kita peroleh ‖ Bukti.
‖ ‖ Kasus‖ Untuk
‖ ‖1.,‖sehingga
‖‖ maka
‖ ‖ .dengan
kita
Berdasarkan
‖ ‖
‖ ‖ Karena
menggunakan
peroleh Kasus
‖ (3.2)
‖ . ‖ 2. kita
Untuk memenuhi
(2.4),
peroleh sehingga
. Jika
(3.6)‖ (2.6),
, kondisi
jika ‖
(2.8) ‖
Lipschitz
maka dan ‖ ‖ dan
ketaksamaan
. Untuk‖
adalah segitiga
bilangan ‖
, jika ‖
nonnegatif. ‖ , maka
Berdasarkan definisi
atkan
isi Lipschitz dan ‖ ‖ ‖ ‖dan ‖, maka ‖‖ sehingga
Kasus 1. ‖ sehingga
demikian ‖ . Berdasarkan
‖‖ ‖‖.‖untuk Hal ‖ (3.2)
Kasus ini
‖ 2.kita . peroleh
mengakibatkan
‖ Hal . Jika
. Jika ini mengakibatkan
9
‖ maka ‖maka‖ ‖‖ adalah ‖ ‖bilangan
adalah ‖ ‖. De
‖bilangan no
makaKarena
‖ dengan ‖‖ memenuhi
menggunakan ‖‖
didapatkan
kondisi
Bukti. (2.4),
‖Kasus
Kita Lipschitz
‖ akan
,1.(2.6),
‖maka ‖membuktikan
‖(2.6), . ‖‖Berdasarkan
‖(2.8)
dengan ‖ dan
‖ ‖‖ (3.7)
‖
menggunakan‖
‖ (3.2) kita
ketaksamaan
uhi (2.9)
‖ dan
dengan ‖‖
‖
Kasus segitiga
peroleh
(2.4),
1.‖‖, maka
(2.10)
memperhatikan | secara
(2.6), |
.beberapa
uhiBerdasarkan
‖
(2.8) Bukti.
bersamaan.
(2.9)
‖ ‖‖
‖dan Kita
kasus
‖dan
Kasus
‖‖‖
(3.2)
ketaksamaanakan 2.
berikut
(2.10) ‖ kita
secara peroleh
membuktikan
ini. bersamaan.
segitiga (3.7) dengan memperhatikan beberapa kas
z dan ,Karena
maka
‖ kitadengan peroleh
memenuhi‖ menggunakan ‖
kondisi ‖
‖ ‖Lipschitz, (2.4),
maka
sehingga
‖‖ ‖ ‖ (2.8)
dan ‖ ‖‖‖ ‖ ‖ dalam ‖ dan ‖ . ‖ketaksamaan
Untuk ‖ ‖ ‖
pencarian ‖ , segitiga
jika
‖, maka garis Armijo ‖ ‖ yang ‖ termodofikasi,
‖ | | tidak‖ mungkin
‖‖ ‖ memen-
‖ ‖‖ ‖ ‖ ‖ ‖‖ ‖ ‖‖ ‖ ‖ Kasus 2. a <1. ‖ Jika
‖ a <1 ‖ maka ‖ j ‖ -1 adalah
‖ bilangan
‖ ‖ ‖ ‖ ‖ ‖ ‖‖‖Kita
Bukti. ‖‖
akan
‖‖.‖Berdasarkan
‖‖ membuktikan ‖‖‖
(3.2) ‖ kita (3.7)peroleh demikian
dengan Bukti. memperhatikan
‖‖|Kita ‖2.‖akan demikian
‖‖|‖‖Kasus‖ untuk
‖ ‖‖
.beberapa
‖maka
‖membuktikan
Jika
k‖ dalam
‖1. ‖Berdasarkan ‖ dalam
‖ ‖ ..‖untuk
kasus
‖ (3.7)
pencarian
pencarian
k
berikut
maka dengan
Berdasarkan |ini.9garis
garis
. |kArmijo
memperhatikan
(3.2)
adalah Armijo
kita‖bilangan
‖‖ yang
yang
beberapa
peroleh termodofikasi,
‖nonnegatif.
termodofikasi,
kasus berikut Berdasarkaini.
,‖‖maka ‖‖ dengan menggunakan ‖ Karena didapatkan‖ g ‖(2.4),
Kasus
sehingga 1.memenuhi
‖ ‖‖ (2.6), ‖‖ ‖‖ ‖kondisi
‖(2.8)
‖
‖‖dan. ‖‖ Hal ‖Lipschitz
‖Jika
ketaksamaan tidak
‖‖‖
ini ‖‖mengakibatkan
‖‖ segitiga
sehingga
dan
‖Kasus
‖memenuhi ‖
(2.9),
Jika
nonnegatif.
‖ ‖
tidak
‖
‖ .
memenuhi
Hal ini
‖(2.9),
. definisi
mengakibatkan
maka
Dengan a k dalam
‖ ‖ pencarian
‖ ‖ ‖ ‖ . D
ondisi‖Lipschitz ‖ ‖ ‖‖ ‖ ‖‖ ‖ ‖ ‖ ‖‖ ‖‖ ‖ uhi
‖ ‖(2.9) dan
‖ (2.10) secara bersamaan.
‖ ‖‖ ‖ ‖ dan ‖‖ ‖ ‖ sehingga
‖ ‖‖
‖
‖
‖
‖
‖‖
Kasus
‖ ‖‖ 1. ‖ ‖‖‖ ‖‖‖‖,. maka
‖
maka
Berdasarkan
‖‖ ‖‖‖
‖
‖
‖
.‖‖‖Hal‖ (3.2) ‖
‖
‖
ini‖ sehingga
kita
‖ ‖‖
Kasus
‖
‖‖ ‖ |peroleh
mengakibatkan
Kasus 2.dalam
‖
‖ ‖
1.‖‖|‖ Kasus ‖
‖‖‖. ‖Jika
pencarian
garis .‖‖ ‖
‖‖2..‖‖‖garis
Berdasarkan
Armijo
‖
Hal
‖ uhi
uhi
ini
‖Armijo
.(2.9)
maka
(2.9) (3.2)
yang
Jika
mengakibatkan
dan dan ‖
kita
yang ‖adalah
(2.10)
(2.10) .maka
‖peroleh Dengan
‖secara
secara
termodofikasi,
termodofikasi,
‖ ‖
bersamaan.
bilangan
bersamaan. adalah
‖ ‖
| bilangan
nonnegatif.
‖ ‖
‖ .mungkin
|Berdasarkan
tidak ‖‖Denga
nonnegatif. ‖deB
Karena ‖ ‖memenuhi kondisi
Bukti. Lipschitz
demikian
‖ Kita akan ‖ dan ‖
membuktikan
‖ untuk ‖ (3.7) dengan . ‖memperhatikan , maka beberapa ‖ ‖ kasus berikut ‖
ini. ‖ ‖ ‖
‖ ‖‖ ‖‖Karena‖ memenuhi ‖ ‖‖‖ ‖ kondisi Jika tidak memenuhi (2.9), maka ‖ ‖ ‖‖ ( ‖‖ ‖ ) ‖ ‖ ‖ ( ‖) ‖‖
‖demikian
‖ ‖
‖ ‖‖ ‖ ‖‖Lipschitz ‖Hal‖‖ ‖ini dan‖ ‖mengakibatkan
‖ . ‖demikian (‖ | ( ‖‖|)sehingga
‖ ‖
‖‖ )‖, ‖maka
untuk ‖‖ ‖Jika‖ ‖(.‖memenuhi . ‖‖( ‖). Hal ) | ini (mengakibatkan
| )maka
‖‖ ‖ ‖ ‖ ‖‖ ‖‖‖‖‖‖‖‖‖‖‖‖ ‖‖‖ ‖ untuk ‖ ‖‖tidak ‖ ‖untuk mungkin ‖tidaktidak memenuhi (2.9) dan
(2.9), (2.10) secara
‖‖ sehingga ‖ ‖‖‖‖ ‖‖ ‖ ‖‖.‖‖ .Armijo
Dengan
dalam ‖ pencarian ‖garis ‖pencarian
‖Armijo yang termodofikasi, tidak mungkintidak me
a memenuhi ‖ ‖‖‖ ‖ ‖kondisi ‖ ‖‖‖‖‖ Lipschitz
‖‖
Kasus ‖ 1. ‖ demikian
dan . Berdasarkan ‖ ‖ ‖kita
(3.2) ‖‖ ‖‖ peroleh
‖ ‖, maka ‖‖ uhi (2.9) dan‖‖dalam (2.10) Jika
secara garis
bersamaan. memenuhi (2.9),
yang maka
termodofikasi,
‖ ‖ ‖ ‖
Kasussehingga ‖ 2. ‖‖ . Jika
‖ ‖ ‖ ‖ ‖Dari
‖. maka
‖‖ ‖
Hal(3.4) ‖‖inidan‖ ‖ adalah
mengakibatkan ‖ bilangan
untuk bersamaan.
‖ nonnegatif.
semua ‖ maka
‖ Berdasarkan
‖ ‖ definisi
‖ . Dengan
maka Karena ‖ ‖‖
memenuhi ‖‖ kondisi‖‖ ‖ Lipschitz ‖‖dan ‖ Kasus Kasus‖sehingga ‖2. ( ‖Nilai .‖Jika ‖, maka
‖Rata-rata
‖)Berdasarkan . maka
‖terhadap Hal maka‖ ini
‖ mengakibatkan
adalah bilangan ‖ turunan,
‖nonnegatif.
‖ terdapat
‖ Berdasarkan ‖ definis
‖ .de
untuk semua Dari‖(3.4) ‖‖dan ‖‖‖ ‖‖demikian ‖‖ ‖‖‖semua
untuk
Kasus ‖2.‖ ‖ ‖‖‖ maka untuk
‖‖.‖Jika ‖‖ ‖ Berdasarkan
. maka | ((2.9)
uhi Teorema‖2.
Jika | dan‖tidak
adalah (2.10).‖Jika
‖‖demikian
bilangan
uhi ‖‖ nonnegatif.
) secara
memenuhi
(2.9) danbersamaan.
Teorema
(2.9),‖secara
(2.10)
turunan,
Nilai untuk
(Berdasarkan adalah
‖ ) bersamaan.
maka terdapat
Rata-rata (terhadap
bilangan
definisi . ) ‖nonnegatif. ‖ sedemikian Berdasarkan sehing-
menuhi maka kondisi
Dari (3.4) Lipschitz
‖
dan ‖Lipschitz ‖ dan
‖ ‖ dan ‖ dalam
‖‖ demikian pencarian
‖ ‖‖ maka ‖ ‖ ‖garis
‖ ‖ ‖ ‖ Armijo
‖ ,
‖ maka ‖yang ‖ termodofikasi, tidak mungkin ( (
memen- ( ( ) ) ) ) ( ( ) )
‖ untuk semua
‖memenuhi ‖‖untuk ‖‖ dan‖‖. ga ‖‖‖garis
‖ pencarian ‖‖ ‖ ‖.termodofikasi,
‖
memenuhi
‖ ‖‖
kondisi ‖ ‖ ‖Karena ‖‖ 2. ‖‖dalam ‖‖ ‖‖‖‖kondisi ‖.‖‖‖ Hal
Lipschitz
‖ ini ‖ ‖‖ ga , maka
‖ yangJika
dalampencarian
demikian
dalam ‖ ‖ tidak Jika
‖ memenuhi‖nonnegatif.
garis
untuk
Armijo
tidak
‖‖‖tidak (2.9),
,Armijo
maka yang
memenuhi
‖maka
yang
‖. Jika
termodofikasi,
(2.9), maka
maka adalah tidaktidak mungkin
bilangan
mungkin memen me
pencarian ‖‖Kasus sehing-nonnegati
sehingga . Jika ‖garis Armijo
maka mengakibatkan termodofikasi,
adalah bilangan Jika 2. memenuhi tidak
Berdasarkan . mungkin
Dengan
(2.9), maka
definisi memen-
‖ ‖‖ Kasus uhi ‖
(2.9)
‖
dan ‖ ‖
(2.10) secara ‖ ‖ ‖
Berdasarkan
bersamaan.
‖
‖
‖‖ ‖ ‖
Teorema Nilai Rata-rata terhadap turunan, terdapat sedemikian
‖ ‖
‖ ‖ Lipschitz‖ ‖ ‖‖‖‖ ‖ ‖‖Kasus ‖uhi (2.9) ‖ adalah ‖ (2.10) ‖ ) secara ( (
Berdasarkan )
Berdasarkan ) Teorema Nilai ( )
Rata-rata terhadap( ) turunan, terdap
menuhi ‖
untukkondisi
semua ‖ ‖ ‖maka dan ‖dalam ‖ ‖‖2.‖‖‖ ‖‖ ‖‖.‖‖Jika
pencarian ‖maka ‖ secara
garis
‖‖‖‖ ‖
‖Armijo
‖‖, maka
‖yang
‖ .bersamaan. maka uhi
termodofikasi, (2.9) ‖
Kasus ( 2.
dan dan ‖(bilangan
(2.10) ‖secara
. Jika ‖)nonnegatif.
dalam bersamaan.
bersamaan. pencarian
tidak (maka
mungkin ( Teorema
Berdasarkan
() memen-
garis )Armijo (Nilai
) definisi
adalah
Rata-rata
bilangan
yang )(terhadap
(termodofikasi,)
nonnegatif.
turunan,
( Berdasarkan terdapat
( ) t
Dari (3.4) dan ‖ ‖ demikian ‖ untuk uhi
‖semua
‖ (2.9) dan untuk
(2.10) ‖‖ ga ‖ ‖ ‖ ‖
‖ ‖‖‖ Jika ‖ ‖ tidak ‖ memenuhi
‖ (2.9), maka ‖Jikatermodofikasi,
‖tidak ‖ memenuhi ‖ (Teorema ( ga)ga () ( terhadap) ) ( turunan, ) ( ( ) ) ‖ ‖ sedemikia ( ) ‖
‖ Dari Dari
‖ (3.4) (3.4)dan dan ‖dalam ‖ pencarian untuk
untuk ‖ semua‖garis
‖semua ‖ Armijo
‖‖makak,‖ maka Jika
yang dalam tidak
Berdasarkan memenuhi
pencarian (2.9),
garis (2.9),
Nilai maka
Armijomaka
Rata-rata
tidak yang mungkin termodofikasi,memen- terdapat tidak mungkin m
‖ ‖ ‖ ‖‖ ‖ ‖ ‖‖uhi ‖
Jika
(2.9) dan ‖tidak
(2.10) ‖secara
memenuhi (2.9),
‖
bersamaan. Sehinggamaka Sehingga uhi (2.9) dan (2.10) secara bersamaan.
3.4) dan ‖ ‖ ‖ untukKasus ‖‖ ‖maka ‖‖ ‖. Jika ‖ ‖‖ ‖ ‖ ‖ (ga ‖ ‖ ‖(‖ nonnegatif. ) ‖maka ) terdapat ( ) konstan ( ( ) dan) bilangan bulat
terdapat‖ suatu
semua
‖ konstan
2. ‖ dan ‖ bilangan‖ maka ‖Karena adalah bilangan Berdasarkan suatu definisi
( (terhadap
( turunan, ( terdapat
) ) )turunan, ) ( ) ) ( (se
( sedemikian
maka
Karena ‖ Dari ‖ ‖ (3.4)
‖ dan uhi ‖(2.9)‖ dan
maka terdapat
( untuk
(2.10) (
‖ semua
suatu
secara bulat
‖)‖ konstan ‖maka Berdasarkan
bersamaan.
) ‖ uhi ( dan
(2.9)
‖ ) Teorema
dan Berdasarkan
bilangan (2.10) Jika
Nilai
bulat
(
secara )Rata-rata
Teorema
tidak ‖
bersamaan.‖
memenuhi
terhadap
Nilai Rata-rata
(2.9), maka
terdapat
erdapat ‖ ‖ Jika
dalam tidak
pencarian memenuhi garis (2.9),
Armijo maka
sedemikian
yang sehingga
termodofikasi, untuk semua( ( ( (
tidak ) , ) )
mungkin memen- ( ) ( ‖ )
( ‖ ‖ ) ‖ ‖ ( ) ‖
‖ suatu
Karena
‖semua konstan ‖‖‖ ‖ ‖dan
maka ‖ bilangan ‖‖‖ bulat
terdapat ‖suatu
(‖untuk konstan(Sehingga ) )makaga dan bilangan
( ) (
) bulat( (Sehingga
( ) ( ) (( ) ( ) ( ) ) ( )
dan ‖ untuk
‖ sedemikian ,untuk semua
sehingga
‖ semua Dari maka
‖ untuk (3.4)
maka semua
Jikadan ‖‖ tidak , memenuhi semua (2.9), maka
( ga
Sehingga ( ) ‖ ) ‖) ( ) ( ( ) )
, sedemikian sehingga uhi Berdasarkan Teorema ‖‖ Rata-rata
Nilai ‖ ‖ terhadap ‖ Jika turunan, ‖ tidak terdapatmemenuhi (2.9),
Berdasarkan Teorema makaNilai Rata-rata
sedemikian sehing-terdapat terhadap turunan,
untuk (2.9) semua dan (2.10) , secara
( bersamaan.
( ) ) Berdasarkan
Berdasarkan
‖ ( )‖ Teorema
Teorema Nilai
( Nilai Rata-rata
) Rata-rata
‖ ‖‖ terhadap
( ‖
terhadap ( turunan,
)turunan,) terdapat ( sedemikian
) sedemikian sehing
( )se
‖‖ ‖ maka terdapat ‖‖‖ suatu
‖ semua konstan ‖ ‖ Teorema dan bilangan Kedua bulatruas( dibagi dengan Kedua (kemudian
( ruas )( dibagi )dikurangkan
()dengan () (dengan)kemudian )didapatkan
)( dikurangkan
()sehing- ( ‖ ( ‖ ) (dengan )( ) (didapa
Karena‖
untuk
‖ ‖Jika
‖ maka
‖ ga maka Berdasarkan ‖terdapat ‖‖ suatu Nilai
‖ ‖ ‖Rata-rata terhadap
‖‖konstan ‖)Sehingga
dan ‖( terdapat
turunan,
bilangan
terdapat
bulat
(sedemikian
sedemikian
( ) ) sehingga
( ( ( ( ) ) ) ) ( ( ) ) )
‖ tidak memenuhi (2.9),( maka ( ) ) gaga ( ) ( ( ( ) ) ‖
) ‖ ( ) ( ) ‖ ‖
tuk semua , Karena ga ‖ ‖ ‖Nilai maka ‖ Sehingga terdapat untuk
suatu semua
‖konstan ‖ berlaku dan) bilangan
berlaku
a sedemikian ‖‖ ‖untuk
sehingga Berdasarkan
semua ‖berlaku Teorema
,‖ ‖ konstan Rata-rata
( Kedua ) ) ruas
terhadap Sehingga
dandibagi
turunan,
(( ()bulat
dengan terdapat Berdasarkan
(( (( ))( (dikurangkan
Sehingga
kemudian ()) bulat
(Teorema
sedemikian Nilai Rata-rata
(sehing- ) ) didapatkan terhadap
)( )turunan,‖ ‖ terdapat ( )
Sehingga ‖ untuk semua
maka terdapat ‖ suatu ( bilangan )
Kedua ()) ) ruas
Kedua ruas (dengan
dibagi
dibagi ) (dengan )() ) ((kemudian
dengan )
kemudian ( ‖ dengan
() ( )) ) )sedemikian
dikurangkan ‖
dengan
Sehingga untuk semua ‖sedemikian
Karena
Karena ga‖ Berdasarkan
sehingga
berlaku ‖‖untuk
( ‖Teorema
‖ semua
( ( ), maka maka Nilai
)( terdapat Rata-rata
, ) suatu
terdapat terhadap ‖
(Berdasarkan) (turunan,
konstan
suatu
‖ Teorema (
terdapat
ga
(( ) dan
(
Nilai
‖‖ bilangan ‖(‖Rata-rata
) sedemikian
terhadap turunan,
bulat sehing-terdapat dikurangkan
(
ikian sehingga untuk semua , ) ) ) )
‖ ‖ ‖ maka ‖ konstan terdapat suatu ‖ ‖ ‖ bulat danKarena ((bulat (Kedua (((Karena ))) ))dengan ( ( ()() )‖( ‖)(‖ ))( ) (( )()) ())‖) )‖ ‖ ‖ (‖( ‖,() )maka ‖ ‖( () )) ‖
‖ ‖ maka sedemikian
Karena Sehingga
terdapat q∈(0,1)ga
sehingga
suatu ‖konstan
dan ‖‖‖bilangan
untuk
konstan ‖ semua maka bilangan
, Kbilangan
terdapat
dan sedemikian
Sehingga
suatu ga
Sehingga
(
konstan
bulat ruas Sehingga
dibagi dan bilangankemudian bulat (dikurangkan
() ) ( (dengan ) ) )( )) )didapatkan
‖ ‖ berlaku Berdasarkan Teorema ‖ ( ‖ ( ) )
Kitaterhadap ‖
definisikan ‖ ( ) ( ( ) ) ( ( ( ) ( (
hingga
Sehinggauntukdefinisikan
semuasemua
untuk
sehingga , untuk
Sehingga
berlaku
semua
‖ ‖Nilai
k>K, Rata-rata turunan, terdapat
Kedua ruas dibagi dengan
sedemikian sehing-
kemudian dikurangkan dengan didapatkan
sehingga Kita
‖ ‖ untuk semua
maka terdapat sedemikian, sehingga
suatu konstan ( ) untuk semua
( ( Karena (
dan bilangan) , )
( )‖( ()bulat ( )Kedua (
( ( )(() )( ) ( ()(() ‖))( ‖)‖) (()()ruas dibagi (
‖ dengan
)‖ ) kemudian dikurangkan
()(((()()))))‖) )(‖ (‖, ()maka dengan
‖( ‖ didapat
‖() ( ‖))‖) ‖ ‖ ‖
Kita definisikan ‖ ‖ Sehingga ga Sehingga untuk semua berlaku ‖‖ ‖ ‖ (‖ Sehingga )‖( ( ( Karena ( ( ) )( ()() kita ) ) ‖‖)‖ ‖
gga ‖ untuk
‖ semua }. Maka berlaku
dapat ‖ kita simpulkan
‖ ( bahwa ) ‖ ( ‖ ( {‖) ) ( ) Karena (}. Maka ) ‖ (dapat ‖ simpulkan
( ( ) ) ) ) bahwa ‖‖ ‖ ‖( (
hingga untuk semua {‖ ‖ ‖ , ‖ ‖‖ ‖ ‖‖ ‖ }. Maka dapat kita simpulkan
Sehingga ‖ ‖ bahwa ( ‖( ‖ ( ) ) ) ( ) ‖ ‖ ( )
}. Maka dapat {‖ ‖kita ‖Sehingga‖ Kedua
simpulkan ‖untuk ‖ruas
bahwasemuadibagi
( ‖ dengan ‖( berlaku ) )untuk Sehingga
kemudian (. Sehingga
dikurangkan
Kedua ) ruas (dengan
()dibagi ( Sehingga
‖( dengan ( ( )didapatkan )( )((‖ ) dikurangkan
kemudian ( )( dengan
() ‖ )(‖(‖dengan
) ) didapatkan
( }. ) Maka ( dapat ( semua
‖kita ‖)simpulkan
)Kedua (bahwa
Karena ruas dibagi (‖dengan ( )) (‖kemudian ) ) ) dikurangkan ( ( ‖( )‖( ) ( ( )(didapatkan () ))) ) ) ‖,(mak
) ) (
)
kKita
semua untuk
definisikansemua berlaku . Sehingga
Dengan ‖Kedua
‖ untuk
demikian, ‖‖ ruas untuk
semua dibagisemua dengan berlaku k>K kemudian
berlaku dikurangkan dengan didapatkan
ntuk semua berlaku
(Lemma
( )‖ ‖)3.4. Misal
)) )asumsi ( ((SCD-MA (() ) (berlaku, ( ) ‖‖ dan dihasilkan ‖ oleh ‖ algoritma SCD- ‖ ‖
‖‖
untuk
‖i SCD-MA ‖Lemma ‖semua
berlaku, .}. Maka Sehingga
Kita definisikan
dan dapatSCD-MA kita simpulkan
dihasilkan ( oleh (( bahwa )
algoritma Sehingga
‖ SCD-
( Karena
‖ dikurangkan (Karena (((() ( )())‖ )) (‖() ))) ‖ ))‖ ‖( (() )() ‖ ) ‖‖(‖ ‖() (())‖) ‖‖( (‖,‖)maka ) )
efinisikan 3.4. Misal asumsi
Kedua ruas dibagi berlaku,
dengan dan
kemudian dihasilkan oleh
dengan algoritma
(
Kedua Kedua
( SCD- ruas
didapatkan
ruas ( dibagi
Sehingga
(
dibagi
Sehingga ( ) dengan
)
dengan ( ) ) kemudian
)
kemudian ) dikurangkan ( )(‖dengan
dikurangkan ) ‖‖ ‖ did
uk semua
berlaku, {‖dan ‖ ‖ ‖dihasilkan
berlaku ‖ ‖ ‖ ‖oleh algoritma }. Maka ( (
SCD-dapat MA. kita
( simpulkan
Maka
) terdapat
) bahwa
) suatu ‖konstan ‖ sedemikian
( ) ‖ ‖ sehingga untuk semua berlaku
Lemma 3.4. Misal asumsi ‖ SCD-MA
‖ berlaku, dan ‖ dihasilkan
‖ oleh algoritma SCD-
konstan MA. Makasedemikian terdapat Kitasuatu sehingga
definisikan Kedua
{‖
konstan untuk
(‖ ruas‖
(‖)berlaku
semua
dibagi ‖ dengan
(sedemikian berlaku ( Kita
( ‖ )simpulkan }.dapatkan
)kemudian
)sehingga Maka untuk
)) Karena dikurangkan
‖Kedua
dapat
( ‖semua ruas
) kita( ‖( dibagi
Kita
dengan
dengan
simpulkan
berlaku (dapatkan
(dengan
()() )bahwa didapatkan
‖(( ))‖didapatkan
)kemudian
‖‖ ‖, ()‖‖ )‖(dikurangkan )‖ ‖( (())‖ )dengan ‖ (( ) ) ‖) didapatkan ‖ ‖, maka
sedemikian
{‖semua ‖ ‖ terdapat
.‖sehingga ‖suatu ‖ Karena
untuk semua }. Maka ( dapat kita bahwa ‖ ‖ ‖‖ ((berlaku
Sehingga ( ‖( (maka ) () ) ) ( ))( ( ) ‖) ‖( ‖ ‖, ‖) ‖maka ‖(
‖ untuk
an MA. Maka Kita ‖ definisikan
‖konstan ( ( sedemikian ( )
sehingga ) untuk )Karena semua ( ( ( )
(3.7) ) ‖ ) ) ‖ ( ‖‖ (
sikan
msi SCD-MA(3.7) berlaku,untuk semua Kita ‖ definisikan
danKarena
‖
{‖ . ‖dihasilkan ‖ ( ‖(3.7) ( oleh ‖ ‖algoritma ( ) }. )SCD-Maka ) dapat ‖ ‖kita ‖ ‖ simpulkan
‖ ( ( bahwa ) ) ‖ ‖ ‖, maka
‖ ( ( Kita dapatkan
( ) ) ) ( ) ‖ ‖ ( ) ‖ (‖‖ ) ‖‖( ‖) ‖ ‖
Lemma
‖ ‖ ‖. 3.4.‖Misal
semua
(3.7) Kedua
‖ asumsi}.SCD-MA
‖ ‖‖ ruas ‖ dibagiberlaku, dengan (kemudian dan ( bahwa ( ‖)Sehingga
dikurangkan
dihasilkan )oleh dengan algoritma
) Sehingga ( (SCD- didapatkan
(() ‖( Kita ‖ ((dapatkan () ))) ‖) (‖) )) ‖ ‖
dapatkan
atu
{‖ konstan
an ‖‖ ‖ ‖ sedemikian
‖Lemma
untuk ‖ Karena
‖ }.
Maka
semua
sehingga
3.4. Maka {‖dapat
Misal
. ( dapat ‖(3.7)
‖untuk kita‖semua
(asumsi simpulkan
kitaSCD-MA ‖ ) berlaku
(simpulkan ‖ )berlaku, bahwa ) Maka
}. ‖‖‖ dan ‖‖dapat
‖ ( kita Karena
simpulkan
dihasilkan ( )(oleh Kita (algoritma
)(bahwa ( ‖,‖(maka ‖)( ) ) ) ( ) (‖ ))‖‖‖ ‖(
SCD- ( )
ma MA.3.4. Maka
Misal terdapat
asumsi suatu konstan
SCD-MA berlaku, sedemikian
dan sehingga
(dihasilkan
( untuk
oleh semua
) ) berlaku
( algoritma SCD-) ( )‖ ‖ ( ) ‖ ‖ ( ) ‖ ‖
‖. ‖ Karena ( (suatu ( (konstan ( ) ( Dari )) sedemikian) ) Sehingga
(3.2) ) Kita
diperoleh ‖ dapatkan ‖ ‖(Dari (( (3.2) ()( ‖)) berlaku
( diperoleh ‖ )) ) maka
‖, ‖ ‖ ‖ (( ) ‖ ‖
( ) ) ( )‖, maka ‖ ‖
ua
‖ ‖.
‖‖ ‖ ‖ (3.7) ‖ Oleh MA.
Lemma
‖untuk }.Sehingga
‖Maka
karena Maka
3.4.
semua terdapat
itu, dapat
Misal dapat
. asumsi kita simpulkan
disimpulkanSCD-MA berlaku, bahwa ‖ Sehingga
bahwa ‖Karenadan sehingga untuk
dihasilkan semuaoleh ( algoritma ) ‖ SCD- ‖
( ( ( ) ) ( () ‖
Maka terdapat suatu konstan Sehingga sedemikian (3.7) sehingga ( ( untuk(semua ) ) berlaku ) ( )‖ ‖ ) ‖)(‖ ‖)‖
Misal asumsi SCD-MA
4.. Misal asumsi SCD-MA
untukMA.
‖ ‖semua
berlaku,
Lemma Maka
berlaku, 3.4. k.Misal
terdapat dan suatu
dan
‖ dihasilkan
asumsi ‖
konstan SCD-MA
dihasilkan
olehberlaku,
oleh
algoritma
sedemikianKita)SCD-
algoritma
( dapatkan
‖ sehingga
dan
SCD- ‖ Kitauntuk
dihasilkan(dapatkansemua
) ‖ oleh ‖ berlaku
algoritma ( ‖SCD- ) ‖‖ ‖ ( ) ‖ ‖‖ ‖
( ( (3.7) ( ) ) ) ( ) ‖ ‖
‖ ‖ Karena ( (
(3.7) sehingga ‖ ‖( ) )Dari (3.2) ‖ ‖‖ (
) diperoleh ( ) ) ( ( ‖, maka( ( ) ) ‖) ‖ ) ( ( ) ‖) ‖ ‖ ‖
dapat suatu konstan
terdapat suatu ‖ ‖
konstan MA.
Sehingga
sedemikian
Maka sedemikian terdapat ‖ ‖ untuk
suatu
sehingga konstan
untuk
semua berlaku
semua sedemikian
berlaku ( ) ‖sehingga ‖ Sehingga
untuk ( semua )Dari
Dari ‖ ((3.2) ‖(3.2)
berlaku
diperoleh
diperoleh ) ‖ (‖ )(‖ ‖ ) ‖ ‖
Misal asumsi SCD-MA berlaku, Kita dapatkan dan dihasilkan oleh(3.7) algoritma Kita dapatkanSCD- ‖ ‖
‖ ‖ Sehingga ‖ (‖ ( ( ) () Kita Sehingga ) ‖ (3.2)(diperoleh
dapatkan ) ‖ ) ‖‖ ‖ ( ) ‖ (‖ ( ) )‖‖ ‖‖ ‖ (‖ ‖ )‖‖
dapat suatu ‖ ‖ (3.7) ‖ ‖ ) ‖ Dari (
‖ ‖konstan sedemikian
(3.7) Kita dapatkan sehingga untuk semua (3.7) berlaku ( ) ‖ ‖
‖ ‖
( )) ‖‖ ‖‖ ‖ ‖ ( ()(‖ ‖ ) ‖) ‖
‖ ‖ ‖ ‖
‖ ‖ Sehingga Dari ((3.2)) ‖diperoleh ‖
DariKita
( )‖ ‖
(3.2)dapatkandiperoleh (
Kita dapatkan
(3.7) ( ) ‖ ‖
‖ ‖ ( ( )‖‖ )‖‖‖ ‖ ‖ ‖
Kita dapatkan ( )Dari ‖ Kita ( (3.2)
‖ dapatkan ) ‖( ‖) ‖ ‖
diperoleh
Dari (3.2) diperoleh
Dari (3.2) diperoleh ( ‖ ) ‖‖ (‖ ( ) ‖ ) ‖‖ ‖
Dari (3.2) diperoleh ( )‖ ‖
Kita dapatkan ‖ ‖
( )‖ ‖ ‖ ‖
( ( ) ‖ )‖‖ ‖
Dari (3.2) diperoleh ( ) ‖ ‖‖ ‖Dari (3.2) diperoleh
( )‖ ‖
Dari (3.2) diperoleh ( (3.2)
Dari ‖ )‖diperoleh ‖ ‖ ‖ ‖
ma NilaiTeorema
sarkan Rata-rataNilai
terhadap turunan,
Rata-rata terdapat
terhadap sedemikian sehing-
turunan, terdapat sedemikianSehingga
sehing- ‖ ‖ ‖ ‖
Sehingga Sehingga
( ) ‖‖ ‖‖
ma )NilaiSehingga
Rata-rata( terhadap
) (turunan, terdapat
( ) ) sedemikian sehing- ( ) ‖ ‖ ‖ ‖ ‖ ‖
‖ ‖
Didefinisikan { ‖ ‖ ‖ ‖ } ‖‖ ‖‖
( ) (( ) ( ) () SehinggaSehingga )( ) ( )
( ((( ))) ()Didefinisikan )
(( )) ) () ( ( )( ) ) ( ) Didefinisikan
‖ ‖( ‖ )‖ ‖‖ ‖‖
Didefinisikan
( ) )
gga( ) ) Hasanah:
( ) ( ( ) ) ‖ ‖ ‖ ‖
gga Kedua ruas dibagi( ) Konvergensi
dengan (kemudian Didefinisikan
Global
) ‖ ‖Metode Spectral ‖ ‖
Conjugate DescentDidefinisikan
Didefinisikan
{ } 47
maka didapatkan
dikurangkan dengan . didapatkan ‖( ‖ ‖{ )‖
‖ ‖ }{ }
( ) ( )( ) (( )) ) ( () ) ‖ ‖ ( ) ‖ ‖ { ( } ) ( )
( ( )
emudian dikurangkan (
Karena(dengan ( ) ) )Didefinisikan
didapatkan
Didefinisikan
(Teorema (
) 3.5. ) (
) Misalkan Asumsi ) ‖ ‖
‖ ‖ SCD-MA )(‖ berlaku, ) Misalkan dan Asumsidihasilkan oleh algoritma
( Teorema
} SCD-MA{{berlaku, {xk}
( ‖ 3.5. }}
( ( ) ) ( ) maka didapatkan ( ) ‖ ‖ . {
dan {g } dihasilkan oleh algoritma SCD-MA. (( Maka )
)
.( )
a ruas dibagi dengandikurangkan
kemudian dikurangkan dengan didapatkan‖ ‖ ‖ ‖ k ‖ ‖
dengan kemudian
dengan kemudiandengan SCD-MA. ‖Maka
didapatkan
maka maka didapatkan .
a)ruas)dibagi dikurangkan ‖ ‖ ‖didapatkan
) ‖ ) dengan didapatkan
‖ ‖
Karena) ( ( ) ()didapatkan
( maka ( .( ) ) ‖ { ‖‖, maka ‖ ‖
}‖ dihasilkan oleh algoritma
dengan kemudian dikurangkan dengan Teoremadidapatkan3.5. Misalkan ‖ Asumsi
‖ {
SCD-MA berlaku,
‖( ‖ }dan ‖‖ ‖
( ( ( ) ) )maka didapatkan ) ‖‖ ‖‖
( Misalkan maka
maka
( didapatkan
didapatkan
) Misalkan )berlaku,Asumsi ..SCD-MAdihasilkan
) )(( ‖)( ‖)‖ (( ) ) ()(Teorema )) Teorema
( ) ‖ ‖ 3.5.
maka ( ) ‖‖ ‖‖. Asumsi Teorema 3.5.
SCD-MA ‖‖ ‖‖ dan berlaku, oleh dan algoritma di
( ) SCD-MA. ‖,
(3.5.) Misalkan
Maka
) ) Asumsi ( SCD-MA
) ‖ ‖ berlaku, dan dihasilkan oleh algoritma
( ) ) ) Bukti.‖ Andaikan ( ) ‖ ‖
tidak benar ‖ Maka ‖
SCD-MA. ‖ )‖ bahwa
Maka ‖ ‖ SCD-MA.
Teorema Maka terdapat suatu konstan
na (( )(( ) maka
na
( ) )
) ) ())) ‖ ) ‖(‖maka
(Sehingga ) ‖ ‖Teorema
)( ‖
SCD-MA. maka )(( 3.5.
) Misalkan
‖ didapatkan
‖ ‖(‖Maka
didapatkan ( ) ‖ )‖Asumsi
(‖, )maka . ‖ ‖, SCD-MA Teorema
. Bukti.
‖,‖maka
maka ‖3.5.
Andaikan3.5.
berlaku, ‖ Misalkan
Misalkan
tidak dan Asumsi
Asumsi
benar bahwa SCD-MA
SCD-MAoleh
dihasilkan berlaku,
berlaku,algoritma dan dan di
d
) ‖ ‖ ‖ ( sedemikian ( ) sehingga untuk setiap SCD-MA. berlaku Maka ‖ ‖
( ) ) SCD-MA. )
Maka ‖, maka SCD-MA.
‖ ‖berlaku, Maka ‖. Berdasarkan ‖ lemma 3.3, ‖ terdapat
‖
( ( ( (
(( )( ) Teorema
( ) Teorema
)
Bukti.
( ) )konstan 3.5.
) ( ))
)
Andaikan
‖ ( 3.5.
Misalkan
‖) ‖ ( Misalkan
)
tidak
‖ ‖
Asumsi
)‖ ‖
( sedemikian
‖
benar(Asumsi
SCD-MA
bahwa
) ‖ SCD-MA
‖ berlaku, ‖ ‖ dan dan
Maka dihasilkan
terdapat dihasilkan
oleh
suatu oleh
algoritma
konstan algoritma
sehingga untuk ‖semua ‖ berlaku ‖ ‖ . Di lain ‖‖‖suatupihak,
‖‖‖ konstan
Bukti.
) ‖ ‖tidak Andaikan tidak benar Bukti.bahwa Andaikan tidak ‖ benar‖ bahwa Maka terdapat Maka terda
( (
gga Kita( dapatkan
( ) ) )
Bukti.
SCD-MA. SCD-MA.
( Maka
Andaikan
sedemikian Maka
sehingga benar bahwa
untuk setiap Maka ‖
terdapat
berlaku ‖ ‖ suatu
‖ Maka terdapat
konstan
. e>0
Berdasarkan suatu
sedemikian konstan
lemma sehingga
3.3, terdapat
gga ) ‖ ‖
Sehingga ( ) ‖ ‖ ‖ ‖
untuk suatu
‖ sedemikian
konstanuntuk
sehingga untuk
Bukti. .setiap
sedemikian Sehingga
setiapAndaikan kita
‖ksehingga
berlaku
berlaku dapatkan
‖untuk setiap
‖ terdapat berlaku
Berdasarkan
. Berdasarkan ‖‖‖ ‖‖‖ 3.3,
lemma
lemma . Maka
Berdasarka
terdapat
Bukti. Andaikan
sedemikian
konstan
‖
sehingga tidak
untuk benar
setiap
sedemikian bahwa Bukti.
berlaku
sehingga ‖ ‖ Andaikan
untuk‖ ‖semua ‖‖. tidak
tidak benar
benar
Maka
Berdasarkan
berlaku
bahwa
bahwa ‖ suatu
lemma
‖sedemikian 3.3, konstan
terdapat
. sehingga
Di lain pihak,
Maka terda
terda
( ) ‖ ‖ ( ) ‖( ‖ ( ) ‖ ‖
) ‖ konstan (
‖ ( )‖ ‖ ) ‖ ‖ 3.3, terdapat konstan M >0
sedemikian konstan sehingga
sedemikian untuk
‖sehingga sedemikian
.semua
untuk
1 sehingga
berlaku ‖untuk ‖3.3,semua berlaku
.‖‖Di lain
‖‖ terdapat ‖
pihak,
( ) ‖ ‖ konstan sedemikian
Bukti.
( ) ‖ ‖ ‖‖sehingga
Andaikan
( sedemikian
) ‖tidak‖ untuk
benar setiap
sehinggabahwa ‖
sedemikian
untuk
untuk
‖ berlaku
‖semua
semua‖ ‖sehingga
‖k ‖berlaku
berlaku
‖ ‖ ‖ ‖setiap
untuk
Berdasarkan
Maka
setiap
terdapat . Diberlaku
berlaku
lemma
Di lain
lain
suatu pihak,
pihak,
konstan
.. Berdasarka
Berdasark
dapatkan Kita dapatkan Bukti. Andaikan tidak benar
untuk bahwa
‖ suatu
‖ konstan . Sehingga
‖ ‖
Maka terdapat suatu konstan
kita dapatkan
dapatkan konstan
‖ ‖
‖ ‖
sedemikian untuk sehingga
suatu konstan
konstanuntuk
konstan semua untuk. sedemikian
sedemikian
suatu konstan
suatu
berlaku
Sehingga ‖sehingga
kita sehingga
konstan ‖ M2>0.
dapatkan untuk
untuk
. Di semua
semua
. Sehingga
lain kitaberlaku
pihak, berlaku
dapatkan ‖‖
Dari
( (3.2) diperoleh
)‖ ‖ sedemikian sedemikian untuk
sehingga sehingga
suatu
untuk untuk setiap
‖ konstan
‖setiap berlaku . berlaku
Sehingga
‖ ‖‖ ‖‖ kita. ‖Berdasarkan
dapatkan. Berdasarkan lemma lemma
3.3, 3.3, terdapat
terdapat
Untuk‖ ‖ ‖ berlaku ‖
‖ ‖ . Hal ini‖‖kontradiksi
‖‖ dengan ‖ ‖ untuk semua
konstan ‖ sedemikian
untuk ‖suatu konstan ‖Sehingga
sehingga ‖ untuk
. Sehingga
kita ‖ kita
untuk
untuk
dapatkan
semua ‖ suatu
suatu konstan
dapatkan
berlaku konstan
‖ ‖ ... Di
Sehingga
Sehingga kita
kita dapatkan
lain‖pihak, dapatkan
( konstan
) ‖ (‖ ( ) ‖
)‖ ‖‖ ‖
‖ sedemikian sehingga untuk semua ‖ ‖
‖ ‖‖ ‖
‖ ‖ berlaku ‖ ‖ ‖ ‖ ‖ ‖lain
. Di pihak, ‖
dan untuk (suatu ‖ ‖ )‖ ‖
. Sehingga‖berlaku ‖ ‖ ‖
‖( ‖ ) ‖ ‖Untuk ‖ ‖ . Sehingga
h(3.2) diperoleh
(3.2) diperoleh
‖ ‖
untuk berlaku
untuk
suatu suatu
konstan konstan ‖Untuk
. Hal .ini
‖ ‖ kita
kontradiksi
Sehingga kita
‖dapatkan dapatkan‖ ‖‖
dengan
‖ kontradiksi ‖ .‖‖Hal
untuk semua ‖‖ ‖‖ dengan ‖
( Dari )(3.2)
‖ ‖diperoleh ‖ ‖ Untuk ‖ ‖
berlaku ‖ . berlaku
Hal ini ‖ ‖ dengan ‖ ini‖ kontradiksi
untuk semua
h ‖Untuk ‖ ‖ ‖ ‖ ‖ ‖
‖
dan untuk ‖ berlaku
‖
suatu . Sehingga berlaku
. Hal ini kontradiksi ‖ dengan
‖ untuk semua
)‖‖ ((‖‖ Untuk)) ‖ ‖ untuk ‖‖ . Sehingga ‖ .untuk
Untuk
Untuk
‖‖ Untuk
dan ‖ berlaku
‖suatu ‖ ‖. Sehingga
‖berlaku
berlaku ‖ ‖‖‖ ‖berlaku‖‖ ‖ .. Hal Hal ini
ini kontradiksi
‖ ‖ dengan
kontradiksi dengan ‖‖
(
dan untuk suatu ‖ dan ‖ berlaku suatu
. Sehingga berlaku
Hal ini kontradiksi
‖ ‖
berlaku dengan untuk semua
( )‖ ‖
dan
daniniuntuk
untuk suatu
suatu ‖ .. Sehingga
‖ dengan ‖ ‖ berlaku
Sehingga ‖berlaku ‖‖ ‖‖
Untukdan untukberlaku
Untuk suatu berlaku. Sehingga
‖ ‖ ‖ berlaku .‖ Hal
Hal . Hal
ini ini kontradiksi
kontradiksi
kontradiksi dengan
dengan ‖
untuk untuk
untuk
semua semua
Jika
JikaJika
memenuhi (2.10), makatidak
tidak memenuhi
memenuhi
tidak (2.10),
(2.10),
memenuhi maka
(2.10), maka
maka semua k dan untuk suatu e>0. Sehingga berlaku
Jika tidak memenuhi (2.10), dan
makauntuk
dansuatu
untuk suatu. Sehingga
. Sehingga
berlakuberlaku ‖ ‖ ‖ ‖
( ( )
Jika tidak)(memenuhi )(2.10),
( maka )
Dengan demikian metode spectral conjugate descent
idak memenuhiKedua
(2.10),ruas
maka
dikurangi oleholeh
uhi (2.10),oleh
dikurangi makaKedua
)Kedua ruas dikurangi
maka
Kedua didapatkan
ruas
ruas dikurangi
dikurangi oleh maka didapatkan
maka
maka didapatkan
didapatkan menghasilkan arah pencarian dk yang menurun.
oleh maka didapatkan
( ) Dengan menggunakan pencarian garis Armijo yang
memenuhi
( ( (2.10), )maka
( ) ( (() ( ) ) ) ) ‖ ‖ ‖ ‖‖ metode
termodifikasi, ‖ ini konvergen global.
dapatkan( ( ( ) ) ) ‖ ‖
Kedua ruas dikurangi oleh maka didapatkan
Berdasarkan asumsi SCD-MA didapatkan
uas dikurangi oleh
asumsi maka didapatkan
oleh SCD-MA
iBerdasarkanmaka( didapatkan
asumsi
Berdasarkan
didapatkan
SCD-MA
asumsi SCD-MA didapatkan
) ‖didapatkan
‖
simpulan dan saran
( oleh
( ‖ ‖) ( ) (( ( ( ) ‖) ‖‖) ‖)‖ (‖ )(( ( ‖( ‖)( )) ) ) ) ‖ ‖
ikurangi ) ) maka didapatkan ‖ ‖ ( ( ( ) ) ) Metode nonlinear spectral conjugate descent baru
Berdasarkan asumsi SCD-MA didapatkan
rkan asumsi SCD-MABerdasarkandidapatkan asumsi( SCD-MA didapatkan yang merupakan gabungan dari metode conjugate
(
SCD-MA
( ( ) ))
( didapatkan )) ‖ ( ) ) ‖ ‖ (‖‖ ( ‖ ( )( )) ) ‖ ‖ ‖ ‖‖ ‖
‖ ( ( ) ) ‖‖ ‖ descent dan metode spectral conjugate gradient
asumsi SCD-MA ‖
didapatkan ‖( ) ‖ ‖( ( ( ) ‖ ‖ ( () (‖ ‖ ( ) terbukti
) ( )
) ‖ ‖ ) mempunyai arah pencarian yang menurun
)
( (‖ ) ‖ ) ( (‖ ‖ ‖( ) ) ( ) )‖ ‖ (descent direction). Dengan menggunakan pencarian
Sehingga
‖ Sehingga
‖ ( ( ‖ ( ( )( ) ) ) ‖ ‖ ‖ garis Strong Wolfe, metode ini konvergen global.
Sehingga
) ‖ ‖ ‖ ( ( ) ) ‖‖ ‖ ‖ ( ( ) Dengan ) ‖‖ ‖
menggunakan pencarian garis Armijo yang
‖ ‖ ‖ ‖‖ ‖
( ) ‖ ‖ ‖ ‖ termodifikasi yang dilaporkan merupakan pencarian
( ) ‖‖ ‖( ‖ ( ‖) ) ‖ ‖ ‖ ‖ ‖‖ ‖
‖ ‖ ( ) ‖ ‖ garis yang efisien, metode spectal conjugate descent
na ‖ ‖Sehingga
Didefinisikan
Didefinisikan memberikan hasil yang konvergen global. Selain
Didefinisikan ( ) ‖ ‖
‖ ‖ Sehingga ‖ ‖ pencarian garis Armijo yang termodifikasi, masih
‖ ‖ terdapat dua pencarian garis tidak eksak yang
{ ‖ ‖ } { { ‖ ‖}termodifikasi
}
‖ (‖ {) ( ( } ) )
yang perlu diteliti kekonvergenan
sikan ‖ ‖( ) ‖ ‖ metode nonlinear spectral conjugate descent dengan
‖ ‖ } ‖ ‖ ‖ ‖‖ ‖ pencarian garis tersebut sehingga dapat digunakan
tkan maka . didapatkan .
) Didefinisikan
maka
‖Didefinisikan
didapatkan ‖ ‖‖ ‖ .
‖ ‖
(
maka didapatkan ‖ . sebagai bahan penelitian selanjutnya.
‖ ‖{ }
5. Misalkan Asumsi {Teorema
Teorema SCD-MA 3.5. 3.5.
Misalkan(
berlaku,
Misalkan }Asumsi
Asumsi) dan SCD-MA SCD-MA berlaku,
dihasilkanberlaku, dan dan dihasilkan
oleh algoritma oleholeh
dihasilkan algoritma
algoritma
Teorema 3.5. Misalkan ( Asumsi) SCD-MA berlaku, dan dihasilkan oleh algoritma
Maka SCD-MA.
SCD-MA.
‖ ‖ { Maka Maka } { }
SCD-MA.
dapatkan ‖ ‖ Maka . ( ) algoritma ( ) daftar pustaka
A berlaku, . dan‖ ‖ dihasilkan ‖ ‖ oleh ‖ ‖‖ ‖
‖ ‖ Birgin EG & Martinez JM, 2001. A Spectral Conjugate Gradient
‖ ‖
a 3.5. Misalkan ‖ Asumsi
‖ SCD-MA berlaku, ‖ ‖dan dihasilkan oleh algoritma Method for Unconstrained Optimization. Appl. Math. Optim.;
kan
kan Asumsi
ikan tidak benar maka
SCD-MA
maka
Bukti.
‖ bahwa
. didapatkan
berlaku,
didapatkan
Andaikan tidak
‖ dan
benar
‖ bahwa dihasilkan
Maka . . oleh ‖ algoritma
‖ Maka terdapat suatu konstan
‖ ‖terdapat suatu‖konstan
‖ Bukti. Andaikan tidak benar ‖ ‖bahwa
‖ Maka terdapat
43: 117-128.suatu konstan
A.Bukti.
Maka
‖ ‖ Andaikan tidak benar bahwa Maka terdapat suatu konstan
sehingga
. Misalkanuntuk sedemikian
setiap
sedemikian sehingga
berlaku ‖ untuk
sehingga ‖ untuk setiap
. Berdasarkan berlaku ‖ oleh
lemma ‖‖ 3.3, . terdapat
Berdasarkan
‖algoritma lemma 3.3, 3.3,
terdapat
Asumsi
sedemikian sehingga TeoremaSCD-MA
untuk 3.5.berlaku,
Misalkan
setiap
dan
‖ Asumsi
‖ berlaku ‖setiap‖SCD-MA berlaku
dihasilkan
berlaku,
. Berdasarkan
. Berdasarkan
lemma 3.3,dan terdapat lemma
dihasilkan terdapat
oleh algoritma
‖ ‖ Maka
konstan terdapat
‖ ‖ suatu konstan ‖ ‖
aka sedemikian konstan untuksedemikian
sehingga semuasedemikian sehingga
berlaku ‖ untuk
sehingga ‖ untuk semua
. semua
Di lain berlaku
pihak,
berlaku ‖ ‖ . Di. lain Di pihak,
lain pihak,
konstan sedemikian
SCD-MA. Maka sehingga‖ untuk ‖ semua berlaku ‖ ‖ . Di lain pihak,
Andaikan
rlaku ‖ tidak
‖ benar
. bahwa
Berdasarkan ‖ ‖ lemma 3.3, terdapat Maka terdapat suatu konstan
‖k benar bahwa
‖ ‖ konstan ‖ ‖ untuk
untuk suatu ‖ ‖ ‖. ‖‖Sehingga
‖suatu
untuk Maka kita
suatu terdapat
konstandapatkan
konstan suatu .konstan
Sehingga
. Sehingga kita kita
dapatkan
dapatkan
‖ian sehingga untuk
ntuk semua untuk
berlaku suatu
setiap
‖ konstan
‖ berlaku
‖ ‖
. Di ‖ lain.
‖ Sehingga
pihak, . kita dapatkan
Berdasarkan ‖ ‖3.3,
lemma terdapat
a untuk
kan
‖
tidaksetiap
‖
benar bahwa berlaku ‖ ‖ ‖ . ‖Berdasarkan lemma 3.3,
Maka terdapat suatuterdapat
konstan
sedemikian sehingga untuk semua ‖ ‖‖ ‖‖ ‖ ‖ . ‖‖Di lain
berlaku
. Sehingga
demikian
ehingga
kitaBukti.
sehingga
untuk
dapatkan
setiap
‖
Andaikan
untuk ‖
semua
berlaku tidak
‖ ‖ ‖
‖
berlaku
‖
‖
benar. ‖ bahwa
‖
Berdasarkan ‖ .
‖ Di
lemmalain pihak,
3.3,
‖‖ pihak,
‖ terdapat Maka terdapat suatu konstan
‖ ‖
untuk suatu konstan . Sehingga kita
‖ dengan dapatkan ‖ semua ‖dengan
‖berlaku sedemikian
konstan Untuk‖sehingga
‖ . Sehingga
Untuk sehingga
berlaku
.untuk
Hal ini untuk
kontradiksi ‖‖
setiap ‖ . berlaku
‖‖ . ‖Hal ‖ini kontradiksi
untuk ‖ ‖‖ ‖ untuk
. Berdasarkan lemma
semua 3.3, terdapat
suatu ‖ berlaku
kita
‖ dapatkan Hal ini kontradiksi dengan untuk semua
‖sedemikian semua berlaku . Di lain pihak,
Untuk ‖ ‖berlaku . Hal ini kontradiksi dengan ‖ ‖ untuk semua
48
Dai YH, Liao LZ & Li D, 2004. On Restart Procedures for the
Conjugate Gradient Method. Numerical Algorithms; 35:249-
260.
Kim M, Kwon S & Oh S, 2008. The Performance of A Modified
Armijo Line Search Rule in BFGS Optimization Method. Journal
of The Chungcheong Mathematical Society; 21(1):117-127.
Liu J & Jiang Y, 2012. Global Convergence of A Spectral Conjugate
Gradient Method for Unconstrained Optimization. Abstract and
Applied Analysis; Vol. 2012. doi: 10.1155/2012/758287
Sains & Mat, Vol. 2 No. 2, April 2014: 42–48
Wei Z, Qi L, Ito S, 2000. New step-size rules for optimization
problems. Guangxi: Department of Mathematics and
Information Science, Guangxi University.
Wei XW, Li GY & Qi LQ, 2008. Global Convergence of The Polak-
Ribiere-Polyak Conjugate Gradient Method with an Armijo-
Type Inexact Line Search for Nonconvex Unconstrained
Optimization Problems. Mathematics of Computation;
77(264):2173-2193.
Zhang L, Zhou W & Li D, 2006. Global Convergence of a Modified
Fletcher-Reeves Conjugate Gradient Method with Armijo-Type
Line Search. Numer. Math; 104:561-572.