BAB II

PEMBAHASAN
A. Pengertian Metode Steepest Descent
Metode steepest descent merupakan prosedur paling mendasar yang
diperkenalkan oleh Cauchy pada tahun 1847. Metode ini adalah metode gradien
sederhana yang menggunakan vektor gradien untuk menentukan arah pencarian pada
setiap iterasi. Kemudian, dari arah tersebut akan ditentukan besar ukuran langkahnya.
Pada beberapa kasus, metode steepest descent ini memiliki kekonvergenan yang
lambat menuju solusi optimum karena langkahnya berbentuk zig-zag.
Metode Steepest Descent digunakan untuk mencari minimum suatu fungsi,
yakni dengan menggunakan nilai negatif dari gradient fungsi disuatu titik. Digunakan
nilai negatif dari gradient karena gradien memberikan nilai kenaikan yang semakin
besar. Dengan nilai negatif dari gradient maka akan diperoleh nilai penurunan yang
semakin besar.
Secara singkat, proses pencarian minimum dari suatu fungsi f(x) adalah
X 0 R n . Kemudian dicari

sebagai berikut: mula-mula diberikan titik awal

f ( X 0 0 f ( X 0 ) )

yang meminimumkan fungsi

rumus
fungsi

X 1= X 0 0

f ( X 0) . Dari

f ( X 1 1 f ( X 1 ) )

X1

. Setelah itu dicari

dicari

X2

dan dicari

X1

suatu

>

dengan rumus

f ( X k )=min {f ( X k k f ( X k ) ) } . Dari
dengan rumus:

X k +1=X k k

sedemikian

dengan

yang meminimumkan
X 2= X 1 1

f ( X 1) . Demikian seterusnya sehingga secara umum untuk suatu

ditemukan

Xk

sehingga

, kemudian diperoleh

dapat

X k +1

f ( X 0) . Proses pencarian minimum fungsi f(X)

Metode Numerik Steepest Descent | 4

ini berhenti jika

f ( X k )

<

, untuk suatu

bilangan positif yang kecil

yang sudah ditentukan sebelumnya.

B. Algoritma Steepest Descent

1. Tentukan titik awal

Xk

,
f (X )

2. Dihitung gradient dari

dihitung

| f ( X k )|

. Jika

dan ambil k = 0
Xk ,

pada titik

|| f ( X )||<
k

yaitu

f ( X k ) . Kemudian

, interasi dihentikan dan pilih

Xk

sebagai titik minimum. Jika sebaliknya, lanjutkan ke langkah ke 3.

Xk
3. Dimisalkan arah pencarian pada titik
adalah d k =f ( X k ) .

4. Dihitung ak

5. Dihitung

sedemikian hingga f ( X k ak f ( X k ) )=min {( X k ak f ( X k ) ) }

X k +1

dimana

X k +1=X k + ak d k . Kemudian dilanjutkan ke langkah 2

X ditemukan.

dan seterusnya hingga suatu pembuat minimum

Agar lebih mudah dalam memahami algoritma metode penurunan tercuram,

dibawah ini diberikan diagram alir metode penurunan tercuram.
Mulai

Tentukan titik awal

Xk
konstanta
Hitung f ( X k )

k=k+1

tidak

|| f ( X k )||<

Dimisalkan arah pencarian

adalah d k =f ( X k )

ya

Berhenti.
Xk
adalah perkiraan

Hitung ak

titik minimum yang dicari

Metode Numerik Steepest Descent | 5

sedemikian hingga

f ( X k ak f ( X k ) )=min {( X k ak f ( X k ) ) }

Hitung

X =X k a k f ( X k )
Pilih

Gambar 1 diagram alir metode Steepest Descent

f ( X k ) =0

Kondisi

kerapkali tidak dapat dengan tetap dipenuhi karena perhitungan

secara numeris dari gradient akan jarang tetap sama dengan nol. Dalam kasus demikian
maka sebagai criteria penghentian adalah dengan mengecek norma gradient, yakni jika
norma

| f ( X k )|

dari gradient adalah tidak lebih besar dari suatu toleransi yang

diberikan maka interasi dihentikan sebagai alternative dapat juga dilakukan dengan

menghitung perbedaan nilai mutlak

X k +1f ( X k )
f

diantara nilai objektif untuk setiap dua

iterasi brturut-turut. Jika perbedaannya tidak lebih besar dari suatu toleransi yang diberikan
maka perhitungan diberikan.
Contoh 1
Diberikan fungsi

f ( X )=( x 12 )4 + ( x1 2 x 2 )2 , dengan menggunakan metode steepest

descent, tentukan perkiraan pembuat minimum jika diberikan titik awal

X 0 =(0,3)

dan

=0,3
Penyelesaian:
f ( X )=( x 12 )4 + ( x1 2 x 2 )2
f ( X 0)
=4 ( x 12 )3 +2 ( x 12 x2 )
x1
f ( X 0)
=4 ( x 12 x 2 )
x2

Metode Numerik Steepest Descent | 6

f ( X )=(4 ( x 12 )3 +2 ( x1 2 x 2 ) ,4 ( x 12 x 2) )

Interasi 1
X 0 =(0,3)
f ( X 0 )=( 02 )4 + ( 02(3) )2=52
4 ( 02 )3 +2 ( 02(3)) ,4 ( 02(3) )
f ( X )=
(44 ,24 )

||f ( X )||=(44) +24 = 2512=4 157 0

2

d 0=f ( X 0 )=(44 , 24)

Dihitung a0 yang meminimumkan f (X 0 +a 0 d 0 )

X 0 +a 0 d0 =( 0,3 ) +a 0 (44 , 24)

(44 a0 , 324 a0 )
f ( X 0+ a0 d 0 )=( 44 a02 ) 4 + ( 44 a02(324 a0 )) 2
4

( 44 a02 ) + ( 92 a 06 ) f (a 0)
Minimum f (a0 ) dicari dengan metode Newton-Raphson, titik awal 0.1 , =0.001
f ( a0 )=( 44 a 02 )4 + ( 92 a06 )2
f ' ( a0 )=176 ( 44 a 02 )3 +184 ( 92a 06 )
4

f ' ' ( a0 )=23232 ( 44 a0 2 ) +16928

a01=0.1
a02=0.1

f ' (a01 )
3021.824
=0.1
=0.080
''
150744.3
f ( a01)

Metode Numerik Steepest Descent | 7

'

a03=0.080

f (a 02)
868.318
=0.080
=0.068
''
70603.21
f (a02 )

f ' (a03)
218.914
a04 =0.068 ''
=0.068
=0.06249
39789.77
f (a 03)
f ' (a 04 )
13.442
a05=0.06249 ' '
=0.06249
=0.06154
29240.59
f (a04 )
Perhatikan

bahwa

pada

a05 a 04=||0.061540.06249||=0.00095< =0.001 .

iterasi
Jadi,

ke-4,
dipilih

a0 =0.06154 0.062 .
Dihitung

44 ,24=(2.728 , 1.512)
X 1= X 0 +a0 d0 =( 0 , 3 ) +0.062

X 1=(2.728 , 1.512)

Iterasi 2
X 1=(2.728 , 1.512)
4

f ( X 1 )=( 2.7282 ) + ( 2.7282(1.512) ) =0.3685

3

4 (2.7282 ) +2 ( 2.7282(1.512) ) ,4 ( 2.7282(1.512))

f ( X ) =

(0.951 , 1.184)

||f ( X )||= 0.951 +1.184 =1.518 0

2

d 0=f ( X 0 )=(0.951 ,1.184)

Dihitung a1

yang meminimumkan f ( X 1 +a1 d 1)

X 0 +a 0 d0 =(2.728 , 1.512)+ a1 (0.951,1.184)

(2.728.951 a1 , 1.5121.184 a1)

Metode Numerik Steepest Descent | 8

f ( X 1+ a1 d1 ) =( 2.728.951a 12 ) + ( (2.728.951 a1)2(1.5121.184 a 1) )

( 0.7280.951 a1 )4 + (0.296+1.417 a1 )2 f (a1)

Minimum f (a1 ) dicari dengan metode Newton-Raphson, titik awal 0.1 , =0.001
f ( a1 )=( 0.7280.951 a1 )4 + (0.296+1.417 a1 )2
f ' ( a1 )=3.8 ( 0.7280.951a 1 )3+ 2.834 (0.296+1.417 a1 )
f ' ' ( a1 )=10.83 ( 0.7280.951 a1 )4 + 4.016
a11 =0.1
a12=0.1

f ' (a11 )
1.401660871
=0.1
=0.267648575
''
8.360708524
f ( a11 )

a13=0.267648575

f ' ( a12 )
''

f ( a12)

=0.267648575

0.167792026
=0.267648575
6.448617482

'

f ( a13 )
0.003249797
a14 =0.267648575 ' '
=0.267648575
=0.294192475
6.2012550443
f ( a13 )

a15=0.294192475

f ' ( a14 )
''

f ( a14 )

=0.294192475

0.000001405
=0.294192701
6.196409395

Perhatikan bahwa pada iterasi ke-4,

a 15a14=0.2941927010.294192475=0.000000225< =0.001

. Jadi, dipilih

a1=0.294192701 0,294 .
Dihitung

X 2= X 1+ a1 d 1=( 2.728,1.512 ) +0.294 (0.951,1.184)

X 2= (2.448, 1.164 )

Iterasi 3

Metode Numerik Steepest Descent | 9

X 2= (2.448, 1.164 )
X
2
f ( 2)=(2.4482) +(2.4482(1.164)) =0.0547

X
4 (2.4482)
( 3+2 ( 2.4482 ( 1.164 ) ) ,4 (2.4482(1.164)))
f ( 2)=

(0.602,0.482)

X
f ( 2)

X
f ( 2)=(0.602,0.482)
d 2=

Dihitung a2 yang meminimumkan f (X 2 +a2 d 2)

X 2 +a 2 d 2=( 2.448, 1.164 ) + a2 (0.602,0.482)

2.4480.602a 2 , 1.164+0.482 a2

2 ( 1.164+0.482 a2 )
4

f ( X 2+ a2 d 2) =( ( 2.4480.602 a2 ) 2 ) +

( 0.4480.602 a2 )4 + ( 0.121.566 a2 )2 f (a2 )

Minimum f (a2 ) dicari dengan metode Newton-Raphson, titik awal 0.1, =0.0001
f ( a2 )=( 0.4480.602 a2 )4 + ( 0.121.566 a 2) 2

Metode Numerik Steepest Descent | 10

f ' ( a2 ) =2.408 ( 0.4480.602 a2 )3 3.312 ( 0.121.566 a2 )2

f ' ' ( a2 )=4.348848 ( 0.4480.602a 2 )2+ 4.904712
a11 =0.1

a22=0.1

f ' ( a21)
''

f ( a 21)

=0.1

0.01921727
=0.103457133
5.558730206

'

f ( a22 )
0.000962384
a23=0.103457133 ' '
=0.103457133
=0.10328374
5.551729245
f ( a22)
'

a24 =0.10328374

f ( a 23)
0.000048894
=0.10328374
=0.10329259
''
5.552079392
f ( a23 )

Perhatikan bahwa pada iterasi ke-3,

a 24a23=0.103292590.10328374=0.000008806< =0.0001

. Jadi, dipilih

a1=0.10329259 0.103 .
Dihitung

X 3= X 2 +a2 d 2=( 2.448, 1.164 ) +0.103(0.602, 0.482)

X 2=(2.385,1.214 )

Iterasi 4
X 3=(2.385, 1.214)
X
2
f ( 3)=(2.3852) +(2.3852(1.214)) =0.0238

X
4( 2.3852)
( 3+2 ( 2.3852 ( 1.214 ) ) ,4 (2.3852 ( 1.214 )))
f ( 3)=

Metode Numerik Steepest Descent | 11

(0.142, 0.172)
X
f ( 3)

X
f ( 3)

Perhatikan bahwa pada iterasi ke-4,

sudah memenuhi kriteria penghentian.

Dengan demikian

X 3=(2.385, 1.214) merupakan perkiraaan pembuat minimum dari

fungsi yang diberikan dengan nilai fungsi 0.0238.

Hasil perhitungan disajikan dalam tabel dibawah ini:

Contoh 1 di atas memanfaatkan metode numeris untuk menentukan minimum dari fungsi
ak
satu
variabel,
yaitu
untuk
menentukan
sedemikian
hingga
f ( X k ak f ( X k ) ) =min { f ( X k a k f ( X k ) ) } . Contoh 2 memberikan cara lain untuk

Metode Numerik Steepest Descent | 12


menentukan suatu ak

minimum yaitu

yang relatif lebih mudah karena hanya menggunakan syarat cukup

f ( a0 ) =0

Contoh 2
2

Diberikan suatu fungsi f ( X )=9 x 1 + 4 x 2 + 4 x 1 x 218 x 14 x 2 +9 dengan titik awal (0,

0) dan suatu 0.3 . Dengan menggunakan Metode Penurunan Tercuram tentukan
pembuat minimum dari fungsi tersebut.
Penyelesaian:
f (X )
=18 x 1+ 4 x 218
x1

f (X )
=4 x1 +8 x 24
x2
t

f ( X )=(18 x 1+ 4 x 218, 4 x 1 +8 x2 4)

Iterasi 1
X 0 =(0, 0)t
f ( X 0 ) =(18,4)t
X
f ( 0)

340
= 18.44 0
t

d 0=f ( X 0 )=(18,4 ) =(18, 4)

Dihitung a0

untuk meminimumkan

f ( X 0+ a0 d 0 )

dengan:

Metode Numerik Steepest Descent | 13

X 0 +a o d 0=(0,0) + a0 (18, 4) =(18 a0 , 4 a0 )

X
18 a
4a
18 a
4a
18 a
4a
( 0)+9
( 0)4
( 0 )18
4( 0)
4( 0)2 +
9( 0)2 +
f ( 0 +a0 d 0)=

2916 a02 +16 a02 +288 a 02 324 a0 16 a0 +9

a
f ( 0).
326 a02340 a 0+ 9

Disyaratkan bahwa

a
f ( 0)=0, maka:

a
a
( 0)=0 653 a 0340=0
f ( 0)

653 a0=340
a0 =0.05
Dihitung kembali

X 1= X 0 +a0 d 0

dan diperoleh:

Metode Numerik Steepest Descent | 14

0.2
0.9,

t
t
X 1=(0,0) +0.05(18,4) =
, 0.2
0.9

X 1=

Iterasi 2
0.2
0.9,

X 1=
X
t
f ( 1)=(1,1.2)

f ( X 1)=(1)2+(1.2)2
2.44
1.56 0
t

d 1=f ( X 1 ) =(1 ,1.2 ) =(1,1.2)

Dihitung

a1

Untuk meminimumkan

X
f ( 1+a 1 d 1 )

dengan :

0.9 , 0.2

X 1 +a1 d 1=
0.9+1 a

Metode Numerik Steepest Descent | 15

X
0.9+ 1a
0.2+ 1.2a
0.9+ 1a
0.2+ 1.2a
0.9+ 1a
0.2+ 1.2a
( 1)+ 9
( 1)4
( 1 )18
4( 1)
4( 1)2+
9( 1)2+
f ( 1+a 1 d 1 )=

a
f ( 1).
2
9.96 a1 2.44 a1 +34.01

Disyaratkan bahwa

a
f ( 1)=0, maka:

a
a
( 1)=0 19.92 a12.44=0
f ( 1)

19.92 a1 =2.44
a0 =0.12
Dihitung kembali

X 2 = X 1+ a1 d 1

dan diperoleh:

0.056
1.02 ,

X 2=(0.9 , 0.2)t +0.12(1 ,1.2)=

Metode Numerik Steepest Descent | 16

,0.056
1.02

X 2=

Iterasi 3
0.056
1.02 ,

X 2=
X
t
f ( 2)=(0.58 , 0.53)

f ( X 2)=( 0.58)2 +(0.53)2

0.6173
0.78 0
d 2=f ( X 2 ) =( 0.58 ,0.53 )t=(0.58 ,0.53)t

Dihitung

a2

Untuk meminimumkan

X
f ( 2+ a2 d 2 )

dengan :

X 2 +a 2 d 2=(1. o 2 ,0.056)t + a2 (0.58 ,0.53)t

1.020.58 a

Metode Numerik Steepest Descent | 17

X
1.020.58 a
0.056 a
1.020.58 a
0.560.53 a
1.020.58 a
0.0560.53 a
( 2)+ 9
( 2)4
( 2 )18
4( 2)
4( 2)2 +
9( 2)2+
f ( 2+ a2 d 2 )=

a
f ( 1).
2
5.632a 1 0.6188 a1 +0.0204

Disyaratkan bahwa

a
f ( 2)=0, maka:

a
a
( 2)=0 11.2656 a 10.6188=0
f ( 2)

11.2656 a1=0.6188
a0 =0.055
Dihitung kembali

X 3= X 3 +a3 d 3

dan diperoleh:

X 3=(1.02 , 0.056)t +0.055 (0.58 ,0.53)t

(0.9881 , 0.0268)t
0.9881 ,0.0268 t
X 3=
Metode Numerik Steepest Descent | 18

Iterasi 4
0.0268
0.9881 ,

X 3=
X
f ( 3)=(0.107 , 0.1668)t

f ( X 3)=( 0.58)2 +(0.53)2

0.0393
0.19 0

Perhatikan bahwa pada iterasi ke-4,

kriteria penghentian. Dengan demikian

f ( X 3)=0.19<0.3
t

X 3 (0.9881 , 0.0268)

sudah memenuhi

merupakan perkiraan

pembuat minuman dari fungsi yang diberikan dengan nilai fungsi 0.0029.

Hasil perhitungan disajikan dalam tabel dibawah ini:

Metode Numerik Steepest Descent | 19

Metode Numerik Steepest Descent | 20