Nughthoh Arfawi Kurdhi, M.

Sc

Department of Mathematics FMIPA UNS

METODE STEEPEST DESCENT

Lisa Apriana Dewi [M0108055], Frety Kurnita Sari [M0110029],
dan Steffi Niaretho S. [M0110074]

1.

Pendahuluan
Optimasi untuk fungsi lebih dari satu variabel dapat dilakukan dengan menggunakan
turunan, yaitu syarat cukup dan syarat perlu:
( ) = dan
.
Sering dihadapi permasalahan yang gagal memenuhi syarat tersebut tetapi fungsi f(x)
masih mempunyai titik optimum. Untuk mengatasi masalah tersebut digunakan unconstrained optimization technique. Metode ini dibagi menjadi dua, yaitu metode Penyelidikan
Langsung (Direct Search Methods) dan Metode Gradien (Gradient Methods).
Metode Penyelidikan Langsung dapat digunakan tanpa memerlukan informasi turunan,
tetapi metode ini kurang efisien apabila dibandingkan dengan Metode Gradien. Metode
Gradien (Metode Descent) merupakan metode yang memerlukan informasi turunan-turunan
dalam bentuk vektor vektor Gradien Jacobian. Dalam metode ini juga memerlukan
informasi turuna kedua dalam bentuk matrik Hess (Hessian matrix).

2.

Pembahasan
Untuk menetukan arah gerakan, metode ini menggunakan vektor gradien Jacobian. Metode
ini merupakan dasar metode first-order yang memerlukan turunan tingkat pertama.
Ambil vektor unit u dengan =1.
Maka . ( ) = . ( ). cos dengan adalah sudut antara u dan ( ).
Minimum dicapai dengan cos = 1 (atau = ),
Sehingga
u

( )

( )

( )

(1)

Pada metode steepest descent, sebagai direction (arah) gerakan adalah seperti pada (1) dengan tidak memperhatikan skalar (norm dari ( )), jadi
= ( )
(2)
(arah yang diambil adalah negatif dari vektor gradien).
Secara umum, metode ini dimulai dari vektor awal
dan secara iteratif bergerak menuju
ke arah optimum (minimum) menurut aturan :
=
+
=
( )
(3)
dimana
adalah panjang langkah optimum sepanjang arah .
Algoritma
Input : f R R, f konveks,f vektor asal x R , toleransi , k = 0.
Step 1 : (line search)
Cari titik minimum fungsi satu variabel
g () = f (x f (x )), misal minimum adalah
Step 2: Set
: =x f(x ).
Jika f (x ) < : STOP , =
, jika tidak set k : = k + 1, ulangi step 1 dan 2.
Gambar 1 berikut memperlihatkan minimisasi dengan menggunakan metode steepest
descent untuk fungsi dua variabel dengan contour-contour elliptik.

Nughthoh Arfawi Kurdhi, M.Sc

Department of Mathematics FMIPA UNS

X2

X Min

4
3
2
1

Titik awal

X1

Gambar 1
Contoh Kasus
1.

1 1
1
,B=
, C = 0, =
akan dicari minimum dari fungsi kuadra1 2
1
tik f(x) yang diperoleh dari matriks A, B, x dan konstanta c diatas, dengan toleransi = 0,01
0
dan dimulai dadri titik awal =
.
0
Diketahui: A =

Penyelesaian:
Fungsi f(x) yang dimaksud adalah
f( , ) =
+
+ =
+
Gradien dari f
=

/
/

+ 1
+2 1

Gambar 2. Grafik fungsi f( ,

)=

Nughthoh Arfawi Kurdhi, M.Sc

Gambar 3. Gambar contour-contour dari fungsi f( ,

Department of Mathematics FMIPA UNS

)=

Iterasi 1 : k = 0
1
1
(0 ) =
, = ( ) =
1
1
Untuk menentukan , ditentukan panjang langkah
( )= ( +
)= ( , )=
2
( ) = 5 2, " ( ) = 5 > 0
didapat
= 0,4
0,4
Jadi
= +
=
0,4
0,2
( )=
, ( ) = 0,283 >
0,2
Jadi
bukan titik minimum.
Iterasi 2 : k = 1

0,2
0,2
( )= ( +
) = (0,4 + 0.2 ; 0,4 0,2 )
= 0,02 0,08 0,4
( ) = 0,04 0,08, " ( ) = 0,04 > 0
diperoleh
=2
0,8
= +
=
0
0,2
( )=
, ( ) = 0,283 >
0,2
Jadi
bukan titik minimum.
= ( ) =

Iterasi 3 : k = 2

0,2
0,2
( )= ( +
) = (0,8 + 0,2 ; 0,2 )
= 0,1 0,08 0,48
( ) = 0,2 0,08, " ( ) = 0,2 > 0
diperoleh
= 0,4
0,88
= +
=
0,08
0,04
( )=
, ( ) = 0,057 >
0,04
Jadi
bukan titik minimum.
= ( ) =

Iterasi 4 : k = 3

0,04
0,04
( )= ( +
) = (0,88 + 0,04 ; 0,08 0,04 )
= 0,0008 0,0032 0,416
( ) = 0,0016 0,0032, " ( ) = 0,0018 > 0
= ( ) =

dari meminimumkan

Nughthoh Arfawi Kurdhi, M.Sc

diperoleh

Department of Mathematics FMIPA UNS

=2

0,96
=
0
0,04
( )=
, ( ) = 0,057 >
0,04
Jadi
bukan titik minimum.
=

Iterasi 5 : k = 4

0,04
0,04
( )= ( +
) = (0,96 + 0,04 ; 0,04 )
= 0,0024 0,0032 0,4976
( ) = 0,0048 0,0032, " ( ) = 0,0048 > 0
diperoleh
= 0.67
0,99
= +
=
0,27
0,26
( )=
, ( ) = 0,590 >
0,53
Jadi
bukan titik minimum.
= ( ) =

Iterasi 6 : k = 5

0,26
0,53
( )= ( +
) = (0,96 0,26 ; 0,27 0,53 )
= 0,4525 0,3485 0,42975
( ) = 0,4525 0,3485 , " ( ) = 0,4525 > 0
diperoleh
= 0.67
0,89
= +
=
0,07
0,04
( )=
, ( ) = 0,05 >
0,03
Jadi
bukan titik minimum.
= ( ) =

Iterasi 7 : k = 6

0,04
0,03
( )= ( +
) = (0,89 + 0,04 ; 0,07 0,03 )
= 0,0005 0,0025 0,49675
( ) = 0,0005 0,0025, " ( ) = 0,0005 > 0
diperoleh
= 2,5
0,99
= +
=
0,005
0,005 ( )
( )=
,
= 0,005 <
0
STOP. Jadi
merupakan titik minimum.
= ( ) =

Tabel 1. Iterasi Kasus 1

Iterasi

0
0
0,4
0,4
0,8
0
0,88
0,08
0,96
0
0,99
0,27
0,89
0,07

( )
1
1
0,2
0,2
0,2
0,2
0,04
0,04
0,04
0,04
0,26
0,53
0,04
0,03

1
1
0,2
0,2
0,2
0,2
0,04
0,04
0,04
0,04
0,26
0,53
0,04
0,03

0,4
2
0,4
2
0,67
0,67
2,5

0,4
0,4
0,8
0
0,88
0,08
0,96
0
0,99
0,27
0,89
0,07
0,99
0,005

(
)
0,2
0,2
0,2
0,2
0,04
0,04
0,04
0,04
0,26
0,53
0,04
0,03
0,005
0

0,283
0,283
0,057
0,057
0,590
0,05

0,005

Nughthoh Arfawi Kurdhi, M.Sc

2.

Fungsi: f (x , x ) = 2x

Penyelesaian:

Department of Mathematics FMIPA UNS

+x

+ 2x x + x x ,d engan

Gambar 4. Gambar dari fungsi f (x , x ) = 2x

= 0.05 dan dari titik awal

+x

Gambar 5. Gambar contour-contour fungsi f (x , x ) = 2x

+ 2x x + x x

+x

+ 2x x + x x

Iterasi 1 : k = 0
1
1
f(x ) =
; u = f(x ) =
1
1
0
1
g () = f(x + u ) = f
+
= f(, )
0
1
f(, ) = 2 + + 2() + ()
= 2 + 2
= 2
g () = 2 2
g () = 0
2 2 = 0
= 2/2
=1
g () = 2 > 0
0
1
1
x = + u =
+1
=
0
1
1
4 + 2 + 1
1
f(x ) =
=
221
1
f(x ) = (1) + (1) = 1 + 1 = 2 =1.4142 > = 0.05
Jadi, x bukan titik minimum.
Iterasi 2 : k = 1
1
1
f(x ) =
; u = f(x ) =
1
1
1
1
g () = f(x + u ) = f
+
1
1
f(1 + ; 1 + )

= f(1 + ; 1 + )

0
.
0

Nughthoh Arfawi Kurdhi, M.Sc

Department of Mathematics FMIPA UNS

=2(1 + ) + (1 + ) + 2(1 + )(1 + ) + (1 + ) (1 + )

= 2(1 2 + ) + (1 + 2 + ) + 2(1 + ) 1 + 1
= 2 4 + 2 + 1 + 2 + 2 + 2 2
=5 2 1
g () = 10 2
g () = 0
10 2 = 0
= 2/10
= 0.2
g () = 10 > 0
1
1
0.8
x = + u =
+ 0.2
=
1
1
1.2
4(0.8) + 2(1.2) + 1
0.2
f(x ) =
=
2(1.2) + 2(0.8) 1
0.2
f(x ) = (0.2) + (0.2) = 0.04 + 0.04 = 0.08 =0.2828 >
Jadi, x bukan titik minimum.

Iterasi 3 : k = 2
0.2
0.2
f(x ) =
; u = f(x ) =
0.2
0.2
0.8
0.2
g () = f(x + u ) = f
+
= f(0.8 0.2 ; 1.2 + 0.2)
1.2
0.2
f(0.8 0.2 ; 1.2 + 0.2)=0.04 0.08 1.2
g () = 0.08 0.08
g () = 0
0.08 0.08 = 0
= 0.08/0.08
=1
g () = 0.08 > 0
0.8
0.2
1
x = + u =
+1
=
1.2
0.2
1.4
4(1) + 2(1.4) + 1
0.2
f(x ) =
=
2(1.4) + 2(1) 1
0.2
f(x ) = (0.2) + (0.2) = 0.04 + 0.04 = 0.08 =0.2828 >
Jadi, x bukan titik minimum.
Iterasi 4 : k = 3
0.2
0.2
f(x ) =
; u = f(x ) =
0.2
0.2
1
0.2
g () = f(x + u ) = f
+
= f(1 + 0.2 ; 1.4 + 0.2)
1.4
0.2
f(1 + 0.2 ; 1.4 + 0.2) = 0.2 0.08 1.24
g () = 0.4 0.08
g () = 0
0.4 0.08 = 0
= 0.08/0.4
= 0.2
g () = 0.8 > 0
1
0.2
0.96
x = + u =
+ 0.2
=
1.4
0.2
1.44
4(0.96) + 2(1.44) + 1
0.04
f(x ) =
=
2(1.44) + 2(0.96) 1
0.04
f(x ) = (0.04) + (0.04) = 0.0016 + 0.0016 = 0.0032
= 0.05657 >
Jadi, x bukan titik minimum.
Iterasi 5 : k = 4
0.04
0.04
f(x ) =
; u = f(x ) =
0.04
0.04
0.96
0.04
g () = f(x + u ) = f
+
1.44
0.04

= f(0.96 0.04 ; 1.44 + 0.04)

Nughthoh Arfawi Kurdhi, M.Sc

Department of Mathematics FMIPA UNS

f(0.96 0.04 ; 1.44 + 0.04) = 0.0016 0.0032 1.248.

g () = 0.0032 0.0032
g () = 0
0.0032 0.0032 = 0
= 0.0032/0.0032
=1
g () = 0.0032 > 0
0.96
0.04
1
x = + u =
+1
=
1.44
0.04
1.48
4(1) + 2(1.48) + 1
0.04
f(x ) =
=
2(1.48) + 2(1) 1
0.04
f(x ) = (0.04) + (0.04) = 0.0016 + 0.0016 = 0.0032
= 0.05657 >
Jadi, x bukan titik minimum.

Iterasi 6 : k = 5
0.04
0.04
f(x ) =
; u = f(x ) =
0.04
0.04
1
0.04
g () = f(x + u ) = f
+
= f(1 + 0.04 ; 1.48 + 0.04)
1.48
0.04
f(1 + 0.04 ; 1.48 + 0.04)=0.008 0.0032 1.2496
g () = 0.016 0.0032
g () = 0
0.016 0.0032 = 0
= 0.0032/0.016
= 0.2
g () = 0.016 > 0
1
0.04
0.992
x = + u =
+ 0.2
=
1.48
0.04
1.488
4(0.992) + 2(1.488) + 1
0.008
f(x ) =
=
2(1.488) + 2(0.992) 1
0.008
f(x ) = (0.008) + (0.008) = 0.000064 + 0.000064 = 0.000128
= 0.0113 <
Jadi, x titik minimum.
Tabel 2. Iterasi Kasus 2

Iterasi

0
0
1
1
0.8
1.2
1
1.4
0.96
1.44
1
1.48

( )
1
1
1
1
0.2
0.2
0.2
0.2
0.04
0.04
0.04
0.04

1
1
1
1
0.2
0.2
0.2
0.2
0.04
0.04
0.04
0.04

1
0,2
1
0.2
1
0.2

1
1
0.8
1.2
1
1.4
0.96
1.44
1
1.48
0.992
1.488

(
)
1
1
0.2
0.2
0.2
0.2
0.04
0.04
0.04
0.04
0.008
0.008

1.4142

0.2828
0.2828
0.05657
0.05657
0.0113

Nughthoh Arfawi Kurdhi, M.Sc

Department of Mathematics FMIPA UNS

Pertanyaan:
1. Nining: Apakah turunan kedua dari fungsi lebih dari 0 bisa menjamin kalau
merupakan titik minimum?
Jawab: Jika turunan kedua dari fungsi bernilai lebih dari 0,maka bisa menjamin
kalau merupakan titik minimum. Jika nilai turunan keduanya kurang dari 0, maka
merupakan titik maksimum.
2.

3.

4.

Antin : Bisakah metode ini digunakan untuk menyelesaikan fungsi dengan n variabel?
Bagaimana penjelasan dari gambar halaman 48?
Jawab: Metode ini dapat digunakan untuk fungsi dengan n variabel. Apabila fungsi
tersebut merupakan fungsi konveks. Maka dapat dselesaikan dengan metode ini.
Gambar pada halaman 48 dengan menggunakan contour-contour. Contour adalah
bayangan fungsi yang di plot pada bidang
.
Rani: Apa perbedaan metode ini dengan Metode Univariat?
Jawab: Metode ini akan menghasilkan nilai pendekatan dan menggunakan nilai
sedangkan metode univariat mengahasilkan nilai eksak dan menggunakan nilai .

Indri: Bagaimana penentuan nilai pada metode ini?

Jawab: Nilai biasanya ditentukan sendiri. Semakin kecil nilai , semakin dekat pula
nilai pendekatan yang diperoleh. Kendalanya, semakin kecil nilai , maka semakin
banyak pula perhitungan iterasi yang harus dilakukan untuk mendapatkan nilai
minimum.