MA 3071 Pengantar Optimisasi

Topik 3
Konsep Aljabar Linear & Himpunan konveks
Agus Yodi Gunawan

FMIPA
Institut Teknologi Bandung, Indonesia

JJ J N I II 1/26
 Masalah program linear
Minimum z = c · x = cT x
dengan kendala
Ax ≥ b
x ≥ 0.
dimana A matriks berukuran m × n, vektor-vektor (kolom) c, x, di Rn
dan b di Rm m dengan masing-masing komponennya adalah cj , xj , dan
bi .

Notasi:

å aj ∈ Rm menyatakan vektor kolom ke-j dari matriks A; j =

1, 2, · · · , n.
å ai ∈ Rn menyatakan vektor baris ke-i dari matriks A; i =
1, 2, · · · , m.

JJ J N I II 2/26
 Kombinasi Affin
Ingat! beberapa konsep berikut: perkalian matriks, hasil kali titik,
norma Euclid, ketaksamaan Schwartz, bebas linear, dan basis. Sepan-
jang pembahasan, Ruang Euclid akan dinotasikan dengan Rn.

• Kombinasi Affin. Vektor y di Rn dikatakan kombinasi affin dari

vektor-vektor a1, a2, · · · , ak di Rn jika memenuhi kedua syarat
berikut:
1. y = λj aj , dimana λ1, λ2, · · · konstanta real,
Pk
j=1

2.
Pk
j=1 λj = 1.
• Subruang Affin. Subruang SA di Rn dikatakan Subruang Affin jika
1. SA suatu subhimpunan tak hampa di Rn,
2. Jika a1 dan a2 anggota-anggota di SA, maka setiap kombinasi
Affin dari a1 dan a2 juga termuat di SA.

JJ J N I II 3/26
 Penggantian suatu vektor dalam basis ...1
Jika kita mempunyai suatu himpunan basis di Rn, apakah kondisi yang
harus dipenuhi agar penggantian salah satu anggotanya oleh vektor lain
akan tetap membentuk himpunan basis di Rn?

a3
Vektor di R3
a2

a1

Misalkan A = {a1, a2, · · · , an} himpunan basis di Rn, dan vektor aj

akan digantikan oleh vektor y 6= 0. Karena A basis maka
n
X
y= αiai.
i=1

JJ J N I II 4/26
 Penggantian suatu vektor dalam basis ...2
Misalkan αj 6= 0. Kita akan perlihatkan bahwa A0 =
{a1, a2, · · · , aj−1, y, aj+1, · · · , an} merupakan himpunan bebas linear.
Pandang
n
X
βiai + δy = 0,
i6=j

dengan β1, β2, · · · , βn, dan δ adalah konstanta-konstanta real. Dari dua
persamaan yang dibentuk akan diperoleh
n
X n
X
βiai + δ( αiai) = 0
i6=j i=1

atau n
X
(βi + δαi)ai + δαj aj = 0.
i6=j

JJ J N I II 5/26
 Penggantian suatu vektor dalam basis ...3
Perhatikan n
X
(βi + δαi)ai + δαj aj = 0.
i6=j

Karena A = {a1, a2, · · · , an} merupakan himpunan basis di Rn, maka

(βi + δαi) = 0 dan δαj = 0. Dari kondisi αj 6= 0, kita peroleh δ =
0. Lebih jauh lagi, kita akan peroleh βi = 0. Dengan demikian, A0
merupakahn himpunan bebas linear. Lebih jauh lagi, A0 merupakan
basis di Rn (mengapa?).
Dari uraian tadi, kondisi αj 6= 0 merupakan syarat cukup untuk him-
punan baru menjadi himpunan basis. Secara jelas juga, bahwa αj 6= 0
merupakan syarat perlu; jika αj = 0 maka A0 merupakan himpunan
bergantung linear ( i6=j αiai − y = 0).
Pn

JJ J N I II 6/26
 Sistem persamaan linear
Perhatikan SPL Ax = b dengan m persamaan dan n variabel (Am×n)
dan matriks perluasan (A, b) yang berukuran m × (n + 1).
Rank A: maksimum banyaknya vektor baris (atau kolom) matriks Am×n
yang bebas linear.
Rank A ≤ min{m, n}. Jika rank A = min{m, n}, matriks A disebut
memiliki rank penuh.
Beberapa hal yang mungkin:

1. Rank(A, b) >Rank(A), maka SPL tidak memiliki solusi.

2. Rank(A, b)=Rank(A) = n, maka SPL memiliki solusi tunggal.
3. Rank(A, b)=Rank(A) = k < n, maka SPL memiliki tak hingga
banyak solusi.

JJ J N I II 7/26
 Dekomposisi matriks...1
Misalkan Rank(A)=Rank (A, b) = k. Misalkan pula setelah melakukan
pengaturan ulang baris-baris matriks perluasan (A, b) diperoleh bentuk
berikut  
A 1 b1
(A, b) =
A 2 b2
dimana A1 adalah matriks berukuran k × n, A2 matriks berukuran
(m − k) × n, b1 adalah vektor berukuran k × 1 dan b2 adalah vektor
berukuran (m − k) × 1, dan Rank(A1)=Rank(A1, b1) = k.
Perhatikan bahwa jika vektor x memenuhi A1x = b1, maka secara lang-
sung vektor tersebut memenuhi juga A2x = b2. Oleh karenanya, kita
dapat membuang kendala A2x = b2 dan memfokuskan perhatian pada
kendala A1x = b1 (baris-baris pada A2 merupakan kombinasi linear
baris-baris A1).

JJ J N I II 8/26
 Dekomposisi matriks...2
Karena Rank(A1) = k, maka dapat dipilih k vektor kolom dari matriks
A1 yang bebas linear. Misalkan setelah pengaturan kolom-kolom dari
A1, diperoleh
A1 = (B, N).
Matriks B matriks tak singular berukuran k × k disebut matriks basis
(karena kolom-kolomnya membentuk basis di Rk ), sedang matriks N
berukuran k × (n − k) disebut matriks nonbasis.
Selanjutnya, vektor x kita tuliskan sebagai x = (xB , xN ) dimana xB ∈
Rk dan xN ∈ R(n−k) . SPL A1 x = b1 dapat dituliskan sebagai
 
xB
(B, N) = b1,
xN
atau BxB + NxN = b1. Karena matriks B tak singular, maka akan
diperoleh
xB = B−1b1 − B−1NxN .

JJ J N I II 9/26
 Dekomposisi matriks...3
xB = B−1b1 − B−1NxN
Untuk kasus k = n, hanya suku pertama dari ruas kanan yang tersisa
dan diperoleh solusi tunggal. Sedangkan untuk kasus k < n, dengan
memilih nilai-nilai sebarang untuk vektor xN , melalui persamaan terse-
but nilai xB dapat ditentukan. Dalam kasus ini kita memiliki tak hingga
banyak solusi.
Proses pemecahan (dekomposisi) matriks menjadi matriks basis dan
nonbasis serta pencarian solusinya dapat diringkaskan sebagai berikut:

SPL yang mempunyai k persamaan dan n variabel (k < n) di-

selesaikan dengan cara memilih xN = 0, kemudian menyelesaikan
SPL dengan k persamaan dan k variabel, xB = B−1b1. Solusi
xB disebut dengan solusi basis
 dari sistem A1 x = b1 . Solusi SPL
xB
semula diberikan oleh x = .
0

JJ J N I II 10/26
 Contoh: solusi basis
 
1 1 1 0
SPL Ax = b, A = , x = (x1, x2, x3, x4), b = (6, 3).
0 1 0 1
 
1 1
À B = [a1 , a2 ] = , xB = (x1, x2) = B−1b = (3, 3), xN =
0 1
(x3, x4) = (0, 0). Jadi x = (3, 3, 0, 0).
 
1 0
Á B = [a1 , a4 ] = , xB = (x1, x4) = B−1b = (6, 3), xN =
0 1
(x2, x3) = (0, 0). Jadi x = (6, 0, 0, 3).
 
1 0
 B = [a2 , a4 ] = , xB = (x2, x4) = B−1b = (6, −3), xN =
1 1
(x1, x3) = (0, 0). Jadi x = (0, 6, 0, −3).
à dst...

Mana solusi yang dipilih, seandainya disyaratkan x > 0? x ≥ 0?

JJ J N I II 11/26
 Kombinasi konveks

λx
x2

1
+
0

(1
λ=

−
λ)
x2
λ=1 x1

Secara geometris, λx1 + (1 − λ)x2 untuk λ ∈ [0, 1] menyatakan segmen

garis yang menghubungkan titik-titik x1 dan x2.
Sebarang titik pada garis tersebut merupakan kombinasi konveks/rataan
berbobot dari titik x1 dan x2.
Jika λ ∈ (0, 1), maka kombinasi konveks disebut kombinasi konveks
tegas.

JJ J N I II 12/26
 Himpunan konveks

λx

λx
x2 x2

1
+

+
(1

(1
−

−
λ)

λ)
x

x2
2
x1 x1

konveks tidak konveks

Himpunan X di Rn dikatakan konveks:

jika untuk sebarang dua titik x1 dan x2 di X, maka kombinasi

linear λx1 + (1 − λ)x2 ∈ X untuk setiap λ ∈ [0, 1].

Dengan demikian, kekonveksan suatu himpunan X dapat dinyatakan se-

cara geometris menjadi: untuk setiap pasangan titik di X, maka segmen
garis yang menghubungkan kedua titik tersebut (kombinasi konveks dari
kedua titik tersebut) harus termuat di X.

JJ J N I II 13/26
 Contoh himpunan konveks
1. {(x1, x2)|x21 + x22 ≤ 1}.
2. {x|Ax = b} (solusi SPL dengan m persamaan dan n variabel).
3. {x|Ax = b, x ≥ 0} (solusi tak negatif SPL dengan m persamaan
dan n variabel).
4. {x|Ax ≤ b, x ≥ 0} (solusi tak negatif Sistem Pertidaksamaan Lin-
ear dengan m persamaan dan n variabel).
     
1 1 −1
5. {x|x = λ1  0  + λ2  2  + λ3  2  , λ1 + λ2 + λ3 =
0 1 −3
1, λ1, λ2, λ3 ≥ 0}.

JJ J N I II 14/26
 Titik ekstrim
Suatu titik x di himpunan konveks X dikatakan titik ekstrim,

jika titik tersebut tidak dapat disajikan sebagai suatu kombinasi

konveks tegas dari dua titik berbeda di X.

Dengan kata lain,

jika x = λx1 + (1 − λ)x2 dengan λ ∈ (0, 1) dan x1, x2 ∈ X, maka

x = x1 = x2.

x2

x3
x1

JJ J N I II 15/26
 Hyperplane
Suatu hyperplane di Rn merupakan istilah yang digunakan untuk pe-
rumuman garis lurus di R2 dan bidang di R3.
Suatu hyperplane H di Rn adalah himpunan {x|pT x = k} dimana p
suatu vektor tak nol di Rn dan k suatu skalar. Vektor p biasanya disebut
vektor normal dari hyperplane (gradien dari f (x) = pT x).
Dalam bentuk yang lain, suatu hyperplane dapat disajikan sebagai
{x|pT (x − x0) = 0} dengan x0 suatu vektor tetap pada hyperplane
dimana pT x0 = k (bentuk dengan mengeliminasi nilai k).
Suatu hyperplane adalah himpunan konveks (perlihatkan!).

hyperplane
p
x 0)
x−
h(
x0 ara

JJ J N I II 16/26
 Half space
x
) hyperplane pT (x − x0 )) = 0
p x0
−
(x
pT (x − x0 ) ≥ 0
x0 pT (x − x0 ) ≤ 0

Suatu hyperplane akan membagi daerah di Rn menjadi dua bagian,

masing-masing disebut half space, masing-masing dapat dinyatakan
oleh himpunan {x|pT (x − x0) ≤ 0} dan {x|pT (x − x0) ≥ 0}.
Daerah half space pertama memuat titik x dimana x − x0 memben-
tuk sudut lancip dengan vektor p, sedangkan half space yang lainnya
memuat titik yang membentuk sudut tumpul dengan vektor p.
Irisan sejumlah hingga half space disebut himpunan
polyhedral/polyhedron. Himpunan polyhedral terbatas disebut
polytope.
JJ J N I II 17/26
 Sinar
Sinar adalah himpunan titik dalam bentuk x0 + λd, λ ≥ 0, dimana d
adalah sebuah vektor tak nol.
Titik x0 disebut verteks dari sinar, dan vektor d disebut vektor arah
dari sinar (bandingkan hal ini dengan representasi vektor untuk garis
lurus di ruang).

d
+λ
x0

x0

Sinar merupakan salah contoh lain dari himpunan konveks (periksa!).

JJ J N I II 18/26
 Arah himpunan konveks
Misalkan diberikan suatu himpunan konveks X. Suatu vektor tak nol d
disebut arah dari himpunan konveks X jika untuk setiap vektor x0 ∈ X,
sinar {x0 + λd|λ ≥ 0} juga anggota dari X. Oleh karena itu, jika kita
mulai dari suatu vektor tetap x0 ∈ X, kita bisa bergerak sepanjang arah
d untuk sebarang panjang langkah λ ≥ 0 sehingga sinar yang terbentuk
tetap termuat di X.
Jelas bahwa himpunan terbatas tidak memiliki arah.

d
+λ
x0
x0 + λd
x0 x0

d
d

JJ J N I II 19/26
 Vektor arah himpunan polyhedral
Perhatikan himpunan polyhedral tak hampa X = {x|Ax ≤ b, x ≥ 0}.

Vektor tak nol d adalah arah dari himpunan X jika dan hanya
jika
A(x + λd) ≤ b,
x + λd ≥ 0,
untuk setiap λ ≥ 0 dan setiap x ∈ X.

Karena x ∈ X maka Ax ≤ b dan pertidaksamaan pertama dipenuhi

untuk sembarang λ ≥ 0 jika dan hanya jika Ad ≤ 0. Hal serupa,
x + λd ≥ 0 untuk sembarang λ ≥ 0 jika dan hanya jika d ≥ 0. Jadi,

d adalah vektor arah dari himpunan X jika dan hanya jika d 6=

0, d ≥ 0, dan Ad ≤ 0.

Vektor arah himpunan biasanya dinormalisasi agar panjangnya satu sa-

tuan: D = {d : Ad ≤ 0, ||d|| = 1, d ≥ 0}.
JJ J N I II 20/26
 Contoh
Diberikan himpunan
X = {(x1, x2)|x1 − 2x2 ≥ −6, x1 − x2 ≥ −2, x1 ≥ 0, x2 ≥ 1}.
Perlihatkan bahwa vektor arahnya adalah
d ∈ {(d1, d2)|d1 ≥ 2d2, d1 ≥ 0, d2 ≥ 0, dan (d1, d2) 6= (0, 0)}.

x2

d1
x1
d2

JJ J N I II 21/26
 Jawab
Ingat bentuk himpunan polyhedral tak hampa X = {x|Ax ≤ b, x ≥
0}. Susun ulang,
X = {(x1, x2)| − x1 + 2x2 ≤ 6, −x1 + x2 ≤ 2, x1 ≥ 0, x2 − 1 ≥ 0}.
Tulis u = x2 − 1,
X = {(x1, u)| − x1 + 2u ≤ 4, −x1 + u ≤ 1, x1 ≥ 0, u ≥ 0}
    
−1 2 d1 0
Ad = ≤ , d1, d2 ≥ 0.
−1 1 d2 0
Diperoleh d1 ≥ 2d2 dan d1 ≥ d2. lebih jauh lagi,
2d2 ≤ d1 ⇒ d2 ≤ d1/2 ≤ d1.
Jadi d = {(d1, d2) : d1 ≥ 2d2, d1 ≥ 0, d2 ≥ 0} (cek juga secara grafik!).

JJ J N I II 22/26
 Vektor arah Irisan hyperplane
Untuk himpunan X = {x|Ax = b, x ≥ 0} 6= ∅, dengan menggantikan
persamaan menjadi dua pertidaksamaan dapat diperlihatkan bahwa

Vektor d adalah vektor arah dari himpunan X jika dan hanya

jika d 6= 0, d ≥ 0, dan Ad = 0.

Secaral aljabar linear, d anggota dari ruang nol matriks A.

Himpunan vektor arah himpunan membentuk himpunan konveks (per-
lihatkan!).

JJ J N I II 23/26
 Arah ekstrim himpunan konveks
Arah ekstrim himpunan konveks adalah vektor arah himpunan yang
tidak dapat disajikan sebagai kombinasi linear positif dua vektor arah
berbeda yang lain (analogi dengan definisi titik ekstrim).
Dua vektor arah d1 dan d2 dikatakan berbeda (tidak ekivalen) jika d1
bukan kelipatan konstan vektor d2.
Pada contoh tadi, d = {(d1, d2) : d1 ≥ 2d2, d1 ≥ 0, d2 ≥ 0}, setelah
dinormalisasi
√ √ kita mempunyai dua arah ekstrim,d1 = (1, 0) dan d2 =
(2/ 5, 1/ 5).
Arah himpunan lain yang bukan kelipatan kedua vektor tersebut dapat
dituliskan sebagai λ1d1 + λ2d2, dengan λ1, λ2 > 0.
Sinar pada suatu himpunan konveks yang memiliki arah ekstrim disebut
sinar ekstrim. Sinar ekstrim ini merupakan pembangun dari kerucut
konveks (titik awal sinar berada di 0).
Himpunan {x|Ax ≤ 0} disebut kerucut polihedral (polyhedral cone).
JJ J N I II 24/26
 Fungsi konveks
Sampai saat ini, pembahasan difokuskan pada bagian kendala dari
masalah optimisasi. Pada bagian ini akan dibahas sifat yang terkait
fungsi obyektif.
Fungsi f (x) disebut fungsi konveks jika
f (λx1 + (1 − λ)x2) ≤ λf (x1) + (1 − λ)f (x2), untuk setiap λ ∈ [0, 1].
Sedangkan fungsi g(x) disebut fungsi konkaf jika (−g) merupakan fungsi
konveks.

f (x2 ) f (x1 )
f (x1 )
f (x1 ) f (x2 )
f (x2 )

x1 x2 x1 x2 x1 x2
konveks konkaf tidak keduanya

JJ J N I II 25/26
 Latihan
1. Cari semua solusi basis {x ≥ 0 : −x1 + 2x2 + x3 + x4 − 2x5 =
4, x1 − 2x2 + 2x4 − x5 = 3}.
2. Cari semua arah ekstrim {x ≥ 0 : −x1 + x2 = 4, x1 − 2x2 + x3 ≤
6, x3 ≥ 1}.
3. Periksa kekonveksan himpunan (fungsi) berikut
(a) {(x1, x2) : x2 − x21 = 0}.
(b) {(x1, x2, x3) : x3 = |x2|, |x1| ≤ 4}.
(c) f (x) = x2.
(d) min(x21 + x22, 2x21 − x2}
4. Diberikan X = {(x1, x2) : x1 + x2 ≥ 2, x2 ≤ 4, x1 ≥ 0, x2 ≥ 0}. Cari
hyperplane H sedemikian sehingga H dan titik (3, −2) berada pada
half space berbeda.

JJ J N I II 26/26