Tugas

INFORMATION RETREIVAL

Disusun oleh :

Nama : Muh Azhar Aidil

Nim : 60200117055
Kelas :B

TEKNIK INFORMATIKA
FAKULTAS SAINS DAN TEKNOLOGI
UNIVERSITAS ISLAM NEGERI ALAUDDIN
MAKASSAR
2019
 Eigenvector dan eigenvalues

 Pengertian
Sebuah matriks bujur sangkar dengan orde n x n misalkan A, dan sebuah vektor
n
kolom X. Vektor X adalah vektor dalam ruang Euklidian R
yang dihubungkan
dengan sebuah persamaan:
AX  X (7.1)
Dimana  adalah suatu skalar dan X adalah vektor yang tidak nol Skalar 
dinamakan nilai Eigen dari matriks A. Nilai eigen adalah nilai karakteristik dari suatu
matriks bujur sangkar. Vektor X dalam persamaan (7.1) adalah suatu vektor yang
tidak nol yang memenuhi persamaan (7.1) untuk nilai eigen yang sesuai dan disebut
dengan vektor eigen. Jadi vektor X mempunyai nilai tertentu untuk nilai eigen
tertentu.
 Perhitungan eigenvalues

Kita tinjau perkalian matriks A dan X dalam persamaan (7.1) apabila kedua sisi
dalam persamaan tersebut dikalikan dengan matriks identitas didapatkan:

IAX =
I X

AX = IX

I  AX  0 (7.2)

Persamaan (7.2) terpenuhi jika dan hanya jika:

det I  A (7.3)

Dengan menyelesaikan persamaan (7.3) dapat ditentukan nilai eigen (  ) dari sebuah
matriks bujur sangkar A tersebut.

 Perhitungan eigenvector

Kita tinjau kembali persamaan AX  X dimana A adalah matriks bujur

sangkar dan X adalah vektor bukan nol yang memenuhi persamaan tersebut. Dalam
subbab 7.1 telah dibahas tentang perhitungan nilai eigen dari matriks A(  ), pada
subbab ini kita bahas vektor yang memenuhi persamaan tersebut yang disebut vektor
eigen(vektor karakteristik) yang sesuai untuk nilai eigennya.

Kita tinjau sebuah matriks bujur sangkar orde 2 x 2 berikut:

a11 a12 
A=

a21 a22 

Persamaan
AX  X dapat dituliskan:

a11 a12   x1   x1 (7.4)

  
     
a21 a22   x2   x2 

Persamaan (7.4) dikalikan dengan identitas didapatkan:

1 0 a11 a12   x1 0  x1 
 =1
       
0 1  a21 a22   x2   0 1 x 2 

a11 a12   x1  0   x1 
 =
     
a21 a22  x  0   x 2 
 2
 

a11  a1   x1  = 0
 (7.5)
2
   2
 a 21 a22    x 

Persamaan (7.5) dalam bentuk sistem persamaan linier dituliskan:

(a11   )x1  a12 x2  0

a21 x1  (a22   )x 2  (7.6)
0
 Persamaan (7.6) adalah sistem persamaan linier homogen, vektor dalam ruang Rn yang
tidak nol didapatkan jika dan hanya jika persamaan tersebut mempunyai solusi non
trivial untuk nilai eigen yang sesuai.

SINGULAR VALUE DECOMPOSITION

A. PENGERTIAN
Singular Value Decomposition (SVD) adalah suatu pemfaktoran matrik dengan
mengurai suatu matrik ke dalam dua matrik P dan Q. Jika diketahui suatu matrik adalah
matrik A berukuran m×n dengan rank r > 0 , maka dekomposisi dari matrik A dinyatakan
sebagai
A = P Δ QT
Rank (r) menyatakan banyaknya jumlah baris atau kolom yang saling independen antara baris
atau kolom lainnya dalam suatu matrik. P merupakan matrik orthogonal berukuran m×r
sedangkan Q merupakan matrik orthogonal berukuran n×r. Δ adalah matrik diagonal
berukuran r×r yang elemen diagonalnya merupakan akar positif dari eigenvalue matrik A.
Terbentuknya matrik Δ tergantung kondisi matrik A, yaitu diantaranya:

a. Δ bila r = m = n c. [Δ (0)] bila r=m dan r<n

[ Δ¿] ¿¿¿ [Δ [ (0)

](0) ]
b. ¿ bila r = n dan r<m d. [(0) ¿ bila r<m dan r<n
Matrik P dapat diperoleh melalui perkalian antara A, Q dan -1 sehingga dapat dinyatakan
P=AQ-1
Untuk memperjelas dari argumen di atas maka akan diberikan beberapa contoh beserta cara
pengerjaaanya. Contoh yang diberikan berupa matrik simetri dan non simetri.

B. PROSEDUR PENYELESAIAN SINGULAR VALUE DECOMPOSITION (SVD)

I. Prosedur Penyelesaian SVD untuk matrik berukuran mxm
1. Misal diketahui matrik B berukuran mxm non singular (matrik fullrank / matrik yang
determinannya tidak sama dengan nol).

4
2. Menghitung matrik BTB dan BBT. Misalkan matrik BTB = matrik Y dan BBT = matrik
Z.
3. Mencari eigenvalue () dari matrik Y dan Z . Dimana determinan dari matrik Y dan Z
dikurangi  dikalikan dengan matrik identitas (I) sama dengan 0.
Y-I=0 dan
Z-I=0
Banyaknya eigenvalue () yang akan diperoleh sama dengan ukuran matrik Y dan Z
yaitu sebanyak m.
4. Setelah diketahui nilai-nilai  nya, langkah selanjutnya adalah mencari eigenvektor

untuk masing-masing . Eigenvektor diperoleh melalui rumus ( Y −λI ) x=0 dan

( Z −λI ) x=0 . Sehingga nanti akan diperoleh persamaan x dalam bentuk x1, x2
hingga xm (a1x1+a2x2+..+amxm=0). Kemudian dari beberapa variabel tersebut jadikan
menjadi satu variabel. Misalnya didapatkan persamaan berikut ini:
4,945x11 + 8x12 = 0....(pers. 1)
8x11 + 12,945x12 = 0....(pers.2)
Dari persamaan 1 didapatkan sebuah persamaan baru, yaitu:
x11 = -1,62x12.... pers.4
Setelah didapatkan persamaan 4 dilakukan normalisasi (penormalan) dari tiap-tiap 

dengan mensubsitusikan tiap elemen

x 1 . Proses penormalan adalah sebagai berikut:

x1
( x11 ¿) ¿ ¿¿¿¿ (−1,62x12 ¿) ¿ ¿¿¿¿
x 1 = ( x T1 x 1)1/2 =
¿
¿ = ¿
−1, 62 x12 ¿ ) ¿
=( ¿ ¿ ¿¿ x11
¿ x21
Selajutnya juga dilakukan penormalan seperti contoh di atas untuk eigenvalue
¿ ¿
( λ ) yang lain. Setelah
x 1 dan x 2 telah diperoleh elemen-elemennya,
selanjutnya adalah menggabungkan ketiga hasil penormalan tersebut ke dalam satu

5
 ¿ ¿
matrik dimana kolom pertama adalah
x 1 , kolom kedua adalah x 2 . Sehingga

[x 11 x 12
¿ ¿
[ ] x 22 ]
diperoleh matrik X =[ x1 x 2 ] = [x 21 ¿
5. Menentukan D yang merupakan matrik diagonal dengan elemen diagonalnya adalah
akar dari eigenvalue matrik Y atau Z.
0
D=¿ [ √ λ1 [ ] √ λ2 ]
[0 ¿

6. Diperoleh SVD dengan mengoperasikan PDQ dimana hasilnya akan sama dengan
matrik B.
[x 11 x 12 [ √ λ1 [ 0 [x 11 x 21 [a 11 a12
[ ] x 22 ] ] √ λ2 ] [ ] x 22 ] [ ]a22 ]
[x 21 ¿ [0 ¿
[x 12 ¿ =
[a 21 ¿

Note: Jika P adalah eigenvektor dari matrik Z dan Q adalah eigenvektor dari

matrik Y. Dan ketika dioperasikan kedalam PDQ maka akan menghasilkan matrik
yang sama dengan B.

II. Prosedur Penyelesaian SVD untuk Matrik Simetri mxm

1. Misal diketahui matrik A berukuran mxm.
2. Mencari eigenvalue () dari matrik A. Dimana determinan dari matrik A dikurangi 
dikalikan dengan matrik identitas (I) sama dengan 0.
A-I=0
3. Banyaknya eigenvalue () yang akan diperoleh sama dengan ukuran matrik A yaitu
sebanyak m.
4. Setelah diketahui nilai-nilai  nya, langkah selanjutnya adalah mencari eigenvektor

untuk masing-masing . Eigenvektor diperoleh melalui rumus ( A− λI ) x=0 .

Sehingga nanti akan diperoleh persamaan x dalam bentuk x 1, x2 hingga xm
(a1x1+a2x2+..+amxm=0). Kemudian dari beberapa variabel tersebut jadikan menjadi satu
variabel. Misalnya didapatkan persamaan berikut ini:
5x1 + x2 + 4x3 = 0....(pers. 1)
X1 + 2x2 – x3 = 0....(pers.2)

6
 4x1 – x2 + 5x3 = 0....(pers.3)
Kemudian lakukan eliminasi dari pers.1 dan pers.2 sehingga didapatkan
x1 = -x3.... pers.4
Pers.4 tersebut dapat disubstitusikan ke salah satu dari 3 persamaan di atas. Sehingga
didapatkan
x2 = x3....pers.5
Setelah didapatkan persamaan 4 dan pers.5 dilakukan normalisasi (penormalan) dari

tiap-tiap  dengan mensubsitusikan tiap elemen

x 1 . Proses penormalan adalah
sebagai berikut:

x1
(x1 ¿)(x2 ¿)¿¿¿¿¿ (−x3 ¿)(x3 ¿)¿¿¿¿¿
x 1 = ( x T1 x 1)1/2 =
¿
¿ = ¿
(− x 3 ¿ )( x 3 ¿ ) ¿ ¿¿¿¿ x11
x21

¿ x31

Selajutnya juga dilakukan penormalan seperti contoh di atas untuk eigenvalue

¿
x 1 , x 2 ,dan x 3 telah diperoleh elemen-elemennya,
¿ ¿
( λ ) yang lain. Setelah
selanjutnya adalah menggabungkan ketiga hasil penormalan tersebut ke dalam satu
¿ ¿
matrik dimana kolom pertama adalah
x 1 , kolom kedua adalah x 2 dan kolom

[x 11
[x 21 [
ketiga adalah
x ¿3 . Sehingga diperoleh matrik X =[ x1
¿ ¿
x2 x ¿3 ] = [x 31

x 12 x 13
] x 23 ]
x 22
] x 33
x 32 ¿

7
 5. Menentukan Δ yang merupakan matrik diagonal dengan elemen diagonalnya
adalah eigenvalue dari matrik A.
[ λ1 0
0
Δ=¿ [0 [ λ2
]0 ]
] λ3
[0 0 ¿

6. Diperoleh SVD dengan mengoperasikan X ΔXT dimana hasilnya akan sama

dengan matrik A.
[x 11 x 12 x 13 [λ 1 0 [x 11 x 21 x 31 [a 11 a12
0
[x 21 [ ] x 23 ]0 ] [x 12 [ ] x 32 [a 21 [
x 22
] x 33
] [0 [ λ2 ] λ3
x 22
] x 33
] a22
[x 31 x 32 ¿ [0 0 ¿ [x 13 x 23 ¿ =
[a 31 a23

a13
]a23 ]
]a33
¿

III.Prosedur Penyelesaian SVD untuk matrik berukuran mxn

1. Misal diketahui matrik B berukuran mxn.
2. Menghitung matrik BTB dan BBT. Misalkan matrik BTB = matrik C(nxn) dan BBT =
matrik D(mxm).
3. Mencari eigenvalue () dari matrik C(nxn) dan D(mxm) . Dimana determinan dari matrik
C(nxn) dan D(mxm) dikurangi  dikalikan dengan matrik identitas (I) sama dengan 0.
C-I=0 dan
D-I=0
Banyaknya eigenvalue () yang akan diperoleh sama dengan ukuran matrik C yaitu
sebanyak n (1, 2, ... n) dan eigenvalue untuk matrik D yaitu sebanyak m
(1, 2, ... m). Selanjutnya, setiap eigenvalue dari matrik C dan D dinamai matrik
diagonal dan 
Note: Jika dalam perhitungan eigenvalue didapatkan  = 0 maka untuk prosedur
perhitungan eigenvektor dapat diabaikan. Sehingga, matrik diagonal = 
4. Setelah diketahui nilai-nilai  nya, langkah selanjutnya adalah mencari eigenvektor
untuk masing-masing  untuk setiap matrik C dan D. Eigenvektor diperoleh melalui

rumus ( C−λI ) x=0 dan ( D−λI ) x=0 . Sehingga nanti akan diperoleh

8
persamaan x dalam bentuk x1, x2 hingga xm (a1x1+a2x2+..+amxm=0). Kemudian dari
beberapa variabel tersebut jadikan menjadi satu variabel. Misalnya, didapatkan
persamaan berikut ini:
5x11 + x12 + 4x13 = 0....(pers. 1)
X11 + 2x12 – x13 = 0....(pers.2)
4x11 – x12 + 5x13 = 0....(pers.3)
Kemudian lakukan eliminasi dari pers.1 dan pers.2 sehingga didapatkan
x11 = -x13.... pers.4
Pers.4 tersebut dapat disubstitusikan ke salah satu dari 3 persamaan di atas. Sehingga
didapatkan
x12 = x13....pers.5
Setelah didapatkan persamaan 4 dan pers.5 dilakukan normalisasi (penormalan) dari

tiap-tiap  dengan mensubsitusikan tiap elemen

x 1 . Proses penormalan adalah
sebagai berikut:

x1
(x1 ¿)(x2 ¿)¿¿¿¿¿ (−x3 ¿)(x3 ¿)¿¿¿¿¿
x 1 = ( x T1 x 1)1/2 =
¿
¿ = ¿
(− x 3 ¿ )( x 3 ¿ ) ¿ ¿¿¿¿ x11
x21

¿ x31

Selajutnya juga dilakukan penormalan seperti contoh di atas untuk eigenvalue

¿
x 1 , x 2 ,dan x 3 telah diperoleh elemen-elemennya,
¿ ¿
( λ ) yang lain. Setelah
selanjutnya adalah menggabungkan ketiga hasil penormalan tersebut ke dalam satu
¿ ¿
matrik dimana kolom pertama adalah
x 1 , kolom kedua adalah x 2 dan kolom

9
 [x 11
[x 21 [
ketiga adalah
x ¿3 . Sehingga diperoleh matrik
¿
X =[ x1
¿
x2
¿
x 3 ] = [x 31

x 12 x 13
] x 23
x 22 ]
] x 33
x 32 ¿
5. Dekomposisi nilai singular matrik B dinyatakan dalam:
dimana
B = P1  Q1T P1 = B Q1 -1
Keterangan:
 = matrik diagonal yang berisi akar kuadrat dari eigenvalue matrik C atau D
-1 = invers 
Q1 = eigenvektor dari matrik C (BTB)
Q1T = transpose Q1

C. CONTOH
Contoh 1:
Menghitung SVD matriks non singular A(2x2)
Bila deketahui matrik X sebagai berikut
2 1
X=
[ ]2 3 . Maka Hitunglah SVD dari matrik X!
Jawab:

X XT =
[22 31 ] [12 32 ] [75 137 ] =
Eigenvalue X XT

T | 5 7 − λ 0 |=0
[ ][ ]
|XX −λI|=0  7 13 0 λ
5− λ 7
| |=0
7 13−λ
(5- λ )(13- λ )-(7)(7) = 0
65-5 λ -13 λ + λ 2
-49 = 0
λ 2
-18 λ +16 = 0

10
 −b± √b 2−4 ac −(−18 )±√(−18)2 −4(1)(16 )
λ1,2 = =
2a 2(1 )
18± √ 324−64 18±2 √65
= =9±√ 65
= 2 2

∴ Eigenvalue matrik X adalah λ 1 = 9−√65 = 0,9377 dan λ 2 = 9+ √ 65 =

17,0623
Eigenvektor XXT
 Untuk λ 1 = 0,9377
( XX T −λI ) x=0
( x1 ¿) ¿ ¿¿ (0 ¿) ¿¿¿
[( 57 137 ]−[0,9377
0
0
0,9377 ]) ¿ = ¿
4,0623 7 ¿ ( x1 ¿ ) ¿ ¿
[ 7 12 ,0623 ]
¿
4,0623 x1 -7 x2 = 0 ; 7x1 + 12,0623 x2 = 0
7
− x
x1= 4,0623 2 = -1,7232
Proses normalisasi

x1
x 1= ¿
= ( x1 ¿ ) ¿¿ ¿ ¿ ¿
1
¿
( x T1 x 1) 2

( -1,7232 ¿ ) ¿ ¿ ¿ ¿ ¿
= ¿
 Untuk λ 2 = 17,0623
( XX T −λI ) x=0
( x1 ¿) ¿ ¿¿
([57 137 ]−[17,0623
0
0
17,0623 ]) ¿ =
(0 ¿) ¿¿¿
¿
7
[−12,0623 ] ¿(x ¿)¿¿ 1
7 −4,0623 ¿
-12,0623 x1 + 7 x2 = 0 ; 7 x1 – 4,0623 x2 = 0

11
 7
x =0, 5803 x 2
x1= 12 ,0623 2
Proses normalisasi

x1
x 2= ¿
= ( x 1 ¿ ) ¿ ¿¿ ¿ ¿
1
¿
( x T1 x 1 ) 2

( 0 , 5803 ¿ ) ¿ ¿ ¿ ¿ ¿
= ¿
∴ Sehingga eigenvektor X XT adalah
0,5019
P=
[−0,8649
0,5019 0,8649 ]
2 2 2 1 8 8
XTX =
[ ] [ ] [ ]
1 3 2 3 = 8 10
Eigenvalue XTX

| 8 8 − λ 0 |=0
T
|X X −λI|=0 
[ ][ ]
8 10 0 λ
8−λ 8
| |=0
8 10−λ
(8- λ )(10- λ )-(8)(8) = 0
80-8 λ -10 λ + λ 2
-64= 0
λ 2
-18 λ +16 = 0

−b± √b 2−4 ac −(−18 )±√(−18)2 −4(1)(16 )

λ1,2 = =
2a 2(1 )
18± √ 324−64 18±2 √65
= =9±√ 65
= 2 2

∴ Eigenvalue matrik X adalah λ 1 = 9−√65 = 0,9377 dan λ 2 = 9+ √ 65 =

17,0623
Eigenvektor XTX

12
 Untuk λ 1 = 0,9377

( X T X −λI ) x=0
( x1 ¿) ¿ ¿¿
[( 88 108 ]−[0,9377
0
0
0,9377 ]) ¿ =
(0 ¿) ¿¿¿
¿
7 ,0623 8
[ ¿ ( x1 ¿) ¿ ¿
]
8 9,0623 ¿
7,0623 x1 + 8x2 = 0 ; 8x1 + 9,0623x2 = 0
8
− x
x1 = 7 ,0623 2 = - 1,1328 x2
Proses normalisasi

x1
x 1=
¿
= ( x1 ¿ ) ¿¿ ¿ ¿ ¿
1
¿
( x T1 x 1) 2

( - 1,1328 ¿ ) ¿ ¿ ¿ ¿ ¿
= ¿
 Untuk λ 2 = 17,0623
( X T X −λI ) x=0
( x1 ¿) ¿ ¿¿ (0 ¿) ¿¿¿
([88 108 ]−[17,0623
0
0
17,0623 ]) ¿ = ¿
8
¿ ( x1 ¿ ) ¿ ¿
[−9,0623
8 −7,0623 ]
¿
-9,0623 x1 + 8 x2 = 0 ; 8x1 - 7,0623x2 = 0
8
x
x1 = 9,0623 2 = 0,8828 x2
Proses normalisasi

13
 x1
x 1= ¿
= ( x1 ¿ ) ¿¿ ¿ ¿ ¿
1
¿
( x T1 x 1) 2

( 0,8828 ¿ ) ¿ ¿ ¿ ¿ ¿
= ¿
∴ Sehingga eigenvektor XTX adalah
,7497 0,6618
Q=
[−00 ,6618 0,7497 ]
0, 9377 0 0 ,9684 0
Sedangkan matrik Δ adalah
Δ= [√ 0 √17, 0623][
=
0 4 ,1307 ]
SVD suatu matrik X bila P Δ Q = X
−0,8649 0,5019 0,9684 0 −0,7497 0 ,6618
P Δ Q=
[ 0,5019 0,8649 ] [ 0 4 ,1307 ] [ 0,6618 0 ,7497 ]
2,0733 −0 ,7497 0,6618
=
[
−0,8376
0,4861 3,5727 ] [ 0 ,6618 0,7497 ]

=
[22 31 ]
∴ Terbukti bahwa P Δ Q = X

Contoh 2:
Menghitung SVD matriks simetri non singular A(2x2)

A= 5 2
1. Diketahui bahwa 2 2 [ ]
2. Mencari eigenvalue matrik A
|A-I| = 0

( 52 22 )−(0λ 0λ )|
|
= 0

14
 5− λ 2
| |
2 2− λ = 0
(5-)(2-)-4 = 0
-7
-7
(-1)(-6) = 0
Sehingga didapatkan dan
3. Mencari eigenvektor matrik A
Untuk 1=0

( A−λ1 I ) χ 1 =0 .

([ 52 22 )−( 10 01 )] ( xx )=(00 ) 1

(42 21 ) ( xx )=( 00 ) 1

4 x +2 x 0
( 2 x +x ) 0
1 =( )
1
2

=> 2 x 1 +x 2 =0
2 x 1 =−x 2
1
x 1=− x 2
2
1

x1 ( )
− x2
2
x2 1
x1 =
¿
1
=
1
1
=
1
5 2
√ ( )(
− x2
2 = −0 , 4472
0 , 8944 )
(x T x 1)

[ ) ( )]
x2 x2
2 2
1
(− 12 x 2 x2
− x2
2
x2
4

Untuk 2=6

( A−λ2 I ) χ = 0 .

15
 5 2 6 0 x1 0
[( ) ( ) ] ( ) ( )
2 2
−
0 6 x2
=
0

(−12 2
−4 ) ( xx )=(00)
1

−x 1 +2 x 2
=0
( 2 x 1−4 x 2 0 )()
=> 2 x 1 −4 x2 =0

2 x 1 =4 x2
x 1=2 x 2
2 x2
x2 ( )
x2 1 2 x2 0 , 8944
x2 =
¿
1
=
2 x2
1
=
√ 5 x 22 ( )(
x2
=
0 , 4472 )
(x 2 T x 2)
2
[ (2 x2 x2 )( )
] x2
2

Sehingga didapatkan eigenvector matrik A yaitu

χ ¿ = −0 ,4472 0 ,8944
( )
0 ,8944 0 ,4472
4. Menentukan 
 merupakan metric diagonal yang elemen-elemennya adalah eigen value dari matrik A

λ1 0
=1 0
sehingga:
Δ=
( 0 λ2 )( )
0 6

5. Mencari SVDnya dengan rumus A= X Δ X T

A=
(−00 , ,8944
4472 0 ,8944 1 0 −0 , 4472 0, 8944
0, 4472 )(0 6 )( 0 , 8994 0, 4472 )
−0, 4472 5 , 3664 −0 , 4472 0 , 8944
=
( 0, 8944 2 ,6832 )( 0 , 8994 0 , 4472 )
=
(5,027 1,99
2,013 1,99 )

16
 =
(52 22 )
Maka dapat disimpulkan bahwa bentuk svd dari matriks A adalah

(52 22 )=(−00 ,8944

, 4472 0 , 8944 1 0 −0 , 4472 0 , 8944
)( )(
0 , 4472 0 6 0 , 8994 0 , 4472 )

17