PENDEKATAN MATRIKS

Analisis Regresi Linear

Deiby TS

Jurusan Matematika
FMIPA-Universitas Sam Ratulangi

30 Maret 2020

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 1 / 33

1 Operasi Perhitungan Matriks

2 Matriks-Matriks Khusus

3 Kebebasan Linear

4 Invers Matriks

5 Vektor dan Matriks Acak

6 Penduga MKT dalam bentuk Matriks

7 Contoh

8 Tugas

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 2 / 33

 Operasi Perhitungan Matriks

Penjumlahan dan Pengurangan Matriks

Penjumlahan/pengurangan matriks dapat dilakukan pada matriks

yang berukuran sama dengan cara mengoperasikan elemen-elemen
yang bersesuaian.
Jadi, penjumlahan matriks An×m dan Bn×m menghasilkan matriks
baru Cn×m dengan cij = aij + bij untuk semua (i, j)
Sifat-sifat dasar penjumlahan matriks:
Komutatif: A + B = B + A
Asosiatif: (A + B) + C = A + (B + C)
Perkalian dengan skalar k dengan matriks Xm×n yaitu
kXm×n = Ym×n dengan yij = kxij untuk semua (i, j).
Dalam hal ini berlaku sifat: k(X+Y) = kX + kY

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 3 / 33

 Operasi Perhitungan Matriks

Penggandaan Matriks

Perkalian Xm×n
Pndan Yn×p menghasilkan matriks Wm×p
dengan wij = k=1 xik ykj untuk semua (i, j)
Contoh:    
2 1 4 2 1
A= dan B =
3 0 0 1 5
maka
   
2.4 + 1.0 2.2 + 1.1 2.1 + 1.5 8 5 7
AB = =
3.4 + 0.0 3.2 + 0.1 3.1 + 0.5 12 6 3

Sifat Perkalian matriks:

1. Tidak bersifat komutatif
2. A(B+C) = AB+AC
3.cAB = (cA)B = A(cB)

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 4 / 33

 Operasi Perhitungan Matriks

Transpose (Putaran) Matriks

Transpose matriks Am×n dinotasikan dengan A0 . Misalkan hasil transpose

dinamakan matriks Bn×m maka bij = aji untuk semua (i, j)
Sifat-sifat Transpose:
1.(A0 )0 = A
2.(A+B)0 = A0 + B0
3. (cA)0 = cA0
4. (AB)0 = B0 A0

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 5 / 33

 Matriks-Matriks Khusus

Matriks-Matriks Khusus

Beberapa jenis matriks yang penting:

Matriks segi tiga atas adalah matriks persegi yang semua
elemennya di bawah diagonal utama bernilai nol Contoh:
 
2 −1 −2
A =  0 −1 1 
0 0 4

Matriks segi tiga bawah adalah matriks persegi yang semua

elemennya di atas diagonal utama bernilai nol Contoh:
 
2 0 0
B =  3 −1 0 
0 −6 4

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 6 / 33

 Matriks-Matriks Khusus

Matriks-Matriks Khusus

Matriks Simetris adalah matriks persegi dimana unsur-unsur yang

letaknya simetris terhadap diagonal utamanya bernilai sama. Pada
suatu matriks simestris A, berlaku aij = aji ; i 6= j;
Jadi untuk  
a11 a12 a13
A3×3 =  a21 a22 a23 
a31 a32 a33
berlaku a21 = a12 ; a23 = a32 ; . . .
Contoh:  
2 1 3
S =  1 −1 −2 
3 −2 2

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 7 / 33

 Matriks-Matriks Khusus

Matriks-Matriks Khusus

Matriks Ortogonal. Sebuah matriks segi A dikatakan matriks ortogonal

jika A0 A = A0 A = I. Contoh
 1
√1 √1

√
3 2
− 6
A =  √13 − √12 − √16 
 
√1 0 √2
3 6

Buktikan A0 A = A0 A = I.

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 8 / 33

 Matriks-Matriks Khusus

Matriks Idempoten dan teras Matriks

Sebuah matriks segi k Ak adalah matriks idempoten jika AA = A2 = A.

Contoh:
Jika matriks n Xk ; n ≥ k dan r (X) = k =⇒ H = X(X0 X)−1 X0 idempoten,
karena HH = H2 = H
Teras suatu matriks segi k Xk adalah tr (X) = ki=1 xii
P
Sifat-Sifat:
1. tr (cX) = c tr (X)
2. tr (XY) = tr (YX)
3. tr (X + Y) = tr (X) + tr (Y)

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 9 / 33

 Kebebasan Linear

Kebebasan Linear dan Pangkat Matriks

Bebas Linear: Diketahui himpunan S = {v1 , v2 , . . . , vp }

dan persamaan vektor:

k1 v1 + k2 v2 + . . . + kp vp = 0

1. Jika solusi satu-satunya persamaan tersebut adalah

k1 = 0, . . . , kp = 0 maka S disebut himpunan bebas linear
2. Jika ada solusi lain (yang bernilai tidak nol) maka S disebut himpunan
tak bebas linear.
Contoh:
Diketahui himpunan vektor S = {v1 , v2 , v3 } dengan
v1 = (2, −1, 0, 3), v2 = (1, 2, 5, −1), v3 = (7, −1, 5, 8). Tunjukkan S
himpunan tak bebas linear.
JAWAB : 3v1 + v2 − v3 = 0 berarti ada nilai k yang tidak nol yaitu
k1 = 3, k2 = 1, k3 = –1. Jadi S terpaut linear

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 10 / 33

 Kebebasan Linear

Pangkat (Rank) matriks

Matriks n Xp dikatakan memiliki pangkat = k atau r (X) = k jika X

memiliki sejumlah k vektor yang bebas linear.
Jika n Xk ; n ≥ k dan r (X) = k =⇒ r (X0 ) = r (X’X) = k
−1
k Xk ada jjk r (X) = k yang disebut berpangkat penuh
Untuk n Xk , |n Pn | =
6 0 dan |k Qk | =
6 0 =⇒ r (X) = r (PX) = r (XQ)
r (XY) ≤ r (X) dan r (X|Y) ≤ r (Y)
Teorema: Jika k Ak matriks simetrik =⇒ ada matriks ortogonal P 3

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 11 / 33

 Kebebasan Linear

Pangkat (Rank) matriks

Teorema [Drapper & Smith]: Jika k Ak matriks simetrik =⇒ ada matriks

ortogonal P sedemikian hingga
 
λ1 0 0 0
 0 λ2 0 0 
P0 AP =  .
 
.. .. .. 
 .. . . . 
0 0 0 λk

Matriks P dikatakan ”mendiagonalisasi” A. Kolom-kolom dari P

merupakan himpunan vektor yang ortonormal dan merupakan vektor eigen
dari A [Anton, H].

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 12 / 33

 Invers Matriks

Matriks kebalikan/Invers
Matriks kebalikan dari suatu matriks persegi n An dilambangkan dengan
A−1 adalah matriks yang memenuhi AA−1 = A−1 A = In . Matriks yang
memiliki invers dinamakan matriks non singular. Sebaliknya disebut
singular.
Contoh: Jika  
1 3
A=
9 4
Maka
4 3
 
−1 − 23 23
A = 9 1
23 − 23
karena AA−1 = A−1 A = I2
 
1 0
A−1 A = AA−1 =
0 1

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 13 / 33

 Invers Matriks

Sifat-Sifat

Sifat-sifat Invers suatu matriks:

Jika A matriks non singular maka det(A) 6= 0 dan A berpangkat
penuh
(A−1 )−1 = A
(A0 )−1 = (A−1 )0
A−1 bersifat tunggal/unik
Jika A dan B non singular maka (AB)−1 = B−1 A−1
Jika A simetrik maka inversnya juga simetrik
Jika A matriks diagonal dengan unsur diagonalnya aii maka A−1
diagonal dengan unsur diagonalnya a1ii
Jika A matriks ortogonal maka A−1 = A0

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 14 / 33

 Vektor dan Matriks Acak

Nilai Harapan Vektor Acak

Vektor Acak adalah vektor yang entrinya adalah peubah acak

Definisi:      
Y1 E [Y1 ] µ1
 Y2   E [Y2 ]   µ2 
Jika Y =  .  maka E [Y] = µ =   =  ..  ; E [Yi ] = µi
     
..
 ..   .   . 
Yk E [Yk ] µk
Sifat-sifat:
Untuk a vektor konstanta; A matriks bilangan real;
Y vektor acak dengan ekspektasi µ maka
1.E [a] = a
2.E [a’Y] = a’E [Y]
3. E [AY] = AE [Y] = Aµ

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 15 / 33

 Vektor dan Matriks Acak

Ragam-Peragam Vektor Acak

Ragam Var (Y ) = (σ 2 ) = E [(Y − µ)2 ] =⇒ mengukur keragaman peubah

acak di sekitar rataan µ
Definisi:  
Y1
 Y2 
Jika Y =  .  adalah vektor dengan
 
 .. 
Yk
Var (Yi ) = σii = σii2 ; i = 1, . . . , k; cov (Yi , Yj ) = σij ; i 6= j dan E [Y] = µ
maka ragam-peragam dari Y = V didefinisikan  2 oleh 
σ11 σ12 . . . σ1k
 σ21 σ 2 . . . σ2k 
22
V = var (Y) = E [(Y − µ)(Y − µ)0 ] =  .
 
. .. .. .. 
 . . . . 
σk1 σk2 . . . σkk 2

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 16 / 33

 Vektor dan Matriks Acak

Ragam Vektor Acak

Sifat-sifat:
Misalkan a vektor konstanta; A matriks bilangan real;
Y vektor acak dengan var (Y) = V dan Z=a’Y maka
1.var [a’Y] = a’Va
2.Var [Z] = AVA’  
ya
Contoh: Misal n Xk matriks full rank; y =  y2  vektor acak
y3
1. var (yi ) = σ ; i = 1, 2, 3 =⇒ y1 , y2 , y3 memiliki ragam σ 2
2

2. y1 , y2 , y3 saling bebas =⇒ σ12 = σ13 = σ23 = 0

σ2 0 0


3. matriks varian-covarian untuk y adalah:  0 σ 2 0  = σ 2 I

0 0 σ2
4. z = (X’X) X’y =⇒ var (z) = [(X’X) X’]σ 2 [(X’X)−1 X’]0 (sifat 2)
−1 −1

=⇒ var (z) = (X’X)−1 X’X)[(X’X)0 ]−1 σ 2 = (X’X−1 )σ 2

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 17 / 33
 Penduga MKT dalam bentuk Matriks

Penduga Model Regresi Linear Sederhana

Bentuk umum model regresi linear sederhana diberikan oleh:

y = β0 + β1 x + 

Dalam
 bentuk
 matriks:  
y1 1 x1
 y2   
1 x2 
β0

y =  . , β = , dan X =  .. .. .
   
 ..  β1  . . 
yn 1 xn

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 18 / 33

 Penduga MKT dalam bentuk Matriks

Penduga Model Regresi Linear Sederhana

 Pn   Pn 
n i=1 xi i=1 yi
Jadi X’X =  P  dan X’y =  
n Pn 2
Pn
i=1 xi i=1 xi i=1 xi yi
 Pn 2 − ni=1 xi
P 
1 i=1 xi
(X’X)−1 = Pn 2 − ( n x )2
P  
n x i=1 i
Pn
i=1 i − i=1 xi n

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 19 / 33

 Penduga MKT dalam bentuk Matriks

Penduga Model Regresi Linear Sederhana

Penduga untuk β diberikan oleh:

β̂ = (X0 X)−1 X0 y
 Pn 2
Pn   Pn 
i=1 xi − i=1 xi i=1 yi
1
= Pn (1)
− ( ni=1 xi )2
  
2
P
n i=1 xi
Pn Pn
− i=1 xi n i=1 xi yi

(2)
(3)
 Pn 2
Pn Pn Pn 
i=1 xi i=1 yi − i=1 xi i=1 xi yi
1
=
n i=1 xi − ( ni=1 xi )2
Pn 2
P  
Pn Pn Pn
n i=1 xi yi − i=1 xi i=1 yi

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 20 / 33

 Penduga MKT dalam bentuk Matriks

Penduga Model Regresi Linear Sederhana

Sehingga Pn Pn Pn
xy − x y
βˆ1 = Pi i
i=1 Pni i=12 i
i=1
n ni=1 xi2 − ( i=1 xi )
Pn n Pn
2 xi ni=1 xi yi
P P
i=1 xi P i=1 yi −
βˆ0 = i=1
n ni=1 xi2 − ( ni=1 xi )2
P

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 21 / 33

 Penduga MKT dalam bentuk Matriks

Penduga MKT Model Regresi Linear Umum

Perhatikan bentuk umum model regresi linear berikut:

y = β0 + β1 x1 + β2 x2 + . . . + βk xk + . (4)

y: peubah acak yang disebut respons

x1 , x2 , . . . , xk : peubah penjelas/prediktor
: galad acak
β0 , . . . , βk : parameter yang akan diestimasi dari data.

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 22 / 33

 Penduga MKT dalam bentuk Matriks

Formulasi Matriks
Untuk n pengamatan dengan n ≥ k + 1 dan dengan memisalkan xij adalah
nilai ke-i dari peubah ke-j maka persamaan (4) dapat dituliskan sebagai:
y1 = β0 + β1 x11 + β2 x12 + . . . + βk x1k + 1
y2 = β0 + β1 x21 + β2 x22 + . . . + βk x2k + 2
.. (5)
.
yn = β0 + β1 xn1 + βn xn2 + . . . + βk xnk + n
Dalam bentuk matriks, persamaan (5) dapat dituliskan sebagai
y=Xβ + 
dengan

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 23 / 33

 Penduga MKT dalam bentuk Matriks

Penduga MKT Model Regresi Linear Umum

Ide dasar dari MKT (Metode Kuadrat Terkesil) adalah menentukan

penduga yang sedemikian hingga jumlah kuadrat dari residual seminimum
mungkin.
Artinya yang meminimumkan
n
X
0
ee= ei2
i=1

Vektor residual e dapat dituliskan sebagai e=y-Xb sehingga

e0 e = (y − Xb)0 (y − Xb) = y0 y − 2(X0 y)0 b + b0 (X0 X)b

Jika diturunkan terhadap b dan disamakan dengan nol, maka diperoleh

−2X’y + 2(X’X)b

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 24 / 33

 Penduga MKT dalam bentuk Matriks

Penduga MKT Model Regresi Linear Umum

atau
(X0 X)b = X0 y
yang dikenal dengan persamaan normal yang menghasilkan

b = (X0 X)−1 X0 y

sebagai penduga kuadrat terkecil bagi β

Penduga tak bias bagi σˆ2 diberikan oleh:

(y − Xb)0 (y − Xb) y0 y − y0 Xb
s2 = =
n − (k + 1) n−p
;p = k + 1

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 25 / 33

 Contoh

Contoh

Perhatikan data dari agen penjualan rumah berikut:

Luas Rumah (m2 ) Harga Jual (Juta Rp)
70 82
55 75
120 163
80 110
90 120
150 186
160 183
150 183
180 210

Tentukan model dugaan regresi linear sederhana y = b0 + b1 x dan

interpretasikan hasilnya

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 26 / 33

 Contoh

Contoh

Jika harga jual=y dan luas rumah=X maka

dalam bentuk matriks dituliskan sebagai:
82 1 70
   
 75   1 55 
   
 163   1 120 
   
 160   1 130 
     
 110  β 0
 1 80 
y=  120 , β = β1 , dan X =  1 90
  .

   
 186   1 150 
   
 183   1 160 
   
 183   1 150 
210 1 180

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 27 / 33

 Contoh

Contoh

   
10 1.185 1472
Jadi X’X =   dan X’y =  
1.185 156.725 192.255
 
156.725 −1.185
1
(X’X)−1 =  
10 × 156.725 − 1.404.225
−1.185 10

Dengan perhitungan matriks diperoleh:

 
0 −1 0 17, 62
b = (X X) X y =
1, 093

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 28 / 33

 Contoh

Contoh

Jadi model dugaannya adalah:

Harga Jual Rumah =17,62+1,093 Luas Rumah

Interpretasi:
Karena b1 bernilai positif maka dapat disimpulkan: semakin luas
suatu rumah akan semakin tinggi harga jualnya.
Setiap penambahan 1 m2 luas rumah, harganya akan naik sekitar Rp
1,093 juta.
Nilai 17,64 dapat diartikan sebagai biaya yang dikenakan oleh
perusahaan penjual sebagai jasa.

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 29 / 33

 Tugas

Tugas 1

Diketahui matriks:
   
4 0 3 −1 1  
4 3
A= 0 4 0 ,B=
  2 3 dan C =
 .
3 2
3 0 2 3 2
Hitunglah matriks berikut jika memungkinkan, tuliskan ”imposible” jika
tidak memungkinkan.
1.B + C 2.BB’

3.A + B’B 4.BC

5.A−1 B 6.tr (A0 A)

Silahkan upload sebelum Maret menjadi April di elearning :

https://elearning.unsrat.ac.id

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 30 / 33

 Tugas

Tugas 2
Diketahui data tinggi pohon cabai dalam cm (y ) dan jumlah buah
matangya (x):
y x
35 8
49 9
27 7
33 6
60 13
21 7
45 11
51 12
Tentukan persamaan regresi linear sederhana dengan menggunakan
notasi matriks.
Interpretasikan hasilnya dan Hitung s 2
Silahkan upload sebelum 7 April 2020 di elearning :
https://elearning.unsrat.ac.id
Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 31 / 33
 Tugas

References

Howard Anton (2012)

Elementary Linear Algebra.

Norman R Drapper & H. Smith (1998)

Applied Linear Regression

Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 32 / 33

 Tugas

Terima Kasih

powered by LATEX

#dirumahaja #nopontar
Analisis Regresi Linear Deiby TS PENDEKATAN MATRIKS 30 Maret 2020 33 / 33