DISTRIBUSI NORMAL

MULTIVARIAT
OLEH
EKA ARIFANI PUTRI 1002444
LIA MALIHAH 1000313
 FUNGSI KEPADATAN DISTRIBUSI NORMAL
MILTIVARIAT
Densitas normal multivariat merupakan generalisasi dari densitas normal univariat,
dalam bentuk p dimensi. Bentuk densitas normal p-dimensi yaitu

   
'
 x  m Σ-1 x  m
1
f(x)  e 2

 2 
p2 12
S
dimana -  xi  , i = 1,…,p.
Dinotasikan dengan Np(m,S)
 μ1  σ11 σ12 σ1p 
   
 μ2  σ 21 σ 22 σ 2p 
μ= , Σ=
   
   
 μ p  σ p1 σ p2 σ pp 
  xm 
2

  ( x  m )( ) ( x  m )
2 1

  

Diperluas untuk vektor x dengan dimensi p menjadi

( x  m )' S1 ( x  m )

S Dianggap definit positif

1 1
supaya volume dibawah luasan  ( x  m )'S ( xm )
2
e
adalah 1 maka diperlukan konstanta
p 1
(2 ) 2
S 2

3
• Distribusi normal multivariat yang paling sederhana adalah
bivariat (2-dimensi), memiliki fungsi densitas:

   
'
 x  m Σ-1 x  m
1
f(x) = e 2

 2 
12
S

dimana -  xi  , i = 1, 2
 μ1  σ11 σ12 
μ =  , Σ =  
 μ2  σ21 σ22 
mencari invers dari cov matriks

-1 1  σ22 -σ12 
Σ = 2  
σ11σ22 - σ12 -σ21 σ11 

σ12 = ρ12 σ11 σ22

2
σ11σ22 - σ12  2
= σ11σ22 1 - ρ12 
  σ 22 -ρ12 σ11 σ 22   x1 - μ1 
 x  m  Σ  x  m  = x - μ 1
'
-1
x 2 - μ 2    
1 1
 2
σ11σ 22 1- ρ12  -ρ12 σ11 σ 22
 σ11  x -
  2 2
μ

σ 22  x1 - μ1  + σ11  x 2 - μ 2  - 2ρ12 σ11 σ 22  x 1 - μ1  x 2 - μ 2 

2 2

=
 2
σ11σ 22 1- ρ12 
 
2
 
2
 x - μ   x - μ 
1  x 1 - μ1 x 2 - μ2 2 
= 2 
  +   - 2ρ  1 1
  2

1 - ρ12  σ11   σ 22  12
 σ11   σ 22  
       
    
'
 x  m Σ-1 x  m
1
f(x) = e 2

 2 
12
S
 2
  x -μ 
2
 x -μ   x -μ  
1  x -μ
1 1  + 2 2  -2ρ12  1 1   2 2  
1 
2 1- ρ122   σ11   σ22 
   
 σ11   σ22  
   
= e
 2  2
σ11σ22 1 - ρ12 
 Bivariate Normal Response Surface
f(X1, X2)

contours

X2

X1

All points of equal density are called a contour, defined for p-dimensions

   
as all x such that '
x  m Σ-1 x  m = ~c2
The contours

   
'
x  m Σ-1 x  m = c2

form concentric ellipsoids centered at m with axes ±c λi ei

~
μ  X2
μ =  1
 μ2 
f(X1,
contour for X2)
constant c ±c λ 2 e2

f(X1, X2)

±c λ1 e1
X1
dimana
e
i
i = λiei for i = 1, , p
Sifat-sifat Distribusi Normal Multivariat
• Dibawah ini benar untuk vektor acak X
memilki distribusi normal multivariat
1. Kombinasi Linear dari komponen komponen X
juga berdistribusi normal multivariat
Teorema
X berdistribusi Np (m, S) maka
a' X  a1 X 1  a2 X 2  .....  a p X p

berdistribusi N (a' m , a'  a)

10
2. Semua himpunan bagian dari komponen – komponen dari X
berdistribusi (multivariat) normal.

11
3. Kovarian nol mengakibatkan komponen – komponen yang
bersangkutan independen.
Teorema
• X1 dan X2 independen maka kov(X1, X2) = 0

 X 1berdistribusi
   m1   S11 S12  
• Jika   N q1  q2   ,   

 X2  m S
  2   21 S 22  

maka X1 dan X2 independen jika dan hanya jika S12= 0

12
• Jika X1 dan X2 independen , masing-masing berdistribusi Nq1
(m1,S11) dan Nq2 (m2,S22) maka  X 
1
X 
 2
berdistribusi

  m1  S11 0  
N q1  q2   ,   

  m 2   0 S 22  

13
4. Distribusi bersyarat dari komponen – komponen adalah
normal multivariat
Teorema
 X 1
X    m1 
 X 2  berdistribusi Np (m, S) dengan m   
m2 
S11 S12 
S  S 22  0
S 21 S 22  dan . Distribusi bersyarat

(X1|X2) adalah normal dengan

Mean : m1 + S12 S22 (x2- m2)
Kovarian : S11 - S12 S12-1 S12

14
 Likelihood Normal Multivariat
• Densitas gabungan

n 
 1 
  x j  m  1  x j  m / 2 
 
j 1  ( 2 )
p/2

1 / 2
e 

 
1   x j  m  1  x j  m / 2
 e
(2 ) 
np / 2 n / 2
Misal A adalah matriks simetris k x k adalah vektor k x 1

a. x ' Ax  tr x ' Ax   tr Axx' 

k
b. tr ( A)    i
i 1

 adalah nilai eigen matriks A.

i

x      
xj - μ = tr  xj - μ Σ-1 xj - μ 


' '
-1
j -μ Σ
 

 
= Σ xj - μ xj - μ 


'
-1

 
16
 x       
n n

xj - μ =  tr  xj - μ Σ-1 xj - μ 
' '
-1
j -μ Σ
j= 1 j= 1  

  
n

=  tr Σ xj - μ xj - μ 
'
-1

j= 1  
 -1  n ' 
 
= tr Σ   xj - μ xj - μ  
  j= 1  

 x   =  x  
n ' n '
j - μ xj - μ j - x + x - μ xj - x + x - μ
j=1 j=1

   x - μ  x - μ
n n

 x 
' '
= j - x xj - x +
j=1 j=1

  
n

 x  
' '
Because the = j - x xj - x + n x - μ x - μ
crossproduct terms j=1

 
n

 x
'
j - x x - μ and
j=1

 
n

'
x - μ xj - x
j=1
are both matrices of
zeros
  n ' 
      
'
-tr Σ  xj -x xj -x +n x-μ x-μ 
-1
  j=1 
1   
f(x) = e 2

2
np 2 n2
S
 1   n '  
=  2   
exp - tr Σ   xj - x xj - x + n x - μ x - μ  
  
 np 2 -n 2 '
S -1

 2   j=1  

~ ~

~
~ ~
  -1  n ' 
    
tr Σ   xj - x xj - x + n x - μ x - μ   
'

  j=1  
 -1  n '    -1
  
' 
  
= tr Σ   xj - x xj - x   + n tr  Σ x - μ x - μ  
  
  j=1  
 -1  n ' 
      
'
= tr Σ   xj - x xj - x   + n x - μ Σ-1 x - μ
  j=1  
    n  
      
'
- tr Σ-1  xj -x xj -x   +n x-μ Σ-1 x-μ 
'
Fungsi Likelihood     
1    j=1  
L(μ, Σ) = e 2

 2 
np 2 n2
S
Penaksir Maksimum likelihood untuk m dan S
Teorema:
X1,X2,.......Xn adalah sampel random dari populasi normal
multivariat dengan mean m dan kovariansi S.
Maka

(n  1)
X j  X X j  X  
n
1
mˆ  X , ˆ 

'
S.
n j 1 n

22
Estimasi maksimum likelihood untuk
μ dan Σ
Akibat 4.11:
Misal X1, X2,.......Xn adalah sampel random dari
populasi normal multivariat dengan mean m dan
kovarians S
Maka
mˆ  X ,
(n  1)
X j  X X j  X  
n
1
ˆ 

'
S.
n j 1 n
Distribusi Sampling dari Vektor Mean dan
Matriks Varians-Kovarian

Misalkan X1, X2, …, Xn adalah sampel acak yag berukuran n yang diambil dari
distribusi normal multivariat (dimensi p) dengan mean m dan kovarians S,
maka

XN p m ,  1n S

(n – 1)S berdistribusi Wishart dengan db = n – 1 dengan

notasi

Wn1 n  1S S

X dan S independen
Sifat – sifatdistribusiWishart

1. Densitas Wishart tidak ada bila 𝑛 ≤ 𝑝.

Bilaada, nilainyauntukmatriksdefinitpositif A adalah:

2. 𝐴1 ~𝑊𝑚1 (𝐴1 |Σ) dan 𝐴2 ~𝑊𝑚2 (𝐴2 |Σ)dan A1 ,A2

independenmaka𝐴1 + 𝐴2 ~𝑊𝑚1+𝑚2 (𝐴1 + 𝐴2 | Σ)

3. 𝐴~𝑊𝑚 (𝐴|Σ)maka C𝐴𝐶′~𝑊𝑚 (𝐶𝐴𝐶′|𝐶Σ𝐶 ′ )

 ഥ danS UNTUK SAMPEL
DISTRIBUSI 𝑿
BESAR
• Teorema Limit Pusat
X1,X2,…Xnsampleacakdaridistribusidengan meanm dankovarians∑
maka 𝑛 𝑥ҧ − 𝜇 berdistribusi mendekati 𝑁𝑝 0, Σ untukukuransampel n
besardan𝑛 ≥ 𝑝

1
ത 𝑝 (𝜇,
• Jika𝑋~𝑁 Σ ) yang ekivalendengan 𝑛(𝑥ҧ − 𝜇)~𝑁𝑝 (0, Σ)maka𝑛(𝑥ҧ −
𝑛
2
𝜇)′Σ −1 (𝑥ҧ − 𝜇)~𝜒(𝑝)
 Menaksir Asumsi – Asumsi
Kenormalan
Beberapa tingkatan kualitas kesimpulan berdasarkan
metode kenormalan tergantung pada seberapa mirip
populasi yang diteliti menyerupai populasi normal.
Sehingga diperlukan metode untuk mengidentifikasi
bentuk populasi awal yang diharapkan berdistribusi
normal multivariat .
A. Mengevaluasi Kenormalan dari Distribusi
Marjinal Univariat
Kit dapat mengevaluasike normalan dari distribusi marjinal univariat
antara lain dengan cara:

1. MenggunakanPendekatanKenormalanuntukDistribusi Sampling

Padadistribusi normal baku berlaku

(𝜇𝑖 − 𝜎𝑖𝑖 , 𝜇𝑖 + 𝜎𝑖𝑖 )

Memiliki peluang 0,683 pada interval ini, dan

(𝜇𝑖 − 2 𝜎𝑖𝑖 , 𝜇𝑖 + 2 𝜎𝑖𝑖 )

Memiliki peluang 0,954.

2. Menggunakan Q-Q plot

Misal jumlah observasi dalam sample n adalah n, dengan observasi: 𝑋 ∶

𝑋1 , 𝑋2 , … , 𝑋𝑖 , 𝑋𝑖+1 , … , 𝑋𝑛

Langkah membuat Q-Q plot :

a. Mengurutkan data observasidari data terkecil sampai terbesar :𝑋(1) ≤ 𝑋(2) ≤ ⋯ ≤

𝑋(𝑖) ≤ 𝑋(𝑖+1) ≤ ⋯ ≤ 𝑋(𝑛)

b. Menghitungkuanti l𝑞(𝑖)

𝑞(𝑖) 1
1 −𝑧 2 𝑖−
𝑃 𝑍≤𝑞𝑖 = න exp 𝑑𝑧 = 𝑝(𝑖) = 2
2𝜋 2 𝑛
−∞

c. Gambarkan pasangan(𝑞(𝑖) ,𝑥(𝑖) )

d. Periksa, jika plot (𝑞(𝑖) ,𝑥(𝑖) ) mendekat igaris normal, maka data berdistribusi normal.
Lurus tidaknya Q-Q plot dapat diukur dengan menghitung koefisien
korelasi dari titik-titik pada plot :

σ𝑛𝑖=1(𝑥 𝑖 − 𝑥)(𝑞
ҧ 𝑖 − 𝑞)
ത
𝑟𝑄 =
2 2
σ𝑛𝑖=1(𝑥 𝑖 − 𝑥)ҧ σ𝑛𝑖=1(𝑞 𝑖 − 𝑞)
ത

Pengujian normalitas ini dengan hipotesis:

H0: berdistribusi normal

H1: tidak berdistribusi normal

Kriteria :

Tolak H0 jikarQhitung<rQtabel.
 B. Mengevaluasi Kenormalan dan
Distribusi Marjinal Bivariat
1. Menghitung titik–titik dalam kontur (elips) dan membandingkannya
dengan Teori Peluang

Berdasarkan himpunan data bivariat x sedemikian sehingga :

(𝑥 − 𝜇)′Σ −1 (𝑥 − 𝜇) ≤ 𝜒22 (0,5)

memilikipeluang 0,5.

Jika observasi-observasi berditribusi normal, diharapkan 50% dari

observasi- observasi tersebut terletak pada kontur (elips). Jika
perbedaan proporsi jauh maka asumsi ditolak .
2. Menghitungc hi kuadrat Plot

• Jarak kuadrat yang diperumum:

𝑑𝑗2 = (𝑥𝑗 − 𝑥)′𝑆

ҧ −1 (𝑥𝑗 − 𝑥)ҧ

j = 1,2,…,n danx1,x2,…,xn adalah observasi sampel.

• Langkah membuat chi kuadrat plot

a. Menghitung 𝑑𝑗2 = (𝑥𝑗 − 𝑥)′𝑆

ҧ −1 (𝑥𝑗 − 𝑥)ҧ
2
b. Mengurutkan𝑑𝑗2 dari yang terkecil sampai terbesar 𝑑(1) ≤
2 2
𝑑(2) ≤…𝑑(𝑛)

1
2 𝑗−
c. Gambarkan pasangan (𝑑(𝑗) , 𝜒𝑝2 ( 2
)
𝑛

d. Plot akan merupakan garis lurus jika data berdistribusi normal.

 Mengevaluasi Kenormalan dari Distribusi
Marjinal Univariat
Secara garis besar, kita dapat mengevaluasi kenormalan dari
distribusi marjinal univariat antara lain dengan cara:
1. Menggunakan Pendekatan Kenormalan untuk Distribusi
Sampling Proporsi
pˆ  0,683  3
0,6830,317  1,396
ii
n n

pˆ ii  0,954  3
0,9540,046  1,628
n n
2. Menggunakan Q-Q Plot

 Jika Q-Q plot dari kuantil sampel yang diurutkan (xj) lawan
kuantil terstandarisasi yang berkorespondensi dengannya
(qj) memiliki titik-titik yang terletak mendekati garis lurus,
maka dikatakan bahwa observasi tersebut berdistribusi
normal.
 Metode ini mengharuskan sampel yang tidak tll kecil (n
harus lebih besar dari 20)
 Langkah-langkah Q-Q plot
Misalkan x1, x2, ..., xn merupakan n observasi pada sembarang
karakteristik tunggal Xj, maka langkah-langkah membuat Q-Q plot
adalah sebagai berikut:
1. mengurutkan observasi asal untuk memperoleh x(1), x(2), ...,x(n)
dimana x(1) ≤ x(2) ≤ ... ≤ x(n) , kemudian menentukan nilai pendekatan
peluang yang berkorespondensi dengannya, yaitu
1  12  , 2  12  ,..., n  12 
n n n
2. menghitung quartil normal standar q(1), q(2), ...,q(n) dengan
q( j )
j  12
PZ  q( j )  
1 z
2


 2
e 2
dz  P( j ) 
n

3. memplot pasangan observasi (q(1), x(1)), (q(2), x(2)), ..., (q(n), x(n)) dan
melihat kelinearan hasilnya.
 Latihan
Kerjakan soal pada latihan buku Wischern bab distribusi normal
multivariat:
1. Untuk pengujian normalitas distribusi uni variat dengan Q-Q
plot dan secara analitik, bandingan hasilnya dengan
menggunakan SPSS
2. Untuk pengujian normalitas distribusi multivariat (bivariat)
dengan menggunakan Q – Q plot dan secara analitik