ANALISIS FAKTOR

(FACTOR ANALYSIS)
PENDAHULUAN
Analisis faktor: mengkaji hubungan internal dari
gugus variabel
Data: peubah-peubah yang dianalisis berkorelasi
tinggi didalam grupnya sendiri dan berkorelasi
rendah dengan yang berbeda grup
Tujuan: untuk mempelajari beberapa sifat yang
mendasar namun tidak dapat terobservasi
kuantitasnya
Tokoh: Charles Spearman yang mengemukakan
dalil bahwa korelasi internal dapat diwakili
dengan menggunakan sebuah peubah atau
faktor yang dinamakan dengan faktor g.
Selanjutnya faktor ini dikenal sebagai faktor
’kepintaran umum’ (general intelegence)
 FORMULASI MODEL
FAKTOR
Misal vektor acak X dengan p komponen memiliki
.rataan µ dan matriks peragam (covariance) Σ
:Pada umumnya model analisis faktor adalah
X1 - µ1 = l11F1 + l12F2 + … +l1mFm + ε1
X2 - µ2 = l21F1 + l22F2 + … +l2mFm + ε2
:
:
:

Xp - µp = lp1F1 + lp2F2 + … +lpmFm + εp

FORMULASI MODEL
FAKTOR
(lanjutan)

:Dalam bentuk matriks

L F + ε = )X - µ(
)px1( )mx1( )pxm( )px1(

:Keterangan
µ = vektor rataan
L = matriks konstanta yang tidak diketahui
nilainya (loading factor)
F = vektor acak
ε = vektor unsur galat (faktor khusus)
FORMULASI MODEL
FAKTOR
(lanjutan)

:Dengan asumsi
E(F) = 0, E(ε) = 0
Cov(F) = E(FF’) = I
Cov(ε) = E(ε ε’) = ψ = diag(ψ1, ψ2,…,
ψp)

F dan ε saling bebas

Cov(ε,F) = E(ε,F) = 0
FORMULASI MODEL
FAKTOR
(lanjutan)
Struktur peragam dari model faktor
:orthogonal
Cov(X) = LL’ + ψ
atau
var(Xi) = l2i + … + l2im + ψi
cov(Xi,Xk) = li1 lk1 + … + lim lkm
Cov(X,F) = L
atau
cov(Xi,Fj) = lij
FORMULASI MODEL
FAKTOR
(lanjutan)
:Pembuktian struktur peragam
Cov(X-µ) = cov(L F+ε) .1
cov(L F)+cov(ε)+2cov(L =
F+ε)
L cov(F) L’+ ψ +2L cov(L =
F+ε)
L L’+ ψ =
Cov(X,F) = cov(L F+ε ; F) .2
cov(L F ; F)+cov(ε ; F) =
L cov(F) =
L (korelasi antara X dengan =
faktor)
FORMULASI MODEL
FAKTOR
(lanjutan)

Komunalitas ke-i merupakan bagian

dari ragam peubah ke-i yang dapat
.dijelaskan oleh m faktor umum
hi2 = li12 + li22 + … + lim2
dan
σii = hi2 + ψi ; I = 1,2, …,p
PERMASALAHAN

Ada tiga hal penting yang menjadi pokok

permasalahan dalam analisis faktor,
:yaitu
Mengidentifikasi struktur
Menduga parameter (loading faktor dan
ragam sistematik
Interpretasi faktor
 PENDUGAAN PARAMETER

Metode

Metode non-iteratif Metode iteratif

 Metode komponen utama  Metode kemungkinan maksimum

 Metode faktor utama  Metode kuadrat terkecil tak terboboti
 Analisis Citra  Metode komponen utama iteratif Harris
 Analisis faktor kanonik non-iteratif  Metode analisis faktor alpha
KONSEP PENDUGAAN
Metode Komponen Utama 
Misalkan R adalah matriks korelasi contoh
berukuran pxp, karena matriks R simetrik dan
definit positif maka bisa dituliskan sebagai
:berikut
’R = Γ Λ Γ
:dengan
Λ= diag(λ1,λ2,…λp) dan λ1>λ2>…>λp>0 adalah
akar ciri dari matriks R, serta Γ Γ’= Γ’ Γ =Ip
Γ= matriks orthogonal pxp yang kolom-kolomnya
adalah vektor ciri matriks R yaitu, T1,T2,
…,Tp yang berpadanan dengan vektor ciri
λ1,λ2,…,λp
Metode Komponen Utama (lanjutan)

Misalkan k adalah banyaknya komponen

utama yang dipilih, maka matriks L^
didefinisikan sebagai berikut:
(pxp)

|L^ = |√λ1Γ1|√λ2Γ2|…|√λkΓk

’R didekati dengan L^ L^ ‘=Σki=1λiΓiΓi

dimana Γi adalah kolom ke-i pada matriks Γ
Metode Komponen Utama (lanjutan)

Matriks diagonal ragam

khusus ψ diduga
dengan ψ^, yaitu
matriks diagonal yang
unsurnya diambil dari
‘ ^R= L^ L

1  h1 2
0 ... 0 
 
ˆ  0
2
1  h2 . 0 


 2
 .
 
.

1  h p 
 

0 0
Metode Komponen Utama (lanjutan)

Ukuran kebaikan suai dari model faktor

:adalah sebagai berikut

RMS_overall = √(1/p(1-p))Σip=1Σjp=1resij2

Semakin kecil nilai RMS_overall

mengindikasikan kebaikan suai yang
tinggi. Model terbaik berdasarkan kriteria
ini adalah jika diperoleh RMS-overall <
0.05 dengan banyaknya faktor bersama
.yang paling sedikit
 ILUSTRASI
Data harga saham terdiri dari n=100
harga mingguan dengan p=5 saham.
Dengan menggunakan metode AKU
didapatkan dua komponen utama.
Secara spesifik penduga loading faktor
adalah koefisien komponen utama
(vektor ciri dari R) dibandingkan
dengan akar kuadrat dari akar ciri yang
.bersesuaian
 Tabel pendugaan loading faktor,komunalitas
dan total proporsi keragaman yang dijelaskan
dari setiap faktor untuk m=1 dan m=2
Solusi satu Solusi dua faktor
Variabel faktor
~ ~2 ~ ~2
F1   1 h
i i F1 F 2   1 h
i i

Allied .1 0.783 0.39 0.783 0.217- 0.34

Chemical
DuPont .2 0.773 0.40 0.773 0.458- 0.19
Union .3 0.794 0.37 0.794 0.234- 0.31
Carbide
0.713 0.49 0.713 0.472 0.27
Exxon .4
0.712 0.49 0.712 0.524 0.22
Texaco .5

Total proporsi 0.571 0.571 0.733

kumulatif
keragaman
yang dapat
dijelaskan
Proporsi untuk total keragaman
dengan menggunakan solusi dua
faktor lebih besar daripada hanya
.menggunakan satu faktor
Faktor pertama merepresentasikan
kondisi ekonomi secara umum dan
dapat disebut faktor pasar. Faktor
kedua merupakan kontras antra
saham perusahaan kimia dengan
saham perusahaan minyak (pada
faktor perusahaan kimia memiliki
loading negatif yang relatif besar dan
perusahaan minyak memiliki loading
positif yang relatif besar). Dengan
demikian faktor kedua dapat disebut
faktor industri karena sebagai
pembeda harga saham di industri
.yang berbeda
 Komunalitas
,Dengan m=2
Matriks residual untuk solusi 2 faktor
adalah
~2 ~ 2 ~ 2
hi  11  12  (0.783)  (0.217)  0.66
2 2

0  0.127  0.164  0.069 0.017 

 0.127 0  0. 122 0. 055 0.012 
~~ ~  
R  L L '   0.164  0.122 0  0.019  0.017 
 
 0.069 0.055  0.019 0  0.232
 0.017 0.012  0.017  0.232 0 
 Metode Kemungkinanan Maksimum

Metode kemungkinan maksimum (MKM) mengasumsikan

bahwa matriks ragam-peragam atau matriks korelasi semua
.peubah bersifat non-singular
:Fungsi kepekatan bagi S adalah
n 1 n 1 p 1 n 1 1
L(S)=c
 tr (  S )
c adalah konstanta. Sehingga log-likelihood dari L dan ψ,

dengan 2 S 2 2 e 2

:jika Σ = LL’ + ψ adalah

Penduga  n kemungkinan
1
{tr[( LL' ) Smaksimum
}  ln | ( LL'bagi L dan ψ diperoleh
1
ln c   ) 1 S |]}
2 
dengan memaksimumkan persamaan diatas dengan kendala k(k-
.1)/2 persyaratan keunikan (Johnson&Wichern,1998)
Penentuan banyaknya faktor bersama

Uji Nisbah Kemungkinan (likelihood ratio test)

Hipotesis nol yang diuji pada uji nisbah
:kemungkinan ini adalah
H0: Σ = LL’+ψ, r(L)=k diketahui

Misalkan , dan = + adalah

 penduga
 maksimum bagi L,ψ dan Σ,


kemungkinan
LL 
^

 Lmaka 
jika H0 benar, nilai maksimum untuk
:log dari fungsi kemungkinannya adalah
 Uji Nisbah Kemungkinan (likelihood ratio test): (lanjutan)

ln LH 0
 n 1 
 c  * 1
  1
 tr S S  ln S S  
 2 

n 1
c 
*
p
2
 LH 0 
 2 ln   2 ln 
Statistik uji nisbah kemungkinan yaitu
 L 

Menyebar khi-kuadrat dengan db  1

2
 p  k 2   p  k 

 LH 0 
Jadi, hipotesis nol ditolak jika  2 ln      ; db  1 2   p  k  2   p  k  
2
 L 
 
Penentuan banyaknya faktor bersama
(lanjutan)

Akaike’s information Criterion(AIC)

Statistik AIC untuk model dengan k
:faktor didefinisikan sebagai berikut
AIC(k)=-2ln L(k)+[2p(k+1)-k(k-1)]
Model berfaktor k dengan k adalah
nilai yang berpadanan dengan AIC (k)
yang paling kecil dianggap sebagai
model terbaik
Data harga saham dianalisa kembali dengan
menggunakan metode maksimum likelihood
dengan tetap memakai dua model faktor

Komunalitas dengan menggunakan metode

:maksimum likelihood adalah
ˆ 2 ˆ 2 ˆ 2
hi  i1  i 2  (0.684) 2  (0.189) 2  0.50

:Matriks residualnya adalah

 0 0.005  0.004  0.024  0.004 

 0.005 0  0.003  0.004 0.000 

R  Lˆ Lˆ '   0.004  0.003 0 0.031  0.004 
 
 0.024  0.004 0.031 0  0.000
 0,004 0.000  0.004  0.000 0 
 Tabel pendugaan faktor loading, komunalitas,
ragam khusus dan total proporsi keragaman
contoh yang dapat dijelaskan

Variabel Maksimum likelihood Komponen utama

Penduga faktor ~2 Penduga faktor ~2
~
 i  1  hi ~i  1  hi

Allied .1 0.684 0.189 0.50 0.783 0.217- 0.34

Chemical
DuPont .2 0.694 0.517 0.25 0.773 0.458- 0.19
Union .3 0.681 0.248 0.47 0.794 0.234- 0.31
Karbide
Exxon .4
0.621 0.073- 0.61 0.713 0.412 0.27
Texaco .5
0.792 0.442- 0.18 0.712 0.524 0.22
Total proporsi 0.485 0.598 0.571 0.733
kumulatif
keragaman
contaoh yang
dapat dijelaskan
Interpretasi

Elemen matriks residual pada maximum

likelihood lebih kecil dari pada matriks
residual pemfaktoran komponen utama.
Total proporsi kumulatif keragaman pada
faktor komponen utama lebih besar
dibandingkan faktor maximum likelihood.
Maka tidak mengherankan bila kriteria
pemfaktoran komponen utama lebih dipilih.
Loading yang didapatkan dari analisis
faktor komponen utama berhubungan
dengan komponen utama yang
.mengoptimumkan keragaman
 Lanjutan …

Pada solusi maximum likelihood semua

variabel pada faktor pertama memiliki loading
yang positif dan relatif besar. Faktor tersebut
disebut faktor pasar. Faktor loading yang
kedua memiliki tanda yang konsisten dengan
kontras atau faktor industri, tapi magnitudo-
nya relatif kecil dibeberapa kasus. Mungkin
dapat diidentifikasikan bahwa faktor ini adalah
pembandingan antara DuPont dan Texaco
ROTASI FAKTOR

Dipergunakan untuk memudahkan 

interpretasi
Merupakan transformasi ortogonal 
dari loading factors
L*= LT
dimana TT’=T’T=I
Beberapa jenis transformasi yaitu, 
varimax, oblique, quartimax, dan
lain-lain
ROTASI FAKTOR
(lanjutan)

Rotasi Varimax 

Merupakan rotasi yang paling sering

dipergunakan pada aplikasi. Merupakan
transformasi ortogonal yang diperoleh
:dengan cara memaksimumkan
 p  * 2 2  p l 2  2 
k
 1  l ij  1 
   
j 1  p i 1  hi 
    
ij

p i 1 hi  
 
 
ROTASI FAKTOR
(lanjutan)

Rotasi Oblique 
Digunakan apabila transformasi
ortogonal terhadap matriks loading
faktor menghasilkan faktor yang
.masih sulit diinterpretasikan
 ROTASI FAKTOR
(lanjutan)

Rotasi quartimax 
Transformasi ortogonal dengan tujuan 
memperoleh
yang memaksimumkan 
* 4
 l
i j
ij

L Adalah matriks loading faktor yang ingin ditransformasi menggunakan matriks

ortogonal  menjadi L*  L
sehingga
1  1  1  1 * 2

Pk i
j l * 4
ij   Pk 
 j   Pk i
l * 2
ij j l * 4
ij   
 Pk i
l ij 

 i 

Mencapai maximum.
Data harga saham dianalisa kembali dengan
menggunakan metode maksimum likelihood
dengan tetap memakai dua model faktor

Komunalitas dengan menggunakan metode

:maksimum likelihood adalah
hˆi  ˆi1  ˆi 2  (0.684) 2  (0.189) 2  0.50
2 2 2

:Matriks residualnya adalah

 0 0.005  0.004  0.024  0.004 
 0.005 0  0.003  0.004 0.000 

R  Lˆ Lˆ '   0.004  0.003 0 0.031  0.004 
 
 0.024  0.004 0.031 0  0.000
 0,004 0.000  0.004  0.000 0 
 Tabel pendugaan faktor loading, komunalitas,
ragam khusus dan total proporsi keragaman
contoh yang dapat dijelaskan
Variabel Maksimum likelihood Komponen utama
Penduga Penduga faktor
faktor ~ ~2 ~2
~i  1  hi
 i  1  hi
F1 F2 F1 F2
Allied .1 0.684 0.189 0.50 0.783 0.217- 0.34
Chemical
DuPont .2 0.694 0.517 0.25 0.773 0.458- 0.19
Union .3 0.681 0.248 0.47 0.794 0.234- 0.31
Karbide
Exxon .4
0.621 0.073- 0.61 0.713 0.412 0.27
Texaco .5
0.792 0.442- 0.18 0.712 0.524 0.22
Total proporsi 0.485 0.598 0.571 0.733
kumulatif
keragaman
contaoh yang
dapat dijelaskan
Interpretasi

Elemen matriks residual pada maximum

likelihood lebih kecil dari pada matriks
residual pemfaktoran komponen utama.
Total proporsi kumulatif keragaman pada
faktor komponen utama lebih besar
dibandingkan faktor maximum likelihood.
Maka tidak mengherankan bila kriteria
pemfaktoran komponen utama lebih dipilih.
Loading yang didapatkan dari analisis
faktor komponen utama berhubungan
dengan komponen utama yang
.mengoptimumkan keragaman
 Lanjutan …

Pada solusi maximum likelihood semua

variabel pada faktor pertama memiliki loading
yang positif dan relatif besar. Faktor tersebut
disebut faktor pasar. Faktor loading yang
kedua memiliki tanda yang konsisten dengan
kontras atau faktor industri, tapi magnitudo-
nya relatif kecil dibeberapa kasus. Mungkin
dapat diidentifikasikan bahwa faktor ini adalah
pembandingan antara DuPont dan Texaco