Model Autoregressive

Moving Average (ARMA)

SEM GANJIL 2023-2024

TIM DOSEN ANALISIS DERET WAKTU: IND

 Definisi
Deret waktu yang merupakan gabungan dari sebagian bersifat autoregresif dan sebagian lagi
Moving Average, kita memperoleh model deret waktu AR yang mempunyai orde p dan dan MA
yang ber-orde q. Secara umum, bentuk umumnya:

𝑌𝑡 = 𝜙1 𝑌𝑡−1 + 𝜙2 𝑌𝑡−2 + ⋯ + 𝜙𝑝 𝑌𝑡−𝑝 + 𝜀t −𝜃1 𝜀𝑡−1 −𝜃2 𝜀𝑡−2 − 𝜃3 𝜀𝑡−3 − ⋯ − 𝜃𝑞 𝜀𝑡−𝑞

𝑌𝑡 merupakan Proses Gabungan Autoregressive Moving Average order p dan q, disingkat
ARMA(p,q).
Asumsi: tidak ada faktor persekutuan dalam polinomial autoregresif dan Moving Average.
Model ARMA(1,1)
Persamaan:
Model ARMA dengan p = 1, dan q = 1, yaitu:
𝑌𝑡 = 𝜙1 𝑌𝑡−1 + 𝜀t −θ1 𝜀𝑡−1
Nilai 𝑌𝑡 bergantung pada nilai Y pada satu periode sebelumnya sebesar 𝜙𝑌𝑡−1 , white noise satu
periode sebelumnya sebesar θ𝜀𝑡−1 , dan white noise periode sekarang 𝜀t.
Asumsi :
• 𝜀t~ NOR(0, 𝜎𝜀2 )
• Tidak ada autokorelasi, 𝜌𝑘 = 0 , 𝑢𝑛𝑡𝑢𝑘 𝑘 > 0
Autokovariansi (𝜸𝒌 )
Model ARMA(1,1) dikalikan kedua sisi dengan 𝑌𝑡−1 kemudian dihitung nilai ekspektasinya:
𝛾1 = 𝐸 𝑌𝑡 , 𝑌𝑡−1 = 𝐸(𝜙1 𝑌𝑡−1 + 𝜀t −θ1 𝜀𝑡−1 , 𝑌𝑡−1 )
= 𝜙1 𝐸 𝑌𝑡−1 , 𝑌𝑡−1 + 𝐸 𝜀𝑡 , 𝑌𝑡−1 − θ1 𝐸 𝜀𝑡−1 , 𝑌𝑡−1
Diasumsikan 𝜀t dan 𝑌𝑡 tidak saling bebas, sehingga perlu dihitung dulu 𝐸 𝜀𝑡 , 𝑌𝑡−1 dan 𝐸 𝜀𝑡−1 , 𝑌𝑡−1
𝐸 𝜀𝑡 , 𝑌𝑡−1 = 𝐸(𝜀𝑡 , 𝜙1 𝑌𝑡−2 + 𝜀𝑡−1 −θ1 𝜀𝑡−2 )
= 𝐸 𝜀𝑡 , 𝜙1 𝑌𝑡−2 + 𝐸 𝜀𝑡 , 𝜀𝑡−1 − 𝐸(𝜀𝑡 , θ1 𝜀𝑡−2 )
=0
𝐸 𝜀𝑡−1 , 𝑌𝑡−1 = 𝐸(𝜀𝑡−1 , 𝜙1 𝑌𝑡−2 + 𝜀𝑡−1 −θ1 𝜀𝑡−2 )
= 𝐸 𝜀𝑡−1 , 𝜙1 𝑌𝑡−2 + 𝐸 𝜀𝑡−1 , 𝜀𝑡−1 − 𝐸(𝜀𝑡−1 , θ1 𝜀𝑡−2 )
= 𝜎𝜀2
Diperoleh: 𝛾1 = 𝜙1 𝐸 𝑌𝑡−1 , 𝑌𝑡−1 + 𝐸 𝜀𝑡 , 𝑌𝑡−1 − θ1 𝐸 𝜀𝑡−1 , 𝑌𝑡−1
= 𝜙1 𝛾0 + 0 − θ1 𝜎𝜀2
𝛾1 = 𝜙1 𝛾0 − θ1 𝜎𝜀2
Autokovariansi (𝜸𝒌 )
Dengan cara yang sama dapat dihitung 𝛾2 :
𝛾2 = 𝐸 𝑌𝑡 , 𝑌𝑡−2 = 𝐸(𝜙1 𝑌𝑡−1 + 𝜀t −θ1 𝜀𝑡−1 , 𝑌𝑡−1 )
= 𝜙1 𝐸 𝑌𝑡−1 , 𝑌𝑡−2 + 𝐸 𝜀𝑡 , 𝑌𝑡−2 − θ1 𝐸 𝜀𝑡−1 , 𝑌𝑡−2
Diasumsikan 𝜀t dan 𝑌𝑡 tidak saling bebas, sehingga perlu dihitung dulu 𝐸 𝜀𝑡 , 𝑌𝑡−1 dan 𝐸 𝜀𝑡−1 , 𝑌𝑡−1
𝐸 𝜀𝑡 , 𝑌𝑡−2 = 𝐸(𝜀𝑡 , 𝜙1 𝑌𝑡−3 + 𝜀𝑡−2 −θ1 𝜀𝑡−3 )
= 𝐸 𝜀𝑡 , 𝜙1 𝑌𝑡−3 + 𝐸 𝜀𝑡 , 𝜀𝑡−2 − 𝐸(𝜀𝑡 , θ1 𝜀𝑡−3 )
=0
Diperoleh: 𝛾2 = 𝜙1 𝐸 𝑌𝑡−1 , 𝑌𝑡−2 + 𝐸 𝜀𝑡 , 𝑌𝑡−2 − θ1 𝐸 𝜀𝑡−1 , 𝑌𝑡−2
= 𝜙1 𝐸 𝑌𝑡−1 , 𝑌𝑡−2 + 0 − 0
𝛾2 = 𝜙1 𝛾1
Dengan cara yang sama akan didapatkan: 𝛾𝑘 = 𝜙1 𝛾𝑘−1
variansi (𝜸𝟎 )
𝛾0 = 𝐸 𝑌𝑡 , 𝑌𝑡 = 𝐸(𝜙1 𝑌𝑡−1 + 𝜀t −θ1 𝜀𝑡−1 , 𝑌𝑡 )
= 𝜙1 𝐸 𝑌𝑡−1 , 𝑌𝑡 + 𝐸 𝜀𝑡 , 𝑌𝑡 − θ1 𝐸(𝜀𝑡−1 , 𝑌𝑡 )
Diasumsikan 𝜀t dan 𝑌𝑡 tidak saling bebas, sehingga perlu dihitung dulu 𝐸 𝜀𝑡 , 𝑌𝑡 dan 𝐸 𝜀𝑡−1 , 𝑌𝑡
𝐸 𝜀𝑡 , 𝑌𝑡 = 𝐸(𝜀𝑡 , 𝜙1 𝑌𝑡−1 + 𝜀𝑡 −θ1 𝜀𝑡−1 )
= 𝐸 𝜀𝑡 , 𝜙1 𝑌𝑡−1 + 𝐸 𝜀𝑡 , 𝜀𝑡 − 𝐸(𝜀𝑡 , θ1 𝜀𝑡−1 )
= 0 + 𝜎𝜀2 − 0 = 𝜎𝜀2
𝐸 𝜀𝑡−1 , 𝑌𝑡 = 𝐸(𝜀𝑡−1 , 𝜙1 𝑌𝑡−1 + 𝜀𝑡 −θ1 𝜀𝑡−1 )
= 𝐸 𝜀𝑡−1 , 𝜙1 𝑌𝑡−1 + 𝐸 𝜀𝑡−1 , 𝜀𝑡 − 𝐸(𝜀𝑡−1 , θ1 𝜀𝑡−1 )
= 𝜙1 𝜎𝜀2 + 0 − θ1 𝜎𝜀2 = (𝜙1 − θ1 )𝜎𝜀2
variansi (𝜸𝟎 )
𝛾0 = 𝐸 𝑌𝑡 , 𝑌𝑡 = 𝐸(𝜙1 𝑌𝑡−1 + 𝜀t −θ1 𝜀𝑡−1 , 𝑌𝑡 )
= 𝜙1 𝐸 𝑌𝑡−1 , 𝑌𝑡 + 𝐸 𝜀𝑡 , 𝑌𝑡 − θ1 𝐸(𝜀𝑡−1 , 𝑌𝑡 )
= 𝜙1 𝛾1 + 𝜎𝜀2 − θ1 (𝜙1 − θ1 )𝜎𝜀2
= 𝜙1 𝛾1 + (1 − θ1 (𝜙1 − θ1 ))𝜎𝜀2

Dengan mengganti 𝛾1 = 𝜙1 𝛾0 − θ1 𝜎𝜀2 diperoleh

(1−2𝜙1 θ1 +θ21 ) 2
𝛾0 = 𝜎𝜀
1−𝜙12
Autokorelasi (ACF)

(1 − 2𝜙1 θ1 + θ12 ) 2
2 𝜙1 2 𝜎𝜀 − θ1 𝜎𝜀2
𝛾1 𝜙1 𝛾0 − θ1 𝜎𝜀 1 − 𝜙1
𝜌1 = = =
𝛾0 𝛾0 (1 − 2𝜙1 θ1 + θ12 ) 2
𝜎𝜀
1 − 𝜙12
Disederhanakan menjadi:
(𝜙1 − 2𝜙12 θ1 + 𝜙1 θ12 ) − θ1 (1 − 𝜙12 ) 1 − 𝜙12
𝜌1 = ×
1 − 𝜙12 (1 − 2𝜙1 θ1 + θ12 )

(1−𝜙1 θ1 )(𝜙1 −θ1 )

𝜌1 =
1−2𝜙1 θ1 +θ21

𝛾2 𝜙1 𝛾1 𝛾1
Dengan cara bertahap dari 𝜌2 = = = 𝜙1 = 𝜙1 𝜌1
𝛾0 𝛾0 𝛾0
Autokorelasi (ACF)
𝛾2 𝜙1 𝛾1 𝛾1
Dengan cara bertahap dari 𝜌2 = = = 𝜙1 = 𝜙1 𝜌1
𝛾0 𝛾0 𝛾0

(1−𝜙1 θ1 )(𝜙1 −θ1 ) 𝑘−1

Diperoleh 𝜌𝑘 = 𝜙1 𝜌𝑘−1 = 𝜙1
1−2𝜙1 θ1 +θ21

Fungsi Autokorelasi model ARMA(1,1):

1 𝑘=0
𝜌𝑘 = ൞(1 − 𝜙1 θ1 )(𝜙1 −θ1 ) 𝜙 𝑘−1 𝑘 ≥1
1
1 − 2𝜙1 θ1 + θ12

(1−𝜙1 θ1 )(𝜙1 −θ1 )

Karena bersifat konstan, dan 𝜙1𝑘−1 dengan nilai 𝜙1 < 1, maka ACF ARMA(1,1)
1−2𝜙1 θ1 +θ21
akan turun secara eksponensial.
 PACF
Menggunakan dasar dari PACf model MA(1), PACF ARMA(1,1) dapat dihitung dengan
memasukkan nilai parameter tertentu.
Untuk memenuhi sifat stasioneritas dan invertibilitas parameter model ARMA(1,1), batasan yang
digunakan adalah 𝜙1 < 1 dan 𝜃1 < 1.

PACF model MA(1)

Dengan aturan Crammer rumus dasar PACF
k = 1 maka ∅11 = 𝜌1
Jika autokorelasi 𝜌1 diganti autokorelasi dari MA(1), maka PACF MA(1)
−𝜃1 −𝜃1 1−𝜃12 −𝜃1 −𝜃12 1−𝜃12
∅11 = = ; ∅22 = =
1+𝜃12 1−𝜃14 1+𝜃12 +𝜃14 1−𝜃16

−𝜃1 −𝜃13 1−𝜃12 −𝜃1𝑘 1−𝜃12

∅33 = = ; untuk 𝑘 ≥1 → ∅𝑘𝑘 =
1+𝜃12 +𝜃14 +𝜃16 1−𝜃18 1−𝜃1
2(𝑘+1)
Beberapa contoh plot ACF dan PACF
Jika 𝜙1 positif dan 𝜃1
positif, maka plot ACF dan
PACF bertanda positif
kemudian turun secara
eksponensial

Jika 𝜙1 positif dan 𝜃1

negatif, maka plot ACF
bertanda positif kemudian
turun secara
eksponensial, dan plot
PACF lag 1 bertanda
positif kemudian turun
secara eksponensial
bergantian tanda
Beberapa contoh plot ACF dan PACF

Jika 𝜙1 negatif dan 𝜃1 positif,

maka plot ACF bertanda positif
kemudian turun secara
eksponensial bergantian tanda,
dan plot PACF bertanda
negative kemudian turun secara
eksponensial

Jika 𝜙1 negatif dan 𝜃1 negatif,

maka plot ACF dan PACF lag 1
bertanda negative kemudian
turun secara eksponensial
bergantian tanda.
ARMA(p,q) dengan konstan

Jika data deret waktu mempunyai pola horizontal dan stasioner dengan nilai 𝜇 ≠ 0, maka
model ARMA(p,q) perlu ditambah dengan konstan 𝜙0 .

Contoh data stasioner

dengan nilai 𝜇 ≠ 0
 ARMA(p,q) dengan konstan
𝑌𝑡 − 𝜇 = 𝜙1 (𝑌𝑡−1 − 𝜇) + 𝜙2 (𝑌𝑡−2 −𝜇) + ⋯ + 𝜙𝑝 (𝑌𝑡−𝑝 − 𝜇) + 𝜀t −𝜃1 𝜀𝑡−1 −𝜃2 𝜀𝑡−2 − 𝜃3 𝜀𝑡−3 − ⋯ − 𝜃𝑞 𝜀𝑡−𝑞
Disederhanakan menjadi:
𝑌𝑡 = 𝜙0 + 𝜙1 𝑌𝑡−1 + 𝜙2 𝑌𝑡−2 + ⋯ + 𝜙𝑝 𝑌𝑡−𝑝 + 𝜀t −𝜃1 𝜀𝑡−1 −𝜃2 𝜀𝑡−2 − 𝜃3 𝜀𝑡−3 − ⋯ − 𝜃𝑞 𝜀𝑡−𝑞
Dengan nilai 𝜙0 = 𝜇(1 − 𝜙1 − 𝜙2 − ⋯ − 𝜙𝑝 )

ARMA(1,1) dengan konstan

𝑌𝑡 = 𝜙0 + 𝜙1 𝑌𝑡−1 + 𝜀t −𝜃1 𝜀𝑡−1
Dengan nilai 𝜙0 = 𝜇(1 − 𝜙1 )
ACF dan PACF sama dengan ACF dan PACF model ARMA(1,1), karena nilai 𝜇 tidak mempengaruhi
bentuk ACF dan PACF.
Penerapannya, untuk data deret waktu 𝑌𝑡∗ yang mempunyai nilai 𝜇 ≠ 0, perlu dilakukan transformasi
𝑌𝑡 = 𝑌𝑡∗ − 𝜇, sehingga 𝑌𝑡 mempunyai nilai 𝜇 = 0
Soal
1. Sketch the autocorrelation functions for each of the following ARMA models:
a. ARMA(1,1) with φ = 0.7 and θ = 0.4.
b. ARMA(1,1) with φ = 0.7 and θ = −0.4.

2. Hitung dan plot ACF dan PACF dari model

a. ARMA(1,1), 𝑌𝑡 = 0.8𝑌𝑡−1 + 𝜀𝑡 − 0.5𝜀𝑡−1
b. ARMA(1,2), 𝑌𝑡 = 0.8𝑌𝑡−1 + 𝜀𝑡 − 0.7𝜀𝑡−1 + 0.6𝜀𝑡−2
 Referensi
• Kusdarwati, Heni, Analisis Deret Waktu Univariat Linier, UB Press, 2022
• https://www.researchgate.net/figure/ACF-and-PACF-for-ARMAp-q-This-illustrated-that-the-
pacf-is-zero-after-p-terms-for-ARp_fig1_340142416
• https://spureconomics.com/interpreting-acf-and-pacf-plots/