02 Pengantar Proses Stasioner New Presentation

Pengantar Proses Stasioner
I Wayan Sumarjaya (sumarjaya@unud.ac.id)
Program Studi Matematika, FMIPA, Universitas Udayana
I Wayan Sumarjaya (sumarjaya@unud.ac.id) Pengantar Proses Stasioner Program Studi Matematika, FMIPA, Univ
Topik
Topik
Latar Belakang
Konsep Proses Stokastik
Konsep Proses Stasioner
Fungsi Autokovarians dan Autokorelasi
Proses Linear
Model Deret Waktu
Model Deret Waktu?
Suatu model deret waktu untuk data amatan {xt } adalah spesifikasi
dari distribusi bersama (atau mungkin hanya nilai tengah dan
kovarians) dari barisan peubah acak Xt yang mana {xt } dipostulatkan
sebagai realisasi.
Suatu model deret waktu lengkap untuk barisan peubah acak
{X1 , X2 , . . . , } akan menspesifikasikan distribusi bersama (joint
distribution) dari vektor acak (X1 , . . . , Xn )T , n = 1, 2, . . . atau
ekuivalen dengan semua peluang
P(X1 ≤ x1 , . . . , Xn ≤ xn ), −∞ < x1 , . . . , xn < ∞, n = 1, 2, . . . .

(1)
Model Deret Waktu
Masalahnya?
Spesifikasi seperti ini jarang digunakan dalam deret waktu kecuali data
dibangkitkan oleh mekanisme sederhana yang dipahami dengan baik.
Selain itu, spesifikasi itu mengakibatkan terlalu banyak parameter yang
akan diestimasi dari data yang tersedia. Oleh karena itu, yang akan
kita lakukan adalah menspesifikasikan momen pertama dan momen
kedua dari distribusi bersama.
Sebagai contoh nilai harapan E(Xt ) dan E(Xt+h Xt ), t = 1, 2, . . . ,
h = 0, 1, 2, . . . . Kita akan memusatkan perhatian pada apa yang
disebut sifat-sifat momen tingkat kedua.
Langkah pertama dalam analisis deret waktu adalah memilih model

matematika yang sesuai untuk data.
Masing-masing observasi masa depan yang tidak diketahui sebagai
realisasi dari suatu peubah acak tertentu. Dengan kata lain, xt adalah
suatu nilai realisasi dari peubah acak tertentu Xt .
Lebih lanjut, deret waktu {xt , t ∈ T0 } adalah realisasi dari peubah
acak {Xt , t ∈ T0 }.
Proses Stokastik
Suatu proses stokastik adalah keluarga peubah {Xt , t ∈ T } yang

didefinisikan pada ruang peluang (Ω, F, P).
Fungsi {X (ω), ω ∈ Ω} pada T disebut realisasi atau lintasan sampel
(sample-paths) dari proses {Xt , t ∈ T }.
Pada analisis deret waktu himpunan indeks atau parameter T adalah
himpunan titik-titik waktu, biasanya {0, ±1, ±2, . . . }, {1, 2, 3, . . . },
[0, ∞), atau (−∞, ∞). Himpunan indeks T biasanya himpunan
bagian dari R.
Istilah deret waktu biasanya mengacu pada data dan realisasi dari
proses.
Contoh
Misalkan A dan Θ adalah peubah-peubah acak bebas dengan A ≥ 0 dan Θ

berdistribusi secara seragam pada [0, 2π). Suatu proses stokastik
{X (t), t ∈ R} dapat didefinisikan untuk v ≥ 0 dan r > 0 oleh
Xt = r −1 A cos(vt + Θ). (2)
Salah satu realisasi Persamaan (2) adalah
Xt = 2 cos(0,5t + 0,2π). (3)
Kode R
1 > t <- 1:200 # membuat barisan bilangan dari 1 s.d. 200

2 > x <- 2*cos(0.5*t + 0.2*pi) # realisasi x
3 > plot.ts(x,col="blue") #
Gambar 1 memperlihatkan 200 amatan yang merupakan realisasi dari

proses (3).
2
1
0
z
−1
−2
0 50 100 150 200
Time
Gambar: Plot 200 amatan dari realisasi Xt = 2 cos(0,5t + 0,2π).
Contoh
Bagaimana kalau model pada (3) kita tambahkan derau (noise)?
Xt = r −1 A cos(vt + Θ) + εt (4)
1 > e <- rnorm(200) #

2 > x <- x + e
3 > plot.ts(x,col="blue")
Plot simulasi
Gambar: Plot 200 amatan dari realisasi Xt = 2 cos(0,5t + 0,2π) + εt .
Salah satu konsep penting dalam proses stokastik adalah proses

stasioner.
Secara intuitif stasioner atau pegun berarti proses mencapai suatu
jenis tertentu keseimbangan statistika (statistical equilibrium) dan
distribusi dari proses tidak banyak berubah.
Dengan demikian, sifat-sifat statistika dari proses (stasioner) bukanlah
fungsi waktu.
Kondisi ini sangat terbatas dan kadang sulit diverifikasi.
Gambar: Stationary?
Stasioner
Misalkan {Xt } adalah suatu deret waktu dengan E(Xt2 ) < ∞. Fungsi
nilai tengah (mean function) deret {Xt } adalah
µX (t) = E(Xt ). (5)
Fungsi kovarians (covariance function) {Xt } adalah
γX (r , s) = cov(Xr , Xs )
= E[(Xr − µX (r ))(Xs − µX (s))]. (6)
untuk semua bilangan bulat r dan s.
Konsep Stasioner
Pada saat distribusi bersama dari semua himpunan peubah acak dari proses
tidak dipengaruhi oleh pergeseran baik maju maupun mundur dalam waktu,
dalam hal ini distribusi bersama bebas dari waktu, maka proses dikatakan
stasioner kuat atau tegas (strict or strong stasionarity ).
Konsep Stasioner
Suatu deret waktu {Xt , t = 0, ±1, ±2, . . . } dikatakan stasioner kuat

(strong stationary ) jika distribusi bersama (X1 , . . . , Xn ) dan
(X1+h , . . . , Xn+h ) adalah sama untuk semua bilangan bulat h dan
n > 0.
Suatu deret waktu {Xt } dikatakan stasioner lemah (weakly stationary )
jika
µX (t) bebas dari t,
γX (t + h, t) bebas dari t untuk masing-masing h.
Contoh stasioner kuat
Jika {Xt }, t = −∞, . . . , ∞ adalah barisan IID, barisan ini stasioner kuat.
1 > iid <- rnorm(200,0,1) # bilangan acak N(0,1) sebanyak 200
2 > plot.ts(iid,col="blue")
3 > abline(h=0,col="red")
Plot IID Noise

2
1
0
iid
−1
−2
0 50 100 150 200
Time
Gambar: Plot IIDN.
Stasioner Kuat
Dalam praktiknya, asumsi stasioner kuat tidak selalu perlu dan bentuk
yang “lebih lemah” dari kestasioneran bisa diasumsikan.
Pada saat momen statistika dari deret waktu sampai ke orde k hanya
tergantung pada perbedaan waktu (time difference) dan tidak
tergantung pada waktu terjadinya data data yang digunakan untuk
mengestimasi momen, proses dikatakan stasioner lemah (weak
stationarity ) dengan tingkat k.
Proses stokastik yang dideskripsikan oleh nilai tengah, varians, dan
fungsi autokorelasi dikatakan stasioner tingkat orde kedua
(second-order stationary ) atau stasioner dalam kovarians (covariance
stationary ).
Stasioner Lemah
Suatu deret waktu {Xt } dikatakan stasioner lemah (weakly stationary ) jika
µX (t) bebas dari t,
γX (t + h, t) bebas dari t untuk masing-masing h.
Beberapa sifat stasioner kuat
peubah acak Xt berdistribusi identik,

d
peubah (Xt , Xt+h )T = (X1 , X1+h )T untuk semua bilangan bulat t dan
h,
deret {Xt } stasioner lemah jika E(Xt2 ) < ∞ untuk semua t,
stasioner lemah tidak berimplikasi stasioner kuat,
suatu barisan yang berdistribusi identik dan saling bebas adalah
stasioner tegas.
Beberapa Istilah
Stasioner kuat (strong stationary ) disebut pula stasioner tegas

(strictly stationary ) atau stasioner lengkap (completely stationary ).
Stasioner lemah (weakly stationary ) disebut pula stasioner kovarians
(covariance stationary ), stasioner tingkat dua (second order weakly
stationary ), atau stasioner dalam arti luas (wide-sense stationary )
Beberapa Istilah
Jika deret waktu {Xt } stasioner kuat dan E(Xt2 ) < ∞ untuk semua t,
maka {Xt } juga stasioner lemah.
Istilah stasioner biasanya mengacu kepada stasioner lemah seperti
pada definisi stasioner, kecuali dikatakan lain.
Bersesuaian dengan kondisi (2) pada definisi stasioner istilah fungsi
kovarians yang mengacu kepada suatu deret stasioner {Xt } maka yang
dimaksud fungsi γX dari suatu peubah yang didefinisikan oleh
γX (h) = γX (h, 0) = γX (t + h, t). (7)
Fungsi γX (·) disebut fungsi autokovarians adalah fungsi autokovarians

pada nilai beda kala (lag ) h.
Fungsi autokovarians dan autokorelasi teoretis
Misalkan {Xt } adalah deret waktu stasioner. Fungsi autokovarians

{Xt } pada beda kala h adalah
γX (h) = cov(Xt+h , Xt )
= E[(Xt+h − µX (t + h))(Xt − µX (t))]. (8)
Misalkan {Xt } adalah deret waktu stasioner. Fungsi autokorelasi {Xt }

pada beda kala h adalah
ρX (h) = cor(Xt+h , Xt )
γX (h)
= . (9)
γX (0)
Fungsi autokovarians dan autokorelasi teoretis
fungsi autokorelasi adalah fungsi autokovarians yang dinormalkan

(normalized ) menjadi satu pada h = 0. Fungsi autokovarians dan
autokorelasi deret waktu stasioner memiliki beberapa sifat penting.
Berikut ini adalah beberapa sifat penting fungsi autokovarians:
γ(0) ≥ 0,
|γ(h)| ≤ γ(0) untuk semua h,
γ(·) adalah fungsi genap, artinya γ(h) = γ(−h) untuk semua h.
Fungsi Autokovarians & Autokorelasi Sampel
Kita telah melihat bagaimana cara menghitung fungsi autokorelasi dan

autokovarians untuk beberapa model deret waktu sederhana.
Dalam praktik kita tidak memulai dengan sebuah model, tetapi
dengan data amatan {x1 , . . . , xn }. Untuk mengetahui tingkat
ketergantungan pada data dan memilih model untuk data kita akan
menggunakan fungsi autokorelasi sampel.
Jika kita yakin bahwa data adalah nilai realisasi dari suatu data deret
waktu stasioner {Xt }, maka fungsi autokorelasi sampel akan
memberikan estimasi terhadap fungsi autokorelasi {Xt }. Estimasi ini
memberikan informasi model-model deret waktu stasioner yang cocok
untuk mewakili ketergantungan pada data.
Sebagai contoh, suatu fungsi autokorelasi sampel yang hampir nol
untuk beda kala (lag ) yang tidak nol menunjukkan model yang sesuai
untuk data mungkin IID noise.
Catatan
Berdasarkan Persamaan (9), dapat kita lihat bahwa fungsi autokorelasi

adalah fungsi autokovarians yang dinormalkan (normalized ) menjadi
satu pada h = 0.
Autokorelasi disebut juga korelasi serial (serial correlation).
Sifat-sifat Fungsi Autokovarians dan Autokorelasi
Berikut ini adalah beberapa sifat penting fungsi autokovarians:

γ(0) ≥ 0,
|γ(h)| ≤ γ(0) untuk semua h,
γ(·) adalah fungsi genap, artinya γ(h) = γ(−h) untuk semua h.
Sifat-sifat lain fungsi autokovarians antara lain:
γ(t, t) = var(Xt ),
γ(t, s) = γ(s, t),
p
|γ(t, s)| ≤ γ(t, t)γ(s, s).
Fungsi autokorelasi memiliki semua sifat-sifat fungsi autokovarians dan

memenuhi satu kondisi tambahan yaitu ρ(0) = 1. Kenapa?
Lebih khusus lagi, fungsi ρ(·) dikatakan fungsi autokorelasi dari proses
stasioner jika dan hanya jika ρ(·) adalah fungsi autokorelasi dengan
ρ(0) = 1.
Lebih jelasnya berikut adalah sifat-sifat fungsi autokorelasi:

1 ρ(t, t) = 1,
2 ρ(t, s) = ρ(s, t),
3 |ρ(t, s)| ≤ 1.
Jika ρ(t, s) = 0, maka Xt dan Xs tidak berkorelasi.
Matriks Autokovarians dan Autokorelasi
Misalkan terdapat n amatan historis dalam vektor XT = (X1 , . . . , Xn ).

Matriks autokovarians untuk proses stasioner dari n amatan berurut
didefinisikan oleh
Γn = E[(X − µ )(X − µ )T ] (10)
dengan µ adalah vektor berdimensi n × 1 yang berisi n entri identik untuk
µ.
Matriks autokovarians ini dapat dinyatakan sebagai matriks simetrik

berbentuk
 
γ(0) γ(1) · · · γ(n − 1)
 γ(1) γ(0) · · · γ(n − 2)
Γn =  .. .. .. (11)
 
.. 
 . . . . 
γ(n − 1) γ(n − 2) · · · γ(0)
 
1 ρ(1) · · · ρ(n − 1)
 ρ(1) 1 · · · ρ(n − 2)
= σ2  .. .. .. (12)
 
.. 
 . . . . 
ρ(n − 1) ρ(n − 2) · · · 1
2
= σ Rn . (13)
Ingat γ(0) = σ 2 .
Matriks autokorelasi Rn didefinisikan sebagai Γn /γ(0) = Γn /σ 2 . Misalkan

untuk peubah acak Xt , Xt−1 , . . . , Xt−n+1 kita definisikan fungsi linear
Lt = l1 (xt − µ) + l2 (zt−1 − µ) + · · · + ln (zt−n+1 − µ). (14)
Sekarang misalkan vektor lT = (l1 , l2 , . . . , ln ). Kita bisa menyatakan

Lt = lT (z − µ ). Fungsi kovarians untuk proses stasioner simetrik pada beda
kala nol sehingga cov(Xi , Xj ) = γ(|j − i|).
Dengan demikian, varians L adalah
var(L) = cov(Lt , Lt ) (15)

= E(Lt LT
t ) (16)
= E[l (z − µ )(lT (z − µ ))T ]
T
(17)
T T
= E[l (z − µ )(z − µ ) ] (18)
= lT E[(z − µ )(z − µ )T ]l (19)
X n X n
= li lj γ(|j − i|). (20)
i=1 j=1
Jika semua l taknol dan deret waktu tidak takdeterministikk, semua

var(Lt ) lebih besar dari nol dan bentuk kuadratik ini definit positif.
Oleh karena itu, matriks autokovarians dan autokorelasi untuk
sebarang proses stasioner adalah positif definit.
Lebih lanjut matriks autokorelasi definit positif ini berimplikasi bahwa
determinan dan semua minor utama (principal minors) lebih besar dari
nol.
Contoh Matriks Autokorelasi n = 2
Matriks autokorelasi untuk n = 2 berbentuk:

1 ρ1 2
ρ1 1 = 1 − ρ > 0. (21)

Dengan demikian, −1 < ρ < 1.
Matriks autokorelasi untuk n = 3 berbentuk:

1 ρ1 ρ2

ρ1
1 ρ1 > 0. (22)
ρ2 ρ1 1
Untuk matriks ini beberapa kondisi untuk ρ yang harus dipenuhi. Pertama,

1 ρ1 2
ρ1 1 = 1 − ρ1 > 0. (23)

Kemudian,
1 ρ2 2
ρ2 1 = 1 − ρ2 > 0; (24)

dan
1 ρ1 ρ2
ρ1 1 ρ1 = 2ρ2 ρ21 − 2ρ21 − ρ22 + 1 > 0.

(25)
ρ2 ρ1 1
Gabungan dari ketiga kondisi ini adalah
−1 < ρ1 < 1, (26)

−1 < ρ2 < 1, (27)
ρ2 − ρ21
−1 < < 1. (28)
1 − ρ21
Karena Rn harus definit positif untuk semua nilai n, fungsi autokorelasi

proses stasioner memenuhi banyak kondisi.
Teorema
Suatu fungsi nilai real yang didefinisikan pada bilangan bulat adalah fungsi
autokorelasi dari suatu proses stasioner jika dan hanya jika fungsi tersebut
genap dan definit nonnegatif.
Definit Positif
Suatu fungsi bernilai real f yang didefinisikan pada bilangan bulat adalah
definit positif jika
Xn
ai f (i − j)aj ≥ 0 (29)
i,j=1
untuk semua bilangan bulat positif n dan vektor a = (a1 , . . . , an )T dengan

komponen-komponen bernilai real ai .
Model Deret Waktu Stasioner
Contoh: IIDN
Model paling sederhana untuk suatu deret waktu stasioner adalah model
tanpa pengaruh tren dan musiman dengan amatan-amatan peubah-peubah
acak yang saling bebas dan berdistribusi identik (independent and
identically distributed ) dengan nilai tengah nol. Barisan peubah acak
X1 , X2 , . . . yang memiliki sifat ini disebut IID noise. Jika deret {Xt } adalah
IID noise dan E(Xt2 ) = σ 2 < ∞ maka sifat pertama jelas dipenuhi karena
E(Xt ) = 0 untuk semua t.
Contoh: IIDN
γX (t + h, t) = cov(Xt+h , Xt )
= E[(Xt+h − µ(Xt+h ))(Xt − µ(Xt ))]
= E[(Xt+h − 0)(Xt − 0)]
= E[(Xt+h Xt )] (30)
Apabila h = 0, maka Persamaan (30) menjadi
γX (t, t) = E[(Xt+0 Xt )]
= E[(Xt2 )]
= σ2. (31)
Contoh: IIDN
Apabila h = −1, maka Persamaan (30) menjadi
γX (t − 1, t) = E[(Xt−1 Xt )]
= E(Xt−1 )E(Xt )
= 0. (32)
Dengan demikian nilai γX (t + h, t) akan selalu bernilai 0 apabila |h| =

6 0.
(
σ 2 , jika h = 0;
γX (t + h, t) = (33)
0, jika h 6= 0;
yang tidak tergantung pada t.
Contoh: IIDN
Selanjutnya, fungsi autokorelasi untuk proses ini dapat dihitung dengan

membagi (44) dengan γ(0):
(
1, jika h = 0;
ρX (t + h, t) = (34)
0, jika h 6= 0.
Jadi IID noise dengan momen kedua hingga adalah stasioner dan
dinotasikan
{Xt } ∼ IID(0, σ 2 ). (35)
Simulasi IIDN
Sekarang kita akan membuat plot fungsi teoretis dari fungsi autokovarians
dan autokorelasi dari IID noise. Asumsikan σ 2 = 0,75.
1 > h = 1:10
2 > gamma.2 = c(0.75,rep(0,length(h)-1))
3 > par(mfrow=c(2,1))
4 > plot(h,gamma.2,main="Autokovarians IID
5 + noise",type="h",ylim=c(-1,1),col="blue",ylab=expression(ga
6 > abline(h=0)
7 > rho.2 = c(1,rep(0,length(h)-1))
8 > plot(h,sigma.2,main="Autokorelasi IID
9 + noise",type="h",ylim=c(-1,1),col="blue",ylab=expression(rh
10 > abline(h=0)
Plot γ(h) dan ρ(h) teoretis
Gambar 5 memperlihatkan plot fungsi autokorelasi dan autokovarians

teoretis IID noise untuk σ 2 = 0,75.
Autokovarians IID noise
1.0
0.0
γ
−1.0
2 4 6 8 10
Autokorelasi IID noise

1.0
0.0
ρ
−1.0
2 4 6 8 10
Gambar: Plot γ(h) dan ρ(h) teoretis untuk σ 2 = 0,75
Contoh Realisasi IIDN

Berikut ini kita akan menyimulasikan 200 realisasi IID(0, 1) (lihat
Gambar 6).
1 > iid <- rnorm(200,0,1)
2 > plot.ts(iid)
3
2
1
iid
0
−1
−2
−3
0 50 100 150 200
Time
Gambar: Plot 200 realisasi IID(0, 1).

Contoh Realisasi IIDN

Gambar 7 memperlihatkan fungsi autokovarians dan autokorelasi IID
sampel noise (Lihat materi berikutnya).
Series iid
1.0
ACF (cov)
0.6
0.2
−0.2
0 5 10 15 20
Lag
Series iid
1.0
0.6
ACF
0.2
−0.2
0 5 10 15 20
Lag
Gambar: Fungsi autokovarians dan autokorelasi sampel IID noise.
Contoh: WN
Jika {Xt } adalah barisan peubah-peubah acak yang tidak berkorelasi,

masing-masing dengan nilai tengah 0 dan varians σ 2 , maka {Xt } juga
stasioner dengan fungsi kovarians yang sama seperti IID noise. Barisan ini
disebut derau putih (white noise) dengan nilai tengah 0 dan varians σ 2 ,
dinotasikan
{Xt } ∼ WN(0, σ 2 ). (36)
Model MA(1)
Misalkan suatu deret waktu didefinisikan oleh
Xt = εt + θεt−1 , t = 0, ±1, ±2, . . . (37)
dengan {εt } ∼ WN(0, σ 2 ) dan θ adalah konstanta bilangan real.
Model MA(1)
Berdasarkan Persamaan (37) dapat dihitung
E(Xt ) = E(εt + θεt−1 )

= E(εt ) + θE(εt−1 )
= 0. (38)
Selanjutnya
var(Xt ) = var(εt + θεt−1 )

= var(εt ) + θ2 var(εt−1 ) + 2cov(εt , θεt−1 )
= σ2 + θ2 σ2 + 0
= σ 2 (1 + θ2 ). (39)
Model MA(1)
Berdasarkan Persamaan (39) diperoleh E(Xt2 ) = σ 2 (1 + θ2 ) < ∞.

Kemudian kita dapat menghitung fungsi autokovarians Xt , yakni
γX (t + h, t) = E[(Xt+h − µ(Xt+h ))(Xt − µ(Xt ))]

= E[(Xt+h − 0)(Xt − 0)]
= E[(Xt+h Xt )]
= E[(εt+h + θεt+h−1 )(εt + θεt−1 )] (40)
Model MA(1)
Untuk h = 0, Persamaan (40) menjadi
γX (t + h, t) = E[(εt + θεt−1 )(εt + θεt−1 )]

= E[(ε2t + 2θεt εt−1 + θ2 ε2t−1 )]
= E(ε2t ) + 2θE(εt )E(εt−1 ) + θ2 E(ε2t−1 )
= σ2 + θ2 σ2
= σ 2 (1 + θ2 ). (41)
Model MA(1)
Selanjutnya untuk h = 1, Persamaan (40) menjadi
γX (t + 1, t) = E[(εt+1 + θεt )(εt + θεt−1 )]

= E[(εt+1 εt + θεt+1 εt−1 + θεt εt + θ2 εt εt−1 )]
= E(εt+1 )E(εt ) + θE(εt+1 )E(εt−1 ) + θE(ε2t ) + θ2 E(εt )E(εt−1 )
= 0 + 0 + θσ 2 + 0
= θσ 2 . (42)
Model MA(1)
Selanjutnya untuk h = −1, Persamaan (40) menjadi
γX (t − 1, t) = E[(εt−1 + θεt−2 )(εt + θεt−1 )]

= E[(εt−1 εt + θεt−1 εt−1 + θεt−2 εt + θ2 εt−2 εt−1 )]
= E(εt−1 )E(εt ) + θE(ε2t−1 ) + θE(εt−2 )E(εt ) + θ2 E(εt−2 )E(εt−1 )
= 0 + θσ 2 + 0 + 0
= θσ 2 . (43)
Model MA(1)
Selanjutnya dapat dihitung untuk |h| > 1 nilai γX (t + h, t) = 0. (Coba

Anda periksa untuk h = ±2 dan h = ±3). Dengan demikian, fungsi
autokovariansnya adalah

2 2
σ (1 + θ ), jika h = 0;

γX (t + h, t) = σ 2 θ, jika h = ±1; (44)

0, jika |h| > 1.

Model MA(1)
Dengan demikian deret waktu Xt adalah stasioner. Kemudian, fungsi

autokorelasi {Xt } dapat dihitung untuk masing-masing h. Mengingat
γX (0) = γX (0, 0) = γX (t + 0, t) = σ 2 (1 + θ2 ), maka untuk h = 0
γX (0)
ρX (0) = = 1. (45)
γX (0)
Untuk h = 1, γX (1) = γX (t + 1, t) = θσ 2 sehingga
θσ 2
ρX (1) =
σ 2 (1 + θ2 )
θ
= . (46)
(1 + θ2 )
Model MA(1)
Untuk h = −1, γX (−1) = γX (t − 1, t) = θσ 2 sehingga
θσ 2
ρX (−1) =
σ 2 (1 + θ2 )
θ
= . (47)
(1 + θ2 )
Untuk |h| > 1, nilai γX (h) = 0. Jadi




 1, jika h = 0;
 θ
ρX (h) = , jika h = ±1; (48)

 (1 + θ2 )
jika |h| > 1.

0,
Model MA(1)
Proses pada Persamaan (37) disebut proses rata-rata bergerak (moving

average) tingkat satu, dinotasikan MA(1). Sekarang kita akan menghitung
fungsi autokorelasi teoretis untuk MA(1) untuk θ = 0,6 dan θ = −0,6
berdasarkan hasil pada Persamaan (48). Asumsikan σ 2 = 1. Plot ACF
teoretis untuk kedua θ dapat dilihat pada Gambar 8.
Plot ACF Teoretis
1 > par(mfrow=c(2,1))
2 > h <- 0:20
3 > plot(h,ARMAacf(ma=0.6,lag.max=10),type="h",
4 + ylab=expression(theta==0.6),ylim=c(-1,1),col="blue")
5 > abline(h=0)
6 > plot(h,ARMAacf(ma=-0.6,lag.max=10),type="h",
7 + ylab=expression(theta==-0.6),ylim=c(-1,1),col="green")
8 > abline(h=0)
ACF MA(1) 1.0

θ = 0.6
0.0
−1.0
0 5 10 15
h
1.0
θ = − 0.6
0.0
−1.0
0 5 10 15
Simulasi
Berikut kita akan menyimulasikan 200 realisasi MA(1) dengan θ = 0,6 dan
θ = −0,6.
> par(mfrow=c(2,1))
> plot(arima.sim(list(order=c(0,0,1),ma=0.6), n=200),ylab="x",m
+0,6")
> plot(arima.sim(list(order=c(0,0,1),ma=-0.6), n=200),ylab="x",
+= -0,6")
Plot realisasi
Gambar 9 memperlihatkan realisasi dari MA(1) dengan θ = ±0,6.
theta = 0,6
2
0
z
−3
0 50 100 150 200
Time
theta = −0,6
4
2
z
0
−3
0 50 100 150 200
Time
Gambar: Plot MA(1) untuk θ = 0,6 dan θ = −0,6.
Model Fungsi Kosinus
Misalkan suatu model deret waktu
Xt = A sin(ωt + θ) (49)
dengan A merupakan peubah acak dengan nilai tengah nol dan varians 1
dan θ adalah peubah acak seragam pada [−π, π] dan saling bebas dengan
A.
Model Fungsi Kosinus

Kita hitung
E(Xt ) = E[A sin(ωt + θ)] = E(A)E[sin(ωt + θ)] = 0. (50)
Kemudian kovarians:
cov(Xt , Xt+h ) = E(Xt Xt+h ) (51)
= E{A sin(ωt + θ)A sin[ω(t + h) + θ]} (52)
= E(A2 )E{ 12 [cos(ωh) − cos(ω(2t + h) + 2θ)]} (53)
1 1
= 2 cos(ωh) − 2 E[cos(ω(2t + h) + 2θ)] (54)
Z π
1 1 1
= 2 cos(ωh) − 2 cos(ω(2t + h) + 2θ) 2π dθ (55)
−π
1 1
π
= 2 cos(ωh) − 8π [sin(ω(2t + h) + 2θ)] −π
(56)
1
= 2 cos(ωh) (57)
yang hanya bergantung pada beda kala h. Jadi proses ini stasioner dalam
kovarians atau stasioner saja.
Contoh Model Nonstasioner: Langkah Acak (Random Walk)
Langkah acak (random walk) {St , t = 0, 1, 2, . . . }, dimulai dari 0,

diperoleh dengan menjumlahkan secara kumulatif peubah-peubah acak IID.
Dengan demikian suatu langkah acak dengan nilai tengah 0 diperoleh
dengan mendefinisikan S0 = 0 dan
St = X1 + X2 + · · · + Xt , untuk t = 1, 2, . . . (58)
dengan {Xt } adalah IID noise.
Langkah Acak (Random Walk)

Jika {St } adalah langkah acak dan {Xt } adalah IID noise maka
E(St ) = E(X1 + X2 + · · · + Xt )
= E(X1 ) + E(X2 ) + · · · + E(Xt )
= 0 + 0 + ··· + 0
= 0; (59)
dan
E(St2 ) = E(X1 + X2 + · · · + Xt )2
= E(X12 + X22 + · · · + Xt2 + 2X1 X2 + · · · + 2Xt−1 Xt )
= E(X12 ) + E(X22 ) + · · · + E(Xt2 ) + 0 + · · · + 0
= σ2 + σ2 + · · · + σ2
= tσ 2 . (60)
Pada Persamaan (60) E(St2 ) = tσ 2 < ∞ untuk semua t. Ini berarti pula
bahwa 2
I Wayan var(S
Sumarjaya t ) = tσ . Kenapa?
(sumarjaya@unud.ac.id) Pengantar Proses Stasioner Program Studi Matematika, FMIPA, Univ
Selanjutnya kita akan menghitung fungsi autokovarians dan autokorelasi

random walk. Ingat kembali bahwa
St = X1 + X2 + X3 + · · · + Xt , (61)
dan lakukan secara rekursif sehingga diperoleh
St+1 = X1 + X2 + X3 + · · · + Xt + Xt+1 . (62)
selanjutnya, dengan cara yang sama,
St+h = X1 + X2 + X3 + · · · + Xt + Xt+1 + · · · + Xt+h . (63)
Selanjutnya, kita bisa menghitung fungsi autokovarians random walk

sebagai
γX (t + h, t) = cov(St+h , St )
= cov(X1 + X2 + · · · + Xt + Xt+1 + · · · + Xt+h , St )
= cov(St + Xt+1 + · · · + Xt+h , St )
= E[(St + Xt+1 + · · · + Xt+h − µ(St + Xt+1 · · · + Xt+h ))(St − µ
= E[(St + Xt+1 + · · · + Xt+h − 0))(St − 0)]
= E[(St2 + St Xt+1 + · · · + St Xt+h )]. (64)
Dengan demikian, untuk h ≥ 0 Persamaan (64) menjadi
γX (t + h, t) = E(St2 ) + E(St )E(Xt ) + · · · + E(St )E(Xt+h )

= E(St2 )
= tσ 2 . (65)
Mengingat γX (t + h, t) bergantung pada t, maka {St } tidaklah stasioner.

Sebagai ilustrasi kita akan membangkitkan 1.000 realisasi dari langkah acak
(lihat Gambar 10).
1 > set.seed(123)
2 > x <- rnorm(1000)
3 > rwalk <- cumsum(x)
4 > plot.ts(rwalk)

25
20
15
rwalk
10
5
0
−5
0 200 400 600 800 1000
Time
Gambar: Plot 1000 realisasi langkah acak.

Autokovarians and Autokorelasi Langkah Acak
Gambar 11 memperlihatkan fungsi autokovarians dan autokorelasi langkah

acak.
> acf(x,type="covariance")
> acf(x)
title
Series rwalk
50
ACF (cov)
45
40
0 5 10 15 20 25 30
Lag
Series rwalk
0.8
ACF
0.4
0.0
0 5 10 15 20 25 30
Lag
Gambar: Fungsi autokovarians dan autokorelasi langkah acak.
title
title
Rata-rata sampel
Misal x1 , . . . , xn adalah amatan-amatan dari suatu deret waktu. Rata-rata

sampel dari x1 , . . . , xn adalah
n
1X
x̄ = xt . (66)
n
t=1
Fungsi autokovarians & autokorelasi sampel
Fungsi autokovarians sampel didefinisikan sebagai

n−|h|
1 X
γ̂(h) = (xt+|h| − x̄)(xt − x̄), −n < h < n, (67)
n
t=1
dengan γ̂(−h) = γ̂(h).
Fungsi autokovarians & autokorelasi sampel
Fungsi autokorelasi sampel didefinisikan sebagai
γ̂(h)
ρ̂(h) = , −n < h < n. (68)
γ̂(0)
Contoh
Berikut ini adalah fungsi autokovarians dan autokorelasi sampel data co2.
Perhatikan Gambar 12.
> par(mfrow=c(2,1))
> acf(co2,type="covariance",lag=50) # autokovarians sampel
> acf(co2,lag=50) # autokorelasi sampel
Plot ACF
Series co2
160 180 200 220
ACF (cov)
0 1 2 3 4
Lag
Series co2
0.8
ACF
0.4
0.0
0 1 2 3 4
Lag
Gambar: Plot fungsi autokovarians dan autokorelasi sampel data co2.
Beberapa Catatan Penting

Fungsi autokorelasi sampel γ̂(h) untuk h ≥ 0, hampir sama atau
mendekati kovarians sampel n − h pasangan amatan (x1 , x1+h ),
(x2 , x2+h ), . . . , (xn−h , xn ). Perbedaan muncul pada saat penggunaan
pembagi n dibandingkan n − hdan pengurangan rata-rata keseluruhan
(overall mean) x̄ dari masing-masing faktor pada penjumlahan.
Penggunaan pembagi n menjamin bahwa matriks kovarians sampel
Γ̂n = [γ̂(i − j)]ni,j=1 adalah definit positif. Matriks ini berbentuk
 
γ̂(0) γ̂(1) ··· γ̂(n − 1)
 γ̂(1) γ̂(0) ··· γ̂(n − 2)
Γ̂n =  .. .. .. (69)
 
.. 
 . . . . 
γ̂(n − 1) γ̂(n − 2) · · · γ̂(0)
dan bersifat definit nonnegatif. Jumlah pada Persamaan (67) berjalan

pada jangka terbatas karena xt+h tidak tersedia untuk t + h > n.
Beberapa Catatan Penting
Matriks korelasi sampel R̂n = [ρ̂(i − j)]ni,j=1 adalah definit positif.

Masing-masing elemen diagonalnya sama dengan 1, karena ρ̂(0) = 1.
Matriks ini dapat dihitung menggunakan
Γ̂n
R̂n = . (70)
γ̂(0)
Fungsi autokovarians dan autokorelasi sampel dapat dihitung untuk

sebarang kumpulan data {x1 , . . . , xn } dan tidak terbatas hanya untuk
amatan deret waktu stasioner. Untuk data yang mengandung tren
|ρ̂(h)| akan menurun secara lambat seiring naiknya h, dan untuk data
dengan komponen periodik deterministik ρ̂(h) akan menunjukkan
tingkah laku serupa dengan periode yang sama.
Proses-proses Linear
Proses Linear
Suatu proses linear Xt didefinisikan sebagai suatu kombinasi linear dari

variat derau putih (white noise) Wt , yakni
∞
X
Xt = µ + ψj Wt−j (71)
j=−∞
P∞
dengan j=−∞ |ψj | < ∞.
Proses-proses Linear
Proses Linear
Fungsi autokovarians proses linear pada Persamaan (71) adalah

∞
X
γ(h) = σ 2 ψj+h ψj . (72)
j=−∞
Model-model proses linear seperti rerata bergerak (MA), proses autoregresif

(AR), dan proses rerata bergerak autoregresif (ARMA) akan dibicarakan
pada bab selanjutnya.
Lampiran: Varians, Kovarians, dan Korelasi
Sifat-sifat Varians
Berikut ini sifat-sifat penting varians:

var(X ) ≥ 0,
var(a + bX ) = b 2 var(X ),
Jika X dan Y saling bebas, maka var(X + Y ) = var(X ) + var(Y )
Coba Anda buktikan sifat-sifat di atas!
Sifat-sifat Kovarians
Sifat-sifat penting kovarians adalah sebagai berikut:

cov(a + bX , c + dY ) = bdcov(X , Y ),
var(X + Y ) = var(X ) + var(Y ) + 2cov(X , Y ),
cov(X + Y , Z ) = cov(X , Z ) + cov(Y , Z ),
cov(X , X ) = var(X ),
cov(X , Y ) = cov(Y , X ),
Jika X dan Y saling bebas, cov(X , Y ) = 0.
Coba Anda buktikan sifat-sifat di atas!
Sifat-sifat Korelasi
Sifat-sifat penting korelasi adalah sebagai berikut: −1 ≤ cor(X , Y ) ≤ 1 dan
cor(a + bX , c + dY ) = sign(bd)cor(X , Y ) (73)
dengan 
1,
 jika bd > 0,
sign(bd) = 0, jika bd = 0,

−1, jika bd < 0.

Berikut ini adalah sifat-sifat penting fungsi autokovarians:

γ(t, t) = var(Xt ),
γ(t, s) = γ(s, t),
p
|γ(t, s)| ≤ γ(t, t)γ(s, s).
Untuk fungsi autokorelasi:
ρ(t, t) = 1,
ρ(t, s) = ρ(s, t),
|ρ(t, s)| ≤ 1.
Jika ρ(t, s) = 0, maka Xt dan Xs tidak berkorelasi.
Pertanyaan?
Terima kasih

02 Pengantar Proses Stasioner New Presentation

Diunggah oleh

Informasi Dokumen

Hak Cipta

Format Tersedia

Bagikan dokumen Ini

Bagikan atau Tanam Dokumen

Opsi Berbagi

Apakah menurut Anda dokumen ini bermanfaat?

Apakah konten ini tidak pantas?

Hak Cipta:

Format Tersedia

02 Pengantar Proses Stasioner New Presentation

Diunggah oleh

Hak Cipta:

Format Tersedia

Pengantar Proses Stasioner

I Wayan Sumarjaya (sumarjaya@unud.ac.id)

Program Studi Matematika, FMIPA, Universitas Udayana

Model Deret Waktu?

P(X1 ≤ x1 , . . . , Xn ≤ xn ), −∞ < x1 , . . . , xn < ∞, n = 1, 2, . . . .

Konsep Proses Stokastik

Langkah pertama dalam analisis deret waktu adalah memilih model

Suatu proses stokastik adalah keluarga peubah {Xt , t ∈ T } yang

Misalkan A dan Θ adalah peubah-peubah acak bebas dengan A ≥ 0 dan Θ

Xt = r −1 A cos(vt + Θ). (2)

Salah satu realisasi Persamaan (2) adalah

Xt = 2 cos(0,5t + 0,2π). (3)

1 > t <- 1:200 # membuat barisan bilangan dari 1 s.d. 200

Gambar 1 memperlihatkan 200 amatan yang merupakan realisasi dari

0 50 100 150 200

Gambar: Plot 200 amatan dari realisasi Xt = 2 cos(0,5t + 0,2π).

Bagaimana kalau model pada (3) kita tambahkan derau (noise)?

1 > e <- rnorm(200) #

Gambar: Plot 200 amatan dari realisasi Xt = 2 cos(0,5t + 0,2π) + εt .

Konsep Proses Stasioner

Salah satu konsep penting dalam proses stokastik adalah proses

µX (t) = E(Xt ). (5)

Fungsi kovarians (covariance function) {Xt } adalah

untuk semua bilangan bulat r dan s.

Suatu deret waktu {Xt , t = 0, ±1, ±2, . . . } dikatakan stasioner kuat

Contoh stasioner kuat

Plot IID Noise

0 50 100 150 200

Gambar: Plot IIDN.

Beberapa sifat stasioner kuat

peubah acak Xt berdistribusi identik,

Stasioner kuat (strong stationary ) disebut pula stasioner tegas

γX (h) = γX (h, 0) = γX (t + h, t). (7)

Fungsi γX (·) disebut fungsi autokovarians adalah fungsi autokovarians

Fungsi autokovarians dan autokorelasi teoretis

Misalkan {Xt } adalah deret waktu stasioner. Fungsi autokovarians

Misalkan {Xt } adalah deret waktu stasioner. Fungsi autokorelasi {Xt }

Fungsi autokovarians dan autokorelasi teoretis

fungsi autokorelasi adalah fungsi autokovarians yang dinormalkan

Fungsi Autokovarians & Autokorelasi Sampel

Kita telah melihat bagaimana cara menghitung fungsi autokorelasi dan

Berdasarkan Persamaan (9), dapat kita lihat bahwa fungsi autokorelasi

Sifat-sifat Fungsi Autokovarians dan Autokorelasi

Berikut ini adalah beberapa sifat penting fungsi autokovarians:

Sifat-sifat Fungsi Autokovarians dan Autokorelasi

Fungsi autokorelasi memiliki semua sifat-sifat fungsi autokovarians dan

Sifat-sifat Fungsi Autokovarians dan Autokorelasi

Lebih jelasnya berikut adalah sifat-sifat fungsi autokorelasi:

Matriks Autokovarians dan Autokorelasi

Misalkan terdapat n amatan historis dalam vektor XT = (X1 , . . . , Xn ).

Matriks Autokovarians dan Autokorelasi

Matriks autokovarians ini dapat dinyatakan sebagai matriks simetrik

Matriks Autokovarians dan Autokorelasi

Matriks autokorelasi Rn didefinisikan sebagai Γn /γ(0) = Γn /σ 2 . Misalkan

Lt = l1 (xt − µ) + l2 (zt−1 − µ) + · · · + ln (zt−n+1 − µ). (14)

Sekarang misalkan vektor lT = (l1 , l2 , . . . , ln ). Kita bisa menyatakan

Matriks Autokovarians dan Autokorelasi

Dengan demikian, varians L adalah

var(L) = cov(Lt , Lt ) (15)

Matriks Autokovarians dan Autokorelasi

Jika semua l taknol dan deret waktu tidak takdeterministikk, semua

Contoh Matriks Autokorelasi n = 2

Matriks autokorelasi untuk n = 2 berbentuk:

Dengan demikian, −1 < ρ < 1.