Review

Random
Processes
Hendrawan
Sekolah Teknik Elektro dan Informatika
Institut Teknologi Bandung
Random Variable
• Random Variable X
Random Process/Stochastic Process
• A random process is a time-varying function that assigns the outcome
of random experiment to each time instant: X(t)
• Describe how random variable evolves over time
Random Process
• Random Processes X(t)
• RV memetakan
event  konstanta
• RP memetakan
event  f(t)
Contoh • Amati curah hujan per-hari pada suatu
daerah

t Outcome eksperimen ke-1 untuk tahun Y1 = 2000

 Fungsi sampel curah tahun 2000
(1  t  365)

t
Outcome eksperimen ke-2 untuk tahun Y2 = 2001
 Fungsi sampel curah tahun 2000
(1  t  365)

Outcome eksperimen ke-n untuk tahun Yn = 20…

t
 Fungsi sampel curah tahun ke-n
(1  t  365)
Definisi Random Process
• Random process (stochastic process) :
kumpulan dari r.v. {X(t), t  T}
• Dimensi t umumnya waktu, tetapi bisa juga dimensi spatial, dll.
• Random processes {X(t), t  T} :
suatu fungsi dg dua argumen {X(t,), t  T,   S}
• Utk t(=tk) tetap, X(tk, ) = Xk()
 r.v. dinyatakan dg X(tk), dg  bervariasi dlm sample space S
• Utk sample point tetap i  S tetap, X(t, i) = Xi(t)
 sample function atau realization dari process
• Jika  dan t tetap, X(tk, i) suatu bilangan real
• Total dari sample function  ensemble
Deskripsi Random Process
• Pd random process {X(t), t  T}, index set T  parameter set
• Harga-harga dari X(t)  states
• Set semua kemungkinan harga  state space E
• Jika index set T diskrit  discrete-parameter (atau discrete-time)
process, disebut juga random sequence {Xn, n= 1, 2, … }
• Jika T kontinyu  continuous-parameter (atau continuous-time) process
• Jika state space E diskrit  discrete-state process, biasa disebut chain. E
= {0, 1, 2, …}
• Jika state space E kontinyu  continuous-state process
Discrete-Time Random Process
• Random process disebut discrete time jika T countably infinite set,
mis. {1, 2, 3, … }, { …, -2, -1, 0, 1, 2, …}
• Dlm kasus ini, proses dinyatakan dg Xn, utk n  N countably infinite
set  deretan tak hingga r.v.
• Sample function utk discrete time process dinyatakan sbg sample
sequence atau sample path
Discrete-Time Random Process
Contoh Bernoulli Process
• Utk X1, X2, … adalah independent r.v Bernoulli dg P(Xn=1)=p dan
P(Xn=0)=q=1-p utk semua n
• Koleksi dari semua r.v {Xn, n 1} adalah suatu random proses 
Bernoulli Process
• Bernoulli process {Xn, n 1} adalah
• Discrete-parameter
• Discrete-state process
• State space E = {0,1}
• Index set T = {1, 2, …}
Continuous Time Random Processes
• Random process adalah continuous time jika T uncountably infinite
• Contoh: sinyal sinusoidal dg phasa random
X(t) = cos(t + ), utk t  0,
dimana  dan  konstan dan   U[0,2]
Continuous Time Random Processes
• Sample functions
Tipe-Tipe Random Process
Contoh Tipe-Tipe Random Process
Karakterisasi dari Random Processes
Deskripsi Probabilistik
• Mis. random process X(t) utk t1 tetap, X(t1) = X1 adalah r.v. dan cdf-nya
FX(x1;t1) didefinisikan:
FX(x1;t1) = P{X(t1)  x1}

• FX(x1;t1)  first-order distribution dari X(t)

• Diberikan t1 dan t2, X(t1) = X1 dan X(t2) = X2 merepresentasikan dua r.v 

joint distribution dikenal sbg second-order distribution dari X(t):
FX(x1,x2;t1,t2) = P{X(t1)  x1, X(t2)  x2}
Karakterisasi dari Random Processes
• Secara umum, nth-order distribution dari X(t):
FX(x1, …, xn; t1, …, tn) = P{X(t1)  x1, …, X(tn)  xn}

• Jika X(t) discrete-time process, X(t) dispesifikasikan dg koleksi pmf:

pX(x1, …, xn; t1, …, tn) = P{X(t1) = x1, …, X(tn) = xn}

• Jika X(t) continuous-time process, X(t) dispesifikasikan dg koleksi

pdf:
 Mean, Correlation dan Covariance Functions
• Utk random process X(t), first dan second order moments:
• mean function: X(t) = E[X(t)], suatu fungsi t  T
• autocorrelation function: RX(t1,t2) = E[X(t1)X(t2)], suatu fungsi dari t1, t2 
T

• Diberikan mean dan autocorrelation function, autocovariance function

dp ditentukan:
• CX(t1,t2) = E((X(t1) - E(X(t1)))(X(t2) - E(X(t2))))
= RX(t1,t2) - X(t1) X(t2)
Klasifikasi dari Random Processes
Stationary Processes
• Random process {X(t), t  T} stationary atau strict-sense stationary,
jika:

FX(x1, …,xn;t1, …, tn) = FX(x1, …, xn;t1+, …, tn+) utk sembarang 

 X(t) dan X(t + ) memp. Distribusi yg sama utk

sembarang 
Klasifikasi dari Random Processes
Independent Processes
• Dlm random process X(t), jika X(ti) utk i = 1,2, …,n adalah r.v.
independent:

• X(t) disebut independent random process

Klasifikasi dari Random Processes
Proses dg Stationary Independent Incerements:
• Random process {X(t), t  0} dikatakan memp independent increment,
manakala 0 < t1 < t2 < … tn,
X(0), X(t1) - X(0), X(t2) - X(t1), …, X(tn) - X(tn-1)
adalah independent

• Jika {X(t), t  0} memp. independent increments dan X(t) - X(s) memp.

distribusi yg sama dg X(t + h) - X(s + h) utk semua s, t, h  0, s < t,
maka proses X(t) : stationary independent increments
Discrete Time Process yg Penting
IID Random Processes
• Mis. Xn discrete-time random process terdiri dari deretan independent,
identically distributed (iid) r.v. dg common cdf FX(x), mean m dan
variance 2
 Xn disebut iid random process
• Joint cdf utk sembarang waktu n1, …, nk adalah:
FX1, …, Xk(x1, x2, …, xK) = P[X1  x1, X2  x2, …, Xk  xk)
= FX(x1)FX(x2) … FX(xk)
• Mean dari iid process:
mX(n) = E[Xn] = m utk semua n
Bernoulli Random Process
• Mis. X1, X2, … adalah independent Bernoulli r.v. dg P(Xn = 1) = p dan
P(Xn = 0) = q = 1 - p utk semua n.
• Koleksi r.v. {Xn, n  1} adalah Bernoulli process
• State space E = {0, 1} dan index set T = {1, 2, …}
• Sample sequence dari Bernoulli process dp diperoleh dg tossing coin
berturutan
Bernoulli Random Process
• Sample sequence dari Bernoulli process:
Random Walk Process
• Z1, Z2, … adalah iid r.v. dg P(Zn = 1) = p dan
P(Zn = -1) = q = 1 - p utk semua n

• Random Walk Process, didefinisikan dg:

• State space E = { …, -2, -1, 0, 1, 2, … }

Random Walk Process
• Sample sequence x(n) dari simple random walk X(n) dp dihasilkan dg
tossing coin setiap detik, dan x(n) bertambah 1 jika H muncul dan
berkurang 1 jika T muncul
Random Walk Process
• Sample sequence dari random walk