Processos Estocasticos
Ergodicidade
Bruno Barbosa Albert
Universidade Federal de Campina Grande
Centro de Engenharia El
etrica e Inform
atica
Departamento de Engenharia El
etrica
5 de novembro de 2010
Processos Estoc
asticos
Ergodicidade
Sumario
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Considere um experimento sobre trafego na Internet.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Considere um experimento sobre trafego na Internet.
Ele representa a quantidade de pacotes fluindo na rede
durante um dado intervalo de tempo.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Considere um experimento sobre trafego na Internet.
Ele representa a quantidade de pacotes fluindo na rede
durante um dado intervalo de tempo.
Defina um PE N(t) para esse experimento da seguinte forma.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Considere um experimento sobre trafego na Internet.
Ele representa a quantidade de pacotes fluindo na rede
durante um dado intervalo de tempo.
Defina um PE N(t) para esse experimento da seguinte forma.
Escolha I = {0 : 00, 0 : 01, 0 : 02, . . . , 23 : 59} que representa
intervalos de um minuto durante um dia.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Considere um experimento sobre trafego na Internet.
Ele representa a quantidade de pacotes fluindo na rede
durante um dado intervalo de tempo.
Defina um PE N(t) para esse experimento da seguinte forma.
Escolha I = {0 : 00, 0 : 01, 0 : 02, . . . , 23 : 59} que representa
intervalos de um minuto durante um dia.
Suponha que estamos interessados em medir o n
umero medio
de pacotes, EN(t), para t = 10 : 00.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Considere um experimento sobre trafego na Internet.
Ele representa a quantidade de pacotes fluindo na rede
durante um dado intervalo de tempo.
Defina um PE N(t) para esse experimento da seguinte forma.
Escolha I = {0 : 00, 0 : 01, 0 : 02, . . . , 23 : 59} que representa
intervalos de um minuto durante um dia.
Suponha que estamos interessados em medir o n
umero medio
de pacotes, EN(t), para t = 10 : 00.
Podemos realizar 100 experimentos e estimar a media por
100
EN(10 : 00)
1 X
n(10 : 00, i),
100
i=1
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Note que seria necessario esperar 100 dias para termos uma
estimativa da media.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Note que seria necessario esperar 100 dias para termos uma
estimativa da media.
Se o equipamento de medicao so fosse usado para estimar
esse parametro, ele ficaria ocioso durante o resto do tempo.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Note que seria necessario esperar 100 dias para termos uma
estimativa da media.
Se o equipamento de medicao so fosse usado para estimar
esse parametro, ele ficaria ocioso durante o resto do tempo.
Seria excelente se pudessemos usar o equipamento de medicao
das 10:00 `as 11:39, por exemplo.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Note que seria necessario esperar 100 dias para termos uma
estimativa da media.
Se o equipamento de medicao so fosse usado para estimar
esse parametro, ele ficaria ocioso durante o resto do tempo.
Seria excelente se pudessemos usar o equipamento de medicao
das 10:00 `as 11:39, por exemplo.
Temos novamente 100 medicoes, uma a cada minuto.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Note que seria necessario esperar 100 dias para termos uma
estimativa da media.
Se o equipamento de medicao so fosse usado para estimar
esse parametro, ele ficaria ocioso durante o resto do tempo.
Seria excelente se pudessemos usar o equipamento de medicao
das 10:00 `as 11:39, por exemplo.
Temos novamente 100 medicoes, uma a cada minuto.
Podemos entao estimar a media por
99
EN(10 : 00)
1 X
n(10 : 00 + i),
100
i=0
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Os dois experimentos sao bastantes diferentes.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Os dois experimentos sao bastantes diferentes.
No primeiro caso usamos 100 amostras da mesma v.a.
N(10 : 00).
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Os dois experimentos sao bastantes diferentes.
No primeiro caso usamos 100 amostras da mesma v.a.
N(10 : 00).
Ou seja, usamos 100 funcoes amostras mantendo o tempo
t = 10 : 00 fixo.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Os dois experimentos sao bastantes diferentes.
No primeiro caso usamos 100 amostras da mesma v.a.
N(10 : 00).
Ou seja, usamos 100 funcoes amostras mantendo o tempo
t = 10 : 00 fixo.
No segundo caso, medimos continuamente das 10:00 `as
11:39, em intervalos de um minuto, o trafego correspondente
a uma u
nica funcao amostra.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Os dois experimentos sao bastantes diferentes.
No primeiro caso usamos 100 amostras da mesma v.a.
N(10 : 00).
Ou seja, usamos 100 funcoes amostras mantendo o tempo
t = 10 : 00 fixo.
No segundo caso, medimos continuamente das 10:00 `as
11:39, em intervalos de um minuto, o trafego correspondente
a uma u
nica funcao amostra.
Ou seja, usamos uma u
nica funcao amostra e variamos o
tempo 10 : 00 t 11 : 39.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Os dois experimentos sao bastantes diferentes.
No primeiro caso usamos 100 amostras da mesma v.a.
N(10 : 00).
Ou seja, usamos 100 funcoes amostras mantendo o tempo
t = 10 : 00 fixo.
No segundo caso, medimos continuamente das 10:00 `as
11:39, em intervalos de um minuto, o trafego correspondente
a uma u
nica funcao amostra.
Ou seja, usamos uma u
nica funcao amostra e variamos o
tempo 10 : 00 t 11 : 39.
Como assegurar que vamos obter o mesmo resultado em
ambos os casos?
Processos Estoc
asticos
Ergodicidade
Ergodicidade
O conceito de ergodicidade aborda justamente essa questao.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
O conceito de ergodicidade aborda justamente essa questao.
Nos permite usar a media temporal em vez da media
estatstica.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
O conceito de ergodicidade aborda justamente essa questao.
Nos permite usar a media temporal em vez da media
estatstica.
De fato, as vantagens da media temporal sao tao grandes que
na pratica fazemos uso da ergodicidade mesmo quando o
processo nao e erg
odico.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
O conceito de ergodicidade aborda justamente essa questao.
Nos permite usar a media temporal em vez da media
estatstica.
De fato, as vantagens da media temporal sao tao grandes que
na pratica fazemos uso da ergodicidade mesmo quando o
processo nao e erg
odico.
Os primeiros teoremas eram voltados para os processos
estacionarios e WSS.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
O conceito de ergodicidade aborda justamente essa questao.
Nos permite usar a media temporal em vez da media
estatstica.
De fato, as vantagens da media temporal sao tao grandes que
na pratica fazemos uso da ergodicidade mesmo quando o
processo nao e erg
odico.
Os primeiros teoremas eram voltados para os processos
estacionarios e WSS.
Pensava-se que era necessaria a estacionaridade para se ter
ergodicidade.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
O conceito de ergodicidade aborda justamente essa questao.
Nos permite usar a media temporal em vez da media
estatstica.
De fato, as vantagens da media temporal sao tao grandes que
na pratica fazemos uso da ergodicidade mesmo quando o
processo nao e erg
odico.
Os primeiros teoremas eram voltados para os processos
estacionarios e WSS.
Pensava-se que era necessaria a estacionaridade para se ter
ergodicidade.
Isto de fato nao e necessario, embora nao apresentaremos
nenhuma prova disso.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Definicao:
Considere um PE X (t), possivelmente nao estacionario. X (t) e
erg
odico na media se e somente se
1
lim
T 2T
X (t) dt = m
T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Definicao:
Considere um PE X (t), possivelmente nao estacionario. X (t) e
erg
odico na media se e somente se
1
lim
T 2T
X (t) dt = m
T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Processos Estoc
asticos
Ergodicidade
Ergodicidade
lim CX (k) = 0.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
2T
2T
| |
1
2T
CX ( ) d = 0.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Fixe T > 0 e defina a v.a.
1
XT =
2T
X (t) dt
T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Fixe T > 0 e defina a v.a.
1
XT =
2T
X (t) dt
T
A esperanca de XT e
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Fixe T > 0 e defina a v.a.
1
XT =
2T
X (t) dt
T
A esperanca de XT e
1
EXT = E
2T
X (t) dt
T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Fixe T > 0 e defina a v.a.
1
XT =
2T
X (t) dt
T
A esperanca de XT e
Z T
1
EXT = E
X (t) dt
2T T
Z T
1
EX (t) dt
=
2T T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Fixe T > 0 e defina a v.a.
1
XT =
2T
X (t) dt
T
A esperanca de XT e
Z T
1
EXT = E
X (t) dt
2T T
Z T
1
EX (t) dt
=
2T T
Z T
1
=
m dt = m.
2T T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Considere a variancia de XT
var(XT ) = E [(XT m)2 ]
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Considere a variancia de XT
var(XT ) = E [(XT m)2 ]
Z T
Z T
1
1
=E
X (t) dt m
X (s) ds m
2T T
2T T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Considere a variancia de XT
var(XT ) = E [(XT m)2 ]
Z T
Z T
1
1
=E
X (t) dt m
X (s) ds m
2T T
2T T
Z T
Z T
1
1
=E
(X (t) m) dt
(X (s) m) ds
2T T
2T T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Considere a variancia de XT
var(XT ) = E [(XT m)2 ]
Z T
Z T
1
1
=E
X (t) dt m
X (s) ds m
2T T
2T T
Z T
Z T
1
1
=E
(X (t) m) dt
(X (s) m) ds
2T T
2T T
ZZ T
1
E [(X (t) m)(X (s) m)] dt ds
=
4T 2
T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
Considere a variancia de XT
var(XT ) = E [(XT m)2 ]
Z T
Z T
1
1
=E
X (t) dt m
X (s) ds m
2T T
2T T
Z T
Z T
1
1
=E
(X (t) m) dt
(X (s) m) ds
2T T
2T T
ZZ T
1
E [(X (t) m)(X (s) m)] dt ds
=
4T 2
T
ZZ T
1
=
CX (t, s) dt ds,
4T 2
T
Bruno Barbosa Albert
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
como X (t) e WSS, entao CX (t, s) = CX (t s), assim
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
como X (t) e WSS, entao CX (t, s) = CX (t s), assim
1
var(XT ) =
4T 2
ZZ
CX (t s) dt ds,
T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
como X (t) e WSS, entao CX (t, s) = CX (t s), assim
ZZ T
1
CX (t s) dt ds,
var(XT ) =
4T 2
T
ZZ
1
=
ret2T (t) ret2T (s)CX (t s) dt ds,
4T 2
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
como X (t) e WSS, entao CX (t, s) = CX (t s), assim
ZZ T
1
CX (t s) dt ds,
var(XT ) =
4T 2
T
ZZ
1
=
ret2T (t) ret2T (s)CX (t s) dt ds,
4T 2
em que
ret2T (t) =
1
0
T t T
c.c.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
como X (t) e WSS, entao CX (t, s) = CX (t s), assim
ZZ T
1
CX (t s) dt ds,
var(XT ) =
4T 2
T
ZZ
1
=
ret2T (t) ret2T (s)CX (t s) dt ds,
4T 2
em que
ret2T (t) =
1
0
T t T
c.c.
Fazendo v = t s, temos
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
1
var(XT ) =
4T 2
ZZ
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
ZZ
1
var(XT ) =
ret2T (t) ret2T (t v )CX (v ) dt dv
4T 2
Z
Z
1
=
ret2T (t) ret2T (v t) dt dv
CX (v )
4T 2
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
ZZ
1
var(XT ) =
ret2T (t) ret2T (t v )CX (v ) dt dv
4T 2
Z
Z
1
=
ret2T (t) ret2T (v t) dt dv
CX (v )
4T 2
Z
1
CX (v ) ret2T (v ) ret2T (v ) dv
=
4T 2
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
var(XT ) =
=
=
=
ZZ
1
ret2T (t) ret2T (t v )CX (v ) dt dv
4T 2
Z
Z
1
ret2T (t) ret2T (v t) dt dv
CX (v )
4T 2
Z
1
CX (v ) ret2T (v ) ret2T (v ) dv
4T 2
Z 2T
|v |
1
1
CX (v ) dv
2T 2T
2T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao:
var(XT ) =
=
=
=
ZZ
1
ret2T (t) ret2T (t v )CX (v ) dt dv
4T 2
Z
Z
1
ret2T (t) ret2T (v t) dt dv
CX (v )
4T 2
Z
1
CX (v ) ret2T (v ) ret2T (v ) dv
4T 2
Z 2T
|v |
1
1
CX (v ) dv
2T 2T
2T
em que
ret2T (v ) ret2T (v ) =
|v |
1
2T
Processos Estoc
asticos
2T .
Ergodicidade
Ergodicidade
Demonstracao.
Portanto, XT se aproximara de m no sentido da media quadratica,
ou seja, E [(XT m)2 ] 0 quando T , se
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Demonstracao.
Portanto, XT se aproximara de m no sentido da media quadratica,
ou seja, E [(XT m)2 ] 0 quando T , se
1
lim
T 2T
2T
2T
|v |
1
CX (v ) dv = 0
2T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Exemplo:
Considere X (t) um PE WSS com autocovariancia
CX ( ) = e 2a| | ,
a > 0.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Aplicando o teorema temos que verificar se o limite
Z 2T
1
|v |
lim
1
CX (v ) dv
T 2T 2T
2T
tende para zero. Substituindo a autocovariancia e usando o fato de
que o produto de duas funcoes pares e uma funcao par.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Aplicando o teorema temos que verificar se o limite
Z 2T
1
|v |
lim
1
CX (v ) dv
T 2T 2T
2T
tende para zero. Substituindo a autocovariancia e usando o fato de
que o produto de duas funcoes pares e uma funcao par.
Z 2T
|v |
1
1
e 2a|v | dv
lim
T 2T 2T
2T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Aplicando o teorema temos que verificar se o limite
Z 2T
1
|v |
lim
1
CX (v ) dv
T 2T 2T
2T
tende para zero. Substituindo a autocovariancia e usando o fato de
que o produto de duas funcoes pares e uma funcao par.
Z 2T
|v |
1
1
e 2a|v | dv
lim
T 2T 2T
2T
Z
1 2T
v 2av
= lim
1
e
dv
T T 0
2T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Aplicando o teorema temos que verificar se o limite
Z 2T
1
|v |
lim
1
CX (v ) dv
T 2T 2T
2T
tende para zero. Substituindo a autocovariancia e usando o fato de
que o produto de duas funcoes pares e uma funcao par.
Z 2T
|v |
1
1
e 2a|v | dv
lim
T 2T 2T
2T
Z
1 2T
v 2av
= lim
1
e
dv
T T 0
2T
Z 2T
Z 2T
1
1
2av
2av
e
dv
ve
dv
= lim
T T 0
2T 2 0
Bruno Barbosa Albert
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Resolvendo as integrais, usando o resultado
Z
e ax
xe ax dx = 2 (ax 1)
a
temos
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Resolvendo as integrais, usando o resultado
Z
e ax
xe ax dx = 2 (ax 1)
a
temos
lim
1
1
[1 e 4aT ] 2 2 [1 e 4aT (4aT + 1)]
2aT
8a T
Processos Estoc
asticos
= 0.
Ergodicidade
Ergodicidade
Exemplo:
Considere o PE trivial X (t) = Y , em que Y e uma v.a. com media
e variancia conhecidas. Esse processo e erg
odico na media?
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Exemplo:
Considere o PE trivial X (t) = Y , em que Y e uma v.a. com media
e variancia conhecidas. Esse processo e erg
odico na media?
Solucao:
Temos que EX (t) = EY e
CX (t, t + ) = EX (t)X (t + ) EX (t)EX (t + )
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Exemplo:
Considere o PE trivial X (t) = Y , em que Y e uma v.a. com media
e variancia conhecidas. Esse processo e erg
odico na media?
Solucao:
Temos que EX (t) = EY e
CX (t, t + ) = EX (t)X (t + ) EX (t)EX (t + )
= EY 2 (EY )2 = var(Y ) = CX ( ).
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Exemplo:
Considere o PE trivial X (t) = Y , em que Y e uma v.a. com media
e variancia conhecidas. Esse processo e erg
odico na media?
Solucao:
Temos que EX (t) = EY e
CX (t, t + ) = EX (t)X (t + ) EX (t)EX (t + )
= EY 2 (EY )2 = var(Y ) = CX ( ).
Observe que CX ( ) nao tende para zero quando , o que e
um indcio de dificuldades.
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Aplicando o teorema
1
lim
T 2T
2T
2T
|v |
1
CX (v ) dv
2T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Aplicando o teorema
2T
|v |
1
CX (v ) dv
2T
2T
Z 2T
|v |
1
1
= lim
var(Y ) dv
T 2T 2T
2T
1
lim
T 2T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Aplicando o teorema
2T
|v |
1
CX (v ) dv
2T
2T
Z 2T
|v |
1
1
= lim
var(Y ) dv
T 2T 2T
2T
1
lim
T 2T
Processos Estoc
asticos
Ergodicidade
Ergodicidade
Solucao:
Aplicando o teorema
2T
|v |
1
CX (v ) dv
2T
2T
Z 2T
|v |
1
1
= lim
var(Y ) dv
T 2T 2T
2T
1
lim
T 2T
Processos Estoc
asticos