Processos Estoc´asticos

(1)

Processos Estoc ´asticos

Airlane Pereira Alencar

11 de Marc¸o de 2020

Alencar, A.P., Rocha, F.M.M. (IME-USP) Processos Estoc ´asticos 11 de Marc¸o de 2020 1 / 29

(2)

´Indice

1 Definic¸ ˜oes

2 S ´erie Temporal

3 Estacionariedade

4 Espectro

5 Refer ˆencia

(3)

Definic¸ ˜oes

Def 1:

Seja T um conjunto arbitr ário. Umprocesso estoc ástico é uma fam´ıliaZ ={Z(t),t∈T}em queZ(t) é vari ável aleat ória.

Exemplo

T =ZeZ ={Z₁,Z₂, . . .}

(4)

Definic¸ ˜oes

Def 1:

Seja T um conjunto arbitr ário. Umprocesso estoc ástico é uma fam´ıliaZ ={Z(t),t∈T}em queZ(t) é vari ável aleat ória.

Exemplo

T =ZeZ ={Z₁,Z₂, . . .}

(5)

Definic¸ ˜oes

Fam´ılia de vari ´aveis aleat ´orias

Figura 1:Cada vari ´avelZ(t) ´e definida em(ω,A,P)- Morettin e Toloi

(6)

S ´erie Temporal

Para cadaω∈Ω(espac¸o amostral) fixado, temos umas ´erie temporal.

Uma s érie temporal é uma particular realizaç ão do processo estoc ástico.

Podemos entender um processo estoc ´astico como uma fam´ılia de trajet ´orias ao longo do tempo e observamos uma delas.

Em geral, vamos considerar um conjunto discreto de tempos: t₁,t₂, . . .

(7)

Definiç ˜ oes: Caracterizaç ão do processo

Def 2:

A funç ão distribuiç ão n-dimensional do processo estoc ástico Z ={Z(t),t∈T} é definido como

F(z₁, . . . ,zn;t₁, . . . ,tn) =P(Z(t₁)≤z₁, . . . ,Z(tn)≤zn).

A partir das funç ões distribuiç ão finito dimensionais, podemos obter os momentos produtos de ordem(r₁, . . . ,r_n), ou seja,

µ(r₁, . . . ,rn;t₁, . . . ,tn) = E(Z₁^r¹. . .Z_n^rⁿ)

= Z

. . . Z

z₁^r¹. . .z_n^rⁿf(z₁, . . . ,z_n;t₁, . . . ,t_n)dz₁. . .dz_n.

(8)

Precisaremos dos momentos: M édia, Autocovari ância, Vari ância

µt = E(Zt)

= Z

z_tf(z_t)dz_t.

Cov(Zt₁,Zt₂) =γ(t₁,t₂) =E(Zt₁Zt₂)−E(Zt₁)E(Zt₂),t₁,t₂∈T.

Var(Zt) =γ(t,t) =E(Z_t²)−[E(Zt)]²,t∈T. e calcularemos a correlac¸ ˜ao

Corr(Zt1,Zt2) =ρ(t1,t2) = Cov(Z_t₁,Z_t₂)

pVar(Zt₁)Var(Zt₂),t1,t2∈T. Se todos esses momentos variam ao longo do tempo, como estim á-los com uma s ó s érie?

(9)

Estacionariedade

Estacionariedade

Def 3:

Um processo estoc ásticoZ ={Z(t),t ∈T} é ditoestritamente estacion áriose todas as distribuiç ões finito dimensionais permanecem as mesmas sob translaç ões no tempo, ou seja,

F(z₁, . . . ,z_n;t₁+τ, . . . ,t_n+τ) =F(z₁, . . . ,z_n;t₁, . . . ,t_n), parat₁, . . . ,tn,t₁+τ, . . . ,tn+τ ∈T.

Por exemplo,P(Z₁≤z₁,Z₂≤z₂) =P(Z₁₁≤z₁,Z₁₂ ≤z₂).

Assim, todos os momentos s ˜ao constantes.

(10)

Estacionariedade

Def 4:

Um processo estoc ástico Z é ditofracamente estacion árioou estacion ário de segunda ordemse

E(Zt) =µ,∀t ∈T; E(Z_t²)<∞,∀t ∈T;

Cov(Z_t₁,Z_t₂) =g(|t₁−t₂|), ou seja, a covari ância é funç ão somente de|t₁−t₂|.

Notac¸ ˜ao: γ(k), parak =|t₁−t₂|.

Observac¸ ˜oes

Z pode ser estritamente estacion ário mas s ó ser á fracamente estacion ário se valer(2).

Um processo Z tal que valha(2) ´e dito processo de segunda ordem.

(11)

Estacionariedade

Def 4:

Um processo estoc ástico Z é ditofracamente estacion árioou estacion ário de segunda ordemse

E(Zt) =µ,∀t ∈T; E(Z_t²)<∞,∀t ∈T;

Cov(Z_t₁,Z_t₂) =g(|t₁−t₂|), ou seja, a covari ância é funç ão somente de|t₁−t₂|.

Notac¸ ˜ao: γ(k), parak =|t₁−t₂|.

Observac¸ ˜oes

Z pode ser estritamente estacion ário mas s ó ser á fracamente estacion ário se valer(2).

Um processo Z tal que valha(2) ´e dito processo de segunda ordem.

(12)

Exemplos

Exemplo1

Z ={Z_t,t∈T}comZt vari áveis aleat órias com E(Zt) = 0,∀t ∈T, Var(Z_t) = σ²(<∞)∀t ∈T, eZ_t s ão n ão correlacionados.

Z é fracamente estacion ário? E estritamente estacion ário?

Observac¸ ˜ao:

O processo com m édia zero, vari ância constante e n ão correlacionado

´e chamado deRu´ıdo Branco.

(13)

Exemplo 2

Exemplo

Wt = ¹₃(Z_t−1+Zt +Z_t₊₁)comZt definido no exemplo anterior.

W_t ´e fracamente estacion ´ario?

E(W_t) =0

γ_h=











3σ²

9 , h=0

2σ²

9 , |h|=1

σ²

9, |h|=2 0, |h|>2

(14)

Exemplo 3 - Passeio Aleat ´ orio

Passeio Aleat ´orio

Considere{e_t,t ≥1}vari áveis aleat órias iid com m édiaµe e vari ância σ²_e, comσ²_e<∞.

O processoX = (X_t) ´e tal que

X_t =X_t₋₁+e_t comX₀=0. O processoX ´e fracamente estacion ´ario?

(15)

Processo Gaussiano

Def

Um processoZ ={Z(t),t∈T}diz-se gaussiano se para qualquer subconjuntot₁, . . . ,tnde T, as vari áveis aleat óriasZt₁, . . . ,Ztn t êm distribuiç ão normal n-variada.

(16)

Propriedades da Funç ão de Autocovari ância

SejaX ={X(t),t∈Z}um processo estacion ário real com tempo discreto com funç ão de autocovari ância denotada como

γτ =Cov(X_t,X_t+τ).

γ₀>0;

γ−τ =γτ;

|γ_τ| ≤γ0;

γ_τ ´e n ˜ao negativa definida no sentido que∀a_j,a_k

n

X

j=1 n

X

k=1

a_ja_kγ_τ_j−τ_k ≥0.

(17)

Propriedades da Funç ão de Autocovari ância

Observac¸ ˜ao

A funç ão de autocorrelaç ão do processo estoc ástico X ={X(t),t ∈Z} é

ρ_τ = γτ

p(γ0)p

(γ0) = γτ

γ₀ ˆ

ρ_τ vai auxiliar a propormos modelos.

Um exemplo de processo estoc ´astico cont´ınuo (tempo cont´ınuo) ´e o movimento Browniano (MT p.33);

A funç ão de autocorrelaç ão de um processo estoc ástico estacion ário decai para 0;

(18)

Estimac¸ ˜ao

X ={X(t),t ∈Z}processo estacion ´ario

µb = X

E(X) = E 1

N

X

t=1

X_t

!

=µ

Var(X) = 1 N²Var

N

X

t=1

Xt

!

= 1 N²

N

X

t=1 N

X

s=1

Cov(Xt,Xs)

= 1

N²

N−1

X

k=−(N−1)

(N− |k|)γ_k = 1 N

N−1

X

k=−(N−1)

1−|k|

N

ρ_k

−−−−→

N→∞ 0

Para estacion ´arioPN−1 k=−(N−1)

1−^|k_N^|

ρ_k ´e finita poisρ_k →0.

(19)

Estimac¸ ˜ao

X ={X(t),t ∈Z}processo estacion ´ario !

O estimador da funç ão de autocovari ância(γ_j) é

ˆ

γ_j =c_j= 1 N

N−j

X

t=1

[(X_t −X¯)(X_t+j−X¯)], j =0,1, . . . ,N−1.

Estimador da funç ão de autocorrelaç ãoρ_j =Corr(X_t,X_t_+j) = _γ^γ^j

0 ´e ˆ

ρ_j =r_j = ˆγ_j ˆ

γ₀, j=0,1, . . . ,N−1.

No programa R: acf( ).

(20)

Estimac¸ ˜ao

X ={X(t),t ∈Z}processo estacion ´ario

Poder´ıamos considerar outro estimador para a covari ˆancia:

ˆˆ

γ_j = 1

N−j

X

t=1

[(X_t −X¯)(X_t_+j−X¯)], j =0,1, . . . ,N−1.

Esse estimador pode ter um vi és um pouco menor, mas esse n ão é funç ão n ão negativa definida como éγˆ_j, logo esse último deve ser utilizado (Wei).

(21)

Estimac¸ ˜ao

X ={X(t),t ∈Z}processoRu´ıdo Branco

Para N grande,ρˆj tem distribuiç ão normal com m édiaρj e vari ância Var( ˆρj) = 1

N.

Assim, podemos usar esse resultado para construir intervalos para verificar para cada lagj, seρ_j =0 ou n ˜ao.

Cada intervalo ´e 0∓1.96p

1/Ne seρˆ_j est ´a fora do intervalo, ent ˜aoρ_j

´e significativo.

Vide Property P1.1 p.30. e Teorema A.7 - Ap ˆendice A de Shumway and Stoffer.

(22)

Assimetria e Curtose

X ={X(t),t ∈Z}processo estacion ´ario Coeficiente de Assimetria: A(X) =E

(X−µ)³ σ³

Ab = ¹

(N−1) ˆσ³

PN

t=1(X_t −X¯)³; Curtose de X:K(X) =E

_(X−µ)₄

σ⁴

Kb = ¹

(N−1) ˆσ⁴

PN

t=1(X_t −X¯)⁴;

Se tivermos um processo estacion ´ario gaussiano e N for grande, ent ˜ao

Ab ∼N(0,6/N)eKb ∼N(3,24/N)

Estudar o teste Jarque-Bera apresentado no Ap ˆendice D de Morettin e Toloi (2006).

(23)

Espectro

Espectro

O espectro tamb ´em caracteriza o processo estacion ´ario, como a FAC.

ParaX ={X(t),t∈Z}, processo estacion ´ario, suponha que valha:

Z ∞

−∞

|γ(τ)|dτ <∞

Ent ˜ao, oespectroouf. densidade espectral ´e a TF da FAC f(λ) = 1

2π

∞

X

−∞

γ_ke^−iλk,−π < λ < π A transformada inversa ´e

γ_k =

Z _π

−π

f(λ)e^+iλkdλ,k =0,1, . . . Paraτ =0, temos a decomposiç ão da vari ância

γ(0) =

Z π

−π

f(λ)dλ

(24)

Espectro

Propriedades da densidade espectral

Teorema 1

O espectrof(λ) = 1 2π

∞

X

k=−∞

γ_ke^−iλk, é limitado, n ão negativo, uniformemente cont´ınuo, par e peri ódico de per´ıodo 2π.

|f(λ)|= _2π¹|P

γke^iλk| ≤ _2π¹ P

|γ_k|<∞;

N ão negativo, s ó quando mostrarmos que a esperança do periodograma (n ão negativo) converge paraf(λ);

Uniformemente cont´ınuo

|f(λ+ω)−f(λ)| ≤ _2π¹ P∞

k=−∞|e^−i(λ+ω)k −e^−iλk||γ_k|=

1 2

P∞

k=−∞|e^−iλk||e^−iλk−1||γ_k| −−−→

ω→0 0

(25)

Espectro

Propriedades do Espectro

f(λ) = 1 2π

∞

X

k=−∞

γ_ke^−iλk

γ_k =γ_−k (estac) e parau =−k: f(λ) = _2π¹ P∞

u=−∞γue^+iuk =f(−λ)

f(λ)tem per´ıodo 2π, poise^−iλk =cos(λk)−isen(λk)tb tem.

Parat=R

f(λ) = 1 2π

Z ∞

−∞

γ(τ)e^−iλτdτ

f(λ)tem as mesmas propriedades, exceto que n ˜ao tem per´ıodo 2π.

(26)

Espectro

Exemplos

X_t ´e RB, ent ˜aof(λ) = _2π^γ⁰

Wt = ¹₃(Zt−1+Zt +Zt+1)comZt ∼RB

γh=











3σ²

9 , h=0

2σ²

9 , |h|=1

σ²

9, |h|=2 0, |h|>2 e^−iλk+e^iλk =2cos(λk)

f(λ) = 1 2π

∞

X

−∞

γ_ke^−iλk = 1 2π

3σ² 9 +2σ²

9 2cos(λ) + σ²

9 2cos(λ2)

= 1

2π σ²

9 [3+4cos(λ) +2cos(2λ)]

(27)

Espectro

Exemplos

W_t = ¹₃(Z_t−1+Z_t +Z_t+1)comZ_t ∼RB f(λ) = 1

2π

∞

X

−∞

γke^−iλk = 1 2π

3σ² 9 +2σ²

9 2cos(λ) + σ²

9 2cos(λ2)

= 1

2π σ²

9 [3+4cos(λ) +2cos(2λ)]

curve((1/9)*(1/(2*pi))*(3+4*cos(x)+2*cos(2*x)), 0, pi)

(28)

Espectro

Correlac¸ ˜ao entre 2 Processos

De modo an álogo ao coeficiente de correlaç ão entre 2 vari áveis aleat órias, podemos estudar a correlaç ão entre duas s éries (estacion árias).

Def

A funç ão decovari ância cruzadade{X(t),t ∈Z}e{Y(t),t ∈Z} é dada por

γ_XY(s,t) =E[(Xs−E(Xs))(Yt −E(Yt))].

E importante estudar a relaç ão linear entre s éries somente se ambas´ forem estacion árias.

Leiam sobre correlaç ão esp úria.

(29)

Espectro

Funç ão de Correlaç ão Cruzada

Os processosXt eYt estacion ários s ão conjuntamente estacion árias se a covari ância cruzada depende apenas deh=t−s, ou seja, γ_XY(s,t) =γ(h).

Note queγ_XY(h)n ˜ao precisa ser sim ´etrica:

γ_XY(h) = E[(X_t+h−E(X_t_+h))(Yt −E(Yt))]

= E[(Y_t−h−E(Y_t_−h))(X_t −E(X_t))] =γ_YX(−h).

A partir da funç ão de covari ância cruzada calculamos a funç ão de correlaç ão cruzada.

(30)

Espectro

Funç ão de Correlaç ão Cruzada

Estimadores

ˆ

γ_XY(h) = 1 n

n−h

X

t=1

(x_t_+h−x¯)(y_t −y¯), γˆ_XY(−h) = ˆγ_YX(h)

ˆ

ρXY(h) = ˆγ_XY(h) pˆγ_X(0)ˆγ_Y(0)

Para N grande e sob independ ência,ρˆXY(h)tem dist. normal com m édia 0 e vari ância 1/N, se algum dos processos é ru´ıdo branco independente (Teo A.8 - SS).

(31)

Refer ˆencia

Refer ˆencias

All Time series analysis Morettin e Toloi Shumway and Stoffer Wei