Modelo com mudan¸ ca de regime

' $

Markov Switching Models Profa. Airlane Alencar

Depto de Estat´ıstica - IME-USP www.ime.usp.br/∼lane

Ref: Kim e Nelson (1999) e Hamilton (1990)

' $

Objetivo

Mudan¸ca nos parˆametros de um modelo de regress˜ao definindo diferentes regimes.

• Datas conhecidas - Teste de Chow (1960);

• Quandt (1972): Regimes independentes;

• Goldfeld e Quandt (1973) - Regimes Markovianos;

• Hamilton (1989) - Mudan¸ca Markoviana no modelo AR(p).

' $

Modelo com mudan¸ ca de regime

y_t = x_tβ_St + e_t, (1) em que:

1. x_t ´e um vetor de vari´aveis ex´ogenas 1 × k;

2. S_t define o regime;

3. e_t iid ∼ N(0, σ_S²

t).

Consideremos dois regimes S_t = 0,1.

1. β_St = β₀(1 − S_t) + β₁S_t; 2. σ_S²

t = σ₀²(1 − S_t) + σ₁²S_t.

' $

lnL =

T

X

t=1

lnf(y_t|yet−1)

=

T

X

t=1

ln

" ₁ X

S_t=0

f(y_t|S_t,ye_t−1)P(S_t|ye_t−1)

#

' $

Regimes independentes

Probabilidades de cada regime dependentes de Z usando a fun¸c˜ao de liga¸c˜ao log´ıstica:

P(S_t = 1|ye_t−1) = p_t = exp(γ₀ + Z_tγ₁) 1 + exp(γ₀ + Z_tγ₁) P(S_t = 0|ye_t−1) = 1 − p_t = 1

1 + exp(γ₀ + Z_tγ₁)

ou usando alguma outra fun¸c˜ao de liga¸c˜ao, como por exemplo a probit, que facilita a obten¸c˜ao da posteriori usando inferˆencia bayesiana.

' $

Transi¸ c˜ ao Markoviana

P(S_t = 1|S_t−1 = 1,ye_t−1) = p_t = exp(γ₀ + Z_tγ₁) 1 + exp(γ₀ + Z_tγ₁) P(S_t = 1|S_t−1 = 0,ye_t−1) = q_t = exp(δ₀ + Z_tδ₁)

1 + exp(δ₀ + Z_tδ₁)

' $

Filtro de Probabilidades

Passo 1

P(S_t = j|ye_t−1) =

1

X

i=0

P(S_t = j|S_t−1 = i)P(S_t−1 = i|ye_t−1) Passo 2 - Atualiza¸c˜ao

P(S_t = j|ye_t) = f(S_t = j, y_t|ye_t−1) f(y_t|ye_t−1) =

= f(y_t|S_t = j, ye_t−1)P(S_t = j|ye_t−1) P1

j=0 f(y_t|S_t = j, yet−1)P(S_t = j|yet−1) Para iniciar o filtro tem que inicializar P(S₀|ye₀), por exemplo usando a probabilidade invariante no caso de cadeia estacion´aria.

' $

Exemplo - AR(1)

y_t − µ_St = φ(yt−1 − µ_St−1) + e_t, t = 1, . . . , T e_t ∼ N(0, σ_S²_t) S_t = 1, . . . , M.

Agora a densidade de y_t depende de S_t e S_t−1 f(y_t|ye_t−1, S_t, S_t−1) = 1

q

2πσ_S²

t

exp

−(y_t − µ_St − φ(y_t−1 − µ_St−1))² 2σ_S²

t

' $

e

lnL =

T

X

t=1

lnf(y_t|ye_t−1)

=

T

X

t=1

ln





M

X

S_t=1

M

X

S_t−1=1

f(y_t|S_t, St−1,yet−1)P(S_t, St−1|yet−1)





' $

Filtro de Probabilidades

Passo 1

P(S_t = j, S_t−1 = i|ye_t−1) = P(S_t = j|S_t−1 = i)P(S_t−1 = i|ye_t−1) Passo 2 - Atualiza¸c˜ao

P(S_t = j, S_t−1 = i|ye_t) =

= ^f(St=j,S_f(y^{t−1=i,yt|yet−1)}

t|ye_t−1) =

= P_M ^{f(yt|St=j,St−1=i,yet−1)P(St=j,St−1=i|yet−1)}

i=1

P_M

j=1 f(y_t|S_t=j,S_t−1=i,ye_t−1)P(S_t=j,S_t−1=i|ye_t−1)

Para iniciar o filtro tem que inicializar P(S₀|ye₀).

' $

Suaviza¸ c˜ ao e EM

A variˆancia assint´otica dos estimadores de m´axima verossimilhan¸ca podem ser obtidos utilizando-se o inverso da matriz informa¸c˜ao de Fisher (estimada usando a matriz hessiana no ponto de m´aximo).

O algoritmo de suaviza¸c˜ao proposto por Kim permite obter uma aproxima¸c˜ao para P(S_t = j|ye_T).

Pode ser utilizado o algoritmo EM para realizar a estima¸c˜ao, escrevendo-se a log-verossimilhan¸ca completa, ou seja, usando a densidade das observa¸c˜oes e as vari´aveis n˜ao observadas que nesse caso s˜ao os regimes.

' $

Hamilton - GDP

Hamilton (1989) modelou o crescimento do PIB real como um

modelo AR(4) com dois regimes para a m´edia. A seguir, y_t ´e o log do PIB real.

' $

∆ Log do PIB real

0.01 0.02 0.03 0.04

‐0.03

‐0.02

‐0.01 0.00

mar/52 mar/54 mar/56 mar/58 mar/60 mar/62 mar/64 mar/66 mar/68 mar/70 mar/72 mar/74 mar/76 mar/78 mar/80 mar/82 mar/84 mar/86 mar/88 mar/90 mar/92 mar/94

' $

Modelo

(∆y_t − µ_St) = φ₁(∆y_t−1 − µ_St−1) + . . . + φ₄(∆y_t−4 − µ_St−4) + e_t e_t ∼ N(0, σ²)

µ_St = µ₀(1 − S_t) + µ₁S_t

P(S_t = 1|S_t−1 = 1) = p, P(S_t = 0|S_t−1 = 0) = q

Modelo estacion´ario, sujeito a φ(B) = (1 − φ₁B − . . . − φL⁴) = 0 com ra´ızes fora do c´ırculo unit´ario.

E poss´ıvel distinguir dois regimes: recess˜´ ao e expans˜ao (m´edia

' $

' $

' $

Quando Kim e Nelson inclu´ıram os dados de 1985 a 1995, o modelo n˜ao consegue detectar dois regimes. Por isso, foi proposto o modelo para as m´edias:

µ_St = (µ₀ + µ^∗₀S_t)(1 − D_t) + (µ₁ + µ^∗₁D_t)S_t,

com D_t igual a 1 no per´ıodo 1983:I-1995:III e zero no per´ıodo anterior.

' $

' $

Modelo Threshold Auto-regressivo

TAR

y_t =







µ₁ + φ₁y_t−1 + u_1t, se s_t−k < r µ₂ + φ₂y_t−1 + u_2t, se s_t−k ≥ r SETAR = Self-exciting TAR

y_t =







µ₁ + φ₁y_t−1 + u_1t, se y_t−k < r µ₂ + φ₂y_t−1 + u_2t, se y_t−k ≥ r

Tem que estimar µ₁, µ₂, φ₁, φ₂, k, r e as variˆancias de u_it.

' $

• Estima¸c˜ao: m´axima verossinilhan¸ca e r, k estimados por grid search.

• Pode ter mais que dois regimes e diferentes vari´aveis para definir os regimes.

• Pode ser usado algum crit´erio tipo AIC para escolher o melhor modelo.

' $

Dados simulados de y_t =







0,2y_t−1 + 0,5e_t, se y_t−1 > 0,5 0,8y_t−1 + e_t, se y_t−1 ≤ 0,5

' $

y = 0.479x ‐0.161 R² = 0.191 y = 0.787x ‐0.088

R² = 0.489

1 0 1 2 3

‐6 ‐5 ‐4 ‐3 ‐2 ‐1 0 1 2 3

y_t

y_t‐1

‐6

‐5

‐4

‐3

‐2

‐1

regime 1 regime 2

' $

Valores verdadeiros e estimativas obtidas pelo m´etodo de M´axima Verossimilhan¸ca

parˆametros verdadeiro estimativa

φ₁ 0.20 0.35

φ_q 0.80 0.82

σ₁² 0.50 0.51

σ₂² 1.00 1.01

r 0.50 0.52

' $

0 5 0.6 0.7 0.8 0.9 1.0

‐1 0 1 2 3

1 9 17 25 33 41 49 57 65 73 81 89 97 105 113 121 129 137 145 153 161 169 177 185 193

0.0 0.1 0.2 0.3 0.4 0.5

‐6

‐5

‐4

‐3

‐2

reg1 série

' $

Referˆ encias

[1] Kim, C. J. e Nelson, C. R. (1999). State-space models with regime switching. MIT Press.

[2] Hamilton, J. D. (1994). Time series analysis. Princeton, N.J.:

Princeton University Press.

[3] Tong, H. (1990). Non-Linear Time Series: A Dynamical System Approach. New York: Oxford University Press.