Katia Lorena Sáez Carrillo. Modelos de Espaço de Estados Gama-Gama: Aplicação a uma série de chuva TESE DE DOUTORADO

Katia Lorena Sáez Carrillo

Modelos de Espaço de Estados Gama-Gama:

Aplicação a uma série de chuva

T

ESE DE

D

OUTORADO

D

EPARTAMENTO DE

E

NGENHARIA

E

LÉTRICA

Programa de Pós-Graduação em

Engenharia Mecânica

Rio de Janeiro Dezembro de 2002

Katia Lorena Sáez Carrillo

Modelos de Espaço de Estados Gama-Gama:

Aplicação a uma série de chuva

Tese de Doutorado

Tese apresentada como requisito parcial para obtenção do grau de Doutor pelo Programa de Pós-Graduação em Engenharia Elétrica do Departamento de Engenharia Elétrica do Centro Técnico Científico da PUC-Rio.

Orientador: Prof. Reinaldo Castro Souza Co-orientador: Prof. Cristiano Coelho Fernandes

Rio de Janeiro Dezembro de 2002

Katia Lorena Sáez Carrillo

Modelos de Espaço de Estados Gama-Gama:

Aplicação a uma série de chuva

Tese apresentada como requisito parcial para obtenção do grau de Doutor pelo Programa de Pós-Graduação em Engenharia Elétrica do Departamento de Engenharia Elétrica do Centro Técnico Científico da PUC-Rio. Aprovada pela Comissão Examinadora abaixo assinada.

Prof. Reinaldo Castro Souza

Orientador Departamento de Engenharia Elétrica – PUC-Rio

Prof. Cristiano Coelho Fernandes

Co-orientador Departamento de Engenharia Elétrica – PUC-Rio

Prof. Tufi Machado Soares

UFJF

Prof. Hedibert Freitas Lopes

UFRJ

Prof. Basílio de Bragança Pereira

UFRJ

Prof. Ney Augusto Dumont

Coordenador Setorial do Centro Técnico Científico - PUC-Rio Rio de Janeiro, 17 de dezembro de 2002

Todos os direitos reservados. É proibida a reprodução total ou parcial do trabalho sem autorização da universidade, do autor e do orientador.

Katia Lorena Sáez Carrillo

Professora do Departamento de Estatística da Facultad de Ciências Físicas e Matemáticas da Universidad de Concepción – Chile. Obteve o grau de Licenciamento em Matemática em 1988, o titulo de Engenheiro Matemático em 1991 e de Mestre em Estatística em 1993, todos eles obtidos na Universidade Concepción - CHILE. No seu constante desejo de aprimoramento, veio para o Rio de Janeiro, afastando-se da atividade profissional, onde iniciou seus estudos de doutorado no ano 1998, no Departamento de Engenharia Elétrica da PUC-Rio.

Ficha Catalográfica

CDD: 621.3 Sáez Carrillo, Katia Lorena

Modelos de espaço de estados gama-gama : aplicação a uma série de chuva / Katia Lorena Sáez Carrillo; orientador: Reinaldo Castro Souza; co-orientador: Cristiano Coelho Fernandes. – Rio de Janeiro : PUC, Departamento de Engenharia Elétrica, 2002.

[14], 71f. : il. ; 30 cm

Tese (doutorado) – Pontifícia Universidade Católica do Rio de Janeiro, Departamento de Engenharia Elétrica.

1. Engenharia elétrica – Teses. 2. Modelos gama-gama. 3. Modelos de espaço de estados. 4. Função de estimação de Kalman. I. Souza, Reinaldo Castro. II. Fernandes, Cristiano Coelho. III. Pontifícia Universidade Católica do Rio de Janeiro. Departamento de Engenharia Elétrica. IV. Título.

À minha mãe e a meu filho Roberto Esteban, grandes amores da minha vida.

Agradecimentos

Meu agradecimento a Deus pelas oportunidades que me tem concedido.

Aos professores Reinaldo Castro Souza e Cristiano Coelho Fernandes pelo apoio e paciência.

Aos professores Tufi Machado Soares, Hedibert Freitas Lopes e Basílio de Bragança Pereira, pelas sugestões.

À professora Antonieta Peres, pelo apoio bibliográfico.

Às instituições que viabilizaram meus estudos, Pontifícia Universidade Católica do Rio de Janeiro, CNPq e Universidad de Concepción – Chile.

À minha família em especial a Popy, César e Roberto.

A meus amigos e colegas, em especial minhas amigas Elma, Ely, Carla e Georgina que, mais que amigas, foram companheiras e orientadoras na minha transformação.

À família Néri Rodrigues, por nos fazer sentir parte dela, em especial a Neide, por compartilhar suas vivências comigo e a Rubens José, pelo seu respeitoso carinho. Ao Colégio Rio de Janeiro e às famílias dos colegas de meu filho que tão carinhosamente acolheram-no, em especial a família Krumhold que fizeram de meu filho um filho seu, meu eterno agradecimento.

A Jorge, Seiça, e Maria Lídia, pela sua amizade e hospitalidade.

A todos os funcionários do Departamento de Engenharia Elétrica pela gentileza, em especial a Alcina, Ana e Ana Maria.

Às “niñitas”, Gladys, Kata, Elizabeth, Natali, Belenia, Zoine, Cristina e Mariela, pela companhia e carinho que compartilharam com meu filho e comigo.

A meus colegas do Departamento de Estadística de la Universidad de Concepción, Chile, pelo apoio e compreensão, em especial as professoras Maria Valenzuela, Estrella Salas e o professor Ursecino González.

Resumo

Sáez-Carrillo, Katia Lorena; Souza, Reinaldo; Fernandes, Cristiano.

Mo-delos de Espaço de Estados Gama-Gama: Aplicação a uma série de chuva. Rio de Janeiro, 2002. 85p. Tese de Doutorado - Departamento de

Engenharia Elétrica - Pontifícia Universidade Católica do Rio de Janeiro. Esta tese apresenta o estudo de um modelo de espaço de estados para da-dos positivos, onde o processo observado é condicionalmente independente, dado um processo latente Gama Markov. O processo observado condicionado ao pro-cesso latente tem distribuição Gama. O modelo possibilita a inclusão de covariá-veis, tanto através do processo latente, como do processo observado.

O modelo obtido é log-linear e a estimação dos parâmetros de regressão é feita através de funções de estimação de Kalman. Os parâmetros de dispersão são estimados via estimadores de Pearson ajustados.

São desenvolvidos alguns estudos de simulação e uma aplicação aos dados da série de chuva de Fortaleza, Ceará, onde são incorporados fatos estilizados da série (tendência, sazonalidade ou ciclos), bem como o efeito de variáveis explica-tivas (temperatura do nível do mar, pressão atmosférica, manchas solares).

Palavras-chaves

Modelos gama-gama; modelos de espaço de estados; função de estimação de Kalman.

Abstract

Sáez-Carrillo, Katia Lorena; Souza, Reinaldo; Fernandes, Cristiano.

Gamma–Gamma State Space models: Application of the rainfall series. Rio

de Janeiro, 2002. 85p. Tese de Doutorado - Department of Engineering Electri-fies, Pontifical University Catholic of Rio de Janeiro.

This thesis presents a study of a state space model for positive data where the observed process is conditionally independent given a latent process gamma Markov process. The observed process conditioned to the latent process has gamma distribution. The model facilitates the inclusion of as many covariates through the latent process as of the observed process.

The obtained model is log-linear and the estimate of the regression pa-rameters is made through Kalman estimating functions. The dispersion papa-rameters are obtained via the adjusted Pearson estimation.

Some simulation studies and an application are developed to the data of the series of rainfall of Fortaleza, Ceará, where they are incorporate stylized facts of the series (tendency, sazonalidade or cycles) are include as well as the effect of explanatory variables (temperature of the level of the sea, pressure, sunspots).

Keywords

Gamma-Gamma models; state space models; Kalman estimating functions.

Sumário

1. Introdução 1

1.1. Motivação 2

1.2. Organização da tese 3

2. Definições Prévias 5

2.1. Modelo exponencial de dispersão 5

2.2. Modelo Tweedie 8

3. Modelo Tweedie-Tweedie 11

3.1. Definição do modelo 11

3.2. Momentos 13

3.2.1. Momentos para o processo latente 14

3.2.2. Momentos para o processo observado 16

3.3. Modelo de Espaço de Estado 19

3.3.1. Filtro de Kalman 20

3.3.2. Filtro de Kalman suavizado 22

3.4. Estimação de parâmetros 24

3.4.1. Equação de estimação de Kalman 25

3.4.2. Estimação de parâmetros de dispersão 27

3.5. Análise de Resíduos 28

4. Modelo Gama-Gama 32

4.1. Definição 32

4.2. Momentos 36

4.3. O filtro e o suavizador de Kalman 36

4.4. Estimação de parâmetros 37

4.4.1. A matriz de variabilidade 39

4.4.2. A matriz de sensibilidade 39

4.4.3. Algoritmo de estimação 40

4.5. Simulação 40 4.5.1. Simulação do processo latente e do processo observado 41

4.5.2. Aplicação a um conjunto de dados simulados 48 5. Aplicação 51 5.1. Dados 51 5.2. Resultados do Ajuste 53 6 Conclusões 58 7. Referências bibliográficas 60 8. Apêndices 64

8.1. Propriedades básicas do preditor linear 64

8.2. Funções de estimação 70

8.3. Matriz de informação de Godambe 74

8.3.1. Matriz de variabilidade 74

8.3.2. Matriz de sensibilidade 76

8.4. Programas 79

Lista de figuras

Figura 1 - Simulação de três processos, sem efeito de covariáveis. 13 Figura 2 - Simulação processos latentes, sem efeito de covariaveis. 34 Figura 3 - Simulação de processos observados, sem efeito de

covariaveis. 34

Figura 4 - Simulação considerando tendência. 35 Figura 5 - Simulações considerando tendência e ciclo. 35 Figura 6 - Convergência dos valores dos parâmetros de dispersão para a

primeira série simulada do Modelo 1, com n=100. 42 Figura 7 - Histogramas dos valores estimados dos parâmetros de

dispersão do Modelo 1. 43

Figura 8 - pp-plots dos valores estimados do hiperparâmetro de longo

prazo, Modelo 2. 44

Figura 9 - Gráfico pp-plot dos valores obtidos dos hiperparâmetros,

correspondente ao Modelo 6 no caso n=100. 46 Figura 10 - Gráfico pp-plot dos valores obtidos dos hiperparâmetros para

o Modelo 5, n=80. 47 Figura 11 - Gráfico pp-plot dos valores obtidos dos hiperparâmetros do

Modelo 5, n=50. 48 Figura 12 - Função de distribuição Ga(1, σ2) ou Gama(1/σ2, σ2). 48

Figura 13 - a) Série simulada e processo latente que a gerou, b) valores ajustados (3.15) e preditor linear, c) processo latente obtido pelo

suavizador de Kalman. 49

Figura 14 - Gráficos que permitem avaliar a estrutura do modelo, dos resíduos e a relação com as covariáveis. 50 Figura 15 - Série de chuvas de Fortaleza, Ceará, mensal. 52 Figura 16 - Regiões onde são obtidas as informações de temperatura

superficial do mar. 53

Figura 17 - a) Série de chuva mensal e valores ajustados, b) série de chuva e preditor linear obtido a partir do suavizador de Kalman, c)

processo latente obtido pelo suavizador de Kalman. 54

Figura 18 - a) Série de chuva mensal e valores ajustados, b) série de chuva e preditor linear obtido a partir do suavizador de Kalman, c)

processo latente obtido pelo suavizador de Kalman. 55 Figura 19 - Gráficos para avaliar a estrutura do modelo e dos resíduos. 56 Figura 20 - Função de correlação cruzada amostral, entre os resíduos padronizados (SK) e as covariáveis de longo prazo. 57

Lista de tabelas

Tabela 1 - Desvio unitário para modelos Tweedie. 9 Tabela 2 - Resumo de modelos exponencial de dispersão Tweedie. 10 Tabela 3 - Resumo dos resíduos condicionais. 29 Tabela 4 - Resultados do Modelo 1. 43 Tabela 5 - Resultados do Modelo 2. 44 Tabela 6 - Resultados do Modelo 3. 44 Tabela 7 - Resultados do Modelo 4. 45 Tabela 8 - Resultados do Modelo 5. 45 Tabela 9 - Teste de Jarque e Bera, para o Modelo 5. 46 Tabela 10 - Resultados da série simulada. 49 Tabela 11 - Resultados do modelo inicial. 53 Tabela 12 - Resultados do modelo final. 54