Modelagem Hierárquica para Redução de Dimensão para Modelos Espaciais Não Gaussianos

(1)

Redu¸

c˜

ao de Dimens˜

ao para Modelos

Espaciais n˜

ao Gaussianos

por

Mariana del Pilar Lizarazo Osorio

Universidade Federal do Rio de Janeiro

Instituto de Matem´

atica

Departamento de M´

etodos Estat´ısticos

(2)

Redu¸

c˜

ao de Dimens˜

ao para Modelos

Espaciais n˜

ao Gaussianos

Mariana del Pilar Lizarazo Osorio

Disserta¸cão submetida ao Corpo Docente do Instituto de Matemática - Departamento de Métodos Estat´ısticos da Universidade Federal do Rio de Janeiro - UFRJ, como parte dos requisitos necessários à obten¸cão do grau de Mestre em Estat´ıstica.

Aprovada por:

Prof. Tha´ıs C. Fonseca de Oliveira PhD - UFRJ - Orientadora.

Prof. Dani Gamerman PhD - IM - UFRJ.

Prof. Alexandre Loureiros Rodrigues PhD - UFES.

Rio de Janeiro, RJ - Brasil 2013

(3)

FICHA CATALOGR ´AFICA

Lizarazo Osorio, Mariana del Pilar.

Redu¸cão de Dimensão para Modelos Espaciais não Gaussianos \ Mariana del Pilar Lizarazo Osorio.

Rio de Janeiro: UFRJ, IM, DME, 2013.

Disserta¸c˜ao - Universidade Federal do Rio de Janeiro, IM, DME. 1. Introdu¸c˜ao. 2. Estat´ıstica Espacial.

3. Processos Gaussianos e n˜ao Gaussianos.

4. Processos Preditivos. 5. Design. 6. Implementa¸cão. 7. Simula¸cão. 8. Conclusões e Extensões.

(Mestrado-UFRJ/IM/DME) I. Fonseca, Tha´ıs C. O. II. Universidade Federal do Rio de Janeiro III. T´ıtulo.

(4)

`

A minha fam´ılia, base de tudo. Especialmente `a minha m˜ae pelo seu apoio incondicional.

(5)

“N˜ao deixe que a saudade sufoque, que a rotina acomode, que o medo impe¸ca de tentar. Desconfie do destino e acredite em vocˆe. Gaste mais horas realizando que sonhando,

fazendo que planejando, vivendo que esperando, porque, embora quem quase morre esteja vivo, quem quase vive j´a morreu.”

(6)

Agradecimentos

Eu gostaria de agradecer em primeiro lugar a Deus, pelo dom da vida, pela minha fam´ılia, pelos meus amigos e colegas, que foram meu apoio, refugio e consolo em muitos momentos dif´ıceis. Quero agradecer de maneira especial a minha mãe, ela me deu a coragem para sair adiante, me apoio durante todo este processo, mesmo na distancia. A meu tio Julio, pois sem ele nada de toda esta experiência teria sido poss´ıvel. A todos meus colegas da Colômbia que sempre me deram seu apoio e sua amizade.

Quero Agradecer a professora Thais, poies ela me ajudo muito, tra¸co o caminho da disserta¸cão. Ensino-me que existem pessoas que mesmo sendo muito brilhantes são muito humildes. É um bom modelo a seguir.

Este ultimo ano foi complicado para mim, e por isso eu quero agradecer as pessoas que sempre estiveram de meu lado, que fizeram que eu me sentisse em casa, me ajudando, apoiando, brindando sua amizade, principalmente a meu namorado Renan Assimos, quem teve que me aturar durante tudo este ano, e a meus amigos Aniel Ojeda, Teresa Villanueva, Pamela Chiroque, Pedro Ortis, Angela arana, que me ajudaram, deram seus conselhos em momentos dif´ıceis, parceiros de rizadas, de estudos, de moradia, a todos muito obrigada.

Agrade¸co também aos meninos da inicia¸cão cientifica especialmente a Arthur (crian¸ca), pois aprendi muito com todas suas perguntas, embora as vezes fosse chato, me ensino sobre o que é ser docente e da grão satisfa¸cão que da, também me ensinou um pouquinho de português, e foi meu grande parceiro de laboratório. Agrade¸co de maneira especial a Paloma Lima pela ajuda com o português, a Cristiano Moura pela paciência

(7)

e por toda sua ajuda.

Agrade¸co a UFRJ a CAPES e a FAPERJ, por me dar a oportunidade de ter uma grande experiˆencia como esta, sem eles n˜ao poderia ter feito este trabalho.

(8)

Resumo

No tratamento de dados espacialmente referenciados usualmente assume-se que os dados seguem a distribui¸cão Normal. Mas este suposto muitas vezes não é adequado, pois a amostra pode apresentar dados at´ıpicos ou assimetria. Dessa forma, é preciso criar modelos que permitam descrever o comportamento de variáveis de forma mais realista e, ao mesmo tempo, que não gerem um custo computacional muito alto. Para isso, os modelos não Gaussianos oferecem uma flexibilidade maior, e fazem com que o modelo seja mais realista, mas o custo computacional deste tipo de modelos é muito grande.

Por outro lado, existem diferentes métodos para diminuir o custo computacional em modelos Gaussianos. Entre estes métodos, existem os modelos de processos preditivos, que projetam a amostra original num subconjunto de pontos, o que faz que o custo computacional seja reduzido. A escolha destes pontos é discutida neste trabalho.

Assim, o intuito deste trabalho é propor um modelo de processos preditivos não Gaussianos que permita modelar variáveis espaciais de forma realista com um baixo custo computacional.

(9)

Abstract

The usual treatment to spatial data analysis is to consider Gaussian distributions. But this assumption is often not appropriate because the sample may have outliers or asymmetry. Thus, it is necessary to create models that describe the behavior of variables in a more realistic way and, at the same time, don’t generate a very high computational cost. Bearing this in mind, it is known that non-Gaussian models offer more flexibility , and make the model more realistic, but the computational cost of this type of models is too large.

On the other hand there are several methods to reduce the computational cost in Gaussian models. Among these methods, there are the predictive process models, which project the original sample on a subset of points reducing the computational cost. The choice of these points is discussed in this text.

Thus, the aim of this work is to propose a non-Gaussian predictive process model that allows realist modeling of spatial variables with a low computational cost.

(10)

Sum´

ario

1 Introdu¸c˜ao 1

1.1 Principais objetivos . . . 4

2 Estat´ıstica Espacial 5 2.1 Introdu¸c˜ao . . . 5

2.2 Tratamento usual de dados espaciais . . . 6

2.3 Geoestat´ıstica . . . 7

2.3.1 Estrutura de Covariˆancia . . . 10

2.3.2 Previs˜ao . . . 13

3 Processos Gaussianos e não Gaussianos 16 3.1 Introdu¸cão . . . 16 3.2 Processos Gaussianos . . . 17 3.3 Processos não Gaussianos . . . 18 3.3.1 Previsão . . . 20 4 Processos Preditivos 22 4.1 Introdu¸cão . . . 22

4.2 Processos Gaussianos Preditivos . . . 23

4.3 Processos n˜ao Gaussianos Preditivos . . . 26

5 Design 28 5.1 Introdu¸c˜ao . . . 28

(11)

5.2.1 Grade Aleat´oria . . . 30

5.2.2 Grade Regular . . . 30

5.2.3 Proposta de Finley et al. (2009) . . . 30

5.2.4 Proposta Diggle . . . 31

5.2.5 Processos n˜ao Gaussiano . . . 32

6 Implementa¸c˜ao 35 6.1 Algoritmos . . . 35

6.2 Crit´erios de Convergˆencia . . . 37

6.3 Amostragem por Blocos . . . 39

6.3.1 Modelo preditivo . . . 41

6.3.2 Crit´erio de identifica¸c˜ao de outliers . . . 42

7 Simula¸c˜ao 43 7.1 Processo Gaussiano . . . 43

7.1.1 Gera¸c˜ao dos dados . . . 43

7.1.2 Distribui¸c˜ao a priori . . . 44

7.1.3 Resultados . . . 45

7.2 Processos n˜ao Gaussianos . . . 53

7.2.1 Gera¸c˜ao dos dados . . . 53

7.2.2 Distribui¸c˜ao a priori: . . . 53

7.2.3 Compara¸c˜ao de modelos . . . 54

7.2.4 Resultados . . . 64

8 Conclus˜oes e Extens˜oes 70 8.1 Processos espa¸co-temporais . . . 71

8.1.1 Processos Gaussianos espa¸co-temporais . . . 71

8.1.2 Processos n˜ao Gaussianos Espa¸co-temporais . . . 73

8.1.3 Processos n˜ao Gaussianos Preditivos Espa¸co-temporais . . . 73

(12)

(13)

Lista de Tabelas

7.1 EQM dos parâmetros do modelo e média do tempo computacional, para diferentes números de “knots”. (EQM relativo) . . . 46 7.2 EQM dos parâmetros do modelo e média do tempo computacional, para

diferentes números de “knots”, para proposta Aleatória.(EQM relativo) 47 7.3 EQM dos parâmetros do modelo e média do tempo computacional, para

diferentes números de “knots”. Usando a proposta do Diggle et al. (1998). (EQM relativo) . . . 48 7.4 Diagnóstico de Raftery e Lewis e critério de Geweke para compara¸cão de

3 versões diferentes da modifica¸cão de Finley et al. (2009). Per´ıodo de Burn-in de 56000. . . 49 7.5 Estimativa dos parâmetros nas 3 versões da modifica¸cão de Finley et al.

(2009). . . 50 7.6 EQM dos parˆametros do modelo e m´edia do tempo computacional, para

diferentes números de “knots”. Para diferentes combina¸cões das propostas do Finley et al. (2009). (EQM relativo) . . . 51 7.7 Taxa de aceita¸cão para o alcance e alguns λ por região, usando o algoritmo

proposto por Steel e o algoritmo de passeios aleatórios . . . 55 7.8 Diagnóstico de Raftery e Lewis e critério de Geweke para a proposta

independente e a proposta de passeios aleatórios com um per´ıodo de burn-in de 1000. . . 56 7.9 Diagnóstico de Raftery e Lewis e critério de Geweke para a proposta

(14)

Burn-7.10 Estimativas dos parâmetros para os dois modelos . . . 62 7.11 EQM dos parâmetros do modelo e média do tempo computacional, para

diferentes números de “knots”. Para proposta Aleatória.(EQM relativo) 65 7.12 EQM dos parâmetros do modelo e média do tempo computacional, para

diferentes números de “knots”. Para proposta Diggle et al. (1998). (EQM relativo) . . . 66 7.13 EQM dos parâmetros do modelo e média do tempo computacional, para

diferentes números de “knots”. Para as propostas 1. (EQM relativo) . 67 7.14 EQM dos parâmetros do modelo e média do tempo computacional, para

diferentes números de “knots”. Para as propostas 2. (EQM relativo) . 67 7.15 EQM dos parâmetros do modelo e média do tempo computacional, para

(15)

Lista de Figuras

2.1 Fun¸cão de covariância exponencial, Gaussiana, esférica, com parâmetros a = 2, σ2 = 2 e h variando de 0 a 10. . . 12

5.1 Exemplos das grades usadas por Diggle . . . 33

7.1 A sub-figura (a) apresenta a região na qual foram simulados os dados. Os pontos marcados com bolas cheias foram modificados para serem dados extremos e a divisão em regiões foi feita para estimar o parâmetro λ. A sub-figura (b) apresenta um Box plot da razão σ2_{/λ para cada s´ıtio usando} o modelo (3.4). Os Box plot de cor verde correspondem aos locais onde as observa¸cões foram modificadas. . . 55 7.2 Cadeia, histograma, auto-correlograma e tra¸ca da amostra da distribui¸cão

a posterior para o parâmetro β1, usando a proposta independente (a) e passeios aleatórios (b). . . 57 7.3 Cadeia, histograma, auto-correlograma e tra¸ca da amostra da distribui¸cão

a posterior para o parâmetro β2, usando a proposta independente (a) e passeios aleatórios (b). . . 58 7.4 Cadeia, histograma, auto-correlograma e tra¸ca da amostra da distribui¸cão

a posterior para o parâmetro τ2_{, usando a proposta independente (a) e} passeios aleatórios (b). . . 59 7.5 Cadeia, histograma, auto-correlograma e tra¸ca da amostra da distribui¸cão

a posterior para o parˆametro σ2_{, usando a proposta independente (a) e} passeios aleat´orios (b). . . 60

(16)

7.6 Cadeia, histograma, auto-correlograma e tra¸ca da amostra da distribui¸cão a posterior para o parâmetro do alcance, usando a proposta independente (a) e passeios aleatórios (b). . . 61 7.7 Cadeia, histograma, auto-correlograma e tra¸ca da amostra da distribui¸cão

a posterior para o parâmetro v usando a proposta independente (a) e passeios aleatórios (b). . . 61 7.8 Os pontos representam a taxa de aceita¸cão do modelo de passeio aleatório

(17)

Cap´ıtulo 1

Introdu¸

c˜

ao

O uso de modelos espaciais e espa¸co-temporais está aumentando devido à crescente disponibilidade de dados referenciados no espa¸co e no tempo que são obtidos, por exemplo, por satélite ou esta¸cões monitoradoras. Assim, esses modelos têm sido cada vez mais utilizados em áreas tais como meio-ambiente, meteorologia, agricultura, devido `

a grande utilidade destes para o entendimento de fenômenos como tornados, chuva, temperatura, pressão, umidade, polui¸cão, entre outros.

Geralmente assume-se que os dados são realiza¸cões de um processo Gaussiano, onde são observadas I localiza¸cões no espa¸co, o que implica inversão de matrizes de tamanho I × I no procedimento de inferência. Este tipo de modelagem permite estimativas de valores da variável de interesse em locais onde dados não foram observados, fazendo uso de preditores lineares, o que gera um maior interesse neste tipo de modelos, como pode ser observado, por exemplo, no trabalho de Brown et al. (1994), entre outros. Mas, em grandes conjuntos de dados, a inferência em modelos mais complexos e realistas pode requerer um custo computacional muito elevado.

No estudo de eventos naturais, muitas vezes, o interesse principal é o estudo de variáveis onde os dados fora do usual acontecem com muita frequência. Por exemplo, os dados de temperatura no Rio de Janeiro, em algumas loaliza¸cões parecem

(18)

pode não ser adequada. Portanto, é preciso abandonar essa suposi¸cão e considerar distribui¸cões com caudas mais pesadas, que permitam descrever o comportamento dos dados de forma mais realista. Na literatura existem diferentes formas de abordar não Gaussianidade dos dados espacialmente referenciados, alguns são baseados em transforma¸cões não lineares dos dados observados (ver De Oliveira et al., 1997) ou fazendo uso de modelos lineares generalizados, como foi proposto por Diggle et al. (1998).

Neste trabalho, o modelo n˜ao Gaussiano proposto por Palacios e Steel (2006) ´

e considerado. Esse modelo usa uma variável latente que afeta a variância do processo para assim permitir que o modelo seja mais flex´ıvel, realista e acomode heterocedasticidade espacial. Num contexto espa¸co-temporal, Fonseca e Steel (2011) consideram uma extensão do modelo de Palacios e Steel (2006) que também é capaz de tratar heterocedasticidade espacial e temporal, além de identificar outliers tradicionais. No entanto, estes tipos de modelos, assim como os Gaussianos, podem gerar um custo computacional muito grande, que cresce com o número de locais observados. Estes modelos implicam inversão de matrizes de dimensão I por I com maior frequência do que os modelos Gaussianos, pois é preciso fazer inferência para o processo de variância. No caso do modelo de Fonseca e Steel (2011), a dimensão das matrizes a serem invertidas ´

e ainda maior, dependendo tamb´em do n´umero de pontos no tempo.

Assim, o objetivo principal deste trabalho é representar os processos espaciais não Gaussianos propostos por Palacios e Steel (2006) em dimensões menores, de forma a facilitar a computa¸cão, porém mantendo boas propriedades de previsão e estima¸cão dos parâmetros.

Existem diferentes métodos para redu¸cão da dimensão neste tipo de problemas. O uso de técnicas como o tapering permite diminuir a complexidade da matriz de covariância, transformando-a em uma matriz esparsa, o que diminui o custo computacional (ver Kaufman et al., 2008). Alguns métodos envolvem aproxima¸cões da verossimilhan¸ca (ver Vecchia, 1988; Whittle, 1954), enquanto outros métodos incluem o uso de processos

(19)

latentes, como é o caso dos modelos preditivos (ver Banerjee et al., 2010; Finley et al., 2011). Todos os métodos mencionados anteriormente são discutidos por Sun et al. (2012).

Usaremos modelos preditivos, como sugere Banerjee et al. (2008), que facilitam a computa¸cão no caso de processos Gaussianos, onde o número de locais onde tem-se observa¸cões é muito grande. Esse método está baseado na ideia do processo espacial preditivo que, por sua vez, é motivado pelo krigagem. A ideia é projetar o processo original em um subespa¸co que é gerado por realiza¸cões de dito processo em um conjunto de localiza¸cões conhecidas como “knots”. Neste trabalho são estudados alguns métodos que são usados no contexto de design ótimo para escolha desses knots. No entanto, não se tem uma regra clara para a escolha do número e localiza¸cão dos knots, o que faz com que o pesquisador tenha que decidir o quanto está disposto a sacrificar na estimativa dos parâmetros em troca de um menor tempo computacional. Iremos estender essa proposta na presen¸ca de dados extremos, isto é, no caso de modelos não Gaussianos.

A análise será feita usando um enfoque Bayesiano e será desenvolvido um procedimento eficiente de estima¸cão baseado em cadeias de Markov (MCMC), para os modelos propostos. O Cap´ıtulo 2 apresenta uma breve introdu¸cão à estat´ıstica espacial com foco na geoestat´ıstica e na previsão de dados não observados e o Cap´ıtulo 3 introduz os processos Gaussianos e os processos não Gaussianos. Os processos preditivos propostos por Banerjee et al. (2008) são abordados no Cap´ıtulo 4 e, baseados nesta ideia, apresenta-se a proposta deste trabalho que apresenta-será chamada de processos não Gaussianos preditivos. No Cap´ıtulo 5 são discutidos alguns dos critérios existentes para escolha dos pontos que vão formar o conjunto de knots. Conceitos necessários para implementa¸cão destes métodos são apresentados no Capitulo 6. Um estudo simulado é apresentado no Cap´ıtulo 7 com o objetivo de entender o efeito da diminui¸cão de dimensão na estima¸cão dos parâmetros dos modelos e na identifica¸cão de outliers. As conclusões são apresentadas no Capitulo 8.

(20)

1.1 Principais objetivos

Alguns dos objetivos deste trabalho s˜ao:

i) Comparar o comportamento da proposta de processos preditivos no caso Gaussiano, ao mudar a grade usada para projetar os pontos da amostra. As grades usadas na compara¸cão são a aleatória, a proposta por Diggle e a proposta por Finley. Em Finley et al. (2009), apenas o efeito na estima¸cão da variância global (τ2_{) ´}_e analisada. Neste trabalho, busca-se entender como é afetada a estima¸cão dos outros parâmetros do modelo.

ii) Propor um modelo não Gaussiano preditivo que use a ideia de Banerjee et al. (2008) para diminuir o custo computacional. E entender como a escolha do knots influencia na estima¸cão dos parâmetros no caso de processos não Gaussianos preditivos. Pois a diferen¸ca dos processos Gaussianos preditivos, o novo modelo inclui dois processos diferentes, um processo de variância e um processo espacial, e eles podem ou não usar o mesmo conjunto de knots na estima¸cão dos parâmetros.

(21)

Cap´ıtulo 2

Estat´ıstica Espacial

2.1 Introdu¸

c˜

ao

Pesquisadores de diversas áreas como saúde, climatologia, ecologia e meio ambiente, estão cada vez mais interessados em analisar dados de eventos que estão referenciados geograficamente e, às vezes, são apresentados em forma de mapas. Neste tipo de dados ´

e natural pensar que existe uma rela¸cão entre pontos próximos, ou seja, dados que estão próximos uns dos outros tendem a ter um comportamento similar.

Para analisar este tipo de dados existem métodos estat´ısticos espaciais que permitem descrever o comportamento e a associa¸cão espacial entre eles. Por muitos anos os métodos de variograma e correlograma como descritos em Cressie (1993) foram bastante usados. O desenvolvimento da computa¸cão permitiu, no entanto, a gera¸cão de análises sofisticadas totalmente Bayesianas, com uso de métodos como Monte Carlo via Cadeias de Markov (MCMC), que permitem ajustar modelos complexos para dados geograficamente referenciados (ver, por exemplo Diggle et al., 1998; Banerjee et al., 2004).

Neste cap´ıtulo é feita uma breve introdu¸cão aos tipos de variáveis utilizadas na estat´ıstica espacial, para depois nos concentrarmos na geoestat´ıstica, que é a área da

(22)

estat´ıstica espacial que estuda dados que variam continuamente no espa¸co. O tratamento deste tipo de dados ser´a o foco deste trabalho.

2.2 Tratamento usual de dados espaciais

No estudo de muitas variáveis que são associadas com fenômenos da natureza, os dados podem ser referenciados espacialmente. Neste caso, não é correto estudá-los fazendo uso da hipótese de independência entre eles, pois é poss´ıvel que esta componente espacial gere correla¸cão nestes dados. Portanto, é preciso achar a estrutura de correla¸cão, para assim poder fazer previsões da variável de interesse para locais não observados.

Um conceito fundamental subjacente à teoria de processos estocásticos é a defini¸cão de processo espacial. Seja Z a variável de interesse, e seja s a localiza¸cão onde Z existe. Um processo espacial é o conjunto {Z(s) : s ∈ D}, onde Z(s) é a variável de interesse no local s, que também pode ser entendida como um processo estocástico indexado por s. D é conhecido como conjunto ´ındice e é o conjunto de todas as localiza¸cões s onde a variável Z existe. Este conjunto pode ser cont´ınuo, discreto ou aleatório. A localiza¸cão espacial s geralmente é de dimensão dois (por exemplo, latitude e longitude) ou três (como latitude, longitude e altitude).

Geralmente os dados espaciais s˜ao divididos em 3 categorias diferentes (ver Cressie, 1993; Banerjee et al., 2004), dependendo das caracter´ısticas dos dados. Tais categorias s˜ao:

• Padrão de pontos: Considere D uma região no espa¸co. Cada s ∈ D fornece a localiza¸cão de um evento aleatório (assim D é aleatório). Z(s) pode representar se há ou não ocorrência de um evento numa determinada localiza¸cão s. Assim, Z(s) toma valor 1 se o evento ocorre ou 0 caso contrario.

Por exemplo, localiza¸cão de árvores de certa espécie numa região florestal, localiza¸cão de ocorrência de crimes, local de um terremoto, entre outros. O objetivo

(23)

deste tipo de estudo é saber se as ocorrências da variável parecem completamente aleatórias ou se apresentam algum tipo de agrupamento.

• Dados de área: Considere uma região D fixa no espa¸co, que pode ou não ter uma forma regular. D está particionado em um número finito de sub-regiões e o limite entre regiões está bem definido. Neste caso, o s´ıtio s ∈ D é um bloco ou sub-região da região D (nesse caso D é do tipo discreto). Z(s) geralmente representa uma taxa que resume o comportamento da variável no bloco s.

Por exemplo, taxa de óbitos por pa´ıs no continente americano durante um ano determinado. O interesse neste tipo de estudos é a identifica¸cão de determinado padrão ou configura¸cão espacial no que diz respeito à variável aleatória de interesse, assim como a existencia de poss´ıveis rela¸cões no espa¸co.

• Geoestat´ıstica: Z(s) é uma variável que assume valores reais para cada localiza¸c˜_{ao s ∈ D ⊂ R}r_{, e s varia de forma cont´ınua em D (um retˆ}_angulo fixo r-dimensional de volume positivo). Geralmente se tem um número finito de localiza¸cões nas quais foi observada a variável Z(si), com i = 1, . . . , l. Alguns exemplos desta categoria de dados espaciais são a temperatura, precipita¸cão ou umidade observada em esta¸cões meteorológicas. Devido à continuidade espacial do processo, um dos principais objetivos é a previsão da variável em localiza¸cões não observadas, além de fazer inferência para média, variabilidade e a estrutura de associa¸cão do processo.

Assim, os métodos na estat´ıstica espacial mudam dependendo do dom´ınio D em que o evento de interesse acontece. Como o objetivo principal deste trabalho é a modelagem de dados que variam de forma cont´ınua no espa¸co e que apresentam valores extremos, o foco será na teoria que a geoestat´ıstica oferece para o tratamento deste tipo de dados.

2.3 Geoestat´ıstica

(24)

que refletir esta importante caracter´ıstica dos dados. Para capturar essa associa¸cão, as variáveis devem ser dependentes para cada par poss´ıvel, e o n´ıvel de dependência deve estar relacionado com a localiza¸cão dos pontos. Assim, é preciso definir a distribui¸cão de um número infinito de variáveis aleatórias. Isso pode ser feito definindo a distribui¸cão finito dimensional para um número arbitrário de localiza¸cões.

Mas, ao construir este tipo de distribui¸cões é dificil garantir que a distribui¸cão conjunta que se está construindo seja única. Uma solu¸cão para este problema é dada pelo uso da distribui¸cão Gaussiana (geralmente usada neste tipo de modelos), pois ao especificar a fun¸cão de média m(s) = E(Z(s)) e de covariância cov(Z(si), Z(sj)) as distribui¸cões conjunta, marginais e condicionais vão estar bem definidas.

Geralmente, tem-se uma observa¸cão para cada uma das n variáveis Z(si), i = 1, . . . n, o que torna imposs´ıvel a tarefa de criar uma fun¸cão de covariância (não é poss´ıvel calcular a covariância com base em uma única observa¸cão). Para solucionar este problema, geralmente se supõe que várias sub-regiões possuem uma estrutura probabil´ıstica similar. Para isso podemos considerar as suposi¸cões de estacionariedade e isotropia.

• Estacionariedade: um processo {Z(s) : s ∈ D} é dito estritamente estacionário se sua fun¸cão de distribui¸cão conjunta é invariante com respeito a qualquer transla¸cão do vetor h, isto é, se a distribui¸cão do vetor aleatório Z = [Z(s1), . . . , Z(sn)]T para s1, . . . , sn ∈ D é idêntica a distribui¸cão do vetor Z∗ = [Z(s1 + h), . . . , Z(sn + h)]T para s1 + h, . . . , sn + h ∈ D, para todo h e para todo n ≥ 1. A suposi¸cão de estacionariedade introduz repeti¸cões no espa¸co, isto é, dois pontos com configura¸cões idênticas após transla¸cão serão ditos estatisticamente equivalentes, o que permitirá o cálculo das covariâncias.

Um processo é dito fracamente estacionário (ou estacionário de segunda ordem) se µ(s) = E(Z(s)) = µ (quer dizer que o processo tem média constante) e Cov(Z(s), Z(s + h)) = C(h) para todo h ∈ Rr tal que s e s + h pertencem ao

(25)

conjunto D. Assim, a estacionariedade estrita implica a estacionariedade fraca. No caso da distribui¸cão normal estas duas defini¸cões são equivalentes.

Para processos fracamente estacionários, é poss´ıvel definir a fun¸cão de correla¸cão como:

ρ(h) = cor(Z(s), Z(s + h)) = C(h) C(0) onde C(0) ´e a variˆancia do processo.

Em geoestat´ıstica, é comum utilizar a variável incrementos Z(s + h) − Z(s), que faz um análogo com a diferencia¸cão feita numa série temporal quando não se tem estacionariedade em Z(s). Esta variável representa a mudan¸ca da variável de interesse após um deslocamento h. A modelagem da estrutura de dependência dos dados pode ser feita, de forma alternativa, usando a variância dos incrementos. Este tipo de estacionariedade é muitas vezes chamada de estacionaridade intr´ınseca.

O processo Z(s) ´e dito intrinsecamente estacion´ario, se E(Z(s + h) − Z(s)) = 0, ∀s, h ∈ D e se 1

2V ar(Z(s + h) − Z(s)) = γ(h), para todo par Z(s) e Z(s + h). Ou seja, a fun¸cão de variância existe e é fun¸cão única do vetor de separa¸cão h. Nesse caso, γ(h) é conhecida como fun¸cão de semivariância ou semivariograma do processo espacial (ver Banerjee et al., 2004).

Na presen¸ca de estacionariedade de segunda ordem as fun¸c˜oes de covariˆancia e semivariograma satisfazem as seguintes propriedades:

1. C(h) = C(0) − γ(h)

2. C(0) ≥ 0

3. C(h) = C(−h)

4. | C(h) |≤ C(0)

(26)

• Isotropia: Um processo é dito estritamente isotrópico se, para toda matriz ortogonal H e todo conjunto de localiza¸c˜_{oes D e qualquer h ∈ R}r_{, a distribui¸c˜}_{ao de} Z = [Z(s1), . . . , Z(sn)]T é a mesma de Z∗ = [Z(Hs1+ h), . . . , Z(Hsn+ h)]T .Um processo é dito fracamente isotrópico se µ(s) = E(Z(s)) = µ e Cov(Z(s), Z(s+h)) = C(|| h ||) onde || h || é a norma de h, s e s + h ∈ D. Nesse caso, note que a covariância só depende da medida || h || e não da dire¸cão do vetor h. Em outras palavras, um processo é dito isotrópico, se a correla¸cão dos dados independe da dire¸cão em que é calculada.

Em termos geométricos, a estacionariedade e a isotropia são propriedades de invariância. A estacionariedade faz referência à invariância sob transla¸cões, enquanto a isotropia faz referência à invariância sob rota¸cões e reflexões. Estas duas propriedades facilitam o cálculo da covariância nos casos em que é correto fazer uma ou as duas hipóteses.

2.3.1 Estrutura de Covariˆ

ancia

´

E preciso procurar uma estrutura de covariância que seja válida. Para isso, a fun¸cão de covariância C(si, sj) = Cov(Z(si), Z(sj)) deve ser tal que para qualquer i, j = 1, . . . , n e qualquer a1, a2, . . . an: V arXaiZ(si) =XaiajCov(Z(si), Z(sj)) = X aiajC(si, sj) ≥ 0

isto é, C(., .) tem que ser uma fun¸cão positiva definida. Isso garante que toda as combina¸cõesP aiZ(si) de {Z(s1), . . . Z(sn)} terão uma variância positiva.

Na prática não é comum verificar se é satisfeita a condi¸cão de ser uma fun¸cão positiva definida. Por esse motivo, alguns modelos paramétricos conhecidos são comumente usados. Mas no caso que é preciso verificar esta condi¸cão, pode-se usar o Teorema de Bochner que fornece uma condi¸cão necessária e suficiente para que C(h) seja positiva definida (ver, por exemplo Banerjee et al., 2004; Stein, 1999).

(27)

Alguns dos modelos paramétricos para fun¸cão de covariância, que são geralmente usados na literatura (Banerjee et al., 2004; Fonseca e Steel, 2010), são:

• Fun¸c˜ao de covariˆancia exponencial

C(h) = σ2exp(− || h/a ||)

onde a é o parâmetro de alcance e σ2 _´_{e a variˆ}_{ancia. Na pr´}_{atica, o parˆ}_ametro de alcance tem uma rela¸cão com a distância a partir da qual duas observa¸cões podem ser consideradas independentes. O alcance efetivo corresponde à distancia h0 =k h k para a qual a correla¸cão cai para 0.05. Que neste modelo, é dado por h0 = 3a.

Este tipo de modelo é muito usado na prática, pois tem uma forma simples, mas tem propriedades teóricas muito restritas, que fazem com que o modelo seja pouco realista.

• Fun¸c˜ao de covariˆancia Gaussiana

C(h) = σ2exp{− k h/a k2}

igual ao caso anterior a é o parâmetro de alcance e σ2 é a variância do processo. Esta fun¸cão representa processos muito suaves que são pouco realistas.

• Fun¸cão de covariância esférica

C(h) = σ2 1 −3 2 k h/a k + 1 3 k h/a k 3 , k h k≤ a

C(h) = 0 para h > a, isto é a covariância desaparece para valores de h maiores do que a, o que facilita os cálculos que dependem da matriz de covariância. O comportamento desta fun¸cão perto de zero é similar ao comportamento da exponencial.

(28)

A Figura 2.1 apresenta uma compara¸c˜ao do comportamento da covariˆancia dado pelos modelos anteriores.

2 4 6 8 10 0.0 0.2 0.4 0.6 0.8 1.0 1.2 Função de covariância Exponencial Gaussiano Esferico

Figura 2.1: Fun¸cão de covariância exponencial, Gaussiana, esférica, com parâmetros a = 2, σ2 _{= 2 e h variando de 0 a 10.}

• Fun¸cão de covariância Matérn

C(h) = σ2(2ν

1/2 _{k h/a k)}v 2ν−1_Γ(ν) Kν(2ν

1/2 _{k h/a k)}

onde, ν > 0 corresponde ao parâmetro de suavidade, a é o alcance, que indica quão rápido decresce a correla¸cão no modelo, e σ2 _´_{e a variˆ}_{ancia. Γ ´}_{e a fun¸c˜}_ao Gamma e Kν(.) é a fun¸cão modificada de Bessel de terceiro tipo e ordem ν. No caso de v = 1/2 obtêm-se C(h) = σ2_{exp{− k h/a k} que ´}_{e a fun¸c˜}_{ao de covariˆ}_ancia exponencial. Enquanto que se ν → ∞ tem-se a fun¸cão de covariância Gaussiana.

• Fun¸c˜ao de covariˆancia Cauchy

(29)

onde α ∈ (0, 2] ´e o parˆametro de forma e suavidade do modelo, λ > 0 corresponde `

a dependência de memória longa, a > 0 é o alcance e σ2 _{> 0 a variˆ}_{ancia. Essa} fun¸cão de covariância é válida em todas as dimensões.

2.3.2 Previs˜

ao

Um dos principais objetivos da geoestat´ıstica é a previsão da variável de interesse em pontos onde esta variável não foi observada. Suponha que se observa realiza¸cões de um processo Z(s) nos locais s1, . . . , sn, si ∈ Rr, e tem-se como objetivo prever o valor de Z(s0). Se a lei de Z é conhecida, a inferência de Z(s0) pode se basear na distribui¸cão condicional de Z(s0) dado os valores observados Z(s1), . . . , Z(sn). Na prática é dif´ıcil especificar a lei das variáveis aleatórias, e mesmo que se acredite que Z tem uma distribui¸cão espec´ıfica, o cálculo desta condicional pode ser muito dif´ıcil. Devido a isso, nesses casos é comum trabalhar com preditores lineares (ver Stein, 1999).

Suponha que Z tem fun¸cão de média m(s) e fun¸cão de covariância C(si, sj). Se m e C são conhecidas então pode-se obter a média e a variância de qualquer combina¸cão linear das observa¸cões de Z. Queremos, prever o valor da variável no sitio no observado s0 a partir das observa¸cões Z = [Z(s1), . . . , Z(sn)]T usando um preditor do tipo λ0+ λTZ. O objetivo é achar um λ0 e λT tal que o erro quadrático médio de λ0 + λTZ seja m´ınimo para este preditor, o erro quadrático médio corresponde a média do erro de previsão ao quadrado mais sua variância, que é

E{Z(s0) − λ0− λTZ}2 = {m(s0) − λ0− λTm}2+ c0− 2λTC0+ λTCλ

onde, m = E(Z), c0 = Cov(s0, s0), C0 = Cov(Z, Z(s0)) e C = Cov(Z, ZT).

O preditor linear que minimiza o erro quadrático médio entre todos os preditores lineares é conhecido como o melhor preditor linear (BLP por sua sigla em Inglês). O termo quadrático pode ser minimizado fazendo λ0 = m(s0) − λTm. O termo restante

(30)

´

e minimizado quando λ = C−1C0, se C é invers´ıvel. E assim λ0 = m(s0) − C0TC−1m. Então, o BP L é dado por

µ0 = m(s0) − CT0C −1 m + CT₀C−1Z (2.1) = m(s0) − CT0C −1 (m − Z) (2.2)

Se Z é um processo Gaussiano, tem-se que a distribui¸cão condicional de Z(s0) dado Z = z é normal com media µ0 dada pela equa¸cão 2.1 e variância c0− CT0C

−1_C 0.

Mas, geralmente, assume-se que o valor da média do processo não é conhecida, porém a estrutura de covariância é conhecida. Assim, é preciso que o estimador além de ser BLP seja não viciado. Suponha agora que se tem um processo Z que pode ser modelado como

Z(s) = m(s)Tβ + (s) (2.3)

onde, é um campo aleatório com média 0 e estrutura de covariância conhecida, m é uma fun¸c˜_{ao conhecida com valores em R}p _{e β ´}_{e um vetor de p coeficientes desconhecidos.} A variável de interesse é observada em n pontos, assim, Z = (Z(s1), . . . , Z(sn))T. O objetivo é prever o valor de Z(s0), onde s0 é um local não observado. Se a média é conhecida é poss´ıvel usar o BLP

m(s0)Tβ + CT0C

−1_{(Z − Mβ)} _(2.4)

onde, M = (m(s1), . . . , m(sn))T, C0 = Cov(Z, Z(s0)) e C = Cov(Z, ZT).

Se β é desconhecido mas todas as covariâncias são conhecidas, uma abordagem natural ´

e substituir β na equa¸c˜ao 2.4 pelo estimador de m´ınimos quadrados generalizados ˆβ = (MT_C−1_M)−1_MT_C−1_{Z, assumindo que C ´}_{e n˜}_{ao singular e M ´}_{e de posto completo. O} objetivo ´e minimizar E(Z(s0) − λTZ)2 sujeita a

(31)

Se λ resolve este problema de minimiza¸cão restrita, então λTZ é chamado de melhor preditor linear não viciado (BLUP por sua sigla em Inglês) para Z(s0). Neste caso o preditor resultante é

λTZ = CC−1(Z − M ˆβ) + m(s0)Tβˆ (2.6)

O melhor preditor linear não viciado (BLUP) é conhecido na literatura geoestat´ıstica como krigagem, chamado assim em honra ao geólogo Sul Africano D. G. Krige, cujos trabalhos em previsão de reservas de ouro feitos nos anos cinquenta são considerados como pioneiros em métodos de interpola¸cão espacial. Krigagem engloba um conjunto de métodos de previsão espaciais cujo foco é minimizar o erro quadrático médio de previsão. Em particular, quando m(s) ≡ 1,ou seja, quando assume-se que a media do processo é uma constante desconhecida então o BLUP é chamado de krigagem ordinária.

No enfoque bayesiano o estimador BLUP tem interpreta¸cão pois, para fazer uma previsão de Z(s0) a solu¸cão natural neste enfoque é usar a distribui¸cão condicional de Z(s0) dado Z, que é calculada usando a distribui¸cão a posteriori de β dado Z. Esta distribui¸cão é conhecida como distribui¸cão preditiva de Z(s0), e a esperan¸ca desta distribui¸cão corresponde ao estimador BLUP.

(32)

Cap´ıtulo 3

Processos Gaussianos e n˜

ao

Gaussianos

3.1 Introdu¸

c˜

ao

Por muitos anos uma hipótese fundamental na geoestat´ıstica foi a de que a variável de interesse pode ser modelada como um processo Gaussiano Z(s), onde s são as coordenadas espaciais que variam de forma cont´ınua em D, D ⊆ R2_{. Este suposto} facilita e justifica a previsão da variável em pontos não observados.

Na natureza existem variáveis que geralmente apresentam dados fora do usual. Mas o que é um dado fora do usual quando se estuda um processo cont´ınuo no espa¸co? Neste caso, os outliers podem ser definidos como observa¸cões pertencentes a sub-regiões com variância observacional grande. Estes dados geralmente apresentam caudas pesadas e assimetria, fazendo com que a distribui¸cão Gaussiana não seja muito apropriada.

Algumas propostas foram feitas para solucionar este problema. Por exemplo, De Oliveira et al. (1997) propôs o uso do modelo bayesiano Gaussiano transformado, que é baseado na fam´ılia de transforma¸cões Box-Cox. Esta ideia foi motivada pelo interesse em fazer previsão de variáveis que claramente não seguem uma distribui¸cão Gaussiana. Diggle et al. (1998) propôs o uso de modelos espaciais lineares generalizados para dados

(33)

pertencentes `a fam´ılia exponencial.

Outro exemplo de modelos não Gaussianos é apresentado por Palacios e Steel (2006). O trabalho deles inclui o uso de um processo de variância que permite que o modelo tenha uma maior flexibilidade, pois ele acomoda heterocedasticidade espacial. Além disso, uma vantagem deste modelo é que ao condicionar a variável de interesse ao conhecimento do processo de variância, tem-se uma distribui¸cão normal, o que facilita a sua implementa¸cão.

Este cap´ıtulo apresenta o modelo usual para o caso Gaussiano e também apresenta um modelo não Gaussiano proposto por Palacios e Steel (2006). O modelo não Gaussiano permite que os parâmetros de interesse sejam melhor estimados nos casos onde acontecem outliers, além de permitir a identifica¸cão de áreas com alta variabilidade, o que na prática ´

e de grande utilidade.

3.2 Processos Gaussianos

Seja S = {s1, . . . , sI} ∈ D ⊆ R2 um conjunto de pontos espacialmente referenciados. Em cada ponto s se tem observa¸cões de uma variável resposta Z(s) que pode ser explicada por meio de um vetor de variáveis espacialmente referenciadas x(s), usando um modelo de regressão como

Z(s) = xT(s)β + w(s) + (s), (3.1)

onde, w(s) captura a associa¸cão espacial dos dados devida às covariáveis não observadas ou não med´ıveis, enquanto (s) é um ru´ıdo branco independente de w(s). O modelo na equa¸cão 3.1 geralmente é conhecido como modelo de regressão espacial.

A suposi¸cão usual é de que w(s) segue um processo Gaussiano com média 0 e fun¸cão de covariância cov(w(s), w(s0)) = C(s, s0). Para toda localiza¸cão s assume-se

(34)

que ∼ N (0, τ2), de forma independente. Ent˜ao, o modelo condicional a w para o vetor Z = (Z(s1), . . . , Z(sI))T, com n = I, ´e dado por

Z | w, β, τ2 ∼ Nn(Xβ + w, τ2In)

w | θ ∼ Nn(0, C(θ)) (3.2)

ou integrando w,

Z | β, θ, τ2 ∼ Nn(Xβ, Σ), (3.3)

com X = [xT_(s

1), . . . , xT(sI)]T e Σ = C(θ) + τ2In, onde C(θ) é a matriz com entradas C(si, sj), i, j = 1, . . . , n, o vetor θ contem os parâmetros da estrutura de covariancia do modelo e In é a matriz identidade de ordem n. Mas note que na inferência para θ, β e τ2 _´_{e preciso inverter matrizes n × n, o que pode levar a elevados custos computacionais.}

3.3 Processos n˜

ao Gaussianos

O processo em (3.1) é usualmente considerado Gaussiano, onde as distribui¸cões finito dimensionais são normais, não permitindo acomodar observa¸cões extremas. Palacios e Steel (2006) propuseram modelos que permitem distribui¸cões com caudas mais pesadas que as da distribui¸cão normal, fazendo uso de misturas de escala, o que permite modelar observa¸cões extremas de forma mais adequada. Considere o processo espacial

Z(s) = x(s)β + w(s)

λ(s)1/2 + (s), (3.4)

onde w(s) é um processo Gaussiano definido em s ∈ D, independente do efeito (s) ∼ N (0, τ2). O processo λ(s) é responsável pela infla¸cão na variância do processo Z(s). Integrando λ, a distribui¸cão finito dimensional de Z tem caudas mais pesadas que as da Normal, permitindo acomodar observa¸cões aberrantes.

(35)

Z = Xβ + Λ−1/2w + ε, ε ∼ N (0, τ2In)

com Λ = Diag(λ), λ = (λ1, . . . , λn). Pode ser mostrado que esse novo processo ´e um processo estoc´astico.

Mas, nos modelos espaciais, este tipo de misturas pode gerar problemas com a continuidade da variável aleatória resultante Z. Assim, para que o novo processo seja cont´ınuo em média quadrática, as variáveis de mistura λ introduzidas no modelo devem ser espacialmente correlacionadas, pois dessa forma localiza¸cões muito próximas vão ter valores muito similares de λ (ver Palacios e Steel, 2006).

Pode-se assumir que λi = λ ∼ Pλ, i = 1, . . . , n, isto é, todas as localiza¸cões compartilham uma variável de mistura comum. Mas, permitir que λ varie para cada s´ıtio faz com que o modelo seja mais flex´ıvel e permite a identifica¸cão de zonas de alta variabilidade. Assim, valores de λi pequenos estarão relacionados com regiões do espa¸co onde os valores das variáveis estão afastados da superf´ıcie média, o que em muitas aplica¸cões é de grande interesse. A proposta de Palacios e Steel (2006) para as variáveis de mistura é dado pela equa¸cão 3.7.

Desta forma, o modelo de processos n˜ao Gaussianos ´e dado por

Z | w, Λ, β, τ2 ∼ Nn(Xβ + Λ−1/2w, τ2In) (3.5) w | σ2, θ ∼ Nn(0, σ2R(θ)) (3.6) ln(λ) | ν, θ ∼ Nn −ν 21n, νR(θ) (3.7)

onde, C(θ) = [C(si, sj)]ni,j=1 = σ2R(θ), θ é o vetor de parâmetros da estrutura de correla¸cão, Rij = Cor(si, sj), para i, j = 1, . . . , n e 1n é um vetor de uns de tamanho n e ν ∈ R+. Em princ´ıpio, a estrutura de correla¸cão do processo λ pode não coincidir com a estrutura de correla¸cão de w. Mas, ao usar estruturas de correla¸cão diferentes para os dois processos pode-se dificultar a estimativa dos parâmetros do modelo, principalmente

(36)

se temos apenas dados espaciais e n˜ao espa¸co-temporais.

A covariˆancia entre dois pontos i e j vai ser dada por,

Cov(zi, zj) = Cov x(si)β + w(si) λ(si)1/2 + (si), x(sj)β + w(sj) λ(sj)1/2 + (sj) (3.8) = Cov w(si) λ(si)1/2 , w(sj) λ(sj)1/2 (3.9)

= σ2Cor(si, sj)exp{ν(1 + (1/4)[Cor(si, sj) − 1])} (3.10)

3.3.1 Previs˜

ao

Os modelos geoestat´ısticos tem importantes aplica¸cões a dados reais, pois eles permitem prever o valor da variável de interesse em localiza¸cões não observadas.

Seja Z = (z_oT, zT_p)T, onde zT_o corresponde ao valor da vari´avel nas localiza¸c˜oes observadas e zT

p é o vetor de variáveis preditas em f localiza¸cões não observadas. Neste caso, a distribui¸cão posterior preditiva tem a forma

p(zp | zo) = Z

p(zp | zo, λ, ζ)p(λp | λo, ζ, zo)p(λo, θ | zo)dλdζ (3.11)

onde, λ = (λT_o, λT_p)T, similar à parti¸cão feita com Z, e ζ = (β, σ2, τ2, θ, ν). A integral em 3.11 pode ser aproximada usando métodos de Monte Carlo e, já que p(λp | λo, ζ, zo) = p(λp | λo, ν, zo) pode-se obter amostras de λp usando

ln(λp) | λo, ν, zo ∼ Nf CpoC−1oo(lnλo+ ν 21n) − ν 21f, v[Cpo− CpoC −1 ooCop] (3.12) onde C(θ) =   Coo Cop Cpo Cpp  

(37)

que foi particionado de forma similar a Z. Assim, para cada (λo, ζ) obtido, pode se obter um valor de p(zp | zo, λ, ζ), onde zp | zo, λ, ζ ∼ Nf (Xp− AXo)β + Azo, σ2 Λ− 1 2 p CppΛ −1 2 p + τ2 σ2If − Λ −1 2 o CopΛ −1 2 p (3.13) com A = Λ− 1 2 p CpoΛ −1 2 o h Λ− 1 2 o CooΛ −1 2 o +τ 2 σ2In i−1

(38)

Cap´ıtulo 4

Processos Preditivos

4.1 Introdu¸

c˜

ao

Geralmente os modelos espaciais geram um custo computacional grande, que aumenta com a quantidade de pontos observacionais inclu´ıdos nas análise. A facilidade atual para a obten¸cão de dados georeferenciados faz com que a quantidade de dados dispon´ıveis para a análise estat´ıstica aumente consideravelmente, o que implica que o custo computacional para modelar estes dados seja muito grande. Dessa forma, é preciso criar técnicas que permitam diminuir este custo e, além disso, que afetem os resultados da análise o m´ınimo poss´ıvel.

Na literatura pode-se encontrar várias poss´ıveis solu¸cões para este problema. Por exemplo, Kammann e Wand (2003) usa o método de low rank spline para facilitar a computa¸cão no caso de modelos geoaditivos. Stein (2008) usa fun¸cões de covariância com suporte compacto. Alguns autores usam estruturas de covariância separáveis, aproxima¸cões da fun¸cão de máxima verossimilhan¸ca, média móvel, tapering (este método introduz zeros na matriz de covariância), ou algumas fun¸cões básicas que tentam aproximar o processo original w por um processo ˜w, que representa a realiza¸cão do processo em subespa¸cos de menor dimensão. Alguns dos métodos, mais frequentemente utilizados na literatura para trabalhar grandes conjuntos de dados geoestat´ısticos, são

(39)

discutidos por Sun et al. (2012).

Neste capitulo se estudam os processos preditivos propostos por Banerjee et al. (2008) para processos Gaussianos, para depois estender esta ideia no caso de processos n˜ao Gaussianos.

4.2 Processos Gaussianos Preditivos

Banerjee et al. (2008), sugerem usar os modelos preditivos para diminuir o custo computacional de modelos espaciais devido à inversão de matrizes de dimensão grande. A ideia de usar processo preditivo é projetar realiza¸cões do processo Z num subespa¸co de dimensão menor, o que facilita a computa¸cão. Nessa abordagem, é mais simples acomodar não estacionariedade, modelos multivariados, processos espa¸co-temporais, entre outros, para grandes conjuntos de dados. Isso ocorre, pois essa abordagem pode ser aplicada diretamente a qualquer estrutura de covariância e para qualquer distribui¸cão que seja usada para o processo Z. Além disso todo processo espacial (ou espa¸co-temporal) induz um processo preditivo o que facilita o uso deste método.

Lembre que no Cap´ıtulo anterior, como descrito na equa¸c˜ao (3.2), o processo espacial w ´e tal que

w ∼ N (0, C(θ))

Agora, considere um conjunto de “knots”, S∗ = {s∗₁, . . . , s∗_m}, m ≤ n, que pode ou n˜ao ser um subconjunto do conjunto das loca¸c˜oes observadas S. Seja

w∗ = [w₁∗, . . . , w∗_m]T ∼ Nm(0, C∗(θ)), (4.1)

onde C∗(θ) ´e a matriz m × m com entradas C(s∗_i, s∗_j), i, j = 1, . . . , m.

Usando o melhor preditor linear que vem da ideia do krigagem (ver se¸cão 2.3.2), a interpola¸cão espacial do modelo para o ponto s0 é dada por

(40)

˜

w(s0) = E(w(s0) | w∗)

= cT(s0; θ)C∗−1(θ)w∗, (4.2)

onde

cT(s0; θ) = [C(s0, s∗1; θ), . . . , C(s0, s∗m; θ)].

Essa interpola¸cão define um processo espacial ˜w(s) ∼ P G(0, ˜C(.)), com fun¸cão de covariância ˜ C(s, s0; θ) = cT(s; θ)C∗−1(θ)c(s0; θ) onde cT_{(s; θ) = [C(s, s}∗ 1; θ), . . . , C(s, s ∗ m; θ)]. O processo ˜w(s) definido em (4.2) é conhecido como processo preditivo derivado do processo w(s). Substituindo w(s) por

˜

w(s) no modelo (3.2), ´e obtido o processo preditivo

Z(s) = xT(s)β + ˜w(s) + (s), (4.3)

onde ˜w(s) = cT_(s)C∗−1_(θ)w∗_{, ˜}_{w ´}_{e uma transforma¸c˜}_{ao linear de w}∗_{, que varia no espa¸co.} Esse interpolador define um processo espacial dado por ˜w(s) ∼ GP (0, ˜C) onde a fun¸cão de covariância é dada por

˜

C(s, s0) = cT(s; θ)C∗−1(θ)c(s0; θ) (4.4) onde, c(s; θ) = [C(s, s∗_j; θ)]m_j=1. Da equa¸cão 4.4, esse novo processo não é estacionário independentemente de que o processo w(s) seja estacionário ou não. Note que ˜w(s0) é uma proje¸cão ortogonal de w(s0) sobre um subespa¸co particular. O processo preditivo é a melhor aproxima¸cão do processo original (ver Banerjee et al., 2008).

(41)

Z | ˜w, β, τ ∼ Nn(Xβ + ˜w, τ2In) ˜

w = cT(θ)C∗−1(θ)w∗ (4.5)

w∗ | θ ∼ Nm(0, C∗(θ)) (4.6)

Ao escrever o modelo dessa forma, a dimensão das matrizes inversas diminui, e com ela o custo computacional. Note que o processo latente w∗ tem dimensão m, que é o número de “knots” escolhidos pelo pesquisador. Mas, note que o modelo (4.3) é um novo modelo para Z, diferente do modelo em (3.2), levando a inferências diferentes para os parâmetros de interesse.

Banerjee et al. (2008) deixa em evidência uma deficiência da proposta original, i.e., o modelo preditivo induz um viés positivo no erro não espacial do modelo, devido à subestima¸cão do erro do processo preditivo espacial.

Isso é observado quando são comparados o processo preditivo e o processo original. Os dois processos são Gaussianos, com média zero, mas a variância dos processos é dada por

V ar(w(s)) = C(s, s; θ) (4.7)

V ar( ˜w(s)) = cT(s; θ)C∗−1(θ)c(s; θ) (4.8)

Finley et al. (2009) propõem uma poss´ıvel solu¸cão para este problema e, além disso, propõem uma maneira de determinar a localiza¸cão dos knots a serem escolhidos pelo pesquisador (Ver capitulo 5.2.3).

Para tirar o viés na estima¸cão do τ2 _{induzida pelo processo preditivo, eles prop˜}_oem a seguinte transforma¸cão do processo:

¨

(42)

˜

(s) ∼ N (0, C(s, s; θ) − cT(s; θ)C∗−1(θ)c(s; θ)),

Note que a variˆancia corrigida ´e igual a do processo original como em (4.7).

4.3 Processos n˜

ao Gaussianos Preditivos

Nossa proposta considera modelos preditivos não Gaussianos. Dessa forma podemos identificar outliers através do processo λ em (3.4), e também teremos inferência rápida usando processos preditivos.

Teorema 4.1 Considere um conjunto de knots S∗ = {s∗₁, . . . , s∗_m}, que pode ou não pertencer a amostra original S ∈ D, e o processo não Gaussiano definido em (3.3). Então o processo preditivo não Gaussiano resultante é dado por,

Z(s) = xT(s)β + w(s)˜ ˜ λ1/2_(s) + (s), (4.10) onde, ˜ w(s) = cT(s)C∗−1(θ)w∗ (4.11) ln(˜λ(s)) = ν 2R T_(s)R∗−1 (θ)1m− 1n + RT(s)R∗−1(θ)ln(λ∗) (4.12) e w∗ | σ2_{, θ ∼ N} m(0, σ2R∗(θ)) (4.13) ln(λ∗) | θ, ν ∼ Nm −ν 21m, νR ∗ (θ) (4.14) com, R∗(θ) = [Cor(s∗_i, s∗_j; θ)]m i,j=1 = σ

−2_C∗_{(θ), onde θ ´}_{e o vetor de parˆ}_{ametros da} estrutura de corela¸c˜ao e RT_{(s) = [Cor(s, s}∗

1; θ), . . . , Cor(s, s ∗ m; θ)].

Prova:

Considerando que w e λ s˜ao dois processos independentes e considerando o conjunto de knots S∗ = {s∗₁, . . . , s∗_m} tem-se, como no caso Gaussiano, que o processo espacial

(43)

w pode ser substitu´ıdo pelo processo ˜w da equa¸cão 4.2, onde w∗ tem a distribui¸cão da equa¸cão 4.1.

Da equa¸c˜ao 3.7 segue-se que ln(λ∗) | θ ∼ Nm −ν₂1m, νR∗(θ). Assim, para a localiza¸c˜ao s, ln(˜λ(s)) = E(ln(λ(s)) | ln(λ∗)). Mas

ln   λ(s) λ∗  | ν, θ ∼ N  −v 2   1 1m  , ν   1 RT_(s) R(s) R∗    

então ln(˜λ(s)) também tem distribui¸cão Normal e é dado por 4.12.

Temos que ˜w e ln(˜λ) são transforma¸cões lineares de w∗ e ln(λ∗), respectivamente. Note que substitu´ımos o modelo para a variância por um modelo preditivo. Note que por simplicidade, o conjunto de knots no processo espacial e no processo de variância é o mesmo, mas é poss´ıvel escolher knots diferentes para estes processos (Ver 5.2.5).

Corolário: As expressões das variâncias dos processos preditivos ˜w e ˜λ são dadas por:

• Cov( ˜w(s), ˜w(s0)) = cT_{(s; θ)C}∗−1_(θ)c(s0

; θ)

• Cov(˜λ(s), ˜λ(s0)) = νRT_(s)R∗−1_R(s0

)

O modelo 4.10 ´e um processo preditivo e, portanto, assim como no caso Gaussiano, ele induz um erro na estimativa do parˆametro τ2, que pode ser observado ao calcular:

V (wiλ −1/2 i ) = σ 2_{exp {ν}} _(4.15) V ( ˜wiλ˜ −1/2 i ) = σ 2_RT_(s i, s∗) R∗−1R(si, s∗) exp nν 2[1 + R T_(s i, s∗)R∗−1R(si, s∗)] o (4.16)

Assim, a corre¸cão proposta neste caso é, ao invés de usar o processo ˜w˜λ−1/2, usar

¨ wiλ¨ −1/2 i = ˜wiλ˜ −1/2 i + ζi, i = 1, . . . , n (4.17) onde ζi ∼ N (0, σζ2), com σ2 = σ2exp {ν} − RT(s, s∗)R∗−1R(s, s∗)expnν[1 + RT(s, s∗)R∗−1R(s, s∗)]o

(44)

Cap´ıtulo 5

Design

5.1 Introdu¸

c˜

ao

Nos processos preditivos é preciso definir o conjunto de knots a ser usado. A escolha destes pontos é importante, pois eles vão ser a base para projetar os nossos dados e, portanto, os resultados obtidos vão variar com a localiza¸cão e quantidade destes pontos.

Este problema pode ser tratado equivalentemente ao problema de cria¸cão, aumento ou diminui¸cão de uma grade ambiental, onde os pontos sob os quais vão se efetuar observa¸cões são conhecidos como “design”. É conhecido que um design que seja eficiente para a estima¸cão dos parâmetros não necessariamente é eficiente para a previsão de dados não observados da variável de interesse, dado os parâmetros estimados (ver, por exemplo Zimmerman, 2006).

Na literatura existem diferentes propostas para selecionar tais pontos. Algumas baseadas na minimiza¸cão ou maximiza¸cão de algum critério, dependendo dos objetivos do estudo (estima¸cão de um parâmetro ou previsão de dados não observados), por exemplo, maximizando o determinante ou tra¸co da matriz de informa¸cão de Fisher (Xia et al., 2006). Fuentes (2007) usa o critério de maximiza¸cão de entropia no contexto de métodos bayesianos, pois com eles espera-se obter uma maior quantidade de informa¸cão da variável de interesse. Cressie (1993) apresenta o método de minimiza¸cão da variância

(45)

de previsão para ampliar e reduzir uma grade amostral no foco clássico, que tenta melhorar a previsão de novo dados. Alguns métodos tentam melhorar a qualidade da estima¸cão dos parâmetros do modelo, por exemplo, usam métodos que melhoram o ajuste do variograma, ou a estima¸cão dos parâmetros da estrutura de correla¸cão dos dados.

Como a vari´avel de interesse varia continuamente no espa¸co a escolha destes pontos ´

e dif´ıcil. Em geral, o procedimento a seguir neste caso é propor uma grade fina e usar algum dos critérios para escolher esses pontos. No entanto, quando a grade proposta é muito fina, alguns dos critérios anteriores são usados com ajuda de algoritmos de busca estocástica, como são o Simulated Annealing e redes neurais, entre outros (ver Cardenas, 2007).

Neste Cap´ıtulo o foco é apresentar algumas propostas de sele¸cão dos knots já conhecidos, para depois apresentar uma proposta diferente no caso de processos não Gaussianos. Alguns destes métodos vão ser aplicados posteriormente num estudo simulado.

5.2 Escolha dos Knots

Supondo que o número de knots é fixo, existem diferentes alternativas para a escolha deste conjunto de pontos. Algumas levam em conta a informa¸cão da estrutura espacial dos dados, o que pode ajudar a escolher tais pontos. A maioria destes métodos são trabalhados sob uma grade fina, e a partir dela são escolhidos os pontos que farão parte do conjunto de knots, levando em considera¸cão algum critério para escolha dos mesmos. Alguns exemplos de metodologias para escolha destes pontos são, grade aleatória, grade regular, proposta de Finley, e proposta do Diggle.

(46)

5.2.1 Grade Aleat´

oria

Estes tipos de grade têm sido muito usados por sua simplicidade, embora do ponto de vista da estat´ıstica espacial, ela não inclua informa¸cão relevante sob a associa¸cão espacial dos dados, assim como que outros métodos de amostragem clássica. Neste caso, todos os pontos tem a mesma probabilidade de serem escolhidos para pertencer ao conjunto de knots.

5.2.2 Grade Regular

´

E uma das grades mais usadas, pois é fácil de programar, mas ela não é eficiente na estima¸cão de alguns parâmetros, pois não permite ter pontos muito próximos. Isto gera, por exemplo, uma imprecisão no ajuste do variograma e na estimativa dos parâmetros de interesse. Os diferentes tipos de grade regular têm sido estudados usando diferentes formas geométricas, como o retângulo, triângulo, hexágono, etc. Uma grade regular que tem sido muito empregada e que tem apresentado maior eficiência é a grade regular triangular (ver Cressie, 1993).

5.2.3 Proposta de Finley et al. (2009)

Finley et al. (2009), propôs o uso do critério de minimiza¸cão da variância preditiva no caso de modelos preditivos, pois o objetivo dos knots é a previsão das observa¸cões nos locais observados, portanto quer-se minimizar o erro de usar os knots ao invés de usar a amostra original.

A solu¸cão que Finley et al. (2009) dão para a escolha dos m “knots” considera que o valor m é conhecido. O objetivo é construir uma estratégia de sele¸cão dos “knots” que melhor aproxime o processo original w(s). E dado o vetor de parâmetros θ a variância preditiva de w(s), condicional ao processo preditivo w∗ nos pontos s∗, pode ser escrita como

Vθ(s, s∗) = V ar(w(s) | w∗(·), s∗, θ) = C(s, s) − cT(s; θ)C∗−1(θ)c(s

0

(47)

que mede quão bem ˜w(s) aproxima o processo w(s). Baseado nessa ideia, eles propõem um algoritmo para minimizar a média da variância de previsão espacial para os locais observados, isto é, minimizar

Vθ(s∗) = Pn

i=1V ar(w(si) | w

∗_{(·), s}∗_{, θ)}

n (5.2)

Assim, o algoritmo para escolha dos m knots, ´e dado por:

1. Especifique o conjunto total S de locais de amostragem permitidos S = s1, . . . sN, com N > m. As poss´ıveis escolhas dos locais S s˜ao, por exemplo, uma grade fina, os pontos observados, entre outras.

2. Seja t = 0, especifique um conjunto inicial S₀∗ de loca¸c˜oes de tamanho n0, esse conjunto pode ser escolhido aleat´oria ou deterministicamente.

3. No passo t + 1, para cada ponto amostral si no conjunto S ´e calculada a Vθ(si, St∗), para t = 0, . . . , T = m − n0.

O ponto que apresente menor variˆancia V ´e tirado do conjunto de poss´ıveis amostras e inclu´ıdo no conjunto dos “knots” S_t+1∗ .

4. Repetir o procedimento até t = T , é disser, até obter m pontos no conjunto de “knots”. Assim, S∗ = S_T∗.

Note que para usar este algoritmo é preciso conhecer o valor do vetor de parâmetros θ, mas geralmente este é desconhecido. Por tanto é preciso usar uma amostra piloto para estimar o vetor de parâmetros θ.

5.2.4 Proposta Diggle

O artigo de Diggle e Lophaven (2006) apresenta dois focos diferentes deste problema, um deles é denominado foco retrospectivo e o outro é o foco prospectivo. No caso retrosprospectivo, supõe-se que já existem dados da variável de interesse, com os quais são estimados os parâmetros de interesse, para depois disto escolher pontos que fazem

(48)

com que a variˆancia de previs˜ao seja m´ınima.

No caso prospectivo, eles supõem que não existem dados que permitam a maximiza¸cão ou minimiza¸cão de um critério para escolha dos pontos da grade, portanto propõem o uso da esperan¸ca da variância de previsão. O objetivo neste caso é achar um design que seja ótimo para previsão, mas que também seja bom para estimar os parâmetros do modelo. Motivado pela ideia de que as grades regulares retangulares geralmente são boas para a previsão de dados quando os parâmetros do modelo são conhecidos, e como o objetivo principal é a previsão usa-se uma grade regular, e para melhorar a estimativa dos parâmetros, eles sugerem usar grades regulares modificadas da seguinte forma:

a) lattice plus close pairs (k×k, m, α): Esta grade ´e formada por uma grade regular de tamanho k × k e f pontos escolhidos aleatoriamente num c´ırculo de raio α centrado nos f pontos da grade que foram escolhidos aleatoriamente na grade regular.

b) lattice plus in-fill (K × k, m, k0× k0): Escolhe-se uma grade completamente regular k × k, depois são selecionados m células aleatoriamente dentro da grade, e nelas é criada uma nova grade de tamanho k0× k0 .

Eles estudam estes tipos de grades e concluem que a grade mais eficiente ´e a grade plus close pairs.

5.2.5 Processos n˜

ao Gaussiano

No caso de processos não Gaussianos preditivos (Se¸cão 4.3), pode-se usar o mesmo conjunto de pontos tanto para o processo espacial quanto para o processo de variância, isso facilita a computa¸cão. Mas, este trabalho quer avaliar três propostas para estes processos, que são:

i) Usar um conjunto de knots para w e um conjunto diferente para o processo λ. Isso permite incluir mais informa¸c˜ao ao modelo. Por exemplo, se a ideia ´e usar um conjunto de knots de tamanho 40, para os dois processos, poderia se usar 40 knots escolhidos para o processo espacial e 40 pontos diferentes para o processo de

(49)

● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● 0 2 4 6 8 10 0 2 4 6 8 10

(a) Lattice plus close pairs (6 × 6, 14, 0.9)

● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● ● 0 2 4 6 8 10 0 2 4 6 8 10

(b) Lattice plus in-fill (6 × 6, 3, 3 × 3)

Figura 5.1: Exemplos das grades usadas por Diggle

variˆancia, desta forma pode-se optar por fazer uso de diferentes designs para estes processos. Note que o custo computacional ´e quase o mesmo de usar os mesmos 40 pontos para os dois processos.

ii) Como o nosso interesse é modelar processos que tem regiões com alta variabilidade, pode-se pensar que um bom design para o processo λ deveria incluir uma maior quantidade de pontos na área que apresenta uma variância maior, isto é, valores da amostra que após a estima¸cão dos parâmetros usando uma prova piloto apresentem os maiores valores de σ_λ2

i, i ∈ {1, . . . , n}.

iii) A ideia no item (ii) pode ter algumas dificuldades na hora de ser implementado pois ao escolher só pontos com uma variabilidade alta pode ser que todos os pontos escolhidos constituam um cluster só, o que vai dificultar ou impossibilitar o uso de técnicas como a amostragem por blocos (ver 6.3). Para tentar solucionar isso e permitir que os knots não estejam considerando somente os locais de maior variabilidade, é poss´ıvel usar valores com variância maior, mas também usar pontos

(50)

com a menor variabilidade. Neste trabalho a quantidade de pontos de maior variância vai ser igual à quantidade de pontos de menor variância.

(51)

Cap´ıtulo 6

Implementa¸

c˜

ao

O método de Monte Carlo via cadeias de Markov (MCMC) oferece técnicas de grande utilidade para ajustar modelos complexos e que seriam intratáveis por outros métodos. Obter amostras de uma distribui¸cão particular usando métodos como Monte Carlo, entre outros, frequentemente é uma tarefa dif´ıcil, às vezes até imposs´ıvel. Isso ocorre, por exemplo, porque obter uma fun¸cão de importância que seja uma boa aproxima¸cão da distribui¸cão objetivo e que seja fácil de amostrar, não é sempre poss´ıvel.

Este Cap´ıtulo tem como objetivo dar uma ideia de alguns dos métodos e fundamentos do M CM C, pois a inferência feita neste trabalho usa estes métodos.

6.1 Algoritmos

O principal objetivo é obter uma amostra da distribui¸cão a posteriori dos parâmetros de interesse, para isso existem diferentes algoritmos iterativos que permitem obter tais amostras, por exemplo, a amostrador de Gibbs, Metropolis Hastings entre outros. A ideia básica deles é:

• Amostrador de Gibbs: É usado nos casos que todas as distribui¸cões condicionais completas apresentam uma forma fechada. A ideia deste método é obter uma amostra do vetor de parâmetros θ em cada itera¸cão da seguinte forma: na itera¸cão

(52)

t um valor do parâmetro θ1 é obtido usando sua distribui¸cão condicional completa. Para depois obter um valor de θ2 baseado na condicional completa, mas neste caso usando o valor atualizado de θ1. Este processo é repetido até que a última componente do vetor θ seja atualizada. Após isso uma nova itera¸cão é realizada, até obter um número de itera¸cões M .

• Metropolis Hastings: No caso em que as distribui¸cões condicionais completas não tenham uma forma fechada, é poss´ıvel construir um kernel de transi¸cão q(φ, θ) ou usar um kernel tal que:

p(θ)q(θ, φ) = p(φ)q(φ, θ), ∀(θ, phi)

onde p ´e a distribui¸c˜ao de interesse.

Para cada itera¸c˜ao t da cadeia, um valor θ(prop) _´_{e gerado segundo a distribui¸c˜}_ao q(· | θ(t−1)_{), ou novo valor da cadeia θ}t _{vai corresponder com o valor proposto} θ(prop) _{com probabilidade}

α = min 1,p(θ (prop)₎ p(θ(t−1)₎ q(θ(prop) _{| θ}(t−1)₎ q(θ(t−1)_{| θ}(prop)₎ ou θ(t) = θ(t−1) com probabilidade 1 − α.

• H´ıbrido: Em alguns casos é poss´ıvel obter as distribui¸cões condicionais completas de maneira fechada para a maioria dos parâmetros que vão ser amostrados, então uma op¸cão neste caso é usar um algoritmo h´ıbrido que facilite o uso de MCMC. Assim, o algoritmo de Gibbs é usado para os parâmetros que o permitem e o algoritmo de Metropolis é usado no caso dos parâmetros que não tem uma condicional completa fechada.

Estes m´etodos est˜ao bem especificados em livros como Gamerman e Lopes (2006) ou Carlin e Louis (2000) entre outros.

(53)

6.2 Crit´

erios de Convergˆ

encia

Este trabalho usa o método de MCMC para gerar amostras das distribui¸cões a posteri dos parâmetros para assim ter uma estimativa dos parâmetros do modelo. Para formar uma amostra da distribui¸cão a posteriori do parâmetro de interesse é necessário que a cadeia tenha alcan¸cado estacionariedade, o que ocorre após um número de itera¸cões conhecido como per´ıodo de aquecimento ou Burn-in (B). Após o Burn-in uma amostra é obtida a cada k itera¸cões com o propósito de que as amostras obtidas tenham autocorrela¸cão muito baixa.

Mas, como saber se a cadeia gerada convergiu, ou se a amostra que se obtêm pode ser considerada como independente? Para isso existem alguns critérios de convergência, por exemplo, o método gráfico pode ser útil em um primeiro passo no diagnóstico de convergência da cadeia. Alguns critérios são gera¸cão de múltiplas cadeias, convergência das medias, convergência a amostras independentes, o critério de Raftery e Lewis, o critério de Gewek. A ideia destes métodos é apresentada a seguir.

• Múltiplas cadeias: Este método consiste em gerar de forma independente duas ou mais cadeias com pontos iniciais diferentes. Se as cadeias parecem estar oscilando em torno de um mesmo ponto, pode-se assumir que as cadeias estão convergindo. Então, uma amostra de tamanho n pode ser obtida das diferentes cadeias ou de uma delas. Se modas locais são visitadas em alguma(s) da(s) cadeia(s) significa que precisamos de longas cadeias e o uso de algumas cadeias em paralelo é recomendado. Após a convergência das cadeias, caracter´ısticas das amostras como média, variância, mediana, devem se manter para todas as cadeias. Se são geradas n cadeias o método é muito ineficiente computacionalmente, alguns autores recomendam o uso de 3 a 5 cadeias que comecem em pontos diferentes.

• Convergência das médias: Este método gráfico consiste em ver o comportamento da média da cadeia até itera¸cão atual, para cada itera¸cão realizada. Quando o comportamento da média é estável através das itera¸cões é poss´ıvel que