27 de dezembro de 2007

(1)

Curso de Teoria Assintótica Gauss Cordeiro Roteiro Objetivos Expansão Ponto de Sela através da Expansão de Laplace Expansão Ponto de Sela através da Expansão de Edgeworth Expansões de Daniels Solução Numérica Aplicações na inferência

Curso de Teoria Assintótica

Gauss Cordeiro UFRPE e UFPE

(2)

Teoria Assintótica Gauss Cordeiro Roteiro Objetivos Expansão Ponto de Sela através da Expansão de Laplace Expansão Ponto de Sela através da Expansão de Edgeworth Expansões de Daniels Solução 1 Objetivos

2 Expansão Ponto de Sela através da Expansão de Laplace

3 Expansão Ponto de Sela através da Expansão de Edgeworth

4 Expansões de Daniels

5 Solução Numérica

6 Aplicações na inferência estatística

(3)

As expansões ponto de sela são muito importantes na teoria assintótica, pois aproximam de forma precisa as funções densidade e de distribuição.

Em muitas aplicações estatísticas, as expansões têm sua importância no que se refere, por exemplo, ao cálculo dos p-valores, à construção de testes e intervalos de confiança para os parâmetros desconhecidos.

Em muitos casos, a expansão ponto de sela é utilizada para determinar limites uniformes com erros relativos sobre todo o intervalo de variação da distribuição.

(4)

Teoria Assintótica Gauss Cordeiro Roteiro Objetivos Expansão Ponto de Sela através da Expansão de Laplace Expansão Ponto de Sela através da Expansão de Edgeworth Expansões de Daniels Solução

A expansão de Laplace é dada por Z f_{(y )dy ≈ exp{h(ˆy)}} −_h′′2π (ˆy) 1/2 . (1)

Seja KY(λ) a função geradora de cumulantes.

Aproximando a integral de exp{KY(λ)} com relação à variável λ, e por (1), tem-se

f_{(y ) ≈} Z exp ( KY(ˆλ) + (λ − ˆλ) 2 2 ∂2_K Y(λ) ∂λ2 _ˆ λ ) dλ = exp{KY(ˆλ)} " − 2π #1/2 . (2)

(5)

Obtém-se a função densidade após mudança de variável a partir da função característica fY(y ) = 1 2πi Z T+i∞ T −i∞ exp{K Y(λ) − λy}dλ. (3)

Expandindo KY(λ) − λy referente ao expoente da equação (3), obtém-se a aproximação (4). E associando esta aproximação com a equação (2), obtém-se a equação (5).

KY(λ) − λy ≈ KY(ˆλ) − ˆλy +(λ − ˆλ) 2 2 K ′′ Y(ˆλ). (4) fY(y ) ≈ " 1 2πK′′ Y(ˆλ) #1/2 exp{KY(ˆλ) − ˆλy}. (5)

(6)

A f.g.m. da média amostral ( ¯Y) é dada por φ_Y¯(λ) = φY(λ/n)n e a f.g.c. é, então, KY¯(λ) = n KY(λ/n). Assim, uma direta aplicação de (5) produz a equação (6) em que o lado direito desta equação é a aproximação ponto de sela da função densidade (ou de probabilidade) de ¯Y.

f_Y¯(¯y) ≈ " n 2πK′′ Y(ˆλ) #1/2 exp{n[KY(ˆλ) − ˆλ¯y]}. (6) A qualidade da expansão ponto de sela pode ser freqüentemente obtida pela multiplicação da aproximação da densidade por uma constante de forma que sua integração resulte em 1.

(7)

A expansão de Edgeworth de uma distribuição é obtida expandindo a f.g.c. através da série de Taylor em torno de zero e invertendo-a em seguida.

Sejam fSn(s; λ) e KSn(t; λ) as funções densidade e geratriz

de cumulantes de Sn. Definindo a família exponencial (7), obtém-se a equação (8) para Sn.

f_{(y ; λ) = exp[λy − K (λ)]f (y).} (7)

fSn(s; λ) = exp[sλ − nK (λ)]fSn(s), (8)

(8)

As funções densidade de Sn e Sn∗ estão relacionadas por f_Sn(s; λ) = fSn∗(y ; λ) 1 pnK′′ (λ), (9) em que y = [s − nK′(λ)]/pnK′′ (λ).

A função fS_n∗(y ; λ) é aproximada pela expansão de Edgeworth

fS_n∗(y ) = φ(y ) 1 + ρ3 6√nH3(y ) + ρ4 24nH4(y ) + ρ2 3 72nH6(y ) +O(n−3₂ (10)

(9)

Aproximando fS_n∗(y ) na origem (y = 0), obtém-se uma

expansão em potências de n−1_.

Interpretando ˆλ como a EMV de λ relativa a uma única observação, tem-se f_Sn(s; ˆλ) = fSn∗(0; ˆλ){nK ′′ (ˆ_λ)}−1/2_, sendo fS_n∗(0; ˆλ) = 1 √ 2π[1 + M(ˆλ) + O(n −2_)], ₍₁₁₎

em que M(λ) é um termo de ordem n−1 _{dado por} M(λ) = 3ρ4(λ) − 5ρ3(λ)

2

24n , (12)

sendo ρ3(λ) e ρ4(λ) os cumulantes padronizados que medem a assimetria e a curtose da distribuição de Y .

(10)

Fazendo λ = ˆλ em (8), explicitando fSn(s) e usando (9) e (11)

vem fSn(s) = exp[nK (ˆ_{λ) − s ˆλ]} q 2nπK′′ (ˆλ) [1 + M(ˆλ) + O(n−2_)]. ₍₁₃₎

O termo principal da equação (13) é chamado expansão ponto de selapara a função densidade da soma estocástica Sn proveniente de Y .

(11)

O interesse maior da expansão ponto de sela consiste em obter aproximações precisas para probabilidades de uma amostra iid de n observações.

Lugannani e Rice (1980) definiram uma equação bastante precisa para aproximar probabilidades

P(Sn≤ s) = Φ(ˆr) + 1 ˆr− 1 ˆ ν φ(ˆr), (14) em que ˆr = sinal(ˆ_λ){2nˆλK′(ˆ_{λ) − ˆλs}}1/2 _{e ˆ}_{ν = ˆ}_λ{nK′′ (ˆ_λ)}1/2_.

(12)

A aproximação (14) é boa em quase todo intervalo de variação de s, exceto próximo ao ponto s = E (Sn) ou r = 0, onde deve ser substituída pelo seu limite, quando r → 0, dado por

P(Sn≤ s) = 1 2 − ˆ ρ3 6√2πn,

(13)

A expansão para P(Sn≥ s) até O(n−1/2) quando s > nE (Y ), ou seja, quando ˆλ > 0, válida para distribuições discretas, tem a forma (Daniels, 1987) P(Sn≥ s) = exp{(ˆr2+ ˆν2)/2}{ˆλ/(1 − e−ˆλ)}× (1 − Φ(ˆν)) 1 −ρˆ3νˆ3 6√n − ˆ ν √ n ˆK′′(ˆλ −1_{− (e}ˆλ_{− 1)}−1₎ +φ(ˆν) ˆ ρ3(ˆν2−1) 6√n + 1 √ n ˆK′′(ˆλ −1_{− (e}λˆ_{− 1)}−1₎ , com todas as quantidades já definidas anteriormente.

(14)

No caso de s < nE (Y ), ou seja, ˆλ < 0, pode-se obter P(Sn≥ s) até O(n−1/2) como

P(Sn≥ s) = H(−ˆν) + exp(n ˆK− ˆλs + ˆν2/2)× h {H(ˆν) − Φ(ˆν)}1 −ρˆ3νˆ3 6√n + φ(ˆν)ρˆ3(ˆν2−1) 6√n i em que H(w ) = 0, 1/2 e 1 quando w < 0, w = 0 e w > 0, respectivamente.

(15)

Em muitas aplicações a equação de ponto de sela (K′

Y(ˆλ) = y ) não pode ser resolvida analiticamente, mesmo quando a solução de ˆλ existe.

Usa-se o método de Newton-Raphson para calcular o ponto de sela numericamente, tendo este, em geral, bom desempenho desde que a função KY(λ) − λy que é minimizada seja convexa.

Há ainda o método da secante. Esse método geralmente só produz a resposta correta em uma iteração se K′

Y(λ) é linear, como é o caso do método Newton-Raphson. A diferença com relação ao método Newton-Raphson consiste em não existir no método secante a possibilidade de divergência.

(16)

Ilustra-se com exemplos a obtenção da expansão ponto de sela para a distribuição de Poisson com média γ, para a distribuição exponencial com média unitária, para a distribuição normal inversa e mais um caso relacionado ao processo autorregressivo de ordem 1.

A expansão ponto de sela pode, também, ser usada em

distribuições discretas. Sejam Y1, . . . , Yn variáveis aleatórias iid seguindo uma distribuição de Poisson com média γ. A f.g.c. de Yi é dada por KY(λ) = γ {exp(λ) − 1} tendo como ponto de sela ˆλ = log(¯y/γ).

(17)

A equação (6) pode ser usada diretamente, mas agora a média só pode assumir valores tais que ¯y = r /n para r inteiro. Substituindo na equação, obtém-se

f_Y¯(¯y) ≈ 1 2πn¯y 1/2 exp n γ ¯y γ − 1 − logy¯ γ ¯ y . fY¯(¯y) = 1 2πn 1/2 e−γn γ n¯y ¯ yn¯y+1/2.

Essa quantidade exata da distribuição de ¯Y é obtida pela aproximação de Stirling.

(18)

Tabela: Calculando P(Sn≥ s) com as aproximações ponto de sela

para a distribuição de Poisson (γ = 1, n = 1, 5 e 10).

n s Exato L-R (1980) Daniels (1987) 1 1,0 0,6321 0,6330 0,6330 3,0 0,0803 0,0804 0,0790 7,0 0,0000832 0,0000834 0,0000825 9,0 0,00000113 0,00000113 0,00000115 5 1,0 0,99326 0,99319 0,99356 3,0 0,8753 0,8752 0,8765 5,0 0,5595 0,5595 0,5595 15,0 0,000226 0,000226 0,000225 10 1,0 0,9999546 0,9999536 0,9999567 5,0 0,9707 0,9710 0,9710 10,0 0,5421 0,5421 0,5241 20,0 0,00345 0,00345 0,00344

(19)

(Cordeiro, 1999) Sejam Y1, . . . , Yn variáveis aleatórias iid com distribuição exponencial de média um. Assim, a função densidade exata de Sn é dada por

πSn(s) = sn−1e

−s_{/(n − 1)!.}

Tem-se, φ(λ) = (1 − λ)−1 _{e K (λ) = − log(1 − λ). A EMV} ˆ

λ é ˆ_{λ = 1 − n/s, K (ˆλ) = log(s/n) e K}(2)(ˆλ) = s2 /n2

. Ainda, M(ˆ_{λ) = −1/12n. Portanto, a expansão ponto de} sela (13) implica fSn(s) = sn−1_e−s √ 2πe−n_nn−1/2 1 − 1 12n + O(n −2₎ .

(20)

Curso de Teoria Assintótica Gauss Cordeiro Roteiro Objetivos Expansão Ponto de Sela através da Expansão de Laplace Expansão Ponto de Sela através da Expansão de Edgeworth Expansões de Daniels Solução

Considerando a distribuição exponencial, compara-se na tabela seguinte o valor exato de P(Sn≥ s) e os valores aproximados obtidos pelas equações de Daniels (1987) e de Lugannani e Rice (1980) para n = 1, 5 e 10 e diversos valores de s.

Tabela: Comparando P(Sn≥ s) com as aproximações de Daniels e as

de Lugannani e Rice para a distribuição exponencial.

Aprox. Daniels(1987) Aprox. n s Exato até O(n−1/2₎ _{até O(n}−1₎ _{LR (1980)}

1 0,5 0,6065 0,6176 0,6077 0,6043 1,0 0,3679 0,3670 0,3670 0,3670 3,0 0,0498 0,0482 0,0510 0,0500 7,0 0,00091 0,00095 0,00091 0,00093 5 1,0 0,99634 0,99638 0,99635 0,99633 3,0 0,8153 0,8172 0,8156 0,8152 7,0 0,4405 0,4405 0,4405 0,4405 10,0 0,0293 0,0291 0,0293 0,0293 20,0 0,0000169 0,0000171 0,0000169 0,0000170 10 5,0 0,9682 0,9683 0,9682 0,9682 10,0 0,4579 0,4579 0,4579 0,4579 15,0 0,0699 0,0695 0,0699 0,0699

(21)

Na tabela a seguir compara-se a probabilidade exata P(Sn≥ s) com as aproximações de Daniels (1987) até ordens O(n−1/2_{) e O(n}−1_{) e, também, com a expansão de} Lugannani e Rice (1980) para a distribuição normal inversa.

f(y ; µ) = µ (2π)12y3/2exp{−(y − µ) 2 /(2y )}, e K_Y_{(t) = µ{1 − (1 − t)}12}.

(22)

Tabela: Comparando P(Sn≥ s) com as aproximações de Daniels e as

de Lugannani e Rice para a distribuição normal inversa com µ = 1 (n = 3, 5 e 10).

Aprox. Daniels(1987) Aprox. n s Exato até O(n−1/2₎ _{até O(n}−1₎ _{Lugannani e Rice (1980)}

3 1,0 0,9645 0,9651 0,9644 0,9638 2,0 0,6782 0,6824 0,6753 0,6724 3,0 0,3927 0,3848 0,3848 0,3848 5,0 0,1156 0,1006 0,1176 0,1178 10,0 0,0055 0,00493 0,00573 0,00505 20,0 0,0000174 0,0000169 0,0000176 0,0000155 5 1,0 0,999946 0,999947 0,999946 0,999946 3,0 0,8334 0,8358 0,8330 0,8315 5,0 0,4147 0,4108 0,4108 0,4108 10,0 0,0378 0,0312 0,0344 0,0328 20,0 0,000148 0,000144 0,000150 0,000141 25,0 0,0000099 0,0000097 0,00001 0,0000094 10 5,0 0,9825 0,9827 0,9826 0,9824 10,0 0,4384 0,4369 0,4369 0,4369 15,0 0,0721 0,0697 0,0723 0,0715 20,0 0,00789 0,00766 0,00794 0,00799 25,0 0,00073 0,00071 0,000732 0,000717

(23)

Consideremos o processo autoregressivo Y0, Y1, . . . dado por Yk = λYk−1+ ǫk, em que |λ| < 1, ǫk são iid com ǫk ∼ N(0, σ2) e Y0 tem distribuição estacionária, isto é, Y0 ∼ N(0, σ2/(1 − σ2)). O interesse está voltado para a distribuição de Y definida por

Y =√n_√ˆλ − λ 1 − λ2 =

√ nU

V,

em que ˆλ é o estimador de mínimos quadrados de λ baseado em Y0, . . . , Yn, U =Pn i=1Yi −1(Yi− λYi −1)/ √ 1 − λ2 _{e V =}Pn i=1Y 2 i −1.

(24)

Na tabela abaixo comparamos a probabilidade exata P(√n_{|ˆλ − λ|/}√_{1 − λ}2_{> w ) com duas aproximações de} Edgeworth e as aproximações ponto de sela de primeira e segunda ordens para n = 10.

Tabela: Comparação entre as aproximações de Edgeworth e as de ponto de sela no processo autorregressivo de ordem 1.

Aprox. Edgeworth Aprox. Ponto de Sela

λ w Exato 1 2 1 2 0.4 1,0 0,3009 0,3173 0,3003 0,2984 0,3052 2,0 0,0498 0,0556 0,0557 0,0480 0,0500 3,0 0,0059 0,0067 0,0122 0,0056 0,0056 0.8 1,0 0,3444 0,3173 0,3433 0,3130 0,3474 2,0 0,1302 0,1053 0,1957 0,1102 0,1310 3,0 0,0507 0,0149 0,0994 0,0440 0,0505

(25)

Daniels, H. E. (1954). Saddlepoint Approximations in Statistics. The Ann. Math. Statistics, 25, 631–650.

Daniels, H. E. (1987). Tail Probability Approximations. International Statistical Review, 55, 1, 37–48.

Cordeiro, G.M. (1999). Introdução à teoria assintótica. 22o Colóquio Brasileiro de Matemática, IMPA, 70–77.

Cordeiro, G.M. (1992). Introdução à teoria da verossimilhança. Capítulo 3, Seção 3.8, 90–95.

Goutis, C. e Casella, G. (1999) Explaining the Saddlepoint Approximation. The American Satistician, 53, n. 3, 216–224.

(26)

Curso de Teoria Assintótica Gauss Cordeiro Roteiro Objetivos Expansão Ponto de Sela através da Expansão de Laplace Expansão Ponto de Sela através da Expansão de Edgeworth Expansões de Daniels Solução

Referências

Hinkley, D. V., Reid, N. e Snell, E. J. (1990). Statistical Theory and Modelling. In honour of Sir David Cox, FRS. Chapman and Hall.

Jensen, J. L. (1988). Uniform Saddlepoint Approximations. Adv. Appl. Prob., 20, 622–634.

Kolassa, J. E. (1997). Series Approximation Methods in Statistics. Lecture Notes in Statistics, 88, second edition, Springer, 58–81.

Lugannani, R. e Rice, S. (1980). Saddle Point Approximation for The Distribution of The Sum of Independent Random Variables. Adv. Appl. Prob., 12, 475–490.