Econometria. Teorema de Slutsky para Variáveis Aleatórias. Uma extensão do Teorema de Slutsky. Aplicação do Teorema de Slutsky

(1)

Econometria

1.

Propriedades assintóticas dos estimadores MQO

(continuação)

2.

Inferência – grandes amostras

Danielle Carusi Machado - UFF - Econometria 2/2009

Teorema de Slutsky para Variáveis

Aleatórias

Se , e se g(Xn) é uma função continua com derivadas contínuas e que não depende de n, temos que :

Exemplo:

t-student converge para uma normal padrão.

Quadrado de uma t-student converge para uma qui-quadrada.

X Xn→d ) ( ) (X gX g n →d

Uma extensão do Teorema de

Slutsky

Se (Xn tem uma distribuição limite) e θ é uma constante tal que (gntem uma distribuição limite que é função de θ), e temos que:

Ou seja, substituir o θ por um estimador consistente leva a mesma distribuição limite. x xn→d g x g( n,θθθθ)→d θθθθ = n y p lim g(xn,yn)→d g

Aplicação do Teorema de Slutsky

Comportamento da estatística F para testar restrições em grandes amostras:

2 2 2 2 * * * * 1 ) ( ´ ) ´ ´ ( ) ( ´ ) ´ ´ ( J d p J d JF k n e e J J e e e e k n e e J e e e e F χχχχ σσσσ χχχχ σσσσ  →   →     −  →     − = − − =

Teorema do Limite Central

Descreve o comportamento de uma variável

aleatória que envolve soma de variáveis

“Tendência para a normalidade.”

A média de uma amostra aleatória de qualquer

população (com variância finita), quando

padronizada, tem uma distribuição normal

padrão assintótica.

Danielle Carusi Machado - UFF - Econometria

Teorema do Limite Central

Teorema Lindeberg-Levy (versão simples do TLC):

Se x1_{, x}2_{, … , x}n_{é uma amostra aleatória de uma população cuja}

distribuição de probabilidade tem média µ e variância finita

igual a σ2 _{e temos que:}

_∑

= = n i i n x n x 1 1 ) 1 , 0 ( : lim ) 1 , 0 ( N x n s p Se N x n d n n d n  →  − =  →  − µµµµ σσσσ σσσσ µµµµ

(2)

Teorema do Limite Central

Teorema Lindeberg-Feller :

Suponha que é uma sequência de variáveis aleatórias

independentes com média µie variâncias positivas finitas σ2i

{ }xi,i=1,...,n

(

)

(

)

(

)

(0, ) ... 1 ... 1 2 3 2 1 2 3 2 1 σσσσ µµµµ σσσσ σσσσ σσσσ σσσσ σσσσ µµµµ µµµµ µµµµ µµµµ µµµµ N x n n n d n n n n n n  →  − + + + + = + + + + =

Lindberg-Levy vs. Lindeberg-Feller

Lindeberg-Levy

assume amostra aleatória – observações

possuem as mesmas média e variância.

Lindeberg-Feller

– a variância pode ser diferente entre as

observações, apenas com hipóteses de como elas variam.

Soma de variáveis aleatórias, independente da sua

distribuição, tenderão a ser normalmente distribuídas. E, mais, Lindeberg-Feller não requere que as variáveis na soma venham da mesma distribuição de probabilidade.

Estimadores em econometria – uso da versão Lindeberg-Feller do TLC.

Distribuição assintótica

Uma distribuição assintótica é uma distribuição usada para a

aproximar a verdadeira distribuição de amostra finita de uma variável aleatória.

Construída a partir da distribuição limite da função de uma variável aleatória.

Se

é assintoticamente normalmente distribuído com média µ e variância σ2_/n.

) , ( ~ ) 1 , 0 ( 2 n N x N x n n d n σσσσ µµµµ σσσσ µµµµ __→_       −

Eficiência assintótica

Comparação de variâncias assintóticas

Como comparamos estimadores consistentes? Se

convergem para constante, ambas variâncias vão para zero.

Eficiência assintótica

: Um estimador é assintoticamente

normal, este estimador é eficiente assintoticamente se a matriz de covariância de qq outro estimador consistente e assintoticamente normal exceder (1/n)V por uma matriz definida não negativa.

n θθθθˆ ) , 0 ( ) ˆ ( N V nθθθθn−θθθθ →d

Eficiência assintótica

Exemplo: Amostra aleatória de uma distribuição

normal,

A média amostral é assintoticamente normal com

[µ,σ

2

_/n]

Mediana é assintoticamente normal com

[µ,(π/2)σ

2

_/n]

Média é assintoticamente mais eficiente.

Propriedades assintóticas do EMQ

A hipótese de normalidade não é necessária para

derivarmos as propriedades assintóticas.

Hipóteses: Convergência de X

′′′′

X/

n para uma

matriz Q positiva definida.

Convergência de X’

εεεε

/

n

para 0. Suficiente para a

consistência.

Hipóteses: Convergência de (1/

√

n

)X’

εεεε

para um

vetor com distribuição normal – normalidade

assintótica.

(3)

EMQ

EMQ pode ser escrito da seguinte forma:

(X

′′′′

X)

-1

_X

_′′′′

_{y = (X}

_′′′′

_X)

-1

_Σ

i

x

i

y

i

=

ββββ

+ (X

′′′′

X)

-1

_Σ

i

x

i

ε

i

Um vetor de constantes mais um vetor de variáveis

aleatórias.

Os resultados para a amostra finita são estabelecidos

conforme regras estatísticas para esta soma.

Como esta soma de variáveis se comporta em grandes

amostras?

Danielle Carusi Machado - UFF - Econometria 2/2009 − = − =     = +  × ε         × ε × ε         ∑ ∑ 1 n i i i 1 1 n i i i i i 1

We use 'convergence in mean square. Adequate for almost all problems, not adequate for some time series problems. 1 1 n n 1 1 1 ( ' ' n n n b X'X x b - b - X'X x x ββββ β)( β) = β)( β) = β)( β) = β)( β) = = − − − =                   ε ε             ∑ ∑ ∑ 1 n i 1 1 1 n i i j j 2 i 1 1 n 1 1 1 ' n n n

In E[( ' | ] in the double sum, terms with unequal subscripts have expectation zero.

E[( ' n j=1 X'X X'X x x X'X b - b - X b - b -==== β)( β) β)( β) β)( β) β)( β) β)( β) β)(β)( β)β) β)( β) − ₌ − − − −    _ε                σ      σ   = _  _{ }  _{ } _ = _ _ ∑ 1 1 n 2 i j i 2 i 1 1 1 1 2 2 1 1 1 | ] 'E[ | ] n n n 1 1 1 1 n n n n n n X X'X x x X X'X X'X X'X X'X X'X ====

Limite de probabilidade

Convergência em média quadrática

E[b|X]=β para qualquer X.

Var[b|X]0 para um X específico

b converge para β

b é consistente

Limite de probabilidade

− = − − = − −     = +_ _ ×_ ε_         =  × ε =                 =                  =    =     

∑

1 n i i i 1 1 1 n i i i 1 1 1 1 1 n n 1 1 1 1 n n n n 1 1 P lim( ) p lim n n 1 1 1

p lim plim plim

n n n b X'X x b - X'X x X'X X' b - X'X X' X'X X' X'X ββββ β ε ββ εε β ε β ε ββ εε β ε εεεε − −                 =       =     1 1 1 plim n 1

p lim assuming well behaved regressors. n

1 What must be assumed to get p lim ?

n X' Q X' X' 0 εεεε εεεε εεεε

Este plim deverá ser zero

Danielle Carusi Machado - UFF - Econometria 2/2009 A inversa é uma função contínua da matriz original.

Limite de probabilidade

w p Q b p w w n x n n X n X p n i i n i i i lim lim 1 1 ' ' lim 1 1 1 − = = + = = = =      

∑

ββββ εεεε εεεε εεεε

Devemos encontrar o plim do último termo:

Para isto, devemos formular algumas hipóteses.

Hipótese crucial do modelo

O que devemos assumir para que plim(1/nX’ε)=0?

1) xi= vetor aleatório com média e variâncias finitas e com distribuições idênticas.

2) εi= variável aleatória com uma distribuição constante com média e variância finitas e E(εi)=0

3) xie εisão estatisticamente independentes. wi= xiεi= uma observação em uma amostra aleatória, com matriz de covariância constante e o vetor de média igual a zero.

converge para sua esperança.

∑

wi n 1

(4)

Limite de probabilidade

Danielle Carusi Machado - UFF - Econometria 2/2009 0 ) ( 1 ) ( 1 ) 1 ( ) ( 0 ) ( exata a expectativ a forma Desta 0 ) ( 1 1 1 = = = = = =             =             =             =

∑

= = = i i i i i i i i i x i i i x i i x i w E n w E n w n E w E w E x E x E x x E E x w E E w E εεεε εεεε

Pela hipótese de exogeneidade e pela lei das

expectativas iteradas:

Limite de probabilidade

( )

[

]

[

( )

]

( )

[

]

[

]

( )

[

]

[

'|

]

1 ' (2) ' 1 | ' ' 1 ' 1 | ' var I | ' usamos termo primeiro o calcular ara (1) 0 var var var ) var( 2 2               = =             = = = + = + = n X X n n X X E X n X X n X n E X w w E X w X E P X w E X w E X w E w σσσσ εε εε εε εε εεεε εεεε σσσσ εε εε εε εε

Pela decomposição da variância:

Limite de probabilidade

( )

[

]

ββββ ββββ εεεε σσσσ σσσσ = + = = ∞ → = =                     =                       = = −_.₀ lim 0 ' plim : forma desta zero, para quadrática média em converge zero, para converge variância sua e zero é média a Como 0 . 0 ) var( lim . suficiente será Q para converge X/n) (X' plim que de hipótese A constante. matriz uma para convergir parênteses entre esperança a se zero para irá a A variânci ' ' var ) var( : (1) em (2) do Substituin 1 2 2 Q b p n X w w n Q w n X X E n n X X n E X w E w

EMQ é consistente!!

Distribuição assintótica

− =









= +





×



ε









∑



1 n i i i 1

1

1 n

n

The limiting behavior of is the same as

that of the statistic that results when the

moment matrix is replaced by its limit. We

examine the behavior of the modified

b

X'X

x

b

ββββ

− =





+

×



ε





∑



n 1 i i i 1

sum

1 n

Q

x

β

O comportamento limite de b é o mesmo da

estatística resultante da substituição da matriz de

momentos pelo seu limite.

Examinamos o comportamento da seguinte soma

modificada:

Resultados Assintóticos

− =





+

×



ε





∑



n 1 i i i 1

1 n

What is the mean of this random vector?

What is its variance?

Do they 'converge' to something? We use

this method to find the probability limit.

What is the asymptotic distribu

Q

x

ββββ

tion?

2/2009

Qual a média desta variável aleatória?

Qual sua variância?

Esta soma converge para algo? Podemos achar o

limite de probabilidade.

Qual a distribuição assintótica?

Distribuição assintótica

b β em probabilidade. Como descrever esta

distribuição?

Não tem uma distribuição limite

Variância b 0

Como estabilizar a variância? Var[√n b] ~ σ2Q-1 Mas, E[√n b]= √n β que diverge

√

n (b - β) é uma variável aleatória com média e

variância finitas (transformação que estabiliza)

b aproximadamente β +1/

√

n vezes a variável

aleatória.

(5)

Distribuição limite

√

n (b - β)

=

√

n (X’X)

-1

_X’ε

= (X’X/n)

-1

_(X’ε/

_√

_n)

No limite, isto é igual a (plim):

Q

-1

_(X’ε/

√

_n)

Q é uma matriz positiva definida.

Comportamento depende da variável aleatória

(X’ε/

√

n)

Distribuição no limite: Normal

(

)

i i i i i i i i Q x x E x x w n w w E w n X n 2 2 ₍ _'₎ ) var( : a igual variância e zero média têm vetores Estes : tes independen aleatórios vetores de média a é acima. aleatória variável da limite ão distribuiç a obter para TLC do Feller -Lindeberg versão a usar Podemos ) ( ' ) 1 ( σσσσ σσσσ εεεε εεεε εεεε = = = − =

Distribuição no limite: Normal

Q

n

x

n

x

n

w

n

w

n

Q

x

E

x

S

n n i i i i i i i i i i 2 2 2 2 2 2

lim

)

var(

1 )

1 var(

)

var(

)

var(

)

'

(

)

var(

e

σσσσ

εεεε

σσσσ

εεεε

=

∑

Distribuição no limite: Normal

{

}

(

)

(

)

(

1 2

)

1 2 1 1 1 2 2 , 0 ) ( , 0 ' 1 , 0 ' 1 . a igual variância e zero média com os distribuíd tes independen vetores são : ) ( vetor o para TLC o aplicarmos para elementos todos Temos σσσσ ββββ σσσσ εεεε σσσσ εεεε σσσσ εεεε − − − − −  →  −  →           →          − Q N b n QQ Q Q N X n Q Q N X n Q x w n d d d i i i

Distribuição assintótica

(

)

{ }

TLC. do ia consequênc com distúrbios dos e normalidad da depende não EMQ do a assintótic e normalidad : importante Resultado , ~ : que temos finita variância e zero média com os distribuíd temente independen são Se tes independen s observaçõe com b de a assintótic ão Distribuiç : Teorema , 0 ) ( 2 1 2 2 1          →  − − − n Q N b Q N b n i d σσσσ ββββ σσσσ εεεε σσσσ ββββ

Consistência de s

2 = = − − − → −   = _ _       −             2 2 1 1 n 1 s n K n K n K n n 1 n K 1 1 1

p lim s plim plim ( )

n n n

1 1 1 1

plim plim plim ( ) p lim

n n n n 1 plim n What must be a -1 -1 -1 e'e 'M 'M 'M ' 'X X'X X' ' 'X X'X X' ' 0'Q 0 ε ε = ε ε ε ε =ε ε = ε εε ε ε ε = ε ε ε ε = ε ε − ε ε ε ε =ε ε = ε ε − εε ε − ε εε ε ε = ε ε − ε ε = ε ε ε ε = = ε ε ε ε εε εε = ε ε ε ε = ε ε − = = ε ε −ε ε − = ε ε − ε = σ2 2 1

ssumed to claim plim = E[ ] ? nε εε εε εε ε'

(6)

Consistência de s

2

Danielle Carusi Machado - UFF - Econometria 2/2009 1 2 1 2 1 2 1 2

)

'

(

var

)

'

(

lim

− − − −

=

X

s

b

est

Q

n

b

Q

n

X

s

p

σσσσ

Eficiência assintótica

Um

estimador

é

assintoticamente

eficiente

se

é

consistente, assintoticamente normalmente distribuído, e

tem uma matriz de covariância que não é maior que uma

matriz de covariância de qualquer outro estimador

consistente e com distribuição assintótica normal.

Econometria

1.

Propriedades assintóticas dos estimadores MQO

(continuação)

2.

Inferência – grandes amostras

Estatísticas de testes

Como estabelecemos a distribuição assintótica de b,

podemos construir estatísticas de testes. Baseamos os

testes na estatística de Wald.

F

[J,n-K] = (1/J)(Rb - q)’[R s

2

_(X

_′′′′

_X)

-1

_R

_′′′′

_]

-1

_{(Rb - q)}

Esta é a estatística de teste usual para testar hipóteses

lineares no modelo de regressão linear, seguindo uma

distribuição F exata se os erros são normalmente

distribuídos.

Qual o resultado mais geral? Quando não se assume

normalidade.

Estatística de Wald

Abordagem geral considerando uma distribuição univariada

Quadrado de uma variável normal padrão qui-quadrada com 1 grau de liberdade.

Suponha z ~ N[0,σ2_{] , desta forma (z/}_σ₎2_{é uma qui-quadrada com 1} gl.

Suponha z~N[µ,σ2_].

[(z -µ)/σ]2_{é uma qui-quadrada com 1 gl. Esta é a distância} normalizada entre z e µ, onde a distância é medida em unidades de desvios padrão.

Suponha znnão é exatamente normalmente distribuída, mas (1) E[zn] = µ, (2) Var[zn] = σ2, (3) a distribuição limitede zné normal. (zn- µ)/σ N[0,1], que é umadistribuição limite, não é uma distribuição exata em uma amostra finita.

Extensões

Logo:

τn2 = [(zn - µ)/σ]2 {N[0,1]}2, ouχ2[1].

Novamente, uma distribuição limite, não é uma distribuição exata. Suponhaσdesconhecido, e substituímosσpor um estimador

consistente paraσ, ou seja sn, tal que plim sn= σ. O que acontece com este “análogo empírico”?

tn= [(zn- µ)/sn]?

Como plim sn= σ, o comportamento desta estatística em uma grande amostra será igual ao comportamento da estatística original usandoσao invés de sn.

tn2 = [(zn - µ)/sn]2 converge para uma qui-quadrada[1]. tne τnconvergem para a mesma variável aleatória.

(7)

Forma Quadrática

Se um vetor aleatório x (dimensão k)

tem uma distribuição normal multivariada com

vetor de média igual a

µµµµ

e matriz covariância

igual a

ΣΣΣΣ

, a variável aleatória W = (x -

µµµµ

)

′Σ

-1

_{(x -}

µµµµ

_{) tem uma distribuição qui-quadrada}

com K graus de liberdade..

Prova

ΣΣΣΣ1/2_{é uma matriz tal que:}

ΣΣΣΣ1/2_{× ΣΣΣΣ}1/2₌_ΣΣΣΣ_{. Logo, V = (}_ΣΣΣΣ1/2₎-1_{é a inversa da raiz} quadrada, tal que V×V = ΣΣΣΣ-1/2_ΣΣΣΣ-1/2 ₌_ΣΣΣΣ-1_.

Se z = (x -µµµµ). O z tem média 0, matriz covariânciaΣΣΣΣ, e distribuição normal.

O vetor aleatório w = Vz tem média V0 = 0 e matriz covariância VΣΣΣΣV′′′′

= I.

w tem uma distribuição normal com´média 0 e matriz covariância I. w′′′′w = Σkwk2onde cada elemento é o quadrado de uma normal padrão, logo uma qui-quadrada(1). A soma de qui-quadradas é igual a uma qui-quadrada, logo:

w′′′′w = (x -µµµµ) ′Σ′Σ′Σ′Σ-1_{(x -}_µµµµ_).