Tiago Viana Flor de Santana

(1)

ESTAT´ISTICA B ´ ASICA

M´etodos de Estima¸c˜ao

www.uel.br/pessoal/tiagodesantana/

[email protected] – sala 07

Curso: MATEM ´ATICA

Universidade Estadual de Londrina – UEL Departamento de Estat´ıstica – DSTA

(2)

ESTIMAC ¸ ˜ AO

1 Método de Obten¸cão de Estimadores Método dos Momentos

M´ınimos Quadrados M´axima Verossimilhan¸ca

(3)

Método de Obten¸cão de Estimadores Método dos Momentos

Defini¸c˜ao

Seja a v.a. X. Ok-´esimo momento populacional deX, denotado porµ_k, ´e dado por

µ_k = E(X^k) para todo inteiro positivo k.

(4)

Exemplo

Os dois primeiros momentos populacionais para X ∼Normal(µ, σ²) ´e

µ₁ = E(X) =µ µ2 = E(X²)

= Var(X) +E²(X)

= σ²+µ²

(5)

Defini¸c˜ao

Seja a v.a. Xe (X1, . . . ,Xn) uma amostra obtida deX. Ok-´esimo momento amostral de X, denotado por m_k, ´e dado por

mk = 1 n

n

X

i=1

X_i^k

para todo inteiro positivo k.

(6)

Exemplo

Os dois primeiros momentos amostrais paraX ∼Normal(µ, σ²) ´e

m1 = 1 n

n

X

i=1

Xi = ¯X

m2 = 1 n

n

X

i=1

X_i²

(7)

Defini¸c˜ao

Diz-se que θ₁, . . . , θ_r são estimadores obtidos pelo método dos momentos se eles forem solu¸cões das equa¸cões

m_k −µ_k = 0 , k = 1,2, . . . ,r.

(8)

Exemplo

Seja X uma v.a. com média µe variância σ². Obtenha estimadores, pelo método dos momentos, para a média e variância deX.

Primeiro passo

m₁−µ₁ = 0⇒µ= ¯X logo

ˆ µ= ¯X

´

e um estimador para a m´edia pelo m´etodo dos momentos.

(9)

Segundo passo

m₂−µ₂ = 0 ⇔ 1 n

n

X

i=1

X_i²−(σ²+µ²) = 0

⇒ σ²= 1 n

n

X

i=1

X_i²−µ²

Portanto

ˆ σ²= 1

n

X

i=1

X_i²−X¯²

´

e um estimador para a variˆancia deX pelo m´etodo dos momentos.

(10)

M´etodo de Obten¸c˜ao de Estimadores M´ınimos Quadrados

Exemplo

Um engenheiro está estudando a resistência Y de uma fibra em fun¸cão de seu diâmetroX e notou que as variáveis são aproximadamente proporcionais, isto é, elas obedecem à rela¸cão

Y ≈θX, em que θ´e o coeficiente de proporcionalidade.

Agora ele deseja estimar o parˆametro θ, baseado numa amostra de cinco unidades, que, submetidas a mensura¸c˜ao e testes, produziram os resultados:

X: 1,2 1,5 1,7 2,0 2,6 X¯ = 1,8;

Y: 3,9 4,7 5,6 5,8 7,0 Y¯ = 5,4.

(11)

(12)

Inspecionando os resultados, conclui-se que ˆθ = 3 parece ser um valor razo´avel. Obtendo-se o modelo

Yˆ = 3X.

Se o modelo for satisfat´orio ´e de se esperar que a diferen¸ca entre os valores observados na amostra e os valores obtido pelo modelo seja pequena ou nula, ou seja

Yi −Yˆi =Yi−3Xi →0, ou ainda que

n

X

i=1

(Y_i −3X_i)²

seja minima. Quanto menor for a soma de quadrados melhor ser´a a

(13)

Dessa forma, um estimador adequado para θ ser´a aquele que minimize a rela¸c˜ao

S(θ) =

n

X

i=1

(Y_i −θX_i)²

(14)

Para minimizarS(θ), devemos derivarS em rela¸c˜ao aθe igualar a zero, ou seja, fazer

dS(θ) dθ = 0.

Logo

dS(θ) dθ =

n

X

i=1

(Y_i−θX_i)(−2X_i) = 0, resolvendo a ´ultima igualdade acima obt´em-se

θˆMQ = Pn

i=1XiYi

Pn i=1X_i² .

(15)

Para o exemplo sobre resistˆencia de uma fibra o estimativa baseada na amostra de cinco unidades ´e

θˆ= 2,94.

Observe que para esse valor a soma de quadrados S(θ) ´e igual a S(2,94) = 0,94.

Considerando ˆθ= 3 a soma de quadrado ´e igual a S(3) = 1,06.

(16)

(17)

No caso geral o modelo teórico é descrito por Y =g(X;θ) + com ∼Normal(0, σ²) e g uma fun¸cão conhecida.

O estimador de m´ınimos quadrado ser´a o valor ˆθque minimiza

S(θ) =

n

X

i=1

²_i =

n

X

i=1

[Y_i−g(X;θ)]²

(18)

Método de Obten¸cão de Estimadores Máxima Verossimilhan¸ca

Seja a popula¸c˜aoX com fdpf_X(x;θ) e X₁, . . . ,X_n uma AAS.

A densidade conjunta de X₁, . . . ,X_n ´e dada por

f_X₁_,...,X_n(x₁, . . . ,x_n;θ) = f_X₁(x₁;θ)×. . .×f_X_n(x_n;θ)

=

n

Y

i=1

f_X(x;θ).

(19)

Defini¸c˜ao

Sejax1, . . . ,xn uma realiza¸cão da AAS X1, . . . ,Xn. Denomina-se fun¸cão de verossimilhan¸caa fun¸cão de θ

L(θ) =

n

Y

i=1

fX(xi;θ), no caso cont´ınuo e

L(θ) =

n

Y

i=1

P(X =x_i|θ), no caso discreto.

(20)

Defini¸c˜ao

Os valores ˆθMV que maximizamL(θ) s˜ao chamadosestimadores de m´axima verossimilhan¸ca.

E s˜ao obtidos resolvendo a equa¸c˜ao

∂L(θ)

∂θ = 0.

(21)

Exemplo

Suponha repeti¸c˜ao de 3 ensaios de Bernoulli com probabilidade de sucesso igual ap, resultando em sucesso, sucesso e fracasso.

A fun¸c˜ao de verossimilhan¸ca para p ´e L(p) =

3

Y

i=1

P(X =x_i|p)

= P(X = 1|p)P(X = 1|p)P(X = 0|p)

= p²(1−p)

(22)

Resolvendo a equa¸c˜ao dL(p)

dp = 0⇒2p(1−p)−p²= 0 obt´em-se

2p(1−p)−p²= 0 de onde conclu´ımos que

ˆ p= 2

3

(23)

Defini¸c˜ao

O m´aximo deL(θ) ocorre no mesmo ponto de

`(θ) = log(L(θ)) =

n

X

i=1

log (f_X(x_i;θ))

e por isso, para facilitar os c´alculos, resolve-se a express˜ao

∂`(θ)

∂θ = 0 no lugar de ∂L(θ)

∂θ = 0.

(24)

Exemplo

Seja x1, . . . ,xn uma realiza¸cão de uma AAS X1, ...,Xn obtida de uma popula¸cão com distribui¸cão Bernoulli com parâmetrop.

A fun¸c˜ao de verossimilhan¸ca ´e

`(p) = log

n

Y

i=1

P(X =x_i|p)

!

= log

p^k(1−p)^n−k

= klog(p) + (n−k) log(1−p).

Maximizando`(p) obt´em-se ˆ p= k

n = ¯X

(25)

Exemplo

Suponha que a v.a. X tenha distribui¸cão exponencial, com parâmetroα >0, desconhecido, e deseja-se obter o EMV desse parâmetro.

A densidade de X ´e dada por

f(x;β) =







1

βe^−x/β , sex ≥0

0 , sex <0. Ent˜ao o log da verossimilhan¸ca ´e dado por

`(β) =−nlog(β)−

n

X

i=1

x_i β

(26)

Resolvendo

d`(β) dβ = 0 obt´em-se

β = Pn

i=1xi

n = ¯X

(27)

Os EMV s˜ao muito utilizados, pois possuem boas propriedades. Em geral:

1 Tem distribui¸c˜ao Normal assint´otica;

2 S˜ao consistentes;

3 S˜ao eficientes assintoticamente;

4 S˜ao invariantes, ou seja,

Se ˆθ_MV é um estimador de máxima verossimilhan¸ca de θentão g(ˆθMV) é um estimador deg(θ).