Introdu¸c˜ ao ` a Probabilidade e ` a Estat´ıstica II
Estima¸c˜ ao II
L´ıgia Henriques-Rodrigues MAE0229 – 1ºsemestre 2018
2.2 M´ etodos de obten¸c˜ ao de estimadores
Existem v´arios procedimentos para obten¸c˜ao de estimadores:
M´etodo dos Momentos (M);
M´etodo da M´axima Verossimilhan¸ca (MV);
M´etodo dos M´ınimos Quadrados (MQ).
M´ etodo dos momentos
Seja (X1, . . . ,Xn) uma amostra aleat´oria de uma v.a. X com fun¸c˜ao densidade fθ. Defini¸c˜ao: Ok-´esimo momento populacional´e definido por
µk =E(Xk) = Z +∞
−∞
xkfθ(x)dx, k = 1,2, . . . .
Defini¸c˜ao: Ok-´esimo momento amostral´e definido por mk =1
n
n
X
I=1
Xik, k = 1,2, . . . .
Oestimador de momentos´e a solu¸c˜ao da igualdade dos momentos amostrais com os momentos populacionais.
Defini¸c˜ao: Sendoθ= (θ1, . . . , θr)T, dizemos que ˆθ1,θˆ2, . . . ,θˆr s˜ao estimadores obtidos pelos m´etodo dos momentos, se eles forem solu¸c˜oes das equa¸c˜oes,
mk =µk, k= 1,2, . . . ,r.
Exemplo 1: Determine o estimador dos momentos do modelo exponencial, Exp(β), com f.d.p.
f(x;β) =
1
βe−x/β, x≥0 0, x<0,
.
Como s´o temos um parˆametro,β, o estimador dos momentos ´e solu¸c˜ao da equa¸c˜ao
m1=µ1, ondem1=X =1nPn
I=1Xi eµ1=E(X) =β. Logo, βˆM=X.
Exemplo 2: SejaX uma v.a. com m´ediaµe variˆanciaσ2. Os dois primeiros momentos populacionais s˜ao:
µ1=E(X) =µ e µ2=E(X2) =σ2+µ2. Os dois primeiros momentos amostrais s˜ao:
m1= 1 n
n
X
I=1
Xi =X e m2= 1 n
n
X
I=1
Xi2.
Deste modo, os estimadores dos momentos ser˜ao ˆ
µM=X
ˆ
σM2 =m2−m21=1 n
n
X
I=1
Xi2−X2= ˆσ2=SX2.
M´ etodo da m´ axima verossimilhan¸ca
O princ´ıpio da verossimilhan¸ca afirma que devemos escolher aquele valor do parˆametro desconhecido que maximiza a probabilidade de obter a amostra particular observada, ou seja, o valor que torna aquela amostra amais prov´avel.
Seja (X1, . . . ,Xn) uma amostra aleat´oria de uma v.a. X com fun¸c˜ao densidade fθ. Defini¸c˜ao: Afun¸c˜ao de verossimilhan¸ca´e definida por
L(θ) =fθ(x1)×. . .×fθ(xn) =
n
Y
i=1
fθ(xi)
que deve ser encarada como uma fun¸c˜ao deθ. O estimador de MV deθ´e o valor θˆMV que maximizaL(θ).
MaximizarL(θ) ´e equivalente a maximizar`(θ) =log(L(θ)), a log-verossimilhan¸ca deθ.
No caso discreto, seja (X1, . . . ,Xn) uma amostra aleat´oria de uma v.a. X com fun¸c˜ao de probabilidadePθ(X =x). A fun¸c˜ao de verossimilhan¸ca ´e definida por
L(θ) =Pθ(X1=x1)×. . .×Pθ(Xn=xn) =
n
Y
i=1
Pθ(Xi =xi).
Tal como no caso cont´ınuo, o estimador de MV deθ´e o valor ˆθMV que maximiza L(θ).
Exemplo: Considere o modelo Bernoulli com probabilidade de sucesso p, e uma amostra aleat´oria de dimens˜aon. Determine o estimador de MV dep.
Resolu¸c˜ao: Neste caso, a fun¸c˜ao de verossimilhan¸ca ´e dada por, L(p) =
n
Y
i=1
pxi(1−p)1−xi =pPni=1xi(1−p)n−Pni=1xi. Denotando o logaritmo natural por log, temos
`(p) = log(L(p)) =
n
X
i=1
xi logp+ (n−
n
X
i=1
xi) log(1−p), ondePn
i=1xi denota o n´umero de sucessos.
Derivando em ordem ape igualando a zero, obtemos ˆpMV = Pn
i=1Xi
n =X.
Propriedades dos estimadores de m´axima verossimilhan¸ca Os estimadores de MV s˜ao assintoticamente centrados, i.e., limn→∞E(ˆθMV) =θ.
Os estimadores de MV s˜ao consistentes.
Em condi¸c˜oes gerais de regularidade, o estimador de MV deθtem
distribui¸c˜ao assintoticamente normal de valor m´edioθ e variˆancia nI1(θ), sendo I(θ) =−E∂2fθ(X)
∂2θ
.
A propriedade da invariˆancia ´e v´alida para qualquer estimador de MV, isto ´e, se ˆθMV ´e um estimador de MV deθe seβ =g(θ) ´e uma fun¸c˜ao bijetora de θ, ent˜ao o estimador de MV deβ ´e ˆβMV =g(ˆθMV).
M´ etodo dos m´ınimos quadrados
Defini¸c˜aoConsidere-se o seguinte modelo Y =g(X;θ) +ε,
ondeε∼N(0, σ2) eE(Y|x) =g(x;θ), para todo o valor dex. Defina-se a fun¸c˜ao S(θ) =
n
X
i=1
ε2i =
n
X
i=1
(Yi−g(Xi;θ))2, para uma amostra (X1,Y1), . . . ,(Xn,Yn) das vari´aveisX eY.
O valor deθque minimiza a fun¸c˜aoS(θ), ˆθMQ, ´e designado de estimador de m´ınimos quadrados (EMQ)deθ.
Exemplo: Considere o modeloY =θX+εe determine o EMQ deθ.
S(θ) =
n
X
i=1
(Yi−θXi)2
dS(θ) dθ =
n
X
i=1
(Yi−θXi) (−2Xi) = 0 Resolvendo a equa¸c˜ao em ordem aθ obtemos,
θˆMQ = Pn
i=1XiYi
Pn i=1Xi2
Obtidas as amostras: X: 1,2; 1,5; 1,7; 2,0; 2,6, eY : 3,9; 4,7; 5,6; 5,8; 7,0.
Determine uma estimativa de MQ deθ.
θˆMQ = 51,05
17,34 = 2,94
