MLG. 23 de outubro de Curso de Modelos Lineares Generalizado - DEST/UFMG Marcos Oliveira Prates. Marcos Oliveira Prates

MLG

Curso de Modelos Lineares Generalizado - DEST/UFMG Marcos Oliveira Prates

23 de outubro de 2017

T ´ecnicas para Diagn ´osticos em GLM

Assim como para modelos lineares t ´ecnicas de diagn ´osticos foram desenvolvidas para GLM.

Um passo inicial ´e extender as analises feitas para modelos lineares e achar uma medida equivalente na classe de GLM.

Dessa forma, seria interessante que essas extens ˜oes equivalentes tamb ´em preservem a interpretac¸ ˜ao anterior.

Pontos de alavanca

A matrizHpara modelos lineares ´e obtida por H

=

X

(

X⁰X

)

⁻¹X⁰,

e vimos que oshiipodem ser utilizados para detectar pontos de alavanca.

Por ´em pode se verificar quehii ´e dado por

∂ˆy_i

∂yi

Assim, Wei, Hu e Fung (1998) propuseram uma forma geral para obter a matriz

∂ˆy y⁰

Especificamente para GLM pode se mostrar que GL

ˆ =

∂ˆy

∂y⁰

=

D_β

(− ¨

_lββ

)

⁻¹

¨

_lβy|_ˆ

β

ondeD_β

=

^∂µ_∂β,

¨

_l

ββ

=

^∂_∂ββ^2l(β)0 e

¨

_l

βy

=

^∂_∂β^2l(β)_y0 . Em modelos GLM temos queD_β

=

^∂µ_∂β

=

NXe

¨

_l

βy

=

^∂_∂β^2l(β)_y0

=

φ⁻¹X⁰W⁻¹N, onde N

=

diag

(

dµ₁/dη1, . . . ,dµ_n/dηn

)

. Substituindo

¨

_l

ββ

=

−φ⁻¹

(

X⁰WX

)

, seu valor esperado. Obtemos:

GL

ˆ = ˆ

NX

(

X⁰WX

)

⁻¹X⁰W⁻¹_N

ˆ

Selecionando a diagonal_GL

ˆ

_ii temos uma alternativa para representar pontos de alavanca no caso GLM.

Note que

GL

ˆ

_ii

= ˆ

ω_ix⁰_i

(

X⁰WX

)

⁻¹x_i, ondeωi

=

^(dµi/_W^dηi)2

i .

GL

ˆ

iiapesar de an ´aloga a definic¸ ˜ao de obtida no casos de modelos lineares essa estimativa n ˜ao ´e ´unica.

Pontos de alavanca tamb ´em podem ser obtidos fazendo uma analogia entre o estimador de de m ´axima verosimilhanc¸a para

ˆ

β no MLG e a soluc¸ ˜ao de m´ınimos quadrados para modelos lineares ponderados.

Vimos que a estimativa para o

ˆ

βpara modelos GLM pode ser pensada como a soluc¸ ˜ao de um modelo linear ponderado com a seguinte forma:

β

ˆ

^(t+1)

= (

X⁰W^(t)X

)

⁻¹X⁰W^(t)z^(t),

onde

ˆ

z

=

Xβ^(t)

+

W⁻¹

(

Y−µ^(t)

)

Logo, ap ´os converg ˆenciaβ

ˆ

pode ser interpretado como a soluc¸ ˜ao de m´ınimos quadrados de_W

ˆ ˆ

z contra as colunas de_W

ˆ

^1/2_X.

No caso da soluc¸ ˜ao de modelos lineares com m´ınimos quadrados a matriz de projec¸ ˜ao ´e dada por:

H

ˆ = ˆ

W^1/2X

(

X⁰_W

ˆ

_X

)

⁻¹XW^1/2.

Assim, sugere a utilizac¸ ˜ao do

ˆ

_hii como a medida de ponto de alavanca (Pregbon, (1981)).

Para ligac¸ ˜oes can ˆonicas temos que_GL

ˆ

_ii

= ˆ

hii.

Com ligac¸ ˜oes n ˜ao can ˆonicas pode se mostrar que_GL

ˆ

_ii

= ˆ

hiipara um tamanho de amostra grande.

Como

ˆ

_{hiidepende de}

ˆ

µ_i sugere para detectar pontos de alavanca fazer o gr ´afico

ˆ

_hii×

ˆ

µi.

Res´ıduos para GLM

Uma definic¸ ˜ao an ´aloga aos res´ıduos studentizados para modelos lineares pode ser feitas para modelos GLM.

Todavia isso n ˜ao garante que as propriedades continuem valendo.

Assim pode se pensar em res´ıduos que preservem as propriedades desejadas.

Uma primeira proposta seria considerar os res´ıduos ordin ´arios da soluc¸ ˜ao de m´ınimos quadrados da regress ˜ao de

ˆ

zemX, definido porr^?

= ˆ

W^−1/2

(

y−

ˆ

µ)

Se assumirmos que a vari ˆancia dez

ˆ

≈W⁻¹φ, ent ˜ao Var

(

r^?

)

≈φ(I−_H

ˆ )

.

Logo, podemos pensar o res´ıduo padronizado como

tSi

= (

yi−

ˆ

µ_i

)

q

φ_W

ˆ

_i

(

1−

ˆ

_hii

)

Como na pr ´atica

ˆ

µn ˜ao ´e conhecido e nem

ˆ

z ´e normalmente distribu´ıdo, as propriedades deti n ˜ao s ˜ao verificadas paratSi. Williams (1984) mostra atrav ´es de simulac¸ ˜ao que na pr ´atica a distribuic¸ ˜ao det_Si s ˜ao assim ´etricas.

O res´ıduo mais utilizado em GLM ´e o seguinte:

tDi

=

pD^∗

(

yi

; ˆ

µ_i

)

p

1−

ˆ

_hii

=

pD

(

yi

; ˆ

µ_i

)

q

φ(1−

ˆ

_hii

)

.

Williams (1984) verificou atrav ´es de simulac¸ ˜oes que a distribuic¸ ˜ao detDi ´e mais pr ´oxima da normalidade.

Identificando Observac¸ ˜oes Influentes

Observac¸ ˜ao Influente

Como para modelos lineares, ap ´os identificar observac¸ ˜oes que s ˜ao outliers com respeito aos valores deYe/ou valores deX, o pr ´oximo passo ´e determinar se essas observac¸ ˜oes s ˜ao ou n ˜ao pontos influentes.

Continuamos a considerar uma observac¸ ˜ao influente se a exclus ˜ao dessa observac¸ ˜ao causa uma grande mudanc¸a no ajuste da func¸ ˜ao regress ˜ao.

Cook’s Distance para GLM

Supondoφconhecido vamos definir a influ ˆenciaLDi como LDi

=

2

(

l

(ˆ

β)−l

(ˆ

β_(i)

))

onde

ˆ

β_(i)denota o valor estimado paraβ

ˆ

sem ai- ´esima observac¸ ˜ao nos dados.

O calculo deLDi n ˜ao possui forma anal´ıtica. Assim, utiliza-se uma expans ˜ao de Taylor de segunda ordem emLD_ipara se obter

LD_i≈φ⁻¹

(ˆ

β−

ˆ

β_(i)

)

⁰

(

X⁰WX

)(ˆ

β−

ˆ

β_(i)

)

ondeφ⁻¹X⁰WX ´e o valor esperado de−

¨

_l

(ˆ

β)_ββ.

De forma geral n ˜ao ´e poss´ıvel encontrar de forma fechada

ˆ

β_(i). Portanto, a aproximac¸ ˜ao (Pregbon, (1981)) ´e utilizada:

β

ˆ

¹_(i)

= ˆ

β

+ [− ¨

_l

(ˆ

β)_ββ

]

⁻¹l_(i)

(ˆ

β)

ondel_(i)

(ˆ

β) ´e a func¸ ˜ao de log-verosimilhanc¸a sem ai- ´esima observac¸ ˜ao.

Substituindo,

¨

_l

(ˆ

β)_ββel_(i)

(ˆ

β)por seus valores esperados temos que

ˆ

β¹_(i)

= ˆ

β

+ ˆ

rPi

√ω

ˆ

i

φ^1/2

(

1−

ˆ

_hii

) (

X⁰_W

ˆ

_X

)

⁻¹xi

Ao determinarβ

ˆ

¹_(i)podemos substituir na aproximac¸ ˜ao de segunda ordem e obtemos

LDi ≈

ˆ

_hii

1−

ˆ

_hii

t_S²_i

A validade dessa aproximac¸ ˜ao ainda esta sendo investigada por pesquisadores. At ´e o momento acredita-se que a mesma subestima o verdadeiro valor deLDi, por ´em ´e suficiente para chamar a atenc¸ ˜ao de pontos influentes.

Diagn ´osticos de Influ ˆencia Local

Diagn ´osticos de influ ˆencia local tamb ´em podem ser feitos para GLM. Por ´em, seus c ´alculos n ˜ao s ˜ao tao simples.

Influ ˆencia local tem sido estudada por diversos pesquisadores. A ideia consiste basicamente em perturbar o vetor de covari ´aveis e verificar como essa perturbac¸ ˜ao influencia as estimativas.

Para isso, Cook (1986) utilizou o conceito de curvatura normal Ca

(θ) =

2|a⁰

∆

⁰

(¨

lˆθˆθ

)

⁻¹

∆

a|

ondea ´e uma direc¸ ˜ao unit ´aria que se deseja analisar a influ ˆencia.

Uma sugest ˜ao ´e utilizarCamax, ou seja, a direc¸ ˜aoade maior curvatura. Isso implica, que observac¸ ˜oes sob pequena perturbac¸ ˜ao exerce influ ˆencia desproporcional emLD

Para GLM se consideramos a func¸ ˜ao de perturbac¸ ˜ao da forma

l

(β|δ) =

n

∑

i=1

δili

(β),

com 0≤δi ≤1, pode se mostrar que

∆ =

φ^−1/2X⁰_W

ˆ

^1/2_D

(ˆ

r_P

)

ondeD

(ˆ

rP

) =

diag

(ˆ

rP1, . . . ,ˆrPn

)

erPi

=

√φ(√yi−ˆµi) Wˆi

. Substituindo

¨

_l⁻¹

ˆθˆθ por seu valor esperado obtemos

Se escolhemosapara ser na direc¸ ˜ao dai- ´esima observac¸ ˜aoX_i temos que

Ci

=

2

ˆ

_hii

ˆ

rPi

Uma sugest ˜ao para detectar observac¸ ˜oes influentes ´e verificar seCi>_C

¯

±2sd

(

C

)

Em particular, o vetoramax, ou seja, a direc¸ ˜ao de maior influ ˆencia

´e dado pelo autovetor correspondente ao maior autovalor da matriz

B

=

D

(ˆ

rP

) ˆ

HD

(ˆ

rP

)

O gr ´afico deamaxcontra a ordem das observac¸ ˜oes pode ser usado para detectar observac¸ ˜oes influentes.

Se desejamos detectar observac¸ ˜oes influentes na estimativa de um coeficiente em particular, associado a vari ´avelX_i, podemos reescrever o vetoramaxcomo

a⁰_max

=

ν1

ˆ

rP1

pCamax

, . . . νn

ˆ

rPn

pCamax

!

ondeν1, . . . ,νnsao obtidos da regressao linear deX_i nas colunas deX_−i com pesos_W

ˆ

_{, ou seja,}

ν

= ˆ

W^1/2Xi−W^1/2X−i

(

X⁰_−iW

ˆ

_X−i

)

⁻¹X⁰_−iW

ˆ

_Xi.

O gr ´afico do novoamaxcontra a ordem das observac¸ ˜oes pode ser usado para detectar observac¸ ˜oes influentes.