MAE 5776 ANÁLISE MULTIVARIADA

MAE 5776

ANÁLISE MULTIVARIADA

Júlia M Pavan Soler [email protected]

1º Semestre/2019

MAE5776

 

p

n

Y

Y

  

Matriz de Dados: Estatísticas descritivas multivariadas

- Definidas no espaço das colunas (p-vetores n-dimensionais):

- Definidas no espaço das linhas (n-vetores p-dimensionais):

-Propriedades em espaços duais:

1 1

,

,

,

 p p p p p p

p

S R S

Y

  d

^, d

^, d

D



 

nSp p_  HY  HY  V V

Matriz Aleatória: Propriedades distribucionais

 





^{ }





n p ij n p n p n p np np n n p p np np n p

Y_  Y  ^ Y _ N _ ^_  _   _   _ vecY _ N  _  - Estimadores e Distribuições Amostrais: ^Y_ip1 ^{iid~ N}_p





^

^

- Regiões (elipsoides) de Confiança para :

 



 



R Y ^Y  d Y   Y Y ^S^ Y Y c c    ^

 

Regiões (elipsóides) de Concentração de Observações:

1/ 2 1

; _n 1 1_{n n} HY  U V H  I n^ 

 

Bn n_  HY HY   U U

 

~ 1;

p p p

nS _ W n 

   

 

^ _ ^ _

^{ }

| ^p; _u ; _{p n} ( ) n 1 p _{p n p}

R Y n Y S Y c c T F

n p

  ^  ^{ }    _   ^ _  ^

Inferência – Análise Multivariada

Por que realizar Testes de “vetores” de médias?

Testes Multivariados  Testes Univariados

 Há interesse na análise conjunta de múltiplas variáveis

 Realizar inferências mais “precisas” devido a incorporar a informação da covariância entre variáveis

 Realizar comparações entre os parâmetros associados às diferentes variáveis:

construir contrastes entre medias das variáveis

 Construir níveis de significância coletivos  Correções para múltiplos testes

 

1

01 1

0 1 1

0

: 0

~ ; , : 0 ...

: 0

p

iid

i p p

p p

H

Y H

H



 

   

 

   

 



Bonferroni, FDR

Testes de Hipóteses

 ^{| } 

; f y

Y

 Hipóteses:

O Problema de Decisão: Rejeitar ou Não-Rejeitar a Hipótese Nula?

1 0

1 0

0

0 :   H :  ;    

H

 Teste:

 Região Crítica:

 Erros

   

 

 





0

0

rejeitar 1

rejeitar não

; 0 1 , 0

: H

y H

Y





 

   ;  1  

  1

 y  y 

R

 Função Poder:

Tipo I: Rejeitar H₀ | H₀ V ; P(erro I) = : Nível de significância Tipo II: Não Rejeitar H₀ | H₀ F ; P(erro II) = 

       





( ) 1|

: 0,1 ; ( ) 1|

( ) 1| 1

P y P y

P y

 

  

    

  

   

         

Hipótese Simples: _i 1 Hipótese Composta: _i 1

Região de Aceitação:

^{R ( Y ) }  ^{y  }

^{; }   ^{y  0}  ^{ }

  ⁰

Poder do teste

Teste da Razão de Verossimilhanças

Definição: A estatística da Razão de Verossimilhanças para testar H₀ x H₁ , com L(|y) a função de verossimilhança, é:













p i

iid

n p n i Y i

Y Y Y Y f y   

 

   

1 0

1 0

0

0 :   H :  ;    

H

   

 

* 0

| sup

| sup

1 0

L L y

L

y

y  L 











 



 ou, equivalentemente, ^{ 2ln  2}



 



 









 ; ; , sup _ |

0 c

Y

c y y c c P y R

R

Teorema: Se e é uma sub-região de , então sob condições de regularidades satisfeitas para f, para cada ,

q



₁ ₀ ^r ₁

0

 

~

ln

2

n





 





  

^

^

c Y c

R  y   y  c c _ P y_ R  

Teste da Razão de Verossimilhanças Uma ^Única População

 





 

 ,..., ; ~ ;

1 _{n i} 1 ^iid _p 

p

n Y Y Y N

Y p H₀ :  ₀ ;  conhecido

( , | ) L   Y 

 

 

 

1

1 1

exp (2 )

2 2

n p n tr nS n Y Y

i i

np n

i

y  y   e ^{ }



 

  

     

  

  



     

 

 





 



2 ln

2  L  L  l l

 

Estatística da Razão de verossimilhanças:

    



1 0

1 0

*

0 lnL  ; (1/2)nln2  (1/2)ntr^ S (1/2)n Y  ^ Y  l

 

L

l₁^* ln ;  (1/2) ln 2  (1/2) ^1



 



2 ln n Y  ^{ } Y  nd ^{ } d ~ _p

      

Regra de Decisão:

  ^{ }











0 0 2

0 2

H Rejeitar Não

. .

H Rejeitar

, cc

Y

nd_M ^p 



Teste de Hipóteses para o Vetor  Uma Única População

Família Comprimento Perímetro Comprimento Perímetro

1 191 155 179 145

2 195 149 201 152

3 181 148 185 149

4 183 153 188 149

5 176 144 171 142

6 208 157 192 152

7 189 150 190 149

8 197 159 189 152

9 188 152 197 159

10 192 150 187 151

11 179 158 186 148

12 183 147 174 147

13 174 150 185 152

14 190 159 195 157

15 188 151 187 158

16 163 137 161 130

17 195 155 183 158

18 186 153 173 148

19 181 145 182 146

20 175 140 165 137

21 192 154 185 152

22 174 143 178 147

23 176 139 176 143

24 197 167 200 158

25 190 163 187 150

1° Filho 2° Filho

Morfometria cefálica para os dois primeiros filhos de 25 famílias (Everitt, 2007)

 





 

_{4 1},..., ₂₅ ; ~ ₄ ;

25 Y Y Y₄₁ N 

Y

iid i

 

 185,72 151,12 183,84 149,24 Y

Estatísticas Descritivas:























222 , 43

278 , 54 775 , 96

651 , 33 259 , 49 186 , 52

267 , 44 875 , 66 753 , 50 481 , 91 S

Teste de Hipóteses para o Vetor  Uma Única População

Família Comprimento Perímetro Comprimento Perímetro

1 191 155 179 145

2 195 149 201 152

3 181 148 185 149

4 183 153 188 149

5 176 144 171 142

6 208 157 192 152

7 189 150 190 149

8 197 159 189 152

9 188 152 197 159

10 192 150 187 151

11 179 158 186 148

12 183 147 174 147

13 174 150 185 152

14 190 159 195 157

15 188 151 187 158

16 163 137 161 130

17 195 155 183 158

18 186 153 173 148

19 181 145 182 146

20 175 140 165 137

21 192 154 185 152

22 174 143 178 147

23 176 139 176 143

24 197 167 200 158

25 190 163 187 150

1° Filho 2° Filho

Morfometria cefálica para os dois primeiros filhos de 25 famílias (Everitt, 2007)

 





 

_{4 1},..., ₂₅ ; ~ ₄ ;

25 Y Y Y₄₁ N 

Y

iid i

 













 





 



 





 



33 13

13 11

3 1 2

3 1

2; , ~ ;

1

2  







  N Y

Y Y

Y

iid i i i

n



 





 



 





100 0

0

; 100 182

: 182

0 

H

Distribuição marginal:

1159 , 0 31

, 4 ln

2    

  p valor

Hipóteses:

Estatística LR:





Conclusão: Não há evidência amostral para rejeitar H₀

 





 

 ,..., ; ~ ;

1 _{n i} 1 ^iid _p 

p

n Y Y Y N

Y p H₀ :  ₀ ;  desconhecido

 ^  ^{ } _ ^{   } _ ^





 2 ln  2 l

l

n ln 1 d

S

d

Estatística da Razão de verossimilhanças:

0 0

0 0 0

0

0 : ˆ , ˆ ;

SobH







 



 





  











 L n p S d S^ d p

l₀^* ln





Y

H : ˆ  , ˆ 

Sob ₁







)

; ( 0

1

0 S d ~ F _{p n p} p d

p n



 



Teste de Hipóteses para o Vetor  Uma Única População

Teste T² de Hotelling para uma População

Teste de Hipóteses para o Vetor  Uma Única População

Família Comprimento Perímetro Comprimento Perímetro

1 191 155 179 145

2 195 149 201 152

3 181 148 185 149

4 183 153 188 149

5 176 144 171 142

6 208 157 192 152

7 189 150 190 149

8 197 159 189 152

9 188 152 197 159

10 192 150 187 151

11 179 158 186 148

12 183 147 174 147

13 174 150 185 152

14 190 159 195 157

15 188 151 187 158

16 163 137 161 130

17 195 155 183 158

18 186 153 173 148

19 181 145 182 146

20 175 140 165 137

21 192 154 185 152

22 174 143 178 147

23 176 139 176 143

24 197 167 200 158

25 190 163 187 150

1° Filho 2° Filho

Morfometria cefálica para os dois primeiros filhos de 25 famílias (Everitt, 2007)

 





 

_{4 1},..., ₂₅ ; ~ ₄ ;

25 Y Y Y₄₁ N 

Y

iid i

 













 





 



 





 



33 13

13 11

3 1 2

3 1

2; , ~ ;

1

2  







  N Y

Y Y

Y

iid i i i

n

do desconheci

182 ; : 182

0  



 





 H

Distribuição marginal:

2971 ,

0 28

,

0 1

1

0    

 _

valor p

d S p d

p n

Hipóteses:

Estatística de Hotelling:





Conclusão: Não há evidência amostral para rejeitar H₀





 

p

n Y Y Y N

Y p



    

 ~ ; ;

; ,...,

1 1 

Teorema: H H Y . Então:

EMVS

EMVS  



 _{0 1}

0 ˆ , Sob

Sob

Teste de Hipóteses para o Vetor  Uma Única População

 Para  conhecido:

  









 



^S d d d Y H ^S n^ Y Y Y Y

H _{i i}

EMVS EMVS

1 1

0 0

0 0

0 ; ˆ ; Sob

Sob



 Para  desconhecido:

Estatística da Razão de Verossimilhanças:



 



ln

2   nY   Y  _p

 ^

 

( 1)

1 ~ _{p n} n p _{p n p}

n d S d T F

n p



 

 

 



1 2

0 0 ( ; 1) ( ; )

( 1)

u ~ p n p n p

n p

n d S d T F

n p



 

  



Inferência sobre um Vetor de Médias

Correspondência entre as Estatísticas de Teste dos casos Uni e Multivariado

       

) 1 ( 2 1

2 2

2    n Y  s ^ Y  ~ t _n  F _n

n s

t Y

  

  

 ^ _ ^ _

1

2 1

~ _{p n p}

u

u F

p n

p μ n

Y μ S

Y n d S nd

T ^{ } _



 

 

 



 ^  _{  }





2 2 0

0

0 :      t _n  F _n

n s t Y

H



 

 ^ _ ^ _

  

2 0

0

: 1 F_{p n p}

p n

p μ n

Y μ S

Y n μ T

H μ ^ _



 

 









Pode ser calculada para cada variável

Teste conjunto para as p variáveis

 





 

 ,..., ; ~ ;

1 _{n i} 1 ^iid _p 

p

n Y Y Y N

Y p

conhecido

;

: ₀

0 des

H    

Estatística Lambda de Wilks:





2



 



 n d S d T _{p n}

T d₀ S ¹d₀ ~ F_{(p;n p)} p

p n



 



Teste de Hipóteses para o Vetor  Uma Única População

 



 

 



ˆ ˆ 1

;

~ ₍²_{; 1)} ^{2 0 2/}

0 1 0

2       





 

  ^ _ n n n n

T T

d S nd

T _{u p n} ⁿ

  

  

2 /

0 2

/

1

0 0

0 1 /

2

ˆ ˆ ˆ ;

ˆ ⁿ

n

n

i

i i

n

i

i i

n

Y Y

Y Y Y Y



















 

















 



 





 

 















Estatística Lambda de Wilks

Estatística de Hotelling e Estatística Lambda de Wilks

2 1

0 /

2

) 1 1 (

ˆ

ˆ ^



 





 





 n

n T

Σ Σ

H₀ é rejeitada para valores “pequenos” da estatística Lambda de Wilks e valores “grandes” da estatística de Hotelling

 





ˆ 1 ˆ ₀

2   

 n

n

T Σ

Σ

Teste de Hipóteses para o Vetor  Uma Única População

 





 

 ,..., ; ~ ;

1 _{n i} 1 ^iid _p 

p

n Y Y Y N

Y p H₀ :  ₀ ;  desconhecido

Regra de Decisão: Rejeitar H₀

 









 _

2 2

) 1 , ( 2



 c

T T _{p n}

 





 

 ,..., ; ~ ;

1 _{n i} 1 ^iid _p 

p

n Y Y Y N

Y p H₀ :  ₀ ;  desconhecido

Teste de Hipóteses para a Matriz  Uma Única População

 

 ^{ln 1} 

ln 2

ln

2























g a

np

np S

n S tr

n l

 l

Estatística da Razão de verossimilhanças:

0 0

0 : ˆ , ˆ

Sob H











*

0  ln ;  (1/ 2) ln 2   ^





S Y

H : ˆ  , ˆ 

Sob ₁



 



^



a: média aritmética dos autovalores de g: média geométrica dos autovalores de

1S

0

 1S

0



2

2 / ) 1 (

0,

~ ln

2



 



Na Regra de Decisão:

Distribuição desta variável não é simples  uso da teoria assintótica

Teste de Hipóteses para a Matriz  Uma Única População

Família Comprimento Perímetro Comprimento Perímetro

1 191 155 179 145

2 195 149 201 152

3 181 148 185 149

4 183 153 188 149

5 176 144 171 142

6 208 157 192 152

7 189 150 190 149

8 197 159 189 152

9 188 152 197 159

10 192 150 187 151

11 179 158 186 148

12 183 147 174 147

13 174 150 185 152

14 190 159 195 157

15 188 151 187 158

16 163 137 161 130

17 195 155 183 158

18 186 153 173 148

19 181 145 182 146

20 175 140 165 137

21 192 154 185 152

22 174 143 178 147

23 176 139 176 143

24 197 167 200 158

25 190 163 187 150

1° Filho 2° Filho

Morfometria cefálica para os dois primeiros filhos de 25 famílias (Everitt, 2007)

 













 





 



 





 



33 13

13 11

3 1 2

3 1

2; , ~ ;

1

2  







  N Y

Y Y

Y

iid i i i

n

do desconheci 100 ;

0

0 : 100

0 _ 



 





 H

Distribuição marginal:

0.0005071 70

, 17 ln

2    

  p valor

Hipótese:

Conclusão: Rejeitar H₀

do desconheci 100 ;

50

50 : 100

0 _ 



 





 H

0.2713 91

, 3 ln

2    

  p valor

Hipótese:

Conclusão: Não há evidência para Rejeitar H₀









p

n Y Y Y N I

Y ,..., ; p ~ ;

1 ^ _1 

 

Teste da União Intersecção

A hipótese multivariada é verdadeira para todos os vetores l ^p





N Y

l l

iid i p

p  

 

 ; _ ~ ₁ ;

1 



 ₀

0 : 

H ^X_il ^lY_i ^{iid~ N}₁









l lH H₀   ₀

Teste de ~

 

/ ¹

0

0 N

n l l

l z X

H _{l l}



 



  ^; Rcl 









c l cl

R   R A hipótese multivariada é rejeitada para pelo menos um vetor l ^p tal que z_l  R_cl

2 2

Não Rejeita H0 max_l z_l z_c ( / 2)

  

   

 



0 2 0

max max

;      _



 

 

 nY Y

l l

l Y

Y l z_{l l} n

l

) 2 /

2( zc

 Desigualdade de Cauchy-Schuarz

Teste da União Intersecção

Importância prática: Quando a hipótese multivariada é rejeitada há interesse em qual componente das possíveis combinações lineares foi responsável pela rejeição.

O Teste da Razão de Verossimilhança não tem esta propriedade, exceto quando ambos os testes RL e UI conduzem ao mesmo critério de teste.

 





 _

 ,..., ; ~ ;

1 _{n i} 1 ^iid _p 

p

n Y Y Y N

Y p H₀ :  ₀ ;  desconhecido



     



max_l t_l²  n Y 





p p n



 







N X

l Y

X _{x x}

iid i

n_1  ; ~ ₁   ; ²  

    

Sl l

l Y

Y n l

t n

s t X

H _l

X

X l

l

l 

 

 



 

  ^{2 0 0}

0 2 ; 1

) 1 /(

;   

;

~ ₍²_{; 1)}

0 1

0  

n p

u d T

S nd

Inferência sobre Componentes do Vetor 

Comparações Simultâneas de Componentes do Vetor de Médias 

n i

Y l Y

l Y l Y l

Z_i   _i  _{1 i1}  _{2 i2} ... _{p ip} 1,2,...,

 



 μ_p1 ₁,₂,...,_p Considere combinações lineares das p variáveis:





N Y

l Z

iid i

i   ~ ₁  

Y l

Z   s_Z²  l S_ul

 









 

 

 

 _

n l S t l

Y l l

IC  a100(1 )%  _{n 1}( /2) ^u

 









  



 _{ }

n t s

n t s

l 0,0,...,1,...,0,0 ˆ_{k n 1}( /2) ^kk ;ˆ_{k n 1}( /2) ^kk

posição k

Intervalos de confiança a 100(1-)%

para cada média  qual o nível de confiança global ?

limitação

 





 

 ,..., ; ~ ;

1 _{n i} 1 ^iid _p 

p

n Y Y Y N

Y p

 

n l S l

Y t l

u

l  /

 

 

) 1

~ (

/ ^

 

 _n

Z

l t

n s

l

t Z 