Análise de variância para experimentos com dependência espacial entre parcelas: abordagem autoregressiva e Geoestatística

(1)

An´

alise de variˆ

ancia para experimentos com

dependˆ

encia espacial entre parcelas: abordagem

autoregressiva e Geoestat´ıstica

Diogo Francisco Rossoni (DES/UEM) Cristina Henriques Nogueira (DEX/UFLA)

Renato Ribeiro de Lima (DEX/UFLA)

(2)

Abordagem autoregressiva Abordagem Geoestat´ıstica

Introduc¸˜

ao

Princ´ıpios básicos: repetição, aleatorização e controle local;

O processo de aleatorização é insuficiente para a garantia da independência dos erros;

É comum encontrar experimentos em que a realização da aleatorização é inviável;

Implementação e execução da análise de variância com erros espacialmente correlacionados;

A Geoestat´ıstica utilizada para modelar a matriz de covariˆancias dos erros;

(3)

Introduc¸˜

ao

Princ´ıpios básicos: repetição, aleatorização e controle local;

O processo de aleatorização é insuficiente para a garantia da independência dos erros;

É comum encontrar experimentos em que a realização da aleatorização é inviável;

Implementação e execução da análise de variância com erros espacialmente correlacionados;

A Geoestat´ıstica utilizada para modelar a matriz de covariˆancias dos erros;

(4)

Geoestat´ıstica

A suposição de que as observações são independentes não é feita na Geoestat´ıstica;

Medidas como a autocovariância, autocorrelação e semivariância são utilizadas para modelar a associação espacial entre as variáveis; A semivariância é uma medida de dissimilaridade, ou seja, é maior à medida que as variáveis estão menos associadas.

(5)

Pressuposic¸˜

oes

Uma vari´avel Y (x) pode ser considerada estacion´aria de 2ª ordem se:

(i) A esperança de Y (x) existe e não depende da posição x:

E [Y (x )] = ω = constante;

(ii) A função de covariância C(·) existe e depende apenas da distância h entre os pontos:

C (Y (x + h), Y (x )) = E [Y (x + h) · Y (x )] − ω2= C (h).

A variância Var(·) é um caso particular da covariância quando h = 0:

(6)

Pressuposic¸˜

oes

Uma vari´avel Y (x) pode ser considerada estacion´aria de 2ª ordem se:

(i) A esperança de Y (x) existe e não depende da posição x:

E [Y (x )] = ω = constante;

(ii) A função de covariância C(·) existe e depende apenas da distância h entre os pontos:

C (Y (x + h), Y (x )) = E [Y (x + h) · Y (x )] − ω2= C (h).

A variância Var(·) é um caso particular da covariância quando h = 0:

(7)

Relac¸˜

oes entre as func¸˜

oes

Se a hip´otese de estacionariedade de 2ª ordem for atendida:

A relação entre a covariância C(h) e a semivariância γ(h) é definida como:

C (h) = C (0) − γ(h);

A função de correlação ρ(·) é dada por:

ρ(h) = C (h) C (0) = C (0) − γ(h) C (0) =1 − γ(h) C (0).

(8)

Relac¸˜

oes entre as func¸˜

oes

Se a hip´otese de estacionariedade de 2ª ordem for atendida:

A relação entre a covariância C(h) e a semivariância γ(h) é definida como:

C (h) = C (0) − γ(h);

A função de correlação ρ(·) é dada por:

ρ(h) = C (h) C (0) = C (0) − γ(h) C (0) =1 − γ(h) C (0).

(9)

Semivariˆ

ancia

Conforme afirma Cressie (1993), o estimador clássico de semivariância, proposto por Matheron, é definido como:

ˆ γ(h) = 1 2 n(h) n(h) X i =1 [ y (xi) − y (xi+ h) ]2, em que: ˆ

γ(h)´e o estimador de semivariˆancia;

n(h)representa o n´umero de pares de valores medidos separados por

uma distˆancia h;

y (xi) e y(xi + h) são realizações da variável aleatória Y, nas

coordenadas xie xi+ h, de tal modo que esses pontos est˜ao separados

(10)

Exemplo de semivariograma

(11)

Modelo esf´

erico

Função de semivariância: γ(h) =      0 , se h = 0; τ2_{+ ϕ}2 3 2 _h φ −1 2 _h φ 3 , se 0 < h < φ; τ2_{+ ϕ}2 _{, se} _{h ≥ φ;} Função de correlação: ρ(h) =      1 , se h = 0; ϕ2 τ2_{+ ϕ}2 1 − 1, 5 _h φ + 0, 5 _h φ 3 , se 0 < h < φ; 0 , se h ≥ φ.

(12)

Modelo exponencial

Função de semivariância: γ(h) = ( 0 , se h = 0; τ2_{+ ϕ}2h_{1 − exp}−3h φ i , se h 6= 0; Função de correlação: ρ(h) = ( ₁ _{, se} _{h = 0;} ϕ2 τ2_{+ ϕ}2 h exp _−3h φ i , se h 6= 0.

(13)

Modelo espacial

Segundo Diggle & Ribeiro Jr. (2007), uma variável aleatória Y, na posição espacial x, pode ser representada por:

Y (x ) = ω(x ) + S(x ) + ξ(x ),

em que:

ω(x )é uma tendência associada a um valor médio constante;

S(x ) é uma variável aleatória distribu´ıda com media zero, variância

ϕ2_{e C[ S(x}

i), S(xj) ]n˜ao necessariamente zero;

(14)

Distribuic¸˜

ao preditiva de S( · )

Condidere que Y ∼ N(ω, Σ), em que Σ = V(τ2_{+ ϕ}2₎

De maneira geral, dado um vetor S com média zero, a distribuição preditiva [ S | y ] tem esperança dada por

E [ S | y ] = ϕ2V0Σ−1(Y − ω)

⇓ Krigagem

(15)

Distribuic¸˜

ao preditiva de S( · )

Condidere que Y ∼ N(ω, Σ), em que Σ = V(τ2_{+ ϕ}2₎

De maneira geral, dado um vetor S com média zero, a distribuição preditiva [ S | y ] tem esperança dada por

E [ S | y ] = ϕ2V0Σ−1(Y − ω)

⇓ Krigagem

(16)

Delineamento inteiramente casualizado (DIC)

O modelo estat´ıstico de um delineamento inteiramente casualizado (DIC) ´e dado por:

yij = µ + αi+ eij,

em que:

yij é a observação do i-ésimo tratamento na j-ésima repetição, com

i =1, 2, . . . , t e j = 1, 2, . . . , r;

µé uma constante inerente a cada observação; αi é o efeito do i-ésimo tratamento;

(17)

Delineamento inteiramente casualizado (DIC)

Matricialmente, o modelo pode ser representado por:

Y = Xθ + ε,

em que:

Y é o vetor de observações de ordem n × 1;

Xé a matriz de incidência dos parâmetros do modelo de ordem

n × p;

θé o vetor de paramêtros do modelo de ordem p × 1; εé o vetor de erros aleatórios de ordem n × 1.

(18)

Delineamento inteiramente casualizado (DIC)

Assumindo que ε ∼ N(0, Iσ2₎_{, a análise de variância para um DIC é dada}

por:

Tabela 1: Esquema da an´alise de variˆancia de um DIC.

FV GL SQ Tratamento r(P − P1) Y0(P − P1)Y Res´ıduo r (I − P) Y0(I − P)Y Total r (I − P1) Y0(I − P1)Y em que: P = X(X0X)−X0 e P1= X1(X01X1)−1X01;

(19)

Estimac¸˜

ao dos parˆ

ametros

Assumindo que ε ∼ N(0, Σ), em que Σ = Vσ2_:

Função de verossimilhança: L(θ, Σ) = (2π)−n 2 | Σ |− 1 2 exp[−1 2(Y − Xθ) 0_Σ−1_{(Y − Xθ)]} Estimadores: θ0= (X0V−1X)−X0V−1Y ˆ σ2=(Y − Xθ 0₎0_V−1_{(Y − Xθ}0₎ n

(20)

O modelo linear

Considere Σ = Vσ2 _{e V}−1 _{= LL}0_{, em que V ´e sim´etrica positiva}

definida e L ´e n˜ao singular;

Pr´e-multiplicando o modelo Y = Xθ + ε por L0 _tem-se:

W = Zθ + η, em que η ∼ N(0 , Iσ2),

(21)

An´

alise de variˆ

ancia de um DIC

Modelo descorrelacionado: SQRes = η0η = W0W − W0Z(Z0Z)−Z0W ; SQT = W0W − W0Z01(Z01Z1)−1Z1W ; SQTrat = θ00Z0W − W0Z01(Z 0 1Z1)−1Z1W .

Modelo original com erros correlacionados:

SQRes = ε0V−1ε = Y0V−1Y − Y0V−1X(X0V−1X)−X0V−1Y ; SQT = Y0V−1Y − Y0V−1X01(X 0 1V −1 X1)−1X1V−1Y ; SQTrat = Y0V−1X(X0V−1X)−X0V−1Y −Y0V−1X01(X 0 1V −1 X1)−1X1V−1Y .

(22)

An´

alise de variˆ

ancia de um DIC

Tabela 2: ANOVA de um DIC, com Σ= Vσ2_{, via formas quadr´}_aticas.

FV GL SQ Tratamento r(X) − r(X1) Y0(P − P1)Y Res´ıduo n − r (X) Y0(V−1− P)Y Total n − r (X1) Y0(V−1− P1)Y P = V−1X(X0V−1X)−X0V−1 e P1= V−1X1(X01V −1_X 1)−1X01V −1_.

(23)

Aplicabilidade do teste F

SQRes σ2 = Y 0_{AY , em que A = Σ}−1_{− Σ}−1_X(X0_Σ−1_X)−_X0_Σ−1_; SQTrat σ2 = Y 0_{BY , em que} B = Σ−1X(X0Σ−1X)−X0Σ−1− Σ−1_X 1(X01Σ−1X1)−X01Σ−1.

Com isso, pode-se concluir que: (SQTrat/σ2_{)/(r (X) −}₁₎ (SQRes/σ2_{)/(n − r (X))} = QMTrat QMRes ∼ F(ν1, ν2; δ), com ν1= r (X) −1, ν2= n − r (X)e δ = 1 2σ2α 0_X0 2(V −1_{− P} 1)X2α.

(24)

Esperanc¸a dos quadrados m´

edios

Tabela 3: Esperanc¸a dos quadrados m´edios de um DIC com erros correlacionados.

FV E[QM] Tratamento σ2 + 1 r (X) −1α 0_X0 2(V −1 − P1)X2α Res´ıduo σ2

(25)

Modelagem geoestat´ıstica do erro

Obter o vetor de erros estimados ˆε = Y − Xθ0 c;

Diagnosticar a existência de dependência espacial; Ajustar um modelo teórico ao semivariograma; Encontrar a matriz estimada de covariância dos erros:

Σ =     

C [e(x1), e(x1)] C [e(x1), e(x2)] · · · C [e(x1), e(xn)]

C [e(x2), e(x1)] C [e(x2), e(x2)] · · · C [e(x2), e(xn)]

... ... ... ...

C [e(xn), e(x1)] C [e(xn), e(x2)] · · · C [e(xn), e(xn)]

     ;

(26)

Modelagem geoestat´ıstica do erro

Σ =      τ2_{+ ϕ}2 _{C ( h} 12) · · · C ( h1n ) C ( h12) τ2+ ϕ2 · · · C ( h2n ) ... ... ... ... C ( h1n) C ( h2n) · · · τ2+ ϕ2      ; Σ = Vσ2₌      1 ρ( h12) · · · ρ( h1n) ρ( h12) 1 · · · ρ( h2n) ... ... ... ... ρ( h1n ) ρ( h2n) · · · 1      σ2_; de modo que σ2_{= τ}2_{+ ϕ}2_{e h}

ij ´e a distˆancia entre os erros ei e ej,

(27)

Modelagem geoestat´ıstica do erro

Pontes (2002) sugeriu um algoritmo no qual eram realizadas iterações até que a média dos erros padrão dos valores preditos atingisse convergência;

Estimar os res´ıduos utilizando o modelo não espacial. → Ajustar o semivariograma dos res´ıduos e ajustar um modelo teórico. → Obter a matriz de convariância dos

erros Σ. → → Obter o vetor de parâmetros do modelo considerando Σ e estimar o vetor de erros. → Construir novamente o semivariograma e ajusta um modelo teórico. → Atualizar os valores da matriz de covariância dos erros Σ.

(28)

Simulac¸˜

ao de dados

Foram propostos experimentos instalados em DIC, com 15 tratamentos e 8 repetições, com as seguintes configurações:

(i) Efeitos de tratamento diferente de zero e presenc¸a de componente espacial;

(ii) Efeitos de tratamento iguais a zero e presenc¸a de componente espacial;

(iii) Efeitos de tratamento diferente de zero e ausˆencia de componente

(29)

Simulac¸˜

ao de dados

(30)

Experimento I

Detec¸c˜ao da variabilidade espacial:

Figura 3: Grid com os quartis dos

erros.

Figura 4: Semivariograma com envelope simulado.

(31)

Experimento I

Ajuste do semivariograma dos erros.

Método de quadrados m´ınimos ordinários; Modelo esférico; Estabilização após a 3ª iteração; Parâmetros estimados do semivariograma: ϕ2₌_{1, 1313,} τ2₌_{0, 6426,} φ =5, 8449.

Figura 5: Ajuste do modelo esf´erico ao semivariograma dos erros.

(32)

Experimento I

Tabela 4: An´alise de variˆancia considerando erros correlacionados.

FV GL SQ QM Fcalc Valor p

Tratamento 14 76,300 5,450 2,93 0,00086 Res´ıduo 105 195,118 1,858

Total 119 271,418

Tabela 5: An´alise de variˆancia considerando erros independentes.

(33)

Experimento II

Figura 6: Grid com os quartis dos

erros.

(34)

Experimento II

Método de quadrados m´ınimos ordinários; Modelo esférico; Estabilização após a 3ª iteração; Parâmetros estimados do semivariograma: ϕ2₌_{1, 1313,} τ2₌_{0, 6426,} φ =5, 8449.

Figura 8: Ajuste do modelo esf´erico ao semivariograma dos erros.

(35)

Tratamento 14 49,333 3,524 7,01 5,6e-10 Res´ıduo 105 52,815 0,503

Total 119 102,147

Tratamento 12 12,7743 1,0645 2,6286 0,0124 Blocos 3 14,7038 4,9013 12,1027 0,0000 Res´ıduo 36 14,5792 0,4050

Total 51 42,0573

Tratamento 12 7,1648 0,5971 1,8757 0,0721 Blocos 3 43,4491 14,4830 45,4996 0,0000 Res´ıduo 36 11,4592 0,3183

(44)

Exemplo de aplicac¸˜

ao

Teste Tukey ‘aproximado’.

Tabela 13:Comparação entre médias dos diferentes tratamentos de fertilização para a variável DAP.

Tratamento DAPmedio Grupo

10 6,0025 a 2 5,5575 ab 9 5,4550 ab 6 5,4325 ab 7 5,4075 ab 13 5,3750 ab 8 5,3525 ab 11 5,2600 ab 4 5,0575 ab 3 5,0350 ab 12 4,9450 ab 5 4,8500 ab 1 4,4325 b

(45)

Referˆ

encias Bibliogr´

aficas

BANZATTO, D. A.; KRONKA, S. N. Experimenta¸c˜ao agr´ıcola. 4. ed. Jaboticabal:

Funep, 2006. 237 p.

CRESSIE, N. Statistics for spatial data. 2. ed. New York: J. Wiley, 1993. 900 p. DIGGLE, P. J.; RIBEIRO J ´UNIOR, P. J. Model-based geostatistics. New York: Springer, 2007.

GRAYBILL, F. A. Theory and application of the linear model. Boston: Duxbury Press, 1976. 704 p.

GRONDONA, M. O.; CRESSIE, N. Using spatial considerations in the analysis of experiments. Technometrics, Alexandria, v. 33, n. 4, p. 381-392, Nov. 1991. NOGUEIRA, C. H.; OLIVEIRA, M. S; MELLO, J. M; RAIMUNDO, M. R;

SCOLFORO, H. F; REIS, A. A; GOMIDE, L. R. Spatial modeling in the analysis of a experimental planting candeia. Rev. Bras. Biom., S˜ao Paulo, v.33, n.1, p.14-29, 2015

(46)

Referˆ

encias Bibliogr´

aficas

NOGUEIRA, C. H. Análise de variância com dependência espacial sob uma abordagem geoestat´ıstica. 2013. 123 p. Dissertação (Mestrado em Estat´ıstica e Experimentação Agropecuária) - Universidade Federal de Lavras , Lavras, 2013.

PONTES, J. M.; OLIVEIRA, M. S. de. Geoestat´ıstica: aplica¸cões em experimentos de campo. 2002. 82 p. Dissertac¸ão (Mestrado em Agronomia - Estat´ıstica e Experimentação Agropecuária) − Universidade Federal de lavras, Lavras, 2002. RIBEIRO J ´UNIOR, P. J. Métodos geoestat´ısticos no estudo da variabilidade espacial de parâmetros do solo. 1995. 99 p. Dissertac¸ão (Mestrado) - Escola Superior de Agricultura “Luiz de Queiroz”, Piracicaba, 1995.

ROSSONI, D. F. Análise de variância para experimentos com dependência espacial.

2011. 108 p. Dissertação (Mestrado em Estat´ıstica e Experimentação Agropecuária) − Universidade Federal de Lavras, Lavras, 2011.