Modelo auto-regressivo para análise de experimentos com vacas em lactação

Texto

(1)MODELO AUTO-REGRESSIVO PARA ANALISE DE EXPERIMENTOS COM VACAS EM LACTAÇÃO. ADALBERTO JOSÉ CROCCI. Orientador:. Prof. Dr. CÁSSIO ROBERTO DE MELO GODOI. Tese apresentada à Escola Superior de Agricultura "Luiz de Queiroz" da Universidade de São Paulo, para obtenção do Título de Doutor em Agronomia. Area de Concentração: Estatística e Experimentação Agronômica.. PIRACICABA Estado de São Paulo - Brasil Janeiro, 1984.

(2) Aos meus pais ROSA e NELSON. DEDICO. À minha esposa ROSANE e. aos meus filhos MARIANA, SUZANE e RAFAEL. OFEREÇO.

(3) AGRADECIMENTOS. Ao Professor Dr. cissio Roberto de Melo Codoi,. pela. orienta. çio eficiente durante o curso e na realizaçio deste trabalho. À Faculdade de Ciências Agririas e Veterinirias, Campus de Ja boticabal - UNESP, pela oportunidade oferecida. Aos colegas do Departamento de Ciências Exatas. da. Faculdade. de Ciências Agririas e Veterinirias, Campus de Jaboticabal - UNESP,. pelo. incentivo e colaboração. Ao Professor Dr. Euclides Braga Malheiros,. pelo. auxílio. constante disponibilidade, quer na troca de idéias, quer na parte de. e com. putaçio. Ao Professor Dr. Dilermando Perecin, pelas valiosas sugest~es e revisão do texto. À CAPES, em nome da Coordenação de Capacitação de Docentes da da FCAVJ-UNESP, pelo auxílio financeiro prestado. Aos funcionirios da Unidade de Processamento FCAVJ-UNESP, pela constante. de Dados. da. colaboraçio~. À Maria de Lourdes Moretto, pela dedicaçio nos. trabalhos. de. A todos aqueles que de urna forma ou de outra contribuíram. p~. datilografia.. ra a realização deste trabalho..

(4) 1V. íNDICE página RESUMO. . . .. . . . . . . . . . . . . . •. . . . . . .. . . • . • . . . . . . . . . . • . . . . . . . . . . . . . . . . . .. v. SUMMARY. . . . . . . . . . . . . . . . . . . . . . . . . . • . . . . . • . . . . . . . • . . . . . . . . . . . . . . . . . ... V 11. 1. INTRODUÇÃO....................................................... 1. 1. 1. Apresentação do problema....... . . . . . . . • . . . . . . . . . . . . . . . . . . . .. 1. 1.2. Limitaç~es do trabalho.................... .....•............ 4. 2. REVISÃO DE LITERATURA............................................ 5. 2.1. Delineamentos alternativos ("change-over").. ................ 5. 2.1.1. Delineamentos de reversão (" switchback")............. 6. 2.1.2. Delineamentos rotativos ("rotational").... ........... 8. 2.2. Modelo auto-regressivo em ensaios de lactação ............... 11. 3. MATERIAL E MÉTODOS... . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ... 14. 4. RESULTADOS E DISCUSSÃO..... . . . . . . . . . . . . . . . . . . . . . . . . . • . . . . . . . . . ... 22. 4.1. Análise da variância no modelo auto-regressivo .............. 22. 4.1.1. O modelo linear geral ................................ 22. 4.1.2. Sistema de equaç~es normais .......................... 25. 4.1.3. Soma de quadrados de tratamentos ajustada ............ 34. 4.1.4. Soma de quadrados de períodos e média. ignorando. tr~. tamentos. . . .. . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . .. 40. 4.1.5. Soma de quadrados total .............................. 42. 4.1.6. Esperança matemática da soma de quadrados. de. trata. mentos ajustada...................................... 43. 4.1.7. Esperança matemática da soma de quadrados de perí~ . dos e média, ignorando tratamentos.................... 46. 4.1.8. Esperança matemática da soma de quadrados residual... 49. 4.2. Variância de estimativas de efeitos de tratamentos .......... 51. 4.3. Exemplo ilustrativo da análise da variância pelo modelo a~ to-regre s sivo. . . . . . . . . . . . . . • . . • . . . . . . . . . . . . . . . . . . . . . . . . . . ... 53. 4.4. Comparação da sensibilidade dos modelos e adequação do mod~ lo auto-regressivo.......................................... 57. 5. CONCLUSÕES....................................................... 61. 6. LITERATURA CITADA.............. . • • . . . . . . . • . • . . . • . . . . . . . . . . . . . . ... 63. 7. TABELAS.......................................................... 69.

(5) v. MODELO AUTO-REGRESSIVO PARA ANÁLISE DE EXPERHiENTOS COM VACAS EM LACTAÇÃO. Autor: ADALBERTO JOSÉ CROCCI. Orientador: Praf. Dr. CÁSSIO ROBERTO DE MELO GODOI. RESUMO. Os modelos usualS para análise de dados de produção de lei te, como o "switchback" introduzido por LUCAS (1956) ou o delineamento em quadrado latino para os ensaios rotativos, pertencem ã classe dos. chama. dos experimentos em "change-over", nos quais cada unidade experimental re cebe uma seqüência de vários tratamentos em períodos suceSSlVOS.. Tais mo. · dI e os apresentam urna estrutura d e erros do tlpO 02 I -a custa, em geral, de um número excessivo de parâmetros.. Neste trabalho é apresentado um modelo simplificado, minado modelo auto-regressivo, no qual os erros apresentam urna. deno. distribui. ção probabilística que incorpora a clara correlação existente entre dados de um mesmo animal, com um menor número de parâmetros. Após estabelecido o modelo matemático auto-regressivo cede-se. ã. pr~. estimação dos parâmetros pelo método dos mlnlmos quadrados gen~. ra1izados, descrito dentre outros por RAO (1965), e através de ensaios em branco com dados reais de produção de leite, amostrados de urna. considera. da população finita, simulam-se efeitos aditivos de tratamentos objetiva~.

(6) do comparar os modelos, no que se refere ~ sensibilidade do teste F. para. a detecção de tais efeitos. Para este estudo consideram-se três ensaios, escolhidos de forma a se ter uma desejável variação do número de graus de. liberdade. ra o resíduo, e coerenCla com os casos malS comuns encontrados em çoes práticas.. p~. aplic~. Cada ensaio ~ analisado segundo os vários modelos conside. rando-se a existência ou não de efeitos de tratamentos, bem como. diferen. tes valores do coeficiente de correlação linear entre períodos de observa ção, para o modelo auto-regressivo.. Os resultados deste trabalho mostram que: (a) Existe uma boa adequação do modelo auto-regressivo. as. condições experimentais e que tal adequação plora com o aumento da discre pância entre o coeficiente de correlação linear usado e o exato; (b) O modelo auto-regressivo proposto como competidor. do. "switchback" ou do rotativo, tem maior sensibilidade para indicar diferen ças entre efeitos de tratamentos, e tal sensibilidade. e- dependente. do. coeficiente de correlação linear entre períodos adotado; (c) A sensibilidade no modelo auto-regressivo ~. proporcl~. nal ao número de períodos adotado, indicando aSSlm que tal modelo deve ser preferível com número maXlmo de períodos possível..

(7) v~~. AUTOREGRESSIVE MODEL FOR DAIRY COWS EXPERIMENTS. Author: ADALBERTO JOSÉ CROCCI. Orienting: Prof. Dr. CÁSSIO ROBERTO DE MELO GODOr. SUMMARY. The usual models. for. dairy cows. data. analysis. like. switchback design introduced by LUCAS (1956) or the latin square design. the for ~n. rotational trials, belong to the so-called change-over class of design, which each experimental unit receaves a sequence of treatments ve periods. ~n. ~n success~. Such models present an error structure of 02r type. general, by an. excess~ve. implied,. number of additive parameters in the modelo. A simplified model is presented in this work, namely autoregressive model, in which the residual deviations present a. the. probabi. 1istic distribution that includes the obvius correlation among data. from. the same animal, with just a few number of additive parameters. After the mathematica1 model has been stablished,. param~. ter estimation was conducted by the generalized least squares method, cribed, for instance, by RAO (1965) and, through blank experimcnts real dairy data, sampled from a finite fixed population, the "FI!. de~. with statis. tics was studied with respect to its statistical properties, specially its sensibi1ity to additive treatment effects..

(8) V1.1.1.. For this purpose three designs were considered,. selected. 1.n a maner to cover a desirable variation of error degrees of freedom and best fitting with actual applied experiments. Each simulated experiment is analysed under several. mathe. matical models, considering or not the existence of treatment effects, as well as different values of linear correlation coefficients among periods, only for the autoregressive type. The main resul ts sh01;,:red that: (a) There exists a good fitting of the autoregressive model ln the worked experimental conditions and such a fitting is worse the difference of the real and the used linear correlation. \vhen. coefficient. turns bigger; (b) The proposed autoregressive model as. competitor. of. the switchback and of the rotational models, is more sensible in detecting treatment differences, and such sensibility lS. dependent of. the. linear. (c) The sensibility of the autoregressive model is. propo~. correlation coefficient adopted;. tional to the number of periods used, showing that such a model red when the maX1.mum possible number of periods is attained.. 1S. pref~.

(9) 1. INTRODUÇÃO. 1.1. Apresentação do problema. o. presente trabalho aborda experimentos com vacas em lacta. çao, nos quais tratamentos são aplicados a unidades experimentais. em. um. número de períodos sucessivos, sendo que cada unidade experimental recebe um tratamento diferente em cada período. Sabe-se que, quando as observações são tomadas. seqüencial. mente no tempo, como nos ensaios "switchback" ou rotativos, é prática mum considerar para a análise dos dados a hipótese de independência ~rros, o que facilita sobremaneira a. co dos. aplicação de testes estatísticos. En. tretanto, para que tal hipótese seja aceitável,. é necessarlO que o modelo. matemático inclua todos os parâmetros que possam de alguma forma afetar a estrutura de correlação das observações. Existem porém, outros métodos possíveis, certamente. menos. convenientes em termos de facilidade de construção e aplicação,. mas. vez mal_S sensíveis para a detecção, por exemplo, de efeitos. tratamen. tos.. de. tal.

(10) 2. Neste trabalho vamos admitir que os erros. de. observações. entre períodos s~o correlacionados na forma de um processo Markoviano tacionário de primeira ordem.. Assim se y. representa urna observação J. es no. j-ésimo período, ent~o:. y. J. onde. al. a' 8 + e. J. 8 e a sorna algébrica dos parâmetros explicativos de y., e J. e. = pe. 1+ t:. J JJ sendo p a correlação linear entre observações de dois períodos vos, com. Ipi. iid. < 1, e t:. r-v N(O,. 0. 2. e independentes dos e ... ). J. Desta forma para p. consecuti. J. períodos teremos. Vade. } J. J e j'. Cov{e., e.,} J J. de modo que a matriz de dispers~o dos erros. p-l. p. P. p. 1. P. P. doravante denominada. sera:. e'. 1 Vad e}. p-l. P. p-2. 1, 2, ... , p. p-2. (1). 1. estrutura estocástica auto-regressiva.. Segundo GODOI (1983), para ensalOS com vacas em lactaç~o, admitida a estrutura de correlação (1), as observaç'ões podclll ser. de sc ri.

(11) 3. tas pelo modelo:. 11 + p, + t. Y'1.J'k ". J. 1.J. onde. k' ,. (2). + e, 'k. 1.J' . 1J. 1.J. Y" e a observação no i-ésimo animal que no J-eS1mo período 1.J k .. 1J cebeu o tratamento k, com: 1. 1, 2,. J. 1, 2,. k. 1, 2,. · ... , · .. , · .. ,. re. a (animais) p (períodos) K (tratamentos) com k .. 1= k. 0t para J 1= J·t ' 1J 1.J. Portanto, para um total de a,p observações teremos:. Y apk. ap. ]. cuja matriz de var1anC1.aS e covariâncias sera: Var { Y } 02 e. onde. V0 2 e. = (I ~ A). a. 02 e. (3). 02 1- p2. (Ia 0 A) é o produto de Kronecker entre Ia e A dado por. e. A (I. a. @. A). A. A. ap com. ~. a matriz nula de ordem (p x p) e. ap.

(12) 4. A =. 1. p. P. p. I. P. p-2 P. I. p-l. P. p-l p-2. p. p. Uma vez adotado o modelo matemático (2) com. estrutura. correlações (3), estaremos interessados na sensibilidade do modelo detecção de diferenças entre efeitos de tratamentos.. para. Para tanto, tal. delo será comparado com dois outros usuais na análise de dados. de. de. mo. produ. ção de leite, ou seja, o de delineamento rotativo (quadrados latinos) e o de delineamento de reversão (lts\vitchback").. 1.2. Limitações do trabalho Será considerado neste trabalho, somente a estimação efeitos de tratamentos , sem levar em consideração os possíveis. dos. efeitos. residuais de um tratamento, aplicado em um dado período, sobre os Na prática é comum, neste caso, desprezarem-se as. pr~. duções iniciais de cada período (uma ou duas'semanas), baseando-se a. ana. dos subseqüentes.. -. lise nas produções restantes.. Por outro lado, os dados da Tabela 1, que serão. considera. dos na comparação das sensibilidades dos vários modelos citados,. podem. ser considerados como uma população finita, da qual serão amostrados mais e períodos que comporão os vários ensalOS.. Desta forma podemos afir. mar que o coeficiente de correlação linear (p) entre períodos,. calculado. com tais dados, é o populacional ou exato, o qual será utilizado na dologia do trabalho.. anl. meto. Portanto, não será abordado o probleIlk1. da estimação. deste coeficiente no ensaio, nem sua influência na sensibilidade dos. testes..

(13) 5. 2.. REVISÃO DE LITERATURA. 2.1. Delineamentos alternativos (" c hange-over") Na experimentação com animais, particularmente em lactação, sao de grande utilidade os ensa~os alternativos over" , nos quais cada animal recebe durante o experimento. uma. com ou. vacas "change. sequencia. de dois ou mais tratamentos, de forma que cada animal caracteriza um co.. blo. Esses ensa~os são em geral classificados em duas categorias, segundo. LUCAS (1960): a) Ensaios de reversão (" switchback") b) Ensaios rotativos ("rotational")., os quais se distinguem pela natureza das. sequenc~as. de tratamentos.. Nos. rotativos os tratamentos aplicados em uma dada seqüência são todos distin. - um dado tratamento aparece tos, enquanto que nos ensalOS de reversao. em. uma sequencia mais de uma vez em períodos não consecutivos. Esses delineamentos, segundo PATTERSON e LUCAS (1962), sao úteis no sentido de permitirem comparações de efeitos de tratamentos alta precisão, devido. ã eliminação das diferenças. com. e~tre seqüências ou ani.

(14) 6. mais do erro experimental, bem corno pela economla de anlmalS para a comp~. - de um mesmo numero de tratamentos. raçao Os esquemas de ensaio que se seguem ilustram. a. entre os rotativos e os de reversão, no caso particular de K. diferença 3 tratamen. tos. a) Ensaio de Reversão. b) Ensaio Rotativo. Vacas ou sequencias. Vacas ou sequencias Períodos. Períodos 1. 2. 3. I. (1). (2). (3). II. (2). (3). III. (1). (2). 1. 2. 3. I. (1). (2). (3). (1). 11. (2). (3). (1). (3). III. (3). (1). (2). onde os numeros entre parênteses codificam os tratamentos.. 2.1.1. Delineamentos de reversao (" switchback") BRANDT (1938) é o primeiro a abordar os ensalOS. de. rever. são, considerando o caso de somente dois tratamentos com extensao. para. três e quatro períodos, apresentando a análise estatística, a qual é bém descrita em SNEDECOR (1946).. No artigo, Brandt acrescenta a. tam. análise. de covariância ajustando as produções de leite para um mesmo teor de. go~. dura, visando aumentar a sensibilidade do teste F. Outros autores corno TAY~OR e ARMSTRONG (1953). estendem es. tes ensalOS para mais de dois tratamentos, indicando o método da. análise. da variância e introduzindo o conceito de delineamento completo e do, porém versao.. é de LUCAS (1956) a maior contribuição sobre os ensalOS. Neste trabalho o autor aborda a extensão dos delineamentos. reduzi de. re para.

(15) 7. ma1.s de dois tratamentos, apresentando os esquemas para 3, 4, 5, 6, 7 e 9 tratamentos, cuja construção é baseada nos princípios dos blocos tos balanceados, abordando com detalhes a análise estatística. incompl~. nos. comuns e com formação de blocos, além de indicar fórmulas para o. casos cálculo. de parcelas perdidas. Segundo Lucas, a comparaçao de K tratamentos eX1.ge K(K-l) seqüências ou animais (delineamento completo) subdivididas em até K-l blo cos, enquanto que se K for ímpar e ffialor ou igual a 5, podem ser esquemas com. usados. 1. K(K - 1) seqüências de tratamentos (delineamento reduzido) 2 1 subdivididas em até (K - 1) blocos de K seqüências cada, 2 Por outro lado, visando minimizar o erro experimental,. to. das as vacas devem estar com a produção entre o pico da lactação e a meta de da gestação seguinte, justificando assim a formação dos citados blocos no caso do número de animais disponíveis ser limitado. GOnOI (1972) e GOnOI e NOGUEIRA (1972) apresentam a. análi. se da variância do delineamento de Lucas, deduzida a partir do modelo temático E (y. 'k) 1.J. onde. 11 + a. + PJ' + t k + x. , ~. 1. 1.J 1.. média geral. 11:. a.: efeito do i-ésimo animal (i=l, 2, ... , a) 1.. p.: efeito do J-éslmo período (j=l, 2, 3) J. t. k. !. ~.: 1.. efeito do k-ésimo tratamento (k= 1, 2, ••• , K) efeito linear de período x animal, com se. J == 1. o se. J == 2. -1. x .. = 1.J. 1. se. J == 3 ,. para todo l.. ma.

(16) 8. Nestes trabalhos sio apresentadas explicitamente as expressoes das. somas. de quadrados~ bem como as esperanças matemáticas dos quadrados médios, p~ ra o caso particular ele K. =3. tratamentos.. Segundo PATTERSON e LUCAS (1962), nenhum. delineamento. do. tipo reversio ~ suficientemente capaz de prover boas estimativas dos. cha. mados efeitos residuais de um tratamento aplicado em um dado período. so. bre o período subseq~ente.. en. sa~os. Nestas condiç~es, a ~nica soluçio para os. de reversão, quando há efeitos residuais de tratamentos,. zar as produções iniciais de cada período.. e. despr~. -. Como esses são apenas três. e. aconselhável basear as interpretaç~es sobre as produç~es de períodos de 4 a 5 semanas, após ter-se desprezado uma ou duas semanas.. 2.1.2. Delineamentos rotativos. o. (" ro tational"). tipo ma~s simples de delineamento rotativo é o. quadrado. latino ou um grupo de quadrados latinos, com linhas representando dos de observação e colunas representando as seqüências de tratamentos. Segundo PATTERSON (1950), quando não existe efeito residuru de tratamentos, o método de análise segundo tal delineamento como aprese~ tado em COCHRAN e COX (1957), conduz a estimativa nio viciada do erro exp~ rimental, desde que se proceda a uma correta aleatorização das seqüências ou. an~ma~s. e dos tratamentos nas sequencias. Entretanto, em geral, considera-se a possibilidade de. que. tais efeitos residuais existam e deseja-se estimá-los além dos efeitos di retos de tratamentos. Neste sentido, COCRRAN et aUi (1941) utilizam completos de quadrados latinos ortogonais, objetivando. um. conjuntos. balanceamento. desejado para melhorar a eficiência da análise estatística, abordando. es.

(17) 9. pecificamente o caso em que K = 3 e 4 tratamentos.. Es tes deI ineamentos sao. balanceados no sentido de que qualquer tratamento é precedido um igual nú mero de vezes (A/2) por cada um dos outros tratamentos. Willians (1949), citado em PATTERSON (1950), mostra que b~ lanceamento desse tipo pode ser obtido com um. un~co. quadrado latino. para. um número par de tratamentos, e com dois quadrados latinos para um número ímpar de tratamentos. Entretanto, exitem certas restriç~es ao uso de tos rotativos com p. = K,. delineamen. devido às limitaç~es em relação ao número de. p~. ríodos, uma vez que estes devem ser, segundo LUCAS (1960), de tamanho zoável (4 a 5 semanas), o que os torna, para ensaios de uma única. ra. lacta. ção, limitados a de 3 a 5. Segundo PATTERSON (1950),. é possível encontrar. esquemas. convenientes de tratamentos com p < K, simplesmente considerando as p nhas correspondentes de cada um dos K - 1 quadrados de um conjunto de drados latinos ortogonais KXK, formando os denominados retângulos. li qu~. lati. nos. Nesse sentido sao úteis os delineamentos construídos PATTERSON (1952) e esquematizados em PATTERSON e LUCAS (1962) para K. por. =. 3,. 4, ... , 16, 18, 21, 26 e 36 tratamentos subdivididos em quatro categoria~ ou seja: a) delineamentos rotativos balanceados b) delineamentos rotativos parcialmente balanceados c) delineamentos balanceados com período extra d) delineamentos parcialmente balanceados com período extra, limitados aos casos em que:.

(18) 10. p < 6 K~t~p-l. a. onde b. = bt. < 6K < 100,. é o número de blocos;. t. o número de animais em cada bloco e a o nú. mero total de animais ou seqüências de tratamentos. Os delineamentos balanceados são caracterizados pela. apr~. sentação de todos os contrastes de tratamentos com estimação de igual pr~ cisão , bem como efeitos direto e residual de um dado tratamento negativ~ mente correlacionados.. Para os parcialmente balanceados, alguns. contras. tes de tratamentos apresentam grau de precisão na sua estimação,. diferen. te de outros, ainda com correlação negativa entre efeitos direto. e. dual.. res~. Já os delineamentos com período extra são obtidos simplesmente. petindo-se o período final de um delineamento balanceado ou balanceado.. re. parcialmente. Segundo os autores, se os efeitos residuais são despresíveis,. os delineamentos balanceados e os parcialmente balanceados sao. ma~s. cientes do que os com período extra, os qua~s, por sua vez, são mais. efi efi. cientes que os primeiros se os efeitos residuais são de importãncia na ex perimentação. Segundo os autores, todo delineamento "Change-over" com. K. tratamentos e p períodos (2 ~ p ~ K) utilizando a animais, subdivididos em b blocos, com t an~ma~s por bloco, é dito balanceado, se quaisquer. dois. tratamentos k e k' (k :f. k') satisfazem as condições: 1) tratamento k ocorre em cada período. a vezes,' K . a(t-l) 2) tratamentos k e k' ocorrem Juntos em blocos K(K-l). em. cada período; 3) se os tratamentos k e k' ocorrem juntos em um dado. blo.

(19) 11. co em qualquer período, então eles também ocorrem juntos em todos. os. ou. tros períodos;. 4) cada animal recebe um dado tratamento urna única vez; 5) tratamento k é imediatamente precedido pelo. A. k' em2. a(p-l). tratamento. sequenclas;. K(K-l). . ap(p-l) 6) tratamentos k e k t ocorrem Juntos em K(K-l) 7) tratamento k ocorre em a(p-l) K(K-l). das. a. sequencias;. sequencias,. K. nas. quais o tratamento k' ocorre no p-ésimo período. No presente trabalho, embora não seja abordada. Cla de efeitos residuais de tratamentos, serão considerados gia os delineamentos balanceados com p. ~. K apresentados em. a. na. existêll. metodolo. PATTERSON. LUCAS (1962), urna vez que urna sequencla lógica de pesqu1sa será. e. post~. a. r10r consideração de tais efeitos.. 2.2. Modelo auto-regressivo em ensaios de lactação. GODOI (1983) é o pr1melro a utilizar o modelo. auto-regre~. SlVO, cUJa estrutura de correlação é dada em (1), para análise. de. dados. de produção de leite, abordando especificamente uma confrontação com o e~ saio de reversão.. Neste trabalho o autor faz uso do mesmo desenho experi. mental proposto por LUCAS (1956), porém com a adoção do modelo auto-regre~ sivo, e verifica urna maior sensibilidade desse modelo na detecção de trastes de efeitos de tratamentos através do teste F.. con. Entretanto, tal sen. sibilidade só é maior nos casos em que o coeficiente de correlação linear entre períodos é alto (p.? 0,70), indicando aSSlm que, se os anlmal.S amos trados para o ensa10 estiverem com produções homogêneas, o modelo rível seja o de reversão, já que tal coeficiente é dependente da. prL'f~. variabi.

(20) 12. lidade entre animais.. possibilid~. Ainda neste trabalho o autor aventa a. de de que os delineamentos em blocos incompletos ou ainda os rotativos se jam mais eficientes ou sensíveis, se incorporarmos a estes uma. estrutura. de correlação realista, ou seja a auto-regressiva. Os resultados obtidos por Godoi, bem. como suas. sugestões,. é que motivam preponderantemente a realização deste trabalho. Desta for p.s.. K. ma cuida-se de utilizar os delineamentos rotativos balanceados com. de PATTERSON e LUCAS (1962) e, com a adoção do modelo matemático (2). com comp~. estrutura de correlação (3), estudar a sensibilidade deste modelo,. rada com os de métodos usuais de análise de ensaios com vacas em lactaçã~ Assim, para o modelo linear geral. y. onde. E(e). O. XS. + e. E (e e' ). com V simétrica e definida positiva, definida em (3), temos dois casos. a. considerar. Inicialmente se V for conhecida, como é abordada no prese~ te trabalho, autores como RAO (1965), THEIL (1971) ou HOFF~ffiNN. e. VIEIRA. (1977) mostram que uma simples transformação linear não singular, nos. le. à aplicação do método dos mínimos quadrados usual para a obtenção. do. va. estimador linear imparcial de var1.anC1.a m1.n1.ma do vetor de. parâmetros. Um resultado fundamental é que tal estimador apresenta as mesmas dades dos estimadores obtidos quando se trabalha com erros. S.. propr1.~. independentes. e homocedásticos. No caso em que V é desconhecida, isto é, quando p e-. desco. nhecido, pode-se adotar o procedimento recomendado pur THE1L (11)71) que mo.

(21) 13. dificado é utilizado por GaDaI (1983), o qual consiste na obtenção de uma estimativa p, através dos resíduos (y, 'k :1J vo de estabilização do valor de substituição de p por. p,. p.. y,:1J'k)'. por um processo iterati. Entretanto, verifica-se que. e a aplicação do método dos mínimos. a. mera. quadrados,. acarreta uma tendência indevida do modelo auto-regressivo de rejeitar. a. hipótese de igualdade de efeitos de tratamentos. Ademais, não se pode descartar a. possibilidade de. que. fonte dos dados a serem utilizados em ensa:1OS desta natureza, quer institutos de pesquisa ou fazendas experimentais, disponham. de. a. sejam. arquivos. com as produções de um grande número de an:1ma:1S, dos quais uma parte será amostrada para a realização do experimento.. Assim, do conjunto total,. p~. de ser obtido um valor para o coeficiente de correlação linear entre. p~. ríodos, tomado de forma coerente com o ensaio, sob a hipótese de que. tal. valor não sofra grandes alterações para lactações consecutivas..

(22) 14. 3. MATERIAL E MÉTODOS. Para a comparaçao da sensibilidade na detecção de. contras. tes de efeitos de tratamentos pelos modelos: auto-regressivo, de reversão e rotativo, serão utilizados os dados da Tabela 1, os qua1s. correspondem. a médias quinzenais de produção de leite de 144 vacas da raça. holandeza,. sendo que a produção do primeiro período é tomada após o p1CO da lactação, de modo que os sete períodos considerados se encontram no intervalo produção útil para experimentos desta. natureza.. de. A fonte destes dados. o Departamento de Zootecnia da ESALQ-USP, Setor de Ruminantes,. os. e-. qua1s. foram obtidos e trabalhados inicialmente por GODOI (1971), apresentados em. GODOI (1983), com o qual estamos em débito pela permissão para a. utiliza. ção dos mesmos. Em se calculando a correlação linear entre períodos, ordem de grandeza ê dependente. da. cUJa. variabilidade de produção entre vacas,. obtém-se a Tabela 2, na qual pode-se observar uma constância nas ções entre períodos separados por um intervalo fixo.. correIa. Por outro lado, atr~. vés da matriz de correlações do modelo auto-regressivo (1). considerando-. se p = 0,91, que é a média das correlações entre períodos consecutivos, ob.

(23) 15. têm-se a Tabela 3, donde se pode perceber uma boa adaptação desta estrutu ra de correlações aos dados originais. Consideram-se três ensaios, variando o numero de. tratamen. tos, ou seja: K = 3, 4 e 5, o que nos dá uma desejável variação do número de graus de liberdade para o resíduo dos modelos considerados.. Sendo. es. te um estudo comparativo, adota-se o mesmo número de animais ou sequencias de tratamentos para todos os modelos. Para cada ensaio considera-se Clnco situações para os efei tos de tratamentos t. k. , os quais, além do efeito nulo, varlam de 2%. da produção média (10 kg/dia) obtida da Tabela 1.. Os ensalOS. a. considera. dos sao esquematizados a seguir: a) Ensaio 1:. K. a.l) Esquema do. 3 tratamentos ensa~o. para o modelo de reversão completo. Animais. (Seqüências de Tratamentos). Períodos 1. 2. 3. 4. 5. 6. I. (1). (2). (3). (1). (2). (3). II. (2). (3). (1). (3). (1). (2). III. (1). (2). (3). (1). (2). (3). Esquema da análise da variância segundo LUCAS (1956). F. Variação. G.L.. 8%. G.L. Caso Geral. Tratamentos. 2. K - 1. Resíduo. 3. (K _1)2 - 1. Total. 5. K(K - 1) - 1.

(24) 16. a.2) Esquema do ensa1.O para o modelo rotativo com dois quadrados. lati. nos (Q.L.) Animais. Períodos 1. 2. 3. 4. 5. 6. 'I. (1). (2). (3). (1). (2). (3). II. (2). (3). (1). (3). (1). (2). III. (3). (1). (2). (2). (3). (1). Esquema da análise da variância segundo COCHRAN e COX (1957). F. Variação. G.L. Caso Geral. G. L.. Quadrados Latinos(Q.L.). 1. q - 1. Períodos d. Q.L.. 4. q(K - 1). Animais. 4. q(K - 1). Tratamentos (T). 2. K- 1. Interação T x Q.L.. 2. (q -l)(K - 1). Resíduo. 4. q(K - l)(K - 2). 6. q(K - 1) - (K - 1). d. Q.L.. ]j. Resíduo Médio Total. qK 2. 17. -. 1. :u O Resíduo. médio (Resíduo + Interação T x Q.L.) será utilizado caso a interação T x Q.L. seja não significativa.. a.3). Esquen~. do ensa1.O para o modelo auto-regressivo segundo PATTERSON. e LUCAS (1962) Animais. Períodos 1. 2. 3. 4. 5. 6. I. (1). (2). (3). (1). (2). (3). II. (2). (3). (1). (3). (1). (2). III. (3). (1). (2). (2). (3). (1).

(25) 17. Esquema da análise da var~anc~a F. Variação. G.L. Caso Ceral. G.L.. Períodos. 2. p-l. Tratamentos. 2. K-l. Resíduo. 13. p(a-l)-(K-l). Total. 17. ap - 1. onde a. =. número de an~ma~s.. Valores considerados para os efeitos de tratamentos t 1) t. b) Ensaio 2.. k. 0,. k. = 1, 2, 3. k. 2) tI. 0,2;. t. 3) tI. 0,4;. t. 4) tI. 0,6;. t. 5) tI. 0,8;. t. 2. = -0,2;. t. 2. = -0,4;. t. = -0,6;. t. = -0,8;. t. 2 2. 0,0. 3. 0,0. 3. 0,0. 3. 0,0.. 3. K = 4 tratamentos. - completo b.1) Esquema do ensaio para o modelo de reversao Animais Períodos 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. I. (1). (2). (3). (4). (1). (2). (3). (4). (1). (2). (3). (4). H. (2). (3). (4 ). (1). (3). (4). (1). (2). (4). (1). (2). (3). IH. (1). (2). (3). (4). (1). (2). (3). (4). (1). (2). (3). (4). com 8 g.l. para o resíduo..

(26) 18. b.2) Esquema do ensalO para o modelo rotativo com 3 Q.L.. Animais. Períodos. 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. I. (1). (2). (3). (4). (1). (2). (3). (4). (1). (2). (3). (4 ). II. (2). (3). (4). (1). (2). (3). (4 ). (1). (2). (3). (4 ). (1). III. (4). (1). (2). (3). (4). (1). (2). (4). (3). (4 ). (1). (2). (3). (4). (1). (1) (4 ). (2). IV. (3) (2). (3) (2). (3). (1). com 18 g.l. para o resíduo e 24 g.l. para o resíduo médio.. b.3) Esquema do ensalO para o modelo auto-regressivo com p = 3 períodos. Animais Períodos. 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. I. (1). (2). (3). (4). (1). (2). (3). (4 ). (1). (2). (3). (4 ). II. (2). (3). (4). (1). (3). (4 ). (1). (2). (4 ). (1). (2). (3). III. (3). (4). (1). (2). (4 ). (1). (2). (1). (2). (3). (4). (1). com 30 g.l. para o resíduo.. b.4) Esquema do ensalO para o modelo auto-regressivo com p. °. =K. mesmo de b.2 com 41 g.l. para o resíduo.. Valores considerados para os efeitos de tratamentos t 1) t. k. O,. k = 1, 2, 3, 4. 2) tI. 0,2;. t. 3) tI. 0,4;. t. 4) tI. 0,6;. t. 5) tI. 0,8;. t. = -0,2;. t. 2 = -0,4;. t. 2. = -0,6;. t. 2. = -0,8;. t. 2. 3 3 3 3. 0,2;. t. = 0,4;. t. 0,6;. t. = 0,8;. t. 4 4. 4 4. = -0,2 =. -O,L.. =. -0,6. = -0,8.. k.

(27) 19. c) Ensaio 3.. K = 5 tratamentos. c.1) Esquema do ensaio para o modelo de reversão completo. Animais Períodos ----------------------------------------------------1 I II III. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11 12 13 14 15. 16 17 18 19 20. (1) (2) (3) (4) (5) (1) (2) (3) (4) (5) (1) (2) (3) (4) (5). (1) (2) (3) (4) (5). (2) (3) (4) (5) (1) (3) (4) (5) (1) (2) (4) (5) (1) (2) (3) (5) (1) (2) (3) (4) (1) (2) (3) (4) (5). (1) (2) (3) (4) (5). (1) (2) (3) (4) (5). (1) (2) (3) (4) (5). com 15 g.l. para o resíduo.. c.2) Esquema do ensaio para o modelo rotativo com 4 Q.L.. Animais Períodos ----------------------------------------------------1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 I II III IV V. (1) (2) (3) (4) (5) (1) (2) (3) (4) (5). (1) (2) (3) (4) (5). (1) (2) (3) (4) (5). (2) (3) (4) (5) (1) (3) (4) (5) (1) (2) (2) (3) (4) (5) (1) (3) (4) (5) (1) (2) (4) (5) (1) (2) (3) (2) (3) (4) (5) (1). (4) (5) (1) (2) (3) (2) (3) (4) (5) (1). (5) (1) (2) (3) (4) (5) (1) (2) (3) (4) (5) (1) (2) (3) (4). (5) (1) (2) (3) (4). (3) (4) (5) (1) (2) (4) (5) (1) (2) (3). (4) (5) (1) (2) (3). (3) (4) (5) (1) (2). com 48 g.l. para o resíduo e 60 g.l. para o resíduo médio.. c.3) Esquema do ensaio para o modelo auto-regre.ssivo com p. =3. períodos. Animais Períodos ----------------------------------------------------1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 I II III. (1) (2) (3) (4) (5) (1) (2) (3) (4) (5) (1) (2) (3) (4) (5) (1) (2) (3) (4) (5). (2) (3) (4) (5) (1) (3) (4) (5) (1) (2) (4) (5) (1) (2) (3). (5) (1) (2) (3) (4). (3) (4) (5) (1) (2)(5) (1) (2) (3) (4). (4) (5) (1) (2) (3). com 53 g.l. para o resíduo.. (2) (3) (4) (5) (1).

(28) 20. c.4) Esquema do ensa1.O para o modelo auto-regressivo com p = K O mesmo de c.2 com 91 g.l. para o resíduo.. Valores considerados para os efeitos de tratamentos t 1) t. k. O,. k. t. 3) tI. 0,4;. t. 4) tI. 0,6;. t. 5) t. 0,8;. t. l. l. 1, 2, 3, 4, 5. =. 0,2;. 2) t. k. 2 2 2 2. = -0,2;. t. -0,4;. t. -0,6 ;. t. = -0,8;. t. 3 3 3 3. 0,2;. t. 0,4;. t. 0,6;. t. 0,8;. t. -0,2;. t. s. 0,0. -0,4;. t. s. 0,0. 4. = -0,6;. t. s. 0,0. 4. = -0,8;. t. 4 4. 0,0.. S. Com o objetivo de verificar se pequenas alterações. no. va. lor populacional do coeficiente de correlação linear entre períodos, acar retam diferenças na sensibilidade do teste de significância ou algum tipo de viés nas estatísticas envolvidas nos testes, considera-se para o. mode. lo auto-regressivo em cada ensaio, os seguintes valores de p: 0,88; 0,90; 0,91; 0,92; 0,94. Para cada ensa1.O sao efetuadas 100 amostragens de. an1.ma1.S. e períodos, entre os dados da Tabela 1, e obtidas as respectivas análises da variância. para os diferentes valores de t. k. , e p no caso do modelo. au. to-regressivo. "Das análises da variância sao considerados os valores. da. estatística F para tratamentos, e para cada valor desta estatística deter mina-se o nível mínimo de significância (N.M.S.) com auxílio. da. função. subprograma FF, adaptada da sub-rotina 'PF apresentada em KENNEDY e GENTLE (1980).. Segundo MOOD et alii (1974), quando se considera t. =. k. 1,. 2, "', K, os N.M.S. em cada ensaio serão uniformemente distribuídos. no. intervalo (0,1).. de. k. O,. Determina-se então,"para cada ensaio, a distribuição.

(29) 21. freqüência dos 100 N.M.S. no intervalo (0,1) em classes de amplitude 0,05, bem como efetua-se o teste de aderência ponto a ponto de. Kolmogorov-SmiE.. novo Nos casos em que t. k. *. O para algum k. =. 1, 2, ... , K,. N.M.S. são calculados com o objetivo de se verificar qual nlodelo. os. aprese~. ta maior sensibilidade para detectar diferenças entre tais efeitos,. bem. como a influência do valor de p nesta sensibilidade no caso do modelo ser o auto-regressivo.. O modelo mais sensível será aquele para o qual a. dis. tribuição dos N.M.S. se concentrar nas classes iniciais do intervalo (O,l~ Por outro lado, em se conhecendo as expressões das espera~ ças matemáticas dos quadrados médios para tratamentos e resíduo no modelo auto-regressivo, utiliza-se a média dos valores da estatística F, bem mo o quociente de médias do Q.M. tratamentos pelo Q.M. resíduo, como. co uma. forma de controle da adequação desse modelo às condições experimentais..

(30) 22. 4. RESULTADOS E DISCUSSÃO. 4.1. Análise da variância no modelo auto-regressivo 4.1.1. O modelo linear geral Para o modelo. Y' = -. com:. [Y llk. Y. = xB. + e,. ... y 1 k 11 P lp. Y 2lk. onde. "'Y2pk ••. Yapk ] 21 2p ap (1 x ap). Y"k = observação no i-ésimo animal (i = 1, 2, ••• , a) que no j-ési. 1J ., 1J mo período (j=l, 2, ••• , p) recebeu o tratamento k (k=l, 2, •.. , K);. p'::>"K e. k .. :j k" 1J 1J. f. para j:j j ' ,. n = 1 + P + K,. X. matriz de incidência de ordem ap x n,. e = vetor de erros de ordem ap xl, com. E(e). o·,. Var(e).

(31) 23. para. V simétrica e definida positiva, definida em (3), temos que. Var(Y). (I. A) 0 2 , e. ®. a. com. A. A. A. (apxap) com <p a matriz nula de ordem p x p,. A. 1. P. p2. p. 1. p. p2. p. 1. p-1 p. p. p-2. p. . .. p-1 P p-2 P p. p-3. p-3. 1 (pxp). e I. a. a matriz identidade de ordem a. Para Ipi < 1 a matriz A é definida positiva e. -1. 1. -p. O. O. -p. 1+p2. -p. O. O. -p. 1+p2. O. 1. A. 1- p2. ............................ O. O. O. 1. -1. Sendo A simétrica e definida positiva, A. também o sera e. portanto existe uma matriz não singular D tal que D'D. -1. A. -1-1. < > D (D'). A. (4).

(32) 24. Seja então: Il_p2. -p. O. O. O. 1. -p. O. O. O. 1. O. O. O. O. 1. 1. D. Il_p2. (pxp). satisfazendo (4) e seja a transformação nao singular (I0D')Y. y(p). (5). a. onde Y é o vetor de observações originais e Y(p) o vetor de transformadas.. observações. Então: E [ Y (p) ]. (I. 0. a. D') XS. e. ou. Var [ Y (p) ]. (I. Var [ Y (p) ]. (I. Observando que (A. 0. B)'. a. a. 0 Df). D')-. 0. e. A' 0 B f. Var(Y)(I. (I. a. 0. a. A)(I. 0 Df)'. 0. a. (A 0 B). (C 0 D). D')' 0. AC. 0. 2. e. BD temos pela. expressa0 (4) que. Var (. 'f (p). ]. (I. a. 0 Df) [ I. -1. a. -1 -1. [I (I. a a. 0 D' (D') D D] 0 I ) p. 0. -1. 0 (D f ) D ] (I. 0. a. o D) 0 2. e. 2 e. 2. e. Logo: Var [. y (p). ]. I. ap. 0. 2. e. (6).

(33) 25. ou seja, através da transformação nao singular (5) passamos de um linear com dispersão V0 2 para outro também linear, porém e 2. simplificada 10 e. com. modelo. dispersão. Portanto, as funções estimáveis segundo ambos os. •. mode. los, sao as mesmas.. 4.1.2. Sistema de equaçoes normais Se clS é estimável, então o estimador linear imparcial. de. variância mínima será C'b, onde b é qualquer solução do sistema. [(I. a. 0D')X]'[(I. a. 0D')X]b -. [(I. D' )X]b. (X'(I. D' )X]1 y(p) -. 0. a. Usando (5) vem. [X' (I. a. 0. D)] [(I. a. 0. -. a. D)](I. 0. a. 0. D')Y. por (4) obtemos. (7). Com o objetivo de ilustrarmos a obtenção X'(I. a. -1. 0 A)X. e. -1. X'(I a 0 A )Y_ no caso geral de K tratamentos. das e. matrizes p. (p < K), consideremos o caso particular de um delineamento com K. períodos. = P = 3,. cujo esquema balanceado e:. Animais. Períodos 1. 2. 3. 4. 5. 6. I. (1). (2). (3). (1). (2). (3). 11. (2). (3). (1). (3). (1). (2). UI. (3). (1). (2). (2). (3). (1).

(34) 26. Neste caso temos: 6. animais ou sequenc1.as de tratamentos. 6. repetições de tratamentos. K. 3. tratamentos. p. 3. períodos. 4. numero de vezes que um tratamento k e-. a r. ==. A. ==. e/ou sucedido por outro k t Então. ê. t. Y. =. [~ .. PI P 2P3. precedido. •. tI t 2 t 3 ]. Ylll Y122. 1. 1. O. O. 1. O. O. 1. O. 1. O. O. 1. O. YI33. 1. O. O. 1. O. O. 1. Y212 Y223. 1. 1. O. O. O. 1. O. 1. O. 1. O. O. O. 1. Y23I. 1. O. O. 1. I. O. O. Y313 Y321. 1. I. O. O. O. O. 1. I. O. 1. O. 1. O. O. 1. O. O. I. O. 1. O. Y332. ....................................................... ........................................................... X. ........................................................... Y4I1 Y423. 1. 1. O. O. 1. O. O. I. O. 1. O. O. O. 1. Y432. I. O. O. 1. O. 1. O. Y512 Y521. I. 1. O. O. O. 1. O. 1. O. I. O. 1. O. O. 1. O. O. 1. O. O. 1. Y5 33. ........................................................... ................................ oi. ......................... Y613 Y622. 1. 1. O. O. O. O. 1. I. O. I. O. O. 1. O. Y631. 1. O. O. 1. 1. O. O.

(35) 27. e obtemos as matrizes:. /1- p2. O. O. ~. O. O. 1-p. -p. 1. O. -p. 1. O. 1-p. O. -p. 1. O. -p. 1. ~ ·. ...................................................................................................... ~. · 11- p2 ·. O. O. O. ~i. O. 1-p. -p. 1. O. O. -p. 1. 1-p. O. -p. 1. 1. O. -p. ..................................................................................................... (I. a. li?). D')X. 1. 11- p2. ··. /1_P2. O. O. O. O. /1- p2. 1-p. -p. 1. O. 1. O. -p. 1- P. O. -p. 1. -p. 1. O. /1_P2. .................................................................................................... 11- p2. O. O. ~. O. O. 1-p. -p. 1. O. -p. O. 1. 1-p. O. -p. 1. O. 1. -p. ~ ··. ................................................................................................. .. ·. /1- p2. O. O. O. ~. O. l-p. -p. 1. O. 1. -p. O. 1-p. O. -p. 1. -p. O. 1. ~. .......................... .. .. . . . .. .. .. .. .. .. .. . . ... .. . .. . .. .. .. .. .. .. .. .. .. .. . . .. .. .. .. . ... ·. 11_P2. O. O. O. O. ~. 1- P. -p. 1. O. O. 1. -p. 1-p. O. -p. 1. 1. -p. O. ~.

(36) -1. 1. X'(I 0 A )X = a 1 _ p2. .. 6. -6p. O. 6(1-p). 6 (1_p)2. 6 (l-p). .··. O. -6p. 6. -6p. 6 (l+p2). -6p. .. . .... 2 (l-P). 2 (l-pi. 2 (l-p). 2 (l-p). 2(1-pi. 2 (l-p). 2 (l-pi. 2 (l-p). 2(1-p). 2 (l-p). 2 (l-p). 2(1-p). · ·. · ·. 2 (l-p) O-p). 2 (l-p) (3-p). 2 (l-p) O-p). 2 (l-pi. 2 (1_p)2. 2 (l-pi. 2 (l-p). 2(1-p). 2 (l-p). -4p. -4p. 2(3+p2). -4p. 2 C3+p2). -4p. 2 (3+p2). -4p. -4p. . ...... .; .............................................................................................................................................. '" ........... .. 6(1-p) (3-P) • 6(1-p) 6(1_p)2 6(1-p) . 2(1-p) (3-p) 2(1-p)(3-p) 2(1-p) (3-p) . .. . .. .. .. .. .. .. .. .. .. .. .. ..... .. .. .. .. .. .. .. .. .. .. . .. .. .. .. .. .. . .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. . . .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. . .. .. ... N (Xl.

(37) 29. 11-:-p2. Yll1. -p Yll1 + Y122. -. 11- p2. P Y122 + Y 133. Y 212. -p Y. 212. + Y. PY 223 +Y 2 31. -. ll=P2 (Ia ®D 1 )y _. 223. Y 313. - p Y 313 + Y 321 - P Y + Y 332 321. 1. ll=P2. Y 411. -P Y 411 + Y 423 -. ll=P2 -P Y. P Y423 + Y432. YS12 S12. + Y. S21 P Y S21 + Y. -. ll=P2. S33. Y 613. -P Y. 613. + Y -. 622. P Y 622 + Y 631. P 1 - pP 2 - PP. X'Üa. -1. 0. A )Y _. 1. 1. + (l+p2)p -. PP. 2. + P 2 3. -. PP. 3.

(38) 30. onde: P P. I 2. TI. + Y + Y + Y + Y + Y é o total do 19período; Y 212 III 4ll Sl2 613 313. e P. 3. totais dos períodos 11 e 111, respectivamente;. Ylll + Y + Y + Y + Y S2l + Y631 é o total do 231 32l 4ll mento; T. 3. 19 trata. analogamente definidos; Y32l + YS2l e o total do 19 tratamento no 29 período;. (2) analogamente definidos; e T3. P. jk. é o total das observações que no período J precedem ou. sucedem. o tratamento k, isto e:. Ylll + Y613. P 2l. = Y1 22. + Y223 + Y423 + Y622. P 22. = Y223. + Y32l + Y423 + YS2l. P 23. = Yl22. + Y32l + YS2l + Y622. e. x '(1a. e Ã. 1. )y _. pode-se observar que a soma das. linhas referentes a períodos, bem como a soma das linhas relativas a. tra -1. tamentos é igual à linha relativa à média.. De fato, na matriz X'(I eA )y a. -. para as linhas relativas a tratamentos, lembrando que:. T(2) k k. L Tk = L P.J ; I. k. J. P2. e. L Pjk. r. Pj. k. l2Pj. para. J. 1, 3. para. J. 2.

(39) 31. que é a linha referente à média. No caso geral de K tratamentos e p períodos com p. ~. K,. te. remos. -1. 1. Xl (I ® A )X a. onde:. c. =. c. L'. M'. L. p. N'. M. N. T. a(l- p)[p - (p - 2)p]. (8). L'=a(l-p)[l, (l-p), (l-p), ... , (l-p), lJ( M' =. =. P. ;. (l - p). IY - (p - 2) p] [1. lxp. (9). ). 1... 1J (lxK). ~ (1 - p) fp _ (p _ 2) pl l' ( p U :.J _ lxK ). 1. -p. -p. 1 + p2. (10). O. O. -p. O -1. a(l-p2)A. a O. -p. 1 + p2. O. ............................. O. O. O. 1. (pxp). (ll).

(40) 32. 1. 1. 1. (l-p). (l-p). (1-p). N' = ~ (1 - p) p. (12). (l-p). (1-p). (l-p). 1. 1. 1 (pxK). -Ap. -/l.p. -/l.p. -/l.p. T. (13). -/l.p. -/l.p. onde /1., pela condição de balanceamento vista em 2.1.2, é dado por 2a(p - 1). /I.. K(K - 1). De fato, sendo a sorna das linhas referentes a tratamentos igual. a. linha. relativa à media, então, das matrizes M' e T, obtemos. donde se obtém. r. r. p. p. /I.. 2r(p-l). ,. (l-p) [p - (p-2) p]. corno era de se esperar, lembrando que. p(K-l). ap. rK. Por outro lado, para o caso geral, o segundo membro do SlS. - normalS . sera: tema de equaçoes.

(41) 33. G(p) Xl (Ia. @. 1. -1. A )y _. p(p). T(p). onde:. G(p). (14). p(p). (15). -pp -pP. p-. p-. 2 + (1+p2)P 1 +P. p-. 1 - pP. P. P (pxl). p. TI - P. p-l P. jf 1 P. T(p) =. T. 2. -. p jfl. P. jl. + p2. jf2. T (j) 1. p-l T(j) + p2 ..L j2 2 2 J=. (16). ...................................................... p-l. p. T (j) P - P + p2 K jfl jK jf2 K. T. (Kxl). total do período j; j. =. total do tratamento k; k P jk:. 1, 2, . ", p 1, 2, "', K. soma das observações que no período j precedem ou sucedem o tratamento k. T~j):. total do tratamento k no período J.

(42) 34. satisfazendo:. I J. P.. J. I. L L P jk. T ; k k. j k. p-l P + 2 L P. + P p' l j=2 J. L T(j) k. k. P. J. O sistema de equaçoes norma1S (7) na forma matricial. (17). sera-. então:. 1. c. L'. M'. L. P. N'. G(p) 1. b. 1 _ p2. p(p). 1 _p2. N. M. T(p). T. Se considerarmos a partição 11 (:3. com. p. p'. = [Pl P2. .•• P ] ; P. t. l. = [ t l t 2 '". tKJ. t obtemos. 1. c. LI. M'. 11. L. P. NI. P. M. N. T. E. 1 _ p2. -. G(p) 1. p(p). (18). 1 _ p2 T(p). 4.1.3. Sorna de quadrados de tratamentos ajustada Pré-multiplicando ambos os membros de (18) pela matriz não singular. W. 1. .0'. O'. O. I. <P. O. P. _Np 1. I. K.

(43) 35. obtemos. 1. c. L'. M'. ]l. L. P. Nt. p. G(p). -. 1. (19). -1. M-NP L. De (ll) temos: 1. -----A a(l- p2). (20). ou 1 -1. 1. P. p-1. p. P. 1. P. p-2. .. .. P. P. p-l. p-2. 1. Usando (12) temos: p-1. 1. 1-p. l-p. 1. 1. P. P. 1. 1-p. 1-p. 1. P. 1. P. 1. l-p. l-p. 1. p-2. -r (l-p). _NP-1. ap (1_ p 2). 1. 1. 1. 1. 1. 1. 1. 1. 1. (Kxp). ap. rK.. 1 P. - -. ap (1_ p2). pois. p-2. P. P. K. -r (l-p) (1+p). p-l. P. 1 E K (Kxp). (21).

(44) 36. Usando (9) vem 1. 1-p 1-p. 1 K. -1. -NP L. - -E. a (1 - p). (Kxp). a K. (1 - p) [p - (p-2)p] ~(Kxl). 1- P 1 (px1). =. Por (lO) , lembrando que ap -1. M -. NP L. rK, temos que:. (22). O. Por outro lado. -1. -NP. N. 1. -. -. -. 1. 1. 1. 1. 1- P. 1-p. 1-p. 1-p. 1 E K (Kxp). r. (1 - p). p. 1-p. 1-p. 1-p. 1-p. 1. 1. 1. 1. (pxK) .. - -. r. pK. .(1- p)[p- (p-2)p] E(KxK). Definindo. C. -1. = T - NP N. e usando (13) obtemos. 1. (23).

(45) 37. (K-lh K. e -2r(p-1) C. kk. , ==. r. P -. [. (1-p) [p- (p-2)p]. pK. P (K-l). r(p-2). p2. -. [ 2r(p-1l pK(K-l). pK. J. P. r. para k. -I. k'. K. ou seja. r(p-2). c [. p. 2r(p-1). 2. P': J. +. pK(K-l). pK. K-l. -1. -1. -1. K-1. -1. -1. -1. K-l. (24). (KxK) donde se percebe que posto (C) == K-1.. Para o segundo membro do sistema. (18), definindo. -1. Q(p) = T(p) - NP p(p). (25). -. -. então de (15) e (21) temos:. -1. -NP p(p). - -. 1 K. E. (Kxp) -pP. -. - pP. p-. p-. 2 + (l+p2)p. 1 +P. p-. 1 - pP. p. P (pxl). 1. = -. com G(p) definido em (14).. K. G(p). ~. (Kxl).

(46) 38. Portanto, Q(p). [ Qk(P)]. com (Kx1). (26) onde Tk(P) e definido em (16). Observamos que:. K. K. k~l. kf1 Qk(P). K. Tk(p). I. 1. G (p). K k=l. K. =. I. k=l. (27). Tk(P) - G(p). De (16). Das igualdades em (17) vem: p-l p-l + p2 p(p I. P.J I P.J + PP ) I P. 1 + 2 j=2 j=2 J J. K. I T (p) k=l k. p-l (1-p)P 1 + (1~p)2 j~2 Pj + (l- P)P p. G(p). Levando em (27) obtemos K. I. o. Qk (p). (28). k=l Substituindo (22), (24) e (26) em (19) obtemos o. sistema. de equaçoes:. 1. 1 _ p2. c. L'. M'. 11. L. P. N'. P. O. <P. C. t. -. G(p) 1. P(p) Q(p). (29).

(47) 39. De (29) podemos obter a equação normal. para. tratamentos. ajustada para média e período, ou seja. - -1 - c f. __ l_Q(p) 1 _ p2 -. 1- p2. (30). De (24) e (28) ternos que posto (C) = K-l. e. I. =. o,. portanto,. utili. k K = o, a qual implica em I t k = o, podemos k=l k k=l. obter. Qk(P). K. zando a restrição. I. t. a solução de (30) resolvendo o sistema:. l. r(p-2) pK. 2r(p-1) p2 + _ _ __ pK(K-1). p. <]. K. o. o. O. K. O. O. o. K. E. 2. ou. 2r (p-I). p + r. ]. Q(p). p(K-l). Lembrando que ap. rK. 2r(p-l). fi.. e. obtemos. p(K-l) 1. a(p-2). (31). p2 + fl.p + r. K. e utilizando (30) vem K SQ {Tratamentos ajo }. =. I. k=l. t. k. 1. Qk (p). ou 1 SQ {Tratamentos ajo }. K. I. k=l. Q~(p). (32).

(48) 40. 4.1.4. Somas de quadrados de periodos e média. ignora~. do tratamentos Se no modelo linear Y. =. XS. + e ignorarmos efeitos de trata. mentos, então do sistema (18) as equações normais na forma matricial para períodos e média serao: 1. __ 1 _ p(p). 1 -p. fazendo. 2. ~. o podemos obter uma solução do sistema. ]J. 1 Pp 1 _ p2. 1 p(p) 1 _ p2 -. (33). ou, por (ll). 1 a 1 _ p2. 1. -p. O. O. P1. -. P 1 (p). -p. 1+p2. -p. O. P2. -. P 2 Cp). -p. 1+p2. O. P3. O. 1 1 _ p2. P 3 (p). <=>. .............................................. O. ~>. 1 1- p2. O. -1. a (1- p2)A P. 1. O. ;o. 1. 1 _ p2. p(p). -. =!>. -. P. 1. A. P (p). (34). a(1-p2). Usando (33) vem SQ {Períodos e Média}. 1. a(1_p2)2. Mas de (15) temos. P I (p) A P (p). (35).

(49) 41. 1. -p. O. O. P1. -P. 1+p 2. -p. O. P. O. -p. 1+p2. O. P. P - pP 2 I 2 -PP + (1+P )P - PP 1 2 3 p(p). -PP2 + (1+P2)P3 - PP. =. 4. .. .. . . .. .. '" ....................... - pP. <~>. p-. 1 +P. ". <=;> 3. .................................................... O. O. P. 2. O. 1. P. P. p(p). Levando em (34) ob temos. P = -. 1. -. P. p. J. a. ~P. a. J. E (3S) pode ser escrita. p. SQ {Períodos e. 1. Média}. I. j=l. (36). P.P.(p) J. J. Da mesma forma, se no modelo linear geral ignorarmos. trat~. mentos e efeitos de periodos, então do sistema (18) obtemos a equação nor mal para a média. 1. 1. (37). c lJ ;; - - - G(p) 1 _ p2. ou por (8). __ 1 _ a (1- p) [p - (p-2)p] 1- p2. 11. __ 1 _ G(p). 1 _ p2. =?. G(p). j.l. a(1-p) [p - (p-2)p]. Logo, por (37). c 2 (p). SQ {Média} = - - - - - - - ' - - - - - - a(1-p) (1_p2) [p - (p-2)p]. (38).

(50) 42. De (36) e (38) obtemos por diferença a Soma. de. Quadrados. de Períodos ajustada para a Média e ignorando tratamentos, ou seja SQ {Per íodos}. SQ {Períodos e Média}. -. SQ { Média}. 4.1.5. Soma de quadrados total Da expressa0 (5) obtemos. yt (p) Y(p). SQ { Total}. =Y'(I 0D,)1(I 0D')Y a a. ou SQ { Total}. onde Y. (39). é o vetor de observações originais.. Desenvolvendo (39) obtemos. a SQ { Total}. I. 1. 1 _ p2. i=l. {(l_p2)y~.. p +. 1.1. I. (y .. - PY'(' I)?} ~J 1 J-. j=2. Os resultados obtidos sao sumarizados no quadro que se. se. gue: Análise da variância no modélo auto-regressivo. F. Variação. G.L.. Soma de Quadrados P. Períodos e Média. Tratamentos (aj.). Resíduo. Total. 1 a(1_p2). p. I. P.P.(p). j=l. J. J. K-l. por diferença. p(a-l)-(K-l). ap. 1. P. a. 1. _ P. 2. I. . 1 1=. {(1_p2) Y\ +. I 2 (y .. -. 1.. J=. ~J. PY.(' 1))2} 1. ] ..

(51) 43. 4.1.6. Esperança matemática da soma. de. quadrados. de. tratamentos ajustada Consideremos a partição. (I. com. a. ®D')X. (40). de ordem (ap x l) o vetor relativo ã média. J. Xl de ordem (apxp) a matriz relativa a períodos X. 2. de ordem (apxK) a matriz relativa a tratamentos. então o prlmelro e segundo membros do sistema (18) podem ser escritos. na. forma:. Xl (I. a. ®. 1. -1. A )X. c. L'. M'. L. P. N'. 1. Xl (I. -1. a. o A )Y. N. T. X' (I. a. r X2. 1~. XiXI. Xi x2. Xiª. XiXI. Xi X2. Xl'. 1 _ p2. 1 _ p2. M. . 'X ~ 1. j ,j. ®D)(1. a. ®D')Y. X' (I. P(p). 1 _ p2 T(p). -. De (25) temos que Q(p). usando (42) Q(p). -1. T(p) - NP p(p). o D)Y (p). j 'y (p). G(p). 1. a. (41). 1. II _p2. X'Y(p) 1-. 2: (p). X. (42).

(52) 44. Q(p). ou Q(p). onde. (43). HI. Entretanto,. (32) pode ser escrita na forma. SQ {Tratamentos aJo}. __ 1 _ t' Q(p) 1 _ p2. (44 ). De (30) temos. ct. =. Q(p). t. =9. (45). com C- uma Inversa generalizada de C substituindo (45) em (44) vem. SQ {Tratamentos ajo}. -. 1. I. QI (p) (C ) Q(p). Usando (43) temos. SQ { Tratamentos ajo}. (46). observemos que. RIH. que na notação de (41) resulta -1. H t H = T - NP N I. -1. -. -1-1. NP N I + NP PP N t. -1. T - NP N'. substituindo em (46) vem _. SQ {Tratamentos ajo} ou equivalentemente. t. yt (p) H[ (H'H) ] Hly(p). C. (47).

(53) 45. SQ {Tratamentos ajo }. SQ {H' Y (p)}. Utilizando um resultado devido a SCHEFF~ (1959), em. (48). temos E SQ{Tratamentos aj.}. = E SQ {H' Y(p)} = posto (H). 0. 2. e. + SQ{H' Y(p)} -. (49) Y (p)=E(Y (p)). -. =. Mas posto (H) = posto (H'H) = posto (C) Sendo. E(Y(p)). (I. a. B,. 0 D') X. SQ {H' Y(p)}. -. K-l, por (47) e (24).. temos que. Y' (p) H[ (H'H)-]' H' Y(p) Y(p)=E(Y(p)). Y(p)=(1 _ a 0 D')XB _. -. -. B'X'(1. a. 0D)H[(H'H)-]'H'(I. a. 0D')XB. (50). mas por (40) j 1-1. 1-1 (1a 0 D') X _B. 1. /1-. p2. [J .. Xl . X2 ]. P. I = -----. /1-. p2. X p I-. X2~. t. e. j11 H'(1. a. 0 DI). XB. -1. 1. (X' - NP X') . 2 1 ~. (Xi. 1. X P 1-. que a notação de (41) fica -1. (M- NP L) 11. -. H'(1a 0 D')XB _. 1. -. -1. (N - NP p) P. ª-. -1. NP Xi. ª) 11.

(54) 46. Usando (22) e (23) vem. o 1. H '(1 a (3) D') X S _. (51). Ct substituindo (51) em (50) obtemos. o 1. SQ {H' Y(p)} Y(p)=E(Y(p)). -. -. Ct. 1 = - - - t'Ct. (52). (K-1)a 2 + _ _ l _ t 'Ct e. (53). Levando (52) em (49) obtemos E SQ{Tratamentos aj.}. K. para C definida em (24) e para. I. t. k=l. k. o. temos desenvolvendo (53), que a(p-2). E SQ{Tratamentos ajo }. (K-l)a 2. 2. A. p + p+r + _ _K ______. e. 1- p2. 4.1.7. Esperança matemática da soma de quadrados. períodos e média, ignorando tratamentos De (35) temos SQ {Períodos e Médias}. _ _ _1_ _ _ p' (p) A p(p). a(1_p2)2. onde por (42). p(p). K. I. t 2. k=l k. de.

(55) 47. Logo 1. SQ {Períodos e Média}. (54). usando (41) e (20) temos que 1. A. =>. A. substituindo em (54) vem. portanto posto (Xl) 0~ + SQ{ Xi ~ (p)}. E SQ {Períodos e Média}. (55) Y(p)=E(Y(p». -. com E (Y(p». (I. B. D') X. 0. a. para. -. B'. R(P,p) e (I. 1. ~D')X. a. R(ll,P) (1. ~a. 0. D') .'. posto (Xl) = posto (D). =. B'x' (I. a. R(p,p). Y(p)=E(Y(p». -. Xl [ (XiXI r]' Xi (Ia ~ D') X. ~D). -. a. 0. -. 1. B. D')X. R(l1,p) e por (41). Ll1 x'(I 1. a. ®D')X. B R(p,p). Logo. ~. R(l1,p). -. mas por (40). (I. (56). = P. 1. Pp.

(56) 48. 1. SQ{ Xi ~(p)} Y _ (p)::(1a 0 DI) X. (3 R(~,p). 1 =--1 _ p2. (57). pois P é simétrica e não singular. Logo, usando (20) vem -1. ___1___ LI A L. L'P L. a(l- p2) para A e L definidas em (20) e (9) obtemos -1. L'P L = a{l-p)[p- (p-2)p]. c. substituindo em (57) vem. SQ{. Xi ~(p)}. 1. (58). Y(p)=E(Y(p). -. -. levando (56) e (58) em (55) obtemos E SQ {Períodos e Média}. p. " +. o~. 1. e. { C. 1-1. 2. (59). + p' P P }. Por outro lado, de (38) temos que a soma de quadrados média ignorando tratamentos e períodos e: SQ {Média} =. 1 c{l_p2). 2. G (p). com. c. j ,j. por (41) .. De (42) temos G(p). 11_p2. j' Y(p). Logo SQ { Méd ia} = Y' (p) j (j' j). j ' Y(p). SQ {j , Y (p) }. da.

(57) 49. Portanto posto (j) 0 2 + SQ {j'Y(p)} e. E SQ {Média}. (60) Y (p)=E(Y (p)). Mas, posto (j). 1 e. E(~(p)) = (Ia. -. D')XI. ®. -. §. para. B. ~. e. R(~). (I0D')X a R(11) Logo por (40). (I. a. (5'). 1. B. D' )X. R(~). 11- p2. e • I. ~. (I. §. a €> D1)X\. =. j 'j 11. R(11) sendo (j I j). 1. j ~. 1. 11- p2. obtemos. c SQ{j'Y(p)}. 1 1 _ p2. C. 11. 2. substituindo em (60) obtemos. (61). E SQ {Nédia}. Portanto, de (59) e (61) podemos obter a esperança matemática da. soma. de. quadrados de períodos ajustada para a média e ignorando tratamentos, isto. e: E SQ {Períodos}. 1 (p - 1) 0 2 + - - - pl P P e 1 _ p2. 4.1.8. Esperança matemática da sorna de quadrados resi. dual De (5) ternos SQ {Total} = Y'(p) Y(p). Y' (p) I. Y(p) ap -.

(58) 50. Logo E SQ {Total}. posto (1. ap. ) 0 2 + y' (p) y(p). e. Y (p)=E (Y (p) )=(I a ap 0 2 +. e. S' X'. (I. a. 0 D) (r. a. 0 D') X. ~D'). X. S. -. S. (62). Mas por (41). (I. a. 0. 1. D') X S. -. Portanto, em (62) obtemos. ESQ {Total}. ap. 2. 0. e. +. 1 1 _. ( j' j 11 2 +p'X'X p+t'X'X. -. p2. 11-. -. t). 22-. ou, pela notação de (41). ESQ {Total}. ap. 0. 2. e. +. 1 1 _. ( C. 11 2 + p' P P + t' T t ). p2. Por diferença podemos obter a esperança matemática da soma de quadrados do resíduo,. E SQ {Resíduo} = ESQ {Total} - E SQ {Períodos e Média} - ESQ {Tratamentos aj.} = [ap - p - (K - 1)] 0. 2. e. ou E SQ{ Resíduo} uma vez que. t' C t = t' T t. [p(a -1) - (K-l)] 0 2 e K. -1. t' NP N' t. e. para. I. k=l. t. k. o. temos que N' t =. o..

(59) 51. Os resultados obtidos sao sumarizados no quadro que se gue: Esperanças matemáticas das somas de quadrados. G.L.. F. Variação. E SQ. Períodos (aj. para Média,. (p-I) 0 2 +. p-1. ignorando Tratamentos) Média (ignorando Períodos. e. 1 1 _ p2. p' P P. 1. e Tratamentos). Períodos e Média. p. (ignorando Tratamentos). K-1. Tra tamen tos (aj us tado). Resíduo. [p (a-1)- (K-l) ] 0 2 e. p(a-l)-(K-l). Total. ap. ap. + __1__ (c 11 2 + p' P p + t' T t) e 1 _ p2. 0 2. 4.2. Variância de estimativas de efeitos de tratamentos De (43) temos que Q(p) =R'Y(p) 11_P2. -. -1. onde. R'. X' - NP X'. 2. 1. Logo (1 _ p2) R' Var{Y(p)} R. Var {Q(p)}. por (6) Var{Y(p)}= I. ap. 0. 2. e. se.

(60) 52. portanto Var {Q(p)} ou Var {Q(p)} usando (47) temos Var {Q(p)}. (63). Por outro lado, de (45). t. C Q(p). Logo Var { t. }. usando (63) vem (64) Portanto, se Z' t é estimável, isto e, Var {. z' f}. Z' Var { t } Z. Usando (64) temos. Para Z. C a, pois C. = C', vem. Var{Z't}. z'. a'C, então.

(61) 53. e para. zt. == [O .•. 1 ... -1 ... O] temos. (65) a(p-2) K. 4~3.. Exemplo ilustrativo da análise da variância pelo mode lo auto-regressivo Como ilustração, consideremos o caso de K = 3. e p. =3. tratamentos. períodos, adotando-se as observações da Tabela 1, relativas aos 6. primeiros anlmalse os 3 primeiros períodos, obtendo o seguinte quadro de dados. Produção média diária de leite em kg e estatísticas básicas para análise da variância pelo modelo auto-regressivo com p = 0,9 e tI = t. 2. =. t. 3. =. O. Períodos Animais. Totais Pl. P2. P3. 1. 9,64 (1). 9,88 (2). 7,96 (3). 2. 13,95 (2). 13,13 (3-). 10,49 (1). 3. 8,26 (3). 7,69 (1). 7,50 (2). 4. 8,75 (1). 8,48 (3). 8,37 (2). 5. 9,38 (2). 8,55 (1). 7,43 (3). 6. 17,07 (3). 14,61 (2). 14,30 (1). 17,64. 46,10. 14,93. 82,67. 26,71. 37,85. 22,26. 86,82. 22,70. 40,73. 18,86. 82,29. p.. 67,05. 62,34. 56,05. P j (p). 10,9440. J. 2,0454. -0,0560. 18,39. 16,24. 24,79. TI. 59,42. 23,33. 24,49. 15,87. T2. 63,69. 25,33. 21,61. 15,39. T3. =. 62,33.

(62) 54. No esquema temos. a == 6;. r == 6-,. K == P. e. 3. 2r (p-I). fi. ==. == 4. p(K-I) com. P. jk. ;. P. (p) J. e. TU) definidos em 4.1.2 k. e p-1 G(p). (1-P)P. 1. + (1- p)2. I. P. + (l-p)P. . 2. J. J"". p-1. P. T (p) == T - p k k. I. P. j==1. jk. + p2. I. j=2. P. 12,9334. T (j) k. ou seja TI (p) == 59,42 - 0,9.08,67) + 0,81. (16,24). 1,7714. T (p) = 63,69 - 0,9.(86,82) + 0,81. (24,49) 2. 5,3889. T (p) 3. 62,33 - 0,9.(82,29) + 0,81. (21,61). 5,7731. Qk (p). 1 T (p) - G(O) k K. ou seja Q1 (p) = 1,7714 - -. 1 3. 12 9334 '. -2,5397. Q2 (p) == 5,3889 - -. 1 3. 12 9334 '. 1,0778. 5, 7731 - -. 1 3. 12 9334 '. 1,4620. Q3 (p) Portanto,. SQ {Média (ignor. Trat. e Per.)}. SQ {Períodos e Média (ignor. Trat.)}. 698,7169. 1. p. I. j=1. P.P.(p) J J. donde SQ {Períodos (aj. para Média, ignoro Trat.)}. 54,0609. 752,7778.

(63) 55. K. 1. SQ {Tratamentos aj.}. 2. I. 4,5732. Qk (p). k=l. a. 1. SQ {Total}. iI. p. 2. {(1-p )Yl1 +. 1. j~2 (Y ij - PYi(j_l»2}. ___1___ {0,19.(8ll,69l5) + 2,7905 + 4,9045} 0,19. 852,1915. por diferença obtemos a SQ {Resíduo} e o quadro da análise. da. variância. sera: F. Variação. G.L.. SQ. QM. F. N.M.S.. 0,3134. .:. 73 %. Média. 1. 698,7169. Períodos. 2. 54,0609. Tratamentos ajo. 2. 4,5732. 2,2866. Resíduo. 13. 94,8405. 7,2954. Total. 18. 852,1915. Portanto, o valor de F nos leva à nao rejeição da hipótese de que tI = t. 2. = t. 3. = O, como era de se esperar.. Em GODOI (1983) o autor. utiliza os mesmos dados deste exemplo ilustrativo, e obtém para o ~uto-regressivo. no esquema de reversão um valor F. correspondendo a um N.M.S . obtém F. =. .=.:. = 1,0369 com 2 e 13 g.l.. 37%, enquanto que para o modelo " switchback". 0,8180 com 2 e 3· g.l. correspondendo a um N.M.S. ~ 52%. Se considerarmos tI = -0,5 kg; t. 2. = 0,0 kg e t 3 = 0,5 kg e. adcionarmos estes valores às observações respectivas do quadro obtemos. modelo. anterior,.

(64) 56. Períodos Animais P2. Pl. P3. 1. 9~14. (1). 2. 13~95. (2). 13,63 (3). 9,99 (1). 3. 8,76 (3). 7,19 (1). 7,50 (2). 4. 8,25 (1). 8,98 (3). 8,37 (2). 5. 9,38 (2). 8,05 (1). 7,93 (3). 6. 17,57 (3). 14,61 (2). 13,80 (1). 9~88. (2). 8~46. e utilizando as mesmas fórmulas anteriores, obtemos o quadro. (3). análise. da. da variância que se segue:. G.L.. F. Variação. SQ. QM. F. N.M.S.. 4,8429. ::. 2,7%. Média. 1. 698,7169. Períodos. 2. 54,0609. Tratamentos ajo. 2. 70,6612. 35,3306. Resíduo. 13. 94,8405. 7,2954. Total. 18. 918,2795. Portando, o valor de F nos leva à reJelçao da hipótese que t. l. =. t. 2. =. t. 3. =. O, como era de se esperar.. Já em GODOI (1983), os resulta. dos obtidos pelo autor foram: para o modelo auto-regressivo no esquema de reversão F. = 6,0473 (N.M.S . .:: 1,3%) e para o modelo "switchback" F = 5,39. (N.M.S . .:: 10%).. Assim, a adoção do esquema "change-over" para. auto-regressivo se apresenta mais sensível que o modelo usual de como será verificado na seqüência deste trabalho.. o. modelo Lucas,.

(65) 57. 4.4. Comparação da sensibilidade dos modelos e adequação do modelo auto-regressivo Nas Tabelas de 4 a 15 sao apresentados os resultados. das. análises, baseados nos quais podemos discutir a adequação do modelo autoregressivo às várias situações experimentais, bem corno comparar a sensibi lidade na detecção de efeitos de tratamentos pelos modelos: (a) "Swi tchback" (b) Rotativo no esquema em quadrados latinos (c) Auto-regressivo com p (d) Auto-regressivo com p. 3 períodos. =K. Nas análises efetuadas através do modelo. do. delineamento. rotativo (b), para cada valor de K considerado, não mais que 5% delas apr~ sentaram interação (Tratamento x Quadrados Latinos) significativa, nos leva à não rejeição da hip6tese de ausenCla desta interação. o e. que conse. qüente adoção do resíduo médio corno estimador do erro amostraI para. este. modelo. distribuições. Na Tabela 4 são apresentadas as médias das. dos níveis mínimos de significância (N.M.S.) para os vários ensalOS na au sência de efeitos de tratamentos, bem corno os respectivos valores da est~ tística D do teste de aderência de Kolmogorov-Smirnov,. da. dos N.M.S. à distribuição uniforme no intervalo [0, 1].. distribuição. Nesta tabela. serva-se urna boa adequação dos vários modelos às condições. experimentais. e pode-se verificar para o modelo auto-regressivo urna tendência em. reje!. tar indevidamente a hipótese de ausência de efeitos de tratamentos, à dida que o valor de p adotado supera o populacional 0,91.. Por outro. para valores de p inferiores ao populacional, constata-se urna. à direita na distribuição dos N.M.S.. ob. me lad~. assimetria.

(66) 58. Nas Tabelas 5~ 6 e 7 são apresentadas as médias e padrões das distribuições dos N.M.S. na presença de efeitos tratamentos.. desvios. aditivos. Nestas tabelas pode-se verificar a superioridade dos. de mode. los auto-regressivos (c) e (d) em relação aos usuais (a) e (b), no que se refere à sensibilidade na detecção de contrastes de tais efeitos.. Para. modelos (c) e (d) percebe-se que tal sensibilidade aumenta em função. do. valor de p adotado, e que se tal valor supera o populacional existe tendência de se detectar mais diferenças significativas do que. os. uma. realmente. existem, em função dos resultados apresentados na Tabela 4. Comparando-se os resultados obtidos para os modelos regressivos (c) e (d), percebe-se que a sensibilidade aumenta. em. autofunção. do número de períodos adotados, indicando aSSlm que o caso em que. p. K. deve ser preferível ao caso em que p < K. Nas Tabelas 8, 9 e 10 são apresentadas as distribuições de frequências para as quatro classes iniciais, dos 100 N.M.S. para cada saio, considerando-se efeitos não todos nulos de tratamentos.. en. Também des. tas tabelas podemos comprovar a superióridade dos modelos (c) e (d) na de tecção de contrastes entre tais efeitos~ uma·vez que as frequências. dos. N.M.S. nas classes iniciais são maiores para estes modelos do que para os usuais (a) e (b).. Percebe-se porém que o modelo rotativo (b) e malS. sível que o auto-regressivo com p. =. 3 períodos (c)~ quando K. que tal superioridade inexiste para K. =. 5.. Esse resultado vem. 4,. sen sendo. malS. uma. vez confirmar que o modelo auto-regressivo deve ser preferível com numero máximo de períodos, isto e p. =. K.. Entretanto, em se comparando com o. mo. dela "switchback" (a), a sensibilidade é maior para o auto-regressivo mes mo com p. =. 3 períodos..

(67) 59. .-. Na Tabela 11 são apresentadas as médias e. .. dos. var]~anClas. 100 valores da estatística F, obtidas nas análises da variância para vários ensalOS com ausência de efeitos de tratamentos.. Observa-se. os nesta. tabela que os resultados obtidos são bastante próximos dos valores esper.§: dos das distribuições F correspondentes, os quais também são apresentados nesta tabela, indicando, portanto, uma boa adequação dos modelos.. Obser. va-se ainda que, para os modelos auto-regressivos, o valor de F é. propo~. cional ao valor do coeficiente p adotado, sendo que para p em torno 0,91 é que se obtém uma melhor adequação.. de. Estes resultados sugerem. que, sup~. variando o valor de p, os valores de F passam de subestimativas para restimativas do valor exato. Nas Tabelas 12, 13 e 14 sao apresentados os quocientes médias de 100 análises do QM Trat~. (aj.) pelo QM Res., para os vários. salas com efeitos não todos nulos de tratamentos.. Para os modelos. de en. auto-. regressivos observa-se que os valores obtidos sao muito próximos dos esp~ rados segundo a expressão. E (QMT). (66). E (QMR). onde. 0. 2. e. = 6,00. é adotado e indicado por GODOI (1983) para os dados. Tabela 1, segundo o modelo auto-regressivo.. da. Observa-se ainda nestas tabe. las que os valores dos quocientes passam de superestimativas. a. subestima. tivas dos valores esperados, a medida que se aumenta o valor do coeficien resultados. te p, sendo que, em geral, para p em torno de 0,91 se obtém mais concordantes. Na Tabela 15 sao apresentadas as médias. e. os. desvios. drões dos 100 valores do Quadrado Médio Residual para os vários. p.§:. ensaios,.

(68) 60. donde se pode inferir que os modelos auto-regressivos (c) e (d) com. p em. torno de 0,91 apresentam resultados concordantes com o valor populacional 0 2 = 6,00. -e. Percebe-se ainda que a variância residual passa de. subestiula. da para superestimada, conforme se aumenta o valor de p, o que leva a. re. sultados concordantes com os apresentados nas tabelas anteriores. Por outro sao concordantes. lado,. podemos. notar. que. alguns. resultados. com os que se podem inferir da expressão (65). relativa. à variância de um contraste entre dois tratamentos. De fato, nesta são observamos que aumentando o valor de p e/ou o valor de p,. diminui. variância, o que implica em uma ma~or sensibilidade para a detecção tes contrastes.. expre~. a des. Ademais se p < O, o que em geral não ocorre em experime~. tos com vacas em lactação, a variância é maior do que se p ~ 0, do uma menor sensibilidade do modelo.. resultan.

(69) 61. 5. CONCLUSÕES. Em função dos resultados obtidos e apresentados no. capít~. lo anterior, destacam-se as seguintes conclusões: (a) O modelo auto-regressivo com 3 ~ p ~ K é adequado para experimentos com vacas em lactação, desde que o coeficiente de correlação linear entre períodos possa ser obtido de lactações anteriores de animais que poderão ser amostrados para o ensaio; (b) Se tal coeficiente exceder o populacional, haverá tendência indevida, do modelo, de detectar mais diferenças de efeitos. uma de. tratamentos, enquanto que a sensibilidade diminui se utilizarmos um valor menor que o populacional; (c) Em condições ideais, isto é, com o verdadeiro valor de p, os modelos auto-regressivos com p = 3. e. p. =. K sao mais sensíveis do que. os modelos dos delineamentos " switchback" e rotativo, respectivamente; (d) Deve-se dar preferência ao modelo auto-regressivo p = K,. p01S. períodos;. com. a sensibilidade do modelo se mostrou proporcional ao número de.