4. Procedimentos Teóricos, Analíticos e Metodológicos
4.7 Os dados, as técnicas e as representações gráficas e cartográficas
4.7.2 Procedimentos e técnicas estatísticas para análise temporal
Foram analisados os dados de precipitação acumulada e número de dias com chuva - NDC - para cada posto separadamente. Com base nessas séries, os dados foram submetidos às medidas de variabilidade, separabilidade e ordens quantílicas, conforme indicações de Xavier e Silva (2010) e de, tendência e rupturas seriais, de acordo com Pettitt (1979) e Debortoli et. al (2012).
Assim, agruparam-se todos os dados mensais acumulados de CHA e NDC dos postos em escalas trimestrais, sazonais, interanuais, quinquenal e decadal, a fim de representar essas escalas de variabilidade.
As variabilidades (Chuva, NDC, ODP, OS, TSM da Região do Niño 3.4 das vazões fluviais) nas respectivas escalas temporais foram representadas pela técnica de padronização (índice padronizado), obtida pela fórmula:
Z(i) = (P(i) – Pm)/Dp
Onde: Z(i) é variável normalizada (totais de chuva e número de dias com chuva); P(i) valor médio anual da variável na série histórica; Pm é o valor médio da variável no período, Dp é o Desvio Padrão. No Microsoft Excel®, o cálculo foi realizado pela fórmula padronizar.
A variabilidade trimestral foi representada pelos desvios padronizados e agrupados equivalente aos trimestres de outono (março, abril e maio), inverno (junho, julho e agosto), primavera (setembro, outubro e novembro) e verão (dezembro, janeiro e fevereiro).
A variabilidade sazonal foi representada por meio do agrupamento da estação mais úmida, denominada Estação Chuvosa, que mostra que no período de outubro a março há maior pluviosidade e NDC, do que no período de abril a setembro,
apresentado como uma estação mais amena, neste caso, denominada Estação Menos Chuvosa.
A variabilidade interanual foi representada pelos totais anuais padronizados. A variabilidade quinquenal e decadal foi representada pela técnica da Média Móvel Aritmética para cinco e dez anos. A técnica é representada, conforme fórmula a seguir:
Onde é a média móvel para os períodos admitidos; é a procura atual no período ; e, é o numero dos anos – cinco e dez. Com a aplicação dessa técnica pode- se suavizar os valores na variabilidade e observar algumas características das ciclicidades e periodicidades, segundo o período de tempo.
Após o tratamento das séries temporais dos valores trimestrais, sazonais e anuais, foram submetidos aos modelos estatísticos utilizados por Debortoli e. al, (2012) para verificação de rupturas seriais, tendências e correlações linear. Tais técnicas correspondem aos testes de Pettitt, Mann-Kendall e Regressão Linear.
Os parâmetros utilizados para os testes aplicados foram: hipótese alternativa ≠ 0; nível de significância de 5%; número de simulações em 10.000, com tempo máximo de 180s. Sendo esses valores aplicados para todas as estações e nas escalas correspondentes.
Bruijnzeel (2004) sugere que essas três técnicas podem auxiliar na verificação de possíveis alterações em ciclos hidrológicos correlacionados a mudanças do padrão de vegetação, de uso e ocupação da terra e a modelização dos climas regionais.
O Teste de Pettitt tem a possibilidade identificar se as séries históricas são homogêneas por intermédio de cálculos estatísticos específicos. É um teste não paramétrico que não requer uma hipótese sobre a distribuição dos dados. O Teste de Pettitt é uma adaptação do teste de Mann-Withneym, cuja base é a identificação de um momento de transição dentro das séries (PETTITT, 1979; MORAES et. al., 1995; BACK, 200; DEBORTOLI et. al, 2012).
Para os resultados encontrados, o teste foi realizado em todas as estações de para as séries históricas dos valores de chuva e de NDC em todas as escalas temporais.
O Teste de Mann-Kendall é normalmente utilizado paralela ou conjuntamente com um teste não paramétrico para determinar se uma tendência é significativamente “[...] identificável em uma série de tempo, incluindo, eventualmente, um componente sazonal” (DEBORTOLI et. al, 2012, p.204, tradução nossa).
Segundo Libiseller e Grimvall (2002), esse teste é um resultado da união de um teste não paramétrico, inicialmente, estudado por Mann e, depois retomado por Kendall (DEBORTOLI e al., 2012).
Conforme Moraes et al. (1995), o teste considera que uma série temporal de Xi
de N termos (1≤ i ≤ N) consiste na soma tn do número de termos mi da série, relativo ao
valor Xi, cujos termos precedentes (j < i) são inferiores ao mesmo (Xj < Xi), isto é:
A significância estatística é testada a partir de tn para a hipótese nula, usando um
teste bilateral, essa pode ser rejeitada para grandes valores da estatística u(t) dada por:
O teste de Mann-Kendall se baseia na hipótese nula ou H0 que não existe uma tendência na série e, em mais três hipóteses alternativas, sendo as de tendência negativa, tendência zero e tendência positiva.
Gossens e Berger (1986) afirmam que esse teste é mais apropriado para análises de tendências (mudanças) climáticas, além disso, permite a detecção e localização temporal do início da tendência.
O Teste de Pettitt (PETTITT, 1979; MORAES et. al.,1995; BACK, 2001) utiliza uma versão do teste de Mann-Whitney, no qual se verifica se duas amostras: X1,....Xt e
Xt+1, ....,XT, ambas são da mesma população, ou seja, todos os anos na série histórica
pertecem as mesmas classes. O processamento do cálculo em Ut,T faz uma contagem do
número de vezes que um ano da primeira amostra é maior que o membro da segunda e, pode ser escrita:
para t = 2..., T
Onde sgn(x) = 1 para x> 0; sgn(x) = 0 para x = 0; sgn(x) = -1 para x < 0. A estatística Ut,T é, então, calculada para os valores de 1 < t <T e a estatística k(t) do teste
O terceiro teste estatístico permitiu observar quais estações têm apresentado aumento ou diminuição de valores ao longo do tempo, sendo determinado pelo valor de
α
da Regressão Linear‚ conforme fórmula:Em síntese, a análise de série histórica – 1947 a 2011 e 1976 a 2011 - juntamente com os testes ajudaram a ordenar estações que possuíam os seguintes padrões estatísticos:
a) séries com tendências positivas, negativas e nulas; b) séries com rupturas positivas, negativas e nulas;
c) séries históricas com tendências e rupturas positivas e negativas.
A determinação de padrões habituais e extremos foi realizada para toda a série histórica analisada por meio da classificação dos trimestres, estações e anos padrão habitual (APH); padrão chuvoso (APC); padrão extremamente chuvoso (APEC); padrão seco (APS) e; padrão extremamente seco (APES). Para a classificação dos anos- padrão utilizou-se a Técnica dos Quantis.
A técnica consiste em dar o valor 1 ao ano com a menor precipitação sazonal e o valor m (número de anos da série) para o ano com a maior precipitação sazonal. Em seguida, esses valores são normalizados por m, obtendo-se, dessa forma, uma série com valores entre 0 e 1 (MEISNER, 1976). Sua função é representada por:
Em que P é uma ordem quântica (probabilidade); F(x) é a função de distribuição da variável aleatória X em causa de um quantil Q(p) dessa variável. Assim, um quantil na cauda superior (máximos), será aquelecom valores próximos a p=1, enquanto que os quantis na cauda inferior (valores mínimos) apresentarão valores próximos de p≥0 ou p=0.
Sendo assim, mediante a série histórica de 1947 a 2011 e 1976 a 2011, os valores de chuva e de NDC foram convertidos em percentis de ordem e, os quantis (q) 0,10; 0,35; 0,65; e 0,9 foram utilizados para delimitar as seguintes faixas de chuva: Extremamente Seco foram os anos-padrão que ficaram abaixo do quantil 0,10; os anos- padrão Seco, entre os quantis 0,10 e 0,35; os anos-padrão Habitual ficaram entre os quantis 0,35 e 0,65; os anos-padrão Chuvosos, entre os quantis 0,65 e 0,90; e os que
apresentaram valores acima do quantil 0,90 foram os anos-padrão Extremamente Chuvoso.
A classificação com valores foi processada em todos os postos pluviométricos separadamente pela ferramenta de “Formatação Condicional” no Windows Office
Excel® e, representada em quadros de variação dos anos-padrões Habituais a Extremos,
conformeTabela 4.
Tabela 4 - Procedimentos para classificação dos anos e estações-padrão.
Org. Nascimento Júnior, L.
Para obter a relação de influência ou associação da ODP com a variabilidade pluviométrica e do NDC foram realizados três aplicações.
A primeira consistiu em uma correlação visual feita pela inserção conjunta das variações dos índices padronizados para todas as escalas e o IODP anual. A segunda aplicação do exercício foi realizada pela simulação da diferença entre os desvios dos valores primários e as distintas fases da ODP. Já a terceira se baseou na associação estatística obtida por meio da correlação linear, determinada pelo Coeficiente de Pearson.
A simulação da diferença de valores sob fases distintas da ODP foi realizada para a série histórica de 1976 a 2011 e, consistiu na separação dos valores da ODP+ (1976 a 1998) dos valores da ODP- (1999 a 2011).
O coeficiente de Pearson foi utilizado para correlação em variabilidade dos valores bases aos índices da ODP nas escalas trimestrais, sazonais e anuais de chuva para cada posto separadamente.
O coeficiente de correlação linear refere-se ao um procedimento numérico entre as variáveis, e não implica numa relação de causa e efeito, mas como medida da intensidade de um relacionamento linear entre as duas variáveis.
O coeficiente é apresentado por Toledo e Ovale (2008), em que os valores de r variam entre 1 e -1, sendo que o valor zero representa a ausência de correlação linear.
Classe do Ano-Padrão Quantil Formatação Condicional Cor
Estremamente Seco - PES Q = 0,10 Valores menores e iguais PES
Seco - OS Q = 0,35 Valores entre PES e PS
Habitual - PH
Chuvoso - PC Q = 0,65 Valores entre PC e PEC
Para obter a, sendo a significância de r, foi aplicado o teste t de Student, considerando pelo menos
α
= 0,05, conforme demonstrado a seguir:A interpretação dos produtos de Correlação Linear sugere a leitura de três resultados. O primeiro indica o sinal, o segundo é o valor absoluto e o último é o quadrado do coeficiente de correlação.
O sinal do coeficiente de correlação linear, indicado por valores positivos, mostra que as duas variáveis tendem aumentar ou diminuir conjuntamente. A existência de valores negativos (-) aponta que as duas variáveis testadas mostram sinais contrários.
O valor absoluto do coeficiente demonstra a intensidade estatística da correlação. O valor nulo mostra ausência de correlação, enquanto que os valores absolutos iguais à unidade evidenciam perfeita relação entre as duas variáveis testadas.
O quadrado do coeficiente de correlação (r²) mostra o percentual da variância que pode ser explicada por uma das variáveis em relação a outra.
O mapeamento dos desastres foi organizado em planilhas eletrônicas com o número total de ocorrência. Porteriormente, os valores foram submetidos ao processo de relativização através de um índice númerico. Os índices foram baseados na razão dos totais de ocorrência e abrageram a escala de classes de 0 a 1, processados a partir do seguinte modelo:
N = X. 100 / Xt
Onde, X é a variável observada, Xt é o total numérico da variável obsevado em cada município; N é o valor a ser mapeado. Com esse índice foi possível elaborar as análises espaciais comparativas na escala regional e municipal, segundo a ocorrência de desastres.
Todos os cálculos e gráficos foram produzidos e realizados nos softwares