Tratamento estatístico dos dados

O tratamento estatístico dos dados medidos foi realizado de forma a garantir que a realização de qualquer inferência sobre o modelo de dissolução ajustado fosse estatisticamente significativa. Desta forma, através do teste não paramétrico de Mann-Kendall, foi avaliado se as tendências de crescimento e diminuição do fluxo de massa são significativas dentro do intervalo de tempo avaliado. Além disso, foi verificado se a distribuição de freqüência dos dados medidos era normal (gaussiana), de forma que fosse possível o ajuste do modelo de dissolução.

Análise estatística da tendência da variação do fluxo de massa na fonte

A analise da tendência da variação do fluxo de massa dos compostos BTEX e etanol na fonte foi efetuada através do método estatístico de Mann-Kendall (MANN, 1945; KENDALL, 1975). O método de Mann-Kendall é um teste estatístico para avaliação de tendências. WIEDEMEIER et al. (1999) recomenda o método de Mann-Kendall para determinação do comportamento de plumas de hidrocarbonetos do petróleo, de forma a identificar se as plumas estão em processo de expansão, em estado estacionário ou em fase de encolhimento. Este método foi empregado pela Força Aérea Americana (AFCE, 2000) para a avaliação estatística da tendência da diminuição ou aumento da concentração de contaminantes com o tempo na região da fonte, após o início da implementação de processos de remediação ativa. A vantagem da utilização do método de Mann-Kendall em relação aos métodos estatísticos paramétricos está no fato que a análise independe da distribuição de freqüência dos dados ou que sejam realizadas transformações dos dados, no caso de não normalidade.

Neste estudo, o método de Mann-Kendall foi empregado na determinação da existência de tendência temporal estatisticamente significativa no aumento e na diminuição do fluxo de massa de BTEX e de etanol. O método é exemplificado através da Figura 3.9, onde foram analisados cinco eventos de fluxo de massa (poderia ser concentração) de um determinado contaminante em

uma região à jusante da fonte. O método consiste na comparação seqüencial do evento 1 com o evento 2, em seguida, é comparado o evento 2 com o evento 3, e assim sucessivamente para os demais eventos, até o último evento. Cada linha, abaixo da linha da concentração dos contaminantes, foi ocupada com valores 1, 0 ou –1 em função da seguinte comparação:

se a concentração do evento xi > evento 1 => valor de entrada = +1;

se a concentração do evento xi = evento 1 => valor de entrada = 0;

se a concentração do evento xi < evento 1 => valor de entrada = -1;

onde xi é valor do evento amostral comparado. A soma do resultado de cada comparação foi

colocada na ultima coluna da tabela. O valor estatístico Mann-Kendall (S) é o resultado do somatório desta última coluna.

Método Estatístico Mann-Kendall Evento Amostral 1 Evento Amostral 2 Evento Amostral 3 Evento Amostral 4 Evento Amostral 5

Fluxo de Massa 100 50 85 75 50 Soma das colunas Comparação com o evento 1 -1 -1 -1 -1 -4 Comparação com o evento 2 +1 +1 0 +2 Comparação com o evento 3 -1 -1 -2 Comparação com o evento 4 -1 -1

Valor estatístico Mann-Kendall (S) = -5 FIGURA 3.9 – Análise de tendência pelo método estatístico Mann-Kendall

FONTE – Adaptado de Wiscosin Department of Natural Resources (1999).

A tendência do aumento e da diminuição do fluxo de massa de BTEX, em função da presença do etanol, foi avaliada através da determinação do valor estatístico Mann-Kendall (S). Para valores de S maiores que zero os dados apresentam tendência de aumento do fluxo de massa com nível de confiança superior a 90%. Ao contrário, quando valores de S são negativos o fluxo de massa tende a diminuir no período de análise. Caso o valor de S seja nulo não há hipóteses de tendência, e neste caso, deve ser analisado o coeficiente de variação. Se o coeficiente de variação

CV (razão entre o desvio padrão e a média aritmética dos fluxos de massa de cada evento) for menor ou igual a um, o fluxo de massa apresenta comportamento estacionário.

O teste de Mann-Kendall foi aplicado aos dados de fluxo de massa da fonte de contaminação da Fazenda Ressacada através de uma planilha eletrônica Microsoft Excel com a

rotina de Mann-Kendall, implementada pelo Wisconsin-DNR Remediation and Redevelopment Program (WISCOSIN DNR, 2001). Os dados de entrada foram organizados em dois conjuntos de eventos amostrais, representando dois momentos, um correspondente ao fluxo de massa crescente e outro decrescente. Os dados analisados correspondem aos fluxos de massa na linha de poços mais próxima a fonte, conforme descrito no item 3.2.1. Os resultados do valor estatístico Mann- Kendall (S) indicaram se o fluxo de massa de BTEX estava diminuindo ou aumentando, com um nível de confiança de 90%.

Avaliação da normalidade da distribuição de freqüência

Para o ajuste de um modelo matemático linear ou não-linear, de forma que seja possível fazer alguma inferência sobre o modelo ajustado, é necessário que as variáveis dependentes, utilizadas no ajuste, tenham distribuição normal de freqüências (MONTGOMERY e PECK, 1992). Desta forma, foi efetuada a avaliação da normalidade da distribuição de freqüência das variáveis dependentes utilizadas no ajuste do Modelo de Caixa, ou seja, a massa remanescente de compostos BTEX na fonte e o fluxo de massa. Considerando que estas variáveis foram determinadas em função da concentração dos compostos BTEX na região da fonte, a avaliação da normalidade foi realizada para os valores de concentração dos contaminantes.

A normalidade da distribuição foi verificada com auxílio do Software Statistica 6.0. Foram construídos gráficos de distribuição de freqüências, onde o eixo das abscissas representa os intervalos de concentração e, o eixo das ordenadas, o número de observações de cada intervalo. A observação visual destes gráficos indicou o tipo de distribuição encontrada e a necessidade de transformação dos dados para que a distribuição se tornasse normal. A normalidade dos dados também pôde ser verificada através da construção de gráficos dos valores de concentração dos compostos BTEX versus valor normal esperado. A linearidade destes gráficos é um indicativo que os dados avaliados possuem distribuição normal.