Reservatório 1 94

Após o processamento dos dados referentes ao Reservatório 1, foram geradas 386 discrepâncias de 881 interseções planejadas. A primeira etapa, conforme exposto

na seção 2, consiste na importação do arquivo XYZdz, com posterior realização da análise exploratória (Tabela 3).

Tabela 3 – Estatística descritiva da área de estudo. Número de Discrepâncias 386 Média (m) 0,091 Mínimo (m) -1,773 Máximo (m) 2,150 Variância (m²) 0,1363 Coeficiente de Curtose 15,790 Coeficiente de Assimetria 1,150 Distância Mínima (m) 0,014 Distância Máxima (m) 2445,570

Analisando a Tabela 3, percebe-se que os dados apresentam uma variabilidade alta, considerando o valor da variância (WARRICK & NIELSEN, 1980). Os coeficientes de assimetria e curtose que quantificam, respectivamente, o desvio da distribuição das discrepâncias em relação a uma distribuição simétrica e o grau de achatamento da distribuição, indicam uma distribuição basicamente simétrica e leptocúrtica. Diante disso, conclui-se, inicialmente, que a amostra tende a possuir uma distribuição normal e, dada a alta variabilidade, está eivada de dados discrepantes, isto é, outliers.

A Figura 7 apresenta gráficos que auxiliam na análise exploratória e, assim sendo, são construídos e gerados pelo algoritmo desenvolvido.

O histograma das discrepâncias, a curva de densidade e o gráfico Q-Q Plot são ferramentas capazes de fornecer uma impressão acerca da normalidade dos dados. Dentre os três, o Q-Q Plot possui características mais robustas, uma vez que permite checar a adequação da distribuição de frequência dos dados (empírica/real) à uma distribuição normal. Se a distribuição empírica é normal, o gráfico será apresentado como uma linha reta (HÖHLE & HÖHLE, 2009). Após a análise gráfica, em desacordo com a conclusão anterior, verifica-se a não normalidade dos dados que deverá posteriormente, caso seja constatada a independência espacial, ser confirmada por testes de normalidade univariada.

Para detecção de outliers a metodologia sugere a aplicação de 3 métodos, a saber: Boxplot de Tukey, o Boxplot Ajustado e o Z-Score Modificado. Através da aplicação destas técnicas foram detectados 55 outliers pelos métodos Boxplot de Tukey e Boxplot Ajustado e 52 pelo Z-Score Modificado. Ressalta-se que esta é uma fase importante e, por esse motivo, deve ser realizada com muita atenção. Diante disso, os dados processados, correspondentes as discrepâncias localizadas como outliers, foram reavaliados, buscando-se falhas no processamento durante as fases de eliminação de spikes e tops, redução de maré e aplicação da velocidade de propagação do som às sondagens. Feito isso, pôde-se concluir que para a área de estudo os métodos Boxplot mostraram-se, de certo modo, eficientes. Os resultados idênticos obtidos pelas técnicas Boxplot reafirmam a simetria da base de dados analisada.

Após a eliminação dos outliers a amostra apresentou graficamente, um maior grau de normalidade, conforme pode ser visto na Figura 8. Todavia, a comprovação sobre a normalidade do conjunto de discrepâncias apenas pode ser obtida através da aplicação de testes de normalidade, que por sua vez, supõem independência amostral.

A próxima etapa, consiste no cálculo da incerteza amostral que pode ser realizada, conforme exposto na seção 2, pelos estimadores: _{����, � e ��������}. A Tabela 4 apresenta as estimativas para os dados sem outliers e com outliers.

Tabela 4 – Estimativa pontual da incerteza vertical amostral. Estimador Dados com

outliers Dados sem outliers ���� (�) 0,380 0,100 � (�) 0,380 0,100 �������� (�) 0,109 0,091

Os estimadores _{���� e �, como esperado, apresentaram-se coerentes. Porém,} uma problemática notável destes estimadores é a alta influência sofrida pela presença de outliers. Em contrapartida, o estimador _{��������} mostrou-se bastante eficiente, visto que a presença de outliers na base de dados interferiu minimamente na estimativa pontual da incerteza. Desse modo, confirma-se o alto grau de robustez da estatística ��������, no que concerne o tratamento de dados, sabidamente ou duvidosamente, eivado de outliers.

Comparando as incertezas obtidas através dos dois diferentes conjuntos de dados, observa-se que a computação da incerteza vertical sem uma análise prévia da presença de outliers, subestimaria a qualidade do levantamento. Tal fato pode colocar em dúvida a classificação da sondagem batimétrica de acordo com a norma utilizada e/ou requerida para o projeto em questão, levando, inclusive, a uma rejeição da batimetria pelo executor ou contratante.

Em concordância com a seção 2, num contexto estatístico é sempre preferível que o estimador seja sempre apresentado conjuntamente com seu grau de incerteza, isto é, o intervalo de confiança. Comumente adotam-se níveis de significância de 5%, sendo necessário, nesses casos, estimar a incerteza vertical associada ao _��95%. De posse destas quantidades, pode verificar se o levantamento hidrográfico atende os requisitos de incerteza previstos na S-44 (IHO, 2008; DHN, 2014).

Assim, seguindo o fluxograma da metodologia proposta, passa-se a análise de independência dos dados a partir da construção do semivariograma. Nessa etapa, o algoritmo confecciona três semivariogramas, o primeiro com alcance igual a 75% da distância máxima; o segundo com 50% e o terceiro com 25%. Por meio da análise desses gráficos concluiu-se que a variável em questão é espacialmente dependente.

Contudo, como pode ser visto na Figura 9, a dependência é moderada ( ������

�������~0,55) (CAMBARDELLA et al., 1994).

Figura 9 – Semivariograma das discrepâncias para distância de 440m (18% da distância máxima).

Constatada a dependência espacial, torna-se necessária a utilização de metodologias que levem em conta a autocorrelação espacial, uma vez que a desconsideração desta condição compromete a definição dos intervalos de confiança. Sendo assim, de acordo com o método proposto, aplica-se o Block Bootstrap para a estimativa dos níveis de confiança. Deve-se atentar que, na presença de autocorrelação espacial, a aplicação de testes de normalidade é, teoricamente, inconsistente.

A diagonal do bloco foi configurada com o valor aproximado do alcance, ou seja, 300 metros (Figura 9), e o número de replicações Bootstrap adotado foi de 1.000. Assim, o Block Bootstrap estabeleceu 1.000 novos conjuntos de dados, todos com 331 observações (tamanho do conjunto original, após a exclusão dos outliers). A partir destes, obteve-se a amostra Bootstrap, contendo 1.000 valores da estatística de interesse. A Figura 10 ilustra os histogramas e gráficos Q-Q Plot das amostras Bootstrap geradas para os estimadores: _{�, ���� e ��������}.

Figura 10 – Histograma e gráficos Q-Q Plot da amostra Bootstrap dos estimadores: _{�, ���� e ��������}.

Analisando a Figura 10, percebe-se que as amostras Bootstrap, principalmente, as concernentes aos estimadores _{� e ����, aparentam seguir normalidade. Através} dos cálculos da variância e dos coeficientes de assimetria e curtose, verifica-se que ambas as amostras apresentam baixa variabilidade (WARRICK & NIELSEN, 1980), com variância na casa do centésimo de milímetro, são basicamente simétricas e possuem funções de distribuição muito próximas de uma distribuição mesocúrtica. Dentre os três estimadores, a amostra referente a _{��������} possui distribuição com menor grau de normalidade. Em todos os casos, os intervalos de confiança são extraídos das amostras Bootstrap através dos cálculos dos quantis 0,025 e 0,975, ou seja, _��95% =[�_0,025,�_0,975].

Com o objetivo de avaliar as estimativas do algoritmo Block Bootstrap desenvolvido, foi implementado o cálculo do viés da amostra Bootstrap, que é definido como a diferença entre a incerteza estimada através da amostra original e a mediana da amostra Bootstrap. A Tabela 5 apresenta uma síntese das estatísticas calculadas.

Tabela 5 – Incerteza vertical amostral ao nível de confiança de 95% e viés das amostras Bootstrap.

Estimador Incerteza _Vertical ����% Viés da Amostra _Bootstrap

���� (�) 0,100 [0,090; 0,107] 0

� (�) 0,100 [0,090; 0,108] 0

�������� (�) 0,091 [0,080; 0,102] 0,002

Os estimadores apresentaram intervalos de confiança bastante estreitos, com amplitude em torno de 2 centímetros, o que mostra que os dados analisados possuem uma boa confiabilidade, isto é, tais amostras representam com fidelidade a população de origem e dessa forma, pode-se confiar no julgamento acerca da qualidade vertical do levantamento hidrográfico analisado. No que tange as amostras Bootstrap, geradas a partir do método Block Bootstrap implementado neste trabalho, nota-se que o viés calculado possui valor nulo para os estimadores _{���� e � e apenas 2 milímetros para} o estimador _{��������}. Tais fatos apenas compravam a eficiência da metodologia proposta.

De posse das estatísticas apresentadas na Tabela 5, conclui-se que ambos os estimadores exibem resultados coerentes. Todavia, destaca-se que a presença de outliers na base de dados pode, dependendo do estimador utilizado, mascarar os resultados. Sendo assim, quando forem utilizados os estimadores _{���� ou �, deve-} se ter certeza que a amostra não possui outliers. Nos casos em que há dúvidas acerca da presença de valores anômalos, uma opção é utilizar o estimador _{��������}. Na verdade, em todos os casos, a escolha desta última estatística sempre trará resultados mais confiáveis.

Computada a incerteza vertical, ao nível de confiança de 95%, pode-se proceder com a classificação do levantamento hidrográfico de acordo com as tolerâncias estipuladas na Publicação Especial nº 44 (S-44) ou demais normativas que a batimetria deva atender. A Tabela 6 exibe as tolerâncias definidas pela S-44 para o levantamento analisado, bem como a classificação alcançada através da análise tradicional (seção 2.4).

Tabela 6 – Tolerâncias estipuladas para o Levantamento Hidrográfico da área de estudo e classificação via exame tradicional (profundidade média: 3,315 metros).

Ordem Intervalo de 95% de

Tolerância (m)  Classificação

Especial [-0,251; 0,251] 85,23%

1A/1B [-0,502; 0,502] 91,71%

2 [-1,003; 1,003] 95,60%

Primeiramente deve-se esclarecer que o enquadramento do levantamento hidrográfico em determinada ordem (S-44) ou categoria (NORMAM-25) é condicionado a uma série de fatores e não somente ao intervalo de incerteza vertical amostral alcançado. Nesse sentido, ao focar apenas na incerteza vertical, a Tabela 6 sugere que o levantamento analisado seria classificado na Ordem 2, uma vez que pouco mais de 95% das discrepâncias possuem magnitude dentro do intervalo [-1,003; 1,003]. Segundo IHO (2008), esta ordem é a menos restritiva e destina-se a áreas onde a profundidade da água é tal que uma descrição geral do leito submerso é adequada. Note que, se menos de 95% das discrepâncias estivesse fora da tolerância definida para a Ordem 2, o levantamento não encontraria classificação junto a S-44.

Por outro lado, através da aplicação do método proposto, obteve-se uma Incerteza vertical em torno de 10 centímetros e _��95% com amplitude máxima de 2 centímetros. Sendo assim, nitidamente, a classificação tradicional mostra-se pouco eficiente, subestimando a qualidade dos dados coletados. Vale ressaltar que a normativa citada neste texto concerne a avaliação de dados batimétricos destinados a produção de cartas náuticas que serão utilizadas com vistas à segurança da navegação de superfície e à proteção de ambiente marítimo. Assim sendo, uma avaliação mais fidedigna e confiável é sempre preferível.