SANEAMENTO AMBIENTAL EXPERIMENTAL - TH 758

(1)

SANEAMENTO AMBIENTAL

EXPERIMENTAL - TH 758

Profª Heloise G. Knapik

Programa de Pós Graduação em Engenharia de Recursos Hídricos e Ambiental Departamento de Hidráulica e Saneamento Universidade Federal do Paraná

(2)

Objetivos

• Análise de dados da última prática: DBO e Coliformes

• Relatórios e instruções para o seminário

• Parâmetros de validação

• Propagação de erros e critérios de rejeição

• Apresentação de dados

(3)

Temas Seminários

• ANA CAROLINE (M) – Monitoramento ETE [P + DE]

• ANNA CAROLINA (M) – Redes de distribuição [P + LEG]

• BRUNA VOGT BAR (D) – Análises voltadas a telhados verdes [P + DE] • DANIELA (M) – Monitoramento de wetlands [P + DE]

• JULIANA (M) – Procedimento análise de metais no sedimento [P + DE] • MICHEL (M) – Remoção de fósforo [Frações de fósforo + DE]

• TAIANE (M) – Esgoto em cidades pequenas [P + LEG]

• TÚLIO (M) – Tratamento e reuso de águas cinzas [P + DE] • VICTÓRIA (D) – Pós-tratamento de efluentes [P + DE]

(4)

Estrutura do Seminário

• Tempo: 15 minutos de apresentação + 5 de

perguntas/debate (apenas slides)

• Conteúdo:

• Parâmetro

: destacar questões do método, fragilidades e

potencialidades, incertezas, relação com o projeto de

pesquisa.

• Legislação

: abordar questões atuais, fragilidades, aplicações,

comparações com os limites dos métodos

e incertezas,

relações com o projeto de pesquisa.

• Delineamento experimental

: para o projeto de pesquisa,

fazer o delineamento necessário para o parâmetro de análise

+ roteiro de coleta/laboratório.

(5)

PARÂMETROS DE VALIDAÇÃO

(6)

Normatização

Método

normatizado

Desenvolvido por um

organismos de normalização

ABNT, ASTM, APHA

Método não

normatizado

Desenvolvido por qualquer laboratório

Adaptados a partir de métodos normalizados e validados

Publicados em revistas, fabricantes de

equipamentos, kits de leitura

(7)

Validação

“A validação deve garantir, através de estudos

experimentais, que o método atenda às exigências das

aplicações analíticas, assegurando a confiabilidade dos

resultados” [Anvisa]

• Métodos não normalizados

• Métodos criados/desenvolvidos pelo próprio laboratório

• Métodos normalizados usados fora dos escopos para os quais foram concebidos

(8)

Parâmetros de validação

• Especificidade e seletividade

• Faixa de trabalho e faixa linear de trabalho

• Linearidade

• Sensibilidade

• Limite de detecção

• Limite de quantificação

• Exatidão e tendência

• Precisão

• Robustez

(9)

Especificidade e seletividade

• Método Específico

• Método que produz resposta apenas para um analito

• Método Seletivo

• Método que produz respostas para vários analitos, mas que pode distinguir a resposta de um analito da de outros

• De acordo com a ANVISA (2003): Capacidade que um método possui de medir exatamente os compostos de interesse em presença de outros componentes tais como impurezas, produtos de degradação e componentes da matriz.

(10)

Faixa de trabalho e faixa linear de

trabalho

Faixa de concentrações do analito ou valores da

propriedade (inferior e superior) no qual o método pode

ser aplicado com precisão, exatidão e linearidade

• Limite inferior

• Limites de detecção (LOD) e de quantificação (LOQ)

• Limite superior

• Limites dependem do sistema de resposta do equipamento de medição

• Faixa linear de trabalho

• A resposta do sinal terá uma relação linear com o analito ou valor da propriedade

(11)

Faixa de trabalho e faixa linear de

trabalho

Faixa de concentrações do analito ou valores da

propriedade (inferior e superior) no qual o método pode

ser aplicado com precisão, exatidão e linearidade

(12)

Faixa de trabalho e faixa linear de

trabalho

Faixa de concentrações do analito ou valores da

propriedade (inferior e superior) no qual o método pode

ser aplicado com precisão, exatidão e linearidade

• A faixa de trabalho deve cobrir a faixa de aplicação para o qual o ensaio será usado

• A concentração mais esperada da amostra deve, preferencialmente, se situar no centro da faixa de trabalho

• Os limites inferiores devem ser iguais ou maiores do que o limite de detecção do método

• Geralmente, 6 ou mais pontos de calibração são usados para determinar a faixa de trabalho

(13)

Linearidade

• É a habilidade de um método analítico em produzir resultados que sejam diretamente proporcionais à concentração do analito em amostras, em uma dada faixa de concentração.

Resolução 899 da ANVISA  coeficiente de correlação (r) = 0,99

INMETRO  valor de r maior que 0,90 é aceitável

(14)

Sensibilidade

• A sensibilidade analítica é a razão entre a inclinação da curva de calibração e o desvio padrão do sinal analítico a uma dada concentração do analito

• É fortemente dependente da concentração

• É a capacidade do método em distinguir, com determinado nível de confiança, duas concentrações próximas

• Em um método sensível, uma pequena diferença na concentração do analito causa grande variação no valor do sinal analítico medido

(15)

LOD (LD) : Limite de detecção

• É a

menor quantidade

de analito (concentração) na

amostra que pode ser verdadeiramente distinguida de

zero.

• Existem muitos conceitos diferentes

• Sua estimativa está sujeita à grande variação • É pouco apropriado para inferência estatística

(16)

LOD (LD) : Limite de detecção

• É a

menor quantidade

de analito na amostra que pode

ser detectada, mas não necessariamente quantificada.

Expressa a menor concentração do analito que pode ser

detectada para um dado tipo de amostra, instrumento

ou método.

[SHRIVASTAVA, 2011]

• É a

menor concentração

que pode ser distinguida com

um certo nível de confiança.

(17)

LOD (LD) : Limite de detecção

• Se uma análise resulta um valor menor do que o LD, a

melhor opção para reportar o resultado é informar que a

concentração

está abaixo do LD

• Não pode-se afirmar que a amostra

não contém o

analito

= sempre há uma possibilidade te que exista,

mas em concentrações não detectáveis pelo método ou

instrumento.

• É recomendável calcular sempre o LOD quando for

(18)

LOD (LD) : Limite de detecção

• Sinal do instrumento: interesse em determinar o menor

sinal que seja diferente do ruído do equipamento

(baseline)

• Regra mais aceitável: o sinal deverá ser pelo menos três a cinco

vezes maior que o valor do ruído/sinal

• Determinações químicas: mínima concentração

necessária para gerar um sinal detectável

• Limite de detecção “medido” (YLOD)

(19)

LOD (LD) – métodos de cálculo

• Definição visual

• Cálculo pela multiplicação de um fator do nível de ruído

do equipamento (3 ou 2 para LD, 10 para LQ)

• Cálculo a partir do desvio padrão de repetições do

branco

• Cálculo a partir da curva de calibração (fator e

inclinação)

(20)

LOD (LD) – a partir de repetidas leituras

do branco

• Cálculo da média e do desvio padrão de múltiplas

leituras na ausência de qualquer analito (20 repetições)

𝑌

_𝐿𝑂𝐷

= 𝑌

_{𝑏𝑟𝑎𝑛𝑐𝑜}

+ 3𝑠

𝑌

_𝐿𝑂𝐷

= 0 + 3𝑠

(21)

LOD (LD) – a partir da curva de calibração

𝐿𝑂𝐷 = 𝐹 ∙

𝑆𝑎

𝑏

F : 3 para LD e 10 para LQ)

Sa é o desvio padrão do branco, o desvio padrão do resíduo da curva de regressão ou

o desvio padrão do intercepto com o eixo do Y de, no mínimo, 3 curvas de calibração

b é a inclinação da curva de calibração

0 10 20 30 40 50 0 100 200 300 400 500 LOD = 0.016 mg/L LOQ = 0.053 mg/L R² = 0.99977 Si g n a l Are a Concentration (mg/L)

(22)

LOB – Limit of Blank (limite do branco)

• LOB é definido como a maior concentração aparente do

analito esperada em análises de amostra sem o analito

(branco)

• LOB é medido a partir de replicatas do branco,

calculado a partir da média e do desvio padrão:

𝐿𝑂𝐵 = 𝜇

+ 1.645𝑠𝑑

(23)

LOQ (LQ) : Limite de quantificação

• É a menor concentração do analito que pode ser

determinada com um nível aceitável de

precisão

e

exatidão

[INMETRO, 2003]

• E a característica de desempenho que define a

habilidade

de um processo de medida química

quantificar

um analito adequadamente

(24)

LOQ (LQ) : Limite de quantificação

• Limites de quantificação são definidos

em termos

de um

valor específico de

desvio padrão relativo

• É interessante declarar uma

concentração

abaixo da

qual o método analítico não pode operar com uma

(25)

LOQ (LQ) : Limite de quantificação

• Métodos:

• Definida arbitrariamente como sendo igual a 10% do desvio padrão

• Definida arbitrariamente como um múltiplo fixo (em geral 2) do

limite de detecção

• LOQ a partir da regressão linear da curva de calibração

𝐿𝑂𝑄 = 10 ∙

𝑆𝑎

𝑏

Sa é o desvio padrão do branco, o desvio padrão do resíduo da curva de regressão ou

o desvio padrão do intercepto com o eixo do Y de, no mínimo, 3 curvas de calibração

(26)

(27)

Exatidão

• Exatidão do método é definida como sendo a concordância entre o resultado de um ensaio e o valor de referência aceito como convencionalmente verdadeiro.

• A exatidão indica a proximidade da medida do valor verdadeiro, ou aceito, e é expressa pelo erro (erro absoluto e erro relativo)

Erro absoluto: diferença entre o valor medido e o valor verdadeiro

(28)

Precisão

• Precisão é um termo geral para avaliar a

dispersão de

resultados

entre ensaios independentes, repetidos de

uma mesma amostra, amostras semelhantes ou padrões,

em condições definidas.

• Repetibilidade

: precisão intra-corrida

• Precisão Intermediária

: precisão inter-corridas

(29)

Precisão

INMETRO  CV de até 20% ANVISA  CV de até 5%

• Três termos são amplamente empregados para descrever

a precisão de um conjunto de réplicas:

Desvio

padrão

Variância

Coeficiente

de variação

(30)

Precisão:

Repetitividade e

Reprodutibilidade

• Repetitividade: é o grau de concordância entre os resultados de medições sucessivas de um mesmo “mensurando”, efetuadas sob as mesmas condições de medição, chamadas de condições de repetitividade:

• Mesmo procedimento de medição

• Mesmo observador

• Mesmo instrumento usado sob mesmas condições

• Mesmo local

• Repetições em um curto espaço de tempo

• Reprodutibilidade: é o grau de concordância entre os resultados das medições de um mesmo “mensurando”, efetuadas sob condições variadas de medição.

(31)

Precisão:

Recuperação

• A recuperação do analito pode ser determinada pela análise de

amostras adicionadas com quantidades conhecidas do mesmo.

• Diferentes concentrações: próximas ao LD, próxima à concentração máxima permissível e em uma concentração próxima à média da faixa de uso

𝑅𝑒𝑐𝑢𝑝𝑒𝑟𝑎çã𝑜 % = 𝐶1 − 𝐶2

𝐶₃ 100

C1: concentração determinada na amostra adicionada

C2: concentração determinada na amostra não adicionada

(32)

Robustez

• A robustez de um método de ensaio

mede a sensibilidade

que

este apresenta face a pequenas variações.

• Um

método robusto

é praticamente

insensível

a pequenas

variações que possam ocorrer quando está sendo executado.

• Quanto maior for a robustez de um método, maior será a

(33)

(34)

PROPAGAÇÃO DE ERROS E

CRITÉRIOS DE REJEIÇÃO

(35)

Média

Desvio padrão

Variância

Coeficiente de

variação

Medidas usuais

N é o número de medidas para o conjunto da amostra

𝑥 =

𝑥

𝑖 𝑁 𝑖=1

𝑁

(36)

(37)

Descartar dados

sem razão

(38)

Resultados questionáveis como OUTLIERS podem ser

devido a um erro grosseiro não identificado.

Critérios para manter ou rejeitar o dado tem seus riscos!!

Limite rigoroso:

corre-se o risco de

manter um valor

falso

Limite tolerante:

pode-se introduzir

um viés nos

resultados

Não há regra universal!!

(39)

Critérios de rejeição de OUTLIERS

Teste Q

𝑄 =

𝑥

𝑞

− 𝑥

𝑝

𝑤

O valor absoluto da diferença entre o resultado

questionável x

q

e o seu vizinho mais próximo x

p

é dividido

pela faixa w do conjunto inteiro para dar a grandeza Q:

Compara-se com o Q

crít

tabelado

Se Q > Q

crit

: o resultado questionável pode ser rejeitado

(40)

Critérios de rejeição de OUTLIERS

(41)

Critérios de rejeição de OUTLIERS

Teste Q

Exemplo: Análise da série de sólidos (Aula prática TH758/2017)

Atenção: Para pequenas amostras (menos que 50 dados!) o uso de

testes estatísticos para a rejeição do resultado deve ser feito com

auxílio de bom senso!

A aplicação de uma boa avaliação baseada em ampla experiência com um método analítico é geralmente a abordagem mais segura na análise de que foi cometido um erro grosseiro em um conjunto pequeno de dados (Skoog).

(42)

Recomendações para o tratamento de

outliers

• Reexaminar cuidadosamente os dados

[importante ter

um caderno de laboratório!]

• Repita a análise se houver quantidade suficiente de

amostra e tempo disponíveis

[importante não deixar o

cálculo para “depois”]

• Aplique um teste estatístico

[com cautela!]

• Se o teste Q indica manutenção,

considere a possibilidade de empregar

a mediana do conjunto em vez da

média

[a média carrega o peso do

valor suspeito]

(43)

APRESENTAÇÃO DE DADOS

(44)

Exemplo de gráfico para representação espacial

- Reservatórios

Parâmetro: Oxigênio Dissolvido Local: Reservatório Passaúna, PR Pontos de Monitoramento: 5 Dados: 1 coleta ou médias Softwares:

Origin 8.5 (ou superior) Arcview (contorno) -49,42 -49,40 -49,38 -49,36 -49,34 -49,32 -25,54 -25,52 -25,50 -25,48 -25,46 -25,44 Superfície Fundo L a ti tu d e (º ) Longitude (º) Reservatório Passaúna: OD (mg/L), 14/02/2017 0,000 1,000 2,000 3,000 4,000 5,000 6,000 7,000 8,000 9,000 Superfície Fundo

(45)

Exemplo de gráfico para representação espacial

- Reservatórios

Parâmetro: Frações de fósforo Local: Reservatório Passaúna, PR

Pontos de Monitoramento: 6 (1 coleta ou médias) Softwares: Origin 8.5 (ou superior)

(46)

Exemplo de gráfico para representação espacial

- Rios

Parâmetro: Oxigênio Dissolvido Local: Rio Iguaçu, PR

Pontos de Monitoramento: 6

Dados: Série de coletas (agrupadas em box-plots) Softwares: Origin 8.5 (ou superior)

IG01 _IG02A IG03 IG04 IG05 IG06 0 10 20 30 40 50 60 BOD (mgO 2 /L) IG01 _IG02A IG03 IG04 IG05 IG06 0 2 4 6 8 10 Dissolved Oxygen (mgO 2 /L)

(47)

Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos Rio Passaúna (BR 277) Fixos Voláteis Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos Fevereiro/2017 Buffer Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos 0 40 80 120 160 200 Captação (sup.) Concentração Sólidos (mg/L) Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos Rio Passaúna (BR 277) Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos Buffer Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos 0 40 80 120 160 200 Captação (sup.) Concentração Sólidos (mg/L) Fixos Voláteis Maio/2017 Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos Rio Passaúna (BR 277) Fevereiro/2016 Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos Buffer Sólidos Totais Sólidos Dissolvidos Sólidos Suspensos 0 40 80 120 160 200 Captação (sup.) Concentração Sólidos (mg/L) Fixos Voláteis

Gráfico estilo colunas com desvio padrão da

análise

Parâmetro: Frações de sólidos Local: Reservatório Passaúna, PR

Pontos de Monitoramento: 3 com 3 períodos de amostragem Softwares: Origin 8.5 (ou superior)

(48)

0 2 4 6 8 10 0 1 2 3 P eaks B , T2 an d T1 (r .u.) DOC (mg/L) (T2) (B) (T1)

Exemplo de gráfico para representação espacial

- Rios

Parâmetros: Carbono orgânico dissolvido e intensidade das bandas de

fluorescência

Local: Rio Iguaçu, PR – 1 ponto de monitoramento

Dados: Sequência de dados de experimento de biodegradação Softwares: Origin 8.5 (ou superior)

(49)

Exemplo de tabela para representação de dados

Parâmetros: Vários (comparativo)

Local: Rio Iguaçu, PR – 6 pontos de monitoramento

Dados: Valores mínimos, máximos, média e número de amostras para

cada parâmetro

(50)

DESENHOS E ESQUEMAS PARA

APRESENTAÇÕES/ARTIGOS

(51)

APHA (1998). Standard Methods for the Examination of Water and Wastewater. 20. ed. Washington: APHA.

Sólidos Totais

Sólidos Suspensos Totais Sólidos Dissolvidos Totais

Sólidos Suspensos Voláteis Sólidos Suspensos Fixos Sólidos Dissolvidos Voláteis Sólidos Dissolvidos Fixos

Sólidos Voláteis Totais Sólidos Fixos Totais

Exemplo de fluxograma – Série de sólidos

Objetivo: Representação do método de sólidos, procedimento do

Standar Methods (APHA, 1998)

(52)

20 C BOD Exp. B Exp. A Nutrients Sample BOD (Oxitop) Experiment A (Open system) Dilution water Experiment B (Closed system)

Exemplo de etapas de procedimento

experimental

Objetivo: Representação de experimento de biodegradação Software utilizado: ChemWin (ou similares)

(53)

Carbono orgânico dissolvido Absorbância no ultravioleta visível Espectroscopia de emissão-excitação de fluorescência 200 300 400 500 600 300 400 500 600

Matéria orgânica lábil: T1, T2 (triptofano), B (tirosina)

Matéria orgânica refratária: A e C (substâncias húmicas)

B T

1

Rio Passaúna, maio/2017

Excitação (nm) Emi ssão (n m) 0,00 0,04 0,08 0,12 0,16 0,20 0,24 0,28 0,32 0,36 0,40 A C T 2

IG01 IG02A IG03IG04IG05IG06 0 10 20 30 40 DOC TOC POC Con c en tr at ion ( m g/ L)

IG01IG02AIG03IG04IG05IG06 IG01IG02AIG03IG04 IG05IG06

Exemplo de técnicas utilizadas em uma

análise química

(54)

Exemplo de etapas de processos

Objetivo: Representação de processos físicos, químicos e biológicos na

circulação/degradação/produção de matéria orgânica na água

(55)

Exemplo de etapas de procedimento de

pesquisa

Objetivo: Representação das etapas de um projeto de pesquisa Software utilizado: PowerPoint!

(56)

Exemplo de resumo gráfico para artigo

Objetivo: Representação gráfica da

contribuição de um artigo científico (exigido por algumas revistas)

Software utilizado: PowerPoint +

(57)

Agradecimentos:

(58)

Próxima semana (laboratório!!!):

• Determinação da concentração de um analito

• Objetivos de aprendizado: curva de calibração, determinação da concentração de ortofosfato, diluição e concentração de amostras

Prática no laboratório:

Elaboração da curva de calibração

Determinação da concentração de ortofosfato em amostras ambientais

(59)

Próxima semana (laboratório!!!):

• Atividades preparatórias para a próxima semana:

– Leitura dos procedimentos:

Método 4500 P do Standard Methods (versão digital ou cópia do Labeam) POP 12 – Série de Fósforo - Ortofosfato

– Organização de um fluxograma para a análise:

Fazer um fluxograma em uma folha A4 com os procedimentos para a análise de ortofosfato na água, a partir do método do manual do Labeam.