DISTRIBUIÇÃO ESTATÍSTICA, PERÍODO DE RETORNO E RISCO PERMISSÍVEL DE VAZÃO MÁXIMA DO RIO XINGU/PA. Resumo

ANAIS ELETRÔNICOS - ARTIGOS

DISTRIBUIÇÃO ESTATÍSTICA, PERÍODO DE RETORNO E RISCO PERMISSÍVEL DE VAZÃO MÁXIMA DO RIO XINGU/PA

Reginaldo Bernardes Pacheco1 Pedro Ivanildo Corrêa de Souza Junior2 Midori Makino3

Resumo

A fim de se compreender o regime hidrológico de uma determinada região, o estudo das descargas máximas é muito importante para prevenção de desastres de origem natural tais como enchentes ou inundações graduais. Utilizando uma serie climatológica de 23 anos de descargas da estação hidrométrica de Belo Horizonte na bacia do rio Xingu na região sul do Estado do Pará, referente ao período de 1976 a 1998, foram selecionadas as descargas máximas anuais de 24 horas para análise de distribuição de probabilidade dos valores extremos (Fisher-Tippet ou Gumbel). Foram utilizados quatro métodos para determinar os parâmetros  e  da distribuição da função cumulativa de probabilidade F(X). O método de regressão apresentou o melhor resultado, demonstrando que em 95% dos casos a descarga máxima de 24 horas não excederia a 17.297 m3/s e em 99% dos casos a descarga máxima não excederia 20.367 m3/s, confirmando o resultado obtido por TESHIMA & SILVA (1999). Determinamos o período de recorrência T de 95 anos para um risco de falha de 10% (assumido por considerações econômicas) para uma vida provável útil de 10 anos. Se a vida provável for de 25 anos, e seu tempo de retorno será de 238 anos.

PALAVRAS-CHAVE: estatística, sistemas hidrológicos, bacias hidrográficas, período de retorno, risco permissível.

Abstract

1

Corpo de Bombeiros Militar do Pará

Meteorologista, Pós-graduado com especialização em Hidrometeorologia pela UFPA Pós-Graduando em Gestão Estratégica em Segurança Pública pelo SENASP

e-mail: pachecodefesacivil@gmail.com 2

Universidade Federal do Pará

Engenheiro Civil, Pós-Graduado com especialização em Hidrometeorologia pela UFPA Mestrando em Mecânica pela UFPA

3

Universidade Federal do Pará

In order to understand the hydrological regime of a given region, the study of peak discharges is very important for prevention of natural disasters such as floods or flood gradual. Using a series of climatological 23 years of discharges from the hydrometric station of Belo Horizonte in the River Xingu in southern Pará, which covers the period from 1976 to 1998, was selected the maximum annual discharges of 24 hours to analyze the distribution of probability of extreme values (Fisher-Tippet or Gumbel). Four methods were used to determine the distribution of cumulative probability function and parameters F (X). The regression method showed the best result, showing that in 95% of the maximum discharge of 24 hours would not exceed the 17,297 m3/s and 99% of cases the maximum discharge would not exceed 20,367 m3/s, confirming the results obtained by TESHIMA & SILVA (1999). Determined the return period T of 95 years to a risk of failure of 10% (assumed by economic considerations) for a probable life expectancy of 10 years. If life is probably 25 years, and his time of return is 238 years.

Introdução

Séries de variáveis hidrológicas como precipitações, descargas, evaporação e outras variáveis, quando observadas ao longo do tempo, apresentam variações sazonais. A observação de séries longas de dados hidrológicos revelará a ocorrência de extremos (máximos e mínimos) e diferentes seqüências de valores hidrológicos caracterizam como variáveis aleatória sendo uma probabilidade de ocorrência de um fenômeno hidrológico com determinada magnitude que desencadeiam desastres cujo objetivo é extrair informações significativas de uma massa de dados e Conseqüente risco de falha. A descarga ou vazão máxima de um rio é entendida como sendo o valor associado a um risco de ser igualado ou ultrapassado, onde as características de descargas ou vazões máximas utilizadas na prevenção de enchentes apresentam interesse de ordem técnica por sua freqüente aplicação nos projetos de obras hidráulicas tais como nos projetos dos vertedouros de barragens, açudes, no dimensionamento de canais, na definição das obras de desvio dos cursos d’água (OCCHIPINTI & SANTOS, 1966). Este trabalho investe-se em obter a distribuição de probabilidade de valores extremos da descarga ou vazões máximas da estação hidrométrica de Belo Horizonte localizada a latitude de 05°22’S e longitude 52°54’W no Rio Xingu, no Estado do Pará, com dados de descargas médias mensais do período de 1976 a 1998. E depois, estimar a probabilidade de uma determinada cheia ocorrer ou ser ultrapassada num determinado ano e o risco da obra falhar uma ou mais vezes ao longo da sua vida útil. O

objetivo é fazer uma análise de valores extremos máximos de descargas da estação hidrométrica de Belo Horizonte localizado na bacia do Rio Xingu-PA usando a distribuição de probabilidade de Fisher-Tippet ou distribuição de Gumbel para a determinação do risco permissível de uma obra em função da vida útil da obra e do período de retorno em anos, proporcionando subsídios aos profissionais como de engenharia, hidrologia e climatologia nas suas obras.

Materiais e Métodos Materiais:

Os dados de descargas médias mensais utilizadas neste trabalho foram gentilmente cedidos pela ANEEL. Foi feita uma seleção dos dados de descarga máxima anual mais intensa ocorrida na estação hidrométrica de Belo Horizonte, de uma série climatológica de 23 anos, correspondente ao período de 1976 a 1998 que constam na tabela 1.

Tabela 1: Descargas médias máximas de 24 horas anuais da estação Hidrométrica de Belo Horizonte (1.976-1.998). ANO DESCARGA MÁXIMA X(m³/s) ANO DESCARGA MÁXIMA X(m³/s) ANO DESCARGA MÁXIMA X(m³/s) 1.976 12.046 1.984 11.257 1.992 12.046 1.977 10.563 1.985 13.341 1.993 12.247 1.978 15.565 1.986 12.530 1.994 13.597 1.979 13.895 1.987 10.776 1.995 12.902 1.980 18.818 1.988 12.720 1.996 9.830 1.981 10.653 1.989 11.419 1.997 13.326 1.982 16.358 1.990 12.046 1.998 12.046 1.983 11.600 1.991 12.486 - -

De modo geral, a descarga é obtida a partir de níveis das águas, observado com ajuda da régua linimétrica ou registrada pelo linígrafo. Citamos os três critérios que podem ser adotados para estabelecer as séries de descargas máximas a serem analisadas: Critério das “séries anuais”, em que as séries são constituídas pelos máximos observados em cada ano, desprezando-se os demais mesmo que sejam superiores às dos demais anos; Critério das

“séries parciais”, em que as séries são constituídas dos n maiores valores observados para cada duração, sendo o n o número de anos do período analisado; Critério das “séries completas”, em que se adotam todos os valores selecionados para a formação das séries. A análise de longas séries de observações nos leva a utilizar o critério das séries anuais em que, as séries são constituídas pelos valores máximos médios observados em cada ano, desprezando-se os demais, mesmo que estes valores sejam superiores às dos demais anos.

Método e Discussão

A distribuição de probabilidade para o cálculo dos valores extremos máximos de descargas médias anuais, neste trabalho, foi baseado na distribuição de probabilidade de Fisher-Tippet ou distribuição de Gumbel. Sua função de densidade de probabilidade tem a forma f(X) ={EXP [- (X- )/]*EXP(-EXP(-[(X- )/])}/, cuja função cumulativa de probabilidade é definida por: F(X) = EXP {-EXP [ (X- )/]} (2.1), onde X é a descarga em questão. Usa-se o sinal negativo no segundo expoente quando se refere aos valores extremos máximos;  e  são os parâmetros de estimativas a serem determinados através de quatro métodos estudados neste trabalho, os quais são:

Método dos Momentos

As estimativas dos parâmetros  e  são baseados nos dois primeiros momentos da amostra, que são a média X e o desvio padrão s, obtidos pelas seguintes equações:X-

0,5772 e s



  6 (2.2). Obtivemos para os dois momentos da amostra os seguintes valores:

X= 12.698,57 m³/s e s = 2.019,40 m³/s. Substituindo esses valores nas equações (2.2), encontramos os seguintes valores de estimativas:  = 11.789,75 e  = 1.574,52. Com estas estimativas para o método dos momentos, a função cumulativa de probabilidade (2.1) se transforma em: F(X) = EXP{-EXP[-(X–11789,75 )/1574,52]} (2.3)

Descargas ajustadas à distribuição de valores extremos pelo Método dos Momentos 0 2 4 6 8 10 0 9 8 0 0 - 1110 0 1110 0 -12 4 0 0 12 4 0 0 -13 70 0 13 70 0 -150 0 0 150 0 0 -16 3 0 0 16 3 0 0 -176 0 0 176 0 0 -18 9 0 0 classes (m3/s) fr equ ênc ia s 0 0,1 0,2 0,3 0,4 pe rc ent age m (%)

fre quê nc ia s o bs e rva da s fre quê nc ia s e s pe ra da s va lo re s e xtre m o s dis tribuiç ã o de Gum be l

A descarga máxima foi obtida diretamente da equação (2.1), aplicando-se duas vezes o logaritmo da função, e para F(X) = 90%, temos:





                  ) ( ) (X EXP EXP X F Ln (2.4)

 

Ln , de onde resulta: X = 15.333 m³/s. Isto significa que,

em 90% dos casos, pelo método dos momentos, a descarga máxima em 24 horas na estação hidrométrica de Belo Horizonte, não excede 15.333 m³/s. Também foram aplicados os mesmos cálculos acima para 95% e 99%, onde obtemos respectivamente 16.466 m³/s e 19.033 m³/s.

Método de Regressão

Igualando a expressão de F(X) dada por (2.1) com a regressão de n/(N+1), isto é F(X) = n/(N+1), sendo N o tamanho da amostra e n o número de ordem e, passando duas vezes o logaritmo neperiano ln resulta:

   X N n ln ln _               1 (2.5). Denotando por: Y =               1 N n ln ln ,    a e  1  

b (2.6) a equação (2.5) toma forma de uma equação da reta,

dada por:YabX (2.7), onde os parâmetros a e b foram estimados da seguinte forma:

Y

a - bX (2.8), ondeYéamédia deY e

No método de regressão uma vez obtidos os valores de a e b, podemos determinar os parâmetros de regressão  e  usando as equações

  

a e b_1 . Utilizando as equações (2.8) e (2.9), obtivemos os seguintes valores para a e b: a = 6,2146 e b = -0,0005. Portanto, a partir das equações

   a e  1   b , temos os valores de  e ,  = 11.703,7576 e  =    Y X  2 . 2      N X X N XY b

1.883,2812. Com as estimativas obtidas pelo método de regressão, a função cumulativa de probabilidade(2.1) se transforma em:F(X)=EXP{-EXP[-(X– 11.703,7576)/1.883,2812]}(2.10).

Descargas ajustadas à distribuição de valores extremos pelo Método de Regressão

0 2 4 6 8 10 9800 - 11100 11100 - 12400 12400 - 13700 13700 - 15000 15000 - 16300 16300 - 17600 17600 - 18900 classes (m³ /s) fr eq u ên cias 0 0,1 0,2 0,3 p er ce n tag em ( %)

frequências observadas frequências esperadas valores extremos distribuição de Gumbel

A descarga máxima foi obtida diretamente da equação (2.1), aplicando-se duas vezes o logaritmo da função, e para F(X) = 90%, temos: _{ }

           _      ) ( ) (X EXP EXP X F Ln (2.11)

 

Ln , de onde resulta: X = 15.942 m³/s. Isto significa que,

em 90% dos casos, pelo método da regressão, a descarga máxima em 24 horas na estação hidrométrica de Belo Horizonte, não excede 15.942 m³/s. Também foram aplicados os mesmos cálculos acima para 95% e 99%, onde obtemos respectivamente 17.297 m³/s e 20.367 m³/s.

Método de Lieblen

No método de Lieblein o cálculo para obtermos os valores extremos foi feito primeiramente com a ordenação dos dados em ordem cronológica e subdivididos em seis grupos com quatro observações em cada grupo. Como, no nosso caso temos uma série de 23 dados, será nulo o último valor do grupo seis. Dentro de cada grupo os dados foram ordenados em ordem crescente e ponderados de acordo com os pesos estatísticos de Lieblein, mostrados na tabela 2.

Tabela 2 - Pesos estatísticos para estimativas dos parâmetros da distribuição dos valores extremos segundo o Método de Lieblein

Grupo X1 X2 X3 X4 X5 X6

G1

G2 b2 -0,72135 0,72135 a3 0,65632 0,25571 0,08790 G3 b3 -0,63054 0,25582 0,37473 a4 0,51000 0,26494 0,15368 0,07138 G4 b4 -0,55862 0,08590 0,22392 0,24880 a5 0,41893 0,24628 0,16761 0,10882 0,05835 G5 b5 -0,50313 0,00653 0,13205 0,18166 0,18448 a6 0,35545 0,22549 0,16562 0,12105 0,08352 0,04887 G6 b6 -0,45928 -0,03599 0,07319 0,12673 0,14953 0,14581

Os valores anuais de descarga máxima de 24 horas da estação hidrométrica de Belo Horizonte da tabela 1. As estimativas de  e  para o método de Lieblein são dadas por:

K X a_j





 (2.12). Onde K é o número de grupos formados. Usando os dados da Tabela 2, obtivemos os seguintes valores das estimativas:  = 1.053,2122 e  = 11.663,4552. Com as estimativas obtidas pelo método de Lieblein, a função cumulativa de probabilidade(2.1)se transforma em:F(X)=EXP{-EXP[-( X–11.663,4552)/1.053,2122]} (2.13)

Descargas ajustadas a distribuição de valores extremos pelo Método de Lieblein

0 2 4 6 8 10 12 9800 - 11100 11100 - 12400 12400 - 13700 13700 - 15000 15000 - 16300 16300 - 17600 17600 - 18900 classes (m³/s) fr eq u ên cias 0 0,1 0,2 0,3 0,4 0,5 p er ce n tag em ( %)

frequências observadas frequências esperdas valores extremos distribuição de gumbel

A descarga máxima foi obtida diretamente da equação (2.1), aplicando-se duas vezes o logaritmo da função, e para F(X) = 90%, temos:





                  ) ( ) (X EXP EXP X F Ln (2.14)

 

Ln , de onde resulta: X = 11.663 m³/s. Isto significa

que, em 90% dos casos, pelo método de Lieblen, a descarga máxima em 24 horas na estação hidrométrica de Belo Horizonte, não excede 11.663 m³/s. Também foram aplicados os

mesmos cálculos acima para 95% e 99%, onde obtemos respectivamente 14.792 m³/s e 16.508 m³/s.

Método da Máxima Verossimilhança.

O método de máxima verossimilhança apresenta algumas características desejáveis para uma estimativa, tais como: Eficiência com menor variância do que quaisquer outros estimadores; Consistência, isto é, assintoticamente não-tendenciosa, com a variância tendendo para zero. De modo geral, as estimativas pelo método de máxima verossimilhança são bastante coerentes. Isto é, se o tamanho da amostra sobre a qual essas estimativas tenham sido calculadas for grande, a estimativa da máxima verossimilhança será “próxima” do valor do parâmetro a ser estimado. É um método iterativo no qual as estimativas de  e  são obtidas pela solução das seguintes equações:





          







O valor de  para iniciar a iteração é, o valor de  calculado pela equação s



  6

do método dos momentos que é: inicial = 1.574,52 . Usando a equação (2.15), obtivemos os seguintes valores das estimativas:  = 12.698,57 e  = 1.331,64. Com as estimativas obtidas pelo método da máxima verossimilhança, a função cumulativa de probabilidade (2.1) se transforma em: F(X)=EXP{-EX [-(X–12.698,57)/1.331,64]} (2.16)

Descargas ajustadas à distribuição de valores extremos pelo Método de Máxima Verossimilhança 0 2 4 6 8 10 9800 - 11100 11100 - 12400 12400 - 13700 13700 - 15000 15000 - 16300 16300 - 17600 17600 - 18900 classes (m³/s) fr e q u ê n c ia s 0 0,1 0,2 0,3 0,4 p e rc e n ta g e m (% )

fre quê nc ia s o bs e rva da s fre quê nc ia s e s pe ra da s va lo re s e xtre m o s dis tribuiç ã o de Gum be l

A descarga máxima foi obtida diretamente da equação (2.1), aplicando-se duas vezes o logaritmo da função, e para F(X) = 90%, temos:  

           _      ) ( ) (X EXP EXP X F Ln (2.17)

 

Isto significa que, em 90% dos casos, pelo método de máxima verossimilhança, a descarga máxima em 24 horas na estação hidrométrica de Belo Horizonte, não excede 15.695 m³/s.

Também foram aplicados os mesmos cálculos acima para 95% e 99%, onde obtemos respectivamente 16.654 m³/s e 18.824 m³/s.

Estimativa dos parâmetros  e :

Os valores dos parâmetros obtidos pelos quatro métodos usados neste trabalho estão apresentados na tabela 3.

Tabela 3: Valores de estimativas dos parâmetros  e 

Método  

Momentos 11.789,75 1.574,52

Regressão 11.703,76 1.883,28

Lieblein 11.663,46 1.053,21

Verossimilhança 12.698,57 1.331,63

Período de retorno e risco permissível

Periodo de retorno:

Período de retorno T, ou tempo de recorrência é definido como sendo o intervalo médio de anos dentro do qual ocorre ou é superada uma dada cheia de magnitude Q. Se p(X) é a probabilidade de esse evento X ocorrer ou ser superado em um ano qualquer, tem-se a relação: ) ( 1 x X p T 

 (3.1) , ou seja, o período de retorno é o inverso da probabilidade de ocorrer um evento X com magnitude igual ou maior que um certo x. Desta forma, pode-se escolher o período de recorrência da cheia a ser utilizada no projeto de uma obra hidráulica, sabendo-se a vida provável da estrutura e escolhendo-se o risco que pode ocorrer de que ela venha a falhar. Obras que devem durar vários anos, expõe-se todo ano a um risco igual à probabilidade de ocorrência de vazão de projeto.

Risco permissível:

O risco R de a obra falhar uma ou mais vezes ao longo da sua vida útil pode ser deduzido dos conceitos fundamentais da teoria das probabilidades dada por:

n T R        

ocorrência do evento, verificamos que para a estação Belo Horizonte o valor máximo esperado foi de 15.942 m3/s , 17.297 m3/s e 20.367 m3/s, respectivamente. Portanto, há riscos de 10%, 5% e 1% de que a vazão exceda este valor máximo esperado, fazendo que o projetista tenha a necessidade de saber quando pode ocorrer este evento novamente ao longo da vida útil da obra. Portanto, o período de recorrência T pode ser obtido usando a equação (3.2) obtendo-se: (3.3) 1 1 1 n _R T  

 , onde: T é o período de retorno em anos; n é a vida útil da obra em anos; R é o risco permissível. Então para estes riscos, obtivemos os seguintes valores para o período de uma cheia maior que o valor máximo esperado, em função da vida provável da estrutura, mostrada na tabela 4:

Tabela 4 – Período de recorrência T em função do risco R e da vida provável n

Com os valores obtidos fica possível fazer uma estimativa do tempo de recorrência de cheias para qualquer obra hidráulica. Por exemplo, se a uma obra correr um risco de 5% de falha (assumido por razões econômicas) e a projetando para uma vida útil provável de 10 anos, terá uma cheia de tempo de retorno igual a 195 anos.

Resultados:

Para determinar o valor de descarga máxima em 24 horas da estação hidrométrica de Belo Horizonte, avaliou-se os valores de X (m³/s) para probabilidade de ocorrer 90%, 95% e 99% em busca de obter valor máximo possível de segurança. Os resultados obtidos para os quatro métodos utilizados neste trabalho encontram-se na tabela 5.

Tabela 5: Valores de X(m³/s) para probabilidade de ocorrer 90%, 95% e 99% para os quatro Métodos.

Probabilidade (%) F(X)

Precipitação X (mm)

Momentos Regressão Lieblein Máxima Verossimilhança

1 10 25 50 100

0,01 _{100 995 2488 4975 9950}

0,05 20 195 488 975 1950

0,10 _{10 95 238 475 950}

Vida Provável n da estrutura em anos Risco R a ser assumido

90 15.333 15.942 11.663 15.695

95 16.466 17.297 14.792 16.654

99 19.033 20.367 16.508 18.824

De acordo com os resultados obtidos mostrados na tabela acima, o Método de Regressão com a probabilidade de ocorrer 90%, 95% e 99% apresentaram os maiores valores de descarga máxima iguais a 15.942 m³/s, 17.297 m³/s e 20.367 m³/s respectivamente. Observa-se também que pelo Método de Máxima Verossimilhança os valores obtidos estão bem próximos aos do método de regressão, confirmando a mesma conclusão de Teshima e Silva (1999). Quanto ao período de recorrência T estudado para o caso de descargas da estação Belo Horizonte, conforme a tabela 4, para um projeto de um vertedor de descarga de enchentes de uma barragem para o qual só se pode ocorrer um risco de vir a falhar de 10% (assumido por considerações econômicas) e que terá vida provável de 10 anos, deve-se adotar, por exemplo, a cheia de tempo de retorno igual a 95 anos. Se a vida provável for de 25 anos, o seu tempo de retorno será de 238 anos.

Conclusão

Concluímos de acordo com os resultados acima que para o dimensionamento de obras hidráulicas onde leva em consideração a capacidade ideal para suportar a ocorrência de descargas ou vazões que atinjam um alto índice, podemos utilizar os dois métodos citados acima para determinar os valores máximos mais seguros. Em relação a projeto de engenharia pretende-se trabalhar com o mínimo de risco possível. O método da regressão nos mostrou que 90% dos casos a descarga não excederia 15.942 m³/s de modo que para um risco de 10% qualquer dimensionamento de uma obra, deverá levar em consideração esse valor máximo de descarga que poderia ocorrer e, para vida útil de uma estrutura em 10 anos, o tempo de retorno necessário para ocorrer uma nova cheia será de 95 anos. Caso optarmos por 95% a descarga máxima não excederia a 17.297 m³/s, porém o risco aumentaria para 5% e o tempo de retorno com mesmo risco e vida útil será de 195 anos. Entretanto, se utilizarmos 99% de probabilidade de ocorrer, a descarga máxima não excederia 20.367 m³/s, mas o risco diminuiria para 1% e o tempo de retorno com mesmo risco e vida útil aumentaria para 995 anos. Estes resultados, juntamente com o conhecimento climatológico da região,

proporcionam uma grande margem de segurança em suas obras, corroborando para um planejamento preventivo para emissão de alerta e alarme nas atividades de Defesa Civil.

Referências

Assis, F. N; Arruda H. V.; e Pereira, A. R. (1996) Aplicações de Estatística à Climatologia. Rio Grande do Sul: Editora Universitária.

Garcez, L. N. (1961). Hidrologia. São Paulo: Edgar Bulcher Ltda, 1961.

Hoffmann, R. e Vieira, S. (1987). Análise de Regressão. São Paulo: Hucitec,1987.

Meyer, P. L. (1965). Probabilidade Aplicações à Estatística, Editora Livros Técnicos e Científicos.

Occhipinti, A. G., Santos, P. M. (1966). Relação entre as precipitações máximas de “um dia” e de “24 horas” na cidade de São Paulo. Anais do 1o

Simpósio de Rêdes Hidológicas, Belo Horizonte.

Teshima, A. R.; Silva, M. M. da (1999). Distribuição de probabilidade de valores extremos da precipitação máxima de 24 horas de Belém – Pará. Trabalho de conclusão de Curso de Especialização em Meteorologia Tropical. Área de concentração em Hidrometeorologia/UFPA.