Continuidade espacial de chuvas intensas no estado de Minas Gerais

Spatial continuity of intense rainfall in Minas Gerais State, Brazil

ENGENHARIA RURAL

Continuidade espacial de chuvas intensas no estado de Minas Gerais

Spatial continuity of intense rainfall in Minas Gerais State, Brazil

Carlos Rogério de Mello^I; Marcelo Ribeiro Viola^II; José Marcio de Mello^III; Antônio Marciano da Silva^I

^IEngenheiros Agrícola, Doutores, Professores – Departamento de Engenharia/DEG – Universidade Federal de Lavras/UFLA – Cx. P. 3037 – 37200-000 – [e-mail]; [e-mail] – Bolsista CNPq

^IIEngenheiro Agrícola, Mestre – Departamento de Engenharia/DEG – Universidade Federal de Lavras/UFLA – Cx. P. 3037 – 37200-000 – [e-mail]

^IIIEngenheiro Florestal, Doutor, Professor – Departamento de Ciências Florestais/DCF – Universidade Federal de Lavras/UFLA – Cx. P. 3037 – 37200-000 – [e-mail]

RESUMO

O mapeamento de variáveis climáticas, como chuvas intensas, é de fundamental importância para o manejo ambiental. Para isto, ferramentas estatísticas para interpolação espacial devem ser devidamente analisadas e caracterizadas. Assim, objetivou-se com este trabalho analisar modelos e métodos de modelagem do semivariograma que melhor se ajustem a chuvas intensas com duração de 20, 60, 360 e 1440 minutos e tempos de retorno de 5, 50 e 100 anos, fornecendo subsídios primordiais para espacialização da mesma pelo interpolador geoestatístico, para o Estado de Minas Gerais. Foram testados os modelos esférico, exponencial e gaussiano pelos métodos de ajuste da Máxima Verossimilhança (MV) e Mínimos Quadrados Ponderados (MQP). Utilizou-se como critério de escolha do melhor modelo, o menor erro médio gerado pela validação cruzada, e em caso de similaridade, também foram considerados o maior grau de dependência espacial e o menor efeito pepita, além da análise visual do ajuste do modelo ao semivariograma experimental. O modelo exponencial se sobressaiu em nove das doze situações analisadas, o gaussiano em duas e o esférico em uma situação. Quanto aos métodos de ajuste, o MQP sobressaiu em todos os casos estudados, o que permite sugerir o modelo exponencial ajustado pelo método dos mínimos quadrados ponderados como sendo o mais adequado para o mapeamento da chuva intensa para as condições do Estado de Minas Gerais.

Termos para indexação: Estrutura de dependência espacial, chuva intensa, geoestatística.

ABSTRACT

Climate variables mapping, as intense rainfall, is very important to environmental management. Although, statistical tools for spatial interpolation should be analyzed and characterized. This paper aims to analyze models and methods of semi-variogram modeling applied to intense rainfall with duration time of 20, 60, 360 and 1440 minutes and 5, 50 and 100 years of recurrence and consequently, giving support for its mapping, using kriging, in Minas Gerais State. Exponential, Spherical and Gaussian semi-variogram models were tested based on Weighted Minimum Square (WMS) and Maximum Likelihood (ML) methods, using GeoR software. For the best model and method evaluation was considered the mean absolute error produced by cross-validation. For mean error similarity, it was considered the spatial degree of dependence and smaller nugget effect. Visual adjustment of semi-variogram was also analyzed to complete the selection. Exponential model was predominant in nine of twelve situations, followed by Gaussian model in two situations and Spherical for just one. Weighted Minimum Square was the best adjust method in all situations. These results have indicated the exponential model adjusted by Weighted Minimum Square to intense rainfall mapping for Minas Gerais State conditions.

Index terms: Spatial dependence structure, intense rainfall, geostatistics.

INTRODUÇÃO

A análise de chuvas intensas consiste em um dos produtos mais aplicados da hidrologia. Seu uso está associado ao dimensionamento de obras hidráulicas para controle de cheias, abastecimento e condução de água para usos múltiplos, drenagem urbana e do solo e modelagem e controle da erosão do solo. Segundo Mello et al. (2003b) quando a chuva intensa é associada a uma duração e a um tempo de retorno específico, passa a ser considerada como uma chuva de projeto, que uma vez aplicada a um modelo chuva-vazão, possibilita estimativa da vazão de projeto. Quando se necessita da chuva de projeto para localidades que não dispõem de séries históricas de precipitação, muitas vezes são utilizadas equações de locais próximos, o que pode comprometer a confiabilidade da estimativa.

Neste contexto, um dos principais ramos de pesquisa em hidrologia e climatologia consiste da aplicação do geoprocessamento, por meio da análise de técnicas para uma melhor interpolação espacial da chuva intensa, gerando mapas com boa aplicabilidade aos projetos. Neste intuito, Mello et al. (2003a) avaliaram 2 interpoladores distintos para os parâmetros da equação de chuvas intensas em localidades no estado de São Paulo, sendo o inverso do quadrado da distância e a krigagem geoestatística. Apesar dos autores não terem estudado o melhor método e modelo, e tendo trabalhado com o modelo exponencial ajustado pelo método da tentativa e erro ("a sentimento"), concluíram que a krigagem apresenta resultados consideravelmente mais precisos e que deve ser aplicada quando possível.

Mello et al. (2005) e Ribeiro Junior & Diggle (2001) também relatam a supremacia do interpolador geoestatístico, em suas respectivas áreas de estudo. No entanto, esta condição está associada à modelagem do melhor semivariograma possível, acompanhado de uma análise exploratória prévia dos dados.

Assim, conduziu-se este trabalho com o objetivo do estudo da estrutura de dependência espacial da chuva intensa, associada a diferentes tempos de duração e de retorno, visando a subsidiar o mapeamento da chuva de projeto por krigagem geoestatística, no estado de Minas Gerais.

MATERIAL E MÉTODOS

Caracterização da região de estudo e levantamento dos dados

O estado de Minas Gerais encontra-se na região Sudeste do Brasil, possuindo grande variabilidade climática: clima Cwb/Cwa, característico da região Sul/Sudeste do estado, influenciada pela Serra da Mantiqueira, com invernos frios e verões brandos e chuvosos, Aw na região Triângulo Mineiro, Leste e norte do Estado, com invernos brandos e verões quentes, além de concentração das chuvas no verão, e clima BSw na região do Vale do Jequitinhonha, com características semi-áridas (ANTUNES, 1986).

Foram utilizadas neste trabalho séries históricas de intensidade máxima de precipitações, associadas às durações de 20, 60, 360 e 1440 minutos, geradas por Freitas et al. (2001), para 177 localidades no estado de Minas Gerais. A estas séries foi ajustada e aplicada a distribuição de Gumbel, segundo Haan (2002) para estimativa de cada um dos valores associados aos tempos de retorno de 5, 50 e 100 anos, totalizando 12 diferentes situações para a chuva de projeto.

Análise Espacial dos dados

A fim de se obter um mapa de Minas Gerais georreferenciado em coordenadas métricas, livre de fusos-horários, adotou-se a projeção Cônica Albers Equivalente, uma vez que, segundo Dieulin et al. (2006), essa projeção é a mais indicada para utilização em Sistemas de Informações Geográficas (SIG), pois possui a característica de preservar a área.

A análise geoestatística deve ser precedida da análise exploratória dos dados, com o objetivo de se estruturar um estudo mais consistente, de forma que algumas pressuposições geoestatísticas possam ser atendidas, especialmente a não tendenciosidade. O programa GeoR, de livre acesso, foi utilizado em todas as etapas do trabalho, inclusive na análise exploratória, que constituiu-se na geração de gráficos de tendência, histogramas de freqüência das diferenças entre pares de pontos e análise de "outliers" por meio de gráficos "boxplot", com o objetivo de se verificar se há ou não tendência dos dados e retirá-la quando constatada, para aplicação dos conceitos previstos na geoestatística (RIBEIRO JUNIOR & DIGGLE, 2001).

Para cada situação de chuva intensa foi desenvolvido um estudo da continuidade espacial, avaliando os modelos esférico, exponencial e gaussiano, cujas estruturas matemáticas e descrição de cada parâmetro estão apresentados em Isaack & Srivastava (1989) e Mello (2004).

Métodos de Ajuste de Semivariogramas

O ajuste do modelo espacial ao semivariograma experimental é desenvolvido por métodos matemáticos, estimando-se os parâmetros característicos de cada modelo. Neste trabalho foram testados os métodos da Máxima Verossimilhança (MV) e Mínimos Quadrados Ponderados (MQP). Segundo Mello (2004), o método MQP é uma tentativa de ponderar a semivariância, uma vez que a ponderação pela variância das estimativas das semivariâncias não é conhecida, o que é obtido dividindo-se o erro quadrático médio pelo número de pares de pontos em cada distância no semivariograma.

A MV denota a máxima probabilidade de algo ser verdadeiro. Este estimador apresenta propriedades tais como ser assintoticamente não tendencioso, fornecer estimativas de variância mínima, ser consistente e invariante (RIBEIRO JUNIOR & DIGGLE, 2001). Este método atua maximizando a função de densidade de probabilidades em relação aos efeitos fixos e aos componentes de variância dos efeitos aleatórios do modelo, sempre fornecendo estimativas positivas de componentes de variância. Ressalta-se que o método da MV ajusta-se aos dados amostrados e não aos pontos do semivariograma e é imprescindível que haja normalidade das diferenças entre os pontos amostrados, conhecida como multivariada normal (MELLO, 2004).

Escolha do método e modelo de semivariograma

A fim de verificar a qualidade do ajuste do semivariograma aos dados experimentais, e assim constatar o modelo que melhor se adequou, foram avaliados 2 parâmetros, ambos intimamente ligados à geoestatística: a Validação Cruzada ou auto-validação e o grau de dependência espacial, ambos segundo Mello et al. (2005). A Validação Cruzada consiste em estimar, com base no modelo de semivariograma ajustado, os pontos que foram realmente amostrados, podendo-se assim, comparar o valor estimado ao real. O procedimento consiste em eliminar cada um dos pontos amostrados e estimar, por meio da krigagem, o valor para o local amostrado, com base nos demais pontos. Assim, trabalhou-se com os erros médio e máximo produzidos pelos métodos e modelos trabalhados.

O grau de dependência (GD) consiste da razão entre a variância estrutural (C₁) e o patamar (C₀ + C₁) e permite classificar o grau de dependência espacial. Segundo Mello (2004), este parâmetro pode ser calculado por:

C₀: efeito pepita (representa a variação aleatória do fenômeno estudado); C_1: Variância estruturada (variância explicada pela componente espacial); C₀ + C₁: patamar (variação total do fenômeno avaliado).

A classificação adotada é a seguinte: GD £ 25% (grau de dependência fraco), entre 25 e 75% (moderado) e > 75% (forte), conforme Cambardella et al. (1994). Basicamente, este parâmetro de análise consiste de um avaliador complementar aos erros gerados pela validação cruzada e foi tratado desta forma, neste trabalho. Além disto, em caso de igualdade dos erros e GD, foi considerado aquele com o menor efeito pepita.

RESULTADOS E DISCUSSÃO

Análise Exploratória dos Dados

Na Figura 1 apresentam-se gráficos de tendência dos dados de chuva intensa e histograma da diferença entre pares de pontos para a situação de tempo de duração de 20 minutos e tempo de retorno de 5 anos. As demais situações analisadas proporcionaram comportamento semelhante tanto em termos de tendência quanto de normalidade das diferenças. Analisando o comportamento da distribuição dos dados nas direções Norte-Sul (Latitude) e Leste-Oeste (Longitude), constata-se boa distribuição dos mesmos, o que caracteriza não tendenciosidade dos dados, atendendo às condições para que a hipótese intrínseca seja aplicada.

O histograma das diferenças entre pares de dados (Figura 1c) permite uma boa inferência sobre a existência da distribuição multivariada normal, que é uma condição desejável em geoestatística, particularmente no método da máxima verossimilhança (MV), o qual pressupõe esta condição (RIBEIRO JUNIOR & DIGGLE, 2001). Com isto, analisando-se o histograma da Figura 1c, constata-se boa distribuição de freqüência em termos de normalidade das diferenças, permitindo verificar existência de normalidade multivariada, significando que os ajustes pelo método da Máxima Verossimilhança podem ser possíveis. O gráfico "boxplot" permite estudar a simetria das distribuições e detectar os "outliers", os quais constituem-se de pontos amostrados no espaço cujos valores são discrepantes dos demais. Os dados discrepantes podem afetar a variância aleatória existente no processo, implicando na presença ou ausência de correlação espacial (RIBEIRO JÚNIOR & DIGGLE, 2001). Portanto estes pontos foram removidos para posterior análise espacial.

Modelos e métodos de ajuste de semivariogramas

O comportamento dos modelos de semivariograma ajustados pelos métodos MV e MQP pode ser analisado por meio do grau de dependência espacial (GD) e erros médio e máximo, gerados pela auto-validação. Na Tabela 1, apresentam-se os resultados da auto-validação, grau de dependência espacial e parâmetros dos semivariogramas ajustados, com a indicação do melhor método e modelo (em negrito), de acordo com os critérios adotados.

Na maioria dos eventos estudados a diferença entre os erros dos modelos ajustados foi pequena, levando-se a adotar como critério decisivo para escolha o maior grau de dependência espacial. Entretanto, especificamente para a chuva intensa de 60 minutos tanto os erros quanto o grau de dependência, foram muito próximos, resultando na escolha do modelo e método que produziram o menor efeito pepita. Das doze situações estudadas, o modelo exponencial ajustado pelo método dos mínimos quadrados ponderados (MQP) se sobressaiu em nove, o modelo gaussiano em duas e o esférico em uma situação (Tabela 1). Observa-se que, para o tempo de duração de 20 minutos, houve maior dificuldade de ajuste dos semivariogramas pelo MQP, especialmente para o modelo exponencial, tendo sido observado, em duas situações, efeito pepita puro para este modelo e método. Convém ressaltar que houve dificuldade de ajuste do modelo para o tempo de retorno de 100 anos, tendo sido encontrado, da mesma forma, efeito pepita puro. Neste caso excepcionalmente, optou-se por adotar o tempo de retorno de 20 anos (Tabela 1).

Analisando o desempenho geral dos modelos e métodos de ajuste dos semivariogramas, fica evidente a superioridade do modelo exponencial (independentemente do método) e do método dos Mínimos Quadrados Ponderados (independentemente dos modelos) para os dados de chuvas intensas no estado de Minas Gerais, uma vez que esta metodologia prevaleceu em todos os casos estudados neste trabalho. No entanto, para tempo de duração de 20 minutos, o método MQP apresentou efeito pepita puro para quatro diferentes situações (duas com modelo exponencial, uma com modelo esférico e uma com o modelo gaussiano), enquanto que o método da Máxima Verossimilhança (MV) não produziu este resultado em nenhuma situação. Isto ocorreu porque o ajuste do modelo pela MV foi favorecido pela condição de normalidade multivariada dos dados. Assim, o método MV pode ser aplicado para validar o ajuste produzido, especialmente quando da ocorrência de efeito pepita puro pelo método MQP.

Carvalho et al. (2004) estudando a precipitação pluvial média anual no estado de São Paulo, utilizaram dados de 379 estações pluviométricas, visando a testar a adequabilidade do emprego do método MQP para ajuste de modelos ao semivariograma em comparação ao método de tentativa e erro ("a sentimento") averiguou utilizando o método de auto-validação "jack knifing", superioridade do método MQP. Ainda de acordo com este estudo, houve um melhor ajuste dos dados com o modelo exponencial frente ao esférico e gaussiano.

Na Figura 2 apresentam-se os semivariogramas selecionados para cada uma das situações estudadas, observando-se boa adequação dos modelos ao semivariograma experimental, reforçando as avaliações e resultados produzidos pela validação cruzada.

A literatura trata o grau de dependência espacial menor que 25% como fraco, entre 25 e 75% como moderado e maior que 75% como alto. O grau de dependência médio dos modelos escolhidos foi de 63,50%, apresentando-se no nível moderado, porém próximo ao grau de alta dependência espacial. O evento que apresentou o maior grau de dependência foi 360 minutos e tempo de retorno de 5 anos (66,78%) e o que apresentou o menor, foi 20 minutos e tempo de retorno de 50 anos (53,32%).

Em relação ao erro médio (E.M) encontrou-se uma amplitude de 7,07% (precipitação de 20 minutos para um tempo de retorno de 5 anos) a 13,46% (precipitação de 360 minutos de duração para tempo de retorno de 100 anos), dentre os modelos escolhidos, apresentando uma média de 10,42%. Segundo Mello et al. (2003a) e Vieira et al. (2002) estes erros são consideravelmente baixos, demonstrando o elevado potencial que a interpolação geoestatística (krigagem) possui para o mapeamento da chuva intensa e por conseqüência, a chuva de projeto. O interpolador que não considerar a estrutura de dependência espacial, certamente produzirá estimativas tendenciosas com mapas interpolados com valores viesados, distorcendo a realidade.

O comportamento do alcance do semivariograma está associado à existência de estrutura de dependência espacial e aplicação dos princípios da correlação espacial. Estes variaram aproximadamente entre 150 e 1200 km, mostrando a extensão da estrutura de dependência espacial da variável chuva intensa, que em alguns casos, cobre praticamente todo o estado. A questão central do alcance consiste do uso dos conceitos da estatística clássica e da estatística espacial. Pelos resultados foi possível demonstrar que, em se tratando de chuvas intensas, os conceitos da estatística espacial propiciam resultados mais precisos, quando comparado com a estatística clássica. Resultados demonstrando o ganho de precisão com estatística espacial na presença de correlação, podem ser vistos em Mello et al. (2003a, 2005), que trabalharam, respectivamente, com volume de madeira de eucalipto e chuvas intensas para o Estado de São Paulo. Estimativas precisas resultam em mapas de krigagem com alta qualidade.

CONCLUSÕES

O modelo exponencial de semivariograma foi o que melhor se ajustou aos dados de chuvas intensas no estado de Minas Gerais, independentemente do método de ajuste;

O método dos Mínimos Quadrados Ponderados destacou-se em relação ao método da Máxima Verossimilhança, sendo recomendado para estudos associados à aplicação da geoestatística na espacialização da chuva intensa;

O erro médio produzido pela Validação Cruzada foi muito baixo, demonstrando o potencial da krigagem geoestatística para interpolação da chuva intensa;

Os ajustes do semivariogramas resultaram em graus de dependência espacial moderados, demonstrando que estes dados possuem estrutura de dependência espacial.

(Recebido em 22 de junho de 2006 e aprovado em 2 de abril de 2007)

• ANTUNES, F. Z. Caracterização climática do estado de Minas Gerais. Informe Agropecuário, Belo Horizonte, v. 12, p. 9-17, 1986.
• CAMBARDELLA, C. A.; MOORMAN, T. B.; NOVAK, J. M.; PARKIN, T. B.; KARLEN, D. L.; TURCO, R. F.; KONOPKA, A. E. Field scale variability of soil properties in central Iowa soils. Soil Science Society of America Journal, Madison, v. 58, n. 5, p. 1501-1511, 1994.
• CARVALHO, J. R. P. de; VIEIRA, S. R.; VENDRUSCULO, L. G. Uso da técnica de mínimos quadrados ponderados para ajuste de modelos as semivariograma Campinas: Embrapa Informática Agropecuária, 2004. (Boletim de pesquisa e desenvolvimento).
• DIEULIN, C.; BOYER, J. F.; ARDOIN-BARDIN, S.; DEZETTER, A. The contribution of GIS to hydrological modeling. In: DEMUTH, S.; GUSTARD, A.; PLANOS, E.; SCATENA, F.; SERVAT, E. (Eds.). Climate variability and change: hydrological impacts. Wallingford: International Association of Hydrological Science, 2006. p. 66-74.
• FREITAS, A. J.; SILVA, D. D.; PRUSKI, F. F.; PINTO, F. A.; PEREIRA, S. B.; GOMES FILHO, R. R.; TEIXEIRA, A. F.; BAENA, L. G. N.; MELLO, L. T. A.; NOVAES, L. F. Equações de chuvas intensas no Estado de Minas Gerais Belo Horizonte: Copasa; UFV, 2001. 65 p.
• HAAN, C. T. Statistical methods in hydrology 2. ed. Ames: The Iowa State University, 2002. 377 p.
• ISAAK, E. H.; SRIVASTAVA, R. M. Applied geoestatistic: an introduction. New York: Oxford University, 1989. 561 p.
• MELLO, C. R. de; LIMA, J. M.; SILVA, A. M.; MELLO, J. M.; OLIVEIRA, M. S. Krigagem e inverso do quadrado da distância para interpolação dos parâmetros da equação de chuvas intensas. Revista Brasileira de Ciência do Solo, Viçosa, v. 27, n. 5, p. 925-933, 2003a.
• MELLO, C. R. de; SILVA, A. M.; LIMA, J. M.; FERREIRA, D. F.; OLIVEIRA, M. S. Modelos matemáticos para predição da chuva de projeto para regiões do estado de Minas Gerais. Revista Brasileira de Engenharia Agrícola e Ambiental, Campina Grande, v. 7, n. 1, p. 121-128, 2003b.
• MELLO, J. M.; BATISTA, J. L. F.; RIBEIRO JUNIOR, P. J.; OLIVEIRA, M. S. Ajuste e seleção de modelos espaciais de semivariograma visand à estimativa volumétrica de Eucaliptus grandis Scientia Forestalis, Piracicaba, v. 1, n. 1, p. 25-37, 2005.
• MELLO, J. M. de. Geoestatística aplicada ao inventário florestal 2004. 110 f. Tese (Doutorado em Recursos Florestais) Escola Superior de Agricultura de Luiz de Queiroz, Piracicaba, 2004.
• RIBEIRO JUNIOR, P. P.; DIGGLE, P. P. GeoR: a package for geoestatistical analysis. R News, Rochester, v. 1, n. 2, p. 15-18, 2001.
• VIEIRA, S. R.; MILLETE, J.; TOPP, G. C.; REYNOLDS, W. D. Handbook for geostatistical analysis of variability in soil and climate data. In: NOVAIS, R. F.; SCHAEFER, C. E. G. R. (Eds.). Tópicos em ciência do solo Viçosa: SBCS, 2002. v. 2, p. 1-46.

Datas de Publicação

• Publicação nesta coleção
  15 Maio 2008
• Data do Fascículo
  Abr 2008

Histórico

• Aceito
  02 Abr 2007
• Recebido
  22 Jun 2006