Comparação de duas metodologias de amostragem atmosférica com ferramenta estatística não paramétrica

Comparison of two atmospheric sampling methodologies with non-parametric statistical tools

atmospheric sampling; aerosol analysis; non-parametric statistics

ARTIGO

Comparação de duas metodologias de amostragem atmosférica com ferramenta estatística não paramétrica

Comparison of two atmospheric sampling methodologies with non-parametric statistical tools

Maria João NunesI,^*; Maria Filomena Camões^I; Francis McGovern^II; Sebastião Santos^III; Frank Raes^III

^IDepartamento de Química e Bioquímica, Faculdade de Ciências, Universidade de Lisboa e Centro de Electroquímica e Cinética da Universidade de Lisboa, Edifício C8, Campo Grande, 1749-016 Lisboa - Portugal

^IIEnvironmental Protection Agency, St. Martins House, Waterloo Road, Dublin 4, Ireland

^IIIEuropean Commission, Joint Research Centre, TP 290, Ispra (VA), I-21021, Italy

ABSTRACT

In atmospheric aerosol sampling, it is inevitable that the air that carries particles is in motion, as a result of both externally driven wind and the sucking action of the sampler itself. High or low air flow sampling speeds may lead to significant particle size bias. The objective of this work is the validation of measurements enabling the comparison of species concentration from both air flow sampling techniques. The presence of several outliers and increase of residuals with concentration becomes obvious, requiring non-parametric methods, recommended for the handling of data which may not be normally distributed. This way, conversion factors are obtained for each of the various species under study using Kendall regression.

Keywords: atmospheric sampling; aerosol analysis; non-parametric statistics.

INTRODUÇÃO

Amostragens atmosféricas têm como inerente o facto de o ar se encontrar em movimento devido à circulação das massas de ar. No caso particular dos aerossóis atmosféricos, o fluxo de volume de ar amostrado é particularmente determinante, pois pode conduzir à recolha de amostras com composições diferentes, devido aos vários tamanhos de partículas e à diferente acção de sucção do ar amostrado.

No âmbito do Projecto "Long-term Aerosol Characterization Experiment-2" foi desenvolvido um programa de monitorização de aerossóis na região do Atlântico Norte de novembro de 1995 a Janeiro de 1998, entre 44ºN a 23ºN e 25ºW a 8ºW, complementado com uma campanha intensiva em junho - julho de 1997. Durante o Projecto, a amostragem de aerossóis com dimensões inferiores a 10 µm foi efectuada com amostradores de elevado fluxo de volume de ar. Na campanha intensiva foi simultaneamente utilizada uma metodologia de baixo volume de ar que se pretendeu integrar e validar permitindo a comparação dos resultados de ambas. O objectivo deste estudo torna-se particularmente relevante quando se utilizam dados de referência obtidos com metodologias de amostragem diferentes, nomeadamente no caso da modelação atmosférica em que se utilizam dados obtidos em programas de monitorização de concentrações atmosféricas de aerossóis. Simultaneamente também se verifica que no caso de algumas espécies iónicas os resultados obtidos com diferentes metodologias de amostragem apresentam uma grande dispersão de valores com desvios da normalidade, o que impede a sua comparação e a obtenção de factores de conversão utilizando estatística paramétrica.

As estações de monitorização estavam equipadas com sensores meteorológicos e com contadores de núcleos de condensação (número de partículas, CN). A amostragem foi controlada por computador com condições pré-definidas da variação de CN, direcção e velocidade do vento. Na estação de Porto Santo, Ilha da Madeira, Portugal, localizada no Nordeste do Oceano Atlântico, procedeu-se à amostragem de aerossóis utilizando amostradores de alto e de baixo fluxo de volume de ar.

Considerando os compostos químicos de interesse, os tipos de amostradores disponíveis e o tipo de filtro utilizado, é necessário encontrar as respostas para as seguintes questões:

- Quais os procedimentos que deverão ser controlados para uma comparação bem sucedida?

- As diferenças observadas nos resultados são devidas à amostragem ou às variantes de procedimento na determinação analítica?

- Como é que podem ser identificadas pequenas diferenças nos resultados devido a diferentes metodologias de amostragem?

A concentração atmosférica da fracção de aerossol solúvel em água foi determinada por cromatografia iónica (CI) para as espécies iónicas maioritárias. A utilização de ferramentas não paramétricas para comparação das duas metodologias de amostragem foi efectuada para todas as espécies iónicas objecto deste trabalho. Foram obtidos factores de conversão dos resultados de metodologia de amostragem de elevado volume em baixo volume.

MÉTODOS ANALÍTICOS

A amostragem foi controlada por computador através de dados obtidos do anemómetro e do contador CN. Cada amostrador estava ligado a uma entrada PM10 (Matéria Particulada 10 µm), tendo sido recolhidos aerossóis de dimensões inferiores a 10 µm. A amostragem de elevado volume de ar foi realizada com filtros Whatman 41^® (f = 150 mm), a um fluxo de ar de 0,5 m³ min^-1. A amostragem de baixo fluxo de ar foi realizada num suporte de dois andares, com filtros Nuclepore^® e Whatman 41^® (f = 47 mm), a um fluxo de 0,016 m³ min^-1.

Foi efectuada a análise quantitativa da fracção de aerossol solúvel em água. Os procedimentos analíticos de extracção em água foram diferentes devido ao facto de as concentrações nos filtros provenientes das duas metodologias de amostragem serem substancialmente diferentes. A quantidade de amostra analisada e os métodos de extracção com água desionizada (18,2 MW cm) foram diferentes; nas amostras de alto volume foi utilizado 1/4 de filtro e a extracção foi efectuada por centrifugação e nas amostras de baixo volume foram utilizados os dois filtros e a extracção foi efectuada em banho ultra-som.

Os extractos foram analisados por CI para as espécies maioritárias catiónicas (Na⁺, NH₄⁺, K⁺, Mg²⁺ e Ca²⁺), aniónicas (Cl^-, NO₃^- e SO₄^2-) e anião de ácido orgânico (MSA, CH₃SO₃^-). Foi então determinada a massa iónica em cada filtro (µg). A concentração atmosférica foi obtida considerando o volume de ar amostrado.

TESTES ESTATISTICOS NÃO-PARAMÉTRICOS

A estratégia adoptada para a análise de resultados foi a utilização de métodos estatísticos não-paramétricos, inerente ao facto de algumas espécies apresentarem grande dispersão de valores. Os modelos não-paramétricos implicam ordenação ascendente das variáveis, sendo suas principais vantagens as variáveis não dependerem da distribuição da população e não serem afetadas pela presença de valores aberrantes. Na análise estatística foram utilizados o teste de ordenação de valor absoluto de Wilcoxon, o coeficiente de correlação de Spearman e a regressão de Kendall^1-4.

O teste de ordenação do valor absoluto de Wilcoxon compara dois grupos emparelhados. A diferença entre cada par de observações é calculada analisando a série de diferenças entre n pares de observações, assumindo que as diferenças estão distribuídas simetricamente em relação ao seu valor médio. Estas diferenças são ordenadas por ordem crescente do seu valor absoluto e o sinal positivo ou negativo é atribuído ao valor absoluto. Em seguida são efectuadas as somas da série ordenada positiva e da série ordenada negativa. O somatório com menor valor absoluto é denominado T_s. Para um número de amostras, n, maior que 50, tal como o utilizado neste trabalho, o valor estatístico t_s é calculado através da Equação⁴:

t_s é comparado com o valor crítico, t_c, utilizando uma tabela estatística de distribuição-t para um número de graus de liberdade infinito a um nível de confiança de 95% (t_c0.05[¥] = 1,96³). A hipótese nula assume que dois grupos, no caso deste trabalho por grupo entenda-se método de amostragem, não diferem significativamente. É rejeitada quando t_s é maior que o valor crítico t_c, sendo então admitida uma diferença significativa para os dois métodos de amostragem.

O grau de associação entre duas variáveis é observado a partir da análise da correlação. A correlação de Spearman baseia-se na ordenação de duas variáveis sem qualquer restrição quanto à distribuição de valores. O primeiro passo é a ordenação de uma variável e o segundo, a transformação dos valores absolutos em valores ordenados. As diferenças entre dois postos, d_i, são calculadas e o coeficiente de correlação, R, é determinado utilizando a Equação³:

Assume-se que uma associação é válida quando os coeficientes de correlação são menores que os valores críticos⁵.

A regressão de Kendall assume que uma série de pontos (X₁, Y₁), (X₂, Y₂) ... (X_n, Y_n), é ajustada para uma recta com a forma:

análoga à regressão linear paramétrica, mas com ordenada na origem e coeficiente angular calculados a partir da transformação das variáveis ordenadas.

O primeiro passo consiste na ordenação dos valores da variável X por ordem crescente, para n observações. O declive, b_ij, é determinado para cada par de valores de X_i e X_j⁴:

em que i varia de 1 a n-1 e j>i. O declive, b, é a mediana dos valores b_ij.

A ordenada de cada par de valores (X_i,Y_i), a_i, é determinada utilizando a expressão⁴:

A ordenada na origem, a, é a mediana dos valores a_i.

Este método tem três vantagens distintas relativamente ao método paramétrico: não assume que todos os erros ocorrem na direcção de Y; não assume que todos os erros são normalmente distribuídos e o resultado não é afectado pela presença de valores aberrantes.

RESULTADOS E DISCUSSÃO

A relação entre as espécies iónicas em água do mar, isto é salinas, é conhecida e pode ser aplicada a aerossóis marinhos⁶. Considerando como elemento de referência o Na⁺, foi calculada a fracção não salina (nss) dos iões K⁺, Ca²⁺ e SO₄^2-:

sendo W a espécie e i a respectiva carga iónica.

Os testes não paramétricos foram efectuados para todas as espécies iónicas salinas e não salinas para comparação das metodologias de amostragem de alto e de baixo volume.

Estudos analíticos anteriores para a metodologia de elevado volume utilizando as duas metodologias de extracção (centrifugação e ultra-som) permitiram concluir que a metodologia analítica não conduz a diferentes resultados, permitindo afirmar que as diferenças observadas são devidas às diferentes metodologias de amostragem⁶.

Na Tabela 1 encontram-se os resultados da comparação das duas metodologias de amostragem, utilizando como exemplo comparativo de teste paramétrico a comparação emparelhada t-Student (t, calculado utilizando o programa Excel) e como métodos estatísticos não-paramétricos o teste de Wilcoxon (t_s), o coeficiente de correlação de Spearman (R) e a regressão de Kendall através da qual se obtiveram os factores de conversão para a metodologia de baixo volume em função da metodologia de alto volume. Os erros da regressão foram calculados considerando os desvios obtidos entre os valores experimentais da amostragem de baixo volume e os valores calculados a partir da conversão da metodologia de elevado volume em baixo volume.

Os valores estatísticos da comparação emparelhada t-Student e do teste de Wilcoxon (Tabela 1), são superiores ao valor crítico, t_c, para todas as espécies iónicas em estudo. Verifica-se que tanto com o teste paramétrico como com o teste não-paramétrico se obtêm os mesmos resultados, ou seja, as duas metodologias de amostragem conduzem a resultados diferentes para todas as espécies.

K⁺, nssK⁺, Ca²⁺ e nssCa²⁺ são as espécies que apresentam maior dispersão de valores experimentais quando se comparam os resultados obtidos pelos dois métodos. Na Figura 1 encontra-se a representação gráfica dos valores experimentais da amostragem de baixo volume vs. amostragem de elevado volume e a recta da respectiva regressão de Kendall, para as espécies iónicas K⁺ e Ca²⁺. O grau de associação das duas metodologias de amostragem para as espécies K⁺, nssK⁺, Ca²⁺ e nssCa²⁺, utilizando os tradicionais métodos paramétricos não é válido. Utilizando métodos não-paramétricos já é possível efectuar regressão para determinação de factores de conversão.

Todas as espécies iónicas em estudo apresentam um elevado grau de dependência e associação quando se comparam os dois métodos de amostragem, pois os valores calculados dos coeficientes de correlação de Spearman são mais elevados que os tabelados (Tabela 1).

Da regressão de Kendall (Tabela 1) verifica-se que todas as espécies iónicas têm factores de conversão diferentes, justificado pelos diferentes tamanhos das partículas e pelas suas diferentes propriedades físico-químicas.

A título exemplificativo, na Figura 2 encontram-se as concentrações atmosféricas de K⁺ obtidas para as duas metodologias de amostragem⁶ e a conversão da metodologia de alto volume em baixo volume utilizando os factores de conversão da regressão de Kendall indicados na Tabela 1. O coeficiente de correlação de Pearson para a regressão linear é 0,6256 e para a logarítmica é 0,6991, motivo pelo qual os factores de conversão não podem ser calculados, pois a associação entre as duas metodologias não é considerada válida. Deste modo, através da representação gráfica, verifica-se experimentalmente a concordância entre as concentrações experimentais e as concentrações calculadas com teste não-paramétrico.

As concentrações atmosféricas⁶ de aerossol NO₃^- encontram-se representadas na Figura 3 e constituem um exemplo de uma espécie iónica em que os factores de conversão podem ser calculados utilizando estatística paramétrica ou não-paramétrica. Na zona de baixas concentrações, 0 a 10 nmol m^-3, observa-se a concordância entre as concentrações experimentais de baixo volume e as calculadas para conversão da metodologia de elevado volume em baixo volume a partir dos factores de conversão de regressão linear, logarítmica e de Kendall. No entanto, na zona de concentrações mais elevadas, superiores a 20 nmol m^-3, as concentrações calculadas utilizando os factores de conversão da regressão linear e logarítmica apresentam desvios mais elevados que as concentrações calculadas utilizando a regressão de Kendall. Os erros determinados utilizando os factores de conversão para a espécie NO₃^- são de 1,15, 1,14 e 0,24 para a regressão linear, logarítmica e regressão de Kendall, respectivamente. Verifica-se, deste modo, que o teste não-paramétrico é o que apresenta um erro menor, embora os erros obtidos pelos outros testes não invalidem os mesmos.

Os erros calculados para a regressão de Kendall (Tabela 1) são mais elevados quando os graus de associação das variáveis, determinados utilizando a correlação de Spearman, são menores e inferiores a 5%.

Tradicionalmente, em Química da Atmosfera, são utilizados métodos paramétricos para comparação de métodos. Neste trabalho verifica-se que a conversão de resultados de diferentes metodologias de amostragem com ferramenta não-paramétrica é mais adequada, pois mesmo no caso em que se obtém maior dispersão de resultados torna possível a comparação.

Estudos futuros poderão verificar se estes factores se alteram ou se mantêm, pois diferentes condições meteorológicas e diferentes emissões antropogénicas, biogénicas e minerais deverão conduzir a diferentes propriedades químico-físicas dos aerossóis.

CONCLUSÃO

O teste de Wilcoxon permite concluir que os resultados obtidos para cada espécie iónica são diferentes para cada uma das metodologias de amostragem. No estudo apresentado, o teste t-Student pode ser aplicado com sucesso para todas as espécies iónicas.

Um elevado grau de associação para as duas metodologias de amostragem foi determinado utilizando a correlação de Spearman, o que permitiu o cálculo dos factores de conversão através da regressão de Kendall.

Resultados comuns às duas metodologias para todas as espécies em estudo, seria a situação ideal. No entanto, as concentrações atmosféricas dos aerossóis para cada espécie iónica resultam diferentes, como conseqüência de o ar amostrado se encontrar em movimento e de a velocidade de sucção do ar ser diferente. Os factores de conversão para cada espécie iónica foram determinados para metodologia de baixo volume em função da metodologia de alto volume.

AGRADECIMENTOS

M. J. Nunes agradece à Fundação da Ciência e Tecnologia, Projecto POCTI/CTA/36269/99 e ao Joint Research Centre EC, Ispra, pelo suporte financeiro logístico à realização experimental deste trabalho.

Recebido em 3/6/03; aceito em 22/9/04; publicado na web em 28/1/05

• ¹
  http://www.stawds.strath.ac.uk/~eillen/classes/53904/mod2904, acessada em Março 2003.
• ²
  http://www.sportsci.org/resource/stats/nonparms.htm, acessada em Março 2003.
• 3. Miller, J. C.; Miller, J. N.; Non-parametric and robust methods in Statistics for Analytical Chemistry, 3^rd ed., Ellis Horwood PTR Prentice Hall: London, 1993.
• 4. Sokal, R. R.; Rohlf, E. J.; The normal probability distribution, Estimation and hypothesis testing, Introduction to the analysis of variance, Assumptions of analysis of variance, Linear regression, Correlation in Biometry, 3^rd ed., W. H. Freeman and Company: New York, 1995.
• 5. Neave, H. R.; Statistics Tables for mathematicians, engineers, economists and the behavioral and management sciences, George Allen & Unwin: London, 1978.
• 6. Nunes, M. J.; Tese de Doutorado, Universidade de Lisboa, Portugal, 2002.

Datas de Publicação

• Publicação nesta coleção
  04 Maio 2005
• Data do Fascículo
  Mar 2005

Histórico

• Recebido
  03 Jun 2003
• Revisado
  22 Set 2004
• Aceito
  28 Jan 2005