Many studies in Meteorology and Climatology use methodologies that overestimate or even underestimate the statistical significance of the results. Analyses that underestimate the role of trends and temporal or spatial dependency in the data sets can lead to incorrect conclusions. On the other hand, unnecessarily rigorous analyses can undermine the conclusions. The objective of this article is to discuss some simple practices, commonly neglected, that can produce results much more robust and statistically significant. This paper discusses some problems related to the calculation of the mean annual cycle and anomalies, trend analyzes, and temporal and spatial dependency, emphasizing statistical hypothesis testing.

Keywords:
mean annual cycle; trend; temporal dependency; field significance; hypothesis testing

Authorship

Rodrigo José Bombardi Autor de correspondência: Rodrigo José Bombardi, rbombard@gmu.edu.

Department of Atmospheric, Oceanic, and Earth Sciences, George Mason University, Fairfax, VA, USA.George Mason UniversityUSAFairfax, VA, USADepartment of Atmospheric, Oceanic, and Earth Sciences, George Mason University, Fairfax, VA, USA.

Leila Maria Véspoli de Carvalho

Department of Geography, University of California, Santa Barbara, CA, USA.University of CaliforniaUSASanta Barbara, CA, USADepartment of Geography, University of California, Santa Barbara, CA, USA.

Autor de correspondência: Rodrigo José Bombardi, rbombard@gmu.edu.

SCIMAGO INSTITUTIONS RANKINGS

Department of Geography, University of California, Santa Barbara, CA, USA.University of CaliforniaUSASanta Barbara, CA, USADepartment of Geography, University of California, Santa Barbara, CA, USA.

Figures | Tables | Formulas

Figures (3)
Tables (1)
Formulas (10)

Thumbnail

Figura 1
a) Ciclo anual médio de precipitação não suavizado e suavizado utilizando-se um filtro 1-2-1 (passado 300 vezes) e os três primeiros harmônicos do ciclo anual médio; b) anomalias calculadas a partir do ciclo anual médio não suavizado; c) anomalias calculadas a partir do ciclo anual médio suavizado (filtro 1-2-1); d) anomalias padronizadas calculadas a partir do ciclo anual médio não suavizado; e) anomalias padronizadas calculadas a partir do ciclo anual médio suavizado (filtro 1-2-1). O valor do desvio padrão das séries de anomalias entre o período de 2000 a 2010 está mostrado nos painéis b) a e).

Thumbnail

Figura 2
a) Correlação entre anomalias de TSM a o índice ENOS (contorno) e b) composições de anomalias de TSM durante eventos El Niño (contorno). O sombreado mostra regiões estatisticamente significativas ao nível de 5%. O tom de cinza mais claro mostra regiões onde a significância estatística é estimada superestimando-se o número de graus de liberdade. O tom de cinza mais escuro mostra regiões estatisticamente significante subestimando-se o número de graus de liberdade. O tom intermediário mostra regiões estatisticamente significativas estimada com o valor apropriado para o número de graus de liberdade (veja o texto para maiores detalhes).

Thumbnail

Figura 3
a) Correlação entre anomalias de TSM a o índice ENOS (contorno) e b) composições de anomalias de TSM durante eventos El Niño (contorno). O sombreado mostra regiões estatisticamente significativas ao nível de 5%. O tom de cinza mais claro mostra regiões estatisticamente significativas estimadas com o valor apropriado para o número de graus de liberdade mas sem considerar dependência espacial. O tom de cinza mais escuro mostra regiões estatisticamente significativas estimadas com o valor apropriado para o número de graus de liberdade e considerando a dependência espacial. Note que em (b) nenhuma região é considerada estatisticamente significativa ao nível de 5% quando se aplica o teste FDR (veja o texto para maiores detalhes).

Thumbnail

Tabela 1
Comparação entre o cálculo de tendências lineares e da significância estatística de tendências lineares para séries de precipitação e anomalias padronizadas de precipitação considerando o método de mínimos quadrados, o teste Mann-Kendall, e o teste de re-amostragem.

(1)

(2)

(3)

(4)

(5)

(6)

(7)

(8)

(9)

(10)

Figura 1 a) Ciclo anual médio de precipitação não suavizado e suavizado utilizando-se um filtro 1-2-1 (passado 300 vezes) e os três primeiros harmônicos do ciclo anual médio; b) anomalias calculadas a partir do ciclo anual médio não suavizado; c) anomalias calculadas a partir do ciclo anual médio suavizado (filtro 1-2-1); d) anomalias padronizadas calculadas a partir do ciclo anual médio não suavizado; e) anomalias padronizadas calculadas a partir do ciclo anual médio suavizado (filtro 1-2-1). O valor do desvio padrão das séries de anomalias entre o período de 2000 a 2010 está mostrado nos painéis b) a e).

Figura 2 a) Correlação entre anomalias de TSM a o índice ENOS (contorno) e b) composições de anomalias de TSM durante eventos El Niño (contorno). O sombreado mostra regiões estatisticamente significativas ao nível de 5%. O tom de cinza mais claro mostra regiões onde a significância estatística é estimada superestimando-se o número de graus de liberdade. O tom de cinza mais escuro mostra regiões estatisticamente significante subestimando-se o número de graus de liberdade. O tom intermediário mostra regiões estatisticamente significativas estimada com o valor apropriado para o número de graus de liberdade (veja o texto para maiores detalhes).

Figura 3 a) Correlação entre anomalias de TSM a o índice ENOS (contorno) e b) composições de anomalias de TSM durante eventos El Niño (contorno). O sombreado mostra regiões estatisticamente significativas ao nível de 5%. O tom de cinza mais claro mostra regiões estatisticamente significativas estimadas com o valor apropriado para o número de graus de liberdade mas sem considerar dependência espacial. O tom de cinza mais escuro mostra regiões estatisticamente significativas estimadas com o valor apropriado para o número de graus de liberdade e considerando a dependência espacial. Note que em (b) nenhuma região é considerada estatisticamente significativa ao nível de 5% quando se aplica o teste FDR (veja o texto para maiores detalhes).

Tabela 1 Comparação entre o cálculo de tendências lineares e da significância estatística de tendências lineares para séries de precipitação e anomalias padronizadas de precipitação considerando o método de mínimos quadrados, o teste Mann-Kendall, e o teste de re-amostragem.

Série de dados	Coeficiente angular		Significância estatística
Série de dados	Mínimos Quadrados	Mann-Kendall	Re-amostragem Mínimos Quadrados	Mann-Kendall
Dados brutos	-0,000151	-0,0000001	Significativa ao nível de 5%	Não significativa
Anomalias padronizadas (ciclo anual não suavizado)	-0,000151	-0,0000001	Significativa ao nível de 5%	Não significativa
Anomalias padronizadas (ciclo anual suavizado com filtro 1-2-1)	-0,000014	-0,000017	Não significativa	Não significativa
Anomalias padronizadas (ciclo anual suavizado com harmônicos)	-0,000014	-0,000016	Não significativa	Não significativa

(1)

s = \sum_{i = 1}^{n - 1} \sum_{j = i + 1}^{n} sgn (x_{j} - x_{i})

(2)

sgn = {\begin{matrix} 1, s e (x_{j} - x_{i}) > 0 \\ 0, s e (x_{j} - x_{i}) = 0 \\ - 1, s e (x_{j} - x_{i}) < 0 \end{matrix}

(3)

var (S) = \frac{n (n - 1) (2 n + 5) - \sum_{i = 1}^{m} t_{i} (t_{i} - 1) (2 t_{i} + 5)}{18}

(4)

z = {\begin{matrix} \frac{S - 1}{\sqrt{var (S)}}, S > 0 \\ \frac{S + 1}{\sqrt{var (S)}}, S < 0 \end{matrix}

(5)

t_{0} = \frac{r \sqrt{N - 2}}{\sqrt{1 - r^{2}}}

(6)

τ = [1 + 2 \sum_{i = 1}^{n} C_{T S M} (i) C_{E N O S} (i)]

(7)

N efectivo = \frac{N}{τ}

(8)

t = \frac{\bar{x} - μ 0}{{[\frac{s^{2}}{N}]}^{\frac{1}{2}}}

(9)

s 2 = \frac{1}{n - 1} \sum_{i = 1}^{n} {(x_{i} - \bar{x})}^{2}

(10)

N efetivo = N (\frac{1 - ρ_{1}}{1 + ρ_{1}})

How to cite

copy

Sociedade Brasileira de Meteorologia Rua. Do México - Centro - Rio de Janeiro - RJ - Brasil, +55(83)981340757 - São Paulo - SP - Brazil
E-mail: sbmet@sbmet.org.br

Acompanhe os números deste periódico no seu leitor de RSS

Versão para download de PDF

PDF

Português

Versões e tradução automática

Versão original do texto

Português

Tradução automática

Google Translator
Microsoft Translator

Como citar

RIS

BIBTEX

Outros formatos de citação e exportação:

SciELO - Scientific Electronic Library Online
Rua Dr. Diogo de Faria, 1087 – 9º andar – Vila Clementino 04037-003 São Paulo/SP - Brasil
E-mail: scielo@scielo.org

Leia a Declaração de Acesso Aberto

Métricas

Mensagem

[1] Autor de correspondência: Rodrigo José Bombardi, rbombard@gmu.edu.