Estimativas da qualidade de linhas poligonais topográficas

Quality estimations of topographical traverses

ARTIGOS CIENTÍFICOS

ENGENHARIA RURAL

Estimativas da qualidade de linhas poligonais topográficas

Quality estimations of topographical traverses

Mário Stringhini^I,1; Carlito Vieira de Moraes^II; Julio Cesar Farret^II

^IInstituto Nacional de Colonização e Reforma Agrária (INCRA). Av. Loureiro da Silva, 515, sala 410, 90010-420, Porto Alegre, RS, Brasil. E-mail: [e-mail]

^IIDepartamento de Engenharia Rural, Centro de Ciências Rurais (CCR), Universidade Federal de Santa Maria (UFSM), Santa Maria, RS, Brasil

RESUMO

O objetivo deste artigo é descrever um procedimento que contribui com estimativas de qualidade de levantamento topográficos mediante a pré-análise e estimativas obtidas a partir de análise pós-ajustamento. As estimativas são dadas pelo teste qui-quadrado da forma quadrática do erro de fechamento, pelo teste qui-quadrado da forma quadrática dos resíduos obtidos no ajustamento pelo método dos mínimos quadrados, pelo teste data snooping de Baarda, pela elipse dos erros, pela elipse de confiança, pelo círculo do erro de posição e pelo círculo do erro médio. Estes conceitos são examinados por meio de valores numéricos no caso de uma linha poligonal simples implantada no campus da Universidade Federal de Santa Maria e medida com um taquímetro eletrônico.

Palavras-chave: teste qui-quadrado, teste data snooping de Baarda, elipse dos erros, elipse de confiança, círculo do erro de posição.

ABSTRACT

The objective through this article is to describe a procedure that contributes with quality survey estimations by means pre-analysis survey and estimations by means post-adjustment. The estimations are given by the chi-square test of the quadratic form of misclosures, the chi-square of the quadratic form of residuals from the least-squares adjustment method, the Baarda's data snooping test, the standard ellipse, the confidence ellipse, position error circle and mean error circle. These concepts are examined through the numerical values provided in the case of a simple topographical traverse which was implanted at the Universidade Federal de Santa Maria Campus with electronic tachymeter.

Key words: chi-square test, Baarda's data snooping test, standard ellipse, confidence ellipse, position error circle.

INTRODUÇÃO

O presente trabalho objetiva estabelecer uma rotina de procedimentos para avaliar estatisticamente os erros de fechamento das linhas poligonais topográficas e o ajustamento. Quando o resultado de um experimento estatístico é expresso por apenas um número, a variável aleatória se diz unidimensional (GEMAEL, 1994). No caso da Topografia será uma variável aleatória bidimensional e as componentes x e y consideradas isoladamente são variáveis unidimensionais com variância própria. As variâncias σ²_i e as covariâncias σ_ij, (i≠j) das componentes de uma variável n-dimensional podem ser dispostas da maneira a formar uma matriz quadrada de ordem n x n indicada por ∑:

(1)

A matriz ∑, simétrica por ser σ_ij = σ_ji, recebe o nome de matriz variância-covariância (MVC). No caso das componentes da matriz serem independentes entre si, as covariâncias serão nulas e ∑ degenera para uma matriz diagonal. As observações são representações numéricas de quantidades físicas como, por exemplo, comprimento, ângulo e peso obtidos por meio de medições e possuem não apenas as flutuações aleatórias próprias das observações, mas também toda sorte de erros possíveis (DALMOLIN, 2004). A desconfiança no resultado de uma medida isolada, devido à possibilidade de falibilidade humana leva naturalmente à multiplicação das observações ou medidas. Esta providência leva ao problema de como extrair um resultado único que represente com maior confiança a grandeza medida. As observações estão acometidas de erros devidos, principalmente, às falhas do operador, às imperfeições do equipamento de medição e às condições do ambiente. Objetiva-se buscar uma estimativa do valor das grandezas medidas e a estimativa de precisão.

Os objetivos do ajustamento são estimar mediante a aplicação de modelos matemáticos adequados e do método dos mínimos quadrados (MMQ) um valor único para cada uma das incógnitas do problema e estimar a precisão de tais incógnitas e a eventual correlação entre elas. Destes objetivos decorrem: a) o ajuste não elimina erros, b) a geometrização da figura que representa a geometria do problema, c) a extração da pluralidade de observações incorretas em um único resultado que representa com maior confiança a grandeza medida e d) a unicidade de resultados. O ajustamento é importante para depurar os erros aleatórios. Os erros sistemáticos são depurados com as fórmulas usuais.

MATERIAL E MÉTODOS

A linha poligonal topográfica (Figura 1) foi estabelecida no campus da Universidade Federal de Santa Maria (UFSM). As coordenadas geodésicas (latitude e longitude) do centro do local do levantamento são: φ=-29°43'00" e =-53°43'00" e altitude ortométrica aproximadamente igual a 92m. As grandezas foram medidas com taquímetro eletrônico marca Leica TCR 307 pelo método do caminhamento perimétrico ou poligonação. Ao ponto inicial do levantamento, foram atribuídas as coordenadas cartesianas x=10.000m e y=10.000m e à linha 1-2 atribuiu-se o azimute 100º. Foram calculadas a tolerância dos erros, as compensações lineares e as coordenadas cartesianas dos demais vértices do polígono. O estudo de ajustamento de levantamentos mostrados em VERESS (1973) relaciona diversas maneiras de obtenção da acurácia como medida da qualidade. Na análise de um levantamento pós-ajustado, obtém-se a elipse dos erros, a elipse de confiança, o erro de posição e o erro médio. No ajustamento pelo MMQ, a detecção de problemas é obtida mediante a aplicação do teste qui-quadrado da forma quadrática dos resíduos. Nesse teste, se a hipótese básica que compara a variância da unidade de peso a priori com a variância de peso a posteriori for rejeitada, existem problemas no ajustamento, cujas causas são: a) erros nas observações; b) sistema malcondicionado; c) modelo matemático inadequado; d) erros de cálculo; e) ponderação errônea das observações; f) problemas na linearização (GEMAEL, 1994). No caso de erros nas observações, a localização das observações afetadas pode ser efetuada pelo teste data snooping de Baarda (KAVOURAS, 1982; MORAES, 1998).

Teste qui-quadrado da forma quadrática do erro de fechamento

Os dados necessários para a aplicação do teste qui-quadrado da forma quadrática do erro de fechamento são: a) observações ou medições de ângulos e distâncias de uma linha poligonal; b) ângulos horários de cada vértice (a_hij); c) distâncias observadas entre os vértices (S_ij); d) desvio padrão (σ_a) máximo para erro angular de cada observação, obtido das especificações do instrumento utilizado e expresso em segundos de arco; e) desvio padrão (σ_s) máximo para erro linear de cada observação, obtido das especificações do instrumento; f) azimute provisório (A_ij) com norte verdadeiro ou atribuído; g) coordenadas provisórias (x) e (ŷ) obtidas com os dados de campo. O teste qui-quadrado da forma quadrática dos resíduos é elaborado segundo os procedimentos a seguir descritos.

Matriz variância-covariância das distâncias (∑_Sij)

Os valores numéricos que irão compor a diagonal da matriz são obtidos, por meio da variância especificada no instrumento.

MVC dos azimutes (∑_A).

A matriz variância-covariância dos azimutes expressa por ∑_A=G.∑_a.G^T é obtida mediante a aplicação da lei de propagação das covariâncias, em que G é a matriz das derivadas parciais da função: A_ij=f(a_i), o que resulta em uma matriz quadrada g_ij=1, para i≥j e g_ij=0, para i<j); ∑_a é a MVC dos ângulos horizontais, cujos valores numéricos são obtidos das especificações do instrumento, expresso em variância.

MVC das distâncias e azimutes

A matriz variância-covariância das distâncias e dos azimutes é obtida mediante o agrupamento das matrizes variância-covariância das distâncias e dos azimutes, na forma

(2)

MVC das coordenadas do último ponto

Ao aplicar a lei de propagação das covariâncias para as coordenadas do último ponto, obtém-se a MVC,

(3)

em que D é a matriz das derivadas parciais das funções x_n+1 = f(S, A) e y_n+1 = f(S, A):

em que ρ é o fator que transforma quantidades dadas em radianos para segundos de arco e n é o número de observações.

Aplicação do teste

A estatística do teste é q=^T.∑^-1_x,y.E, (5)

em que , e e ε_x = y - y são respectivamente os erros de fechamento na abscissa x e na ordenada y. Os valores de x e y são as coordenadas fixas do último ponto da linha poligonal, enquanto que e y são as coordenadas provisórias do último ponto da linha poligonal, obtida com os valores observados. A linha poligonal será aceita caso o valor de q esteja dentro do intervalo dos valores da distribuição de probabilidades qui-quadrado χ²_{v, 0,5α} χ²_{v, 1-0,5α} , onde v=2 graus de liberdade, pois trata-se de duas dimensões x e y, e nível de significância . A estatística q é uma distância estatística. Uma distância estatística do espaço de p dimensões segue a distribuição qui-quadrado com p graus de liberdade (JOHNSON & WICHERN, 1998).

Ajustamento pelo método dos mínimos quadrados

A linha poligonal desenvolvida no plano topográfico mensura os ângulos e as distâncias e equações de observação são estabelecidas, uma para cada observação. O modelo matemático parte de fórmulas diferenciais que exprimem a variação do azimute e do comprimento do lado do polígono quando variam as coordenadas dos pontos extremos (MORAES, 1997). O modelo matemático do ajustamento paramétrico (também chamado modelo das equações de observações) procura ao final o vetor das observações ajustadas λ^a, que é função dos parâmetros ajustados x^a (DALMOLIN, 2004). Parâmetros são as grandezas estimadas vinculadas às observações. O cálculo do ajustamento segue várias partes descritas a seguir. As deduções para obtenção das equações de observação para a distância e o ângulo podem ser encontradas em STRINGHINI (2005).

Modelos matemáticos

A equação λ^a = F(x^a) (6) caracteriza o modelo paramétrico. Esta equação significa que as observações ajustadas a são função explícita dos parâmetros ajustados x^a. A forma linearizada do modelo matemático pela série de Taylor é _nA_u._nX₁+_nλ₁=_nv₁, em que, é a matriz cujos elementos são as derivadas parciais das equações de observações de distância e azimute, avaliadas com o vetor dos parâmetros aproximados x⁰, x é o vetor-solução do sistema de equações normais, λ= λ⁰ - λ^b, v é o vetor dos resíduos, n é o número de observações e u é o número de parâmetros. O modelo paramétrico precisa dos parâmetros aproximados, denotado pelo símbolo x0, que pode ser obtido como função do vetor de valores observados λ^b. Uma vez determinado x⁰, obtém-se λ⁰=f (x⁰) e a seguir λ=λ⁰ - b.

Sistema de equações normais

Da minimização da forma quadrática fundamental do MMQ resulta o vetor-solução (correções aos parâmetros aproximados) do sistema de equações normais x = - (A^T.P.A)^-1. A^T.P.λ, em que P é a matriz dos pesos (inversa da MVC de distâncias e ângulos horizontais) multiplicada pela variância da unidade de peso a priori, e λ é o vetor dos termos independentes. Os elementos da matriz A são K_ij = sen A_ij e K_ik = sen A_ik para o diferencial dx em relação à distância, e L_ij = cos A_ij e L_ik = cos A_ik para a diferencial dy em relação à distância; e

e para o diferencial dx em relação ao ângulo;

e para o diferencial dy em relação ao ângulo.

A matriz dos pesos P é matriz diagonal quando as covariâncias são nulas:

O vetor de termos independentes (λ) é formado das seguintes diferenças:

Vetores

Vetor de coordenadas ajustadas x^a = x⁰ + x. (7) Vetor de resíduos v = A.x +λ. (8) Vetor de valores observados ajustados λ^a = λ^b + v. (9) Variância da unidade peso a posteriori

(10)

em que n - u é o número de graus de liberdade.

Matrizes variância-covariâncias (MVC)

MVC do vetor de coordenadas ajustadas:

(11)

MVC do vetor de valores observados ajustados:

(12)

MVC dos resíduos: (13)

Iterações

Os modelos matemáticos que ocorrem com mais freqüência em Topografia e em Geodésia são não-lineares. A omissão de termos da série de Taylor e a adoção de valores iniciais aproximados introduzem erros no ajustamento. O vetor x^a e λ^a seriam os resultados finais de um ajustamento pelo método dos mínimos quadrados se os vetores x⁰ e λ^b, que foram utilizados na série de Taylor, estivessem suficientemente próximos de x^a e λ^a, respectivamente. Caso contrário, as iterações são necessárias. Nas iterações, os primeiros resultados obtidos em uma etapa tornam-se valores aproximados da etapa seguinte e assim sucessivamente. Durante a iteração: os componentes do vetor x diminuem, aproximando-se de zero; a forma quadrática fundamental v^T.P.v tende e a MVC∑_xa tendem a se estabilizar.

Teste qui-quadrado da forma quadrática dos resíduos

A comparação de σ²₀ com se baseia no fato de que a forma quadrática fundamental v^T.P.v tem distribuição χ² com (n - u) graus de liberdade (GEMAEL, 1994) e tem por finalidade verificar se estatisticamente σ²₀ é igual a ; esta última, obtida do ajustamento. Esta comparação é efetuada pelo teste qui-quadrado da forma quadrática dos resíduos que compreende as seguintes partes: a) enunciação das hipóteses básica e alternativa: H₀:σ²₀₌ e H₁:σ²₀ ≠ ; b) estatística calculada: com , c) estatísticas da distribuição de probabilidade qui-quadrado: χ²_{v, 0,5α} e χ²_{v, 1-0,5α}; d) decisão: H₀ é aceita, ao nível de significância _α, se χ²_{v, 0,5α} < χ^*2 < χ²_{v, 1-0,5α}.

Teste data snooping de Baarda

O teste data snooping de Baarda compreende as seguintes partes: a) enunciação da hipótese básica H₀: nenhum erro existe na observação λ_i; b) estatística do teste:

, para i = 1, 2, k, n; em que r_i chama-se número-redundância obtido da diagonal da matriz idempotente ; c) decisão do teste: rejeita-se H₀ se |wi|<k, em que k é um valor crítico conforme o nível de confiança específico; se 1-α= 95% ⇒ k = 1,96 e 1-α= 99% ⇒ k = 2,57.

Elipse dos erros, elipse de confiança, erro de posição e erro médio de posição

A elipse de erros ou elipse padrão apresenta uma probabilidade igual a 39,4%, isto é, um nível de confiança 1-α= 0,394, de que as coordenadas estimadas estejam na superfície da elipse (VERESS, 1973; GEMAEL, 1994). Para se obter a dimensão de uma elipse para um nível de probabilidade maior que 1-α= 0,394, deve-se multiplicar cada um dos semi-eixos da elipse dos erros por um fator e esta nova elipse chama-se elipse de confiança. Os parâmetros da elipse são os semi-eixos maior a e menor b e o ângulo de orientação γ calculados pelas fórmulas:

O raio do círculo de erro de posição, denotado pelo símbolo p, é a raiz quadrada da soma dos quadrados dos desvios-padrão. A sua equação é , enquanto que o

círculo do erro médio é .

RESULTADOS E DISCUSSÃO

A figura 1 apresenta a linha poligonal, cujas observações foram objeto de estudo. As coordenadas do Ponto 1 são admitidas sem nenhuma variabilidade. As estimativas da qualidade das coordenadas de cada ponto da linha poligonal são os semi-eixos da elipse dos erros, os semi-eixos da elipse de confiança, o ângulo de orientação da elipse, o raio do círculo do erro de posição e o raio do círculo do erro médio de posição (Tabela 1). A elipse de confiança foi calculada para a probabilidade 1 - α= 0,950. Isso representa que cada semi-eixo da elipse dos erros foi multiplicado pelo fator .

Em relação ao Ponto 1, os Pontos 2 a 9 apresentam elipses dos erros com os valores situados de 3,5837mm a 10,8370mm para o semi-eixo maior e de 2,9471mm a 4,7351mm para o semi-eixo menor. Verifica-se que os valores menores do semi-eixo maior são os dos Pontos 2 e 9, justamente por estarem próximos do Ponto 1, e os valores maiores são os dos Pontos 5 e 6, que são os pontos mais afastados. Em conseqüência dos valores dos semi-eixos da elipse dos erros, têm-se, para os Pontos 2 e 9, os valores menores do semi-eixo maior das suas elipses de confiança e os valores menores dos raios dos círculos do erro de posição. Para os Pontos 5 e 6 têm-se os valores maiores do semi-eixo maior de suas elipses de confiança e os valores maiores dos raios dos círculos do erro de posição.

Os ângulos de orientação das elipses são todos do 1o quadrante, o que indica que as elipses são alongadas nos quadrantes nordeste e sudoeste.

Aplicação do teste qui-quadrado do erro de fechamento

Resolve-se a equação e obtém-se a estatística q = 7,61. As estatísticas teóricas qui-quadrado ao nível de significância α= 1% e v = 2 graus de liberdade valem χ²_2;0,005 = 0,01 e χ²2;0, 995 = 10,60, que comparadas com a estatística q permitem aceitar as medidas de ângulo e de distância da linha poligonal. Este teste leva em conta os erros acidentais e por esse motivo é adequada a sua aplicação às linhas poligonais topográficas.

Aplicação do teste qui-quadrado da forma quadrática dos resíduos

Resolve-se a equação

e obtém-se a estatística χ^*2 = 4,41. Ao nível de significância α= 1% e v = 2 graus de liberdade, as estatísticas teóricas qui-quadrado comparadas com a estatística χ^*2 indicam que não existem erros significativos nas medidas de ângulo e de distância da linha poligonal, assim como não existem erros no processo de ajustamento.

Aplicação do teste Data Snooping de Baarda

Resolve-se a equação , para i = 1,2, ..., 18. O menor e o maior valor das estatísticas w_i, em valor absoluto, são w₁₂ = 0,06 e w1 = 2,22, que comparadas com a estatística teórica da distribuição normal padronizada na probabilidade , de valor k = 2,57 mostram que não há erro em nenhuma das observações de ângulo e de distância da linha poligonal.

Estes três testes estatísticos decidiram sobre a não existência de erros, ao nível de significância α= 1%, nas observações de distância e de ângulo da linha poligonal. A inexistência de erros decorre da geometria escolhida para estabelecer os pontos da linha poligonal, do instrumental escolhido, das condições ambientais, dos cuidados do operador em campo e do modelo matemático de ajustamento pelo MMQ.

CONCLUSÃO

Em uma linha poligonal, as estimativas de qualidade são calculadas antes e após o ajustamento pelo MMQ.

Antes do ajustamento, a estatística q indica que não existem erros, ao nível de significância =1%, nas observações de distância e de ângulos.

Após o ajustamento, ao nível de significância α=1%, a estatística χ^*2 indica a inexistência de erros nas observações e no processo de ajustamento. As estatísticas w_i indicam a inexistência de erros em cada observação de ângulo e de distância, ao nível de significância α=1%. A elipse de cada ponto será tanto maior quanto mais afastado estiver o ponto do ponto considerado fixo na linha poligonal.

Recebido para publicação 10.04.07

Aprovado em 13.02.08

• DALMOLIN, Q. Ajustamento por mínimos quadrados 2.ed. Curitiba: UFPR, 2004. 175p.
• GEMAEL, C. Introdução ao ajustamento de observações: aplicações geodésicas Curitiba: UFPR, 1994. 319p.
• JOHNSON, R.A.; WICHERN, D.W. Applied multivariate statistical analysis 4.ed. Upper Saddle River: Prentice-Hall, 1998. 816p.
• KAVOURAS, M. On the detection of outliers and the determination of reliability in geodetic networks New Brunswick: Departament of Surveying Engineering. Fredericton: University of New Brunswick, 1982. 121p. (Technical Report, n.87).
• MORAES, C.V. Aplicação do ajustamento às poligonais 1997. 162f. Dissertação (Mestrado em Ciências Geodésicas) - Curso de Pós-graduação em Ciências Geodésicas, UFPR, Curitiba.
• MORAES, C.V. Análise de erros grosseiros e confiabilidade de redes geodésicas. Cartografia e Cadastro, Lisboa, n.8, p.77-86, 1998.
• STRINGHINI, M. Ajustamento e controles de qualidade aplicáveis às linhas poligonais 2005 . 129f. Dissertação (Mestrado em Geomática) - Curso de Pós-graduação em Geomática, UFSM.
• VERESS, S.A. Measures of accuracy for analysis and design of survey. Surveying and Mapping, Washington DC., v. XXIII, n.4, p.435-442, 1973.

1

Autor para correspondência.

Datas de Publicação

• Publicação nesta coleção
  11 Nov 2008
• Data do Fascículo
  Set 2008

Histórico

• Aceito
  13 Fev 2008
• Recebido
  10 Abr 2007