MARCOS ALMIR DE OLIVEIRA
Compatibilização de Dados, em diferentes Referenciais,
para Atualização Cartográfica: Estudo de Caso na SABESP.
São Paulo 2006
MARCOS ALMIR DE OLIVEIRA
Compatibilização de Dados, em diferentes Referenciais,
para Atualização Cartográfica: Estudo de Caso na SABESP.
Dissertação apresentada à Escola Politécnica da Universidade de São Paulo para obtenção do título de Mestre em Engenharia.
São Paulo 2006
MARCOS ALMIR DE OLIVEIRA
Compatibilização de Dados, em diferentes Referenciais,
para Atualização Cartográfica: Estudo de Caso na SABESP.
Dissertação apresentada à Escola Politécnica da Universidade de São Paulo para obtenção do título de Mestre em Engenharia.
Área de Concentração: Engenharia de Transportes
Orientador:
Prof. Dr. Edvaldo Simões da Fonseca Junior
São Paulo 2006
Este exemplar foi revisado e alterado em relação à versão original, sob responsabilidade única do autor e com a anuência de seu orientador.
São Paulo, 13 de dezembro de 2006.
Assinatura do autor ____________________________
Assinatura do orientador _______________________
FICHA CATALOGRÁFICA
Oliveira, Marcos Almir de
Compatibilização de dados, em diferentes referenciais, para atualização cartográfica : estudo de caso na SABESP / M.A. de Oliveira. -- São Paulo, 2006.
172 p.
Dissertação (Mestrado) - Escola Politécnica da Universidade de São Paulo. Departamento de Engenharia de Transportes.
1. Cartografia 2. Sistema de posicionamento global 3. Coor- denadas terrestres 4. Sistemas geodésicos de referência I. Uni-versidade de São Paulo. Escola Politécnica. Departamento de Engenharia de Transportes II. t.
DEDICATÓRIA
Aos meus familiares e em especial a minha esposa Marlene e meus filhos Bruno e Carolina.
AGRADECIMENTOS
Aos amigos e professores da Poli, em especial ao meu orientador Professor Doutor Edvaldo Simões da Fonseca Junior.
Aos amigos: Jefferson Rocco, Daniel Silva Costa, Mario Alexandre de Abreu, Adilson Haroldo Piveta e Flávio Vaz pela cooperação e companheirismo.
Aos colegas de trabalho da SABESP, em especial aos da equipe da Cartografia: Ari Francisco de Paula, Alfredo da Silva Vida, Geraldo José da Silva, Isac Ferraz, Osvaldo Souza Coutinho Filho, Stela Alexandrina Matutat e William Dias.
Aos amigos da empresa Base Aerofotogrametria, em especial aos engenheiros Antonio Carlos e Ivan Idoeta, pela colaboração nos processamentos dos dados apresentados neste trabalho.
E a todos que direta ou indiretamente colaboraram na execução desse trabalho.
RESUMO
Um dos propósitos deste trabalho foi apresentar a metodologia envolvida na estimação de parâmetros de transformação entre dois Sistemas Geodésicos, em função da implantação do Sistema de Informações Geográficas no Saneamento (SIGNOS) pela SABESP.
Este estudo foi desenvolvido no Município de São Paulo, onde foram calculados parâmetros de transformação entre os Sistemas SAD-69 (South American Datum 1969) e Córrego Alegre. Os parâmetros obtidos neste estudo foram comparados com os parâmetros disponíveis atualmente.
Outro estudo, deste trabalho, é a proposta para compatibilização do sistema altimétrico da SABESP. O sistema atual é formado por diversas redes altimétricas (IBGE, SABESP, EMPLASA e IGG) que são divergentes entre si. O objetivo final é verificar as diferenças regionais e estabelecer a unificação do sistema altimétrico da SABESP na Região Metropolitana de São Paulo (RMSP).
Palavras Chave: Cartografia. Sistema de Posicionamento Global. Parâmetros de Transformação. Sistema Geodésico. Nivelamento Geométrico.
ABSTRACT
One of the purposes of this work was introduce the methodology involved in the estimate of the transformation parameters between two Geodetic Systems, in function of the implantation of the Geographical Information System by SABESP. This work has been developed in São Paulo City, where transformation parameters were calculated between systems SAD-69 (South American Datum 1969) and Córrego Alegre. The estimated parameters at this work had been compared with the available parameters nowadays.
Another study, of this work, is the proposal for compatibility of the altimetric system of SABESP. The current system is formed by diverse altimetric nets (IBGE, SABESP, EMPLASA and IGG) that are divergent between themselves. The final objective is to verify the regional differences and to establish the unification of the altimetric system in São Paulo Metropolitan Region (RMSP).
Keywords: Cartography. Global Position System. Transformation Parameters. Geodesic System. Geometric Leveling.
LISTA DE ILUSTRAÇÕES
Figura 1 - Relação entre o Sistema Geodésico e o Sistema Cartesiano...27
Figura 2 - Distribuição geográfica dos 750 vértices da rede clássica do SCM ...43
Figura 3 - Ajustamentos da rede altimétrica (RAAP) entre 1948 e 1975...46
Figura 4 - Ilustração do vetor translação entre dois sistemas cartesianos ...51
Figura 5 - Ilustração da transformação tridimensional de Helmert ...54
Figura 6 - Nivelamento Geométrico com Nível Digital...57
Figura 7 - Desdobramento das folhas, segundo as diversas escalas... ...63
Figura 8 - Desenho Esquemático da formação do nome do arquivo digital ...67
Figura 9 - Áreas geográficas abrangidas pela implantação do SIG na RMSP ...72
Figura 10 - Logotipos adotados para o SIG da SABESP ...73
Figura 11 - Áreas da SABESP integradas pelo Sistema SIGNOS ...73
Figura 12 - Distribuição Geográfica das Estações Monitoras do sistema GPS ...78
Figura 13 - Ilustração do sinal GPS básico. ...79
Figura 14 - Estrutura dos sinais GPS após a modernização ...90
Figura 15 - Satélite do Bloco IIR-M ...91
Figura 16 - Exemplo de Monografia de Vértices da Rede Clássica do SCM ...101
Figura 17 - Distribuição espacial dos Vértices utilizados...103
Figura 18 - GPS TOPCON LEGACY...105
Figura 19 - Exemplo do formulário utilizado nas ocupações GPS...107
Figura 20 - Esquema da Reocupação dos vértices da rede clássica com GPS...108
Figura 22 - Vista do Vértice 3070 ...110
Figura 23 - Vista do Vértice 2017 ...110
Figura 24 - Vista e detalhe do Vértice 3558 ...111
Figura 25 - Vista e detalhe do Vértice 3493 ...111
Figura 26 - Vista do Vértice 3245 ...112
Figura 27 - Vista e detalhe do Vértice 3142 ...112
Figura 28 - Vista e detalhe do Vértice 3173 ...113
Figura 29 - Vista e detalhe do Vértice 3247 ...113
Figura 30 - Vista e detalhe do Vértice 3190 ...114
Figura 31 - Vista e detalhe do Vértice 3148 ...114
Figura 32 - Vista e detalhe do Vértice 3097 ...115
Figura 33 - Vista e detalhe do Vértice 3161 ...115
Figura 34 - Vista e detalhe do Vértice 2020 ...116
Figura 35 - Vista do Vértice 2022 ...117
Figura 36 - Vista e detalhe do Vértice 2060 ...117
Figura 37 - Vista e detalhe do Vértice 3031 ...118
Figura 38 - Vista e detalhe do Vértice 3247 ...118
Figura 39 - Vista e detalhe do Vértice 3279 ...119
Figura 40 - Resumo do Processamento da observação com GPS dos vértices V3021, V3514, V3516, V3519 e V3542...123
Figura 41 - Planilha Excel - Transformação de coordenadas UTM em Geodésicas ...125
Figura 42 - Planilha Excel - Transformação de coordenadas Geodésicas em Cartesianas ...125
Figura 43 - Tela do programa GEOBASE 5.0 - utilizado na transformação
de Datum...126
Figura 44 - Resíduos nas coordenadas UTM com a aplicação dos Sete Parâmetros ...132
Figura 45 - Resíduos nas coordenadas UTM com a aplicação dos Três Parâmetros...132
Figura 46 - Resíduos nas coordenadas UTM com a aplicação dos Parâmetros do IBGE ...134
Figura 47 - Aplicação dos Parâmetros no bairro de Itaquera (V 3070) ...136
Figura 48 - Aplicação dos Parâmetros no bairro da Casa Verde (V 3516)...136
Figura 49 - Localização das RRNN do IGG, SABESP e GEGRAN na RMSP ...137
Figura 50 - Exemplo de Chapa usada na implantação da rede altimétrica ...142
Figura 51 - Croquis sem escala dos circuitos nivelados no município de Carapicuíba ...143
Figura 52 - Unidades de Negócio da SABESP no município de São Paulo ...148
Figura 53 - Diferenças entre as Redes Altimétricas por município na RMSP ...153
Figura 54 - Mapa Coroplético com as diferenças altimétricas médias por município na RMSP ...154
Figura 55 - Exemplo de Monografia com as novas informações inseridas ...157
Figura 56 - Distribuição geográfica das RRNN do IBGE comparadas com as RRNN do IGG...161
LISTA DE TABELAS
Tabela 1 - Dimensão das Cartas do SCM ...64
Tabela 2 - Simbologia, Layers e atributos adotados pela SABESP ...68
Tabela 3 - Exatidão das Efemérides ...81
Tabela 4 - Fontes de erro e seus efeitos...82
Tabela 5 - Vértices do SCM ocupados com GPS (Coordenadas em metros) ...104
Tabela 6 - Módulos do programa comercial GPSURVEY ...120
Tabela 7 - Desvio padrão nas coordenadas dos vértices observados com GPS ....122
Tabela 8 - Coordenadas cartesianas dos vértices reocupados e os parâmetros pontuais de transformação. ...127
Tabela 9 - Valores Ajustados pelo método dos sete parâmetros ...128
Tabela 10 - Valores Ajustados pelo método dos três parâmetros ...129
Tabela 11 - Valores dos três parâmetros divulgados pelo IBGE ...129
Tabela 12 - Valores dos resíduos no método dos sete parâmetros ...130
Tabela 13 - Valores dos resíduos no método dos três parâmetros ...131
Tabela 14 - Valores dos resíduos utilizando-se parâmetros divulgados pelo IBGE 133 Tabela 15 - RRNN e Vértices implantados pela SABESP no projeto SIGNOS ...138
Tabela 16 - RRNN do IBGE que tiveram novas altitudes atribuídas ...139
Tabela 17 - RRNN do IBGE utilizados como injunção ...140
Tabela 18 - RRNN da SABESP e do IGG reocupadas na implantação da rede altimétrica ...144
Tabela 19 - RRNN do GEGRAN reocupadas na implantação da rede altimétrica...145
Tabela 20 - RRNN da SABESP e do GEGRAN interligados com a nova rede altimétrica ...146
Tabela 21 - Resultado da interligação das Redes altimétricas no município de São Paulo...149
Tabela 22 - Diferenças médias entre as redes altimétricas por município ...152
Tabela 23 - Comparação das Altitudes referentes ao IGG e ao IBGE ...160
Tabela 24 - Ajustes efetuados em linhas de nivelamento do IBGE, entre 1986 e 1993 ...162
LISTA DE ABREVIATURAS E SIGLAS
ABNT Associação Brasileira de Normas Técnicas
ARNSs Aeronautical Radio Navigation Services
AS Anti-Spoofing
BIH Bureau International de L’Heure
C/A Coarse-Acquisition
CAD Computer Aided Design
CEP Código de Endereçamento Postal
CIGNET Cooperative International GPS Network
CIS Conventional Terrestrial System
CNG Conselho Nacional de Geografia
COMASP Companhia Metropolitana de Água de São Paulo
CPRM Companhia de Pesquisa de Recursos Minerais
CTP Conventional Terrestrial Pole
CTRS Conventional Terrestrial Reference System
CTS Conventional Terrestrial System
DGH Datum Geodésico Horizontal
DGPS Differential Global Positioning System
DoD Department of Defense
DOP Dilution of Precision
DoT Department of Transport
DSG Diretoria do Serviço Geográfico do Exército
EGM96 Earth Gravity Model 1996
EGNOS European Geostationary Navigation Overlay Service
EMPLASA Empresa Paulista de Planejamento Metropolitano S.A
EPUSP Escola Politécnica da USP
ESA European Spatial Agency
GALILEO Sistema de Posicionamento Global Europeu GEGRAN Grupo Executivo da Grande São Paulo
GIOVE-A Galileo In-Orbit Validation Element
GIS Geographical Information System
GLONASS Global’naya Navigatsionnay Sputnikovaya
GNSS Global Navigation Satellite System
GPS Global Positioning System
GRS-67 Elipsóide de Referência do SAD-69
IAG International Association of Geodesy
IAGS Inter-American Geodetic Survey
IAG/USP Instituto de Astronomia, Geofísica e Ciências Atmosféricas da USP
IBGE Fundação Instituto Brasileiro de Geografia e Estatística
IERS International Earth Rotation Service
IGC Instituto Geográfico e Cartográfico
IGG Instituto Geográfico e Geológico
IGS International GNSS Service
IGSN-71 International Gravity Standardization Net-1971
IPGH Instituto Pan-Americano de Geografia e História
IPT Instituto de Pesquisas Tecnológicas
IRM International Reference Meridian
IRP International Reference Pole
ITRF IERS Terrestrial Reference Frame
ITRS International Terrestrial Reference System
HIRAN High Precision Short-Range Navigation
LLR Lunar Laser Range
MMQ Método dos Mínimos Quadrados
MVC Matriz Variância-Covariância
NASA National Aeronautics and Space Administration
NAVSTAR Navigation System with Time and Ranging
NGS National Geodetic Survey
NIMA National Imagery and Mapping Agency.
NMM Nível Médio do Mar
PDOP Position Dilution of Precision
PEC Padrão de Exatidão Cartográfico
PMSP Prefeitura do Município de São Paulo
PMRG Projeto de Mudança do Referencial Geodésico
PNT Posicionamento Navegação e Tempo
PPS Precise Positioning Service
RAAP Rede Altimétrica de Alta Precisão
RGFB Rede Gravimétrica Fundamental Brasileira
RMSP Região Metropolitana da Grande São Paulo
RRNN Referências de nível
SABESP Companhia de Saneamento Básico de São Paulo
SAD-69 South American Datum 1969
SCG Sistema Cartesiano Geodésico
SCM Sistema Cartográfico Metropolitano
SCN Sistema Cartográfico Nacional
SGB Sistema Geodésico Brasileiro
SGE Serviço Geográfico do Exército
SGR Sistemas Geodésicos de Referência
SIG Sistema de Informações Geográficas
SIGNOS Sistema de Informações Geográficas no Saneamento
SIRGAS Sistema de Referência Geocêntrico para as Américas
SISRE Signal In Space Range Error
SLR Satellite Laser Range
UERE User Equivalent Range Error
UFPR Universidade Federal do Paraná
UGGI União Geodésica e Geofísica Internacional
UE União Européia
UTM Universal Transversa de Mercator
VDOP Vertical Dilution of Precision
VLBI Very Long Baseline Interferometry
SUMÁRIO
CAPÍTULO - 1 INTRODUÇÃO ...19
1.1 JUSTIFICATIVA E OBJETIVOS...20
1.2 ESTRUTURA DA DISSERTAÇÃO...21
CAPÍTULO - 2 SISTEMAS DE REFERÊNCIA ...22
2.1 SISTEMAS DE COORDENADAS ...22
2.2 DATUM GEODÉSICO...23
2.2.1 Sistemas de referência clássicos ...24
2.2.2 Sistemas de referência modernos...24
2.3 COORDENADAS GEODÉSICAS ...26
2.4 SISTEMA DE COORDENADAS CARTESIANAS ...27
2.5 SISTEMA GEODÉSICO BRASILEIRO - SGB...29
2.6 SISTEMAS DE REFERÊNCIA USADOS NO BRASIL ...30
2.6.1 Sistema Geodésico Córrego Alegre ...31
2.6.2 Sistema Astro Datum Chuá ...32
2.6.3 Datum Sul-americano - SAD-69 ...32
2.6.4 Sistema de Referência Geocêntrico para as Américas - SIRGAS...34
2.7 SISTEMA ALTIMÉTRICO ...36
2.7.1 Datum Vertical ...37
2.7.2 Altitude ortométrica...38
CAPÍTULO - 3 IMPLANTAÇÃO E COMPATIBILIZAÇÃO DE REDES ...41
3.1 IMPLANTAÇÃO DE REDES PLANIMÉTRICAS ...41
3.1.1 Implantação das Redes de Apoio Geodésico do SCM ...42
3.2 IMPLANTAÇÃO DE REDES ALTIMÉTRICAS ...43
3.2.1 Primeiras Redes Altimétricas no Brasil...44
3.2.2 Rede altimétrica da EMPLASA...47
3.2.3 Rede altimétrica da SABESP ...48
3.3 COMPATIBILIZAÇÃO DE SISTEMAS GEODÉSICOS ...49
3.3.1 Compatibilização Planimétrica...49
3.3.1.1 Método dos Três Parâmetros ...50
3.3.1.2 Método dos Sete Parâmetros...52
3.3.2 Compatibilização de Redes Altimétricas...56
CAPÍTULO - 4 CARTOGRAFIA E SIG ...58
4.1 CARTOGRAFIA ...58
4.1.1 Mapas, Cartas, Plantas e Folhas...59
4.1.2 Padrão de exatidão Cartográfico - PEC...60
4.1.3 Sistema Cartográfico Nacional (SCN) e Metropolitano (SCM) ...62
4.1.4 Implantação do Sistema Cartográfico Metropolitano - SCM ...64
4.1.5 Base Cartográfica da SABESP...66
4.2 SISTEMA DE INFORMAÇÕES GEOGRÁFICAS - SIG ...69
CAPÍTULO - 5 SISTEMAS DE POSICIONAMENTO GLOBAL ...74
5.1 NAVSTAR-GPS ...74
5.1.1 Segmento Espacial...75
5.1.2 Segmento dos usuários ...77
5.1.3 Segmento de Controle...77
5.1.4 Características atuais dos Sinais GPS ...78
5.1.5 Efemérides ...79
5.1.5.1 Efemérides Transmitidas...79
5.1.5.2 Efemérides Precisas...80
5.1.6 Fonte de Erros...81
5.1.7 Transporte de Coordenadas com GPS...82
5.1.7.1 Planejamento e Coleta de Dados...82
5.1.7.2 As observáveis GPS...83 5.1.7.3 Posicionamento relativo ...84 5.1.7.4 Processamento ...85 5.1.7.5 Determinação da Ambigüidade ...86 5.1.7.6 Ajustamento ...88 5.1.8 A modernização do GPS ...89
5.2 SISTEMA DE NAVEGAÇÃO GLOBAL POR SATÉLITE - GLONASS...92
5.2.1 Segmento Espacial...93
5.2.2 Segmento de Controle e Monitoramento ...93
5.2.3 Segmento do Usuário ...94
5.2.4 Características dos Sinais GLONASS ...94
5.2.5 Modernização do Sistema GLONASS ...95
5.3 GALILEO...96
CAPÍTULO - 6 ESTIMATIVA DE PARÂMETROS DE TRANSFORMAÇÃO ...98
6.1 Compatibilização da Base Cartográfica da SABESP ...98
6.1.1 Definição dos Vértices a serem reocupados ...100
6.1.2 Reocupação dos vértices do SCM com receptores GPS ...105
6.1.3 Campanhas GPS...109
6.1.4 Outros vértices utilizados...116
6.1.5 Processamento e ajustamento dos dados GPS ...119
6.1.6 Determinação dos parâmetros de transformação...124
6.1.7 Discrepâncias encontradas ...133
6.1.8 Considerações sobre os valores obtidos ...134
CAPÍTULO - 7 DIFERENÇAS ENTRE AS REDES ALTIMÉTRICAS ...137
7.1 INTEGRAÇÃO DAS REDES ALTIMÉTRICAS NA RMSP...138
7.1.1 Definição das RRNN a serem niveladas...139
7.1.2 Ligações efetuadas na RMSP ...146
7.1.3 Ligações efetuadas no município de São Paulo ...148
7.1.4 Processamento dos dados do nivelamento e análise das diferenças ...151
7.1.5 Considerações sobre os valores obtidos ...155
7.1.6 Correção do banco de dados altimétricos ...156
7.1.7 Considerações sobre os ajustes das Redes Altimétricas do IGG e IBGE...158
CAPÍTULO - 8 CONCLUSÕES e RECOMENDAÇÕES ...164
8.1 CONCLUSÕES ...164
8.2 RECOMENDAÇÕES...167