路志越,毛炜青(上海市测绘院,上海 200063)
上海市海量遥感影像管理与共享服务云平台建设与应用研究
路志越,毛炜青
(上海市测绘院,上海 200063)
摘 要:针对传统海量遥感影像数据管理和共享面临的问题,研究了包括镶嵌数据集的管理模式、动态镶嵌、实时处理和服务共享等的镶嵌数据集技术,并据此提出了多时段大规模遥感影像数据共享服务解决方案,建立了上海市遥感影像管理与共享云服务平台。基于此平台提供的数据服务,建立了利用原始航空遥感影像数据进行在线分析的应用系统,为遥感影像数据更好地应用于实际工作中提供了新途径。
关键词:遥感影像;数据管理;共享服务;镶嵌数据集;云服务平台
电子邮箱: zhiyuelu283@hotmail.com
联系电话: 021-62549550×8142
随着航空航天事业的飞速发展,城市遥感影像的数据规模呈爆炸式膨胀[1]。以上海为例,已经存储和管理了自1948 年以来,不同时态航空、航天遥感影像30多期,已经完成数字正射影像(Digital Orthophoto Map,DOM)制作近10 期,完成处理并存储不同时态航天遥感影像十多期,数据总量已达数十个TB。面对如此丰富的影像资源,如何能够更好地对其加以管理和应用,成为当前迫切需要解决的问题。
目前,在这些海量影像数据大集中的情况下,遥感影像数据的管理与服务面临着如下主要问题:一是缺乏规范有序的组织模式,造成不同专题的数据源相对封闭独立,难以管理和集成应用,更难以满足各类业务系统对多源影像高效、快速调用的应用需求;二是在数据存储方面,没有建立有效的存储体系,一方面造成大量数据冗余;三是影像数据的应用往往局限在各自的监测专题和应用系统中,没有发挥多项监测工程影像数据的集成效益、数据互补效应和多时相对比效应,更难以高效应对灾害应急、重大工程协同调度等工作对多源影像数据的临时性和随机性需求[2,3]。
针对以上问题,以上海市航空遥感影像资源为基础,我们提出了一套完整的航空影像管理与应用解决方案,并建立了上海市遥感影像管理与共享服务云平台。基于平台提供的数据服务,还实现了遥感影像的在线分析应用。
图1 平台总体架构Fig.1 General structure of the platform
影像数据管理和共享服务平台的总体架构如图1所示。
其中重要的组成部分可以分为:
(1)数据层——影像数据访问支持
系统对于影像数据的访问支持包含两个层面。第一个层面是不同格式数据访问。系统支持商业影像格式的成果影像数据访问,例如TIFF、GRID、IMG等。第二个层面是不同类型数据访问。系统支持不同类型的原始影像数据访问和处理,例如CIR、RGB、RGBN、ECW等。
(2)业务层——C/S架构的多源遥感影像数据管理系统
系统基于ArcMap开发,影像管理选用先进而专业的影像管理模型——镶嵌数据集(Mosaic Dataset),并配以一套完善的影像更新和维护工具,简化并自动化了海量影像的入库管理和更新维护。影像库管理工具中的动态镶嵌和实时处理技术,不仅能够达到自动化批处理的目的,同时加快了构建海量影像库的速度,节约了处理时间,减小了数据冗余。
(3)服务层——影像数据服务共享
服务层使用ArcGIS Server + Image Server Extension向应用层系统提供空间服务。ArcGIS Server是功能强大的基于服务器的GIS产品,用于构建集中管理的、支持多用户的、具备高级GIS功能的企业级GIS应用与服务。Image Server Extension为ArcGIS Server的扩展模块,它支持在服务端对大规模影像进行动态镶嵌和实时处理,并且能够访问影像的全部信息内容(像元值、元数据等)。镶嵌数据集通过ArcGIS Server可以发布为影像服务,供用户在线使用。
(4)应用层——B/S架构的多源遥感影像共享服务系统
应用层构建B/S架构的富客户端应用程序。多源遥感影像共享服务系统主要面向数据管理部门内部人员和外网用户使用的B/S系统。按照用户权限,为用户提供空间数据和属性数据的联合查询、在线影像显示和浏览、多时态回放和对比分析、影像下载和共享等能力,为高级遥感影像分析提供支撑。
2.1 基于内存数据库实现海量数据的实时处理
内存数据库,就是将数据放在内存中直接操作的数据库,具备数据库的基本功能。相对于磁盘,内存的数据读写速度要高出几个数量级,将数据保存在内存中相比从磁盘上访问能够极大地提高应用的性能。
内存数据库所处理的数据通常是“短暂”的,即有一定的有效时间,过时则有新的数据产生,而当前的决策推导变成无效。所以,本课题建议采用内存数据库和传统数据库相结合,用内存数据库来处理实时性的监控数据和服务访问数据,进行数据的分析和告警,然后分析处理后的数据存入到传统数据库保存。
2.2 基于REST架构的Web服务
REST代表性状态传输(Representational State Transfer),在Web领域已经得到了广泛的接受,是基于SOAP 和Web服务描述语言(Web Services Description Language,WSDL)的Web服务的更为简单的替代方法。REST定义了一组体系架构原则,根据这些原则设计以系统资源为中心的Web服务,包括使用不同语言编写的客户端如何通过HTTP处理和传输资源状态。
基于REST的Web服务的遵循四个基本设计原则:显式地使用HTTP方法;无状态;公开目录结构式的URI;传输XML、JavaScript Object Notation(JSON),或同时传输这两者。
通过基于REST的系统接口是一种灵活的方法,可以为不同种类的应用程序提供以标准方式格式化的数据。它可以帮助满足集成需求(这对于构建可在其中容易地组合(Mashup)数据的系统非常关键),并帮助将基于REST的基本服务集扩展或构建为更大的集合。
2.3 影像的存储与管理模型
为了能够更好地对海量的遥感影像数据特别是原始航片数据进行有效的存储与管理,我们采用了镶嵌数据集作为影像的存储模型。镶嵌数据集集成了栅格目录(Raster Catalog)、栅格数据集(Raster Dataset)和ArcGIS Image Extension for Server的最佳功能。
镶嵌数据集使用“文件+数据库”的存储和管理方式,是管理大规模影像的理想模型。影像入库时,只会在空间数据库中建立影像索引,不会拷贝或改变原有的影像数据,原有影像文件仍然存储在文件系统中或是空间数据库中。通过先进的影像处理技术,镶嵌数据集即能够通过目录视图轻松的编目管理大规模影像,又能够通过镶嵌视图进行可视化和分析[4~9]。镶嵌影像的两种不同视图如图2所示。
图2 镶嵌数据集的目录视图和镶嵌视图Fig.2 Catalog and mosaic view of the dataset
基于这种数据管理模型,平台采用了影像动态镶嵌技术,用以保证大规模影像的快速访问。影像动态镶嵌技术是镶嵌数据集的高级特性之一。得益于影像动态镶嵌技术,通过镶嵌数据集编目管理的大规模影像数据,可以像预先镶嵌好的影像一样进行可视化和分析。影像动态镶嵌的过程如图3所示。
图3 动态镶嵌过程Fig.3 Process of dynamic mosaic
3.1 平台成果
基于以上技术手段,我们建立了上海市遥感影像管理与共享云服务平台,用以快速有效地管理上海市多时段大规模的航空航天遥感影像数据,并为相关用户提供影像数据服务。平台后端数据管理层系统主要基于ArcMap构建,采用C/S架构模式,紧密结合业务流程,便于管理人员实现和现有ArcGIS业务流程的结合。
数据管理功能包括本地数据库建立、数据导入、本地数据库导入系统数据库、元数据属性编辑、原始航片外方位元素编辑、数据统计等功能(图4),以实现常规遥感影像库的使用和管理。
图4 数据管理入库C/S系统界面图Fig.4 Interface of the C/S system for data management
前端的多源遥感影像共享服务平台主要面向相关部门与用户使用,根据按照用户权限,为其提供影像数据和元数据的联合查询、在线影像显示和浏览、多时态回放和对比分析、影像下载和共享等能力(图5、图6),为高级遥感影像分析提供支撑。
3.2 应用实例
基于开发的影像管理平台,通过动态的调用平台发布的影像数据服务,我们利用原始航空遥感影像建立了在线影像变化检测分析系统,通过结合影像的在线分析技术,用以辅助土地规划管理部门实现快速的土地变化发现与监管[10,11]。系统能够充分发挥原始影像丰富的信息量这一特点,结合后台的ENVI分析引擎,通过自定参数和预设模型,可以对硬化地表、城市水体、城市绿地、建筑物等重要地物变化情况进行快速的在线分析[12,13]。系统界面如图7所示。
图5 数据共享服务平台界面图Fig.5 Interface of the sharing platform for data service
图6 数据共享服务平台影像查询展示Fig.6 Instance of the image query in the platform
图7 遥感影像在线分析系统Fig.7 Online image analysis system
本课题重点针对上海市多年丰富的遥感影像数据,抛弃了传统的影像管理模式和单机工作站处理方式,以云服务的模式提供服务,不仅对影像成果数据进行了有序管理,而且通过自动化建模的手段,将一张张纯图片格式的原始影像与空三等相应的信息进行自动化、流程化的关联,最终这些原始影像在不损失任何信息的情况下,会通过数据库被有效地组织和管理起来。基于此,我们建立了上海市遥感影像管理与共享云服务平台,并延伸开发出了遥感影像在线分析系统,为更好地将海量的遥感影像数据管起来、用起来,做出了新的尝试和探索。
参考文献(References)
[1]董杰,黄炎,董平,等.基于镶嵌数据集的大规模遥感影像管理研究[J].红外,2012,33(10):30-32.Dong J, Huang Y, Dong P, et al.Research on management of large quantities of image data based on mosaic dataset[J].Infrared,2012,33(10):30-32.
[2]吕雪峰,程承旗,龚健雅,等.海量遥感数据存储管理技术综述[J].中国科学:技术科学,2011,41(12):1561-1573.Lü X F, Cheng C Q, Gong J Y, et al.Review of data storage and management technologies for massive remote sensing data[J].Scientia Sinica (Technologica), 2011,41(12):1561-1573.
[3]王密,龚健雅,李德仁.大型无缝影像数据库管理系统的设计与实现[J].武汉大学学报(信息科学版),2003,28(3):294-300.Wang M, Gong J Y, Li D R.Design and implementation of largescale image database management system[J].Geomatics and Information Science of Wuhan University, 2003,28(3):294-300.
[4]Stoney W E.ASPRS guide to land imaging satellites[EB/OL].http://www.asprs.org/news/satellites.2006.
[5]Guo W, Gong J Y, Jiang WS, et a1.OpenRS-cloud:a remote sensing image processing platform based on cloud computing environment[J].Scientia Sinica Technological Sciences,2010,53(S1):221-230.
[6]张涵斐,黄忠红,孟永军.海量遥感影像的存储与快速调度显示方法[J].测绘与空间地理信息,2011,34(3):36-40.Zhang H F, Huang Z H, Meng Y J.Mass remote sensing image storage and rapid scheduling display method[J].Geomatics & Spatial Information Technology, 2011,34(3):36-40.
[7]章孝灿,黄智才,陈刚,等.海量遥感图像快速显示技术[J].中国图像图形学报,2004,10(10):1021-1026.Zhang X C, Huang Z C, Chen G.Rapid display technique of massive remote sensing image[J].Journal of Image and Graphics,2004,10(10):1021-1026.
[8]李宗华,彭明军.基于关系数据库技术的遥感影像数据建库研究[J].武汉大学学报(信息科学版),2005,30(2):166-169.Li Z H, Peng M J.Remote sensing image database based on RDBMS[J].Geomatics and Information Science of Wuhan University, 2005,30(2):166-169.
[9]陈能成,龚健雅,朱欣焰,等.多级缓冲提升海量影像数据在线服务质量[J].测绘通报,2007,(6):19-22.Chen N C, Gong J Y, Zhu X Y, et al.Multi-cache improving the quality of large volume image data on-line service[J].Bulletin of Surveying and Mapping, 2007,(6):19-22.
[10]赵峰.上海地理信息公共服务平台及在智慧城市中的应用[J].上海国土资源,2013,34(3):63-65.Zhao F.Shanghai geographic information public service platform and its application in a smart city[J].Shanghai Land & Resources,2013,34(3):63-65.
[11]宋唯,刘利锋,龚威,等.规划和国土资源综合信息监管平台关键技术研究与应用[J].上海国土资源,2015,36(4):52-54.Song W, Liu L F, Gong W, et al.Research and application of key technologies in planning a comprehensive information monitoring platform for land resources[J].Shanghai Land & Resources,2015,36(4):52-54.
[12]王履华,孙在宏,曾微波,等.省级国土资源海量遥感影像数据管理技术研究[J].中国土地科学,2013,27(7):69-73.Wang L H, Sun Z H, Zeng W B, et al.Research on the management technologies of massive remote sensing image of provincial land and resources[J].China Land Sciences, 2013,27(7):69-73.
[13]吴洪桥,张敬波,何维,等.多源影像数据集成管理与应用的技术框架研究[J].国土资源信息化,2013,(5):3-7.Wu H Q, Zhang J B, He W, et al.Studies on the technical framework on behalf of the management and application integration in the image of multi source data[J].Land and Resources Informatization, 2013,(5):3-7.
Research on the construction and application of a management and sharing platform for large quantities of remote sensing image data in Shanghai
LU Zhi-Yue, MAO Wei-Qing
(Shanghai Surveying and Mapping Institute, Shanghai 200063, China)
Abstract:The problems regarding the original strategy for managing and sharing remote sensing image data were summarized in this study.Issues with the mosaic-dataset technology including the dataset management mode, the dynamic mosaic, real-time processing, and service sharing were discussed.A solution was proposed to construct a management and sharing platform for the large quantities of remote sensing image data in Shanghai.The data services provided by the platform assist with the construction of an online image analysis system consisting of the original aero-image data..
Key words:remote sensing image; data management; sharing service; mosaic dataset; cloud service platform
中图分类号:P208.2
文献标志码:A
文章编号:2095-1329(2016)02-0096-04
doi:10.3969/j.issn.2095-1329.2016.02.022
收稿日期:2015-12-07
修订日期:2016-02-19
作者简介:路志越(1985-),男,博士,工程师,主要从事地理信息系统研究与应用.
基金项目:国家测绘地理信息局现代工程测量重点实验室开放基金课题(TJES1508)