艾 萍 ,于家瑞 ,马梦梦
(1. 河海大学水文水资源学院,江苏 南京 210098;2. 河海大学计算机与信息学院,江苏 南京 211100)
随着信息技术的发展,水文监测手段由初期人工观测,到当前综合应用接触式与非接触式自动化测量,并将演变为以卫星、无人机、雷达、物联网、移动宽带互联网、云计算及大数据分析技术为核心的空天地一体化智慧水文监测体系。水文测报由人工、单一站点测报向集成自动采集、传输和实时处理的水文自动测报系统演变,水文数据管理也由每个单位自建基础设施向通过购买云等公共服务的方式转变[1–3]。
智慧水文监测体系从结构上按传感器的空间位置可划分为天基、空基和陆基监测。陆基监测主要包括近地表的测雨雷达、固定测站、移动巡测车、移动终端等水文监测设备,以及由物联网、云技术、大数据技术构成的数据采集,传输,存储和处理的虚拟环境,同时还包括地下水位(水质)传感、土壤墒情传感、地质雷达(测地雷达)测量、同位素示踪等地下水监测网络。各类水文传感(感应)器(包括固定和移动)一般基于物联网形成水文信息感知网,并通过互联网或水文专用网络与分中心及数据中心连接。
陆基监测除沿用现有水文数据采集分中心、数据中心的信息汇聚体系外,更重要的区别是在数据中心增加数据整合集成功能,依托云存贮与计算技术,实现天基、空基和陆基监测数据的接收,存贮与整合,为水文大数据分析和常规水文应用提供信息基础[4–5]。陆基水文监测网的基本结构示意如图 1所示。
图 1 陆基水文监测网结构示意图
物联网的概念最初在 1999 年提出,是指通过射频识别(RFID)、红外感应器、全球定位系统、激光扫描器、气体感应器等信息传感设备,按约定协议,把任何物品与互联网连接起来,进行信息交换,以实现智能化识别、定位、跟踪、监控和管理的一种网络[6]。
物联网(也称为传感网)力图把各类状态感应器嵌入和装备到各种设施的监控部件中,形成传感器组成的网络,并将传感器网络与互联网连接起来,实现人类社会与物理系统的在线整合,达到网络内的人员、机器、设备和基础设施的实时监控,以全面提高资源利用率和生产力水平,改善人与自然间的关系[7–8]。物联网的基本特点主要表现为全面感知、实时传送、智能控制[8]。
典型的物联网应用系统由信息采集系统、实体描述语言(PML)信息服务器、物品命名服务器和应用管理系统 4 个部分组成[9–10]。而物联网的技术体系构成主要包括感知与标识、网络与通信、计算与服务及管理与支撑等 4 个技术部分。
感知和标识技术是物联网的基础,负责采集物理世界中发生的物理事件和数据,实现外部世界信息的感知和识别;网络是物联网信息传递和服务支撑的基础设施,通过泛在的互联功能,实现感知信息高可靠性、高安全性传递;海量感知信息的计算与处理是物联网的核心支撑,服务和应用则是物联网的最终价值体现;管理与支撑技术是保证物联网实现“可运行、可管理、可控制”的关键。
基于物联网技术的水文监测系统的硬件架构主要包括水文要素感知终端节点(水位计、水温计、溶解氧计等)、网关路由节点(中心和边缘网关)、远程中心监控节点等 3 个主要部分,每种节点完成不同的功能。系统结构如图 2 所示。
水文感知终端节点包含数据采集(传感器:主要指水位、水温、PH 值、溶解氧传感器等)、数据处理和控制(微处理器、存储器)、通信(无线收发器)和供电等模块,主要设计要求是低功耗、高可靠性和具有自组网功能。由于终端节点体积小,电源容量非常有限,在设计中必须充分考虑节点的节能优化技术,提高单位节点的工作时间,节省节点的能耗及采用合理的网络协议。
网关路由节点实现整个水文监测物联网区域子网段的自协调组网及信息处理的功能。在基于物联网的水文监测网络中,网关路由节点负责初始化和动态配置子网:给子网中每个终端节点分配地址;定时给子网段节点发送查询命令;自动加入新的网络节点,同时更新路由表。
图 2 基于物联网的水文监测系统拓扑示意图
远程中心监控节点包括远程监视和监控 2 个部分,远程监视分为对环境的监视和对计算机系统及网络设备的监视,不管怎么说远程监视就是指通过网络获得信息为主;远程监控是指通过网络对远程计算机进行操作的方法,它不仅包括对远程计算机进行重新启动、关机等操作,还包括对远程计算机进行日常设置等工作。
移动计算(Mobile Computing)的狭义定义是使用便携终端在移动中进行信息处理。这里所说的便携终端通常指体积小、重量轻、集成度高的便携计算机,手持电话,数字摄像机,数码相机,便携游戏机等[11]。
随着移动通信条件的改善和能力的增强,用户通过移动计算机和智能手机等无线终端设备访问网络上的信息资源已经成为信息应用的常规模式。相对分布式计算而言,移动计算是一种更加灵活、更为复杂的分布式计算环境。移动计算环境也为水文监测提供了高效实用的技术手段,为固定水文数据采集模式向固定与移动采集相结合的模式转化创造了条件,特别是在水文应急监测方面,技术优势十分明显。
在传统的分布式计算环境中,所有的终端都是通过固定的网络连接,只要开机就能登录网络,具有持续的连接性。分布式计算环境中,主机的位置基本上固定不变,主机的地址信息是已知的,各个终端的网络通讯具有对称性。而移动计算不同于传统的分布式计算,移动计算节点包括固定和移动节点,用户可以携带移动设备自由移动,并在移动过程中通过移动通信网络与固定节点或者其它移动节点连接和交换信息。这种计算模式创造了一种全新的应用,可以满足移动用户在任何地点访问和交换信息的需求[12–13]。基本结构如图 3 所示。
图 3 移动计算系统结构示意图
移动计算技术已经在许多业务领域得到成功应用,如交通、物流等,这些成功应用的经验为移动计算技术应用于水文监测提供了很好的技术参考。事实上,移动计算环境已经在提供水文分析成果和实时监测数据服务方面得到应用,也有将 GPRS 移动网络(2G/3G/4G)用于传输水文遥测数据的案例,但将其用于构造水文监测系统时,还需要与物联网的应用相结合,重点用于解决水文应急监测等非常规监测条件下和常规移动数据采集中的数据传输问题。更为重要的是,将各类便携式水文数据采集设备增加移动上网功能,或充分利用智能手机等移动设备的各项内置感应及信息获取与记录(如拍照、录音录像、重力感应、光强感应和 GPS 就位)等功能,开发专门用于水文信息采集的应用,以及增建一些方便使用移动设备获取水文数据的标志标识(如专供拍照获取水位的水尺、水混浊度比色板、浮标测速标注区)等。
美国 IBM 公司于 2007 年底宣布云计算计划,将云计算的概念推送到公众面前。通俗地说,对用户而言,云计算(或简称“云”)是一种可随时随地使用又非常便宜,且具有无限存贮与计算能力的服务设施[14]。
云计算借鉴了传统分布式计算的思想,并具有弹性服务、资源池化、按需服务、服务可计费及泛在接入等特点[15–16]。
云计算可以按需提供弹性资源,是一系列服务的集合,其体系架构可分为核心服务、服务管理、用户访问接口 3 层,如图 4 所示。核心服务层将硬件基础设施、软件运行环境、应用程序抽象成服务,这些服务具有可靠性强、可用性高、规模可伸缩等特点,满足多样化的应用需求;服务管理层为核心服务层提供支持,进一步确保核心服务的可靠性、可用性与安全性;用户访问接口层实现终端到云的访问[17–18]。
图 4 云计算体系结构示意图
继物联网、云计算技术之后,大数据技术也接踵而至并成为国际政治、经济、科技与社会的热点[19–22]。大数据本身是一个很抽象的概念。一般认为,大数据具有下列 4 个方面的特点:1)数据量巨大;2)数据类型繁多;3)价值密度低,商业价值高;4)处理速度快,实时性要求高[23]。大数据应用具有以下 3 个特征:1)全体而非抽样;2)效率而非精确;3)相关而非因果[24]。
大数据分析技术已经在许多领域成功应用并取得很大的效益,获取了许多应用传统手段难以获取的信息,解决了应用传统手段难以解决的问题[25]。事实上,大数据技术的应用,特别是在科学与工程和经济与管理等领域的应用,还远远没有成熟,特别是由于领域行业间信息共享程度不高,大多数领域还难以形成达到大数据分析所需要的数据集合[26–27]。
大数据分析技术由以下 2 个部分组成:1)数据准备部分。通过应用各类高效率的数据访问、抽取、存贮、清洗、数据化等工具和设施,完成面向问题的数据集合,为数据分析提供数据。2)数据分析部分。根据问题的不同,涉及多类数据分析和挖掘算法与工具,如自然语言处理、统计分析、数据挖掘、模型预测及结果呈现等。
大数据与传统数据的分析技术的主要差异是基本理念的不同,而不是技术手段,但也需要对分析技术进行必要的扩展,如需要增加处理结构化与非结构化数据融合分析等。由于大数据分析需要分析的数据量巨大,要素类型很多且形式及关系十分复杂,均导致其对存贮与计算的效率要求非常高。因此,也可将“是否能用常规的计算环境与算法完成数据分析”作为判断是不是大数据分析的标尺。
智慧水文监测体系的建立必将产生巨量且复杂的水文数据集合,这就是典型的水文大数据集合,可简称为“水文大数据”。而将用于水文大数据分析的各类技术设施工具算法等合称为“水文大数据技术”,也就是大数据技术在水文领域的应用[28]。
近年来,大数据技术在全球得到高速发展,从理论、方法到技术形成了相对完整的体系,主要包括大数据分析解决问题的途径,大数据分析的架构和处理方法(特别是非结构化数据处理方法),数据安全性,利用传统数据库和云计算进行大数据分析,授权审计和细粒度更新,各类大数据处理模式、多维数据组织、分布式文件系统、大数据分析及挖掘算法和大数据分析系统体系结构等[29]。依据这个体系,国际主要的计算机软硬件厂商纷纷推出了软件或软硬件系统结合的大数据处理方案、架构或产品,形成了以 Hadoop 及 MapReduce 编程模型为代表,流处理和批处理相结合的大数据处理技术及产品体系,并在各个领域得到广泛应用。
目前,真正将大数据技术应用于水文领域的探索还刚刚开始[30]。其主要原因是传统的水文数据采集与应用理念和模式与大数据技术的应用不相适应。随着水文信息服务理念的改变和服务领域的扩展,将推动智慧水文监测体系的建立与应用[31],水文大数据也将很快形成,需要应用大数据分析技术来解决的水文问题将被提出。
现代信息技术的高速发展,为构造空天地一体化的智慧水文监测体系提供了有效的技术支撑。未来的智慧水文监测体系,将充分应用卫星定位、空天遥感、物联网及智能感知、移动宽带网、云计算和大数据等技术,结合地面水文固定监测站网,形成空天地一体、动静结合、点线面融合的立体化,高灵敏,高智能和快捷准确的水文信息感知系统,扩展水文信息服务的领域,全面改造提升服务能力,为智慧水利提供必要的数据基础支撑。
总之,水文信息服务能力的提升将推进智慧水文监测体系的建立,从而导致水文大数据分析技术的广泛应用,并在解决传统水文数据分析应用方法难以解决的问题方面,发挥出不可替代的重要作用,反过来水文大数据分析应用也将促进智慧水文监测体系的不断完善与进步,形成数据采集与分析应用相互促进的可持续发展局面,从而开拓出水文科学与技术发展及应用的新领域。
[1] SHEPHERD J M, PIERCE H, NEGRI A J. Rainfall modification by major urban areas: Observations from spaceborne rain radar on the TRMM satellite[J]. Journal of Applied Meteorology, 2002, 41 (7): 689-701.
[2] PETERS G, FISCHER B, ANDERSSON T. Rain observations with a vertically looking Micro Rain Radar (MRR)[J]. Boreal Environment Research, 2002, 7 (4): 353-362.
[3] KAWANISHI T, KUROIWA H, KOJIMA M, et al. TRMM precipitation radar[J]. Advances in Space Research, 2000, 25 (5):969-972.
[4] AI P, XIONG C, LIAO H, et al. A method for water resources object identification and encoding based on EPC[C]//Distributed Computing and Applications for Business Engineering and Science (DCABES), Las Vegas :2015 14th International Symposium on. IEEE, 2015: 264-267.
[5] AI P, YUE Z, YUAN D, et al. A scene analysis model for water resources big data[C]//Distributed Computing and Applications for Business Engineering and Science (DCABES),Las Vegas : 2015 14th International Symposium on. IEEE,2015: 280-283.
[6] GUBBI J, BUYYA R, MARUSIC S, et al. Internet of Things(IoT): A vision, architectural elements, and future directions[J]. Future Generation Computer Systems, 2013, 29 (7):1645-1660.
[7] JIA X, FENG Q, FAN T, et al. RFID technology and its applications in Internet of Things (IoT)[C]//Consumer Electronics, Communications and Networks (CECNet), 2012 2nd International Conference on. IEEE, 2012: 1282-1285.
[8] LEE I, LEE K. The Internet of Things (IoT): Applications,investments, and challenges for enterprises[J]. Business Horizons, 2015, 58 (4): 431-440.
[9] YUN M, YUXIN B. Research on the architecture and key technology of Internet of Things (IoT) applied on smart grid[C]//Advances in Energy Engineering (ICAEE), 2010 International Conference on. IEEE, 2010: 69-72.
[10] FAN Y J, YIN Y H, DA X L, et al. IoT-based smart rehabilitation system[J]. IEEE Transactions on Industrial Informatics, 2014, 10 (2): 1568-1577.
[11] CHEN G, KOTZ D. A survey of context-aware mobile computing research[R]. Technical Report TR2000-381,Dept. of Computer Science, Dartmouth College, 2000.
[12] SATYANARAYANAN M, BAHL P, CACERES R, et al.The case for vm-based cloudlets in mobile computing[J].IEEE Pervasive Computing, 2009, 8 (4):14-23.
[13] FORMAN G H, ZAHORJAN J. The challenges of mobile computing[J]. Computer, 1994, 27 (4): 38-47.
[14] ARMBRUST M, FOX A, GRIFFITH R, et al. A view of cloud computing[J]. Communications of the ACM,2010, 53 (4): 50-58.
[15] QIAN L, LUO Z, DU Y, et al. Cloud computing: An overview[J]. Cloud Computing, 2009: 626-631.
[16] BUYYA R, YEO C S, VENUGOPAL S, et al. Cloud computing and emerging IT platforms: Vision, hype, and reality for delivering computing as the 5th utility[J]. Future Generation Computer Systems, 2009, 25(6): 599-616.
[17] ZHANG Q, CHENG L, BOUTABA R. Cloud computing:state-of-the-art and research challenges[J]. Journal of Internet Services and Applications, 2010, 1 (1): 7-18.
[18] HAYES B. Cloud computing[J]. Communications of the ACM, 2008, 51 (7): 9-11.
[19] GRAHAM-ROWE D, GOLDSTON D, DOCTOROW C,et al. Big data: Science in the petabyte era[J]. Nature,2008, 455 (7209): 8-9.
[20] The White House. Big Data Across the Federal Government[EB/0L].( 2012-10-02) [2017-09-25]. http:www.whitehouse.gov/sites/default/ files/microsites/ostp/big_data_fact_ final_1.pdf.
[21] STEPHENS Z D, LEE S Y, FAGHRI F, et al. Big data:Astronomical or genomical?[J]. PLoS Biology, 2015, 13 (7):e1002195.
[22] GRAY J. Jim Gray on eScience: A transformed scientific method[J]. The Fourth Paradigm: Data-Intensive Scientific Discovery, 2011.
[23] MANYIKA J, CHUI M, BROWN B, et al. Big data: The next frontier for innovation, competition, and productivity[M]. USA: McKinsey Global Institute, 2011.
[24] JOHN W S. Big data: A revolution that will transform how we live, work, and think[J]. John Murray, 2013, 17 (17):181-183.
[25] 李冬杰,王爱娜,肖凤林,等. 大数据和云技术在省级山洪监测预警中的应用[J]. 水利信息化,2016 (4):10-14.
[26] MCAFEE A, BRYNJOLFSSON E, DAVENPORT T H. Big data: The management revolution[J]. Harvard Business Review, 2012, 90 (10): 60-68.
[27] BOYD D, CRAWFORD K. Critical questions for big data:Provocations for a cultural, technological, and scholarly phenomenon[J]. Information, Communication & Society,2012, 15 (5): 662-679.
[28] AI P, ZHAO X Y. A framework for processing water resources big data and application[J]. Applied Mechanics and Materials, 2014, 519-520: 3-8.
[29] 丁强,蒋新新,王美玲. 水利自动化系统智慧运维平台的研究和设计[J]. 水利信息化,2016 (2): 57-60.
[30] 蔡阳. 以大数据促进水治理现代化[J]. 水利信息化,2017 (4): 6-10.
[31] 张小娟,唐锚,刘梅,等. 北京市智慧水务建设构想[J].水利信息化,2014 (1): 64-68.