智能航道中“大数据”研究

2014-10-24 04:52曹树青舒晓明梁向棋张宝瑞
中国水运 2014年10期
关键词:数据挖掘大数据

曹树青++舒晓明++梁向棋++张宝瑞

摘 要:通过对大数据基本概念的介绍及基本特征的阐释,深入分析大数据的本质,并简要介绍了智能航道的概念、框架及关键技术,探讨大数据在智能航道应用上的优势,分析智能航道建设中大数据平台搭建应注意的方面。

关键词:大数据 智能航道 数据挖掘

近两年,“大数据”一词备受人们关注。大数据本质究竟是什么,它在智能航道的建设中充当什么角色,能给智能航道的建设带来什么优势,进而给智能航道的建设带来什么启示,智能航道中大数据平台该如何架构?下面谈谈这方面的看法。

大数据的定义及特征

1、大数据定义

什么是大数据?高德纳咨询公司的定义是:大数据是大量、高速、多变的信息资产,它需要新型的处理方式去促成更强的决策能力、洞察力与优化处理。维基百科的定义是:大数据由巨型数据集组成,这些数据集大小常超出人类在可接受时间下的收集、使用、管理和处理能力。各机构定义虽然不同,但都有一个共识:大数据是一个数据集的集合,这个集合如此庞大而复杂,以至于它无法通过传统的数据库管理工具来进行处理,从各种类型的大量数据中,快速获取有价值信息的能力,就是大数据技术,它不是一种特定的技术,而是一类技术的统称。

2、大数据特征

大数据有四个特征(4V):①数据量大(Volume)。数据量从GB级别跃升到TB乃至PB级别。②数据类型繁多(Variety)。包括文档、图片、音视频、地理位置及传感器等数据,不仅包括传统的结构化数据,也包括半结构化、非结构化数据。③流动速度快(Velocity)。数据是动态产生的流式数据,数据流动速度快到难以用传统的模式去处理。④价值密度低(Value)。数据量呈指数增长,而隐藏在数据中的有价值信息却没有相应的呈指数增长,但其应用价值极高。大数据有几个关键点,首先,其数据来源不是小范围的样本,而是所有数据,其允许不精确的数据,混杂的数据反而会带来更有价值的信息。其次,它放弃对因果关系的渴求,而取而代之关注相关关系。也就是说只要知道“是什么”,而不需要知道“为什么”。总而言之,大数据的核心就是预测趋势,就是洞见未来。

大数据与智能航道

1、智能航道定义

“智能航道”(Intelligent Waterway)是指在数字航道基础上,利用智能传感器、物联网、自动控制、人工智能等技术,自动获取航道系统要素信息,通过融合处理与深度挖掘,实现航道规划科学化、建养智能化、管理现代化,为水路运输高效、安全、节能提供实时、精确、便捷的航道服务。

2、大数据与智能航道关系

从智能航道的定义中可以看出,航道数字化仅仅是基础,智能航道其核心是从全面数据化后的航道中,对所获得的关于航道的海量数据进行专业化的数据分析、数据挖掘,进而实现从数据到信息、从信息到知识、从知识到洞察力的过程,洞察力才是“智能”二字的具体体现。而大数据,正是从海量数据中挖掘出知识,进而帮助决策和洞见未来的一类技术。大数据,正是实现“智能”二字的核心,是智能航道发展的引擎。

大数据在智能航道应用上的优势

1、改进传统的航道河床演变研究

传统的航道河床研究是基于所测得的航道水文(流速、流量、泥沙)、水深、岸线等相关要素数据,依据水流泥沙运动规律,结合该航道的历史河床结构数据,构建相应的物理模型和数学模型来对航道河床的演变进行分析,其数据来源是小量具有典型特征的数据。而在智能航道中,航道的水文、水深、岸线等要素数据,是实时监测和实时获取的,其数据量不是小部分数据,而是所有数据。大数据的核心,其数据分析面对的是全部数据。依据所获得的实时全部数据,可以对航道河床演变的趋势进行分析和预测。如可依据实时获取的水文和岸线数据,结合水流泥沙运动规律以及崩塌临界值,可以预测岸线的变化及崩塌情况。依据实时获取的水深数据,结合水流泥沙运动规律,可预测水下地形地貌变化的趋势,进而分析河床的演变。这正是航道河床演变中“洞察力”的具体体现,依据河床的演变趋势的预测,航道管理部门可以采取相应的措施来对航道进行维护整治,进而稳定航槽。

2、完善航道整治建筑物预警机制

航道整治建筑物主要有各种坝(丁坝、顺坝、潜坝等)、鱼嘴、护滩带、护坡护岸等,由于水流作用,航道整治建筑物会发生水毁情况,而目前对建筑物的水毁情况难以监控。而在智能航道中,通过安装在航道整治建筑物上的水流传感器等各类传感器获取的全部实时数据,结合坝体结构及受力情况,通过大数据所构建的数据挖掘模型对航道整治建筑物的结构安全稳定性进行综合模糊评判,可以预测航道整治建筑物发生水毁情况的趋势,主管部门可以结合判定结果采取相关措施来对航道整治建筑物进行加固或是修补等,进而形成完善的航道整治建筑物维护预警机制。

3、提高航运效率

传统的船舶航行中,航行路线的选择更多的依赖于航标和驾驶员的经验,具有一定的随意性。智能航道中,大数据能依据各型各类传感器实时获取的航道流速流态等流场数据,上水航行时选取水流流速较小的水域,下水航行时选取水流流速较大的水域,进而规划出船舶航行最佳路径,并依据航道流场的实时变化,实时修正船舶导航路径,这样既节约了航行时间,又降低了航行的经济成本,还能减少油耗带来的污染。

4、提高航运安全水平

航运安全是航道管理中重要的一部分,航行船舶的碰撞或是船舶自身故障导致的沉船带来的损失是惨重的,其自身可控性和主动应急救援能力相对陆路是较弱的。而大数据的实时性和可预测性有助于提高航运安全水平。在船舶驾驶员监测方面,酒精探测传感器、驾驶员疲劳监测系统等船载检测装置通过提取驾驶员的身体特征、面部特征、眼部特性、头部运动特性、操作行为特性等数据,综合评判驾驶员的驾驶状态,并进行报警提示甚至采取相应措施来控制船舶的航行。同时,依据航道上船舶自身的定位装置及船舶的航速、航向等数据,分析船舶的运动轨迹,大数据快速整合航道上每艘船传感器所传回的数据,分析航行路线的安全性,当两艘船的航行轨迹超出安全距离或是船舶航行在航道管理部门规定的航道外后,及时发出预警提示。大数据以其快速反应时间和综合决策模型,能有效的减少船舶航行安全事故,提高航运安全水平。endprint

以上几方面都是谈到大数据在智能航道中的预测趋势和洞见未来的能力,显然,大数据在智能航道上的应用优势远不止以上几方面。可以说,只有想不到的,没有做不到的。当前国家正在逐步推进全流域长江黄金水道的建设,长江经济带的建设已经上升为国家战略层面,当长江航运再次复兴时,依据长江上船舶航行路线和沿江港口城市的货运吞吐量,甚至挖掘出船舶航行与沿江港口城市的经济健康状况的相关性也不是没有可能。大数据技术,它只需要能够分析出二者的相关性就足以帮助洞见趋势,而不需要分析经济健康与否背后的原因。依据沿江港口城市经济健康状况,又可挖掘出其与国家东部产业向西转移状况的相关性,进而在战略层面上给国家提供数据分析。这就正如谷歌公司的流感趋势预测速度比美国疾控中心还要快一样,甚至能比国家统计局的数据统计分析速度还要快。

大数据给智能航道建设的启示

1、加强数据感知与获取

大数据强调的是海量数据,所有数据。所以智能航道建设中,航道河床数据、航标数据、水文数据、整治建筑物数据、船舶数据、气象数据、用户行为等数据都要纳入考虑,并建立相应的数据库。与航道相关的文档数据、图片数据、音视频数据等结构化、半结构化、非结构化数据都要录入航道数据库。数据的全面性非常重要,只有感知了全部数据,才可能掌控航道状态,洞见航道状态和发展趋势。

2、做好数据库顶层设计

良好的顶层设计有助于数据的存储、融合、提取、分析以及挖掘。智能航道中的大数据分析平台可由基础数据层、基础设施层、数据挖掘层、终端发布层组成。基础数据层对所获得的所有数据进行整合,融合成航道要素数据库、航运要素数据库、气象环境数据库等。基础设施层通过建立云计算平台,将各类基础IT设施虚拟化为设备资源服务,为大数据分析所需要的计算能力提供基础支撑。数据挖掘层通过对基础数据层数据的分析和挖掘,结合各类专家数学模型,对所获得的航道要素、航运要素、气象环境等数据进行实时分析和处理,实现航道演变趋势预测、航运通航状态预测等一系列洞见未来的行为。终端发布层采用云计算服务,将航道的状态、船舶通航状态、天气气象状态等信息通过多终端(PC、平板电脑、智能手机等)、多类型(文字、音视频等)发布给管理者和一般用户。管理者可以根据大数据分析结果进行综合评判,一般用户可以实时感知和获取自己需要的数据,同时反过来用户状态、行为所产生的数据又可反馈回基础数据库,为后续给一般用户提供个性化的定制服务提供数据分析依据。

参考文献:

[1] 熊学斌,吕永祥. 长江兰家沱—大埠街河段智能航道建设实施方案研究[J]. 水运工程. 2012(11)

[2] 吕永祥. 长江干线航道要素状态感知与交互技术分析[J]. 水运工程. 2012(09)

[3] 邱卫云. 智能交通大数据分析云平台技术[J]. 中国交通信息化. 2013(10)

(作者单位:长江航道测量中心)endprint

猜你喜欢
数据挖掘大数据
探讨人工智能与数据挖掘发展趋势
基于并行计算的大数据挖掘在电网中的应用
数据挖掘技术在中医诊疗数据分析中的应用
大数据环境下基于移动客户端的传统媒体转型思路
基于大数据背景下的智慧城市建设研究
数据+舆情:南方报业创新转型提高服务能力的探索
一种基于Hadoop的大数据挖掘云服务及应用
数据挖掘的分析与探索
基于GPGPU的离散数据挖掘研究