田 刚 胡争光 王 丽 薛 峰 车 钦
1 武汉中心气象台,武汉 430074 2 国家气象中心,北京 100081 3 湖北省气象局,武汉 430074
提 要: 基于国家气象中心MICAPS4网络平台框架,利用其有效对接全国综合气象信息共享系统(CIMISS)与气象信息综合分析处理系统第4版(MICAPS4)分布式数据库的优势,设计了湖北省气象预报服务一体化平台。平台集关注重点引导提醒、实况监测共享查询、气候特征对比分析、天气预报综合分析、服务产品关联检索、产品制作及一键分发、专业服务场景应用和信息数据系统管理为一体,采用了气象大数据的集约应用、工作引导的规则匹配、产品自动生成的定制合成、服务响应反馈的协同联动等关键技术,实现了在湖北省、市、县三级气象部门业务中的稳定应用。应用结果表明,一体化平台的使用大幅提升了省、市、县气象预报服务的业务集约和服务协同水平,推进了信息传输、产品制作、服务分发、联动响应等各业务流程的规范建立。MICAPS4网络框架在湖北一体化平台建设的成功实践,为国内省级气象部门及时跟踪国家级技术发展,开展大数据应用场景下的气象业务系统建设提供了一条验之有效的可选途径。
随着经济社会的发展,国内气象业务现代化、信息化水平明显提升。以湖北气象部门为例,目前已经建成存储容量超过500 TB、可支持1 000多台虚拟机的气象云平台,并启动核心业务系统从全国综合气象信息共享系统(CIMISS;熊安元等,2015)向气象大数据平台的升级,省级集约化数据支撑环境和信息化网络环境已经建立。然而,由于天气与气候,省级与市、县级系统平台各自独立,服务应用中集约不够、业务流程上下协同不足。截至2015年,湖北各市、县级业务系统数量多在30~50个,功能多有重复,标准不统一、数据不一致的现象普遍,气象现代化建设效益未能得到有效发挥。
自2015年江苏省、上海市尝试集约化流程建立预报业务一体化平台(陈奇和陈玉群,2017)以来,全国多省相继开展集约化平台的开发,并开始从多为分散于各个单位系统的链接式集中到应用气象云平台建设共享管理平台(杨有林等,2018)的转变,其中部分对接气象信息综合分析处理系统第4版(MICAPS4)(高嵩等,2014),然而以上系统仍集中于业务产品的共享显示。湖北也曾开发过专业服务一体化平台(崔新强等,2017),但功能仅限于单位内部的集中应用,未能对全省各级业务进行支撑。
伴随着MICAPS系统的持续发展(李月安等,2010;吴林林等,2013;高嵩等,2017;王若曈等,2018;刘盼等,2018;贺雅楠等,2018;唐健等,2018),继2016年客户端和服务器(C/S)架构的桌面版MICAPS4投入业务应用,国家气象中心同时推出了支持第五代超文本链接标记语言(HTML5)的浏览器和服务器(B/S)架构MICAPS4网络平台(胡争光等,2018),该平台与MICAPS4桌面版共享基础数据支持,并应用开源分布式实时计算大数据框架Storm(赵菲等,2016),基于开源网络地理信息系统框架Leaflet,能有效对接CIMISS与MICAPS4分布式数据库,已应用于全球预报服务共享平台(胡争光等,2019)和智能网格分析平台(胡争光等,2020)开发,也为省级开展大数据应用场景下的气象系统建设提供了解决方案。2017年,湖北省气象局依托国家气象中心提供的MICAPS4网络平台框架支持,利用气象云平台的建设成果,开展省、市、县预报服务业务一体化平台建设,为湖北省、市、县三级气象业务单位开展气象监测预报预警和长江流域气象中心及合作单位开展流域气象服务,提供统一入口的综合集约平台,实现省、市、县及流域综合信息的共享,并在国内率先实现市、县级监测预报服务业务产品的制作发布、联动监控,业务管理由省级平台统一提供,市、县级可不再自行开发使用其他业务系统。目前一体化平台已正式业务运行,有效提升了湖北气象部门业务集约、服务协同水平。
面向省、市、县三级的预报业务、行业服务和业务管理各类用户对象,兼顾流域服务用户对象,考虑高影响天气应对场景下多用户高并发访问、工作智能化引导、产品快速自动制作、发布一键式完成、服务上下联动的需要,建立一套利用气象大数据开展预报服务业务的核心智能应用系统,推进多元信息共享、上下实时协同、软件规范统一、系统集约高效。并通过平台的使用来规范省、市、县对实况监测、天气分析、气候分析、产品制作、服务分发以及行业应用的相关规则,实现对使用用户、分发对象、产品应用和衍生业务子系统的规范化管理,形成信息集约共享、上下实时协同的业务流程。一体化平台设计原则如下:
(1)标准统一:对系统运行环境、产品命名、数据存储及访问、用户分级权限管理、系统留痕管理、界面风格等方面进行统一规范设计。
(2)资源集约:涉及省、市、县预报服务业务的信息设备、数据资源全部纳入湖北气象云平台管理,各级气象台正式业务不再保留本单位服务器;各级预报服务业务由一体化平台统一提供,市、县级除利用MICAPS进行天气分析外,其他预报业务均转由一体化平台完成。
(3)应用智能:针对业务人员快速分析、快速发布预报预警等业务工作环节,一体化平台做到智能引导人员开展工作,尽量减少人为操作环节,实现工作自动提醒、产品自动制作、服务一键分发,让业务人员的精力重点集中于天气分析和灾害研判。
(4)模块通用:借鉴由面向服务体系结构(SOA)演变的微服务架构设计思想,基于现有业务流程提炼出统一访问接口、地理信息服务、监测统计分析、产品自动制作、信息分发管理等可重用性高的公共通用模块功能,各级专业服务子系统可直接进行模块功能调用,减少开发周期,实现功能复用。
一体化平台是基于分布式计算框架上的气象预报服务系统(秦运龙等,2019),以基于云架构的数据管理系统、支持计算和存储的硬件系统来支撑构建。一体化平台依托MICAPS4网络平台框架开展建设,应用其支持分布式计算的Storm大数据框架与基于Leaflet的GIS框架,利用其有效对接CIMISS与MICAPS4分布式数据库,即开源分布式非关系型数据库Cassandra的优势,在气象数据统一服务接口(MUSIC)与MICAPS4的网格数据服务接口(GDS)基础上扩展建立通用的数据存储和统一的数据访问接口,使平台开发符合气象大数据发展方向,并可及时跟踪国家级气象业务发展。系统前端框架是基于Leaflet的开源网络地理信息系统(WebGIS),采用新一代网络前端技术HTML5,支持气象数据的高性能渲染,采取Web+GIS的浏览器交互,并提供移动端对接支持;后台框架是基于Spring Boot开源框架与Storm流式处理,支持高并发、高性能数据访问服务。其总体架构见图1。
图1 湖北省气象预报服务业务一体化平台总体架构Fig.1 The overall framework of Hubei Meteorological Forecast Service Integration Platform
(1)表示层:采用主流的WebGIS框架,应用MICAPS4网络平台前端搭建浏览器端和移动端用户交互平台,提供气象大数据智能检索、快速导航、个性化推荐、人工订正和数据可视化等人机交互功能。
(2)业务逻辑层:基于MUSIC数据统一访问接口以及MICAPS4网络平台服务器端,应用Storm集群分布式流式计算框架,提供GIS地图服务、气象数据解析、气象数据加工、气象算法服务等气象大数据处理组件,支撑高效智能的实况资料、历史数据、数值模式、网格预报、预警服务等气象数据处理共享显示以及多元资料融合分析。
(3)数据层:基于气象云平台提供的基础设施支持,在CIMISS系统上进行扩展,增加了实况监测和气候分析中需要快速处理的实时历史地面观测数据、预报服务产品、公共管理信息等分类存储,在MICAPS4系统上增加长江流域雷达卫星延伸产品及本地化数值模式预报产品,实现对实时数据、历史数据、产品库以及管理信息的统一集中存取、系统备份以及安全控制。
面向省级各业务单位、市、县级气象部门和长江流域服务用户,平台在提供常规图像、列表、文本等方式实现信息数据的展示及输出以外,重点支持在WebGIS“一张图”交互方式下对湖北、华中区域和长江流域各类信息数据提供快速、高效、实时的历史分析,提供便捷的图层叠加、底图切换、产品选择、动态播放、翻页显示等功能,支持漫游、缩放和信息拾取的同步交互。并按照预报服务业务流程,从关注重点引导、监测共享查询、气候特征分析、天气综合分析、服务产品检索、产品制作及一键分发、专业服务场景应用和信息数据管理等方面进行功能设计(图2)。
图2 湖北省气象预报服务一体化平台主要功能及业务应用流程Fig.2 The main functions and application process of Hubei Meteorological Forecast Service Integration Platform
为方便省、市、县三级用户快速抓住预报服务关注重点开展服务,一体化平台通过统一的访问首页地址,比对用户所属单位、IP位置,针对性提供用户关注区域的个性化信息。平台展示内容根据当前天气影响、特征气象要素和历史极端天气,自动筛选用户关注区域的灾害天气、服务重点以及相应的特征实况、预报预警、灾情反馈,引导用户从海量数据中把握关键信息,及时开展服务。
为跟踪监测天气变化,掌握气象影响行业信息,平台通过基于WebGIS的综合监测信息查询页面,提供长江流域、华中区域、湖北省等不同区域气象监测数据、行业监测数据及灾情反馈等监测信息的共享查询、显示及输出。对应用频次高的国家气象站、区域气象站单独建立1 min、5 min、1 h、1 d及任意时段观测要素的查询模块;对已业务化的雷达、卫星、闪电、GPS水汽、大气成分、农业气象、灾情实况等气象监测信息和空气质量、水位、流量等行业交换监测信息建立统一实时查询模块。
为使用户快速掌握关注区域的气候特征,平台通过气候分析查询页面(图3)提供长江流域、华中区域、湖北省等区域国家气象站自建站以来降水、气温、风等气象要素的距平百分率、历史排位、极端值、特征值日数统计,以及高温、干旱、连阴雨等气象灾害监测分析和农业四季开始结束时间、交通道路结冰日数等行业监测统计。平台支持日、旬、月等常用固定查询和任意时段特定用户查询,每天自动生成1个月以来的气候概况和亟须关注的气象灾害特征。
图3 湖北省气象预报服务一体化平台的气候特征对比显示分析Fig.3 Climate characteristics comparison display and analysis function of Hubei Meteorological Forecast Service Integration Platform
为了实现市、县级通过一体化平台即可开展基本的天气分析,并可分析自主开发预报产品的目的,平台以WebGIS方式提供欧洲细网格、日本、德国、NCEP、GRAPES、华东区域、华中区域、集合预报等业务常用数值预报的交互显示,支持多分屏方式的预报对比分析。并提供湖北省各国家站及长江流域主要指标站预报要素的箱线图和时序剖面显示等本地解释应用产品分析功能。
为便于用户快速查找关联性高的服务产品来开展相关服务,平台提供省、市、县三级的决策、公众、专业等各类服务产品的集约共享和关联检索。可共享检索的产品包括短时临近预警、中短期预报、气候预测、监测评估、决策服务、公众服务、专业专项服务、为农服务、流域预报服务等。提供WebGIS图层叠加、表格、图表等可视化检索,也可提供接口方式的批量检索。
为支持省、市、县三级气象部门的联动服务,平台通过建立湖北省统一的智能网格预报、强天气监测预警和服务产品加工制作三个业务子系统来开展业务服务产品的制作,建立全省统一的发布服务器,提供多渠道发布服务。业务子系统产品制作完成后一键向发布服务器提交任务,发布服务器后台自动将产品按照所关注区域、天气、等级和渠道向定制对象进行推送,并对产品的制作流程、留痕信息、联动反馈提供在线查询。平台以流程图的方式(图略),对预警信号和重要决策服务产品的首发与联动响应进行监控。
系统可面向行业影响的气象辅助决策服务场景,通过一体化平台MICAPS4网络框架下的微服务模块组合生成该服务场景下相应行业特征的实况监测、天气分析、气候分析、预报订正、产品制作、影响评估的各个应用版块,快速形成气象服务该行业的专业系统。目前已为长江水文气象(图4a)和航运安全(图4b),基层气象防灾减灾,市、县专业服务等多应用场景搭建了专业化服务系统(田刚等,2020)。
图4 基于MICAPS4网络框架下建立的长江流域水文气象综合业务平台(a)和长江航运气象导航移动APP(b)界面Fig.4 The integrated hydrological and meteorological operation platform of the Yangtze River Basin (a) and the mobile APP of Yangtze River shipping meteorological service navigation (b)based on MICAPS4 network framework
从用户的系统浏览及操作权限、业务产品的存储规则、服务产品的分发策略、值班操作的系统留痕、业务质量的检验比对到系统运行及产品传输的监控,平台提供全过程管理、图形化监控,提供异常进程的自动重启实现平台的自维护,实现业务管理通报的自动生成。省、市、县三级可通过平台进行预报服务和业务管理的授权管理和流程监控,实现业务管理的平台化、扁平化。
平台采取B/S系统架构,以MICAPS4网络平台提供的Storm大数据框架和Leaflet地理信息系统为基础,以Java为主要开发语言,应用微服务技术思想进行搭建。并利用气象云平台提供集约化的数据资源,依照CIMISS规范实现了气象观测、数值模式、业务产品、专业服务产品以及行业交换数据、社会公共数据等各类数据标准化和存储规范化。以34台物理机集群为主构建正式业务环境,以21台虚拟机构建备份环境。采取如下技术解决业务集约、服务协同问题。
数据访问协调控制:考虑海量异构的气象大数据快速访问和实时计算分析需要,平台采用3台服务器建立Storm集群,一台主节点服务器上的进程管理工具Nimbus通过分布式协调程序Zookeeper分配各工作节点任务,并监听主节点故障;两台工作节点服务器上的进程管理工具Supervisor监听处理Nimbus分配的进程。采用缓存数据库Redis作为消息索引存储库,利用MICAPS4网络平台原有的卫星处理、雷达处理、精细化格点产品、数值预报处理、中期天气分析、集合预报分析、站点处理分析共7种拓扑,延伸发展了物理量诊断分析、长江流域及湖北省雷达拼图处理等拓扑,Storm集群运行中的相关拓扑实时从Redis队列中获取索引进行数据处理,保证数据处理和检索效率。
多源数据统一封装:对所有数据提供统一接口进行读写操作,新增数据按照存储类别进行数据接口封装:即CIMISS数据库按照气象MUSIC接口标准,MICAPS4存储处理系统数据按照GDS接口标准,CIMISS扩展库采取网络服务WebService方式进行封装,使天气与气候,业务与服务,省级与市、县级使用同一套数据,沿用同一个标准。
WebGIS规范展示:基于Leaflet的WebGIS地理信息框架和HTML5,采用Nginx网络服务器进行负载均衡,提供模块化的标准地图服务、气象要素图层服务以及风险图层服务,并提供各类场景下的数据快速叠加显示分析。通过MICAPS4网络平台前端框架提供基于HTML5 Canvas和WebGL两种渲染方式的标准绘图容器,借助分布式实时计算和切片地图Web服务(WMTS),实现对矢量图层、栅格图层、格点图层的快速绘制。通过规范全省GIS地图和应用,实现了省、市、县三级业务系统、服务产品的信息展示“一张图”。
服务产品统一分发:构建了全省统一的气象服务产品发布服务器(李超等,2019)和相应中间件,按照CIMISS扩展库的形式进行了接口封装(图5),便于平台各个子系统直接进行对接、无需传递给其他发布系统转发。提供短信、传真、邮件、FTP、大屏、大喇叭、电话、微信、微博等多种分发驱动支持,并实现与国家突发事件预警信息发布系统的对接,产品可分渠道、分用户、分灾种、分等级、分落区直接在各子系统一键式发布。通过在内网、内外网隔离区(DMZ区)各布设一套发布服务器,解决了产品需要跨内外网发布的问题。
图5 湖北省气象预报服务一体化平台的气象服务产品发布服务器接口应用示意图Fig.5 The application diagram of meteorological service product publisher interface of Hubei Meteorological Forecast Service Integration Platform
工作智能引导主要通过规范建立工作提醒和服务启动的阈值规则,实时比对监测预报服务多源信息,自动传递工作应对建议来实现。即针对实况监测、灾害预报预警、产品制作分发、灾害影响评估的实时业务开展和流程管理需求,分类建立工作循序开展的阈值规则;通过布设后台监视程序,将实况监测、预报预测、服务应对等多源信息与阈值规则进行匹配比对,判断确定是否需要进行工作关注或启动服务:当监测预报服务信息出现满足阈值条件时,使用Spring Schedule实时监视程序生成报警信息。并通过WebService调用报警发送接口,通过WebSocket全双工通信协议连接,向浏览器页面或移动APP发送弹窗提醒、首页轮播、语音等页面消息,向用户发送短信提醒。Vue响应式前台框架通过智能组合浏览器页面或客户端,来展示工作人员需要关注的要素信息,并通过弹窗和声音报警等形式提示值班人员开展相关服务。
业务平台能否被各级业务部门接受的一大难点在于其能否能快速生成业务需要的产品,有效将预报服务人员从繁琐的实况资料统计、预报信息导入和服务建议等各项内容编排中解脱出来。针对该难点,本文所述平台通过建立实况监测、预报预测、服务建议等资料信息组成的数据仓库,制定产品的启动规则,搭建服务产品模板定制入口,提供模板内图片、表格、文字等各类变量的标签设定。产品制作的启动后,通过对产品模板标签的替换实现产品的自动生成。此外,为解决基础数据缺测或出现奇异值等问题,提供前端用户界面人工交互订正以及人工确认功能,实现数据、图表的修正导入和自动替换;为实现B/S架构下的Web应用系统在线处理文档,通过调用客户端Office软件VBA宏命令,提供网页版本在线Word编辑功能,将服务器端处理文档交互功能的压力分摊到客户端,提高文档交互编辑的处理效率。具体处理流程如图6所示。
图6 湖北省气象预报服务一体化平台的服务产品自动合成和交互订正流程Fig.6 The flow chart of automatic composition and interactive correction of service products of Hubei Meteorological Forecast Service Integration Platform
对于格式规范、无需复杂交互的预警信号、风险预警等产品,则是通过构建省级统一的服务器端插件来处理Word、TXT文档,并采用基于环形队列的智能调度解决服务端并发处理压力。
针对重要天气过程的省、市、县三级服务,采用扁平化的发起—响应两级服务思想,基于WebSocket持久连接提供的同一应用以及不同应用之间的可靠通信管道进行操作留痕,实现首发单位可向影响单位发起联动服务提醒,影响单位接收到首发单位发起的提醒后,可根据实际情况选择响应发布或响应不发,以上联动响应操作伴随录入CIMISS留痕数据库,从而为联动响应监控提供追踪数据,实现省、市、县气象服务协同联动的信息化、可视化管理。
采取虚拟多用户压力测试和实际用户并发访问两种方式对平台稳定性进行应用评估。虚拟压力测试利用Apache JMeter测试工具,重点对一体化平台的服务器性能、数据库承载力以及软件接口进行测试,虚拟用户数按10~2 500个逐步加压。结果表明:服务器的CPU、内存、磁盘性能可支撑1 500个用户并发访问,使用率上CPU不超过40%、内存不超过70%;数据库承载力上,可支持2 000个用户并发访问;接口可承载的并发用户上限,自动站接口小时、分钟、任意时段数据分别为1 000、400、200个,服务产品制作接口为250个,气候分析接口为15个,发布服务器接口为200个。由于湖北省气象业务单位总数不超过100个,因此除气候分析接口需要采取访问权限控制机制外,其余均可满足高并发访问需求。
实际用户并发访问采取省、市、县级各业务单位全部参与,超过110个用户同时演练同一操作的形式进行稳定性测试,其中气候分析模块已对日、旬、月等业务常用固定查询进行了缓存优化预处理。结果表明:除气候分析的任意时段查询要对并发用户数授权控制外,平台其余功能的稳定性均能满足110个用户同时操作的需要。
2018年11月,湖北省气象预报服务业务一体化平台开始在全省范围投入运行,通过平台的应用,实现了省、市、县三级层级之间、单位之间预报和服务产品的实时协同和联动响应,规范了信息传输、产品制作、服务分发、联动响应流程。预警信号、天气快报等产品的制作发布时间从30 min以上减少至5 min以内,有效减轻了人员工作量,提高了工作效率。目前,系统提供CIMISS各类监测数据、超过120类预报服务产品的共享与产品制作交互,2019年6—10月仅通过该系统发布的各类短信就达1.3亿条。作为全省业务服务的核心业务系统,经受住了2019年汛期重大过程、2020年湖北新冠肺炎防疫和罕见长江流域性大洪水等历次高并发、高精细气象服务的实战检验。
依托一体化平台构建的专业服务系统也取得了明显进展,如根据“三峡—金沙江梯级水库调度”“长江黄金水道船舶航运”两种气象服务场景,对流域服务系统进行再造,并于2019年相继应用于沿江各省气象部门、三峡集团和长江海事局、沿江地方海事局等单位。
(1)依托国家气象中心推出的MICAPS4网络平台提供的框架支持,借鉴国内业务系统建设经验和利用气象云平台的建设成果,成功搭建了B/S架构的湖北省、市、县预报服务业务一体化平台。
(2)一体化平台应用了MICAPS4网络平台提供的支持分布式计算Storm大数据框架与基于Leaflet的GIS框架,利用了MICAPS4网络平台有效对接CIMISS与MICAPS 4分布式数据库的优势,既符合气象大数据发展方向,又可及时跟踪国家级气象业务发展。
(3)一体化平台应用微服务技术思想,通过依托MICAPS4网络平台研发气象大数据的集约应用、工作引导的规则匹配、产品自动生成的定制合成、服务响应反馈的协同联动等关键技术,实现省、市、县三级业务服务部门的多元信息共享、上下实时协同、软件规范统一、系统集约高效,成为利用湖北气象大数据开展预报服务业务的核心智能应用系统。
(4)一体化平台已投入运行,大幅提升了湖北省省、市、县气象预报服务的业务集约、服务协同水平,有效减轻了业务人员的工作量、提高了工作效率,并推进了信息传输、产品制作、服务分发、联动响应各业务流程的规范建立,支持了专业气象服务的发展。其构建模式对国内省级气象部门整合资源开展集约化业务系统建设有较好的借鉴价值。
(5)通过调整MUSIC接口,目前一体化平台已完成数据从CIMISS向气象大数据云平台(“天擎”)转换的平稳切换。未来一体化平台还将利用“天擎”的“数算一体”优势,调整系统架构,实施算法、算力从现有云平台管理的物理机、虚拟机集群中剥离与迁移,实现全面融入“天擎”。