地震监测数据实时传输与汇聚系统

2022-04-06 05:54欧阳龙斌黄文辉吕作勇苏柱金沈玉松
华南地震 2022年1期
关键词:适配器台站监测数据

欧阳龙斌,黄文辉,康 英,吕作勇,刘 军,苏柱金,沈玉松

(1.广东省地震局,广州 510070;2.中国地震局地震监测与减灾技术重点实验室,广州 510070;3.广东省地震预警与重大工程安全诊断重点实验室,广州 510070;4.深圳防灾减灾技术研究院,深圳 518003)

0 引言

国内外许多研究人员、机构和系统在地震监测数据实时传输和汇聚问题上开展了一系列重要的基础性和开拓性研究工作[4-14]。美国ASL(Albuquerque Seismological Laboratory)开发的LISS(Live Internet Seismic Server)是最早的基于UDP/IP协议的实时地震数据传输服务协议。SeedLink是基于TCP/IP 协议的实时地震数据传输服务协议,美国地震学联合研究会(IRIS)地震数据管理中心(DMC)和欧洲GEOFON 等台网的所有开放实时数据都是通过它来传输共享。德国SeisComp 软件的seedlink 服务系统实现了SeedLink 协议,其通过大约33 种适配器来传输汇聚地震监测数据。Earthworm 系统含有多个模块用于汇集主流数据采集器和其他数据服务中心的实时数据。Antelope 系统使用对象环形缓冲ORB(Object Ring Buffer)来进行实时数据传输。JOPENS系统(5.2版本)的实时数据流服务SSS5.2(Seismic Streaming Service)主要基于中国地震局自主开发的NetSeis/IP 协议与TCP/IP协议网络来实现实时地震监测数据的传输,其在“十五”项目建设完成后开始应用于我国的地震观测系统。

国内外存在大量的地震监测数据实时传输汇集实践[15-19]。 日本气象厅JMA通过EPOS(Earthquake Phenomena Observation System)系统实时传输全国1800个地震计和4400个烈度计的实时地震观测数据到JMA 数据中心进行地震预警和烈度速报。美国地质调查局USGS 的ShakeAlert 系统通过SeedLink 协议实时汇集1675个(加州地区的1115个和西北太平洋地区560个)地震台站以及升级475个GNSS 台站的实时数据用于地震预警。我国台湾地区通过TCP/IP 协议使用palert2ew 模块汇集748个低成本高密度P-Alert 烈度仪的实时数据到Earthworm 系统用于地震预警。正在实施的NEEW 需要汇集约1960个基准站、3309个基本站、10241个一般站、500 多个国际共享台和260个GNSS基准站的实时地震监测数据。

基于国内外现有的研究和实践情况以及地震物联网的快速发震[4-19],从台站数目、仪器类型、观测数据类型和数据传输方式等方面来看,地震监测数据实时汇集越来越具有“海量多源异构”特征。为了实现测震、强震动、烈度和GNSS 等测震观测网的“多网融合、一网多用”,为了解决对海量多源异构数据的实时持续有效接入和分布式高并发低延时全覆盖处理的迫切的需求和现有地震监测数据实时汇集系统不稳定低并发高延时之间的矛盾,急需对已有的实时数据流服务SSS5.2进行升级重构完善。

1 系统设计

1.1 基于HTTP协议

新系统的实时数据流服务(SSS)的传输协议从基于底层TCP/IP协议的SOCKET连接改为应用层的更适合于众多连接点数据汇集传输的HTTP 协议。TCP/IP 协议的SOCKET 连接一旦建立,通信双方即可开始相互发送数据内容,直到双方连接断开。但在实际网络应用中,客户端到服务器之间的通信往往需要穿越多个中间节点,例如路由器、网关、防火墙等,大部分防火墙默认会关闭长时间处于非活跃状态的连接而导致SOCKET连接断连,因此需要通过轮询告诉网络,该连接处于活跃状态。而HTTP 连接使用的是“请求—响应”的方式,不仅在请求时需要先建立连接,而且需要客户端向服务器发出请求后才能将数据传回给客户端,客户端定时向服务器端发送连接请求,不仅可以保持在线,同时也是在“询问”服务器是否有新的数据,如果有就将数据传给客户端。因此与TCP/IP 协议相比HTTP协议更加稳定可靠。

SSS 迁移到WildFly 的容器里运行,变成基于HTTP 协议的WEB 服务,以一个HTTP SESSION 为一个对话周期,统一在8080 端口为其他服务系统提供实时波形数据流服务。数据服务的通信命令具有结构简单、操作便利的特点。表1 列出了SSS 的交互通信命令及其功能说明。

表1 SSS通信命令Table 1 Interactive command of SSS

1.2 丰富的适配器

为了传输和汇聚海量多源异构的地震监测数据,新系统应考虑不同数据采集器产商观测数据格式和数据传输方式以及不同地震监测数据服务中心使用数据传输协议和数据文件格式等方面的差异,应具有丰富全面的适配器SBOX。通过仪器适配器把不同类型数据采集器的实时地震观测波形数据和状态信息等打包成格式统一(修订的miniseed 格式)、数据延时满足地震监测业务系统要求的实时波形数据流;通过其他适配器从国际地震观测机构、地震数据格式文件以及其它SSS 系统传输汇集实时数据流。

新系统有约34 种仪器适配器,支持国内外主流地震仪器产商的数据采集器,同时为了规范数据采集器产商的产品以及各种数据通信协议,制定了地震行业标准《地震烈度速报与预警台站数据通信协议》,新系统开发的适配器CSTP(Common Seismic Transport Protocol)实现了该协议,所有支持本协议数据采集器都可以快速接入到SSS 系统,并可以根据台站类型和通信条件选择设定连续波形数据传输、触发波形数据传输和触发信息数据传输三种数据传输模式,有效降低地震台站数据传输的复杂程度和数据传输量。对于支持CSTP 协议的数据采集器,新系统还可以实时汇集仪器状态信息、台站和仪器参数等数据,实现了监测数据流、监控业务流和监督控制流等多路数据的汇聚。

2)课堂教学:翻转课堂将知识的传授过程主要放到课下由学生自主完成,这并不意味着教师在课堂上就“无事可做”,恰恰相反,课堂教学的完成度对翻转课堂的整体实施效果起着非常重要的作用。如何在课堂上有效地组织学生进行深入地讨论和交流;如何将学生学习中的重点、难点问题在课堂上进一步地内化,使学生真正掌握相关知识;如何实现讲台上讲授者到教学活动的引导者的身份转变,这些都是在教学中要考虑的问题,教师必须根据学生自主学习的完成情况精心组织课堂教学活动,以实现课堂教学效果的最优化。

数采的数据端口是厂商或者用户设定的(比如CSTP 适配器的端口为1973),所以不同类型的数采或者地震监测数据服务中心实时数据流服务的端口各不相同,因此适配器的功能并不能放在WildFly 容器的8080 端口里运行,统一放在SBOX进程里运行。

1.3 地震波形数据通道

为了标识地震台站观测仪器产出的地震波形数据和仪器状态数据,制定了地震行业标准《地震波形数据通道标识》,使用通道标识码NN/SSSSS/LL/CCC(地震台网标识码/地震台站代码/位置代码/通道代码)来区分海量多源异构的实时监测数据。另外为了实时数据流传输数据方便,引入观测数据通道代码掩码,每一包地震波形观测数据都有一个相应的观测数据通道代码掩码,这样可以使用观测数据通道代码掩码控制标识实时波形数据传输和汇聚的数据类型。观测数据数据通道代码掩码采用16 进制32 位整数表示,NEEW 的地震台站观测仪器产出的地震波形观测数据通道掩码如表2所示。

表2 NEEW 部分观测数据通道掩码Table 2 Channel mask of some observation data of national seismic intensity rapid reporting and earthquake early warning project

2 系统总体架构

新系统采用分布式服务器部署,通过适配器汇集地震监测台站或地震监测数据中心的实时波形或触发信息数据,然后通过流服务客户端为其他服务系统(地震预警、地震烈度速报以及地震波形归档等)提供实时数据服务(图1),最终实现海量多源异构地震监测数据的实时传输汇聚和交换共享。

支持CSTP 协议的地震监测台站可以通过台站注册管理服务器SRMS 实现地震监测数据分布式汇集(图1)。SRMS 管理着多个流服务器,其被动接受地震台站数据采集器的连接(默认监听端口为1973 端口)并接收其台站注册信息包数据,然后根据所有流服务器的负载情况动态智能分配与该台站连接的流服务器信息,并把该信息通过注册信息应答包发送给数据采集器,数据采集器根据注册信息应答包中的信息连接指定的流服务器,然后根据注册信息初始化数据传输。

图1 新系统总体架构Fig.1 The overall architecture of the new system

3 关键技术

3.1 智能监控

新系统将汇集的地震监测台站或数据中心的实时波形数据流,进行统一管理和智能监控。每个台站的实时数据以miniSeed队列方式缓存在流服务器,然后根据用户设置的台站列表等信息,从相应的台站miniSeed队列获取实时波形数据并生成相应用户的miniSeed队列,然后为流服务客户端提供实时数据流服务(图2)。系统采用统一的认证机制,具有记录清晰的日志,具有断点重传、数据按需共享等功能,并能对流服务的状态、台站延时和流量等信息进行监控。流服务主要管理和监控信息如下:

图2 新系统实时数据传输与汇聚流程示意图Fig.2 Real-time data transmission and aggregation flow diagram of the new system

(1)流服务器用户登录状态信息,包括用户名、登录IP、端口号、登录时间、通信命令、退出时间等。

(2)流服务器用户数据流量的状态信息,包括用户名、登录IP、端口号、登录时间、通信命令、1 min 内数据流量、5 min 内数据流量、15 min 内数据流量等。

(3)台站实时通信状态信息,包括数据包序号、地震波形数据通道标识码、该数据包起始时间、采样个数、采样率、活动标志、标定标志、时钟标志和入网标志等。

(4)台站实时波形数据流延时和实时运行率(延时在0~5 s之间的数据)信息,包括地震台网标识码/地震台站代码、20 s 内是否有数据、1 min 内数据延时、5 min 内数据延时、15 min 内数据延时、前一天运行率、实时运行率等。

3.2 快流与慢流

新系统具有对实时数据流抽样和滤波的功能,能提供一个台站多种采样率的实时波形数据流。为满足不同业务系统或用户的需求,可对实时波形数据进行重采样,并进行波形滤波处理,输出高质量低采样率的实时波形数据。另外系统也具有对实时数据流重打包的功能,能为高时效性业务系统提供低延时的实时波形数据流。

慢流指的是以512字节打包的方式传输汇集数据流,一个miniSeed 数据包中包含5~8 s 地震波形数据。LISS、SeedLink 和SSS5.2 都是采用慢流,很多地震监测数据处理系统(比如:SeisComp、JOPENS5.2 的地震参数速报系统)需要的都是慢流数据。快流指的是以256字节打包的方式传输汇集地震波形数据流,主要采用把0.5 s 或1 s 的数据打包在一个256 字节的miniSeed 数据包中,这样就可以满足实时波形数据流延时小于1 或2 s。为了适应地震预警数据快速传输的需求,为了可以接收预警台站产出的快速打包数据包,有效缩短数据延时,SSS 在地震预警数据传输和汇聚都是采用快流。波形归档服务AWS 通过流服务客户端传输汇聚快流或慢流数据,然后重新打包成4096 字节的miniSeed 格式数据包,最终转存到物理文件系统中并按照地震波形数据通道建立或更新线性波形索引(图3)。

图3 新系统快流与慢流示意图Fig.3 Fast and slow stream diagram of the newly upgraded system

3.3 冗余热备

新系统用多服务器并行和CARP(共用地址冗余协议)保证其稳定性和可用性,用以实现实时数据流服务的冗余热备(图4)。CARP 能够使多台服务器共享同一IP 地址,用于改善服务的可用性。比如,有两台服务器各自有独立的IP 地址,并提供完全一样的实时数据流服务。这两台服务器都有一个CARP接口,配置了另外一台服务器的IP地址。当有服务器发生故障时,另外一台机器会自动得到故障机的IP 地址。这样以来,用户就完全感觉不到发生了故障。故障转移的服务器提供的流服务,与其为之提供热备份的服务器一致,这样就不会影响流服务客户端的运行。

图4 新系统冗余热备示意图Fig.4 Schematic diagram of redundant hot backup of the newly upgraded system

4 系统参考实现

为了实现负载均衡,按需横向扩展,将适配器SBOX 和实时波形数据流服务SSS 进行功能分离,SBOX 支持不同协议、不同功能和不同网络的数据的接入,SSS 按职责、用途划分为不同组的数据流服务(图5)。

新系统基于SBOX 汇聚国内外地震监测数据中心的实时波形数据或历史地震数据(图5)。通过适配器Server2Server 或legacy2Server 获取其他流服务的实时数据,通过SeedLink2Server、liss2Server或环形缓冲服务获取国外地震监测数据中心的实时数据。通过MiniSeed2Server、AWS2Server 或Event2Server汇聚历史地震数据,并为地震预警、烈度速报等服务系统提供离线测试数据。比如地震速报灾备中心汇集了全国30 多个省级测震台网1355个台站以及29个国际地震监测数据共享台网(II、IU 等)的516个台站的实时观测数据,用于国家地震速报的功能备份。

新系统基于SBOX 汇聚共享实时传输台站或触发式传输台站的波形或触发信息数据流(图5)。比如,在NEEW 中,基准站、基本站实时数据流通过预警承载网接入省级中心。一般站实时数据流通过铁塔网络接入各省级中心预警承载网。一般站触发流数据通过铁塔网络接入国家中心预警承载网。各省基准站、基本站和一般站数据流通过预警承载网向国家中心和国家备份中心转发。各省级中心与邻省中心数据交换传输由各省中心之间通过预警承载网互相交换(省界外100 km 内台站)。国家中心采用主备服务器汇集各省基准站、基本站和一般站实时数据流,通过预警承载网向各省中心和国家备份中心转发一般站触发流。以此来实现NEEW 的基准站、基本站及一般站实时数据流和触发流的传输汇聚需求。

新系统基于SBOX 和专用SSS 传输汇聚地震监测台站的实时波形数据流(图5)。比如,在NEEW中,GNSS 基准站解算位移数据首先汇集到国家中心,GNSS 仪器适配器将解算的位移数据适配成规范的miniseed 格式数据包,然后通过适配器comSer2Server 汇集到国家中心的GNSS 流服务器,再通过国家中心的GNSS 流服务器为各省中心分发各省所需要的GNSS 基准站数据流或提供给其它流服务客户端使用,以此来实现NEEW 的GNSS 基准站的实时数据流汇聚和共享需求。在中国东盟地震海啸监测预警项目中,通过汇集周边国际共享台、共享报批国内地震监测台站、其他项目援建台站、新建或改造台站,建立了老挝、缅甸、泰国、印尼和广州地震海啸监测预警数据中心,为中国东盟地震海啸监测预警系统提供实时地震波形数据。

5 结束语

本文介绍了地震监测数据实时传输和汇聚系统的主要设计、总体架构、关键技术,并给出了系统参考实现。通过本次升级重构,新系统的实时波形数据流服务SSS 从NetSeisIP 协议升级为HTTP协议,并迁移到了WildFly容器里运行;增加了大量的适配器SBOX,使适配器数目品类更加丰富,并把所有适配器统一放在SBOX 进程中运行;设计了地震波形数据通道标识来区分不同地震台站观测仪器产出的地震波形数据和仪器状态数据;采用统一的CSTP 协议来接收NEEW 基准站、基本站及一般站的实时地震波形和触发信息数据流。新系统支持快流/慢流混合传输和预警数据低延时传输,具有实时数据流智能监控和冗余热备功能。新系统的研发从技术层面解决了大规模、多层级、不同类型地震监测台站和数据中心实时数据流的传输汇聚共享问题,为我国地震监测行业提供了一套具有自主知识产权的海量多源异构地震监测数据实时传输和汇聚系统,是我国地震监测事业实现工程化和现代化的重要一环。

致谢:感谢国家地震烈度速报与预警工程项目支持。感谢审稿专家提出的宝贵意见。

猜你喜欢
适配器台站监测数据
基于ETL技术的台站信息同步应用研究
地震台站基础信息完善及应用分析
一种适用于高铁沿线的多台站快速地震预警方法
一种具备干扰台站剔除的多台站定位方法
基于3D打印的轻型导弹适配器
潜空导弹垂直发射出筒适配器受载变形仿真研究
电源适配器怎么选
浅谈环境监测垂直管理的优势
美国麦格普公司新型M—LOK相机三脚架适配器
环保验收监测异常数据的分析与处理探讨