, , , ,
(北京宇航系统工程研究所,北京 100076)
基于国产网络设备的火箭地面测发控网络平台设计
吕明,司群英,侯彦娇,汪东洋,廖友萍
(北京宇航系统工程研究所,北京100076)
高可靠的测试网络作为运载火箭远距离测发控的基础平台,是实现运载火箭地面远距离测试发控的重要技术保障;通过对运载火箭地面测发控网络架构深入研究,采用国产商用网络设备搭建原型平台、开展原理性验证试验,经过反复试验,不断改进技术方案,解决了冗余热备网络协议选用、冗余故障切换、故障切换实时性、网络可靠性等技术难题,提出了基于国产化设备的网络架构设计方案;对网络架构的工作原理、可靠性、实时性、安全性进行了详细分析;建立的国产化高可靠网络架构,不仅能够应对复杂的火箭测试现场,使网络平台具有更好的可靠性、实时性、扩展性和灵活性,更进一步提高了网络的安全性;设计的国产化网络平台架构可用于运载火箭地面测发控网络使用。
运载火箭;网络设计;拓扑结构
远距离地面测控技术已经在运载火箭型号中得到普遍应用,运载火箭地面测试网络作为地面远控测试技术的基础平台,为各分系统地面测试提供高可靠的实时数据传输。运载火箭测试网络采用标准千兆以太网技术,通过架构冗余、设备冗余、线路冗余、端口冗余等设计,基本实现高可靠、低延时、无差错的数据传输。通过历次测试、发射任务对该网络基础平台的检验,充分证明网络整体架构设计合理、工作稳定[1-2]。
随着我国运载火箭的发展,地面测试任务的复杂程度也不断提高,为了满足运载火箭地面远控测试技术的新的需求,网络平台在保持高可靠、低延时、无差错数据传输的基础上亟待提高其扩展性和灵活性。为此,以现有成熟的网络基础平台和商用通信设备为契机,针对运载火箭地面远控测试在可靠性、扩展性、灵活性等方面的更高需求,提出了3种网络架构,并选用国产网络设备实现3种架构的网络平台[3-4]。
二级架构网络平台为运载火箭远距离测发控提供了基础网络平台,在充分利用商用互联网设备的基础上,采用成熟、通用的IEEE-802.3系列标准千兆以太网技术,综合架构冗余、设备冗余、线路冗余、端口冗余等技术,设计实现具有高可靠、低延时、无差错的数据传输系统,从而满足运载火箭地面远控测试过程对网络基础平台的功能、性能需求。
运载火箭测试网络二级架构平台如图1所示,分别为“前端”和“后端”。前端网络设备安装于发射塔地下控制间,主要实现各分系统前端终端设备的网络接入;后端网络设备安装于指挥控制大厅,主要实现各分系统后端终端设备的网络接入。地面测发控的测试设备均通过以太网链路接入运载火箭测试网络的前端和后端,前、后端之间的数据传输、指令通信均通过网络基础平台实现;各分系统后端的数据传输、指令通信同样也通过网络基础平台实现。因此,具备高可靠、低延时、无差错数据传输特性的网络基础平台对实现运载火箭地面远控测试具有非常重要的意义。
运载火箭测试网络在论证、设计阶段充分考虑单机可靠性与系统可靠性之间的关联关系,在满足网络基础平台整体高可靠性的前提下,创新采用通用、商业网络设备,并综合运用多种冗余、备份技术,最终构建具有高度可靠性和稳定性的网络基础平台。
图1 二级基础架构网络基础平台拓扑
针对二级架构网络基础平台所采用的冗余、备份技术大致可归纳为以下几种方式:
1)CSS(Cluser Switch System)集群交换系统;
2)Floating Static Routes 浮动静态路由技术;
3)GEC(Gigabit-EtherChannel)千兆以太网链路捆绑协议;
4)RSTP(Rapid Spanning-Tree Protocol)快速生成树协议;
5)NIC Team 网卡链路捆绑技术。
针对现有二级架构网络基础平台,前端网络设备之间(SWA和SWB)、后端网络设备之间(SWC和SWD)分别配置“集群交换系统”,构成具有高可靠性的设备级互备、冗余系统;前端网络设备与后端网络设备之间利用“千兆以太网链路捆绑协议”和“浮动静态路由技术”,并通过多路备份光纤连接构成具有高可靠性的数据传输链路;各分系统的终端设备通过“网卡链路捆绑技术”和“快速生成树协议”分别配置网卡捆绑,实现工作网卡及链路、备份网卡及链路的冗余保护和自愈切换。网络基础平台综合运用以上标准的互联网技术和协议,完整地实现了对架构、设备、线路、端口等全面、有效的备份,同时通过网络设备配置的不断优化,进而能够实现主、备系统间在三秒钟内的快速工作状态切换,满足运载火箭测试网络在任何一度故障发生的情况下均应具备快速自愈功能的设计要求。
为了全面、准确掌握现有二级架构网络基础平台的性能,通过搭建网络平台,对二级架构网络的关键性能(吞吐率、丢包率、转发时延等)进行全面测试,其结果均满足GB/T 21671-2008《基于以太网技术的局域网系统验收测评规范》的要求。二级架构网络基础平台的“转发时延”指标更是明显低于国标要求(长度为1518-Byte的数据帧,转发时延小于1毫秒),其数据转发实时性完全满足测试过程中数据、指令传输的低时延需求。相关测试数据如表1所示。
表1 二级架构网络时延测试数据对比
注:UDP单播、 UDP组播、TCP单播均为20%吞吐量,实际带宽占用200 M。
通过在测试和发射阶段对二级架构网络基础平台的长时间运行监测,架构设计具有以下优势和不足:
1)二级架构拓扑网络设计相对简洁,具有良好的系统扩展性和灵活性;
2)各分系统以VLAN技术隔离,数据流可控性好,便于指定传输路径;
3)基于IP的浮动静态路由自愈能力强,具有较高的数据业务承载能力;
4)二级架构网络前端网络设备与测试终端间的传输距离受双绞线100M限制;
5)由于前、后端各分测试系统终端设备增加,二级架构网络缺乏接入灵活性。
二级架构能够满足火箭地面测试基本使用要求。针对二级架构网络基础平台在有效传输距离、终端接入灵活性等方面的不足,同时为适应运载火箭地面远控测试技术的发展,在保持高可靠、低延时、无差错数据传输基础上,对网络基础平台的设计持续改进和优化。为此,在二级架构网络基础平台设计的基础上,优化并发展了三级架构网络基础平台设计。
2.1 三级架构网络设计概述
三级架构是在二级基础架构基础上扩充的新型网络架构,能够更好地解决双绞线传输距离的限制,以改善二级架构在有效传输距离、终端接入灵活性等方面的不足。运载火箭测试网络三级架构设计,充分利用现有网络所具有的扩展性和灵活性特点,形成“上端”、“前端”、“后端”冗余、串接的三级架构网络基础平台,如图2所示。
图2 三级架构网络基础平台拓扑
三级架构网络基础平台的上端由SWP-SWQ、SWX-SWY等多台网络设备组成,在不改变前端、后端二级架构的前提下,上端网络设备与前端网络设备形成环形冗余连接(SWA-SWP-SWQ-SWB-SWA冗余环、SWA-SWX-SWY-SWB-SWA冗余环),借助“快速生成树协议”构建基于数据链路层的高可靠性网络,实现架构、设备、线路、端口的主、备冗余工作模式。
三级架构网络基础平台在正常工作状态下,前端网络设备SWA负责与上端网络设备SWP和SWX之间的数据交换,并负责将上端测试数据实时转发至后端网络设备SWC;前端网络设备SWA在SWA-SWP-SWQ-SWB-SWA冗余环和SWA-SWX-SWY-SWB-SWA冗余环中均担当“快速生成树协议”的“根节点”,实时监控两个RSTP冗余环的运行状态,当环路中任意线路或设备发生故障时,“快速生成树协议”能够瞬时切换数据传输路径,实现三级架构网络基础平台的快速故障切换和自愈恢复。
当前端“根节点”SWA发生故障时,前端网络设备SWB负责与上端网络设备SWQ和SWY之间的数据交换,并负责将上端测试数据实时转发至后端网络设备SWD;前端网络设备SWB在SWA-SWP-SWQ-SWB-SWA冗余环和SWA-SWX-SWY-SWB-SWA冗余环中均担当“备份根节点”,为“根节点”网络设备SWA提供冗余、备份功能,同时也能够实时监控两个RSTP冗余环的运行状态,当环路中SWA及其相关线路发生故障时,“快速生成树协议”能够瞬时切换数据传输路径,实现三级架构网络基础平台的快速故障切换和自愈恢复。
2.2 三级架构网络设计分析
三级架构网络基础平台的设计源于对二级架构网络成功设计的扩展,在技术上具有良好的一致性与继承性,因此在架构、设备、线路、端口等方面的冗余、备份技术与工作机制完全相同。以下针对三级架构网络基础平台在各种故障模式下的自愈机制进行详细说明:
2.2.1 三级架构网络正常状态下数据转发模型
上端的终端测试设备的工作网卡分别连接SWP或SWX,备份网卡分别连接SWQ或SWY。正常状态下,终端测试设备通过工作网卡收/发数据,传输路径为(如图3所示):
PC-N工作网卡→上端SWP→P工作线路→前端SWA→后端SWC;
PC-M工作网卡→上端SWX→X工作线路→前端SWA→后端SWC。
图3 三级架构网络正常状态下数据转发模型
2.2.2 三级架构网络PC-N或PC-M工作网卡/线路故障状态下数据传输示意
上端的终端测试设备PC-N或PC-M的工作网卡/线路故障状态下,PC-N和PC-M通过“网卡链路捆绑技术”快速自动切换至备份网卡,终端测试设备通过备份网卡正常收/发数据,传输路径变化为(如图4所示):
PC-N备份网卡→上端SWQ→上端SWP→P工作线路→前端SWA→后端SWC
PC-M备份网卡→上端SWY→上端SWX→X工作线路→前端SWA→后端SWC
图4 三级架构网络PC-N或PC-M工作网卡/线路故障 状态下数据传输示意
2.2.3 三级架构网络上端网络设备SWP或SWX故障状态下数据传输示意
上端网络设备SWP或SWX故障状态下,PC-N和PC-M通过“网卡链路捆绑技术”快速自动切换至备份网卡,上端网络设备通过“快速生成树协议”瞬时切换至上端备份网络设备(SWQ、SWY),终端测试设备通过备份网卡正常收/发数据,传输路径变化为(如图5所示):
PC-N备份网卡→上端SWQ→Q备份线路→前端SWB→前端SWA→后端SWC;
PC-M备份网卡→上端SWY→Y备份线路→前端SWB→前端SWA→后端SWC。
图5 三级架构网络上端网络设备SWP或SWX故障 状态下数据传输示意
2.2.4 三级架构网络P工作线路或X工作线路故障状态下数据传输示意
上端与前端之间的工作线路(P工作线路、X工作线路)故障状态下,上端与前端之间的工作线路通过“快速生成树协议”瞬时切换至备份线路(Q备份线路、Y备份线路),终端测试设备通过工作网卡正常收/发数据,传输路径变化为(如图6所示):
PC-N工作网卡→上端SWP→上端SWQ→Q备份线路→前端SWB→前端SWA→后端SWC;
PC-M工作网卡→上端SWX→上端SWY→Y备份线路→前端SWB→前端SWA→后端SWC。
图6 三级架构网络P工作线路或X工作线路故障 状态下数据传输示意
2.2.5 三级架构网络前端“根节点”SWA故障状态下数据传输示意
冗余环“根节点”SWA故障状态下,“备份根节点”SWB通过“CSS协议”接管SWA全部的交换、转发功能,同时通过“快速生成树协议”瞬间切换环路的线路状态并恢复上端和前端之间的数据交换,终端测试设备通过工作网卡正常收/发数据,传输路径变化为(如图7所示)。
图7 三级架构网络前端“根节点”SWA故障 状态下数据传输示意
PC-N工作网卡→上端SWP→上端SWQ→Q备份线路→前端SWB→后端SWD;
PC-M工作网卡→上端SWX→上端SWY→Y备份线路→前端SWB→后端SWD。
通过以上对三级架构网络基础平台故障状态下自愈机制进行的详细分析,显示三级架构网络同样具有很高的可靠性,并对原有二级架构网络在传输距离和接入灵活性方面的不足进行了极大的优化,其整体设计思路完全可以适应运载火箭地面远控测试技术目前及未来的使用。
通过搭建网络平台,对三级架构网络进行全面测试,三级架构网络基础平台在可靠性、实时性等方面与二级架构网络基本相同,同样可以满足在任何一度故障发生的情况下,能够实现主、备系统间在三秒钟内的快速工作状态切换,从而完整的继承了二级架构网络基础平台所具备的高可靠、低延时、无差错数据传输特性。针对三级架构网络的关键性能(吞吐率、丢包率、转发时延等)所进行的测试,同样满足GB/T 21671-2008所规定全部指标要求,其中上端至后端的数据传输时延较二级架构网络略有增加,但依然明显低于国标1毫秒的要求。相关测试数据如表2所示。
表2 三级架构网络时延测试数据对比
注: 注:UDP单播、 UDP组播、TCP单播均为20%吞吐量,实际带宽占用200 M。
四级架构网络设计是在三级架构“上端”、“前端”、“后端”的基础上增加“远端”的四级拓扑架构,“远端”相对于发射场为总装厂和试验室。四级架构网络可实现发射场、总装厂、试验室的网络互连,实现异地信息共享。伴随测试、发射过程的测发控数据逐步累积与丰富,四级架构网络将能为今后开发自动化判读、大数据分析等高级应用提供有力的基础平台支撑。
四级架构网络架构中,“后端”、“远端”之间设计采用点对点数据传输模式(暂不提供设备或线路的冗余、备份机制),并以“远端”为中心构建星型拓扑结构,各路HT专线中均串联防火墙(两台)并根据保密要求增设加密机配置。通过以上规划实现数据共享、远程异地数据浏览等功能,并增加远程数据通信的安全性和保密性,如图8所示。
其中“远端”主要提供远程、异地数据浏览和多地、多网的数据共享服务。“多地”是指发射场、总装厂和试验室等,分布在不同地域,“多网”是指发射场多个工位网络、总装厂多个工位网络及试验室等多个网络。
针对远程数据传输专网的建设,需要对多地多网的IP地址进行全新规划,并为HT专线部署防火墙、加密机等必要的安全、加密设备,以增加全网的安全性和可靠性。考虑到多地多网之间大量非时延敏感共享数据的交换,以及少量时延敏感VDI数据的传输,带宽可设计为10 Mb至155 Mb。
上述二级网络架构、三级网络架构技术已经在火箭地面测试中成功应用,随着我国运载火箭技术的发展,测试任务的复杂程度不断提高。四级网络架构可作为今后地面远控测试的基础平台,在保证高可靠、低延时、无差错数据传输的基础上,提升了扩展性、灵活性和经济性等,并努力向集成化、通用化、模块化方向发展,为运载火箭测试技术的发展提供成熟、先进、可靠的网络基础平台。
图8 四级架构网络基础平台拓扑
[1]Doyle J,Routing TCP/IP Volume I[Z].1998.
[2]Doyle J, Caroll J D,Routing TCP/IP Volume II[Z].2001.
[3]Oppenheimer P.Top-Down Network design Second Edition[Z].2004.
[4]GB/T 21617-2008.基于以太网技术的局域网系统验收评测规范[S].2008.
DesignofRocketMeasure-Launch-ControlPlatformonGroundBasedonDomesticNetworkEquipments
Lv Ming, Si Qunying, Hou Yanjiao, Wang Dongyang,Liao Youping
(Beijing Institute Of Astronautical System Engineering,Beijing 100076, China)
High available network is the basic platform for the rocket remote measure-launch-control, it is an important technology to guarantee measure, launch and control for launching rocket remotely. By deeply researching the network architecture of rocket measure-launch-control on ground, building prototype network platform using domestic commercial network equipment, carrying out many tests for proof of concept. Solve problems such as redundant hot standby protocol selection, instant redundant fault fail-over, real-time data transmission, network platform reliability improvement and so on. Finally, designed the new generation measure-launch-control network architecture based on domestic network equipment, and analyzed the principle, reliability, real-time and security of the network in detail. The established network architecture can not only cope with complex rocket test sites, but also improve the scalability and flexibility of the network platform, and further improve the network security. The design of the new network architecture based on domestic equipment can be used for rocket remote measure-launch-control on ground.
launch vehicle; network design; network topology
2017-08-07;
2017-08-19。
吕 明(1965-),男,北京市人,大学,高级工程师,主要从事计算机网络应用技术方向的研究。
1671-4598(2017)10-0054-04
10.16526/j.cnki.11-4762/tp.2017.10.015
V554
A