张晓平,柏玉娴,朱金门(南京电子技术研究所, 南京 210039)
网络融合技术研究
张晓平,柏玉娴,朱金门(南京电子技术研究所,南京 210039)
摘要:大型电子装备研制中,由于技术要求、实现成本、应用场景不同,出现了多种网络共存的现象。在此异构的网路环境中,信息的高效、快速、可靠传输和共享是必须面对的问题。网络融合设备应用多网融合技术,建立以太网到光纤通道(FC)的桥接映射关系,以太网节点通过FC ID虚拟化的方式映射到FC网络中,形成一个以FC交换网为主干的融合网,实现了FC协议与以太网协议的简单路由和实时交换功能。
关键词:光纤通道;网络融合;网络管理;动态配置端口
0引言
随着计算机和网络技术的高速发展,涌现出大量不同类型的通信网络,使用户置身于复杂多样的异构网络环境中,信息获取和传输的手段以及数据存储和共享的方式发生了很大的变化。当前,网络形式种类繁多,各有特点,它们之间是一种共存发展、互相融合的关系,并且从经济和技术上考虑,这种关系仍将长期存在[1]。
异构网络融合必须充分利用不同网络间的互补特性,解决多种不同类型网络的有机融合问题。异构网络融合采用通用的、开放的技术实现不同网络或网元的互联、互通、互操作。
某型设备研制中,上级指控系统采用千兆以太网作为信息传输的骨干网,后端传感器部分由于“确定性”、“可靠性”要求,采用光纤通道(FC),作为传感器的主干网。为了使以太网和光纤通道有机融合,我们研发网络融合模块,并对网络的构架进行了优化,实现了指控系统与传感器之间的高效互联。
1应用背景
网络融合模块安装于传感器FC交换插箱中,与指控系统双冗余网络模块共同作为FC交换网与指控系统网(双冗余千兆以太网)的网管设备,实现FC协议与双冗余指控网以太网协议的转换,完成FC设备与指控网的数据交互。如图1所示。
图1 网络融合模块功能示意图
网络融合模块的具体功能如下:
1)传感器网的FC网络交换
传感器网中各设备间采用FC进行互联通信,网络融合模块具有FC交换的功能,可在传感器网中充当FC交换机,实现各设备间的互联通信。如图1所示,传感器网中的FC节点可以直接连接到网络融合模块上,由网络融合模块实现各节点间通信。
2)FC与系统双冗余网连接
网络融合模块和双冗余网络模块连接,实现FC与千兆以太网的协议转换。网络融合模块的冗余利用模块间的冗余实现,两个网络融合模块直接与双冗余网卡连接,并对等提供冗余工作模式,两个网络融合模块之间通过FC链路上的心跳检测实时通信。初始时,其中一块网络融合模块作为工作模块发送心跳包,另一块作为冗余模块接收心跳包。当工作模块检测到链路故障时退化为冗余模块,原来的冗余模块接管通信链路成为工作模块。
2网络融合
2.1网络融合模块
网络融合模块采用6U VPX插件形式,包含网络融合模块(前插模块)、接口模块(后插模块),以及VPX交换背板,具体如图2所示。
图2 网络融合模块框图
网络融合模块实现FC与千兆以太网之间的融合,其中,在FC网络中还需要实现数据交换功能。模块主要基于XC7VX485T大规模现场可编程门阵列(FPGA)、XC5VFX200T大规模FPGA、MPC8640D PowerPC处理器、BCM5396千兆网交换芯片、双倍数据速率(DDR2)存储器、Flash存储器,以及各类电源模块。XC7VX485T FPGA作为主要功能器件,硬件实现FC节点与FC交换机。XC5VFX200T FPGA作为协议转换加速芯片,同时作为整个系统启动的引导芯片最先加载,并在自身加载完成后配置MPC8640D Power PC的启动,其嵌入式处理模块上的PowerPC440处理器用于实现FC-PCIe桥接模块的配置与管理。MCP8640D作为主要的协议转换处理单元,通过协议栈实现FC与千兆以太网之间的协议转换,同时也作为主控芯片实现各数据通路的配置与管理[2]。
网络融合模块与FC交换接口模块通过VPX背板上的高速连接器实现信号互联;网络融合模块与两个FC交换模块可组合扩展成一个完整的网络融合设备。此时,如图3所示,网络融合模块通过VPX背板上的16对RocketIO互联与其他FC交换模块实现全交换数据通信。
图3 网络融合设备结构图
2.2网络融合原理
在XC7VX485T FPGA上实现FC节点与FC交换机。来自融合网络的FC数据经过交换接口模块后,由交换背板连接到前插网路融合模块,FC数据经过FC核还原成完整的FC数据帧,接收通路根据FC数据帧中的ID信息去查询路由表,根据获得的信息请求仲裁,实现数据交换。
XC5VFX200T FPGA用于管理FC数据包的接收,通过挂接的DDR对FC数据进行缓存,并将生成的数据包控制信息提交给MPC8640D,通过中断与寄存器访问的方式与MPC8640D协同完成协议转换。在XC5VFX200T 上实现FC-PCIe桥接模块,该模块通过PCIE通路与MPC8640D进行交互。
交换结构上有两路FC数据连接到XC5VFX200T芯片,用于实现FC到千兆网的协议转换。这两路FC数据进入FPGA后,经过PCIE通路提交给MPC8640D,MPC8640D根据桥接表将数据打包为UDP报文发送给BCM5396路由到以太网中。原理框图如图4所示。
3关键技术
3.1多网络融合技术
多网络融合采用ID映射,FC节点虚拟化的技术。如图5、图6所示,系统首先将每个子网节点通过FC ID虚拟化的方式映射到FC网络中,形成一个以FC交换网为主干的融合网,包含所有物理和虚拟的FC节点;再将所有FC节点以适合各自子网协议的方式再次分别映射到各通信子网中,中间由融合板卡建立桥接映射关系。这种融合技术能够尽量保证各通信子网的原始通信模型,并且保持各种跨网通信模型的一致性[3]。
图4 网络融合原理框图
图5 以太网节点映射为虚拟FC节点
图6 FC节点映射为虚拟Eth节点
要将千兆以太网与FC网络进行融合,使得不同节点之间可以相互通信,核心问题就是要解决不同网络节点如何相互寻址的问题。以太网和FC协议都支持一定程度上的虚拟化,下面我们分别描述如何利用它们来实现两个网络的融合。
若要桥设备为每个以太网节点申请一个虚拟的FC节点ID,那么桥需要预先知道以太网节点的信息,包括节点个数、各节点的名称以及IP地址等。有两种方式可以让桥设备获得以上信息:1)FTP上传桥接表;2)网络管理软件下发桥接表。无论采用什么方式,最终落实到形式上就是如表1所示的映射表。
表1 FC-ETH桥接表定义
得到上述映射表后,可以进入真正的数据收发过程,数据包到了融合网络模块上,通过查询映射表进行源和目的端口的标识符转换,之后经各自协议打包后发送到另一端。如图7所示。
图7 FC与Eth之间的通信示意图
3.2协议转换加速
(1)加速结构
在软件上,采用CPU双核处理的方式,由MPC8640D挂载两路PCIe通路,分别接到FC-PCIe桥接IP核,双核同时进行协议转换处理,提高转换总带宽。在数据包交给FC-PCIe桥接IP核之前,根据桥接表进行分配,让不同的数据包去往不同的FC-PCIe桥接IP核,以此实现双通道的流量均衡。
在硬件上通过PCIe桥接模块,对FC数据帧进行解包和再封装,以PCIe事务层包的形式将数据载荷与控制信息通过DMA通道发送到MPC8640D的内存,再由MPC8640D根据控制信息进行协议转换。在以太网到FC方向,MPC8640D通过PCIe通路将数据载荷与帧头信息发送到FPGA的PCIe桥接模块,PCIe桥接模块根据帧头信息查询桥接表将数据载荷封装成相应FC数据帧。这里PCIe桥接模块在两个方向上承担了查询桥接表、解帧和再封装的主要工作,减轻了CPU的负担,提高了协议转换速率[4]。
(2)双核间通信
VxWorks提供两种多处理器技术:非对称多核处理(AMP)与对称多核处理。本方案使用AMP模式。核0与核1内部各自维护自己的Buffer链表,在PPC440内部也分别维护8640D两个核心的序列描述符链表,如图8所示。
图8 非对称多核处理框图
在AMP模式下,VxWorks提供共享内存对象VxMP实现双核间的通信。VxMP是VxWorks提供的一个用于双核操作系统间高速同步与通信的组件,能被运行在不同处理器上的操作系统访问。VxMP提供以下三种共享内存对象:(1) 共享信号量;(2) 共享消息队列;(3) 共享内存分区。
由于MPC8640D双核需要共用一个PCIe桥接模块,所以当每个核使用PCIe桥接模块时,需要先获得共享信号量,获得信号量之后进行序列的发送,完成操作后释放信号量。
(3)流量分配策略
由于双核采用AMP模式,FC ID-IP映射后将分成两路,分别交由两个核心处理。为了实现两个双核之间的负载均衡,需要使每个核心处理的FC ID数量尽量平衡。本方案采用CRC12与哈希算法来实现FC ID的分配策略。每一个FC ID对应一个IP,先对每一个FC ID使用CRC12算法,得到一个12位整数,再对这个12位数作哈希算法,根据得出的值,将FC ID分配到两个核中。软件将最终决定的分配表写入硬件,当硬件收到FC数据时,就根据FC ID查表得出需要转发的CPU。
3.3动态配置端口(DRP)设计
为了让后光口中的多路能动态配置为4 Gbit FC或者1 Gbit Eth,在FC-AE交换机中使用的是用Buffer进行选通的方式,然而这种方式要求每路FC/Eth在发送和接收方向分别使用一个Buffer。在本融合模块中,需要进行4路FC/Eth的动态切换,需要用8个Buffer才能实现,这将非常占用印制电路板(PCB)面积,也增加了设计的复杂性和布局布线的难度[5]。
通过引入DRP技术,在FPGA内部可动态配置GTX的参数,使其适配4G FC或者1GEth的收发器参数,并通过内部逻辑切换4G FC和1Gbit Eth的数据流,以及重新配置时钟方案,使外部光口动态切换为4G FC或者1GEth端口,从而在没有额外增加芯片的情况下实现端口的动态切换,减少原理图和PCB设计的复杂性。
图9为DRP设计的框图。经过配置,分别选通来自FC逻辑核或1GEth Mac的数据连通到GTX,同时DRP控制器重配GTX的参数,使其适配对应的协议和速率。
图9 DRP设计框图
4结束语
本文论述的网络融合设备用于传感器内部各设备的FC网络与指控系统千兆以太网的数据融合、传输。此外,通过加装网络融合设备,传感器内部各设备将不需要单独与指控系统的以太网互联,所有的交互信息均可在光纤通道实现汇聚与分发,可优化系统的信息传输架构,满足传感器设备的开放式设计。
后续指控系统将使用万兆以太网替代现有千兆以太网,因此后续需要开发万兆网络融合设备实现传感器网络与指控系统万兆以太网的互联,而研制千兆网络融合设备为后期开发万兆网络融合设备积累的丰富的经验。
参 考 文 献
[1]朱凌云,宋铁成,夏玮玮,等. 嵌入式异构网络融合方案设计及实验系统[J]. 电气电子教学学报, 2007, 29(1): 53-57.
ZHU Lingyun, SONG Tiecheng, XIA Weiwei, et al. An embedded scheme of heterogeneous networks convergence[J]. Journal of EEE, 2007,29(1): 53-57.
[2]刘林海,张勇,常迎辉. 光纤通道SOPC系统性能优化设计技术研究[J]. 无线电通信技术,2015,41(3):43-46.
LIU Linhai, ZHANG Yong, CHANG Yinghui. Study on optimization design techique of fibre channel SPOC system performance[J]. Radio Communication Technology, 2015, 41(3): 43-46.
[3]王昊天,丁凡,熊华钢. 光纤通道交换式网络的虚拟通道分配策略[J].电子学报,2010, 39(10): 2251-2257.
WANG Haotian, DING Fan, XIONG Huagang. Allocation scheme of virtual channel in fibre channel switched networks[J]. Acta Electronica Sinica, 2010, 39(10): 2251-2257.
[4]刘鑫,陆文娟. 光纤通道在航空电子环境的应用及关键技术研究[J]. 光通信技术, 2006, 30(6): 55-58.
LIU Xin , LU Wenjuan. Application and research of fiberchannel in the avionics environment[J]. Optical Communication Technology, 2006, 30(6): 55-58.
[5]项立银,陈杨. 结构化与结构化网络融合技术研究[J]. 雷达与对抗,2012, 31(3): 53-55.
XIANG Liyin, CHEN Yang. A study on structured and unstructured grid fusion technology[J]. Radar & Ecm, 2010, 31(3): 53-55.
张晓平男,1959年生,高级工程师。研究方向为雷达系统控制、终端显示技术。
柏玉娴女,1981年生,高级工程师。研究方向为雷达系统控制、终端显示技术。
朱金门男,1966年生,高级工程师。研究方向为计算机控制技术。
A Study on Network Convergence Technology
ZHANG Xiaoping,BO Yuxian,ZHU Jinmen
(Nanjing Research Institute of Electronics Technology,Nanjing 210039, China)
Abstract:In the development of large electronic equipment, the coexistence phenomenon of many kinds of network is existing due to differences of technical requiremnts, costs and the application scenes. In this heterogeneous network environment, information is a problem that must be faced in the process of efficient, fast and reliable transmission and sharing. Network convergence equipment uses multi network fusion technology to establish bridge mapping between Ethernet nodes and fiber channel (FC) network. With FC ID virtualization, Ethernet nodes are mapped into FC network, forming an integrated network with FC switching network as backbone. This realizes the function of simple routing and real-time exchange between FC protocol and Ethernet protocol.
Key words:fiber channel; network convergence; network administration; dynamic reconfiguration port
中图分类号:TN957.52
文献标志码:A
文章编号:1004-7859(2016)02-0051-05
收稿日期:2015-11-03
修订日期:2016-01-05
通信作者:张晓平Email:13605164656@139.com
DOI:·数据处理· 10.16592/ j.cnki.1004-7859.2016.02.012