谭景贤
佛山电视台存储系统的应用与维护
谭景贤
(作者单位:佛山电视台)
佛山电视台播出领域正在使用的GV Proflie视频服务器与EMC CX700存储架构,其光纤通道具有封闭性。本文以佛山电视台播出线上搭建SAN网络存储系统的案例,详细阐述视频服务器与网络存储系统之间的管理应用与备份检测手段,最终实现硬盘节目素材在播出系统中的素材交换。
Profile;CX700;MDC;FC-SAN;FCIP;ZONE
1.1Profile PVS1108视频服务器
rofile PVS1108视频服务器主机配备1块1 GB以太网网卡和1块2 GB的对外连接的光纤模块,该模块采用的是FCIP通讯控制协议。以太网传输的是设备物理地址和基本的数据信息,光纤网络则负责硬盘素材在存储网络系统中的传输工作。
通过双FC-AL(光纤通道仲裁环路)分别连接PFR700磁盘阵列(配置RAID3)的盘塔上作为该服务器的存储区,PFR700磁盘阵列上的2个光纤环路互为热备份,与服务器之间采用的是FC-SCSI通讯控制协议进行数据的传输,速率最高可达到2 GB/s,固定在两块互相独立、而且支持热插拔的板卡模块上,这种冗余设计有效地提高了视频服务器的安全性和容错能力,确保播出的安全。
1.2EMC第六代CLARiiON全光纤通道存储系统—CX700
CX700二级存储具有4个3 GHz的CPU处理器,8 G缓存,内部配备两台存储控制器(SPA、SPB),分别有4个2 GB的光纤通道,采用的是FCP-SCSI-3通讯控制协议对外进行数据的传输,提供了强大的计算处理能力;同时配备两块UPS电池,在遇到电力中断的情况时,能把Cache里的数据完整写入磁盘中,有效地防止数据的丢失。从而构成一个具有领先竞争能力的网络存储环境,与千兆以太网络相比,传输速度更快,效率更高,更安全。
佛山电视台目前播出的视频服务器设置播出的视频带宽为12 MB/s,采用Mpeg2编码格式,1小时的视音频素材文件大小约为6 G。配备45块SCSI 300G/10000转SCSI硬盘,总存储容量为12 T,可以存储2 000小时的节目量,按6+1频道,每天12小时的增播量来计算,因此完全具备了近1个月的节目存储能力。
由于使用的迁移服务器(MDC)操作系统是Win2000 Server,受文件系统的限制,
最大的逻辑卷也只能分配2 TB的存储容量,因此把12 T的总存储量划分成了6个卷组,每个卷组由7块300 G硬盘组成,采用RAID5冗余技术,实际有效容量为1.56 T。在整个二级存储体内还配备3块热备盘,冗余度较高,即使不同卷组内的4块盘同时损坏,也能够确保存储数据不会丢失。
存储网络系统设计以迁移服务器作为MDC。MDC(Metadata Controller)是指元数据控制器,它是通过光纤网络访问存储设备磁盘阵列中数据文件最为重要的核心服务器。
2.1运行环境
Win2000 Server SP4。FC-SCSI协 议的光纤卡、Emulex LP1050和FCIP协议的光纤卡、QLoglc 2340。EMC PowerPath通过FC网络能识别出CX700所存在的6个LUN,但不能访问,因此未分配权限。且该软件能实时监测MDC与CX700两台处理机之间的FC光纤通道是否正常,一旦其中一台处理机的光纤通道发生异常时,该软件能提供自动故障切换,6个LUN的数据处理会自动分配到另外一台处理机进行处理,这一冗余的设计确保数据的高可用性和数据访问的高性能。
EMC Navisphere Agent注册软件,把MDC计算机名(MOVE)和FC-SCSI协议的光纤卡物理地址向CX700发送注册请求,直接获取CX700中6个LUN的访问权限。
SANergy管理软件,配置MDC作为CX700二级存储的唯一管理者,通过FC网络使CX700
6个LUN成为MDC的本地硬盘,负责对6个LUN的磁盘进行管理,实现数据读写操作。
2.2FCIP隧道传输技术的应用
FCIP(Fibre Channel Over IP),它是基于IP协议的光纤通道。在MDC上安装一块FCIP协议的光纤卡和一块FC-SCSI协议的光纤卡,(如图1所示)FCIP协议利用IP网络创建隧道在PROFILE视频服务器和CX700二级存储两个FC-SAN网络之间实现FC-SCSI协议的数据传输,从而建立IP-SAN存储网络架构,使数据的传输变得更加灵活,使数据的管理更加方便。
图1 FCIP隧道传输网络架构
需要注意的是:FCIP构建的IP-SAN存储并不是指整个SAN存储系统都是采用IP技术构建,而是指不不同的SAN之间的数据相互传输是采用IP通道进行的;PROFILE视频服务器和CX700网络存储系统内部仍然采用FC-SCSI协议进行数据的传输,也就是说IP-SAN并不是一个纯IP网络,而是FC与IP技术的一种融合;FCIP协议实际上就是一种隧道传输协议,它是通过FCIP网关来实现的,存储系统的数据均必须通过公用的隧道进行数据的传输,但不能为PROFILE视频服务器和CX700存储系统提供IP连接,即FCIP不能利用IP做FC存储设备的点到点连接。
2.3ZONE在存储网络系统的应用
佛山电视台采用FCIP隧道技术的IP-SAN方案来解决两个FC-SAN之间的数据传输,FC_SAN发送端的数据必须通过迁移服务器(MDC)作为公用隧道进行传输,接收端则通过QLogic光纤交换机把数据往适当的光纤通道端点设备进行引导。因此,需要对QLogic光纤交换机的光纤端口进行逻辑划分出不同区域。配备3台QLogic光纤交换机,利用存储设备光纤卡的物理地址具有唯一性的特点,通过SANbox Manager软件,对其接入的光纤端口以及存储设备的光纤卡物理地址进行捆绑做ZONE。
迁移服务器(主)FC-SCSI协议的光纤卡和CX700存储系统处理机SPA、SPB的FCP-SCSI协议的A0、B0光纤通道做ZONE1。
迁移服务器(备)FC-SCSI协议的光纤卡和CX700存储系统处理机SPA、SPB的FCP-SCSI协议的A2、B2光纤通道做ZONE2。
迁移服务器(主)FCIP协议的光纤卡和播出服务器(主、备)、上载服务器(主、备)的4台PROFILE视频服务器FCIP协议的光纤模块做ZONE3。
迁移服务器(备)FCIP协议的光纤卡和播出服务器(主、备)、上载服务器(主、备)的4台PROFILE视频服务器FCIP协议的光纤模块做ZONE4。
ZONE1与ZONE3配 置 为MAIN ZONE,ZONE2与 ZONE4配置为BACKUP ZONE。
2.4存储网络系统的应用
佛山电视台的整个制播网络是由非编网与播出网组成,通过TCP/IP千兆以太网交换机相连接,因此非编提交工作站是通过TCP/IP网络映射到迁移服务器(MDC)的本地磁盘,该磁盘为CX700二级存储的1个LUN,并采用网络文件传输协议FTP将节目硬盘素材传输到CX700二级存储,再传输到播出服务器的磁盘阵列盘塔中,用于播出。简单地说,这就是一个复制、粘贴的过程。
3.1备份手段
佛山电视台配备多一台迁移服务器作为热备份,正常情况下,该迁移服务器(备)的网线与光纤都处于断开状态,确保与迁移服务器(主)的存储网络系统分离。充分利用到CX700二级存储具有主备冗余的设计,确保整个存储网络系统没有单一崩溃点,一旦迁移服务器(主)出现故障或ZONE1中的存储设备和光纤交换机发生故障时,会导致存储网络系统无法正常工作时,采用简单的手动倒换方法就能在短时间内实现对存储网络系统的恢复。
关闭迁移服务器(主),待完全关闭后,手动地把迁移服务器(备)的网线与光纤接上;进入SANbox Manager软件激活BACKUP ZONE;利用IE浏览器进入CX700的监控界面,重新对存储系统进行Update操作(如图2所示);查看光纤通道工作情况。
图2 CX700中SPA、SPB对外连接的工作状态
3.2光纤通道的检测手段
当播出服务器、上载服务器与迁移服务器三者之间的光纤通道出现异常时,会导致硬盘
节目素材同步、回迁、迁移发生任务错误。此时对照(如表1所示)的光纤IP表
表1 IP协议光纤卡的IP列表
打开操作界面对存储设备的IP协议光纤通道网络进行检测。
当硬盘节目素材回迁、迁移任务或非编提交素材的处理时间相对较长时,会影响硬盘节目传输的工作效率,导致任务大塞车。通过SANergy测试迁移服务器对CX700二级存储各个LUN的数据读写速度是否正常,正常情况下,速度可以达到150 MB/s以上。
佛山电视台存储网络系统自投入使用以来,系统运行安全、稳定。CX700二级存储具有较高的安全性和冗余技术,为节目硬盘素材的传输安全提供了技术保障,采用FCIP隧道技术的IP-SAN方案,在Profile视频服务器和CX700二级存储两个FC-SAN网络之间实现FC-SCSI协议的数据传输,传输速度可以达到150 MB/s以上,与千兆以太网络相比,传输速度更快,效率更高,更安全,大大提高了工作效率。
[1]杨勇.FC SAN与IP SAN全面比较[J].广播与电视技术,2007(120).
[2]王宁.硬盘播控系统与二级存储系统设计[J].广播与电视技术,2007(7).
[3]谭钊.非线性网络存储系统高可用性的解决之道:双存储架构[J].广播与电视技术,2013(1).
谭景贤(1972-),男,广东东莞人,本科,工程师,在佛山电视台从事广播电视工作20年,研究方向:广播电视技术。