高 杰 顾文涛 昆山市广播电视台
昆山电视台制作网存储扩容方案
高 杰 顾文涛 昆山市广播电视台
本分分析了昆山电视台扩容前的存储情况,介绍了扩容的具体利旧方案,扩容后性能和存储空间的提升,以及安全性方面的改善。该制作网存储扩容方案为昆山电视台后续的高清升级改造奠定了良好基础。
存储扩容 纵向扩展 纵深扩展 集群扩展 安全性
随着信息技术的不断发展,昆山市广播电视台已经建立起了各种新闻采编、专题报道和媒资管理等信息化业务系统,这些业务系统支撑着昆山电视台的各种核心业务,比如节目制作和编辑、演播室播出、媒资内容管理等,为昆山电视台的正常运营和业务发展打造了一个良好的开端。
图1 系统的存储拓扑示意图
昆山电视台的核心系统包括新闻网、专题网、媒资管理三个主要业务模块,系统的存储拓扑示意图见图1。新闻网存储为主备模式, HDS AMS2500作为主存储, DFT存储作为备份存储,由索贝FiSEC软件实现存储双写,主要承载新闻类节目,其中包括时政类的昆视新闻和民生类的新闻夜报,以及一些阶段性的访谈类节目;专题网采用HDS AMS2300存储,主要存储专题节目制作的素材和节目;媒资系统采用DFT存储做媒体资料库的在线存储。
随着各项新闻栏目和专题业务的不断增加,业务部门对于制作网存储空间的需求不断增大,对于素材的读取性能要求也不断提高。需求在不断增大,存储面临的挑战也随之增加。当前这些业务系统面临的最大问题是大部分存储设备使用时间已经有5年以上,已过了保修期限,其中媒资系统的DFT存储更是已经使用7年之久,市场上已无法采购到该设备的核心配件,一旦发生故障停机,就会面临数据丢失的巨大风险,影响全台的业务运行。
除新闻网有主备存储之外,专题网和媒资系统的存储都是单台设备运行,一旦设备发生故障,整个专题网和媒资业务将面临停机风险,严重影响电视台的制作播出安全,甚至会导致播出事故。
同时当前非编媒资网存储空间、存储性能接近极限,已无法满足目前业务数据的增长需要,另外高清化的趋势也要求极大的存储空间,因此急需补充存储空间并提升存储性能,解决目前业务需求和满足将来的高清化发展趋势。
为了应对这些挑战,提升服务竞争力,消除潜在风险,昆山电视台提出了新闻网、专题网和媒资系统存储统一改造计划,并详细规划了系统改造建设方案,方案设计原则如下:
(1)具有不间断的访问能力——可靠性(7×24×365)
相比原存储架构,新存储本身要求具有高度的可靠性、较强的容错能力和全冗余的结构,包括:双活控制器架构、RAID保护、缓存镜像、断电保护、部件故障切换等缺一不可;
(2)高访问速度和快响应时间——性能
视音频数据相较其他类型的数据来讲一般码流都比较大,尤其高清制播系统更使得存储的带宽面临更大的挑战。新闻及专题网制作系统由于前端有较多工作站的在线、并行读写,要求存储系统必须满足高带宽、低延时的性能要求,保证在编辑处理的高峰期不能出现过大的性能波动。
(3)数据和业务内容的增长速度快——可扩展性
制作系统数据多以大量的视音频内容为主,而视音频文件占用存储空间较大的特点对存储的容量提出了要求。随着节目高清化的发展,数据量的增长非常快。因此,必须考虑系统能够容纳更多的节目数据。这就要求存储系统能满足更大的数据量,以及数据增加后统一管理、备份的需要。
经过同第三方系统集成公司充分沟通及和各个存储厂商不断讨论,根据台内对存储架构的整体建设需求以及网络环境等因素分析,在不改变原有网络环境的前提下,为新闻网、专题网和媒资系统打造一个全新的存储升级方案。新存储升级方案架构拓扑见图2。
图2 新存储升级方案架构拓扑
3.1 新闻网
新闻网升级成两套高端存储架构,通过基于索贝的fisec实现两台存储设备的镜像复制,数据实时同步,任何一台存储设备损坏也不会造成节目制作中断和数据丢失,新闻网系统数据安全可靠性达到99.999%。
3.2 专题网
由于专题网一直采用单存储,原专题网架构中没有采用镜像复制技术,容易形成单点故障。本次改造充分利用原有设备,采用了主--备镜像模式的存储架构,如图2所示。新磁盘阵列与专题网退下的AMS2300做1:1镜像,既保证了数据安全,又利用了旧存储设备,保护了原有投资。
3.3 媒资系统
考虑到充分利用原有设备,新闻网的AMS2500目前使用状况良好,继承给媒资系统使用,替换掉使用7年之久的DFT存储,增加媒资在线存储空间,增加存储安全性。
昆山电视台在需求分析和方案设计的过程中充分考虑到数据与业务增长速度过快带来的问题,提出了解决问题的三种方案:
(1)纵向扩展(Scale UP) – 在存储单元中动态添加存储空间资源,本方案中新存储设备最大纵向扩展能到2PB。
(2)纵深扩展(Scale Deep)– 通过对新的以及现有的外部存储系统进行动态虚拟化,构建存储资源池,扩大存储空间,这是新存储必备的扩展功能之一。(3)集群扩展(Scale Cluster):集群扩展功能,将2台或者更多的存储整合在一起,但从主机层面看起来,就是同一台设备,任何一台设备的故障,对主机业务无任何影响。
鉴于未来技术发展趋势的多元性,本次改造中将这三种解决方案都集成在存储中,预留功能,便于将来扩展需要。
原有存储在空间供给方面有一定短板,原来划分空间是新闻网、专题网系统用户提出多少空间,IT维护组就划多少空间,即使这部分空间用不完也没法回收回来。导致有些用户分配的空间无法得到充分利用,有些用户空间不足,在实际存储容量上不够均衡。新存储系统在容量供给方面应改变策略,此次改造我台通过存储的“瘦供给(Thin Provison)”技术划分空间,实现了用户申请的是一个额度,实际有多少数据就存储多少数据,多余的部分重新回到存储池中,提升存储空间的使用效率。
对于新闻网和专题网的高带宽要求,依然选择高带宽、低延时的光纤通讯方式,快速响应,对原网络改动最小,风险最低。根据台内存储数据的多样性,方案中设计了存储系统能够使用不同性能介质的硬盘,如高速闪存的flash盘,SSD固态硬盘,普通SAS机械硬盘,大容量低廉的SATA硬盘,不同类型的磁盘适用不同应用子系统,能够满足各类应用需求,同时兼顾了未来磁盘发展趋势。
在数据安全和系统安全方面,新存储方案的硬件架构做到双活控制架构、多种RAID保护、缓存镜像、断电保护、部件故障切换等,实现了企业级产品的100%可靠性、高性能以及无瓶颈的整体优化设计。
新的存储扩容方案设计之初经过了充分的理论研究和实践调研。存储的技术日新月异,发展迅速,技术新颖,本次扩容改造方案的重点是让存储的前沿技术和我台的实际需求相契合,在不影响专题新闻网系统安全、制作安全和播出安全的基础上实现存储的扩容改造。同时解决台里的老存储系统面临的问题,兼顾未来的技术发展趋势。此次存储扩容的方案是经过我方使用人员,各存储厂商,我方技术人员以及第三方集成商的反复讨论和实地调研后得出的存储扩容方案,在实际的应用和系统实施方面有很大的价值,为我们积累了宝贵的系统扩容经验。