李希尧
(作者单位:中央广播电视总台)
2013年棱镜门事件爆发并持续发酵,各国意识到自身在信息系统安全上存在极大短板[1],许多重要的数据未能得到妥善保护。而这些信息系统的漏洞和重要资料的泄露给经济甚至国家安全造成了极坏的影响,坚持独立发展是摆脱受制于人、提高安全水平的必由之路。传媒行业是国家重要的意识形态宣传阵地,承担着传播主流价值观,引导社会舆论,促进社会稳定等重要使命。提高节目制播系统的国产化比率,保障制播系统安全稳定运行是媒体技术人员的一项重要工作。多年来,笔者在不断地进行摸索和研究,也对一些设备和系统进行了测试、试用与使用。本文主要根据国产芯片分布式存储设备的发展情况以及超高清视频制作的特点,对国产芯片分布式存储设备进行实测真用,探讨国产芯片分布式存储支撑中大型超高清制播系统的技术可行性。
在以数据为中心的信息时代,存储成为互联网技术(Internet Technology, IT)基础设施的核心,其提供底层动力,驱动了千行百业数字化转型。近几年5G技术、超高清视频、人工智能、云计算、区块链、产业互联网、泛在感知等新技术、新模式、新应用迅速发展,激发海量非结构化数据快速增长,带动存储产业转型升级,技术、设备不断推陈出新。根据国际数据公司(International Data Corporation, IDC)2021中国区存储市场报告,国内厂商已占据中国存储市场70%以上的份额,取得了不错的成绩。但是国产分布式存储产品中,基于intel处理器和红帽(Redhat)公司的分布式文件系统(Ceph)软件代码的产品仍占大部分份额,依旧面临着一些不可控的产业链风险。
存储行业生态具有相对封闭和与上游应用相对松耦合的特点,各个国内厂商在基于国产芯片的存储产品研发上发展也比较迅速,陆续推出了基于国产芯片的分布式存储产品。这类产品普遍具备以下关键技术:
(1)国产芯片。中央处理器(Central Processing Unit, CPU)采用国产自研产品,保证全产业链的安全可控。当前有华为、飞腾、海思、龙芯、申威等控制器CPU产品[2]。其他如固态硬盘(Solid State Disk, SSD)主控芯片、网卡芯片、管理芯片等也有国产自研产品。
(2)关键部件自研自产。存储控制器、接口卡、SSD颗粒、SSD硬盘等均可自研自产,同时通过在硬盘介质上硅进磁退,可以全面提升存储的绿色节能水平,降低了设备的总体拥有成本(Total Cost of Ownership, TCO),在降低单盘能耗、整机能耗,减少单位容量所占盘空间,提高单位空间密度容量上均有很大进步,同时相较于机械硬盘(Hard Disk Drive, HDD),其每秒进行读写操作的次数(Input/Output Operations Per Second, IOPS)性能显著提升,时延显著降低,可极大地提高存储整机性能。
(3)整机硬件自研自产。整机硬件包括底板管理控制器(Baseboard Management Controller, BMC)管理芯片、主板、内存、电源、硬盘框等,这些均可自主设计,独立完成生产。
(4)存储软件自开发。存储的操作系统(Operating System)软件、系统内核驱动、磁盘管理软件、任务调度软件、缓存管理软件、访问协议软件等均可基于国产芯片独立研发;同时,绝大部分国内厂商的国产芯片分布式存储产品管理界面和功能设计可与自身基于intel架构的产品统一,方便用户日常运维管理和使用。
具有以上特点的国产芯片分布式存储设备做到了端到端自研、软硬协同,安全可信,同时功能齐全,性能上也能做到又快又稳,成为国产化IT基础架构下的基石。
在电视节目制播系统中,国内大部分网络制播系统都采用了基于IP化的系统结构,使用千兆、万兆或25G混合组网,以满足不同设备的网络接入需求。该系统具有结构简单、易于扩展、运行稳定性高等特点。视音频文件均为非结构化数据,在基于IP化的网络制播系统中,这部分文件数据主要采用文件存储设备进行储存,供制播业务访问使用。客户端通过使用通用网络文件系统(Common Internet File System, CIFS)、网络文件系统(Network File System, NFS)、简单存储服务(Simple Storage Service, S3)等协议访问存储,进行素材上下载、视音频编辑、节目转码合成等操作。基于IP化的分布式文件存储系统是目前应用最广泛的网络制播系统建设方案。
中央广播电视总台4K超高清频道于2018年10月1日开播,成为我国首个覆盖全国的4K超高清电视频道。4K超高清视频制播系统在性能、功能、稳定性上对存储设备提出了更高的要求。4K超高清视频的编辑码率为500~1 500 Mbps[3],在非线性编辑制作、包装、节目合成转码过程中,往往需要多台设备的多轨4K稳定流叠加访问存储,4K制作系统对存储设备的性能、稳定性都是极大的考验,分布式文件存储设备具有高容量、高带宽、低延时等特点才能支撑4K超高清制播业务。原有采用HDD硬盘作为介质的分布式文件存储在单节点性能上很难适应大规模IP化超高清制播系统业务的发展,超高清节目制播实践引领了存储设备的更新换代。
随着万兆以太网络技术的发展,制播系统在过渡到高清节目网络制播系统后,采用了基于IP的分布式存储作为核心存储[4],基于IP的分布式存储具有高可靠性、高扩展性、高性能、高数据一致性等特点。分布式存储基于全对称架构,3节点即可起配,随着节点数的增加,容量、带宽可准线性增加(在一定节点数量范围内,品牌存在差异),支持在线增减节点扩缩容,无单独元数据节点,每个节点均可以对外提供服务,采用弹性纠删码(EC模式)对数据进行保护,可提供99.999 9%的数据可靠性和最高90%以上的磁盘空间利用率,单文件系统的容量可达几百PB甚至EB级以上。基于IP的分布式存储的各项特点特别符合广电行业网络制播系统,所以采用HDD磁盘作为介质的基于IP的分布式存储成为市场主流延续至今。
近几年,国内外超高清视频产业正在快速发展,原有采用HDD硬盘作为介质的分布式文件存储由于单节点带宽吞吐量小和HDD磁盘IOPS性能差等问题,很难适应大规模网络化4K超高清制播业务的发展。国内主流4K超高清视频的编辑码率为500~1 500 Mbps,为满足4K超高清视频编辑对存储高容量、高带宽、低延时的性能要求,各大存储厂商也陆续推出了基于SSD硬盘并配有25 G或以上网络端口的分布式文件存储产品。此类产品发挥了SSD硬盘高IOPS、低能耗、带宽吞吐量大的特性,与以HDD硬盘为介质的分布式存储相比,单节点性能有极大提升,所以采用SSD硬盘作为介质的基于IP的分布式存储设备是4K超高清网络制播系统核心存储的最优选择。
为了测试基于国产芯片的分布式存储设备的性能、功能是否能够满足4K超高清视音频制播系统的要求,本文采用了《面向超高清节目制播的IP分布式存储测试方法》的测试内容和测试方法[5],对某型国产芯片分布式存储设备进行了全面的测试,被测分布式存储设备信息如表1所示:
表1 分布式存储设备信息
测试客户端设备基本信息:
使用5台X86架构服务器,安装Windows Server 2019操作系统,具有2颗AMD726CPU、128 G内存、1块1.92 TB SSD硬盘、10 Gbps网卡。
使用5台X86架构工作站,安装Windows 10 Pro操作系统,具有1颗Intel Core i5 8500CPU、8 G内存、1 TB SSD硬盘、10 Gbps网卡。
笔者通过构建测试系统(见图1),从该型号国产芯片分布式存储设备的功能方面、可维护性方面、性能方面、可靠性方面出发,进行了系统的、全面的模拟测试,得出以下测试结果(见表2—5):
图1 测试系统组网图
表2 国产芯片分布式存储功能测试结果
表3 国产芯片分布式存储可维护性测试结果
表4 国产芯片分布式存储性能测试结果
表5 国产芯片分布式存储可靠性测试结果
通过以上测试结果可以得出以下结论,本次测试的国产芯片分布式存储由5个存储节点构成,在性能上该存储设备写吞吐速度可达9.1 GB/s,读吞吐速度可达8.9 GB/s,可支持140路4K视频稳定流并发读取。每个节点的平均读速度可达1.78 GB/s,写速度可达1.8 GB/s,每个节点可支持28路4K视频稳定流并发读取,在功能、可维护性、性能及可靠性方面均满足中大型4K超高清视频制播系统对分布式存储设备的各项要求。
通过模拟测试,该型号的国产芯片分布式存储设备各方面指标有了全面可靠的数据支撑,理论上该型号分布式存储设备可以支撑4K超高清视频制播系统的存储需求。但只有在实际业务场景中进行使用,完成4K超高清视频制作,才能验证基于国产芯片的分布式存储设备是否能够做到真替真用,满足业务需求。
笔者将此型号国产芯片分布式存储设备通过万兆网络接入一个大型周播现场音乐类节目的超高清视频后期制作系统中。该超高清制作系统包含了多台万兆网络4K精编工作站、包装工作站、合成工作站等,该节目素材收录、制作、包装、打包合成均为500 Mbps码率的4K文件,每次集中录制两期节目并制作,产生的4K超高清素材量在200 TB左右。节目录制完成后,需由多名编辑人员在限定时间内同时在多台精编工作站编辑该节目素材,再完成调色、渲染、节目包装等工作,并生成最终播出的节目,以满足节目播出周期的时效性要求。在为期8个月的试用中,该型号国产芯片分布式存储设备共完成了约630 h的素材和成品节目的存储与制作工作。
使用期间,该存储设备充分满足了4K制作系统对存储高带宽、高容量、低延时的需求,很好地支撑了该节目4K原码多台精编工作站并发、多轨并发、复杂包装和特效制作工作,未出现由于存储性能和功能问题导致的影响节目制作的问题,进一步在实践中证明了国产芯片分布式存储设备可以充分满足中大型4K超高清视频制播系统的存储需求。
本文通过分析信息系统独立发展的必要性,对当前基于国产芯片的分布式存储发展情况进行研究,并结合传媒行业特点,分析了4K超高清视频制播系统对存储的需求,建立了测试系统,采用《面向超高清节目制播的IP分布式存储测试方法》,对某型号基于国产芯片的分布式存储设备进行了较为全面的测试。测试数据充分证明了国产芯片分布式存储设备功能、性能等方面均可满足支撑4K超高清视频制播系统的要求。
同时,通过将该型号国产芯片分布式存储设备接入正式的4K超高清制作系统中,支撑某大型周播现场音乐类4K超高清节目的后期制作,证实了其可用性,为相关人员在建设4K超高清制播系统过程中选择和使用基于国产芯片的分布式存储设备提供参考。