余 翔,黄小敏
(重庆邮电大学,重庆 400065)
无线视频监控可靠性保障技术设计与实现
余 翔,黄小敏
(重庆邮电大学,重庆 400065)
针对不同无线信道下的视频实时监控业务,提出了一种参数可变的可靠性保障技术设计方案,提高了无线实时监控系统中的视频质量。在介绍了无线实时监控系统的总体方案和工作原理之后,详细阐述了可靠性保障技术的实现机制,该机制通过引入图像缓冲区、设置H.264编码参数、并通过帧处理机制以及RTP/RTCP传输协议,保障了无线实时视频传输的高可靠性。最后通过在WiFi,WCDMA,TD-LTE等无线信道下的测试,分析了系统的性能指标,验证了该设计方案的有效性。
无线信道;视频监控;可靠性保障;H.264;WiFi;WCDMA;TD-LTE
目前,无线网络技术的发展十分迅速,并以它特有的灵活性、便携性等优势在网络应用中发挥着日益重要的作用。同时,无线网络技术根据不同的应用环境和需求有着不同的标准协议和实现形式,而随着技术的不断更新,无线网络技术所呈现的宽带化、高速率发展特征正逐步影响着各个业务应用领域。WiFi作为一种能够在短距离范围内可以将个人PC、智能终端以及互联网电视等设备以无线方式相互连接的无线网络技术,支持IEEE的802.11b、802.11g和802.11n标准,能够在几米到100米范围内提供300 Mbit/s的带宽速率。而对于无线移动通信网络,3G网络将无线通信与互联网技术相融合,支持高速数据传输,且利用HSPA以及HSPA+技术能够提供21 Mbit/s的带宽速率。而即将部署的4G网络利用LTE技术,在20 MHz带宽下能够提供最大下行速率达100 Mbit/s,最大上行速率也达到了50 Mbit/s的带宽速率[1]。
与此同时,在视频图像压缩算法中,H.264/AVC标准继承了H.263和MPEG-1/2/4视频编码的优势,在吸取变换编码和运动补偿技术的基础上,采用全新的帧内预测、多帧参考预测、高精度运动估计等技术[2-3],使其具有更高的视频压缩比、更好的视频质量以及更强的网络适应性,因此在视频业务领域中得到了广泛的应用。
而在视频业务领域的视频监控方向,人们利用无线网络和视频编码等技术进行无线实时监控也早已实现。但由于无线信道的时变性、视频编码算法的高复杂度以及网络传输中数据包跨层处理所造成的丢包与时延等问题,无线实时监控系统的视频质量难以得到保障。因此,基于以上所提及的这些问题,设计并实现了基于不同无线信道下实时监控系统的可靠性保障技术,分别在WiFi,WCDMA,TD-LTE信道下进行了测试验证。
系统总体方案由3部分构成:便携式终端设备、中心节点和监控中心,如图1所示。便携式终端设备由视频采集模块、视频编码模块、视频传输模块等3个模块构成。便携式终端设备基于达芬奇技术平台TMS320DM3730,利用ARM+DSP双核结构,对视频采集、编码、传输进行调度[4]。视频采集模块采用支持多种分辨率的全高清USB摄像头,最大分辨率为1 920×1 080,最高支持帧率为30 f/s(帧/秒)。视频编码模块通过TMS320DM3730的DSP核实现,该DSP核最高主频为800 MHz,更快的运算速度保障了更高的编码效率。视频传输模块根据所采用的无线信道,采用不同的无线数据终端,在WiFi信道、WCDMA信道和TD-LTE信道中对系统可靠性保障技术分别进行测试,因而视频传输模块分别采用无线网卡、WCDMA无线上网卡和TD-LTE无线数据卡进行视频流数据的发送。
图1 总体方案
中心节点接收便携式终端设备发送的实时数据流,并将实时数据流转发给监控中心。对应于WiFi信道、WCDMA信道和TD-LTE信道中,中心节点分别为WLAN AP接入点、WCDMA基站和TD-LTE基站。
监控中心基于Windows系统进行开发,利用FFmpeg编解码库对接收到的视频数据流进行解码,然后使用OpenCV对解码后的图像数据进行显示。同时,根据接收到的数据包信息,监控中心对无线视频传输系统的性能进行评估。
本节利用Video4Linux2(V4L2)视频采集框架和达芬奇技术平台的H.264编解码器的特征,并结合数据包在传输层、网络层和链路层的传输特点,详细介绍并实现了无线实时监控系统的可靠性保障技术。该可靠性保障技术主要通过原始图像缓冲区、H.264编解码器参数设置、帧处理机制以及RTP/RTCP实时传输来实现。
2.1 原始图像缓冲区
便携式终端设备采用嵌入式Linux系统中的V4L2视频采集框架,在便携式终端设备上进行视频采集,设置视频采集格式为YUV格式、采集最大帧率为30 f/s,图像分辨率设置为352×288,该分辨率为CIF格式,适用于网络视频传输。而实际上,采集帧率是动态变化的,变化范围为20~30 f/s。同时,TMS320DM3730平台上DSP核的H.264编码速率也是动态变化的,当编码速率低于视频采集帧率的需求时,容易造成原始图像数据的丢失,降低了视频传输系统的可靠性。
因此,可以通过设置原始图像缓冲区来匹配H.264编码速率和视频采集帧率,从而提高系统的可靠性。原始图像缓冲区的大小按不同的无线信道质量设置为10~30帧图像,则系统的缓冲时延为333~1 000 ms。
2.2 H.264编码参数设置
在TMS320DM3730平台的ARM+DSP双核达芬奇架构中,ARM核运行Linux系统,应用程序通过Linux系统和相关外设驱动与外界进行通信和数据交互;DSP核运行实时操作系统DSP/BIOS来支持音视频编解码算法的运行。而ARM核和DSP核的交互与通信则是通过编解码引擎(Codec Engine)和服务器(Codec Server)来实现的。通过这种机制,在ARM核中的应用程序可以调用Codec Engine提供的VISA(Video,Image,Speech,Audio)API接口,并配置音视频编解码的参数,在DSP核中进行音视频的编解码,之后通过VISA API接口将编解码算法的执行结果返回给ARM核中的应用程序[5-6]。
通过VISA API接口调用H.264编码算法步骤如下:
1)创建Engine_open()函数打开编解码引擎;
2)配置H.264编码器的基本参数params和动态参数dynParams;
3)创 建 Venc1_create(hEngine,H.264ENC_NAME,¶ms,&dynParams)函数打开H.264编码器;
4)调用函数Venc1_process()执行H.264编码算法。
在函数Venc1_create()中,动态参数dynParams是编解码器的附加高级参数,可以在视频编解码过程中更精确、更详细地控制编解码器以达到期望的应用效果。主要包括编码类型encodingPreset、最大帧率maxFrameRate、最大比特率maxBitRate、编解码器档次标识profileldc、编解码器级别标识levelldc、最大I帧间隔maxInterFrameInterva。
1)encodingPreset:此参数可以将视频编解码设置为高质量模式或标准质量模式。高质量模式时编解码器能够得到高性能。标准质量模式适用于低于720p分辨率的图像质量。便携式终端的视频采集模块设置的图像分辨率为CIF级别(分辨率为352×288),因此该参数应设置为标准质量模式。
2)maxFrameRate:此参数为编解码器支持的最大帧率。便携式终端的视频采集模块设置的最大采集帧率为30 f/s,因此该参数也应该设置为30 f/s。
3)maxBitRate:此参数为编解码器支持的最大比特流。对应于最大帧率30 f/s以及352×288分辨率,该视频流的最大比特流为3 041 280 bit/s,因此该参数设置为3 041 280。
4)profileldc:此参数为编解码器的档次标识。H.264/ AVC定义了3种档次[5]:基本档次(Baseline profile)、主档次(main profile)、扩展档次(extend profile)。基本档次主要面向于一般交互式视频应用,且要求传输时延小的应用对象。因此该参数设置为Baseline profile。
5)levelldc:此参数为编解码器的级别标识。H.264/AVC定义了15种不同的级别来限定图片的尺寸和压缩后最大码率,同时对参考帧数量做了相应的规定[7]。对应于CIF级别的图像,基本档次的H.264编解码器相关参数如表1所示。
表1 H.264/AVC图像级别参数设置
6)maxInterFrameInterva:此参数为两个相邻I帧之间的距离。由于基本档次的编解码器没有设置B帧,因此它反映的是两个相邻I帧之间P帧个数的大小。而P帧个数越多,编码过后的画面质量越差,因此可以将该参数设置为1,增强编码过后的图像质量。其中I帧为全帧压缩编码帧,P帧为前向预测编码帧,B帧为双向预测内插编码帧。
2.3 帧处理机制
从原始图像缓冲区中取出1帧图像经过H.264编码后,需要通过便携式终端设备上的视频传输模块将编码后的各帧图像数据发送给中心节点。如果直接利用视频传输模块在网络层对1帧H.264图像数据进行传输,则网络层的IP协议处理过程如下[8-9]:首先判断1帧H.264图像数据大小是否超过网络接口的最大传输单元(MTU),若超过则网络层会自动对图像数据按MTU值的大小进行分包处理,并给每个分包编号,再通过网络层发送给图像数据的接收端;网络层会对接收到的分包进行排序组合,如果该帧图像数据的分包中有一个在网络中丢失,则网络层会自动丢弃该帧数据,从而造成该帧数据的丢失,降低了系统的可靠性,此为网络层的自动分包与重组处理机制。
因此在将1帧H.264图像数据通过网络层发送之前,需要通过帧处理对每帧H.264图像数据进行手动分包,并给每个分包添加帧号、帧长以及包号等包头信息,使得1帧H.264图像数据不会因为网络层IP协议的自动分包与重组处理机制而造成整帧数据的丢失。帧处理的结构如表2所示。
表2 帧处理结构
便携式终端设备视频传输模块所采用的网络接口的MTU值都为1 500 byte,MTU值包含一些网络协议开销,因此帧处理过程中,分包的大小需要小于1 500 byte。帧处理机制将1帧H.264图像数据按1 000 byte进行手动分包,并给每个分包添加帧号、帧长和包号等包头信息,帧号、帧长、包号信息各占4 byte,则1个分包的总大小共为1 012 byte,分包后各个数据包结构如图2所示。
图2 数据包结构
通过网络层将分包发送给监控中心,监控中心按照包头信息对每帧H.264图像数据进行手动重组,并根据包头信息对系统的丢包率、丢帧率以及帧率进行统计。监控中心对实际接收到的帧数和数据包个数进行统计,假设监控中心实际接收到的总数据包个数为n,总帧数为m,且接收到的最后一帧的帧号为M,则系统丢帧率为
监控中心接收到的实际帧率可以通过计算每秒接收到的帧数来进行统计。
2.4 RTP/RTCP实时传输
无线实时监控系统作为一种多媒体实时应用,要求系统的时延低、实时性强。对于网络传输协议,TCP协议由于采用3次握手机制可以解决分组丢失的问题,但其分组的重传机制会产生较大的延时,而UDP协议无连接且不可靠,无法解决分组丢失和失序的问题,因而IETF制定了实时传输协议RTP和实时传输控制协议RTCP,来满足Internet上对于实时数据流传输的业务需要。RTP/RTCP协议利用时间戳和序号等信息实现了一种端到端的多媒体流同步控制机制,既不需要事先建立连接,也不需要中间节点的参与,为其保留资源。而且在网络资源带宽充足的情况下,RTP/RTCP协议具有一定的带宽调控能力,保证端到端的多媒体流同步[10]。
使用RTP/RTCP协议进行视频数据流的传输时,使发送端和接收端保持时间同步,则可以利用时间戳信息得到系统的传输时延。从监控中心接收到的RTP数据包中可以得到数据包发送时间,假设发送时间为Tsend,而接收端接收到数据包的时间为Treceive,则系统的传输时延为
系统的无线传输信道采用WiFi信道、WCDMA信道以及TD-LTE信道进行测试,其中,WiFi信道支持IEEE802.11n协议,最大数据传输速率达300 Mbit/s,在短距离范围内WiFi信道提供的带宽稳定[11];WCDMA信道目前采用HSU⁃PA技术,目前支持的最大上行速率为5.76 Mbit/s,最大下行速率达到21 Mbit/s[12],但带宽会因为无线信道的时变性而不稳定,信道质量变化较快;而TD-LTE实验网目前支持最大上行速率为50 Mbit/s,最大下行速率达100 Mbit/s,且TD-LTE网络可以通过采用不同的小区部署机制来保证单小区范围内的带宽资源,从而提高无线信道的稳定性。
测试方案采用A组和B组两组方案对无线监控系统的可靠性保障技术进行性能评估。A组方案根据各个无线信道的特征,对可靠性保障技术中的参数进行配置,如表3所示。分别在WiFi,WCDMA,TD-LTE信道下对系统进行测试。B组方案不采用该可靠性保障技术,即不设置原始图像缓冲区、H.264编码参数采用默认参数、不进行帧处理并且使用UDP协议代替RTP/RTCP协议来对系统进行测试,B组方案通过统计便携式终端设备上发送的数据包包数、帧数、发送时间,对比监控中心接收到的数据包包数、帧数、接收时间,得出系统的丢包率、丢帧率、帧率以及传输时延。
表3 可靠性保障技术参数配置
无线实时监控系统的工作状态图如图3所示。通过多次测量并统计各个方案中监控中心的丢包率、丢帧率、传输时延以及接收帧率来对两种方案进行比较,测试结果如表4所示。
图3 系统工作状态图
由表4可知,在WiFi,WCDMA,TD-LTE信道下,A组方案中监控中心的丢包率、丢帧率、实际帧率以及传输时延均要小于B组方案中监控中心的测试结果。同时,通过该可靠性保障技术设计方案中设置的原始图像缓冲区,引入一定的缓冲时延,A组方案监控中心的画面流畅,基本没有监控画面抖动的现象,而B组方案中由于视频采集帧率与H.264编码帧率的不匹配,未引入缓冲时延,监控中心的画面抖动现象比较严重。
表4 A组方案和B组方案测试结果
随着移动通信网络与互联网技术的不断融合、无线网络技术的带宽和速率的不断增长,无线实时视频监控业务日益受到人们的关注,因而对视频数据流在无线信道下进行实时传输的可靠性要求也越来越高。本文提出的基于无线实时监控系统的可靠性保障技术能够根据各个无线信道的特征,分别进行系统参数配置,提高视频流实时传输的可靠性。该技术一方面通过引入缓冲时延降低了监控中心的画面抖动,并利用RTP,RTCP协议传输减小了系统的传输时延;另一方面通过帧处理机制减小系统的丢包率和丢帧率,提高了监控中心的实际帧率。
[1]孙韶.TD-LTE技术原理与系统设计[M].北京:人民邮电出版社,2011.
[2]余兆明,査日勇,黄磊.图像编码标准H.264技术[M].北京:人民邮电出版社,2006.
[3]陈靖,刘京,曹喜信.深入理解视频编解码技术—基于H.264标准及参考模型[M].北京:北京航空航天大学出版社,2012.
[4] TI Application Report(SPRS685D).DM3730,DM3725 digital me⁃dia processors[R].Dallas:Texas Instruments,2011.
[5] 彭启琮.达芬奇技术——数字图像/视频信号处理新平台[M].北京:电子工业出版社,2008.
[6]高白龙,白旭,吴玮.达芬奇技术开发基础、原理和实例[M].北京:电子工业出版社,2012.
[7]ITU-T Rec.H264(ISO/IEC 14496-10 AVC),draft ITU-T recom⁃mendation and final draft international standard of joint video specification[S].2003.
[8]谢希仁.计算机网络[M].北京:电子工业出版社,2008.
[9]FOROUZAN B A.TCP/IP协议簇[M].谢希仁,译.北京:清华大学出版社,2006.
[10] SCHULZRINNE H.RFC 3530,RTP:a transport protocol for re⁃al-time applications[S].2003.
[11] SMITH C,MEYER J.3G wireless with 802.16 and 802.11:wimax and wi-fi[M].New York:The McGraw-Hill Companies Inc.,2004.
[12]HOLMA H,TOSKALA A.UMTS中的WCDMA:HSPA演进及LTE[M].杨大成,译.北京:机械工业出版社,2012.
Design and Realization of Reliability Guarantee Technology Based on Wireless Video Monitoring
YU Xiang,HUANG Xiaomin
(Chongqing University of Posts and Telecommunications,Chongqing 400065,China)
For video real-time monitoring system in different wireless channels,a reliability guarantee technology which parameters are variable is designed.And this technology improves the video quality of wireless real-time monitoring system greatly.After a detailed introduction of the overall scheme and work theory,the design of the implementation mechanism in the reliability guarantee technology is focused on.The size setting of image buffer,the parameters of H.264 encode,the frame processing mechanism and the transfer protocol of RTP/RTCP are contained in this design,which guarantee the high reliability of wireless real-time monitoring system.Finally by using these tests in WiFi/WCDMA/TD-LTE channels,the performance indicators are analyzed,and the validity of the design scheme is verified.
wireless channel;video monitoring;reliability guarantee;H.264;WiFi;WCDMA;TD-LTE
TP311.1
A
10.16280/j.videoe.2015.04.006
黄小敏(1988—),硕士生,主要研究方向为通信与信息系统;
2014-05-14
【本文献信息】余翔,黄小敏.无线视频监控可靠性保障技术设计与实现[J].电视技术,2015,39(4).
国家科技重大专项(2014ZX03001027)
余 翔(1964—),教授,主要研究方向为通信与信息系统。
责任编辑:时 雯