张志华
摘 要 文章首先简要介绍了高效视频编码(HEVC)的产生背景,随后对其相对于H.264/AVC采用的新的关键技术进行了介绍,然后通过对HEVC进行检索,统计分析了HEVC技术的专利申请情况,并介绍了典型的专利申请案例,对HEVC的专利概况进行了简单的梳理。
关键词 HEVC;专利申请;专利分析
中图分类号 C18 文献标识码 A 文章编号 1674-6708(2018)219-0136-03
近年来,随着高清、超高清视频应用的兴起,视频信息的数据量大大增加,现有的视频压缩标准H.264/AVC已经不能满足海量视频的传输和存储要求。为此,ITU-T和ISO/IEC联合成立了视频编码联合组(JCT-VC),致力于研制具有更高压缩率的新一代视频编码标准——H.265/HEVC [ 1 ]。
1 HEVC关键技术[2]
1.1 基于四叉树灵活的块分割结构
HEVC中为图像的划分定义了一套全新的分割結构,包括:编码树单元(CTU)、编码单元(CU)、预测单元(PU)和变换单元(TU)。一个CTU可以通过四叉树递归分解的方式划分为若干CU,一个CU在进行帧内/帧间预测时可以划分成一个或多个PU,在进行变换和量化时又可以划分成多个TU。每个叶子节点上的CU是HEVC中进行编码的基本单位,用于指示当前块的预测模式,即帧内或帧间预测。这种四叉树结构使得HEVC能够根据当前块的局部特性灵活地进行分块处理,在平滑区域采用较大的编码单元,而在纹理细节区域采用较小的编码单元,从而能够更好地提高压缩效率。
1.2 改进的帧内预测技术
为了更准确地反映纹理特性,降低预测误差,HEVC提出了更为精确的帧内预测技术。对于亮度信息,HEVC中一共定义了35种帧内预测模式,包括Planar预测模式、DC预测模式和33种角度预测,与H.264/AVC的9种预测模式相比增加了许多。增加的预测模式能够更好地匹配视频中复杂的方向性纹理信息,从而得到更好的预测效果。
1.3 先进的帧间预测技术
为了提升帧间预测性能,在HEVC中引入了新的帧间预测技术,设有3种模式,分别是Skip模式、Merge模式和Inter模式。其中Skip模式和Merge模式均无需传送运动矢量信息,只传送候选PU块的索引信息即可,这样大幅节省了运动信息的编码比特数。在Skip模式中,连运动补偿后的预测残差信息也无需传送,在解码端直接由运动补偿得到的预测信号作为重构信号。对于Inter模式,每一个预测单元含有一组运动参数,包括:帧间预测的方向、参考帧的索引值、运动向量预测器的索引值以及运动向量的预测残差。
1.4 自适应熵编码技术
HEVC中选择基于上下文的自适应二进制算术编码(CABAC)作为熵编码算法,其基本设计与H.264/ AVC中的CABAC类似,但是HEVC中CABAC熵编码器的上下文数量、数据间的相互依赖性较H.264有所减少,通过对相同上下文的编码符号进行组合,对通过旁路编码的符号进行组合,同时减少解析码流时的相互依赖性以及对内存读取的需求,使得熵编码的效率得到进一步提高。
1.5 样值自适应补偿技术(SAO)
图像经过编码后,重构图像的失真不仅存在方块效应,还存在振铃效应。HEVC引入样本自适应补偿技术,对重建图像的像素分为不同的类型,然后按照不同的类型为每个像素加上相应的偏移量,从而补偿重构像素值,降低源图像的失真,以达到减少振铃效应失真的目的。SAO主要分为带状补偿和边缘补偿两种。带状补偿主要是针对不同的像素值范围给予不同的补偿值。边缘补偿主要是对图像的轮廓进行补偿[3]。
2 专利申请总体状况
为了研究HEVC专利申请的现状,笔者在中文专利摘要库、中文专利全文库、英文专利摘要库及英文专利全文库中利用关键词、分类号等多种检索手段,对涉及HEVC的专利文献进行了检索,检索截止日期为2017年12月31日。经检索,共获得全球范围内HEVC相关专利申请6 933件。由于彼时2016-2017年的部分专利申请尚未公开,文章仅针对已公开的专利申请进行数据统计分析。
2.1 申请量变化趋势
图1为2010年至2017年HEVC技术相关专利全球及中国申请量的变化趋势图。由于JCT-VC于2010年1月才成立,之后正式开始征集提案,因此2010年涉及HEVC的专利申请较少,各公司都刚刚着手进行HEVC技术的研发。随着技术研发工作的推进,2011-2012年,申请量快速增长。
2013年4月,HEVC被ITU-T正式接受为国际标准。反映到专利申请量方面,2013年的申请量达到顶峰,申请人纷纷围绕新制定的HEVC标准进行专利布局。随着各项关键技术研究的深入开展,2014年的申请量仍保持高位。随着该领域技术的日渐成熟,2015年开始申请量出现明显回落。2016年,特别是2017年专利申请量较少的原因与统计时间有关,相关专利申请尚未公开。
HEVC技术在中国的专利申请量相对较少,在中国提出申请或有中文同族的申请仅457件。虽然在 2010年已提出4件申请,但申请量增长比较缓慢,明显落后于全球HEVC申请量的增长势头。这说明我国申请人虽然已有一定的专利布局意识,但技术研发水平较国外申请还有一定差距。
到2017年我国申请量才开始快速增长,一举达到145件,且考虑到2017年相当一部分申请尚未公开,该上升趋势实际上会更加迅猛。这一方面是由于其他国家之前的申请开始进入中国,另一方面,也说明国内企业和高校仍在针对HEVC标准不断进行改进。此时,HEVC的发展已经进入了一种稳定的状态,不再有爆发性的技术革命,而是相关技术的不断改进和完善。这说明我国企业和高校对HEVC的研发多以细节上的改进为主,旨在对HEVC标准进行进一步完善和升级,根本性的技术创新较少。
2.2 申请人分析
涉及HEVC技术的专利申请的主要申请人及其申请数量如图2所示。从申请人的分布情况来看,高通遥遥领先,占据绝对优势,体现了其在该领域的强劲实力。台湾的联发科技和日本的索尼分别位列第二和第三,表明其对HEVC的研究也处于全球领先地位。除索尼外,日本的佳能、松下、夏普排名均进入前十位,体现了日本企业在该领域的研发实力。华为公司位列第四位,是国内申请人中在该领域申请量最高的,也是唯一进入前十的中国大陆企业,这体现了华为公司近年来对技术研发和专利申请保护的日益重视,但与国外申请人的申请量相比还有一定的差距,国内企业仍然需要更加努力,缩小差距。
3 典型专利申请
3.1 CN102984521A涉及編码单元划分
本发明利用相邻帧之间的PU模式选择的相似性,根据前一帧中大尺寸CU所采取的PU模式,选择当前CU的PU模式,跳过一些不太可能的CU分块尺寸及PU预测模式,所述方法包括:预测方式配置和预测模式选择,在预测方式配置中,CU分割深度不大于4,PU采用对称和非对称综合预测模式或只采用对称预测模式,在预测模式选择中,将当前深度CU总的率—失真代价之和与上一层CU总的率—失真代价之和进行比较,若比上层更小,则进一步采取四叉树划分成4个更下一层深度的CU,否则终止四叉树划分。本方法能减少所需遍历的PU模式,从而能减少率失真代价计算的数量,最终能降低HEVC视频编码的计算复杂度。
3.2 CN104639940A涉及帧内预测模式选择
本发明在帧内预测模式粗选后,充分利用了粗选的帧内预测模式对应的基于哈德玛变换的代价值的统计特性,充分考虑了视频纹理方向与帧内预测模式角度的相关性,对于不同尺寸的预测单元类型,通过阈值的方法来快速筛减粗选后的帧内预测模式或者通过计算粗选的帧内预测模式的连续性来反映预测单元的纹理方向,从而筛选掉相应不必要的粗选的帧内预测模式,这样不会引入过多的额外计算量;其在验证最有可能预测模式的过程中,充分考虑了粗选的帧内预测模式和最有可能预测模式的相关性,及视频图像本身的空间相关性,快速的获得了最终的最优帧内预测模式,在保证视频编码质量的前提下,减少了帧内编码复杂度。
3.3 CN103609121A涉及在帧间预测中的候选块选择
本发明确定用于待译码的视频数据的当前块的运动向量预测过程的多种模式中的一者;使用所确定模式和候选块集合执行用于视频数据的当前块的运动向量预测过程,其中,候选块集合对于多种模式中的每一者相同,可包含左上方候选块、上方候选块、右上方候选块、左侧候选块、左下方候选块、时间候选块,多种模式可包含合并模式和自适应运动向量预测模式。该方法使得存储运动向量和其它帧间预测相关信息需要较少存储器,存储器带宽要求也可得以减少。
3.4 CN103563380A涉及基于上下文自适应二进制算术编码
本发明提供一种减少用于上下文自适应熵处理的行缓存的方法,包括确定用于处理区域中当前块的当前语法元素的上下文信息,其中,该上下文信息依据相应于相邻区块的区块信息;如果该相邻区块相对于该当前区块位于区域边界的不同边,以替换区块信息来替换相应于该相邻区块的该区块信息;根据该上下文信息执行该当前语法元素的上下文自适应熵处理。该方法可有效地减少或移除行缓存需求。
3.5 CN103404137A涉及样本自适应补偿
本发明使用率失真优化对已处理视频数据的SAO补偿的模式决定方法:接收已处理视频数据;识别SAO的多个模式;依据失真减少量决定每一模式相关的失真,第一失真与已SAO补偿信号和已处理视频数据相关的原始信号相关,第二失真信号与重建信号(128)和已处理视频数据相关的原始信号有关;基于失真决定每一模式的率失真成本,在多个模式中选择最佳模式,其中最佳模式具有最小的率失真成本;依据已选择的最佳模式对已处理视频数据应用SAO。该方法可以大大减少所需的计算和图像缓冲区的访问。
4 结论
文章简要介绍了HEVC的发展概况、主要技术热点和专利申请情况,同时对典型专利进行了分析。可以看出,HEVC具有很多有特色的核心技术,这使得它具有出色的压缩性能和更好的实用性。在不久的将来,其必将于取代H.264/AVC,成为广泛应用的主流编码标准。
申请量位于前10位的申请人均为企业,这说明该技术已经进入实际应用阶段,各大通信企业都大力投入到了该技术的研发和测试中。尤其需要关注的是该技术领域中的领军企业高通,其申请总量占据绝对优势,重要专利数量也非常多,且积极在各国家和地区进行专利布局,值得国内企业跟踪学习。
参考文献
[1]万帅,杨付正.新一代高效视频编码H.265/HEVC:原理、标准与实现[M].北京:电子工业出版社,2014.
[2]赵耀,黄晗,林春雨,等.新一代视频编码标准HEVC的关键技术[J].数据采集与处理,2014,29(1):1-10.
[3]崔遥,刘军.HEVC关键技术介绍[J].科技创新与应用,2012(33):1.