基于模式预测的低复杂度高清视频帧内编码方法

张冠军 朱林卫 张 云

(中国科学院深圳先进技术研究院 深圳 518055)

基于模式预测的低复杂度高清视频帧内编码方法

张冠军 朱林卫 张 云

(中国科学院深圳先进技术研究院 深圳 518055)

为了解决高分辨率及超高分辨率的视频数据量庞大的问题，国际视频编码标准化组织正制定更先进的视频压缩标准——高效视频编码标准(High Efficiency Video Coding，HEVC)，即 H.265。帧内编码作为视频编码的重要组成部分，其编码的复杂度和性能会严重影响整个视频的编码复杂度和压缩性能。为了降低HEVC中帧内编码的复杂度，文章提出了一种重新确定备选模式列表的方法，该方法根据备选模式列表中第一个模式的不同，快速自适应地确定备选模式列表中需要保留的模式，减少执行率失真优化的模式数目。实验结果表明，文章提出的算法在保证与标准测试平台 HM8.0 编码性能一致的条件下，帧内编码时间与原始 HM8.0 相比平均节省 24.50%，有效地降低了帧内编码的复杂度。同时，所提出的算法能够与其它层次的快速编码方法相融合， 以进一步减少复杂度。

高效视频编码标准；备选模式列表；率失真优化；编码树单元；粗略模式决定

1 引 言

随着科技的进步和生活水平的提高，人们欣赏视频时对视频图像画质、沉浸感等要求也越来越高。因此视频技术正向着高质量、高分辨率、立体效果等方向发展。由于用户体验需求越来越高，视频的数据量也越来越庞大。而目前用户接入的带宽仍无法满足高清/超清视频的传输要求，如果未能有效压缩高清视频信号，那么用户将无法看到令人画质满意的视频。现在视频流行的格式是高清和超高清，超高清视频的分辨率为4K(4096×2160)和 8K(8192×4320)。以 4K 分辨率为例，按 YUV4:4:4 的格式计算，每帧图像原始数据量为 24 MB，若是想观看流畅的视频画面大概需要每秒 50 帧或以上，也就是说，分辨率为 4096×2160 的高清视频，原始数据每秒大小为 1.2 GB。一部高清电影播放时长以两个小时计算，未压缩的超高清视频数据量将高达 8 TB。面对这个数据量，无论是网络传输与存储，还是实时读取数据都是非常困难的。因此需要在视频传输与存储之前进行有效地压缩，去除原始数据中的各种冗余，以减少对带宽和存储空间的需求。

目前国际上主要有两个组织负责视频编码标准的制定，一个是国家标准化组织的运动图像专家组(Motion Picture Expert Group，MPEG)。MPEG 制定的标准为 MPEG 系列，主要包括MPEG-1、MPEG-2、MPEG-4、MPEG-7 等，而 MPEG-1 和 MPEG-2 分别是我们所熟悉的VCD 和 DVD 格式。另一个是国际电信联盟组织的视频编码专家组(Video Code Expert Group，VCEG)。VCEG 制定的标准为 H.26x 系列，如H.261、H.262、H.263 等。由于肩负着共同的使命，MPEG 和 VCEG 的专家组成员于 2003 年组成联合视频专家组(Joint Video Team，JVT)，联合制定了新一代视频编码标准 H.264[1]，亦即MPEG-4/AVC 的第十部分。该标准的目标是保持与 MPEG-2 相同视频质量的前提下将视频的压缩效率提高一倍。该标准一经制定，就得到了广泛的应用，如视频会议、视频监控、高清电视、网络视频直播、无线移动视频通讯、3DTV、Mobile TV、虚拟现实和多屏互动等。图 1 展示了视频技术的一些应用。

图 1 视频技术的应用Fig. 1. Applications of video technology

2010 年，MPEG 和 VCEG 再度联手成立了视频编码联合专家组，并于 2013 年 1 月正式发布面向高清和超高清等视频应用的下一代视频编码标准——高效视频编码标准(High Efficiency Video Coding，HEVC)[2]，即 H.265。该标准的目标是保持与 H.264 相同视频质量的前提下将视频的压缩效率提高一倍，即码率降低 50%。虽然HEVC 压缩效率增加，但是编码的复杂度激增为H.264 的数十倍，有时甚至达上百倍，这限制了视频编码技术的应用。

随着时间的推移，视频的压缩效率翻倍提升，如图 2 所示。大约每隔十年，视频的压缩效率提高一倍。可以预期，至 2023 年左右很可能会制定出压缩效率更高的视频编码标准。但要提高视频的压缩比，需要采用更有效、更复杂的算法去除视频中存在的各种冗余，伴随而来的是非常高的计算复杂度，这将限制视频压缩技术的实时应用。

图 2 视频编码标准的发展Fig. 2. The development of video coding standard

2 HEVC 帧内计算复杂度分析

HEVC 的压缩效率很高，同时其算法复杂度亦很高。就编码而言，其复杂度大约是 H.264 的1.5～3 倍，是 MPEG-2 的 4 倍。巨大的算法复杂度虽然带来了压缩效率的提升，但也很大程度上限制了 HEVC 的实际应用。造成 HEVC 算法复杂度高的技术主要有灵活的编码结构，复杂的帧内预测模式和基于四叉树的多层变换结构等。

2.1 编码结构

HEVC 将一幅图像划分成多个小块逐个进行处理，每个小块称为编码树单元(Coding Tree Unit，CTU)。而编码树单元的编码过程使用三个基本单元来描述：编码单元、预测单元和变换单元，编码层次过程如图 3 所示。

图 3 CTU 的编码结构Fig. 3. Structure of CTU

编码单元是采用四叉树结构递归分割的编码树单元的叶子节点。编码树单元利用分割标识(Split Flag)确定当前编码单元是否需要继续分割。若需要分割时，当前编码单元可以分成四个大小相同的下一级编码单元。同时，编码单元也是确定帧间预测或帧内预测的基本单元。

预测单元是预测的基本单元，其根节点在编码单元层。帧间预测模式的分割类型有2N×2N，2N×N，N×2N，N×N，2N×nU，2N×nD，nL×2N，nR×2N，其中 2N×nU，2N×nD，nL×2N，nR×2N 属于非对称运动分割[3]，分割类型如图 3 中预测单元行所示。非对称运动分割主要针对某些不规律类型的块，使用非对称的预测方式比进一步分割得到的预测结果更加准确。帧内预测模式的分割类型有2N×2N 和 N×N。对于帧间预测和帧内预测，分割模式 N×N 只有当编码单元递归达到最小尺寸时才执行。

变换单元是残差变换的基本单元，根节点也在编码单元层。变换单元的处理也采用四叉树结构，其四叉树称为残差四叉树变换(Residual Quadtree Transform)，包含方形四叉树变换和非方形四叉树变换，如图 3 中变换单元行所示。

采用图 3 所示编码结构的目的是可以根据视频内容自适应选择最优的编码单元、预测单元和变换单元组合，从而获得更好的编码性能。但是HEVC 通过全遍历的方式选择最优的编码单元、预测单元和变换单元组合，很明显这种方式的复杂度非常地高。

2.2 帧内预测模式

在视频编码标准 H.264 中，为了提高帧内预测的准确性，当待编码的块尺寸为 16×16 时遍历4 种预测模式，当待编码的块尺寸为 4×4 时遍历9 种预测模式(8 种方向性预测模式和 1 种平均模式)。图 4 所示为 H.264 中 4×4 块的 8 种方向性帧内预测模式，每个预测方向最小间隔为 22.5°。cc

图 4 H.264 帧内预测模式Fig. 4. Intra prediction modes of H.264

为了使得帧内预测更加准确，帧内编码效率更高，HEVC 采用了更精密的帧内预测模式，多达 35 种，其中 33 种方向预测模式和 2 种非方向预测模式，如图 5 所示，预测方向最小间隔约为 5°。0～34 中每个值分别代表一种模式，其中 2～34 每个值代表一种方向模式，0 代表平面模式(Planar)，1 代表直流模式(Direct Current，DC)。帧内编码通过遍历上述 35 种模式选择率失真代价最小的模式作为最佳帧内预测模式。尽管这种遍历方式可以进一步提高预测准确性从而提高编码效率，但也极大地增加了编码复杂度。

图 5 HEVC 帧内预测模式Fig. 5. Intra prediction modes of HEVC

在不降低帧内编码视频质量的前提下，为了降低帧内编码过程的复杂度，HEVC 采用了 Piao等[4]提出的粗略模式判定方法获得备选模式列表。该技术主要通过减少帧内预测中执行率失真优化模式的数目，从而降低帧内预测的复杂度。执行粗略模式判定后得到的备选模式列表根据公式(1)计算预测模式对应的代价 J，并按 J 从小到大的顺序排列各种模式。然后将周围相邻块选择的最佳预测模式构成的最可能模式中未包含在备选模式列表中的模式添加到备选模式列表。最终确定的备选模式列表中每个模式需要进一步执行率失真优化，根据率失真优化选择最佳的帧内预测模式。尽管 HEVC 采用了 Piao 等[4]提出的快速算法，但帧内预测的复杂度仍然很高。

其中，D(r,mi)为当前预测单元使用帧内第 i个预测模式 mi预测后得到的残差信号 r 进行Hadamard 变换后变换系数的绝对差值之和；R(mi)为编码帧内预测模式 mi所需的比特；λ 为拉格朗日乘子；J 为粗略模式判定过程中使用帧内预测模式 mi预测当前块得到的代价。

2.3 基于四叉树的变换结构

图 3 最下方变换单元行就是描述变换单元的四叉树结构。当预测单元分割类型是 2N×2N或 N×N 时，方形四叉树变换(SQT)采用方形变换；当预测单元分割类型是 2N×N，2N×nU 和2N×nD 时，非方形四叉树变换(NSQT)采用水平类型变换；当预测单元分割类型是 N×2N，nL×2N 和 nR×2N 时，非方形四叉树变换(NSQT)采用垂直类型变换。预测单元分割类型与变换单元四叉树划分类型的对应关系如图3 所示。变换单元基本上都采用离散余弦变换(Discrete Cosine Transform)，但如果是帧内预测且变换单元大小为 4×4 时则选择离散正弦变换(Discrete Sine Transform)[5]。为了更好地去除视频中存在的空域统计冗余，HEVC 采用了复杂度很高的离散余弦变换或者离散正弦变换两种变换提高视频的编码性能。并且对编码单元使用基于四叉树的变换结构自适应地选择合适的变换单元大小进行变换，这也就意味着对一个编码单元重复进行不用层次的变换，选择具有最优编码性能的变换单元组合，进一步增加了编码过程的复杂度，使编码过程的复杂度成倍增加。

由以上分析可知，HEVC 采用复杂度很高的算法提高视频的压缩效率，造成了 HEVC 的编码复杂度非常高。编码复杂度过高会造成对硬件和电源的依赖程度太高，不利于在移动设备上的推广和应用。因此，如何有效地降低 HEVC 的编码复杂度是当前研究的关键问题。

3 相关工作的综述

为了降低 HEVC 帧内编码过程的复杂度，研究人员进行了很多相关研究工作并提出了改进型帧内编码算法。这些改进方法可以划分成两类，一类是针对编码单元尺寸选择，修剪编码树单元分割的四叉树，通过提前确定编码尺寸降低计算复杂度[7-10]；另一类主要通过减少 35 种预测模式数量，降低计算复杂度[5,11-13]。

HEVC 在编码过程中为了获得最佳的编码单元，会遍历所有的编码单元深度。虽然该方法使得编码性能得到了显著提高，但是编码的复杂度也相应增加。为了减少遍历编码单元的数目，Li等[7]提出自适应确定编码单元深度范围的算法降低编码复杂度。Shen 等[8]利用先前已编码帧和相邻已编码编码单元的深度快速确定当前编码单元的深度范围。Leng 等[9]在帧层和编码单元层分别提出一个快速确定编码单元深度的算法加速编码过程。Shen 等[8]还利用贝叶斯准则结合一些相关的特征快速决定编码单元的深度。蒋洁等[10]探索图像平滑特性与编码块尺寸大小的关系，进而根据当前区域是否属平滑自适应地跳过不适合的编码块划分。以上方法主要通过最优编码单元尺寸的预测或早期决策，减少对不必要的编码单元尺寸的计算，降低计算复杂度，但并未考虑到率失真优化中的模式选择过程。

为了降低帧内编码复杂度，研究人员还通过减少预测模式降低计算复杂度。Piao 等[4]改进了粗略模式判定选择准则，将编码模式所占比特加入到粗略模式判定选择准则中，实现码率和预测精度的最优化。Zhao 等[11]通过实验选择对应于不同预测单元的最佳备选模式的数目。Jiang 等[12]利用梯度直方图寻找当前编码单元最可能的预测方向，比较准确地减少了进行粗略模式判定以及率失真优化的模式数目。Zhang 等[13]分析了纹理特征与编码模式之间的关系，提出了一个自适应地确定帧内预测模式的方法。以上方法较好地减少了预测模式的数量，但是缺乏对备选模式列表特性的利用，因此仍有较大的优化空间。

根据对以上算法的分析，本文提出了一种基于模式预测的低复杂度高清视频帧内编码方法。该方法主要利用备选模式列表中不同位置的模式成为最佳预测模式的概率差异性，并且同一位置不同模式成为最佳预测模式的概率存在的差异性，通过重新建表，进一步减小备选模式列表中实际执行率失真优化的帧内预测模式数目。

4 基于模式预测的低复杂度高清视频帧内编码方法

HEVC 帧内编码过程中，编码单元块尺寸编码单元和预测块尺寸预测单元分割模式确定后，首先使用粗略模式判定从 35 种预测模式中选择最有可能成为最佳预测模式的集合。然后集合中的每个模式逐个执行率失真优化，比较每种模式对应的率失真代价，选择率失真代价最小的模式作为最佳帧内预测模式。表 1 是帧内编码过程中粗略模式判定和率失真优化两个过程花费时间占帧内编码时间的百分比。其中，Class A～Class E 是提案[14]中不同分辨率不同场景的标准测试序列，国际上统一使用这些标准序列进行算法性能比较。

表 1 RMD 和 RDO 消耗时间占帧内编码过程消耗时间的比例Table 1. Time-consuming proportions of RMD or RDO

由表 1 可知，帧内预测模式选择过程中粗略模式判定消耗时间占整个帧内编码总时间的6.27%，而率失真优化消耗时间占整个帧内编码过程总时间的 63.76%。由于粗略模式判定采用较简单的计算方式，所以即使粗略模式判定过程遍历的模式数目远远多于率失真优化过程遍历的模式数目，但是粗略模式判定花费的时间远小于率失真优化花费的时间。因此，每种模式执行率失真优化过程的复杂度远远大于执行粗略模式判定过程的复杂度。为了尽可能降低 HEVC 帧内编码过程的复杂度，我们将进一步优化率失真优化过程。

由于粗略模式判定过程中 J 的大小在一定程度上反映了最终率失真代价的大小，并且粗略模式判定后得到的备选模式列表根据 J 按从小到大的顺序排列，所以，备选模式列表中不同位置的预测模式成为最佳预测模式的概率是不同的，一般概率逐渐降低[13]。

为了分析最佳模式与备选列表排序的关系，本文定义以下三种事件：

(1)当备选列表中第一个模式是直流模式或平面模式时，直流模式或平面模式成为最佳预测模式，该事件记为 A，对应发生概率为 P(A)；

(2)当备选模式列表中第一个模式属于最可能的模型时，该模式成为最佳模式的事件记为B，对应发生概率为 P(B)；

(3)当备选模式列表中第一个模式为上述两种类型之外的模式时，该模式成为最佳预测模式的事件为 C，对应发生概率为 P(C)。

对不同视频序列编码测试的实验结果如表 2所示，可以发现 P(A)平均为 81.87%，P(B)平均为 76.78%，而 P(C)平均只有 30.72%。明显地，当备选模式列表中第一个模式是直流模式或平面模式、最可能的模型时，该模式成为最佳预测模式的概率远大于第一个模式属于其他模式时的概率。这是因为，当第一个模式属于直流模式或平面模式时，说明当前预测块相对平滑，而直流模式和平面模式两种模式对平滑区域的预测效果更好，因此最终选择直流模式或平面模式的概率较大。由于视频具有较强的空间相关性，因此，第一个模式属于最可能的模型时，说明当前预测块选择的预测模式跟周围块选择的最佳预测模式相同的可能性很大。

表 2 备选列表中第一个模式属于不同类型时对应的命中率Table 2. Hit rate of the first mode in candidate list

基于以上分析，本文针对不同的情况分别定义了两种预测方案：

方案 1：当备选模式列表中第一位的模式属于最可能的模型时，直接使用备选模式列表中前两个模式作为最佳预测模式。

方案 2：当备选模式列表中第一个模式为直流模式或平面模式时，若预测单元大于等于 16，则直接使用直流模式和平面模式作为最佳预测模式，若预测单元尺寸小于等于 8 时，则选择直流模式，平面模式和第二个备选模式作为最佳预测模式。

图 6 方案 1 的命中率Fig. 6. Hit rate of scheme 1

图 7 方案 2 的命中率Fig.7. Hit rate of scheme 2

为了测试两个方案的命中率，我们对不同的测试序列进行了编码实验，方案 1 的命中率如图 6所示，图中不同的柱状体分别表示不同序列和不同的预测尺寸。由图 6 可以发现方案 1 的概率平均为 88%，并且不同的预测单元间这个值变化不大。因此当备选模式列表中第一个模式属于最可能的模型时，备选模式列表仅保留前两种模式。对于方案 2 该方法的命中率如图 7 所示，平均命中率为 86%。通过编码实验可说明方案 1 和 2 的具有较高的准确率，而且适用于不同测试序列。

最后，对于方案 1 和 2 不适用的情况，即当备选模式列表中第一个模式为其他模式时，则采用 HEVC 标准中原始的方法处理。

图 8 本文算法流程图Fig. 8. Flowchart of the proposed algorithm

根据上述分析，本文的算法流程如图 8 所示。具体流程说明如下：

(1)开始编码某一编码单元和预测单元；

(2)执行粗略模式判定，并将最可能的模型中不包含在备选模式列表中的模式添加到其中，得到最初的备选模式列表；

(3)判断初步备选模式列表中的第一个备选模式是否属于最可能的模型，若否，备选模式中保留前两个备选模式，并转至步骤(6)；否则转至步骤(4)；

(4)判断第一个备选模式是否属于直流模式或者平面模式，若否，备选模式不变，并转至步骤(6)，否则转至步骤(5)；

(5)判断预测块尺寸是否小于 16×16，若是，备选模式列表中保留直流模式、平面模式和第二个备选模式；否则列表中保留直流模式和平面模式模式；

(6)对备选模式列表中的每个模式执行率失真优化，选择具有最小代价的模式作为最佳预测模式。判断编码树单元中是否有下一个编码单元和预测单元，若是转至步骤(2)，否则结束编码树单元的编码。

步骤(3)至(5)为备选列表重建过程。本方法根据粗略模式判定后备选模式列表中不同位置的模式成为最佳预测模式的概率差异以及第一个备选模式成为最佳预测模式的概率差异重建备选模式列表，减少执行率失真优化的帧内预测模式数目。因此，该方法在保证编码后视频质量的前提下，能较好地去除了编码过程中的冗余。

5 实验与分析

为了评价提出算法的性能，本文在 HEVC 参考软件 HM8.0[15]上实现相应的算法。测试平台的配置如下：处理器 AMD Athlon(tm)ⅡX2 B24，主频 2.99 GHz，内存 2.00 G。在两种标准测试条件(Standard Test Conditions，STC)下测试本文提出的算法：全帧内帧—高效档次(记为STC1)，全帧内帧—主档次 (记为STC2)，并且规定最大的编码单元宽度和高度都是 64，最大的编码单元深度为 4，这就意味着最小的编码单元大小为8×8。为了证明本文提出算法的有效性，与 Zhang等[13]提出的算法进行了比较。在测试过程中本文测试了 HEVC 标准[14]中规定的测试序列 Class A～Class E 中所有的视频序列，每个 Class 的每个测试序列需要测试 4 个量化参数：22、27、32、37，每个序列每个量化参数编码帧数为 100 帧。实验结果如表 3 所示，同时使用 Bjøntegaard 平均差异峰值信噪比 BDPSNR(dB)、Bjøntegaard平均差异码率BDBR(%)[16]以及节约时间(TS)(%)评价提出算法的性能，其中 BDPSNR 为正值表示质量提高，负值表示质量降低；BDBR 为正值表示标准码率增加，负值表示码率减少；节约时间的定义如公式(2)所示：

表 3 在 STC1 下的测试结果Table 3. Comparative results of performance within STC1

表 4 在 STC2 下的测试结果Table 4. Comparative results of performance within STC2

由表 3 可以发现，在 STC1 条件下，Zhang等[13]算法对 Class A～Class E 编码后 BDPSNR 平均值为 —0.02 dB，BDBR 平均值为 0.33%，节约时间的平均值为 19.63%。而本文提出算法对 Class A～Class E 编码后 BDPSNR 平均值为 —0.01 dB，BDBR 平均值为 0.20%，节约时间的平均值为24.50%。由此可看出，与 Zhang 等[13]算法相比，本文算法质量降低更少和码率增加更少，即编码性能略好，同时进一步节省编码时间约 5%。同样，从表 4 可以发现，在 STC2 条件下，本文提出算法与 Zhang 等[13]提出的算法相比，在编码性能更佳的前提下，编码时间进一步节约 5% 左右。

综上可知，本文提出算法与原始的 HM8.0相比，在编码性能基本不变的条件下，帧内编码时间平均节约 24.50%。同时，本文提出算法与Zhang 等[13]提出的算法相比，在编码性能更佳的前提下，编码时间节约 5% 左右。这就意味着本文提出的算法在编码后视频的质量基本提高条件下，进一步节省了视频编码所需时间。

6 结论与展望

本文提出了一种基于模式预测的低复杂度高清视频帧内编码方法。该算法利用粗略模式判定获得的备选模式列表中不同位置的模式成为最佳预测模式的概率差异以及同一位置不同模式成为最佳模式的概率差异快速重新确定执行率失真优化的模式数目，有效地降低了帧内预测的复杂度，提高了 HEVC 的编码性能。实验结果表明，本文提出的方法在保证率失真性能与HM8.0 编码的性能基本一致的条件下，帧内编码时间平均节省 24.50%，降低了帧内预测编码的复杂度。

本文方法主要针对帧内编码的预测模式层进行优化，可以通过编码单元层、变换层相结合进一步提升优化效率；同时，帧间的编码树单元的修剪也是非常重要的优化方向；另外并行化处理是高清与超高清视频编码优化的又一重要方向。

[1] ISO/IEC14496-10. H.264: Advanced video coding for generic audiovisual services [S]. 2013.

[2] Sullivan GJ, Ohm JR. Recent developments in standardizationof high efficiency video coding (HEVC) [C] // Proceedings of SPIE 7798, Applications of Digital Image Processing XXXIII, 2010: 77980V.

[3] 朱秀昌, 李欣, 陈杰. 新一代视频编码标准——HEVC [J]. 南京邮电大学学报(自然科学版), 2013, 33(3): 1-11.

[4] Piao Y, Min J, Chen J. Unified directional intra prediction in tmuC [R]. JCTVC-C207, CN:ISO/IEC and ITU-T, 2010.

[5] 陈相涛, 何小海, 钟国韵, 等. 一种自适应 HEVC视频编码行列变换跳过模式 [J]. 四川大学学报(工程科学版), 2012, 44(1): 208-212.

[6] Cann KM, Han WJ, Kim IK. Samsung’s response to the call for proposals on video compression technology [R]. JCTVC-A124, DE: ISO/IEC and ITU-T, 2010.

[7] Li X, An J, Guo X, et al. Adaptive CU depth range [R]. JCTVC-E090, CH:ISO/IEC and ITU-T, 2011.

[8] Shen L, Liu Z. Zhang X, et al. An effective CU size decision method for HEVC encoders [J]. IEEE Transactions on Multimedia, 2013, 15(2): 465-470.

[9] Leng J, Sun L, Ikenkga T, et al. Content based hierarchical fast coding unit decision algorithm for HEVC [C] // International Conference on Multimedia and Signal Proceesing, 2011: 56-59.

[10] 蒋洁, 郭宝龙, 莫玮, 等. 利用平滑区域检测的HEVC 帧内编码快速算法 [J]. 西安电子科技大学学报(自然科学版), 2013, 40(3): 194-200.

[11] Zhao L, Zhang L, Zhao X, et al. Further Encoder Improvement of intra mode decision [R]. JCTVC-D283, KR: ISO/IEC and ITU-T, 2011.

[12] Jiang W, Ma H, Chen Y. Gradient based fast mode decision algorithm for intra prediction in HEVC [C] // International Conference on Consumer Electronics, Communications and Networks, 2012: 1836-1840.

[13] Zhang M, Zhao C, Xu J. An adaptive fast intra mode decision in HEVC [C] // IEEE International Conference on Image Processing, 2012: 221-224.

[14] Bossen F. Common test conditions and software reference configurations [R]. JCTVC-J1100, SE:ISO/IEC and ITU-T, 2012.

[15] HEVC Reference Software HM8.0 [OL]. https:// hevc.hhi.fraunhofer.de/svn/svn_HEVCSoftware/ tags/HM-8.0/.

[16] Bjøntegaard G. Calculation of average PSNR differences between RD-curves [R]. VCEG-M33, TX: ITU-T SG16 Q.6, 2001.

Low Complexity High Definition Intra-coding Based on Mode Prediction

ZHANG Guanjun ZHU Linwei ZHANG Yun

( Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences, Shenzhen 518055, China )

In order to solve the huge data problem for high resolution or ultra-high resolution video, the International Organization for Standardization in video coding has been developing the most advanced video compression standard - High Efficiency Video Coding (HEVC), namely H.265. As an important part of this standard, the complexity and performance of intra-coding will seriously affect the compression complexity and performance of the standard. To reduce the complexity of HEVC intra-coding, an algorithm of re-determining the candidate mode list was presented is this paper. In the proposed algorithm, according to the different modes of the first index in candidate mode list, an adaptive method was utilized to determine which mode will be kept in candidate mode list, then the number of modes which are needed to perform rate distortion optimization was reduced. Experimental results show that, compared with original HM8.0, the proposed algorithm saves 24.50% on average in time for intra-coding with the same compression performance. The proposed algorithm can be combined with other level of fast coding optimization to further reduce the complexity.

high efficiency video coding; candidate mode list; rate distortion optimization; coding tree unit; rough mode decision

TN 911

A

2013-12-23

张冠军，硕士，研究方向为视频编码与处理；朱林卫，硕士，研究助理，研究方向为视频信号处理、三维视频和机器学习；张云(通讯作者)，副研究员，博士，研究方向为多媒体信号处理与通信、视频编码和计算机视觉，E-mail：yun.zhang@siat.ac.cn。