快速AVS2帧内预测选择算法.docVIP

快速AVS2帧内预测选择算法 　　摘要：针对目前数字音视频编解码技术标准（AVS2）中帧内预测模式判断过程计算较为复杂，而如今超高清视频的普及给编解码系统带来很大压力的问题，提出了一种快速帧内预测选择算法。该算法先对最底层最小编码单元（SCU）进行预测模式删选，减少了底层SCU的计算量；再通过下层编码单元（CU）的预测模式得到上层CU的预测模式，从而减少了上层CU的计算量。实验表明，该算法对压缩效率的影响很小，并且编码时间平均下降超过15%，并可有效地降低帧内编码的复杂度。 　　关键词：数字音视频编解码技术标准；四叉树；帧内预测模式；编码单元 　　中图分类号： TN911.73 　　文献标志码：A 　　0引言 　　AVS工作组于2012年开始着手制定新一代视频编码标准（Audio Video coding Standard Ⅱ， AVS2），在2014年6月已基本完成新标准的制定。经测试，AVS2的编码压缩效率比AVS1提高一倍以上，与HEVC（High Efficiency Video Coding）相当[1]。 　　AVS2采用的主要技术有：大块四叉树结构（图1）；更多的预测块划分模式；更多的帧内预测模式；更多的帧间预测模式，包括双前向预测、背景图像（G和GB图像）预测技术；B图像可作为参考图像；参考图像灵活配置技术；样本偏移补偿技术等[2-3]。新技术在提高压缩效率的同时，也显著增加了编码复杂度。例如：在编码时采用大块四叉树结构编码，理论上需要尝试所有四叉树划分方式，选择其中最优的一个，这样增加了相当大的计算量。为了提高编码效率，AVS2的帧内编码采用了30种角度预测模式和3种非角度模式，为了获得最优模式[4]，必须计算33种帧内预测模式的率失真代价，计算量很大。在一些运动比较剧烈的视频中，I帧编码的比例比较大，其编码过程也就有更高的要求，因此，研究如何降低AVS2帧内编码复杂度，是非常有必要的。 　　针对视频编码帧内预测的高计算复杂度，已有众多学者提出了快速算法；文献[5]提出一种基于边缘方向强度的快速帧内预测模式决策算法；文献[6]提出一种基于残差绝对值总和（Sum of Absolute Transformed Difference，SATD）准则和空间相关性的快速帧内预测算法；文献[7]提出了一种基于纹理方向和空域相关性的帧内快速编码算法；文献[8]提出基于在编码树块的新检测顺序的快速帧内模式决策算法。以上算法基本上是提前决定了CU的大小划分以及减少帧内粗选模式列表的数量等方法。本文使用一种新的方法，参考了文献[5]中利用边缘方向强度来减少帧内预测需计算的帧内预测模式，以及文献[6]中利用空间相关性的特点来实现快速帧内预测模式决策过程，对帧内各CU层次预测模式进行优化，从而降低帧内编码时间，提高编码效率。 　　1AVS2帧内预测相关技术介绍 　　AVS2采用图1所示的大块四叉树编码结构，一幅图像被划分为若干最大编码单元（Largest Coding Unit， LCU），LCU的尺寸最大可以达到64×64（亮度样本及其对应的色差样本）。LCU可以进一步划分为各种尺寸的编码单元（Coding Unit，CU），CU的尺寸最小可以是8×8。LCU被进一步划分的次数称为划分深度（depth），不同深度对应不同的CU尺寸[3]。为了叙述方便，给划分得到的CU进行如图1所示的编号。 　　AVS2中CU被划分为若干预测单元（Prediction Unit，PU），在帧内模式编码中，CU划分为PU的方式有如图2所示的4种划分模式[1]，图中字母表示PU的编号。 　　对每一个亮度PU，AVS2定义了33种帧内预测模式，如图3所示，编号为0～32。其中3～32属于角度预测模式，0～2属于非角度预测模式。对色差PU，AVS2定义了5种帧内色度预测模式，包括直流、水平、垂直、双线性和一个DM模式。其中DM模式根据对应编号的亮度PU的预测模式灵活确定色度PU的预测模式，故帧内色度块的模式也包含在33种预测模式中[1]。 　　在AVS2软件测试模型中，首先获得所有帧内预测模式的预测块，再通过对预测残差哈达曼变换计算出各个模式下的残差绝对值总和（SATD），选出SATD 最小的前9种预测模式为粗选预测列表。最后对各粗选预测模式进行率失真优化计算，得到帧内最优预测模式[5]。 　　要确定帧内一个LCU下所有的划分帧内预测模式，不但要遍历所有深度的CU尺寸，还要对每个CU的所有预测划分PU以及所有33种角度预测模式进行遍历。可见AVS2在进行模式选择时，编码复杂度非常高，因此降低AVS2的帧内编码复杂度的研究非常必要。 　　2快速AVS2帧内模式选择算法 　　2.1基于上下层CU深度之间的帧内预测模式选择