失真—量化模型及其在视频编码模式选择算法中的应用-distortion - quantization model and its application in video coding mode selection algorithm.docxVIP

致 谢 两年半的研究生生活即将在这个季节划上一个句号，而我的人生却只是一 个逗号，我将面对又一次征程的开始。在两年半的研究生生活当中，我首先感 谢我的导师殷海兵副教授，感谢殷老师的指导与督促，感谢殷老师的谅解与包 容，感谢殷老师生活上对我们的关怀。殷老师渊博的学识、严谨的治学学风、 勇于开拓创新的气魄、高瞻远瞩的眼光，严于律己宽以待人的品质，使我终生 受益，是我终生学习的榜样和楷模。 感谢塞北 609 的所有同学，徐宁、祝建英、谭晶晶、潘芝力、关爽、孟雷 雷，与你们的讨论让我认识到自己的不足。感谢 10 级信号全体同学，与你们在 一起，让我更有激情。 感谢我的爸爸、妈妈、哥哥和嫂子，感谢你们多年来一直在我背后默默的 付出与支持。 感谢我的女朋友宋美静，感谢你对我生活学习各方面的关心与照顾，感谢 你对我的理解与支持。 感谢百忙之中抽出时间审阅论文的各位老师，辛苦了！ I I 失真-量化模型及其在视频编码模式选择算法中的应用 摘要：模式选择算法是视频编码的一项关键技术，H.264/AVC、AVS 等视频编 码标准都采用了基于率失真优化的模式选择，与以往的视频编码标准相比，它 们的编码效率有了很大的提高。但是采用该算法需要计算各候选模式下的率失 真代价来选出最优模式，因此它的复杂度也急剧增加，在实际应用中带来了困 难。本文将主要针对这个问题对率失真优化模式选择算法进行改进。 基于此，本文进行的研究工作如下： 首先，介绍了视频编码标准的发展历程以及视频编码的关键技术，阐述了 率失真理论及其在视频编码中的应用，重点分析了在模式选择中的应用，并且 指出用失真-量化模型来估计失真的必要性。 其次，经过对失真量化模型（D-Q）的研究，我们发现 DCT 系数的分布模 型对失真量化模型的建模有直接影响，因此本文对几种主流的 DCT 系数分布模 型进行了仿真验证，发现基于柯西分布的 DCT 系数分布模型比其他模型的精确 度高，然后对一些 D-Q 模型从精确度、复杂度和应用场合进行分析比较，在此 基础上对基于柯西分布的 D-Q 模型进行改进，提出一种新的参数更新机制，使 该模型的精确度更高，并且能够更好地用于率失真优化的模式选择。 最后，通过对大量视频序列的测试，发现 SKIP 模式占据着很大的比例。目 前，学术界已经提出了许多 SKIP 模式预选算法，这些算法大都基于阈值判据来 对 SKIP 模式进行预选，但是这些阈值都不能很好地与视频内容自适应，使得它 的应用受到了局限。针对这个问题，我们提出了一种阈值与内容自适应的 SKIP 模式预选算法，通过一个能够反应当前编码块特性的参数来自适应地调整阈值， 本文中，我们使用编码宏块的 SATD 值来调整 SAD 阈值。所提算法采用了线性 回归分析和离线统计建模的思路，对大量离线采集的样本数据进行分析，通 过线性回归的思路对 SAD 和 SATD 建模，在线编码时，将编码宏块的 SATD 带入到模型中，求得用于 SKIP 模式预选的 SAD 阈值。 把以上方法综合运用到 AVS 的编码器中，实验结果证明在性能损耗几乎为 零的情况下，大大降低了模式选择算法的复杂度。 关键词：率失真优化；模式选择；D-Q 模型；计算复杂度；SKIP 模式预选 分类号：TP37，UDC654.9 II II Distortion-Quantization Model and the Application in Mode Decision Algorithm for Video Coding Abstract：Mode decision algorithm is a key technology in video encoder. Many video coding standards adopt mode decision based on rate distortion optimization to improve coding performance, such as H.264/AVC, AVS, and so on. However, this method needs to calculate R-D cost for all available modes to choose the best mode. Thus, the complexity increases quickly and it is hard for application. In this paper, we will focus on the issue above to improve rate-distortion optimized mode decision algorithm. According to the above