基于新失真模型的TL-RDO策略.DOC

中图法分类号:TP37 文献标识码: 文章编号: 论文索引信息： 基于优化策略 俞力克1)2 代锋1) 张勇东1) 林守勋1) 1)（中国科学院计算技术研究所, 北京 100190） 2)（中国科学院研究生院, 北京 100190） 摘 要： 关键词 ： 感知质量; ; 视频编码; 人视觉系统; H.264/AVC; 率失真优化 YU Li-Ke1),2) DAI Feng1) ZHANG Yong-Dong1) LIN Shou-Xun1) 1) (Institute of Computing Technology, Chinese Academy of Sciences, Beijing, 100190) 2) (Graduate University of Chinese Academy of Sciences, Beijing 100190) Abstract: RDO (Rate-Distortion Optimization) plays an important role in video coding systems and has a great effect on coding efficiency. The most widely used RDO strategy uses MSE or other similar metrics for distortion modeling, which is not a good metric for subjective evaluation. In order to improve the perceptual quality, a novel perceptual distortion model is firstly proposed which takes the perceptual properties of texture and luminance into consideration. Based on the perceptual distortion model, a TL-RDO (Texture and Luminance based RDO) strategy is proposed which adjusts the Lagrangian multiplier dynamically according to visual perception. The simulation result shows that TL-RDO gets higher coding efficiency than QP-RDO. Moreover, it has low computational consumption compared to other perceptual RDO strategies, which is suitable for real-time systems. Keywords: perceptual quality; perceptual distortion model; video coding; HVS; H.264/AVC; RDO 0 引 言 视频编码标准发展至今，编码性能取得了长足的进步，最新的编码标准H.264及AVS取得了空前的编码性能。 (1) 其中，N表示视频编码单元的数量，Di和Ri分别表示第i个编码单元的失真与码率消耗，Rtotal表示总体的码率限制要求。当前主流的率失真优化方法是利用拉格朗日优化方法将表达式(1)中的非约束求极值问题转化为约束性求极值问题，可以表达为： (2) 其中，λ是拉格朗日乘子不同编码代价函数J，选最小值 (3) 从而得到： (4) 可见λ的最优值是率失真函数的负斜率，即λ的值与图像本身的率失真特性相关。但图像本身的率失真特性只有在编码之后才能统计获得；而为了使编码效率达到最优，需要在编码之前就得到图像的率失真曲线。这便是率失真优化领域中一个经典的蛋鸡悖论问题。 文献[1]利用了R-D建模，提出了一种基于量化参数的率失真优化方法(简称QP-RDO)。该方法在编码领域得到了广泛的认可，被很多经典编码器所采纳使用。该文献作者也同时指出，代价函数中的拉格朗日乘子λ的取值，对率失真优化的效率有着非常重要的影响。 尽管QP-RDO方法对视频编码领域的技术发展有着深远的影响，但同时也应该看到，该方法也存在不足之处。从表达式(4)中可以看到拉格朗日乘子λ的取值跟失真模型D有关。当前绝大多数率失真优化方法(包括QP-RDO在内)在对失真建模时往往采用了传统的M