基于率失真模型的h.264码率控制技术分析-analysis of rate control technology of h 264 based on rate distortion model.docx

南京邮电大学博士研究生学位论文摘要学科：工学专业：信号与信息处理研究方向：图像处理与多媒体通信作者：2008级博士研究生崔子冠指导老师：朱秀昌教授题目：基于率失真模型的H.264码率控制技术研究Title:RateDistortionModelBasedRateControlTechniqueResearchforH.264关键词：视频编码，H.264，码率控制，率失真模型，结构相似性，模式选择，拉格朗日乘子Keywords:VideoCoding,H.264,RateControl,RateDistortionModel,StructuralSimilarity,ModeDecision,LagrangeMultiplier本论文得到以下基金项目资助江苏省研究生培养创新工程“视频传输中率失真和差错鲁棒联合最优码率控制研究”，编号：CX10B_190Z摘要随着视频编码与网络技术的发展，视频通信在人们日常生活与工作中发挥着越来越重要的作用。H.264作为目前主流的视频编码标准，采用了许多新的技术获得了比以往标准更高的压缩效率与网络适应性，适合各种类型的视频通信。由于视频信源与传输信道的多样性，码率控制成为任何实际视频编码与传输系统不可缺少的关键步骤，用于在目标码率及缓冲区等约束条件下通过调整编码参数（主要是量化参数）来规范输出码流，使之适合信道传输的特性并最优化视频的感知质量。许多新的编码技术尤其是率失真优化技术的采用使得H.264的码率控制更加困难，针对不同环境下H.264率失真优化和码率控制技术的研究具有重大的理论意义和实际应用价值。本文根据H.264视频编码技术的特点，针对目前H.264码率控制技术的若干关键问题展开研究。主要内容包括以下几个方面：（1）针对H.264帧内编码码率控制效果不佳的问题，提出了一种新颖的图像复杂度自适应I帧码率控制算法。本文首先用Sobel算子检测I帧亮度像素的梯度，建立4×4块的边缘方向直方图，得到每个4×4块最可能的帧内预测模式和相应重构块，最终获得与实际编码相近的残差图像。用残差的平均绝对值表达I帧编码复杂度，之后提出了一种经验型I帧码率-量化模型，同时考虑缓冲区状态和当前序列的编码特性为I帧分配合适的目标比特，最后为每一个图像组得到了合适的I帧量化参数。（2）针对H.264经典的RC提案JVT-G012的不足，根据编码单元之间的空时相关性提出了一种低复杂度的P帧宏块层码率控制改进机制。首先为了减少宏块层平均绝对值（MAD）预测的计算复杂度和不准确性，根据运动相似性来估计当前宏块的运动矢量，并直接使用当前宏块与估计运动矢量所指向参考块之间的残差来计算MAD值；由于H.264中宏块头码率的预测对于率失真模型和量化参数计算影响重大，本文根据宏块间的空时相关性来更准确地预测宏块头码率；最后根据宏块的编码复杂度来分配目标码率，而且宏块层二次率失真模型参数更新时使用的历史数据点也是根据空时相关性进行选择，而不是简单地使用最近已编码的历史数据点。（3）针对H.264低码率应用中常发生被动跳帧而导致解码端质量波动的问题，提出了一种结合自适应跳帧的码率控制策略以保留带有重要信息的帧而主动跳过不太重要的帧。为了得到更加符合人眼视觉特性的编码序列，跳帧准则是根据原始帧与通过运动矢量拷贝帧内插机制得到的重建帧之间的主观质量属性（结构相似性测量）并结合当前缓冲区状态来判断。在编码端由跳过帧节省下来的码率分配给要编码的关键帧以增强编码帧的空间质量，在解码端根据改进的运动矢量拷贝帧内插机制从相邻编码帧来恢复跳过帧以维持常帧率来获得平滑的视频质量。（4）针对传统码率控制算法大多以客观失真作为失真度量，无法得到最优的主观质量的问题。将基于结构相似（StructuralSimilarity,SSIM）的主观失真用于H.264视频编码的率失真优化和码率控制，提出了一种基于SSIM的P帧宏块层码率控制算法。首先根据大量实验和理论分析提出了一种经验型的SSIM线性失真模型，并结合改进的二次码率-量化模型用Lagrange乘子法得到了基于SSIM的P帧宏块层最优量化步长的闭式解。最后给出了完整的基于SSIM的P帧宏块层码率控制算法。（5）将基于SSIM的主观失真用于指导H.264视频编码中基于率失真优化的帧内与帧间模式选择。研究内容分为两个部分，第一部分根据提出的I帧码率量化模型和I帧SSIM线性失真模型将SSIM失真用于指导I帧编码的帧内宏块模式选择，进一步提出了一种帧层内容自适应的Lagrange乘子来更好地平衡码率和SSIM失真。第二部分在P帧基于SSIM的宏块层码率控制的基础上将SSIM失真用于指导H.264的P帧编码中基于率失真优化的帧间宏块模式选择，进一步提出了宏块层自适应的分析型Lagrange乘子来更好地平衡码率和