H.2 编解码软件JM8.6 的核心编码函数研究.pdfVIP

H.264 编解码软件JM8.6 的核心编码函数研究 李强 北京邮电大学计算机学院，北京（100876 ） E-mail : liq.bupt@ 摘 要： H.264 编解码软件JM 通常被作为算法研究或者实际应用的平台。理解JM 的程序 结构是在其基础上进行进一步研究工作的前提。JM 中的编码函数 encode_one_macroblock 在程序实现编码算法的过程中起到核心的作用。这篇文章通过对程序中开销计算，关键全局 变量及编码一个宏块的算法的分析，查明了JM 核心编码函数encode_one_macroblock()的结 构，给出了该函数的流程。 关键词：高级视频编码；运动估计；率失真优化；宏块；模式选择 1. 引言 H.264 视频编解码标准是由 ITU-T 的 VCEG(视频编码专家组)和 ISO/IEC 的 MPEG(活 动图像编码专家组) 的联合视频组 JVT 开发的[1]。和以前的视频编码标准相比，H.264 获得 了更加出色的编码性能，但需要更加复杂的运算。JM 模型是 JVT 发布的源代码公开的 H.264 编解码软件，用 C 语言编写而成。JM8.6 是 JM 的一个版本，尽管JM8.6(下文简称 JM)没有 引进最新的一些运动搜索以及快速模式选择算法，但研究它的工作方式和程序结构对 H.264 算法研究和在 JM 基础上的代码剪裁仍然很有意义。为了简明起见，本文只考虑 H.264 基本 档次的特性。 2. 编码一个宏块(Macroblock)在整个 H.264 编码系统中的位置以及 负责完成的工作 - 1 - 反量化，反变换 值 测 预 变换，量化 残差系数 当前帧的重建( 阴 残差 熵编码 影部分是已经编 模式信息 码和重建的宏块) 帧内模式选择 器 波 滤 应 效 块 去 帧内预测 当前帧（原始图 像） 运动向量和模 帧间运动搜索 式信息 模式选择 帧间预测 以前编码帧的重 建图像 帧内帧间判断 图 1 H.264 编码器结构示意 如图 1 所示，如果待编码的宏块属于 P slice （如果待编码的宏块属于I slice ，那么其 编码过程包含在下述过程中），需要在帧内和帧间的几种编码模式中进行模式选择[2]。如 果选择的是帧内模式，则预测值由当前帧已经编码重建