H.264变换编码和量化算法的分析.doc

文章编号：1009-8119（2006）07-0042-04 H.264变换编码和量化算法的分析 张春晓 何遵文 闫丽云 （北京理工大学电子工程系， 北京 100081） 摘 要：H.264是ITU和ISO 联合制定的新一代视频编码标准，和以前的视频编码相比，在很多方面作了改进。针对H.264协议的变换编码和量化进行了理论分析，给出了具体实现过程，最后通过例子来演示变换和量化的过程，论证了此种变换和量化方式的特点、有效性及应用前景。 关键词：视频压缩编码，H.264，变换编码，量化 The Analysis of H.264 Transform Coding and Quantization Algorithm Zhang Chunxiao He Zunwen Yan Liyun (Dept. of Electronic Engineering, Beijing Institute of Technology, Beijing 100081) Abstract H.264 is a new video coding standard established by ITU and ISO. Comparing to the previous video coding standards, H.264 has much achievement in many ways. In this paper, we analyzed the theory of the transform coding and quantization in H.264 standard, given the particular implementation, demonstrated the procession of the transform and the quantization by some examples and described the features, effectiveness and feature application of the transform and quantization. Keywords Compression of the video coding ，H.264 ，Transform coding，Quantization 1 引 言 ITU-T在制定了H.263标准之后，除了制定增强H.263功能的H.263 V2外，还努力发展一项新的低比特率的视频会议系统，就是H.26L标准草案，其在视频压缩效率方面比以前的ITU-T视频压缩标准有了显著的提高。2001年，ISO的MPEG小组意识到H.26L的潜在效益，就由来自MPEG 和VCEG小组的专家组成了Joint Video Team（JVT），把H.26L草案发展成一个世界性的标准，即ISO MPEG4的ISO MPEG4 Part和ITU-T的H.264。 H.264采用了一系列新的压缩方法，获得了更好的压缩效果。标准中的DC变换和量化与先前的标准有比较大的区别。本文首先回顾了先前标准的变换过程，然后重点地介绍了H.264的变换和量化过程，最后论证了其变换量化的有效性。 2 H.264的变换编码和量化原理 2.1 变换编码的原理 H.264协议中的变换方式主要有3种：4×4残留变换，4×4亮度直流系数变换（16×16帧内模式下），2×2色度直流系数变换，H.264协议中的量化采用分级量化原理[1]。 2.1.1 H.264的4×4残留变换 （1） 式中：，， 把矩阵中的,提取出来，通过因式分解把上式变为下面的等效形式[2]： （2） 其中：是“核心”变换，是缩放因子矩阵，符号的意思是矩阵里的每个元素和矩阵中相同位置的元素相乘（即标量相乘），常量和如前所示，。 为了简化变换的运算，，为了保证这是正交变换，则的值也要变化，具体如下：, , 。 变换只采用整数运算，这样矩阵中的元素有可能使精度降低，因此就要使矩阵中的元素均为整数，这可以通过使矩阵的第二行和第四行以及的第二列和第四列乘以缩放因子来使整数化，相应的，在矩阵中来补偿这种缩放。因此，公式形式如下： （3） 变换定义如下，假设输入为矩阵，则[3]： （4） 2.1.2 H.264的4×4亮度直流系数变换（16×16帧内模式下） 当宏块的编码在16×16帧内模式下，此时整个16×16块的亮度分量是由相邻像素点预测得到的。宏块的16个4×4块的直流分量组成一个4×4的直流系数矩阵,这个矩阵的变换采用的是离散哈达码变换（Discrete Hadmard transform,DHT）。 正向变换公式 （5） 反向变换公式： （6） 式中：是量化后的系数矩阵