H.264的整数DCT变换及DSP实现.docVIP

摘要：DCT变换，防止了反变换中的误匹配问题，与传统的DCT变换相比它加快了变换速度，且加易于硬件实现。本文分析了H.264的整数DCT变换的原理和蝶形快速算法，并使用MATLAB软件对蝶形快速算法进行了软件验证。针对DSP的硬件特点和专有指令，使用汇编语言实现了H.264整数变换的优化。

关键词：整数DCT变换；H.264；蝶形快速算法

中图分类号：TN文献标识码：A文章编号：

ResearchandImplentationofIntegerDCTinBasedonDSP

CHENGBao-yuan，ZHANGQing-xi

(Collegeofmeasure-ControlTechnologyCommunicationEngineering,Harbin

ofScienceandTechnology,Harbin150040,China)

Abstract:UsinginH.264,theintegerDCTavoidsthemismatchproblem,andincreasesthecomputationspeedandmakehardwareimplementationeasy.ThispaperanalysestheprincipleoftheH.264integerDCTandfastpapilionaceousalgorithm,andverifiesvalidationoffastpapilionaceousalgorithmusingMATLAB.ThehardwarecharacteristicandparticularinstructionsofDSPareaimedat,assemblylanguageisusedtorealizeH.264integertransformoptimization。

KeyWords:integerDCT;H.264;fastpapilionaceousalgorithm

1 引言

H.264是国际电信联盟〔ITU〕和国际标准化组织〔ISO〕共同制定的新一代视频编码标准，与先前的标准一样，对图像或预测残差数据采用基于块的变换编码，以去除图像数据的空间冗余，使数据的能量集中到一小局部系数上。以前的标准〔如H.263〕采用基于8×84×4块的整数DCT变换，可以消除浮点运算，减少运算量，同时整数DCT可以减小编码器和解码器的变换和反变换间的误差[1]。

2 传统的DCT变换

一维N点离散余弦变换及其逆变换定义如下：

(1)

(2)

以上两式n,k=0,1,…,N-1;系数Ck:C0=1/,当k≠0，Ck=1。

二维DCT及其逆变换定义为：

(3)

(4)

Xij是N×N图像块X中第i行第j列元素，Y是DCT系数。

3 整数DCT变换

基于块的变化编码，但与之前的8×8点DCT变换不同，H.264采用了新的整数变换算法，以4×4像素子块为单位，在变换和反变换过程中只包含整数运算，这也是H.264标准区别于其他标准的重要不同之处。整数变换算法采用了全新的变换核和量化公式，变换可以通过16位运算来实现，有效的较低对存储器的要求，同时简化了运算步骤，在计算时只使用加法和移位运算，而无须使用乘法运算。使用这种算法做变换和反变换同样是可逆的，不存在误匹配问题[2]。

：

图1整数变换和量化过程

该整数变换方案是一个“分层”式的变换算法，包括如下3个局部：

1)对亮度分量和色度分量的AC系数使用4×4的整数变换；

2)对亮度分量的DC系数进行4×4的整数变换；

3)对色度分量的DC系数进行2×2的整数变换。

对图2所示的宏块，Y,U,V分别代表亮度分量和2个色度分量，变换过程为：首先对块0～块15依次进行4×4整数变换；之后将亮度分量块的DC系数块〔即图2中的块-1〕再进行整数变换并传输，接下来再对色度分量的DC系数矩阵〔块16、块17〕进行2×2的整数变换。

16

16

-1

(a)亮度分量

17

〔b〕色度分量

4×4整数DCT变换过程

×4的图像块进行变换操作，那么相应的4×