基于四叉树结构的HEVC快速帧内算法研究-信号与信息处理专业论文.docxVIP

南京邮电大学学位论文原创性声明本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得南京邮电大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢意。本人学位论文及涉及相关资料若有不实，愿意承担一切相关的法律责任。研究生签名：日期：南京邮电大学学位论文使用授权声明本人授权南京邮电大学可以保留并向国家有关部门或机构送交论文的复印件和电子文档；允许论文被查阅和借阅；可以将学位论文的全部或部分内容编入有关数据库进行检索；可以采用影印、缩印或扫描等复制手段保存、汇编本学位论文。本文电子文档的内容和纸质论文的内容相一致。论文的公布（包括刊登）授权南京邮电大学研究生院办理。涉密学位论文在解密后适用本授权书。研究生签名：导师签名：日期：摘要近年来新一代高效视频编码（HEVC）的快速算法受到越来越多的关注。为了获得更高的编码效率，HEVC在帧内和帧间编码时采用了多种新技术，如新的编码模式，灵活的编码结构等。这些技术的运用使HEVC获得比与之前的H.264视频编码标准更高压缩率，但也大大增加了它的编码运算量，影响编码的速率，给推广应用带来了巨大的挑战。因而HEVC的快速算法具有重要的应用价值，并且引起人们的关注。通常快速算法需要在编码质量和编码效率损失有限的前提下提高编码速率，主要包括帧内快速算法和帧间快速算法。本文针对以上问题，研究了基于HEVC的帧内快速算法。主要内容和创新点如下：（1）研究了HEVC帧内编码的编码单元（CU）划分，提出了基于CU纹理特征和深度关系的提前终止算法。HEVC的编码单元的划分采用了灵活的四叉树结构，在划分过程中需要对深度为0到深度为3的编码单元自上而下计算其率失真代价，从而决定编码单元的最终划分结构，大大增加计算复杂度。针对该问题，本文从两个方面研究了通过提前终止编码单元的划分减少编码复杂度的方法。一种是设定参数表征编码单元的纹理特征，设定阈值实现编码单元的提前终止划分；另一种是基于当前编码单元的深度与周围编码单元的深度的关系分析，实现编码单元划分的提前终止。（2）研究了帧内预测单元（PU）的快速模式决策。在HEVC帧内编码的PU模式选择过程中，需先对35种帧内预测模式进行哈达玛运算，粗选择出候选模式集，再根据相邻的编码单元得到最可能模式（MPM）加入到候选模式，最后对候选模式计算率失真代价值，选出率失真代价值最小的为最佳帧内预测模式。针对高复杂度的模式选择过程，本文提出减少粗选择的预测模式个数来减少计算复杂度，在jiang的基于像素梯度的快速模式选择算法基础上进行了改进，通过统计每个2×2子块的边缘方向得到当前预测单元的边缘方向，从而减少候选模式个数。（3）基于以上研究，本文进一步分析了帧内编码中编码单元的划分过程和模式选择过程的关系，综合了编码单元的划分过程和预测单元的模式选择过程的研究，提出融合快速PU模式与CU深度关系或基于CU纹理特征的两种HEVC的帧内编码快速算法。论文给出了详细的实验方法和结果分析，实验结果表明，本文提出的快速算法在对编码质量影响较小的前提下，可有效提高帧内编码的速率，从而验证了上述工作的正确性。最后本文总结了全文的工作，并展望了本课题的进一步工作方向。关键词:HEVC，帧内编码，快速算法，CU划分，模式选择IAbstractInrecentyears,fastalgorithmsforHEVChaveattractedmoreandmoreattention.Inordertoobtainhighercodingefficiency,manynewtechnologiesareusedinHEVCintraandintercoding,suchasnewcodingmode,flexiblecodingstructureandsoon.AlthoughHEVCobtainsbettercompressionthanpreviousH.264,itscomputationloadincreasesgreatly.Thisinturnhasnegativeeffectonthecodingrate.Inordertoachieverapidcodingrateandtomeetapplicationrequirements,fastalgorithmsattractmoreattention.Fastalgorithmscanincreasethecodingratewhileensuringthecodingefficiency.Mainly,fastalgorithmsincludeint