基于分层判断的x264快速模式选择算法-SJTUMediaLab-上海交通大学.PDFVIP

　第 44 卷 第 2 期 上 海 交 通 大 学 学 报 Vol . 44 No . 2 　 　20 10 年 2 月 J OU RN AL O F SHAN GHA I J IAO TON G UN IV ER SIT Y Feb . 20 10 　 　　文章编号 (20 10) 020 16506 基于分层判断的 x264 快速模式选择算法 刘 　硕 , 　宋 　利 , 　余松煜 (上海交通大学 图像通信与信息处理研究所 , 上海 200240) 摘 　要 : 针对高度优化的 x264 模式判断算法进行了研究 ,准确定位了其中仍存的冗余点. 在此基 础上 ,基于层次化思想 ,对模式判断流程进行了重新组织 ,提出了帧间辅助模式失效条件 、帧间主要 模式有效条件以及相应的模式选择算法. 实验表明 ,所提算法在几乎不损失压缩质量的前提下使编 码速度得到了显著提升. 此外 ,该算法不仅适用于 P 帧 ,而且适用于 B 帧 ,能够全面提升 x264 编码 器的编码速度. 关键词 : 视频编码 ; 模式判断 ; 算法优化 中图分类号 : TN 9 19 . 81 　　　文献标志码 : A x264 Fa st Mo de Selection Ba se d on Hierarchical Deci sion L I U S h uo , 　S ON G L i , 　Y U S ongy u ( In stit ut e of Image Co mmunication and Infor mation Proce ssing , Shanghai J iaoto ng U niver sit y , Shanghai 200240 , China) Ab stract : Thi s p ap er car rie s out re search on t he highly op timized mo de deci sion algorit hm of x264 soft ware an d accurat ely pin s out it s redundant point s. The mo de selection p roce ss i s reor ganized hierarchically . A uxiliary int er mo de s ’invalidating con ditio n and main int er mo de s ’validatin g condition are p rop o sed . N ew mo de selection algorit hm ba sed on t hem i s de signed . Accor din g to t he exp eriment al re sult s , t he new algo rit hm brin gs remar kable sp eed gain for bot h P and B slice s. Key word s : video co ding ; mo de deci sion ; algorit hm op timization 　　H . 264 较之 H . 263 与 M P E G4 能够在同等质 了帧间辅助模式失效条件与帧间主要模式有效条 量下节省约 50 % 的码率[ 12 ] ,其高性能是以高复杂 件 , 同时改善了 P sub8 ×8 与 I4 ×4 模式的判断效 度为代价获得的 ,算法优化极为重要. 作为性能优异 率. 在 同等质量条件下 , 新算法较之穷举算法及 的 H . 264