基于cuda平台的h.264视频编码器研究设计-research and design of h 264 video encoder based on cuda platform.docxVIP

摘要H.264/AVC 是当前国际上最先进的视频编码标准，通过采用新的编码技术获得了更高的编 码效率与更好的图像质量。但是这些新技术在提高编码效率的同时也带来了更高的计算消耗以 及对系统内存带宽的需求。由于运算复杂度的增加，使用目前的硬件平台已经很难实现高清视 频的实时编码。另一方面，近年来图形处理器(GPU)的处理速度正在以超过摩尔定律的速度发 展，而且能够加速处理一些非图形领域的应用问题。CUDA、OpenCL 等编程模型的出现使得基 于 GPU 的通用应用开发变得更加简单灵活。目前 GPU 已经在天文学、流体力学、电磁仿真、 信号处理、视频压缩等领域获得广泛的应用，并取得了丰硕的成果。本文通过对 CUDA 编程模型以及 H.264 视频编码框架的研究，提出了一种基于 CUDA 的 H.264 并行编码器实现方案。该方案中 CPU 负责编码参数的初始化、视频文件的读写、CPU 与 GPU 之间的数据交互以及对 GPU 的调度和控制。GPU 负责编码过程中帧间预测、帧内预测、 变换与量化、熵编码与去块滤波等具体计算任务的执行。通过合理的任务分配，充分发挥了 CPU 和 GPU 两种处理器各自的优势。然后对编码器的各个模块重新作了并行设计。针对帧间预测分别设计了整像素运动估计与 分像素运动估计的并行执行过程，提出了一种并行的参考帧插值计算方法；针对帧内预测设计 了宏块之间 与宏块内部两级并行 的 执行过程；针对变换与 量化设计了快 速 DCT 变换 与 Hadamard 变换的并行执行过程；针对熵编码设计了每个子块码流生成与各宏块码流合并的并行 执行过程；针对去块滤波设计了边界强度计算与滤波计算的并行执行过程，提出了一种新的去 块滤波的宏块执行顺序，增大了并行粒度。最后本文选择了多种格式的视频序列对设计的编码器进行了详细的性能测试。相比传统的 串行编码器，本文设计的基于 CUDA 的并行编码器在处理 1080P 全高清视频时获得了平均 16 倍左右的加速比，并且图像质量只有微小的损失。本文基于 CUDA 平台开发的 H.264 视频编码 器性能有了明显的提升，可应用于很多现实场景中，同时在推广 GPU 用于通用计算任务方面也 有着很强的借鉴作用。关键词：H.264 视频编码器，GPU，CUDA，加速比，并行粒度，通用计算ABSTRACTH.264/AVC is the most advanced video compression standard currently. By adopting new coding techniques, H.264/AVC achieves higher coding efficiency and image quality. But these new techniques produce a high computational cost and large system memory bandwidth requirements at the same time. Real time encoding is very difficult to perform on current hardware platform due to its high computational complexity. On the other hand, during the recent years the processing speed of the graphics processing unit (GPU) is improving much more fast than the Moores law and it canspeed up some non-graphic applications。 The CUDA, OpenCL programming model makes thedevelopment of the application software based on GPU much simpler. At present, GPU is widely used in astronomy, fluid mechanics, electromagnetic simulation, signal processing, video compression and many other fields and has made great achievements.By research on CUDA programming model and H.264 vedio encoding frame, this paper proposes a parallel H.264 encod