第九章 高性能运算技术-CUDA.pdfVIP

高性能运算技术——CUDA 高性能运算技术——CUDA [摘要]在游戏和3D 等的推动作用下，GPU 得到快速的发展，目前其运算速度已经大大 超过CPU，为了充分利用有限的资源，有必要将其用于除了图像处理之外的领域。 但是传统的GPGUP 模式使用受到图形API 的限制，而且开发困难，难以得到发展。 CUDA 的出现解决了以上问题，给GPGPU 的发展带来新的希望，是计算机技术领 域中的一大突破。 什么是CUDA 在介绍CUDA 之前，不得不先介绍一个硬件——GPU （Graphic Processing Unit 图形处理单元）。顾名思义，这是专业处理图形信息的核心处理器，是现代显卡 的核心部件。 早期的计算机图形处理相对简单，图形、视频等需要大量运算的功能都是交 由CPU （Central Processing Unit 中央处理器）独立完成。但是随着人们对图形视 觉要求的不断提高，尤其是大量3D 图形，高清影视，3D 游戏的出现，人们发现 庞大的图形数据计算量已经超出 CPU 承载能力。为了满足海量数据的图形计算 需求，人们将图形计算功能脱离出来，为其设计一块专门的芯片，这就是GPU 。 1999 年NVIDIA 公司首先提出GPU 的概念，起初的设计的宗旨只是实现图形 加速。但是在其出现之后，在游戏产业的推动下，GPU 得到飞跃的发展，基本上 平均每 6 个月就有性能翻倍的产品面世，短短几年间，GPU 的运算能力就已远远超 越了CPU 。人们开始觉得如此强大的计算能力如果只能应用在图形方面，对计算 资源来说是一个极大的浪费。为了能够在图形计算之外的更多领域发挥 GPU 强 大的计算功能，人们开始研究如何能够利用GPU 完成图形数据之外的数据运算， 从而提出了GPUG （General-purpose computing on graphics processing units 通用 计算图形处理单元）的概念。 但是传统的通用计算图形处理单元 （GPGPU ）存在很大的不便。原因在于： 首先，传统GUGPU 是通过图形API 间接使用GPU 的计算能力，导致应用程序的 - 1 - 高性能运算技术——CUDA 运行依赖于庞大的图形库，同时要求变成人员必须掌握图形库相关的技术；其次， GPU 的运算功能受限于图形API ，导致GPU 在使用上存在许多局限。 2007 年 6 月 20 日，著名GPU 厂商 NVIDIA 推出了统一计算设备架构—— CUDA 。 这是一个完整的 GPGPU 解决方案，它不用再像传统那样必须将计算映射到 图形API 中，而是供了硬件的直接访问接口，增强了GPU 处理不同类型数据的 能力；另外一方面，CUDA 的GPU 编程语言基于标准的c 语言，因此任何有C 语 言基础的用户都很容易地开发CUDA 的应用程序，CUDA 的开发门槛大大降低了。 CUDA 的构成 目前CUDA 包含三个部分：开发库、运行时环境和驱动。 开发库是基于CUDA 技术所提供的应用开发库。目前CUDA 的1.1 版提供了 两个标准的数学运算库——CUFFT （离散快速傅立叶变换）和CUBLAS （离散基本 线性计算）的实现。这两个数学运算库所解决的是典型的大规模的并行计算问题， 也是在密集数据计算中非常常见的计算类型。 运行时环境提供了应用开发接口和运行时组件，包括基本数据类型的定义和 各类计算、类型转换、内存管理、设备访问和执行调度等函数。运行时组件也分 为公共组件、宿主组件和设备组件三个部分，基本上囊括了所有在GPGPU 开发 中所需要的功能和能够使用到的资源接口。 驱动是可支持CUDA(CUDA-enable) 的GPU 的设备抽象层，提供硬件设备的抽 象访问接口。CUDA 提供运行时环境也是通过这一层来实现各种功能的。 CUDA 运行方式 在CUDA 的架构下，一个程序分为两个部份：host 端和device 端。Host 端是 指在CPU 上执行的部份，而device 端则是在GPU 上执行的部份。通常host 端程 序会将数据准备好后，复制到显卡的内存中，再由 GPU 执行 d