GPU入门技术介绍.pptVIP

* GPU GPU简介 GPU研究现状 GPU内部架构 CUDA编程模型 CUDA存储器模型 CUDA程序实例 CUDA程序优化 第一页，编辑于星期三：四点 二十三分。 GPU简介 单核处理器芯片已经到了尽头 Power Wall 功耗大 Memory Wall 存储器延迟很难降低，缓存占据70%芯片面积 第二页，编辑于星期三：四点 二十三分。 GPU简介 多核和众核时代 多个适当复杂度、低功耗核心并行工作 时钟频率基本不变 未来计算机硬件不会更快，但会更“宽” 必须重新设计算法 “Multicore: This is the one which will have the biggest impact on us. We have never had a problem to solve like this. A breakthrough is needed in how applications are done on multicore devices.” -Bill Gates, Microsoft 第三页，编辑于星期三：四点 二十三分。 GPU简介 GPU，Graphics Processing Unit的简写，是 现代显卡中非常重要的一个部分，其地位与 CPU在主板上的地位一致，主要负责的任务 是加速图形处理速度。 GPU是一个高度并行化的多线程、多核心处 理器。 第四页，编辑于星期三：四点 二十三分。 GPU简介 GPU/CPU计算能力比较 第五页，编辑于星期三：四点 二十三分。 GPU简介 GPU/CPU存储器带宽比较 第六页，编辑于星期三：四点 二十三分。 GPU简介 市场迫切需要实时、高清晰度的 3D 图形，可编程的 GPU 已发展成为一种高度并行化、多线程、多核心的处理器，具有杰出的计算能力和极高的存储器带宽。 GPU极大提升了计算机图形处理的速度、增强了图形的质量，并促进了与计算机图形相关其他应用领域的快速发展。与中央处理器(Central Processing Unit，CPU)的串行设计模式不同，GPU为图形处理设计，具有天然的并行特性。 第七页，编辑于星期三：四点 二十三分。 GPU简介 第八页，编辑于星期三：四点 二十三分。 GPU研究现状 NVIDIA在1999年推出了第一款GPU产品－GeForce 256。主要任务是进行图形渲染任务，缓解CPU压力。 从GPU诞生那天开始，其发展脚步就没有停止下来，由于其独特的体系架构和超强的浮点运算能力，人们希望将某些通用计算问题移植到GPU上来完成以提升效率，出现了所谓的GPGPU（General Purpose Graphic Process Unit），但是由于其开发难度较大，没有被广泛接受。 2006年NVIDIA推出了第一款基于Tesla架构的GPU（G80），GPU已经不仅仅局限于图形渲染，开始正式向通用计算领域迈进。 第九页，编辑于星期三：四点 二十三分。 GPU研究现状 2007年6月，NVIDIA推出了CUDA（Computer Unified Device Architecture计算统一设备结构）。CUDA是一种将GPU作为数据并行计算设备的软硬件体系。在CUDA 的架构中，不再像过去GPGPU架构那样将通用计算映射到图形API中，对于开发者来说，CUDA 的开发门槛大大降低了。CUDA 的编程语言基于标准C ，因此任何有C 语言基础的用户都很容易地开发CUDA 的应用程序。由于这些特性，CUDA在推出后迅速发展，被广泛应用于石油勘测、天文计算、流体力学模拟、分子动力学仿真、生物计算、图像处理、音视频编解码等领域。 第十页，编辑于星期三：四点 二十三分。 GPU内部架构 CPU: 强控制弱计算，更多资源用于缓存 CPU: 强计算弱控制，更多资源用于数据计算 第十一页，编辑于星期三：四点 二十三分。 GPU内部架构 GPU体系架构在不断的发展，以GT200体系架构为代表对GPU的并行层次进行分析。Tesla GT200由两部分组成，分别是可伸缩流处理器阵列(Scalable Streaming Processor Array，SPA)和存储器系统，它们由一个片上互联网络连接。如下图所示，可伸缩流处理器阵列由若干个线程处理器群(Thread Processing Cluster，TPC)构成，每个TPC包含2～3个流多处理器(Streaming Multiprocessor，SM)，每个流多处理器中包含8个流处理器(StreamingProcessor，SP)。流处理器有独立的寄存器和指令指针，但缺少取指和调度单元，而流多处理器才拥有完整前端，包括取值、译码、发射等。从结构上看，每个流多处理器相当于一