S1 CUDA编程和GPU讲课课课件.pdfVIP

Higgh Performance Computing with GPU 徐云 中国科学技术大学计算机学院中国科学技术大学计算机学院 国家高性能计算中心（合肥） 2015.04@@ustc.hheffeii 主要内容 Ⅰ. Introduction to GPU Ⅱ. GPU Architecture Ⅲ. CUDA Programming Ⅳ. Performance and Optimization Ⅴ. Example: Matrix Multiplication Part ⅠIntroduction to GPU 1. GPU的发展 2. CPU和GPU比较 33. GPUGPU的应用和资源的应用和资源 注：部分资料来自于“高小鹏等, 通用计算中的GPU. 中 国计算机学会通讯, 2009, 5(11)” 1.1 GPU与GPGPU  图形处理器(GPU, Graphics Process Unit)  发展速度超过发展速度超过CPUCPU  今天的GPU不仅具备高质量和高性能图形处理能 力力，，还可用于通用计算还可用于通用计算  用于通用计算的GPU(General-Purpose CComputiting on GPUGPU，GPGPUGPGPU))  随着内部单元数量的快速增长及可编程性的持续 改进改进，已经演化成为已经演化成为一个新型的并行计算平台个新型的并行计算平台  一个必须引起重视的研究领域和技术 1.2 GPU的发展阶段  第一代第一代GPU(1999GPU(1999年以前年以前))：部分功能从部分功能从CPUCPU分离分离，实现硬件实现硬件 加速  GE(Geometry Engine)为代表，只能起到3D 图像处理的加速作用，不 具有软件编程特性  第二代GPU(1999年-2002年)：进一步硬件加速和有限的编程 性性  1999年NVIDIA GeForce 256将TL(Transform and Lighting)等功能从 CPU分离出来，实现了快速变换 年NVIDIANVIDIA和和ATIATI分别推出的分别推出的GGeFForce33和和RRaddeon图形硬图形硬件件 的流水线被定义为流处理器，出现了顶点级可编程性，同时像素级也具 有有限的编程性，但GPU的编程性比较有限  第三代GPU(2002年以后)：方便的编程环境(如CUDA)  2002年ATI发布的Radeon 9700和2003年NVIDIA GeForce FX的推出 年NVIDIANVIDIA与与ATIATI分别为推出了分别为推出了CUDA(ComputerCUDA(Computer UnifiedUnified DeviceDevice Architecture ，统一计算架构)编程环境和CTM(Close To the Metal)编程 环境 1.2 GPGPU的发展阶段Cont. Application Application Runtime Application ((Sh,, BrookGPU...)) CUDA Runtime Grapphics API Graphics API CUDA Driver HardwareHardware Hardware Hardware 早期的GPGPU 中期的GPGPU 目前的GPGPU （CUDA） 1.3 GPGPU的时代已到来来  随着GPU可编程性不断增强，特别是C