GPU开发和CUDA编程介绍.pptVIP

CPU中利用三层循环实现矩阵乘法代码 GPU中利用每个线程计算一个元素 每个线程每次计算的数据直接从全局存储器读取 无分块矩阵乘法代码，不使用共享存储器 GPU中实现矩阵乘法的核函数代码： CPU和GPU的矩阵乘法时间比较 CPU：Quad2 Q8400 GPU：GeForce GTX460 易学 易用 高度并行化 可扩展 数据传输 和CPU交互 优化及调试 仅限于N卡 CUDA？ OpenCL？ 谢谢！ /info/4259.html /chinqt/archive/2007/05/17/118027.html /170/1705887.html / /sites/shuxue/pcC.jsp?contentId=2574650376854 ——林英展 GPU是什么？ 为什么使用GPU？ GPU在通用计算上的应用 GPU的整体架构 GPU编程的优缺点 GPU的未来 Graphic Processing Unit：图形处理器，显卡的处理核心 NVIDIA公司在1999年发布Geforce 256图形处理芯片时首先提出GPU的概念，随后大量复杂的应用需求促使整个产业蓬勃发展至今。 Geforce 256之所以被称作GPU原因就在于Geforce 256划时代的在图形芯片内部集成了TL（几何光照转换）功能，使得GPU拥有初步的几何处理能力，彻底解决了当时众多游戏瓶颈发生在CPU几何吞吐量不够的瓶颈。 第一代GPU(1999年之前)： 部分功能从CPU分离，实现硬件加速， GE(Geometry Engine)为代表，只能起到3D图像处理的加速作用，不具有软件编程特性 第二代GPU(1999-2002年)： 进一步硬件加速和有限的编程性 1999年NVIDIA GeForce 256将TL(Transform and Lighting)等功能从 CPU分离出来，实现了快速变换 2001年NVIDIA和ATI分别推出的GeForce3和Radeon 8500，图形硬件的流水线被定义为流处理器，出现了顶点级可编程性，同时像素级也具有有限的编程性，但GPU的编程性仍然比较有限 第三代GPU(2002年之后)： 2006年NVIDIA推出了CUDA(Computer Unified Device Architecture，统一计算架构)编程环境 GPU通用计算编程的复杂性大幅度降低 GPU已演化为一个新型可编程高性能并行计算资源，全面开启面向通用计算的新时代 1：强大的处理能力 2：高显存带宽 HPC Top500 List 中国HPC Top100 List 工业设计 医学研究 石油勘探 物理学研究 … 和CPU相比，GPU具有更多的计算单元，但对于复杂控制过程的处理能力则比CPU差→GPU更适用于同时进行大量简单的统一操作 基本硬件架构： 流多处理器（Stream Multiprocessor） 流处理器（Stream Processor） 共享内存（Shared Memory） 板载显存（Device Memory） Tesla Fermi 高度并行 处理速度 传输带宽 可扩展性 算法设计 编程实现 程序优化 程序调试 融合？ 整合？ Intel和AMD都计划在未来的CPU中集成北桥功能和GPU模块，这会给NVIDIA带来什么影响？ GPU生来就是做图形计算的，不是和CPU竞争的，二者应当肩并肩生存。CUDA技术不是让GPU取代CPU的。我相信GPU不需要集成不同类型的核心。 CUDA是什么？ CUDA的使用 CUDA编程算法实例 CUDA编程的优缺点 CUDA的未来 Compute Unified Device Architecture：统一计算设备架构，是由NVIDIA推出的通用并行计算架构(2006年11月第一颗基于CUDA架构的GPU，2007年CUDA C语言发布) 一种可扩展的编程模型 GPU中的并行层次 网格中块的并行，blockIdx，全局存储器通信； 同一块里的线程的并行，threadIdx，全局存储器、共享存储器通信。 GPU内线程分布结构 在CUDA中，采用SIMT（Single Instruction，Multiple Thread）的执行方式 一种异构多核的并行编程模型 CPU的控制流程 CPU控制整个程序的运行过程 在需要并行计算时候将数据传入GPU 从GPU得到计算结果继续执行程序 GP