基于CUDA的GPU高性能计算.pptxVIP

基于CUDA的GPU高性能计算主要内容 GPU以及GPU高性能计算技术介绍 CUDA编程简介 基于CUDA的GPU高性能计算的一个实例基于CUDA的GPU高性能计算一、GPU及GPU高性能计算技术1.1 GPU简介：GPU英文全称Graphic Processing Unit，中文翻译为“图形处理器。 GPU有非常多的厂商都生产，和CPU一样，生产的厂商比较多，我们大家熟悉的有3个，分别是AMD、 NVIDIA、Intel这3个生产厂商。 Intel集成GPU 英伟达 TEGRA 4 GPU AMD Radeon R5 M230基于CUDA的GPU高性能计算1.1 GPU简介GPU的发展大致可以分成四个阶段： 第一个时代是1991年以前，CPU作为系统内唯一的通用处理器，包揽了图形处理在内的所有计算任务。 第二个时代是1991-2001年。微软的Windows操作系统极大刺激了图形硬件的发展。 第三个时代是2001-2006年。各种硬件加速计算的出现使显卡的性能突飞猛进。标志性的事件就是可编程的图形处理器的出现。 第四个时代是2006年至今，这一时期的CPU从硬件设计之初就开始考虑到了GPGPU的应用。2006年NVDIA公布了统一着色器模型（Unified Shader Model）和GPU发展阶段GeForce 8系列GPU，GPU从此进入了通用计算时代。时间GPU特点1991年以前显示功能在CPU上实现1991年~2001年多为二维图形运算，功能单一2001年~2006年可编程图形处理器2006年至今统一着色器模型，通用计算GPU基于CUDA的GPU高性能计算1.2 GPU与CPU的区别基于CUDA的GPU高性能计算1.2 GPU与CPU的区别 CPU 由专为顺序串行处理而优化的几个核心组成。而GPU 则由数以千计的更小、更高效的核心组成，这些核心专为同时处理多任务而设计，可高效地处理并行任务。基于CUDA的GPU高性能计算1.2 GPU与CPU的区别现如今GPU已经不再局限于3D图形处理了，在浮点运算、并行计算等部分计算方面，GPU可以提供数十倍乃至于上百倍于CPU的性能。基于CUDA的GPU高性能计算1.2 GPU与CPU的区别1.CPU是计算机的运算和控制核心，GPU主要用来做图形处理。2.由于其设计目标的不同，CPU需要很强的通用性来处理各种不同的数据类型，同时逻辑判断又会引入大量的分支跳转和中断的处理。而GPU面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境。3.CPU与GPU的区别还存在于片内的缓存体系和数字逻辑运算单元的结构差异：CPU虽然有多核，但核心总数没有超过16，每个核都有足够大的缓存和足够多的数字和逻辑运算单元，并辅助有很多加速分支判断甚至更复杂的逻辑判断的硬件；GPU的核数远超CPU，如NVIDIA Fermi就有512个核。基于CUDA的GPU高性能计算1.3 GPU高性能计算技术什么是 GPU 加速的计算? GPU 加速的计算是利用一颗图形处理器 (GPU) 以及一颗 CPU 来加速科学、工程以及企业 级应用程序。应用程序如何利用 GPU 实现加速？ 密集计算代码（约占5%的代码量）由GPU负责完成，剩余串行代码由CPU负责执行。基于CUDA的GPU高性能计算1.3 GPU高性能计算技术基于CUDA的GPU高性能计算GPGPU(General Purpose computing on graphics processing units，基于GPU的通用计算)。GPGPU并不是单纯的使用GPU进行通用计算，而是一种利用异构计算资源的大规模并行计算。异构计算：CPU + GPU 是一个强大的组合，因为 CPU 包含几个专为串行处理而优化的核心，而 GPU 则由数以千计更小、更节能的核心组成，这些核心专为提供强劲的并行性能而设计。程序的串行部分在 CPU 上运行，而并行部分则在 GPU上运行。GPU 已经发展到成熟阶段，可轻松执行现实生活中的各种应用程序，而且程序运行速度已远远超过使用多核系统时的情形。未来计算架构将是并行核心 GPU 与多核 CPU 共同运行的混合型系统。1.3 GPU高性能计算技术计算模型的分类 1.单指令单数据流（SISD）是非并行计算模型。 2.单指令多数据流（SIMD）是GPU的计算模型。 3.多指令单数据流（MISD）指在同一个数据流 上执行不同的指令。4.多指令多数据流（MIMD）是多核CPU的计算模型。图：并行处理的费林分类法Single InstructionMultipleInstructionSingle DataSISDMISDMultiple DataSIMDMIMD基于CUDA