GPU存储器访问模式.pptVIP

目录：  一 、 GPU简介 二、 GPU存储器访问模式 一、GPU简介 GPU(Graphics Processing Unit),即图像处理器，是一种专用图形渲染设备。GPU 的功能更新很迅速 , 平均每一年多便有新一代的 GPU 诞生，运算速度也越来越快。早期GPU主要用于信号成像和图像处理，GPGPU（General Purpose Computing on GPU）技术提高了GPU通用计算执行效率。 GPU实物图： Tesla c2050实物图 GPU芯片实物图 GPU的硬件架构： 右图是NVIDIA Geforce8800硬件架构图 GF100架构概览  16个SM (Stream Multiprocessor) 每个SM中有32个SP (标量处理器) 6个64bit GDDR5存储器控制器 计算能力2.x的SM(streaming multiprocessor)的解析图 ? 32 SP（标量处理器），双warp-schduler ? 64KB shared memory/L1 cache, 可以配置为48KB shared/16KB L1 或者16KB shared/48KB L1 CUDA CUDA（Computing Unified Device Architecture）是一种不需要借助于图形学API进行GPU通用计算的软硬件架构。NVIDIA在2007年推向市场的并行架构，CUDA并不是一种编程语言，其包括了NVIDIA对于GPGPU的完整解决方案。提供了CUDA C编程语言，类似c语言。 CUDA用一种分层的编程模式来组织线程. SIMT：SIMD的变形  每个block是SIMT，而block间则是MIMD Block的宽度是可变的，与硬件无关；而通常SIMD编程模型中的向量 宽度是固定的 一个warp 内的线程行为更类似SIMD Block内允许存在分支 Block内的线程间通过shared memory和同步进行通信；而SIMD编程 模型内的向量之间通过寄存器通信，不需要显式的同步 Grid block thread  ? Kernel以包含大量的线程的Grid形式 ? 存在，每一个线程执行相同的程序 ? Grid由block组成，block内的线程间 可以高效通信 ? Block和thread拥有唯一的ID，用于 控制thread操作不同的数据，或者执行 不同分支 Warp ? Warp并不存在于抽象的CUDA编程模型，而是由硬件决定的，对性能 影响较大 ? 在1.x和2.x架构硬件中，一个warp 由同一block内相邻的32个线程组成 ? 少数指令，如vote和ballot，是显式的以warp为单位执行。 ? 同一warp 内的线程可以认为是“同时”执行的，不需要进行同步也能 通过shared memory进行通信 ? 分支以warp为单位进行 ? 以warp为单位考虑对存储器的访问的优化，可以获得更高性能 CUDA开发环境： ---支持CUDA的GPU ---NVIDIA设备驱动器 ---CUDA开发工具(可以从NVIDIA下载，用于开发的工