现代GPU上的高效控制流与异常流机制综述.docxVIP

浙江大学 现代GPU上的高效控制流与异常流机制综述沈阳 2012/12/30  目录 摘要…………………………………………………………………………………………………………………………………………….2 TOC \o 1-3 \h \z \u 1 引言 2 1.1 强大的计算能力，便宜的价格 2 1.2 编程模型和体系结构 2 2 体系结构 4 2.1 微体系结构 6 2.2 发散的控制流 7 3 高效控制流执行方案 8 3.1 Dynamic Warp Formation 9 3.2 Thread Block Compaction 9 3.3 CAPRI 11 3.4 SBI和SWI 13 4 异常流 16 5 总结 18 6 参考资料 18  摘要 GPU性能的快速增长，加上其最近十年来可编程性的提高，使得现代GPU成为了许多领域运行计算任务越来越引人注目的平台。现代可编程GPU允许不规则的控制流在其SIMD流水线中平稳运行。为了保证分支执行的正确性，GPU使用掩码让每个SIMD lane执行一条逻辑线程。然而，掩码执行导致性能的下降，因为被掩码屏蔽的lane的计算性能都被浪费了。另一方面，为了提高GPU的适用范围和可用性，对GPU提供异常支持将是下一步努力的方向。在这篇综述中，我会对GPU上的高效控制流执行和提供异常支持的方法进行描述，总结和分析。 我会从利用GPU进行通用编程的动机开始，描述GPU的通用编程模型和体系结构。GPU的编程模型决定了GPU的体系结构设计，而体系结构设计对理解GPU的控制流执行方法改进和异常支持的困难至关重要。从这里出发，综述分成两部分。首先，我会描述高效控制流执行的方法，这些方法企图合并多条没有屏蔽的线程在一个SIMD 处理器上执行。接着，我会描述一种软硬件结合设计对GPU提供轻量级异常支持的方法。 引言 Graphics Processing Unit（GPU）很可能是今天每单位人民币计算能力最强大的计算硬件了。越来越多的研究者和开发者开始对利用GPU进行通用计算（GPGPU）感兴趣。在这篇文章中，我会描述GPU的微体系结构，并以此为基础描述GPU上高效控制流执行机制以及提供异常支持的方法。现在从利用GPU进行通用计算的动机开始。 强大的计算能力，便宜的价格 最近的GPU提供惊人的计算能力和内存带宽。如 REF _Ref344454617 \h 错误!未找到引用源。 REF _Ref344454627 \h 错误!未找到引用源。 ADDIN EN.CITE EndNoteCiteAuthorNVIDIA/AuthorYear2010/YearRecNum13/RecNumDisplayText[1]/DisplayTextrecordrec-number13/rec-numberforeign-keyskey app=EN db-id=vfwsswdpydftfherdv2x0a5vw9rr5r5prtaz13/key/foreign-keysref-type name=Electronic Book44/ref-typecontributorsauthorsauthorNVIDIA/author/authors/contributorstitlestitleNVIDIA CUDA Programming Guide/title/titlesdatesyear2010/year/datesurls/urls/record/Cite/EndNote[ \o NVIDIA, 2010 #13 1]所示，从04年六月以来，NVIDIA每一代GPU都比Intel同等价位的CPU的浮点计算能力要强，并且这种差距越拉越大。GeForce GTX 580的理论浮点运算能力达到1500GFLOP/s，而Sandy Bridge只有500 GFLOP/s不到。另一方面，如 REF _Ref344455381 \h 错误!未找到引用源。 ADDIN EN.CITE EndNoteCiteAuthorNVIDIA/AuthorYear2010/YearRecNum13/RecNumDisplayText[1]/DisplayTextrecordrec-number13/rec-numberforeign-keyskey app=EN db-id=vfwsswdpydftfherdv2x0a5vw9rr5r5prtaz13/key/foreign-keysref-type name=Electronic Book44/ref-typecontributorsauthorsauthorNVIDIA/auth