GPU集群软件开发策略、方法与优化.pdfVIP

GPU集群软件开发的策略、 方法与优化 谢海波, Ph.D. xiehb@ 应用推进处 高性能产品部，浪潮集团 提纲 • GPU集群软件开发的策略与方法 – 一个程序员的观点 • 案例分析，GPU集群软件的开发与优化 – 石油行业，叠前时间偏移 • 总结 2011/7/18 Inspur (Beijing) Electronic Information Industry Co., Ltd. 2 GPU软件开发的策略与方法 2011/7/18 Inspur (Beijing) Electronic Information Industry Co., Ltd. 3 GPU软件特点 • 针对GPU软件设计将是全新的设计思路和设计 方法 • 新的体系结构 – 新的指令集、内存层次结构、计算核心 • 新的编程模型 – 编程模型：CUDA/openCL – 编程方法：CPU/GPU协同计算 • 免费的午餐已经结束！ – 传统上，软件性能的提升可以依靠CPU性能提升而 免费获得 – 面向多核、众核时代的免费午餐模式已不复存在 2011/7/18 Inspur (Beijing) Electronic Information Industry Co., Ltd. 4 问题的提出 • 传统的CPU代码不能直接在GPU上运行 – 甚至不能直接重新编译执行 • GPU计算设备的引入对传统HPC的影响？ • 如何利用GPU计算设备优势？ • 如何保护已有软件投资？ – 经典算法和代码、软件可能已存在数十年时间 – 如何最大化既有软件的价值？ 2011/7/18 Inspur (Beijing) Electronic Information Industry Co., Ltd. 5 GPU对传统HPC软件的影响 开发工具 系统软件 算法重用 软件设计 编程模型 部署软件 发掘细粒 (新) 算法 度算法 + 工具链 监控软件 遗留软件 算法与新体 + 作业管理 系结构的映 新硬件设 射 备 2011/7/18 Inspur (Beijing) Electronic Information Industry Co., Ltd. 6 如何充分利用开发工具 • 编程模型 – CUDA/openCL – 程序员需要彻底改变思维方式 • 工具链-性能剖析 – 新的工具软件，尤其是性能剖析器的使用需要 熟练掌握 • 第三方工具 – 第三方库函数？ 2011/7/18 Inspur (Beijing) Electronic Information Industry Co., Ltd. 7 如何充分利用GPU计算能力 • 关注在算法级别 – Offload函数，热点函数 • 充分发掘大规模并行性！ – 100,000 vs. 100，要考虑数万数十万个线程的并发， 而不是数十个数百个 – 有必要重新设计算法 • SIMT(Single Instrument Multiple Thread)思维， 而不仅仅是SIMD思维 • 仔细考虑内存布局与GPU 内存层次结构 2011/7/18 In