并行程序优化面面观 2016-1-21.pptVIP

广东省计算科学重点实验室 并行程序优化面面观 叶纬材，关文超 中山大学广东省计算科学重点实验室 内容提要 影响并行程序运行速度的N方面 加速程序运行的方法 程序优化方法及举例 影响并行程序运行速度的N方面 硬件性能 CPU，加速器 内存速度与容量 I/O 和网络 … 算法性能 计算复杂度、通信复杂度、并发度等 支持环境 OS、MPI软件包、数学库、编译器等 程序实现 后摩尔定理世代的处理器发展趋势：多核（Muti-core）与 众核（Many-core）及对程序运行的影响 一个芯片上有多个处理核心 每个核心都有独立的计算单元，缓存 多核处理器：每个核心都是一个完整的CPU 众核处理器：每个核心主要是ALU，控制电路是共享的 配备向量处理单元 多个核心共享相同的内存、网络资源 存在严重资源竞争 抢内存、网络控制器和带宽 负载均衡要求更高 核心越多 ！= 运行速度越快 Q：什么程序不可以加速？Q：加速程序运行可以不改代码吗？ FAQ 加速程序运行的方法1 根据“运行特征”选硬件 什么特征？ 浪潮公司的分析特征 加速程序运行的方法2 根据“运行特征”选硬件 什么特征？ 如何获取？ 性能监控 任务管理器，top PARAMON gprof TAU Vtune Valgrind Vampir… PARAMON Valgrind massif 加速程序运行的方法3