并行编程原理及程序设计方案.docVIP

并行编程原理及程序设计 机群应用开发 并行编程原理及 并行编程原理及并行编程原理及 程序设计 程序设计程序设计 Parallel Programming: Parallel Programming:Parallel Programming:Fundamentals and Implementation Fundamentals and ImplementationFundamentals and Implementation 曹振南 曹振南曹振南 czn@ czn@czn@ncic ncicncic.ac. .ac..ac. cn cncn 国家智能计算机研究开发中心 国家高性能计算中心(北京) 2003.9 2003年9月并行计算概 述 1/59  参考文献 参考文献参考文献 ..黄铠,徐志伟著,陆鑫达等译. 可扩展并行计算技术,结构与编程.北京:机 械工业出版社, 2000. ..陈国良著.并行计算—结构、算法、编程. 北京:高等教育出版社,1999. . Barry Wilkinson and Michael Allen. Parallel Programming(Techniques and Applications using Networked Workstations and Parallel Computers). Prentice Hall, 1999. ..李晓梅,莫则尧等著. 可扩展并行算法的设计与分析. 北京:国防工业出 版社,2000. ..张宝琳,谷同祥等著. 数值并行计算原理与方法. 北京:国防工业出版 社,1999. ..都志辉著. 高性能计算并行编程技术—MPI并行程序设计. 北京:清华 大学出版社, 2001. 2003年9月并行计算概 述 2/59  相关网址 相关网址相关网址 . MPI: ， /mpi . Pthreads: . PVM: /pvm/ . OpemMP: ..网上搜索: 2003年9月并行计算概 述 3/59  并行计算概述 并行计算概述并行计算概述 2003年9月并行计算概 述 4/59  讲座内容提示 讲座内容提示讲座内容提示 ..并行计算概述 ..并行计算机体系结 构 ..并行编程 2003年9月并行计算概 述 5/59  并行计算 并行计算并行计算 -- ---- 高性能计算 高性能计算高性能计算 ..并行计算(Parallel Computing） 高端计算(High-end Parallel Computing) 高性能计算(High Performance Computing) 超级计算(Super Computing) 任何高性能计算和超级计算都离不开使用并行技 ..计算科学与传统的两种科学，即理论科学和实验科学，并 立被认为是人类认识自然的三大支柱，他们彼此相辅相成 地推动科学发展与社会进步。在许多情况下，或者是理论 模型复杂甚至理论尚未建立，或者实验费用昂贵甚至无法 进行时，计算就成了求解问题的唯一或主要的手段。 2003年9月并行计算概 述 6/59  什么是并行计算 什么是并行计算什么是并行计算 ? ?? ..并行计算:由运行在多个部件上的小任务合作来求解一 个规模很大的计算问题的一种方 法 ..例: 在曙光2000上用8个节点计算的Mandelbrot集结 果(Mandelbrot为分形理论创始人) 2 z = z + c i+1 i 2003年9月并行计算概 述 7/59  现代计算机的共同特点：并行性 现代计算机的共同特点：并行性现代计算机的共同特点：并行性 2003年9月并行计算概 述 8/59  现代计算机的共同特点：并行性 现代计算机的共同特点：并行性现代计算机的共同特点：并行性 2003年9月并行计算概 述 9/59  为什么要做并行计算？ 为什么要做并行计算？为什么要做并行计算？ －－应用需求－－应用需求 2003年9月并行计算概 述 10/59  为什么要做并行计算？ 为什么要做并行计算？为什么要做并行计算？ ..人类对计算及性能的要求是无止境 的 ..从系统的角度：集成系统资源，以满足不断增 长的对性能和功能的要 求 ..从应用的角度：适当分解应用，以实现更大规 模或更细致的计算 2003年9月并行计算概 述 11/59  为什么要做并行计算？ 为什么要做并行计算？为什么要做并行计算？ .问题: 科学和工程问题的数值模拟与仿 真 –计算密 集 –数据密 集 –网络密集 –三种混 合 .要求:在合理的时限内完成计算任 务 –秒级制造 业 –分钟级短时天气预报(当天) –小时级中期天