并行计算基础知识讲座课件.pptxVIP

基于MPI的并行程序设计 王振海 西北工业大学理学院 西北工业大学高性能计算研究与发展中心 2023/10/17 1 主要内容 MPI并行编程环境 进程与消息传递 MPI并行程序设计入门 初步的MPI消息传递函数 先进的MPI函数 MPI并行程序示例 面向性能的程序设计 2023/10/17 2 并行编程环境简介 目前，高性能并行机主要可以分为对称多处理共 享存储并行机(SMP, Symmetric MultiProcessor)、 分布式共享存储多处理机 (DSM, Distributied Shared Memory)、 大规模并行处理机(MPP, Massively Parallel Processor) 和微机机群(Cluster) 等四类。在这些并行机上，并行程序设计平台主 要可分为消息传递、共享存储和数据并行三类， 其中消息传递具有很好的可移植性，它能被所有 这些类型的并行机所支持，而共享存储只能在在 SMP和DSM并行机中使用，数据并行只能在SMP ， DSM和MPP并行机上使用。 2023/10/17 3 MPI并行编程环境 消息传递并行编程环境(MPI：Message Passing Interface) 是目前国际上最流行、可移植性和可扩展 性很好的并行程序设计平台，并被当前流行的所有高 性能并行机所支持。它是在标准串行程序设计语言( C ，Fortran ，C++) 的基础上，再加入实现进程间通 信的MPI消息传递库函数，就构成了MPI并行程序设 计所依赖的并行编程环境。 MPI已经在Windows系列的非Unix、Linux平台上实现， 其程序设计语言支持C, Fortran和Java。在国产的三 大并行机系列神威、银河和曙光上也都实现了对MPI 和支持。 2023/10/17 4 MPI并行环境的应用现状 ØMPI是全球工业、政府和科研部门联合推出的适合进 程间进行标准消息传递的并行程序设计平台，最初版 MPI 1.0本于1994年6月推出，目前最新的为MPI 2.0版， 于1998年10月推出。 ØMPI的具体实现：MPICH和LAMMPI ， 目前均已实 现MPI 1.2版，适用于任何并行计算平台；部分并行 机已实现MPI 2.0版。 ØMPI是目前应用最广的并行程序设计平台，几乎被所 有并行计算环境(共享和分布式存储并行机、 MPP 、 机群系统等)和流行的多进程操作系统(UNIX 、 Windows NT) 所支持，基于它开发的应用程序具有 最佳202的3/1可0/17移植性。 5 MPI并行环境的应用现状(续) Ø目前高效率的超大规模并行计算(1000个处理 器)最可信赖的平台。 Ø工业、科学与工程计算部门的大量科研和工程软 件(气象、石油、地震、空气动力学、核等)目 前已经移植到MPI平台，发挥了重要作用。 Ø MPI 的 优点 ：( 1 )具有很好的可移植性，几 被所有的并行环境支持；(2)具有很好的可扩展 性，是目前高效率的大规模并行计算最可信赖的 平台；(3)比其它消息传递系统好用；(4)有 完备的异步通信功能；(5)有精确的定义，从而 为并行软件产业的发展提供了必要的条件。 2023/10/17