并行编程初步.pptVIP

MPI 编 程 简 介 上海超级计算中心 提 纲 引言 基本MPI编程 MPI高级编程简介 实例 两种内存模型 共享存储 分布式存储 消息传递并行程序设计 消息传递并行程序设计 用户必须通过显式地发送和接收消息来实现处理机间的数据交换 每个并行进程均有自己独立的地址空间，相互之间访问不能直接进行，必须通过显式的消息传递来实现 适用于大规模并行处理机（MPP）和机群（Cluster） 并行计算粒度大，适合大规模可扩展并行算法 消息传递程序设计要求用户很好地分解问题,组织不同进程间的数据交换,并行计算粒度大,特别适合于大规模可扩展并行算法 什么是MPI? Massage Passing Interface:是消息传递函数库的标准规范，由MPI论坛开发，支持Fortran和C 一种新的库描述，不是一种语言 共有上百个函数调用接口，在Fortran和C语言中可以直接对这些函数进行调用 是一种标准或规范，而不是特指某一个对它的具体实现 MPI是一种消息传递编程模型，并成为这种编程模型的代表和事实上的标准 为什么要使用MPI? 高可移植性 MPI已在PC机、MS Windows以及所有主要的Unix工作站上和所有主流的并行机上得到实现 使用MPI作消息传递的C或Fortran并行程序可不加改变地在上述平台实现 没有更好的选择 MPI的发展过程 发展的两个阶段 1994年5月完成1.0版 支持C和Fortran77 制定大部分并行功能 1997年4月完成2.0版 动态进程 并行I/O 支持Fortran 90和C++ 常用的MPI版本 MPICH 是MPI最流行的非专利实现,由Argonne国家实验室和密西西比州立大学联合开发,具有更好的可移植性 当前最新版本有MPICH 1.2.7和MPICH2 1.03 LAMMPI 美国Indiana 大学Open Systems 实验室实现 当前最新版本7.1.2 更多的商业版本MPI HP-MPI，MS-MPI，…… 所有的版本遵循MPI标准，MPI程序可以不加修改的运行 提 纲 引言 基本MPI编程 MPI高级编程简介 实例 从简单入手 下面我们首先分别以C语言和Fortran语言的形式给出一个最简单的MPI并行程序 Hello 该程序在终端打印出Hello World!字样. Hello (C语言) Hello (Fortran语言) C和Fortran中MPI函数约定 C 必须包含mpi.h MPI 函数返回出错代码或成功代码MPI_SUCCESS MPI-前缀，且只有MPI以及MPI_标志后的第一个字母大写，其余小写，例：MPI_Init Fortran 必须包含mpif.h 通过子函数形式调用MPI，函数最后一个值为返回值 MPI-前缀，且函数名全部大写，例：MPI_INIT C和Fortran中MPI函数约定（续） MPI函数的参数被标志为以下三种类型 IN：参数在函数的调用中不会被修改 OUT：参数在函数的调用中可能会被修改 INOUT：参数在一些函数中为IN，而在另一些函数中为OUT MPI初始化- MPI_INIT int MPI_Init(int *argc, char **argv) MPI_INIT(IERROR) MPI_INIT是MPI程序的第一个调用，完成MPI程序的所有初始化工作。所有的MPI程序的第一条可执行语句都是这条语句 启动MPI环境，标志并行代码的开始 并行代码之前，第一个mpi函数(除MPI_Initialize外) 要求main必须带参数运行。否则出错 MPI结束- MPI_FINALIZE int MPI_Finalize(void) MPI_ Finalize(IERROR) MPI_INIT是MPI程序的最后一个调用，它结束MPI程序的运行，它是MPI程序的最后一条可执行语句，否则程序的运行结果是不可预知的。 标志并行代码的结束,结束除主进程外其它进程 之后串行代码仍可在主进程(rank = 0)上运行(如果必须) MPI程序的编译和运行 mpif77 –o hello hello.f 或 mpicc –o hello hello.c 生成hello的可执行代码 mpirun –np 4 hello 4，指定np的值,表示进程数,由用户指定 hello，要运行的MPI并行程序 运行MPI程序 编译：mpicc -o hello hello.c 运行：./hello [0] Aborting program ! Could not create p4 procgroup.Possible missing fileor program start