中科曙光HPC培训教程汇总：D30-并行编程—MPI程序设计.pptxVIP

MPI并行程序设计（C版）;对本文档的任何使用都被视为完全理解并接受本文档列举的所有法律条款。 本文档的所有权利归作者所有，作者保留所有权利。 未经作者书面同意，禁止任何形式的商业使用。商业使用形式包括但不限于出版、复制、传播、展示、引用、编辑。 本文档允许以学术研究、技术交流为目的使用。复制、传播过程中不得对本文档作任何增减编辑，引用时需注明出处。 实施任何侵权行为的法人或自然人都必须向作者支付赔偿金，赔偿金计算方法为： 赔偿金 = 涉案人次×涉案时长（天）×涉案文档份数×受众人次×100元人民币，涉案人次、涉案时长、涉案文档份数、受众人次小于1时，按1计算。 对举报侵权行为、提供有价值证据的自然人或法人，作者承诺奖励案件实际赔偿金的50%. 涉及本文档的法律纠纷由作者所在地法院裁决。 本文档所列举法律条款的最终解释权归作者所有。 ;;目录;并行计算定义 并行计算是指，在并行机上，将一个应用分解成多个子任务，分配给不同的处理器，各个处理器之间相互协同，并行的执行子任务，从而达到加速求解速度的目的。 并行计算条件 开展并行计算必须具备三个基本条件： 1、并行机（硬件） 2、应用问题必须具有并行度（应用） 3、并行程序（软件） ;;并行计算系统-分类 MPP SMP Cluster CPU和GPU的混合系统 星群系统 ;;并行计算简介;并行计算简介;并行计算简介;并行计算简介;目录;MPI简介-什么是MPI： MPI（Message-Passing Interface）是一种标准，最初是1991年在奥地利的学术和工业界的一些研究人员一块商议制定的。 标准的实现： MPICH argonne natiaonal laboratory and Mississippi State University LAM/MPI Ohio Supercomputer Center Openmpi LAM/MPI和其他一些早期MPI产品的整合 Mvapich MPI over infiniband Ohio Supercomputer Center 其他MPI产品 HP、Intel和Microsoft（MPICH和LAM/MPI的衍生产品） ;MPI简介-MPI发展历程 MPI 1.1: 1995 MPICH:是MPI最流行的非专利实现,由Argonne国家实验室和密西西比州立大学联合开发,具有更好的可移植性. MPI 1.2-2.0 动态进程、并行I/O、远程存储访问、支持F90和C++(1997). MPI 2.2 2009年 MPI 3.0 2012年9月21日 ;MPI简介-标准的实现 ;MPI简介-MPI分布式并行： 各节点内存相互独立 一个任务分成多个子任务， 每个节点启动若干进程，各自承担一个子任务 内存总容量无上限、计算时间无限压缩 子任务间需要通信 适应多种网络介质、协议、操作系统、编译器 硬件环境（CPU、数据类型的长度、大端小端、不同公司网卡） ;;MPI程序基础架构 1、进入mpi环境。产生通讯子、进程号、进程数。 2、程序主体。实现计算的全部内容。 3、退出mpi环境。不能再使用mpi环境。 ;进程0;C 必须包含mpi.h. MPI 函数返回出错代码或 MPI_SUCCESS成功标志. MPI_前缀，且只有MPI以及MPI_标志后的第一个字母大写，其余小写. Fortran 必须包含mpif.h（fortran77）, use mpi (fortran95 ) 通过子函数形式调用MPI，函数最后一个参数为返回值;#includestdio.h #includempi.h int main(int argc,char* argv[]) { int myid; int numprocs; MPI_Init(argc,argv); MPI_Comm_rank(MPI_COMM_WORLD,myid); MPI_Comm_size(MPI_COMM_WORLD,numprocs); printf(myid is %d\n,myid); MPI_Finalize(); return 0; };MPI程序中，一个独立参与通信的个体称为一个进程(process) 一个MPI进程通常对应于一个普通的进程或线程 在共享内存/消息传递混合模式程序中，一个MPI进程可能代表一组UNIX线程 部分或全部进程构成的一个有序集合称为一个进程组。 进程组中的每个进程都被赋于一个唯一的序号（rank）,称为进程号，从0开始编号 一个进程组及其相关属性（进程拓扑连接关系等），称为一个通信器(communic