MPI并行编程入门.pptx

MPI并行编程入门;主要内容;并行计算机-并行机介绍;Will this program still work?;并行计算机-并行机结构;SMP- Symmetric MultiProcessing;DSM- Distributed Shared Memory;MPP- Massively Parallel Processors ;Cluster;各种架构对比;各种架构对比（续）;主要内容;并行算法;并行算法;并行程序设计;原则: 使系统大部分时间忙于计算, 而不是闲置或忙于交互; 同时不牺牲并行性(度). 划分: 切割数据和工作负载 分配：将划分好的数据和工作负载映射到计算结点(处理器)上 分配方式： 显式分配: 由用户指定数据和负载如何加载 隐式分配：由编译器和运行时支持系统决定 就近分配原则：进程所需的数据靠近使用它的进程代码 ;并行化分解方法;并行化分解方法;并行化分解方法;并行化分解方法;并行化的基石—通信 ;通信模式;五种并行编程风范;相并行（Phase Parallel）;主－从并行（Master-Slave Parallel）;分治并行（Divide and Conquer Parallel）;流水线并行（Pipeline Parallel）;工作池并行（Work Pool Parallel）;并行算法;并行算法;并行算法;;数值计算并行算法;数值计算并行算法;数值计算并行算法;数值计算并行算法;数值计算并行算法;数值计算并行算法;数值计算并行算法;主要内容;MPI并行程序设计基础;什么是MPI?; MPI的实现;MPI的编译与运行;;;MPI程序的一般结构 ;MPI的核心函数;MPI的初始化和结束;通信域函数;通信域函数;MPI进程通信;MPI进程通信;点到点通信;点到点通信;点到点通信;点到点通信;点到点通信;点到点通信;点到点通信;点到点通信;点到点通信;非阻塞通信;非阻塞通信;非阻塞通信;非阻塞通信;非阻塞通信;非阻塞通信;集合通信;集合通信的通信功能;组通信的同步功能;集合通信的计算功能;例2：并行PI程序;例2：并行PI程序;;;;例2：并行PI程序;MPI的四种通信模式;MPI预定义数据类型;MPI并行程序的两种基本模式;对等模式—并行jacobi程序;对等模式—并行jacobi程序;对等模式—并行jacobi程序;对等模式—并行jacobi程序;进程0;主从模式—矩阵向量乘积;89