并行程序设计导论指导.pptVIP

Message Passing  Programming Li Xi School of Information Science Engineering Central South University 消息传递编程 主要介绍采用2个非专利的、广为接受的消息传递系统 PVM和MPI的设计思想和功能特点，以及借助其实现并行处理的一般过程。 MPI: Massage Passing Interface PVM: Parallel Virtual Machine (/pvm3/index.html) 消息传递范例 介绍开发分布式并行性的消息传递方法所具有的特征。 消息传递软件包 研究并推出的基于消息传递的软件包较多，其中包括专有软件和非专利软件。目前，大多数并行计算机供应商已将最流行的PVM和MPI作为对消息传递的自然支持。 PVM and MPI MPI : 是由MPI论坛开发的有关函数库的标准规范，通过提供一个独立于平台的消息传递库达到其可移植性的目的。 PVM: 是一个软件系统，主要功能是将网络上各种同构或异构的计算机利用起来，给用户提供一个统一的、灵活的并行计算资源。已被移植到SMP、PVP、MPP、COW和PC上。 两者都提供与Fortran和C的捆绑。 Massage-Passing Modes 通信： 表示消息传递系统中所有交互操作，包括： 通信_Communication 同步_Synchronization 聚集_Aggregation 一般地，通信在同组进程间进行，通信进程需要了解的内容有： ●参与通信的进程数； ●采用何种方式保证进程间的同步； ●如何管理通信缓冲区； 例: 消息传递中的发送和接收缓冲区 进程P M=10; L1: send M to Q; L2: M=20; goto L1; 进程Q S=-100; L1: receive S from P; L2: X=S+1; 消息传递系统中的通信方式 ●同步消息传递：Synchronous Message Passing 发送/接收进程必须等待发送/接收后才能返回。 ●锁定发送/接收：Blocking Send/Receive 锁定发送时，发送进程只有等待消息发送返回后才能继续。需要临时缓冲区暂存消息。 ●非锁定发送/接收：NonBlocking Send/Receive 非锁定发送时，发送进程通知系统消息M已经发出后即可返回，此时消息M并不一定已经离开M，因此重写M是不安全的。可能需要一个临时缓冲区 三种通信方式比较 三种通信方式比较(续) 同步方式： 优点：清晰、可靠；无需系统临时缓冲区； 缺点：发送方和接收方互为等待，导致周期浪费。 异步方式：该方式几乎存在于所有消息传递系统中。 优点：无周期浪费（等待时间少）； 缺点：●需设缓冲，且无法知道缓冲区应设大小； ●导致结果的不确定性； ●为正确接收，需附加状态检测或等待函数； ●需要管理缓冲区，导致系统消耗(Overhead)。 采用何种算法、机制，如何更有效地隐藏通信时延，是异步方式研究内容之一。 通过等待函数保证消息安全接收 进程P M=10; L1: send M to Q; 某些不改变Q的计算； Wait for M to be sent; L2: M=20; goto L1; 进程Q S=-100; Receive S from P; 某些不使用S的计算； Wait for S to be received; X=S+1; Massage Passing Interface MPI是消息传递函数库的标准规范，94年公布，97年推出MPI-2的修订版，增加了动态进程、非阻塞消息等功能。 MPI已经在Windows、Unix及主要的并行计算机上得到实现，所以，对于用标准C/Fortran编程、使用MPI进行消息传递的程序，可不加改变