并行计算同步计算.pptVIP

第6章 同步计算 Synchronous Computations 同步计算分为全同步和部分同步 全同步 (full synchronination)：所有的进程在一些规则的执行点上的同步。 部分同步(partial synchronization)或局部同步(local synchronization) ：在逻辑上相邻的一组进程参与的同步。 同步计算是指那些带有全同步或大量部分同步的计算。 一、全同步及相关技术问题 在消息传递并行计算中，常用的全同步的实现方法有： 障碍、路障(barrier) 计数器实现 树实现 1、障碍（路障）同步(barrier synchronization)：在并行系统中，使一组进程取得同步的一种方法。 它在参与障碍同步的每个进程的程序中彼此必须等待的位置设置一个障碍点，当某进程执行到障碍点时暂停，等待所有进程都执行到这个障碍点上，它们才能继续运行。 通常需要同步的进程的程序中有多个障碍点，以同步它们彼此的操作。 障碍同步可应用于： 共享存储器系统 分布存储的消息传递系统 进程不在同一时刻到达障碍点的情况 进程 时 间 P0 P1 … P2 Pn-1 活动 等待 … 障碍 在消息传递系统中，障碍同步通常是由库例程（函数）提供的。 MPI 的障碍同步例程： barrier(comm) 阻塞所有的调用者，直到通信体 (comm)中所有的成员都调用了