《并行程序设计导论》_第三章解说.ppt

串行奇偶交换排序 Copyright ? 2010, Elsevier Inc. All rights Reserved 一次奇偶排序中任务间的通信 Copyright ? 2010, Elsevier Inc. All rights Reserved 用a[i] 来标记确定a[i]值的任务. 并行奇偶交换排序 Copyright ? 2010, Elsevier Inc. All rights Reserved 伪代码 Copyright ? 2010, Elsevier Inc. All rights Reserved Compute_partner Copyright ? 2010, Elsevier Inc. All rights Reserved MPI程序的安全性 MPI标准允许MPI_Send以两种不同的方式来实现： 简单地将消息复制到MPI设置的缓冲区并返回； 或者直到对应的MPI_Recv出现前都阻塞。 Copyright ? 2010, Elsevier Inc. All rights Reserved 许多MPI函数都设置了使系统从缓冲到阻塞间切换的阀值。 即相对较小的消息就交由MPI_Send缓冲。 但对于大型数据就选择阻塞模式。 Copyright ? 2010, Elsevier Inc. All rights Reserved 如果每个进程都阻塞在MPI_Send上，则没有进程回去调用MPI_Recv ，此时程序就会发生死锁。 每个进程都在等待一个不会发生的事件发生。 依赖于MPI提供的缓冲机制是不安全的。 这样的程序在运行一些输入集时没有问题，但有可能在运行其他输入集时导致崩溃或者挂起。 Copyright ? 2010, Elsevier Inc. All rights Reserved 引出几个问题！ 怎么才能说一个程序时安全的？ 怎样修改并行奇偶交换排序程序中的通信过程，使其安全？ Copyright ? 2010, Elsevier Inc. All rights Reserved MPI_Ssend MPI标准提供的一个函数来替代MPI_Send。 这个额外的字母“s”代表同步，保证了直到对应的接收开始前，发送端一直阻塞。 Copyright ? 2010, Elsevier Inc. All rights Reserved 重构通信 Copyright ? 2010, Elsevier Inc. All rights Reserved MPI_Sendrecv MPI提供的自己调度的方法。 他会分别执行一次阻塞式消息发送和一次消息接收。 dest 和source 参数可以不同也可以相同。 优点在于，MPI库实现了通信调度，使程序不再挂起或崩溃。 Copyright ? 2010, Elsevier Inc. All rights Reserved MPI_Sendrecv Copyright ? 2010, Elsevier Inc. All rights Reserved 5个进程之间的安全通信 Copyright ? 2010, Elsevier Inc. All rights Reserved 并行奇偶排序算法中的Merge_low函数 并行奇偶排序算法的运行时间 Copyright ? 2010, Elsevier Inc. All rights Reserved (times are in milliseconds) 本章小结 消息传递接口（MPI）：是一个可以被C, C++和Fortran程序调用的函数库。 通信子：一组进程的集合，该集合中的进程之间可以相互发送消息。 单程序多数据流（SPMD）：许多并行程序通过根据不同的进程号转移到不同的分支语句。 Copyright ? 2010, Elsevier Inc. All rights Reserved 大多数串行程序时确定性的：若用同一个程序运行相同的数据得到的结果是一样的。 大多数并行程序时非确定性的：同样的输入会得到不同的输出。 集合通信：不同于只涉及两个进程的MPI_Send和MPI_Recv，它涉及一个通信子中的所有进程。 Copyright ? 2010, Elsevier Inc. All rights Reserved 墙上时钟时间：即运行一段代码所需要的时间，它包括用户级代码，库函数，用户代码调用系统函数的运行时间以及空闲时间。 加速比：串行运行时间与并行运行时间之比。 效率：加速比除以进程总数。. Copyright ? 2010, Elsevier Inc. All rights Reserved 可扩展的：如果增加问题的规模(n)，随着p的增加，效率却没有递减，则称该并行程序时可扩展的。