并行算法设计.docVIP

并行程序的设计方法 余筱 （华南理工大学电子与信息学院，广东广州510640） 摘要：本文通过冇系统的方法来设计简单的并行算法，并可识别减低效率或可扩 展性的设计缺陷。本文使用域分解和功能分解方法来剖析划分计算，并了解如何 识别并执行木地和全局、静态和动态、结构化和非结构化及同步和界步通信结构。 并且能够通过聚合來降低通信和执行成本的方法，并熟悉一系列负载平衡策略。 关键词：并行算法剖析划分计算 中国分类号：TP 319.9 Design Method of Parallel Program Xiao Yu (South China University of Technology^ school of electronic and information engineering；Guangzhou 510000) Abstract: The paper design simple parallel algorithms in a methodical fashion and recognize design flaws that compromise efficiency or scalability. It adopts partition computations, using both domain and functional decomposition techniques, and knows how to recognize and implement local and global, static and dynamic, structured and unstructured, and synchronous and asynchronous communication structures. The paper also uses agglomeration as a means of reducing communication and implementation costs and should be familiar with a range of load-balancing strategies- Key words: Parallel Algorithm Partition Computing 1.引言 并行算法设计并不仅限于一种方法的捉出，述需要一种创造性的整体思维模 式，而这种思维模式可以从最大化考虑范围的研究方法入手，它捉供了评价选择 方案的机制，并冃减少了错误抉择引起的回溯开销。本文所描述的就是这样一种 方法，并冃根据这种并行算法设计方法搭建起框架，深入理解好的并行算法组成 结构。本文通过冇系统的方法来设计简单的并行算法，并可识别减低效率或可扩 展性的设计缺陷。本文使用威分解和功能分解方法来剖析划分计算，并了解如何 识别并执行本地和全局、静态和动态、结构化和非结构化及同步和异步通信结构。 并冃能够通过聚合来降低通信和执行成本的方法，并熟悉一系列负载平衡策略。 2 ?设计并行算法 2.1系统设计 大多数程序设计问题都有若干套并行解决方案。最佳解决方案可能不同于现 有循序算法所建议的解决方案。本文描述的设计方法旨在创建一种探索性设计方 式，其中会提早考虑诸如并发性等与计算机无关的问题，而且设计中计算机特定 的方面延迟到设计流程的后期。此方法构成的设计流程分为四个不同阶段：剖 析划分、通信、聚合及映射。在丽两个阶段，本文重点关注并发性和可扩展性, 并设法找到具有这些特性的算法。在第三个和第四个阶段，转而关注区域和其它 与性能相关的问题。图1说明了这四个阶段，并概括如2 剖析划分：要执行的计算和该计算所处理的数据被分解为若干小任务。将 忽略诸如目标计算机中处理器数目等实际问题，并重点关注对并行执行机会的发 现。 通信：确定协调任务执行所需的通信，并定义适当的通信结构和算法。 聚合：评估设计的而两个阶段所定义的任务和通信结构的性能要求和实施 成本。如有需要，任务会合并为较大任务，以提高性能或降低开发成本。 映射：给每项任务分配一个处理器以设法实现竞争性目标，即最大化处理 器利用率并最小化通信成木。可静态地指定映射，或通过负载平衡算法在运行时 确定。 OO OOOOO OOOO OOOOO OOOO OOOOO OOO OO OOOOO OOOO OOOOO OOOO OOOOO OOO 2-1 PC AM：并行程序的设计方法 从问题说明开始，先进行剖析划分，确定通信要求，聚合任务，最后将任务 映射到处理器。此设计流程可通过以下方式生成动态创建及销毁任务的程序：使 用负载平衡方法控制任务到处理器的映射。或者，它可以是为每个处理器都创建 一项任务的SPMD程序。虽然目标是生成SPMD程序，但