并行计算：第七章 并行算法常用设计技术.pdf

并行计算 Parallel Computing 主讲人 徐云 Spring, 2014 Spring, 2014 第二篇并行算法的设计 第五章并行算法与并行计算模型 第六章并行算法基本设计策略 第七章并行算法常用设计技术 第八章并行算法一般设计过程 第七章并行算法常用设计技术 7.1 划分设计技术 7.1.1 均匀划分技术 7.1.2 方根划分技术 7.1.3 对数划分技术 7.1.4 功能划分技术 7.2 分治设计技术 7.3 平衡树设计技术 7.4 倍增设计技术 7.5 流水线设计技术 均匀划分技术（1） 划分方法 划分方法 n个元素A[1..n]分成p组，每组A[(i-1)n/p+1..in/p]，i=1~p n个元素A[1..n]分成p组，每组A[(i-1)n/p+1..in/p]，i=1~p 示例：MIMD-SM模型上的PSRS排序 示例：MIMD-SM模型上的PSRS排序 begin begin (1)均匀划分：将n个元素A[1..n]均匀划分成p段，每个p 处理 (1)均匀划分：将n个元素A[1..n]均匀划分成p段，每个pi处理 i A[(i-1)n/p+1..in/p] A[(i-1)n/p+1..in/p] (2)局部排序：p 调用串行排序算法对A[(i-1)n/p+1..in/p]排序 (2)局部排序：pi调用串行排序算法对A[(i-1)n/p+1..in/p]排序 i (3)选取样本：p 从其有序子序列A[(i-1)n/p+1..in/p]中选取p个样本元素 (3)选取样本：pi从其有序子序列A[(i-1)n/p+1..in/p]中选取p个样本元素 i 2 (4)样本排序：用一台处理器对p2个样本元素进行串行排序 (4)样本排序：用一台处理器对p 个样本元素进行串行排序 (5)选择主元：用一台处理器从排好序的样本序列中选取p-1个主元，并 (5)选择主元：用一台处理器从排好序的样本序列中选取p-1个主元，并 播送给其他p 播送给其他pi i (6)主元划分：p 按主元将有序段A[(i-1)n/p+1..in/p]划分成p段 (6)主元划分：p 按主元将有序段A[(i-1)n/p+1..in/p]划分成p段 i i (7)全局交换：各处理器将其有序段按段号交换到对应的处理器中 (7)全局交换：各处理器将其有序段按段号交换到对应的处理器中 (8)归并排序：各处理器对接收到的元素进行归并排序 (8)归并排序：各处理器对接收到的元素进行归并排序 end. end. 国家高性能计算中心（合肥） 4 均匀划分技术（2） 例7.1 PSRS排序过程。N=27，p=3，PSRS排序如下： 例7.1 PSRS排序过程。N=27，p=3，PSRS排序如下： (a)均匀划分：15 46 48 93 39 6 72 91 14 36 69 40 89 61 97 12 21 54 53 97 84