计算机常用算法与程序设计教程 第9章 并行算法.pptVIP

Visual FoxPro 2. 加速比Sp（n） 并行算法的加速比Sp（n）可定义为 Sp（n）＝Ts（n）/ Tp（n） 式中，Ts（n）是最快的串行算法在最坏的情况下的运行时间，Tp（n）是求解同一问题的某并行算法在最坏情况下的运行时间 。 Sp（n）越大，则并行算法越好。 3. 并行算法的效率Ep（n） 并行算法的效率可定义为算法的加速比与处理器数目之比，即 Ep（n）＝Sp（n）/P(n) 并行算法的加速比不能反应处理机的利用率，一个并行算法的加速比可能很大，但是处理机的利用率却可能很低。并行算法的效率反映了在执行算法时处理机的利用情况。 并行程序设计包括将一个问题分解成若干部分，然后由各个处理器对各个部分分别进行计算。 一个理想的并行计算是能被立即分解成许多完全独立部分且它们能同时执行的计算，可以贴切地称为自然并行 。 许多问题不是自然并行的，需要使用一些技巧来解决。 SIMD共享存储模型是假定有有限或无限个功能相同的处理器，每个处理器拥有简单的算术运算和逻辑判断能力，在理想的情况下假定存在一个容量无限大的共享存储器，在任何时刻，任意一个处理器均可通过共享存储器的共享单元同其他任何处理器互相交换数据，也称之为PRAM（Parallel Random Access Machine）模型，即并行随机存取机器。 【例9.1】.广播算法 （1）处理器P1将m复制到自己的存储器中，然后将其写入B（1） （2）for ( i = 0 ;i≤ log N －1; i ++) for j = 2i + 1 to 2 i+1 par-do {处理器Pj将B（j － 2i）复制到自己的存储器中；然后将其写入B（j）;} end for （3）for i=1 to N par-do 处理器Pi从B（i）中读取数据m ; end for SIMD互连网络模型，简记为SIMD-IN，也称为分布存储的SIMD模型，简记为SIMD-DM。在这种模型中，每个处理器在控制器控制下或处于活动状态，或处于不活动状态。活动状态的处理器都执行相同的指令，处理器之间的数据交换是通过互连网络进行的。其中各处理器（包括算术逻辑单元和本地存储器）可以通过多种互连方式连接。 【例9.2】一维线性模型上的并行排序算法 for ( k= 1; k ≤ ; k++ ) {for each Pi : i=1,3,…,2-1 par-do if Xi＞Xi+1 then Xi←→Xi+1 ; end for for each Pi : i=2,4,…,2 par-do if Xi＞Xi+1 then Xi←→Xi+1 ; end for } 共享存储的MIMD计算模型是一个异步的PRAM模型，系由多个处理器组成，它的特点是每个处理器都有自己的本地存储器、局部时钟和局部程序；处理器间的通信经过共享全局存储器；没有全局时钟，各个处理器异步地执行各自的指令；处理器任何时间依赖关系必须明确地在各处理器的程序中加入同步（路）障（Synchronization Barrier）；一条指令可在非确定但有限的时间内完成。 【例9.3】并行求和算法 g = 0; for each Pi：0 ≤ i ＜ p par-do li = 0 ; for( j = 0 ; j ≤ n ; j += p ) li = li + aj; lock(g); g = g + li; unlock(g); end for MIMD异步通信计算模型可以抽象为一个无向图，其中顶点集对应处理器集合，边集对应处理器间的双向通信链集合。每个处理器都赋予惟一的编号，且只具有知晓与其有线相连的近邻处理器的局部知识。系统中并无共享存储器，各处理器之间的通信是通过发送和接受消息完成的。在算法运行期间，每个处理器除了执行自己的计算任务外，还向邻近的处理器发送消息和接受并处理来自邻近处理器的消息 。 【例9.4】MIMD-AC模型上的随机k－选择算法 (1）通过对有根生成树的一次扫描，根节点就可计算出总的元素数︱B︱。如果︱B︱＝1，则根节点通知该元素所在节点将此元素送往根节点，算法结束；否则执行以下各步； （2）分布随机地从︱B︱个元素中挑选出一个元素m（划分元素）送到根节点。其过程是：假定每个进程（节点）给其元素和其孩子都赋予一个固定的序号，并且还假定每个节点都知道t（1），…，t（p）。其中t（i）是它的第i个子树中所有元素的数目（1≤i≤p）。根节点在区间1到n随机地选择一整数i，为了找相应的元素，它首先检查驻留在自己局部存储器中t个元素是否是此元素；如果i≤t，则说明有此元素，否则根节点发送命令LOCATE（