并行算法及其应用前景.docVIP

《计算机系统结构》大作业 并行算法介绍及其应用前景 业 计算机科学与技术 指导教师 蔡启先 班 级 计081 学 号 姓 名 日 期 2010。12。18 广西工学院计算机工程系 并行算法介绍及其应用前景摘要关键词：使用多计算机进行并行程序设计，它们之间的通信是通过发送消息来完成的，消息传递并行程序设计。并行程序设计使用多计算机或多个内部处理器的计算机来求解问题，它比使用单台计算机的计算速度要快得多。也为求解更大规模的问题提供了机会，问题需要更多的计算步或更大存储容量需求，能满足要求因为多计算机和多处理机系统通常比单计算机有更大的总存储容量。for i=0 to p-1 j=(i+myid) mod p Cj=A*B src = (myid+1) mod p dest = (myid-1+p) mod p if (i!=p-1) send(B,dest) recv(B,src) end if end for 本算法中,Cj = Cmyid, j , A = Amyid , B 在处理器中每次循环向前移动一个处理器,即每次交换一个子矩阵数据块,共交换 p-1 次 行列划分程序示例 例:按行列划分并行计算矩阵乘积,其中 行行划分:A 按行划分, B 按行划分 列列划分:A 按列划分, B 按列划分 列行划分:A 按列划分, B 按行划分 列行划分 以 3×3 分块为例:9 个进程,进行三轮计算A,B 的起始存放位置: A00 A01 A02 A10 A11 A12 A20 A21 A22 B00 B01 B02 B10 B11 B12 B20 B21 B22  第一轮:计算 A00 A00 A00 A11 A11 A11 A22 A22 A22 B00 B01 B02 B10 B11 B12 B20 B21 B22 Cannon 算法示例 第二轮:计算 B10 B11 B12 B20 B21 B22 B00 B01 B02 A01 A01 A01 A12 A12 A12 A20 A20 A20 第三轮:计算 B20 B21 B22 B00 B01 B02 B10 B11 B12 A02 A02 A02 A10 A10 A10 A21 A21 A21  1．2 并行算法的基本原理 并行算法就是用台处理机联合求解问题的方法和步骤，其执行过程是将给定的问题首先分解成若干个尽量相互独立的子问题，然后使用多台计算机同时求解它，从而最终求得原问题的解并行算法是并行计算中非常重要的问题。并法研究应该确立一个“理论－设计－实现－应用”的系统方法，形成一个完善的 “架构—算法—编程” 方法论，这样才能保证并行算法不断发展并变得更加实用。简单的说，算法就是求解问题的方法和步骤。并行算法，就是在并行机上用很多个处理器联合求解问题的方法和步骤。I/O 并行计算的性能分析:加速比(speedup) 并行效率 实际上，在自然界中并行是客观存在的普遍现象，关键问题在于能不能很好的利用。由于人们的思维能力以及思考问题的方法对并行不太习惯，且并行算法理论不成熟，所以总是出现了需求再来研究算法，不具有导向性，同时实现并行算法的并行程序性能较差，往往满足不了人们的需求。并行算法的研究历史可简单归纳为：上世纪70到80年代，并行算法研究处于高潮；到上世纪90年代跌入低谷；目前，又处于研究的热点阶段。现在，人们已经可以自己搭建PC cluster，利用学习到的理论知识来解决实际问题，不再是纸上谈兵，这也为我们提供了新的机遇和挑战。并行程序设计开发并行程序设计语言一般有三种方法一是库函数法除了串行语言所包含的库函数外，一组新的支持并行性和交互操作的库函数(如MPI消息传递库和 POSIXPthreads多线程库)引入到并行程序设计中二是新语言结构法采用某些新的语言结构来帮助并行程序设计以支持并行性和交互操作(如 Fortran 90 中的聚集数组操作)；? 三是编译制导法程序设计语言保持不变，但是将称之为编译制导的格式注释引入到并行程序中。当我们在实际的并行机上设计并行程序时，绝大部分均是采用扩展Fortran和C语言的办法， 目前三种扩展办法针对这三种不同方法开发的并行程序设计语言