并行算法的设计与分析(1)..pptVIP

1.3 并行计算模型 1.3.3 分布存储的并行计算模型 3. LogP模型 模型特性 分布存储的MIMD模型 点到点通讯的多处理机模型，其中通讯由一组参数描述 隐藏了并行机的网络拓扑、路由、协议，可以应用到共享存储、消息传递、数据并行的编程模型中 处理机之间实行隐式同步，即硬件同步 算法描述、设计和分析困难 模型参数 L：network latency o：communication overhead g：gap=1/bandwidth P：#processors 注：L和g反映了通讯网络的容量 1.3 并行计算模型 1.3.4 层次存储的并行计算模型 1. 串行计算系统的层次存储模型 （P.34-35） HMM（层次存储）模型和HMM-BT（块传输的层次存储）模型 UMH （均匀存储层次）模型 RAM(h)模型——h层随机存储模型 2. 并行计算系统的层次存储模型 （P.36-37） Memory-LogP模型 （ 共享存储-分布存储模型） DRAM（h）模型——分布式h层随机存储模型 本地结点模型为RAM(h)模型——h层随机存储模型。 p个本地处理机结点通过互连网络连接起来。 处理机结点之间采用点到点消息传递方式交换信息。 将消息传递看成是另一层的存储层次访问；集合消息传递看成是另一层并发存储访问 ?方便分析并行算法复杂度 DRAM(h)模型=RAM(h)模型+LogP远程存储访问模型。 SMP-Cluster，多核处理器机群系统就属于DRAM（h）模型的实例。 HPM模型——层次并行和存储模型 1.3 并行计算模型 1.3.5 其他并行计算模型 MIMD-AC模型——异步通信分布式计算模型 比较器网络 心动阵列和波前阵列 判定树 有向五环图 量子计算模型 量子物理，量子信息，量子位（Qubit），量子寄存器，n位的量子寄存器可表述 2n种状态，可并行地对量子寄存器中 2n种状态进行操作。量子计算机具有海量存储和天然并行性的特征。 分子计算模型 用分子表示“处理（计算）单元”，分子状态表示数据（信息）值，并行地对分子操作，所有分子同时产生反应、改变分子状态（改变数据值）。空间并行性。 1.4 并行算法的基础知识 1.4.1 并行算法的定义与分类 1. 定义 并行算法： 一组可同时执行且可互相协作的诸进程的集合。 2. 分类 VLSI并行算法：在VLSI计算模型上开发的并行算法 1.4 并行算法的基础知识 1.4.2 并行算法的表述 1. do stepi to stepj in parallel ——强调stepi ,…, stepj 要并行执行 stepi … stepj enddo 2. for all par-do 语句——强调n 个进程（线程）并行执行，每个进程（线程）均执行语句S1,S2,..Sk,，但每个进程计算处理的数据对象不同 for i=1 to n par-do 或 for i=1 to n do in parallel S1 S1 … . .. Sk Sk end for end for 3. for all par-do 语句——强调p个处理器并行执行，每个处理器均执行语句S1,S2,..Sk,，但每个处理器计算处理的数据对象不同 for all Pi, where 0≤i≤p-1 par-do 或 for all Pi, where 0≤i ≤p-1 do in parallel S1 S1 …