并行计算总复习之秘笈.docVIP

并行计算总复习 第一章： 1并行计算与串行计算在算法和编程上有哪些显著差异？ 答： ·并行算法设计与并行计算机处理器的拓扑连接相关 ·并行算法设计和采用的并行计算模型有关。 ·并行计算有独自的通讯函数 ·并行算法设计时，如何将问题分解成独立的子问题是科学研究问题，并非所有的问题都可以进行分解。 2多核与多处理机的异同点？ 多处理机：把多个处理器通过网络互连形成一个新机器。可以是专用，也可以是通用。拓扑连接是可以改变的。 多核：在过去单个处理器芯片上实现多个“执行核”。但这些执行核都有独立的执行命令集合和体系结构。这些独立的执行核+超线程SMT技术组成多核处理器 3对单处理器速度提高的主要限制是什么？ 答： 晶体管的集成密度，功耗和CPU表面温度等 第二章 1 SIMD 和 MIMD 所代表的计算模型是什么？主要区别和各自的系统结构示意图。SPMD的含义是什么？ SIMD指单指令多数据流模型；MIMD指多指令多数据流模型； SPMD指单程序多数据流模型，在SIMD中把指令改为程序表示每个处理器并行的执行程序。 ? SIMD MIMD 硬件 较少处理器 较多处理器 内存 一个寻址系统，存储量小 多个寻址系统，存储量大 耗费 较高，难开发 易于开发（多个商业组件可用） 加速 高 取决于应用 2 若按通讯方式对并行算法进行分类有几种分类方法，各自的特点是什么？ 基于共享地址空间：并行平台支持一个公共的数据空间，所有处理器都可以访问这些空间。处理器通过修改存储在共享地址空间的数据来实现交互。 基于消息传递：消息传递平台有p个处理节点构成，每个节点有自己的独立地址空间。运行在不同节点上的进程之间的交互必须用消息来完成，称为消息传递。这种消息交换用来传递数据、操作以及使多个进程间的行为同步。 3 在理想并行计算模型中（并行随机访问计算机parallel random access machine(PRAM), EREW, ERCW CREW, 和CRCW表示的意思是什么？ EREW：互斥读互斥写，这一类的PRAM独占访问内存单元，不允许并发的读写操作。最弱的PRAM模型，对内存访问提供最小的并发性。 CREW：并发读互斥写。对内存单元允许多读，但对内存位置多写是串行的 ERCW：互斥读并发写。对内存单元允许多写，但多读是串行的。 CRCW：并发读并发写。对内存单元允许多读多写。最强大 4 能画出多处理机系统中处理单元的基本互连结构图，Mesh, hypercube, ( 网络，注意对顶点编号的要求。 Mesh: 二维网格中每个维有sqrt（p）个节点，p为处理器的数目。 hypercube:p为处理器数目，超立方体结构有logP维，每维上有两个节点 超立方体的节点编号很有用，有两个p/2各节点的子立方体的编号，就可以一个前面加0一个前面加1实现，这样标号0110的节点和标号0101的节点相隔两个链路因为他们有两位不同，性质以此类推。 ( 网络： 设p个处理器processor（输入），p个存储区bank（输出）；该网络有sqrt（p）级 输入：i；输出：j j=2i， 0=i=p/2-1; j=2i+1-p, p/2=i=p-1. 数据选路时，假设从s（二进制表示）传送到t，从最高位起开始比较，相同的位走直通，不同的位走交叉。 5 知道对静态网络的常用测度：直径，连通性，二分宽度(bisection width), cost. 直径：网络中两个处理节点之间的最长距离称为网络直径。（越小越好） 连通性：网络中任意两个节点间路径多重性的度量。连通性的一个度量是把一个网络分成两个不连通的网络需要删除的最少弧数目。（越大越好） 二分宽度：把网络分成两个相等网络时必须删去的最小通信链路数目。（越大越好） cost：网络中所需的通信链路的数量或线路数量。 6 能说出一种解决多处理器系统中cache和内存数据一致性问题的方法。（侦听和基于目录） 用无效协议维持一致性，并用基于目录的系统来实现一致性协议。 基于目录： 为全局内存增加一个目录，维护一个bitmap，表示已缓存的处理器及相应的数据项状态。三状态协议含有无效、脏以及共享三种状态。 工作原理：当一个处理器P1修改了共享数据，P1修改bitmap,state 为dirty,它自己可以继续修改。当另一处理器P2需要读该数据，目录告诉它p1目前拥有该数据，并通知p1更新状态，并把数据送给P2. 优点：减少数据无谓的移动和更新（把空间分的更细） 缺点：连接复杂性高O(mp) 7 能给出store-and-forward routing 和cut-through routing的思想。通讯费用是如何计算的？延迟时间， ts, th, tw store-and-forwar