第六篇 并行处理技术(6.1—6.4).ppt

计算机系统结构 第6章 并行处理技术 本章学习要求 理解并行处理机的结构和工作原理； 了解并行处理机与流水处理机的差别； 熟练掌握基本的单级互连网络及其互连函数表示； 理解循环互连网络的实现； 熟练掌握多级网络、全排列网络的画法； 本章学习要求 了解多处理机的特点及主要技术； 掌握并行算法研究思路，程序并行性分析结论，任务的派生和汇合； 理解多处理机任务粒度、通信开销对性能的影响； 了解多处理机操作系统 并行处理技术 是获取高性能计算的重要手段 通过资源的重复设置以实现性能的改善，其发展是没有极限的 有双重含义：同时性（Simultaneity）和并发性（Concurrency） 6.1 并行处理技术的基本概念 并行处理的目的 ⑴提高速度 对于一个固定规模的问题，采用并行计算技术可以使求解时间更少 现在的微型机也开始借助于流水线技术、多核技术等并行计算技术来提高系统的速度 ⑵扩大问题求解规模 由于器件本身的限制，任何单处理器的速度不能超过某个上限 要突破这个上限，必须采用并行计算技术 6.1 并行处理技术的基本概念 数据处理过程中可能存在若干个可以同时进行处理的部分。 用一个处理部件按时间顺序先后处理它们，称串行处理 用若干个处理部件同时处理这些部分，称并行处理 并行性概念 同时性 并发性 6.1 并行处理技术的基本概念 并行处理相对于串行处理而言，着重开发计算过程中的并发事件，用并行性粒度 G 来描述； 6.1 并行处理技术的基本概念 6.1 并行处理技术的基本概念 并发性开发的途径有： 时间重叠：多个处理过程在时间上错开，重叠使用同一部件，以赢得速度，如指令流水执行方式。 资源重复：通过设置多套功能部件，利用空间上的并行性提高指令执行速度 资源共享：利用软件的方法，让多个任务在时间上轮流使用一套资源，以提高资源的利用率。 6.2 SIMD并行计算机（阵列处理机） 并行处理机（Parallel Processor）的一个重要特点是处理机有并列的多个处理单元，每个单元的组成都相同或相似。并行处理机内部有数十、数百甚至更多个处理单元，每个单元可以有自己的运算器、存储器、寄存器组或别的硬件设备。 阵列机（Array Processor）作为并行处理机，在差分、乘法、矩阵和向量运算等领域用之甚多。 6.2 SIMD并行计算机（阵列处理机） 阵列机的处理单元被画成“阵列”的样子，处理单元作为这个这个阵列的节点，通过一个环形的网络把节点连接起来了,网络同时也把控制器CU 和各节点连接起来。CU 通过网络向各个处理单元“广播”，共享资源。 阵列机属于SIMD 6.2 SIMD并行计算机（阵列处理机） 阵列处理机由一个控制器(CU)、 N个处理单元(PE)、M个存储器模块(M)和一个互连网络(IN)组成。 由CU控制将指令广播给系统中的各个PE，所有活跃的PE将以同步方式执行相同的指令（单指令流），它们从相应的存储模块中取得自己所需的数据对象（多数据流） 6.2 SIMD并行计算机（阵列处理机） 6.2 SIMD并行计算机（阵列处理机） 阵列机的主要特点 它采用资源重复方法 它是以某一类算法为背景的专用机器 阵列机的研究必须以并行算法的研究密切结合 从处理单元来看，由于都是相同的，故阵列机是同构的并行处理机 6.4 SIMD计算机的互联网络 互连网络是一种由开关元件按照一定的拓扑结构和控制方式构成的网络，用来实现计算机系统中结点之间的相互连接。 节点：处理器、存储模块或其他设备。 互连网络在系统中的位置，如图所示。 在拓扑上，互连网络为输入结点到输出结点之间的一组互连或映象。 6.4 SIMD计算机的互联网络 6.4 SIMD计算机的互联网络 可以从4个不同的方面来描述互连网络 通信工作方式：有同步和异步两种。 同步系统：使用一个统一的时钟。SIMD阵列处理机就属于这一种类型。 异步系统：没有统一的时钟，系统中的各个处理机都是独立地工作。 控制策略：有集中式和分散式两种 集中控制方式：有一个全局的控制器接收所有的通信请求，并由它设置互连网络的开关连接。 分散控制方式：不存在全局的控制器，通信请求的处理和开关的设置由互连网络分散地进行。 6.4 SIMD计算机的互联网络 交换方法：有线路交换和分组交换两种。 线路交换：源结点和目的结点之间的物理通路在整个数据传送期间一直保持连接。 分组交换：把信息分割成许多组（又称为包），将它们分别送入互连网络。 这些数据包可以通过不同的路径传送，到达目的结点后再拼合成原来的数据。 结点之间不存在固定连接的物理通路。 7.1 互连网络的基本概念 拓扑结构：有静态和动态两种。 静态拓扑结构：在各结点之间有专用的连接通路，且在运行过程中不能改变。 动态拓扑结构：可根据需要设