第11章并行计算机体系结构简介.pptVIP

第11章 并行计算机体系结构简介 并行技术是针对大型机和巨型机的: 第一种： 多处理器（一个处理器指一个单片CPU芯片） 第二种：多机组成 目前通常把后者并行技术称为并行计算机体系结构。 11.1 并行计算机结构分类 并行计算机系统可以分成两大类：SIMD系统和MIMD系统。 SIMD（Single Instruction Multiple Data）计算机可以同时在多个数据集上并行执行同一条指令。这种类型计算机包括阵列处理系统和向量处理机。 MIMD（Multiple Instruction Multiple Data）计算机可以同时执行多条指令并同时处理多数据集，它是目前并行技术的主流。MIMD计算机又分成多处理器系统和多计算机系统两大类。如图11－1所示。 图11－1 并行计算机分类 11.2 SIMD并行计算机 SIMD计算机：用于解决使用向量和阵列这样比较规整的数据结构的复杂的科学计算和工程计算问题。 这种计算机特点：只有一个控制单元，每次只能执行一条指令，但是每一条指令可同时对多个数据进行操作。 SIMD分为：阵列处理机和向量处理机。 1. 阵列处理机（array processor） 特点： 一个单一的控制单元提供信号驱动多个处理单元同时运行，如图11－2所示。 组成：PU由1个处理单元PE同它的局部存储器组成。 控制部件方式：向全体PE“播送”控制信号，所有PE在同一个总的时钟信号下同步工作。PE组成：可以简单到每个PE由1位ALU组成，也可大到32位ALU，或者带浮点计算能力的ALU。 图11－2 阵列处理机组成图 2. 向量处理机 SIMD计算机中另一类是向量处理机（vector processor）。 70年代前后，为了处理向量计算研发两种类型的巨型计算机系统：流水线处理机和并行处理机。 两者比较优缺点：并行处理机的结构复杂，成本高，因而流水线处理机发展很快。它是处理向量计算的主要手段，因此已把它称为向量处理机。 向量运算举例 假定有一个向量运算：D=A×（B+C） 式中A，B，C，D都是长度为N的向量。若按常规处理，则流水线不能连续流动。 D1=A1×（B1+C1） D2=A2×（B2+C2） DN=AN×（BN+CN） 计算这个向量流水线要反复进行加法和乘法的切换，即流水线功能切换。 如改变处理顺序，先对所有元素执行加法运算（N个加法），然后对所有元素执行乘法运算（N个乘法），其顺序如下: Bi + Ci → Di （i从1到N） Di×Ai → Di （i从1到N） 这样就能保证流水线畅通。 Cray－1的体系结构与后来的RISC体系结构类似，它成为了很好的研究范例，许多现代的向量超级计算机都受到它的影响。 图11－3 Cray－1体系结构 Cray－1机采用多功能部件结构，一共有12个功能部件，分为4组：3个向量整数单元部件（加、逻辑、移位），3个浮点标量/向量浮点单元部件（加、乘、求倒数），4个标量整数单元部件（加、逻辑、移位、“1”个数计数），2个地址功能部件（加、乘）。这些功能部件本身都采取流水线结构，只要不发生寄存器冲突，这些功能部件都能并行工作。 11.3 MIMD并行计算机 MIMD系统可以分为多处理器系统和多计算机系统两大类。 多处理器系统特点：所有CPU共享同一个物理内存，每个CPU不带自己的内存或少量带有，由统一操作系统管理，整个物理内存空间由许多内存模块组成。 多计算机系统特点：每个CPU都有自己的内存，即自己独立的物理地址空间；执行自己的操作系统，再加上对外通信的通信处理器。 图11－4a和图11－4b分别说明了多处理器系统与多计算机系统的区别。 多处理器系统特点：软件设计简单，易实现，硬件设计比较复杂。 多计算机系统特点：正好相反。 图11－4a 多处理器系统 图11－4b 多计算机系统 MIMD并行计算机设计中的互连网络问题 MIMD并行计算机设计中面临的问题之一：互连网络。 多计算机系统中用互连网络把多个计算机连接是显而易见的，多处理器系统同样存在这个问题。 11.3.1 多处理器系统 根据共享内存的实现方式可以把多处理器系统分成三类： 分别是一致性内存访问（Uniform Memory Access, UMA） 非一致性内存访问（Non Uniform Memory Access, NUMA） 基于cache的内存访问（Cache Only Memory Access, COMA） 1. UMA多处理器系统 UMA计算机的