并行体系结构的发展之路.pptVIP

并行体系结构的发展之路 整理发布 目录 引言 并行计算机发展的推动力 并行体系结构的分类 并行体系结构的发展过程 并行体系结构的展望 引言 并行计算机的定义 体系结构巨大变化 CPU性能发展 软硬件技术进步 并行计算机发展的推动力 科学与工程计算领域对并行计算能力的要求总是永无止境的。 计算机技术、网络技术的迅速发展及其对经济与生活影响的日益深入 并行计算机体系结构的发展和处理器、存储器以及网络互连技术的发展密不可分 计算机并行体系结构的分类 Flynn分类法 其弱点 计算机体系结构的分类 Flynn分类法的扩展: 根据内存的物理分布、逻辑映射、读取方式 可以将MIMD类并行计算机系统进一步细分为共享内存，虚拟共享内存，和分布式内存三大类 这三类并行系统所使用的编程模式有共享内存和消息传递，以及两种模式同时使用的混合模式 共享内存(UMA/SMP) 所有共享内存系统的共同特点是：计算机系统具有可以被所有处理器直接存取的共享内存空间。 由一个操作系统控制，并且整个系统仅有一个地址空间；各个处理器在内存的存取上是平等的，处理器存取每个内存单元的代价是一致的 虚拟/分布式共享内存 内存不再是集中位于系统中的某一区域，而是物理分布在整个系统中； 这种系统中连接处理器与内存的网络不再是简单的、单一的总线/交叉开关/其他网络结构，而是一种分级混合式网络结构。 在用户看来，这种系统具有共享内存系统的所有特征。 分布式内存 没有一个共享的、囊括系统所有物理内存的空间。 分布式内存系统所使用的编程模式是消息传递，系统的任何一个结点都具有独立的操作系统，能独立运行 这类系统又被一些人称为多处理机系统。 可以进一步分为三个子类： 分布式内存系统分类 大规模并行处理（MPP，Massively Parallel Processing） 指那些使用比较专有的、非大规模商品化的硬件和软件，紧耦合的分布式内存计算机系统； 分布式内存系统分类 Beowulf集群 它的每个处理结点都使用量产的商用计算机系统，互连网络也使用量产的商用LAN/ATM网络。 Beowulf集群也被称为工作站集群（COW，Cluster of Workstations），或者工作站网络。 分布式内存系统分类 SMP集群 它的每个结点都是一个SMP系统，互连网络也使用类似Myrinet的高速网络。 SMP集群仍然可以适用以MPI（Message Passing Interface）为代表的消息传递编程模式。 另外，ＳＭＰ集群较之Beowulf集群，可以支持以MPI + OpenMP为代表的混合编程模式。 并行体系结构的发展过程 60年代初期 主要是共享存储多处理器系统 当时的IBM System 360是这一时期的典型代表。（下图 IBM System 360 ） IBM System 360 并行体系结构的发展过程 伊利诺依大学和Burroughs公司此时开始了Illiac IV计划。 当一台规模大大缩小了的16 CPU系统终于在1975年出现时，整个计算机界已经发生了巨大的变化。 并行体系结构的发展过程 首先是存储系统概念的彻底革新。虚拟存储和缓存的普遍应用。IBM 360/85系统与360/91反映了这一时期的主要变化（上图 360/91，下图360/85） 并行体系结构的发展过程 其次是半导体存储器开始代替磁芯存储器。CDC 7600 （ 下图CDC 7600 ）率先全面采用半导体存储器，磁芯存储器从此退出了历史舞台。 与此同时，集成电路也出现了 并行体系结构的发展过程 1976年 CRAY1问世以后，向量计算机从此牢牢地控制着整个高性能计算机市场。 并行体系结构的发展过程 微处理器的出现则使并行计算机的体系结构迈出了另一大步。卡内基梅隆大学开始进行共享存储多处理器系统的研 究。C.mmp就是这一研究的具体成果。（下图C.mmp ） 并行体系结构的发展过程 80年代稍后出现了非常适合于SMP方式的总线协议，而伯克利加州大学则扩展性地提出了Cache一致性问题的处理方案。 同一时期，基于消息传递机制的并行计算机也开始不断涌现。例如Intel iPSC系列（下图Intel iPSC） 并行体系结构的发展过程 向量计算机渐渐衰落下去了。数据并行方式到了80年代中期又开始逐渐复兴。 并行体系结构的发展过程 80年代末90年代初，共享存储器方式的大规模并行计算机又获得了新的发展。 90年代以来，主要的几种体系结构开始走向融合。 不过，IBM近年来大获成功的SP1、SP2系列机群系统走的则是另外一条路线。面向的是通用的应用领域 并行体系结构展望 目前的并行计算机系统则主要有四类: 第一类是多向量处理系统,如Cray YMP90、NEC SX3和Fujitsu VP