并行计算机平台.ppt

并行计算机平台 内容提纲 一、并行计算机的分类 二、并行计算系统实例 三、解决实际问题的一般模式 并行计算机的分类 SIMD/MIMD/SPMD/MPMD并行计算机 共享内存与分布式内存并行计算机 并行计算机的分类 对并行计算机的分类有多种方法，其中最著名的是1966年由M.J.Flynn提出的分类法，称为Flynn分类法。首先做如下定义： 指令流（instruction stream）：机器执行的指令序列； 数据流（data stream）：由指令流调用的数据序列，包括输入数据和中间结果。 并行计算机的分类 按同时执行一条指令还是多条指令，同时处理一个数据还是多个数据进行组合，便可以得到四种对计算机的划分方式，但是MISD这种组合在实际中并不存在，而其它的三种组合都有对应的计算机实现。 并行计算机的分类 SISD 大多数串行计算机都属于此类，而不属于并行计算机。该类计算机有两个非常重要的特征：串行的和确定的。 SIMD 这是计算机体系结构上的一个重要分类。对于数据并行类问题，这种计算机能够达到很高的处理速度。该类计算机的主要特征是：同步的和确定的，适合于指令/操作级并行。 并行计算机的分类 MIMD 这类计算机是并行计算机的一种较理想的结构，每个处理机在各自惟一的数据流上执行各自的指令流，与其他处理机无关。其主要特征如下： 指令流可同步或异步地执行。 指令流的执行具有确定性和不确定性。 适合块、回路或子程序级的并行。 可以按照多指令或单程序的模式运行。 多处理机和多计算机都属于此类计算机，它们都是由一些可编程的且均可各自执行自己程序的处理机组成。 并行计算机的分类 这种划分方式所依据的执行单位不是指令而是程序，显然其划分粒度（划分对象的大小程度）要大的多。 并行计算机的分类 一般来说，SPMD并行计算机是由多个地位相同的计算机或处理器组成的，而MPMD并行计算机内计算机或处理器的地位是不同的，根据分工的不同，他们擅长完成的工作也不同，因此，可以根据需要将不同的程序（任务）放到MPMD并行计算机上执行，使得这些程序协调一致地完成给定的工作。 并行计算机的分类 共享存储MIMD 　　也称对称多处理机(SMP) 。SMP系统是并行技术发展初期最常见的多处理机计算机体系。在这种计算机中，每个处理机的地位都是一样的，它们连接在一起，通过某种中央开关机构（如公共总线、交叉开关、包开关等）去访问全局共享存储器。 由于存储器共享，导致这类计算机存在一个无法突破的处理机与存储系统间的瓶颈。 并行计算机的分类 分布式共享存储MIMD 　　也称为非一致内存访问（NUMA）。系统中每个处理机都有各自的局部存储器，将各个局部存储器组合起来形成一个共享的地址空间。由于不需要集中的开关机构，因而它的扩展性比共享存储MIMD系统好，可以连接大量的处理机，编程也较方便，适合科学工程计算。 共享虚拟存储技术是分布式共享存储MIMD系统中常采用的一种技术。 并行计算机的分类 分布式存储MIMD 　　是指系统中每个处理机都有各自的局部存储器，构成一个单独的节点，节点间通过高速网络连接。处理机可以访问自己节点内部的内存，对于其他节点则不能直接访问，而要通过消息传递的方式进行。 分布式存储MIMD主要有以下两种形式： . 大规模并行（MPP）系统 . 群集（也称为机群或簇集）系统。 群集系统 群集系统具有以下特点： 每一个机电都是一个完整的计算机，都有自己独立的存储系统 节点机间通过消息传递的机制来开发并行应用 可以最大限度地增加节点机的个数，突破SMP体系的瓶颈问题 节点机往往依赖于现有的、成熟的技术 典型的群集系统常常依赖于通用的网络体系，通信效率低于专用的MPP系统，因此比较适用于粗粒度的并行 群集系统 群集系统具有以下优点： 系统开发周期短。 用户投资风险小。 系统价格低。 节约系统资源。 系统扩展性好。 系统容错性好。 应用面较广。 并行计算系统实例 一、集群计算机系统 集群计算机系统是指有一些相对独立的结点（如PC、工作站、服务器），通过网络互连到一起，并且能够协同工作的一种并行或分布式处理系统。 集群系统 集群系统 神威新世纪集群计算机系统计算能力的峰值为： 3.2G﹡2﹡2﹡64=819.2Gflops 集群系统 特点： 采用标准、通用的商品化部件 良好的可扩展性 单一的系统映像 智能的负载平衡功能 高可用性和易管理性 并行计算系统实例 二、PC机群 PC机