并行计算机技与高性能计算.docVIP

并行计算机技术与高性能计算 ??? 课程名称： 计算机组成原理 学 院： 理学院 专 业 班： 信息与计算科学 051 姓 名： 陈杰 学 号： 105101024 指导教师： 钱亚冠 ? ? 2007 年 12 月 1 日 【摘要】 提高计算速度是计算机系统设计的主要目标之一。前几代计算机计?算速度的提高，主要是依靠元器件的更新换代来实现的。然而，缘于元器件的物理极限－分子结构和电子信号传速的限制，使得单机速度的提高逐步达到了极限。要进一步提高性能，只有利用多处?理机并行来达到。另一方?面，CPU及有关芯片性能价格比的不断改善，以及现有串行计算机越来越不能满足目前科学与工程中大型计算任务的要求，都极大地促进了并行处理技术和并行计算机的发展。国际上，从TMC的CM-5，到CRAY的TDS，IBM的SP/2和INTEL的PARGON等机型相继问世。国内，从“银河-I”、“银河-II”，到“曙光1号”、?“曙光1000”、“银河-III?”等机型的研制成功也非常鼓舞人心。相应使得并行处理技术迅速崛起，对计算机的许多应用领域带来了很大的影响，况且学术界普遍认为并被实践所证实，并行处理的多维性克服了串行处理一维性的弊端，更加符合自然界多维性的客观实际，并行计算机也必将成为新一代计算机的主流。?本文就是针对并行计算机技术以及高性能计算进行研究。 【关键字】 并行计算、数据并行、消息传递编程 一、并行计算机技术的发展及其概述 40 年代开始的现代计算机发展历程可以分为两个明显的发展时代：串行计算时代、并行计算时代。每一个计算时代都从体系结构发展开始，接着是系统软件（特别是编译器与操作系统）、应用软件，最后随着问题求解环境的发展而达到顶峰。创建和使用并行计算机的主要原因是因为并行计算机是解决单处理器速度瓶颈的最好方法之一。 并行计算机是由一组处理单元组成的，这组处理单元通过相互之间的通信与协作，以更快的速度共同完成一项大规模的计算任务。因此，并行计算机的两个最主要的组成部分是计算节点和节点间的通信与协作机制。并行计算机体系结构的发展也主要体现在计算节点性能的提高以及节点间通信技术的改进两方面。 60 年代初期，由于晶体管以及磁芯存储器的出现，处理单元变得越来越小，存储器也更加小巧和廉价。这些技术发展的结果导致了并行计算机的出现，这一时期的并行计算机多是规模不大的共享存储多处理器系统，即所谓大型主机。IBM360 是这一时期的典型代表。 从80 年代开始，微处理器技术一直在高速前进。稍后又出现了非常适合于SMP方式的总线协议，而伯克利加州大学则对总线协议进行了扩展，提出了Cache一致性问题的处理方案。现在，这种体系结构已经基本上统治了服务器和桌面工作站市场。 80 年代末到90 年代初，共享存储器方式的大规模并行计算机又获得了新的发展。IBM将大量早期RISC 微处理器通过蝶形互连网络连结起来。人们开始考虑如何才能在实现共享存储器缓存一致的同时，使系统具有一定的可扩展性。 90 年代以来，主要的几种体系结构开始走向融合。属于数据并行类型的CM-5 除大量采用商品化的微处理器以外，也允许用户层的程序传递一些简单的消息；CRAY T3D是一台NUMA 结构的共享存储型并行计算机，但是它也提供了全局同步机制、消息队列机制，并采取了一些减少消息传递延迟的技术。随着商品化微处理器、网络设备的发展，以及MPI/PVM 等并行编程标准的发布，机群架构的并行计算机出现。IBM SP2 系列机群系统就是其中的典型代表。在这些系统中，各个节点采用的都是标准的商品化计算机，它们之间通过高速网络连接起来。 今天，越来越多的并行计算机系统采用商品化的微处理器加上商品化的互连网络构造，这种分布存储的并行计算机系统称为机群。国内几乎所有的高性能计算机厂商都生产这种具有极高性能价格比的高性能计算机，并行计算机就进入了一个新的时代，并行计算的应用达到了前所未有的广度和深度。 二、并行计算机的体系结构 现在，大型并行机系统结构一般可分为6 类： 1.单指令多数据流机SIMD（Single-Instruction Multiple-Data）； 2.并行向量处理机PVP（Parallel Vector Processor）； 3.对称多处理机SMP（Symmetric Multiprocessor）； 4.大规模并行处理机ＭPP(Massively Parallel Processor)； 5.工作站机群COW(Cluster of Workstation) 6.分布式共享存储DSM(Distributed Shared Memory)多处理机。 SIMD 计算机多为专用，其余的５种均属于多指令多数据流MIMD(Mu