并行计算中的通信性能研究.docVIP

并行计算通信性能研究 摘要：在基于网络环境的分布式并行计算中，因为一般情况下，局域网的底层通信协议多为以太网协议，而以太网采用的是总线通信和信道竞争两种技术，因此基于网络环境的分布式并行计算中最大的问题可能就是要解决好通信开销的问题。本文研究了一种子任务计算和通信错开的解决方案，从理论上分析该方案的加速比和并行效率等。 关键词：分布式并行计算；以太网；信道竞争；并行效率；加速比 Abstract：Generally speaking in the lower layer of local network，the protocol is Ethernet，and Ethernet is based on bus topology and Channel Competition. So the most important problem for distributed parallel computing , may be too larger for communication spending. In this paper we studied a scheme to solve this problem, and give the analysis of this parallel efficiency and accelerate proportion。 Keywords：distributed parallel computing，Ethernet channel competition，parallel efficiency, accelerate proportion 前言 并行计算是目前解决大规模计算问题的一种有效方法，利用普通局域网中的计算机可以有效实现并行计算，其最大意义在于能够充分利用网络中大量闲散的CPU，提供的计算能力远远的超过同等的串行计算机;性价比远远高于同等的小型机，而且可以很容易进行扩展。如果运用的恰当，可以获得非常好的效果。在进行并行计算时，各个节点之间的负载平衡，数据传递问题至关重要！ 并行计算机是由一组处理单元组成的。这组处理单元通过相互之间的通信与协作，以更快的速度共同完成一项大规模的计算任务。因此，并行计算机的两个最主要的组成部分是计算节点和节点间的通信与协作机制。并行计算机体系结构的发展也主要体现 在计算节点性能的提高以及节点间通信技术的改进两方面。 多处理机并行计算一般由计算和通信两部分组成。根据多处理机并行计算过程对处理机间信息交换的依赖方式的不同可分为同步并行计算和异步并行计算。同步并行计算通常是指并行计算机系统中每一处理器，无论它的计算速度与其它处理器相差多大，也不论它所处理的任务量如何与众不同，都必须等待所有的处理器都到达同一个珊后才能做进一步的工作，这个珊常被称为同步点。而异步并行计算则是指在通常用于等待同步操作的时间内并行计算机系统内每一处理器各自完成自己的有用工作。与同步计算相比，当某处理器等待其它处理器到达某一栅时，异步并行计算提供该处理器有用的计算供其执行。 1 并行通信机制的发展 20世纪80年代中期，加州理工学院成功地将64个i8086/i8087处理器通过超立方体互连结构连结起来。此后，便先后出现了Intel iPSC系列、INMOS Transputer系列，Intel Paragon以及IBM SP的前身Vulcan等基于消息传递机制的并行计算机。 20世纪80年代末到90年代初，共享存储器方式的大规模并行计算机又获得了新的发 展。IBM将大量早期RISC微处理器通过蝶形互连网络连结起来。人们开始考虑如何才能在实现共享存储器缓存一致的同时，使系统具有一定的可扩展性。20 世纪90年代初期，斯坦福大学提出了DASH计划，它通过维护一个保存有每一缓存块位置信息的目录结构来实现分布式共享存储器的缓存一致性。后 来，IEEE在此基础上提出了缓存一致性协议的标准。 20世纪90年代至今，主要的几种体系结构开始走向融合。 属于数据并行类型的CM-5除大量采用商品化的微处理器以外，也允许用户层的程序传递一些简单的消息。 Cray T3D是一台NUMA结构的共享存储型并行计算机，但是它也提供了全局同步机制、消息队列机制，并采取了一些减少消息传递延迟的技术。 随着微处理器商品化、网络设备的发展以及MPI/PVM等并行编程标准的发布，集群架构的并行计算机出现开始。IBM SP2系列集群系统就是其中的典型代表。在这些系统中，各个节点采用的都是标准的商品化计算机，它们之间通过高速网络连接起来。 2 影响通信性能的因素 2.1网络带宽低 工作站机群系统使用的网络是普通的局域网, 而局域网的带宽通常都比较低, 如以太网的带宽只有10MB/S。局域网的带宽之所以低, 原