PLBS一个动态负载平衡系统研究.pdfVIP

∗ PLBS:一个动态负载平衡系统 金之雁 （中国气象科学研究院 北京 100081） jinzy@cma.gov.cn 王鼎兴 （清华大学计算机系 北京 100084） dxwang@tsinghua.edu.cn 摘 要 分布式并行处理系统中，消息传递是实现大规模并行处理的一种常用方法。但是采 用消息传递方法编程是比较困难的，特别是对于需要数十人工作数年才能开发完成的大型科 学计算应用。我们设计并实现了一个基于消息传递（MPI ）的高层次的并行处理支持系统 PLBS，作为大型科学计算应用的并行处理工具，将科学问题与大规模并行处理问题分离。该 系统可自动进行区域分解实现并行处理，并具有动态负载平衡功能，也能在多种处理机类型 的并行环境中实现负载平衡。使用户不需要进行复杂的并行处理编程工作就可以使用大规模 并行处理系统。 关键词 并行计算，动态负载平衡，区域分解 中图分类号:TP311 现代高性能计算机常采用分布式内存并行多处理机的体系结构，它们往往由几百至数万 个处理机组成，最快能够达到每秒万亿次浮点操作的计算速度。随着网络技术的不断提高， 由多个微机或工作站联网组成的机群系统，以其低廉的成本和灵活的配置，在近几年也得到 了迅速的发展。无论是分布式内存并行多处理机还是机群系统，都要求应用程序将计算负载 均匀地分配到处理机上进行并行处理。 大规模数据并行是进行分布式并行处理的重要方法，区域分解是大规模数据并行经常采 用的主要并行处理方式。它将计算区域划分成多个子区域，使每个子区域的计算负载大致相 同。每个子区域分配给一个处理机处理，处理机间的数据共享用消息传递的方式实现。该方 法在流体力学初值问题等多类型应用领域取得了很好的并行效果。但是，有些应用子区域的 计算负载是随计算过程变化的。对于这类应用，需要采用动态的负载平衡技术，否则，负载 不平衡会成为影响大规模并行效率的主要因素。 分布式并行处理的编程方法主要有两种，一种是采用并行高级语言，如 HPF ，另一种 是采用消息传递库，如 MPI 。前一种方式的优点是编程方便，但是并行效率较低。第二种方 式虽然效率较高，但是编程复杂，对用户是一种不小的负担。尤其是对需要大量开发人员多 年才能完成的大型科学计算应用，更是如此。一种可行的方法是研制并行处理高层次的支持 系统，将并行处理与科学问题尽可能分离，科学研究人员不必了解并行处理，同时还可以高 效地使用大规模并行处理机。这种方法对一部分应用是可行的，国外的一些大型应用也采用 了类似的系统，如RSL[1]和 NNT[2]等，但是它们没有动态负载平衡功能。在将来的型应用中 也将继续采用这样的系统[3] 。 本文以区域分解并行处理方法为模型，在用户程序与消息传递库 MPI 之间建立了一个 并行处理支持系统 BLPS(Parallel Load Balance System) ，由该系统实现用户程序的并行处理。 ∗ 本论文得到国家 973 项目 G1998040911 课题和国家自然科学基金项目的资助 它提供了一个高层次的用户界面，实现用户程序与并行处理程序的分离，用户将不需要使用 消息传递进行有关分布式并行处理的编程工作。该系统可实现自动区域分解、动态负载平衡、 数据交换、数据输入输出等。 1 PLBS 系统的并行处理模型 BLPS 采用大规模数据并行的处理方式。设在计算区域G 内，t 用户程序 时刻的状态可由状态函数X (S ,t) 表示，X (x , x ,x ,) ， 1 2 3 PLBS S (s ,s ,) 为 空 间 坐 标 ， 则 在 t +1 时 刻 MPI 1 2 并行系统