可任意划分负载调度模型算法与应用.docVIP

可任意划分负载调度模型算法与应用 　　摘要:随着数据并行应用需求的日益增长,可任意划分负载的调度问题已经成为并行调度领域新的研究热点#65377;回顾了可任意划分负载调度的基本模型及近年来对这个基本模型的扩展性研究,并给出了它的应用研究和今后的发展方向#65377; 　　关键词:可任意划分负载;数据并行;调度 　　中图分类号:TP316文献标志码:A 　　文章编号:1001-3695(2007)04-0204-05 　　 　　0引言?? 　　 　　调度问题是并行和分布式系统研究领域中最重要的问题之一#65377;最常用的对并行和分布式应用建模的工具是有向无环图(DAG)和独立任务集#65377;在一般情况下,基于这两类模型的调度问题[1,2]都是NP完全的,因此研究人员不得不借助启发式算法来获得一个“好”的调度方案#65377;?? 　　本文关注的是另一类重要的数据并行应用的调度#65377;这种应用所处理的负载是可以任意划分的(Arbitrarily Divisible),每个负载片都可以被单独地处理,且负载中的所有元素所要求的处理类型相同#65377;所谓可以任意划分,是指负载可以划分成任意多个不相交的负载片,每个负载片可以有任意大小#65377;这类应用被称为可任意划分负载,简称可分负载(Divisible Load)#65377;?? 　　最早的可分负载调度(Divisible Load Scheduling,DLS)研究出现在1988年[3]#65377;由于日益增长的数据并行应用的需求,近几年来它已经成为并行调度领域新的研究热点[4~16]#65377;在大型实验数据的处理#65380;图像与信号处理#65380;数据挖掘#65380;计算生物学#65380;科学计算等领域中很多重要的应用都属于可分负载#65377;可分负载的调度理论可以应用在从并行机到计算网格的各种计算平台#65377;?? 　　一般而言,并行程序的调度问题是NP完全的#65377;但是由于DLS采用线性模型对应用和网络建模,并且充分利用了负载可任意划分的特性,可以使用连续数学的方法进行分析#65377;很多重要类型的DLS问题都可以获得最优解的解析解,这是DLS获得成功的主要原因之一#65377;另外,使用DAG和独立任务集对程序建模,由于程序中存在分支等原因,参数的估算是一个复杂的问题#65377;虽然参数估计作为一个独立的课题已经研究了多年,但是仍然不能准确判断一个任务所需要的计算时间#65377;而且,DAG调度目前主要解决处理器的调度而很少考虑网络上通信的竞争,这些原因使得现有算法得出的理论值与实际的运行情况有很大差异[17]#65377;而在可分负载的调度中,程序运行和负载传输的时间仅与负载的大小有关,因此能够比较准确地进行参数估算,可操作性强,从而能够对应用准确建模#65377;实验表明,DLS理论值与实际运行值之间的差异非常小,对于一些精心完成的实验,这个差异小于10%[18]#65377;随着负载量的增加,这个差异逐渐降低#65377;当增加资源的数目时,由于可分负载的特性,DLS能表现出很强的可扩展性#65377;?? 　　 　　1基本模型与结论?? 　　 　　调度问题是与网络的拓扑结构紧密相关的,可分负载的调度理论可以应用在从并行机到计算网格的各种计算平台上#65377;星型(或称为单层树)网络是其中一个重要的网络类型,不仅因为大多数DLS研究都是基于星型网络的[7,19~23],而且因为它涵盖了很多重要的网络类型,如总线网和广域网上的分布式计算模型都是星型拓扑的例子#65377;下面以星型拓扑为例说明可分负载的分配模型与分配过程,其他网络上的DLS问题在后文说明#65377;?? 　　星型网包含一个Master和一组Worker#65377;Master与每个Worker有一条链路连接#65377;Master记为p0,对于一个负载,Master首先选择N个Worker用于处理负载,分别用pN,pN-1,…,p1表示,相应的通信链路分别记为lN,lN-1,…,l1,如图1所示#65377;wi是第i个处理器相对于标准处理器的计算速度,zi是第i条链路相对于标准链路的传输速度#65377;Master可以通过不同的通信链路连接到Worker,但Master只有一个端口,即在同一时刻,Master只能与一个Worker进行通信#65377;所谓的标准处理器和链路是作为参照的任何一个处理器和链路,可以是网络中的任何一个处理器或网络,甚至为了方便可以是假想的处理器或链路#65377;?? 　　Master节点可以有前端(也称为通信协处理器)也可以没有前端#65377;在有前端的情况下,计算和通信