并行算法的设计与分析第19章讲述.ppt

 第19章 并行算法（程序）性能优化 ——任务调度 任务调度的概念 调度问题的一般模型 构成调度问题的基本元素：资源集、消费者集及这些资源为这些消费者服务所依据的一定规则。 调度问题就是在满足资源集和消费者集约束条件的基础上，设计一个有效的调度系统来管理消费者如何高效地使用这些资源，并使得一些系统性能指标达到最优或近似最优。 任务调度的概念 调度问题的一般模型 调度性能和调度效率是评价一个调度系统优劣程度的两个方面。 调度性能（Scheduling Performance）通过性能测试指标的取值来反映，它直接体现了调度结果的好坏。 调度效率（Scheduling Efficiency）主要指调度系统本身的复杂度。 任务调度的概念 并行计算中的任务调度 并行分布计算中的任务调度问题：根据一定的调度规则和调度策略，把组成并行程序的一组任务或构成工作负载的一组作业，按照一定执行时序分配到并行分布系统的多个计算节点上，以期取得较好的系统执行性能。 任务调度与作业调度 任务层调度针对某个用户的单一并行应用程序的一组任务（子任务），面向的一般是单应用程序系统，它的调度实体是任务，调度目标一般就是求得任务最短的执行时间。 作业层调度针对若干个用户的多个并行应用程序构成的一组作业 ，面向的一般是多应用程序系统，它的调度实体是传统批处理意义下的作业，调度目标有多个，如最短的平均作业响应时间、最大的资源利用率或最大的系统吞吐率等。 任务调度的概念 并行计算中的任务调度 任务调度与任务划分 在分布系统中一组任务相互间发生关系的方式有多种多样，其中有一种是通信关系，如果两个任务被分配到不同的处理器上，那么就产生以通信成本形式表示的通信开销（Communication Overhead），如果两个任务被分配到相同的处理器上，那么就不产生任何通信开销，这种特殊的任务调度我们称作任务划分（Task Partitioning）。 对于任务划分，我们通常用任务交互作用图（Task Interaction Graph）来表示并行算法（程序）模型 对于任务调度，通常用带权有向图（Weighted Direct Graph）来表示并行算法（程序）模型 。 任务调度的概念 并行计算中任务调度的分类 静态调度、动态调度和混合调度 静态调度（Static Scheduling）在编译并行程序时，就决定每个任务的执行处理器及执行时序，它经常用于任务图比较确定的情况。 动态调度（Dynamic Scheduling）在并行程序运行过程中，根据当前任务调度及系统执行情况，实时决定每个任务的执行处理器及起始执行时刻。 混合调度（Hybrid Scheduling）介于静态调度和动态调度之间的调度方法，它在编译时先静态调度部分任务，而剩余部分则采用动态调度方法在系统运行过程中来给它们分配处理器。 任务调度的概念 并行计算中任务调度的分类 最优调度和启发式调度 最优调度一般是指静态调度，如果一个调度算法能在多项式复杂度的时间内获得最佳调度结果，那么称之为有效的最优调度算法。 启发式调度方法将任务调度分配到各处理器上，它虽然不能确保获得最优解，但可以获得最优调度的近似解。 共享存储结构的任务调度和分布存储结构的任务调度 共享存储结构的任务调度 ：不考虑通信延迟，任务调度的着重点在于如何最大限度地获得并行程序任务间的并行性。 分布存储结构的任务调度 ：通信延迟的存在使得任务调度更为复杂，需尽可能利用各任务之间的并行性和尽量减少计算节点通信开销之间进行折衷。 任务调度的概念 并行计算中任务调度的分类 集中式调度和分布式调度 集中式调度 ：由一个叫作中心调度器的处理器来收集全局调度信息，其他处理器把它们的状态信息传送给中心调度器，并由中心调度器作出调度决定。 优点在于实现比较简单，但在计算节点数较多的大规模并行分布系统中，各节点与调度服务器的通信成为瓶颈，调度开销比较大。 分布式调度 ：由各处理器的调度程序根据局部范围内的一些调度信息来调度任务。 优点在于具有良好的可扩放性（Scalabil