一种CPU+ GPU 资源调度系统的研究.pdfVIP

28 《高性能计算发展与应用》 2011年第一期 1 总第三十四期 一种CPU+GPU资源调度系统的研究  沈 江南计算技术研究所莉  陈 江南计算技术研究所林 无锡 214083 摘要： GPU在并行处理上的优势为高性能计算带来了新的发展方向，而主流服务器中集成的CPU 核数日益增加，大大超过了服务器中与GP设备相连的PCI-E接口的数量，因此，如何合理的管 理和调度CPU资源和GPU资源，充分发挥两者的并行处理能力，提高系统效能，是当前GPU应 用支撑技术的重要研究方向。本文通过对GPU应用程序结构和作业管理系统的分析，采用数据 库和作业管理系统相结合的方法，设计并实现了一套CPU+GPU资源的统一管理调度系统。经 过验证测试，该系统基本能够满足GPU应用调度需求，充分发挥CPU和GPU资源的综合效能。 关键字：CPU，GPU，CUDA，资源调度，资源管理 1. 引言 2. GPU程序结构分析及调度需求 中央处理器CPU和图形处理器GPU是目前主流计 目前主流计算机的处理能力主要来自CPU和 算机中重要的处理器。其中GPU可以通过增加并行 GPU，CPU和GPU一般经过北桥通过AGP或是PCI-E 处理单元和存储器控制单元的方式提高处理能力和 总线相连，各自有独立的外部存储器，分别是内存 [3] 存储器带宽，近年来GPU在并行处理能力上增长很 和显存 。一般的，在CPU＋GPU的应用中，CPU负 快，大大超过了CPU遵照摩尔定律的发展速度，而 责的是逻辑性较强的事务计算，而GPU负责的是计 CUDA可编程架构的推广也为GPU应用走向成熟提供 算密集度高的处理，CPU负责将需要GPU处理的任务 了支持，与此相对应的，多核技术的发展使得在单 和数据传递给GPU，GPU进行处理后将结果返回给 个服务器中集成的CPU核数也越来越多，如何合理、 CPU，根据这种使用特征，CUDA编程模型将CPU抽 高效的管理调度CPU和GPU资源，充分发挥两者的优 象为主机，GPU抽象为协处理器或者设备来进行处 [3] 势是目前急需研究的一个课题。 理，使得两者协同工作，各司其职 。其程序结构如 当前大多数主流作业管理系统都是针对CPU核进 下图所示： [1][2] 行调度的 ，而在主流服务器中，CPU的核数远远 大于系统可连接的GPU设备，如果按照以往每个CPU 调度一个进程的方式，对于GPU作业来说，可能导 致GPU因负载过重而降低性能，另一方面如果在调 度GPU作业时，按照节点所连接的GPU设备的数目来 决定该节点上调度的任务数，又会造成CPU资源的浪 费。针对这个问题，本文在研究了GPU的编程结构以 及一些开源作业管理系统的基础上，提出了数据库 和作业管理系统相结合的统一资源调度方案，它的 目的是监测系统CPU资源和GPU资源的使用情况，进 行合理调度，平衡负载，防止部分资源过度使用造 成性能的降低或是资源的浪