基于多gpgpu并行计算的虚拟化技术分析-analysis of virtualization technology based on multi - gp gpu parallel computing.docxVIP

承诺书本人声明所呈交的硕士学位论文是本人在导师指导下进 行的研究工作及取得的研究成果。除了文中特别加以标注和致 谢的地方外，论文中不包含其他人已经发表或撰写过的研究成 果，也不包含为获得南京航空航天大学或其他教育机构的学位 或证书而使用过的材料。本人授权南京航空航天大学可以将学位论文的全部或部 分内容编入有关数据库进行检索，可以采用影印、缩印或扫描 等复制手段保存、汇编学位论文。（保密的学位论文在解密后适用本承诺书）作者签名： 日期： 摘要跟 CPU 相比，GPU 在计算能力、能耗上具有显著的优势，被广泛应用于高性能计算领域。 虚拟化是云计算的主要支撑技术之一，屏蔽硬件基础设施使多台虚拟机透明地共享集群中的 GPU 设备，从而降低配置成本，提高资源利用率。目前，GPU 通用计算的虚拟化技术尚处于研 究阶段，虚拟化环境下资源共享方案普遍缺乏对 GPU 的有效支持。本文以通用计算框架 CUDA 为研究对象，设计一种基于多 GPGPU 并行计算的虚拟化的方 案，实现一种可动态调度、支持多任务并发的 GPU 虚拟化解决方案。具体工作包括以下几个方 面：第一，采用动态库拦截的方法将 GPU 引入虚拟机，设计了基于多 GPU 计算资源特征的动 态分配与管理的架构，该架构分为虚拟化用户层、虚拟化资源管理层和虚拟化资源服务层，解 决了 GPU 通用计算在虚拟化环境下的适应问题，实现 GPU 资源在多个计算节点间的共享。第二，针对大规模计算任务场景，提出了在虚拟化环境下多 GPU 并行计算的实现方案，使 用多线程或流处理的方式实现多 GPU 并行计算，分析了 GPU 多层次存储结构、传输、通信等 方面内容，通过实验分别对数据松耦合交互模式（如蒙特卡罗方法）和紧耦合交互模式（如 QFT 算法）实现多 GPU 并行计算。第三，提出了一种基于动态负载量多负载状态的 GPU 负载均衡算法 DMLS-GPU（Dynamic and Multi-Load Status algorithm for GPU），通过将负载与 GPU 设备的硬件能力和任务本身的特 性相结合，解决了虚拟化方案中动态评估 GPU 设备计算能力的问题。实验分析表明，在虚拟化 环境下可实现多个 CUDA 程序并发地使用一块或者多块 GPU 设备，并验证了本文的虚拟化方 案具有良好的可扩展性和高效性。本文工作针对 GPU 通用计算虚拟化过程中面临的挑战和制约，研究虚拟化环境下的多任务GPU 资源共享和多 GPU 并行计算，以进一步拓展其应用空间。 关键词：虚拟化，GPU 通用计算，CUDA，并行计算，资源共享ABSTRACTGPU has significant advantages compared to CPU on computer power and energy consumption to be widely used in high performance computing. Virtualization technology is one of the main technologies in cloud computing, which can make multiple virtual machines share the GPU devices in the cluster transparently by shielding the hardware infrastructure. Therefore, it can reduce the resources cost and improve the resource utilization. At present, virtualization based General purpose GPU technology is still in the research stage. Resource sharing solutions are generally lacked of effective support for GPU in the virtual environment.The general computing framework CUDA is taken as the research object in this paper. We design a solution of virtualization of parallel computing based on multi-GPGPU. In this way, the solution can schedule the tasks dynamically and process the multi tasks co