一种在Kubernetes集群中调度异构AI加速卡资源的方法.pdfVIP

  • 15
  • 0
  • 约1.38万字
  • 约 12页
  • 2024-03-02 发布于四川
  • 举报

一种在Kubernetes集群中调度异构AI加速卡资源的方法.pdf

本发明涉及一种在Kubernetes集群中调度异构AI加速卡资源的方法,所述方法包括以下步骤:步骤1:通过统一的设备插件暴露AI加速卡设备资源,步骤2:通过CRD维护集群中的AI加速卡信息和AI加速卡分组信息,步骤3:基于Kubernetes调度框架对Pod的调度过程进行扩展,通过Pod的annotation中携带的信息获取Pod需要使用AI加速卡的生产商和型号以及Pod需要使用的AI加速卡所在的分组,基于这些信息进行Pod的调度;该技术方案以统一的方式向Kubernetes集群暴露AI加速卡资

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN117632472A

(43)申请公布日2024.03.01

(21)申请号202311328724.4

(22)申请日2023.10.14

(71)申请人南京大学

地址210026

文档评论(0)

1亿VIP精品文档

相关文档