GPU虚拟化算力的弹性调度方法、系统、设备和存储介质.pdfVIP

  • 18
  • 0
  • 约1.78万字
  • 约 14页
  • 2023-05-26 发布于四川
  • 举报

GPU虚拟化算力的弹性调度方法、系统、设备和存储介质.pdf

本申请涉及GPU虚拟化算力的弹性调度方法、系统、设备和存储介质,属于GPU虚拟化技术领域,该方法包括:对AI推理容器进行自动压测,得到历史最大运行指标;根据历史最大运行指标,自动确定容器的算力配额;检测容器在业务场景下的实时运行指标;根据实时运行指标和预设的算力弹性调度条件,自动调整容器实例数。实现了自动化确定AI推理容器所分配的算力配额,提高了AI推理容器的部署效率,而且极大的提高了GPU算力的利用率。

(19)中华人民共和国国家知识产权局 (12)发明专利 (10)授权公告号 CN 112286644 B (45)授权公告日 2021.05.28 (21)申请号 202011566583.6 G06F 9/50 (2006.01)

文档评论(0)

1亿VIP精品文档

相关文档