CN119806845A Ai计算中gpu资源的调度方法及装置 （深圳市互盟科技股份有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119806845A

(43)申请公布日2025.04.11

(21)申请号202510293261.5

(22)申请日2025.03.13

(71)申请人深圳市互盟科技股份有限公司

地址518057广东省深圳市南山区粤海街

道科技园社区科苑路15号科兴科学园

B栋2单元4层

(72)发明人汪镜波

(74)专利代理机构北京久诚知识产权代理事务所(特殊普通合伙)11542

专利代理师刘归港

(51)Int.Cl.

G06F9/50(2006.01)

G06F9/48(2006.01)

权利要求书3页说明书11页附图3页

(54)发明名称

AI计算中GPU资源的调度方法及装置

(57)摘要

CN119806845A本公开涉及一种AI计算中GPU资源的调度方法及装置，涉及数据处理技术领域；获取分别表征真实AI计算任务的执行情况和虚拟AI计算任务的执行情况的信息，利用表征真实AI计算任务的执行情况的信息，结合AI计算任务的实际情况，从多个GPU设备中确定出目标GPU设备，结合AI计算任务的实际情况和目标GPU设备的虚拟AI计算任务的执行情况，确定任务执行策略，以使目标GPU设备可以执行AI计算任务。通过在GPU设备中配置真实AI计算任务和虚拟AI计算任务，使得虚拟AI计算任