CN120235253A 一种基于cpu和gpu协同的混合专家模型推理方法 （北京大学）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN120235253A

(43)申请公布日2025.07.01

(21)申请号202510254307.2

(22)申请日2025.03.05

(71)申请人北京大学

地址100871北京市海淀区颐和园路5号

(72)发明人李萌孙延范仲书璋王润声

(74)专利代理机构北京万象新悦知识产权代理

有限公司11360

专利代理师贾晓玲

(51)Int.Cl.

G06N5/043(2023.01)

G06N3/045(2023.01)

G06N3/042(2023.01)

G06N3/0442(2023.01)

G06F9/50(2006.01)

G06F9/48(2006.01)

G06F12/0862(2016.01)

G06F13/42(2006.01)

权利要求书2页说明书5页附图2页

(54)发明名称

一种基于CPU和GPU协同的混合专家模型推

理方法

(57)摘要

CN120235253A本发明公开了一种基于CPU和GPU协同的混合专家模型推理方法，属于深度学习(machinelearning)领域。本发明构建混合专家模型的CPU_GPU计算框架，有效平衡异构计算资源负载，显著提升硬件利用率；且提供基于动态优先级分数