CN119847746A 面向云端异构gpu集群的大模型训练资源配置优化方法 （华东师范大学）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119847746A

(43)申请公布日2025.04.18

(21)申请号202411922113.7

(22)申请日2024.12.25

(71)申请人华东师范大学

地址200241上海市闵行区东川路500号

(72)发明人徐飞周倩男

(74)专利代理机构上海蓝迪专利商标事务所(普通合伙)31215

专利代理师徐筱梅张翔

(51)Int.Cl.

G06F9/50(2006.01)

G06N3/082(2023.01)

G06N3/084(2023.01)

G06N5/01(2023.01)

G06N3/098(2023.01)

G06N3/0455(2023.01)

权利要求书2页说明书9页附图3页

(54)发明名称

面向云端异构GPU集群的大模型训练资源配

置优化方法

(57)摘要

CN119847746A本发明公开了一种面向云端异构GPU集群的大模型训练资源配置优化方法，包括：异构GPU资源配置和资源感知的阶段部署。资源配置提出了一个成本树剪枝机制，优先搜索具有较低成本的计划，将配置方案表示为树路径，同时采用多维度剪枝方法来减少不必要的分支，实现高效的GPU配置。阶段部署则通过定义计算_内存比（Compute_MemoryRa