CN120234014A 一种结合硬件部署的模型部署方法及装置 （山东浪潮科学研究院有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN120234014A

(43)申请公布日2025.07.01

(21)申请号202510703640.7

(22)申请日2025.05.29

(71)申请人山东浪潮科学研究院有限公司

地址250000山东省济南市高新区浪潮路

1036号S02号楼

(72)发明人郝虹张浩智仝其胜郝运凯

(74)专利代理机构北京康盛知识产权代理有限

公司11331

专利代理师高会会

(51)Int.Cl.

G06F8/60(2018.01)

G06F18/22(2023.01)

G06F18/20(2023.01)

G06F9/4401(2018.01)

权利要求书2页说明书12页附图5页

(54)发明名称

一种结合硬件部署的模型部署方法及装置

(57)摘要

CN120234014A本申请公开了一种结合硬件部署的模型部署方法及装置，根据目标模型部署环境中的设备节点及各设备节点对应的连接关系，构建设备节点对应的硬件拓扑图；解析目标模型中目标算子的依赖关系，以生成目标算子对应的模型计算图；根据硬件拓扑图和模型计算图，利用预设的评估算法，计算设备节点与目标算子之间的目标匹配值；根据目标匹配值和预设的分级策略，确定目标模型对应的部署方案。通过实时感知硬件状态与模型计算