CN119645665A 一种基于张量并行的资源分配方法及系统 （宁波市电力设计院有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119645665A

(43)申请公布日2025.03.18

(21)申请号202510174186.0

(22)申请日2025.02.18

(71)申请人宁波市电力设计院有限公司

地址315000浙江省宁波市江北区北岸财

富中心11幢4-1

(72)发明人谢宇哲姚艳黄继伟许家玉周盛贺艳华裴梓翔陈思培公正

(74)专利代理机构浙江中桓凯通专利代理有限

公司33376

专利代理师李美宝

(51)Int.Cl.

G06F9/50(2006.01)

权利要求书3页说明书11页附图4页

(54)发明名称

一种基于张量并行的资源分配方法及系统

(57)摘要

CN119645665A本发明技术涉及大语言模型领域，具体而言，涉及一种基于张量并行的资源分配方法及系统，本发明解决的问题：如何在计算资源不足的情况下满足计算需求，并延长设备使用寿命的问题，为解决上述问题，本发明提供一种资源分配方法，包括：划分计算组，计算计算组的最优计算负荷和最大计算负荷；将子模块划分为张量模块或流水线模块，划分优先级；计算计算负荷量；计算通信效率；计算负荷余量；将子模块分配给各个计算组，得到计算资源分配规划；若当前负荷大于等于最大计算负荷，优先计算部分子模块，并将未被优先计