CN119830976A 混合专家模型的算子优化方法、装置、设备、介质及程序 （上海燧原科技股份有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119830976A

(43)申请公布日2025.04.15

(21)申请号202510308464.7

(22)申请日2025.03.17

(71)申请人上海燧原科技股份有限公司

地址201306上海市浦东新区中国（上海）

自由贸易试验区临港新片区业盛路

188号A-522室

(72)发明人姚建国吴晨鹏顾琦琪石恒张亚林

(74)专利代理机构北京品源专利代理有限公司11332

专利代理师严慧

(51)Int.Cl.

G06N3/063(2023.01)

G06N3/0495(2023.01)

G06F17/16(2006.01)

权利要求书5页说明书21页附图4页

(54)发明名称

混合专家模型的算子优化方法、装置、设备、

介质及程序

(57)摘要

CN119830976A本发明实施例公开了一种混合专家模型的算子优化方法、装置、设备、介质及程序，其中，方法包括：采用数据分块的方式结合计算芯片的稀疏计算单元，生成适用于原始混合专家模型的稀疏算子；其中，所述稀疏算子的数量为多个；根据所述稀疏算子对所述原始混合专家模型的原始算子进行更新，得到目标混合专家模型。本发明实施例的技术方案能够实现对混合专家模型的算子优化，进而在混合专家模型的模型计算场景中充分发