CN119645672A 一种gpu内存优化管理方法与系统 （山东浪潮科学研究院有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119645672A

(43)申请公布日2025.03.18

(21)申请号202510188597.5

(22)申请日2025.02.20

(71)申请人山东浪潮科学研究院有限公司

地址250000山东省济南市高新区浪潮路

1036号S02号楼

(72)发明人王景赵鑫鑫薛海军姜凯

(74)专利代理机构济南信达专利事务所有限公司37100

专利代理师郗艳荣

(51)Int.Cl.

G06F9/50(2006.01)

G06T1/20(2006.01)

G06N3/04(2023.01)

权利要求书3页说明书7页附图3页

(54)发明名称

一种GPU内存优化管理方法与系统

(57)摘要

CN119645672A本发明涉及内存管理技术领域，特别涉及一种GPU内存优化管理方法与系统。该GPU内存优化管理方法，将图形处理器GPU设备端的内存空间划分为指令内存区、受控内存区和自主内存区；制定内存分配方案，构造内存管理容器，为每个核函数分配一个键值，并为每个键值分配一个单链表，写入到受控内存区指定内存中；根据键值及单链表，获取推理过程中每个核函数所需要的内存空间，将推理结果数据存入受控内存区中指定的输出数据内存空间。该GPU内存优化管理方法与系统，优化了内存