CN120277307A 卷积运算方法、装置、电子设备和存储介质 （上海壁仞科技股份有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN120277307A(43)申请公布日2025.07.08

(21)申请号202510495857.3

(22)申请日2025.04.18

(71)申请人上海壁仞科技股份有限公司

地址201114上海市闵行区陈行公路2388

号16幢13层1302室

(72)发明人请求不公布姓名请求不公布姓名

(74)专利代理机构北京路浩知识产权代理有限公司11002

专利代理师孟紫琴

(51)Int.CI.

GO6FGO6F

GO6F

17/15(2006.01)

17/16(2006.01)9/54(2006.01)

权利要求书2页说明书18页附图8页

(54)发明名称

卷积运算方法、装置、电子设备和存储介质

(57)摘要

CN120277307A本发明涉及人工智能芯片技术领域，提供一种卷积运算方法、装置、电子设备和存储介质，其中方法包括：对卷积核元素进行遍历，基于目标数据块形状和遍历到的当前卷积核元素块的坐标，确定当前待加载数据块；基于当前待加载数据块，确定待覆盖数据块和新增数据块，并将新增数据块加载到共享内存中；基于起始位置，从共享内存中读取输入数据块，应用输入数据块和当前卷积核元素块，进行矩阵乘累加运算，并将运算结果累加到输出结果上；基于遍历完成后累加得到的输出结果，确定卷积运算结果。本发明通过仅加载新增数据块到共享内存中，可以避免

CN120277307A

对卷积核元素进行遍历，基于目标数据块大小和遍历

对卷积核元素进行遍历，基于目标数据块大小和遍历到的当前卷积核元

素块的坐标，确定当前待加载数据块，所述目标数据块大小基于卷积参

数和输入数据形状确定

基于所述当前待加载数据块，确定待覆盖数据块和新增数据块，并将所

述新增数据块加载到共享内存中，以使所述新增数据块对所述共享内存

中的待覆盖数据块进行覆盖

基于起始位置，从所述共享内存中读取输入数据块，应用所述输入数据

块和所述当前卷积核元素块，进行矩阵乘累加运算，并将运算结果累加

到输出结果上，所述起始位置基于所述当前卷积核元素块的坐标确定

基于遍历完成后累加得到的输出结果，确定卷积运算结果

410

420

430

440

CN120277307A权利要求书1/2页

2

1.一种卷积运算方法，其特征在于，包括：

对卷积核元素进行遍历，基于目标数据块形状和遍历到的当前卷积核元素块的坐标，确定当前待加载数据块，所述目标数据块形状基于卷积参数和输入数据形状确定；

基于所述当前待加载数据块，确定待覆盖数据块和新增数据块，并将所述新增数据块加载到共享内存中，以使所述新增数据块对所述共享内存中的待覆盖数据块进行覆盖；

基于起始位置，从所述共享内存中读取输入数据块，应用所述输入数据块和所述当前卷积核元素块，进行矩阵乘累加运算，并将运算结果累加到输出结果上，所述起始位置基于所述当前卷积核元素块的坐标确定；

基于遍历完成后累加得到的输出结果，确定卷积运算结果。

2.根据权利要求1所述的卷积运算方法，其特征在于，还包括：

基于所述目标数据块形状和下一个卷积核元素块的坐标，确定下一次待加载数据块；

基于所述下一次待加载数据块，确定新增数据块，并将所述新增数据块从全局内存预加载到缓存中，所述新增数据块的预加载操作与所述当前卷积核元素块的矩阵乘累加操作并行执行。

3.根据权利要求2所述的卷积运算方法，其特征在于，所述下一个卷积核元素块的坐标基于卷积核元素的遍历顺序和所述当前卷积核元素块的坐标确定，所述遍历顺序为行优先遍历和列优先遍历中的任意一种。

4.根据权利要求2所述的卷积运算方法，其特征在于，所述基于所述下一次待加载数据块，确定新增数据块，包括：

在所述下一个卷积核元素块相对于所述当前卷积核元素块的行维度索引和列维度索引均发生变化的情况下，将所述待加载数据块作为所述新增数据块；

在所述下一个卷积核元素块相对于所述当前卷积核元素块的行维度索引或列维度索引发生变化的情况下，从所述下一次待加载数据块中确定出所述新增数据块。

5.根据权利要求1所述的卷积运算方法，其特征在于，所述基于所述当前待加载数据块，确定待覆盖数据块和新增数据块，并将所述新增数据块加载到共享内存中，包括：

在所述当前卷积核元素块为首个卷积核元素块的情况下，确定所述待覆盖数据块为空，并将所述当前待加载数据块作为新增数据块从全局内存加载到所述共享内存中；

在所述当