CN114158284B 用于使用存储器内处理进行矩阵乘法的装置和方法 （北京苹芯科技有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN114158284B(45)授权公告日2025.07.04

(21)申请号202080001761.2

(22)申请日2020.07.07

(65)同一申请的已公布的文献号申请公布号CN114158284A

(43)申请公布日2022.03.08

(85)PCT国际申请进入国家阶段日

2020.09.02

(86)PCT国际申请的申请数据

PCT/CN2020/1006172020.07.07

(87)PCT国际申请的公布数据

WO2022/006733EN2022.01.13

(73)专利权人北京苹芯科技有限公司

地址100083北京市海淀区成府路150号智

源大厦

(72)发明人郑琪霖

(74)专利代理机构上海智晟知识产权代理事务

所(特殊普通合伙)31313专利代理师李镝的

(51)Int.CI.

G11C8/12(2006.01)

(56)对比文件

CN110476210A,2019.11.19

CN109992743A,2019.07.09

审查员钟茜

权利要求书2页说明书10页附图9页

(54)发明名称

用于使用存储器内处理进行矩阵乘法的装置和方法

(57)摘要

CN114158284B在此公开了用于使用存储器内处理(PIM)进行矩阵乘法的装置和方法的实施例。在一个示例中，一种用于矩阵乘法的装置包括行和列形式的PIM块阵列、控制器以及累加器。每个PIM块都被配置为处于计算模式或存储器模式。控制器被配置为将PIM块阵列划分为：第一组PIM块，每个PIM块都被配置为处于存储器模式；以及第二组PIM块，每个PIM块都被配置为处于计算模式。第一组PIM块被配置为存储第一矩阵，并且第二组PIM块被配置为存储第二矩阵并且基于第一和第二矩

CN114158284B

照累加器

照

累加器

20

P块

202

x

CN114158284B权利要求书1/2页

2

1.一种用于矩阵乘法的装置，包括：

行和列形式的存储器内处理PIM块阵列，每个存储器内处理PIM块都被配置为处于计算模式或存储器模式，其中PIM块阵列中的每个PIM块包括存储器阵列、缓冲器和矢量-矢量乘法VVM引擎，其中PIM块的存储器阵列被配置为存储第一矢量并且PIM块的缓冲器被配置为从另一PIM块中加载第二矢量；

控制器，其被配置为将PIM块阵列划分为：第一组PIM块，每个PIM块都被配置为处于存储器模式，使得第一组PIM块中的每个PIM块中的VVM引擎被停用；以及第二组PIM块，每个PIM块都被配置为处于计算模式，使得第二组PIM块中的每个PIM块中的VVM引擎被启用，其中第一组PIM块被配置为存储第一矩阵，并且第二组PIM块被配置为存储第二矩阵并且基于第一和第二矩阵计算第三矩阵的部分和；以及

累加器，其被配置为基于第三矩阵的部分和输出第三矩阵。

2.根据权利要求1所述的装置，其中第一组PIM块包括PIM块阵列的行，并且第二组PIM块包括PIM块阵列的剩余部分。

3.根据权利要求2所述的装置，其中第一组PIM块的尺寸小于第一矩阵的尺寸，并且控制器被配置为将第一矩阵映射到第一组PIM块，使得第一组PIM块基于第一组PIM块的尺寸同时存储第一矩阵的一部分。

4.根据权利要求3所述的装置，还包括处于第一和第二组PIM块之间的复用器MUX,其中控制器还被配置为控制MUX以将数据从第一组PIM的每个PIM块定向到第二组PIM块的相应列中的PIM块。

5.根据权利要求4所述的装置，其中第一组PIM块的至少一个PIM块未处于相同的相应

列中。

6.根据权利要求1所述的装置，其中第二组PIM块的尺寸匹配第二矩阵的尺寸。

7.根据权利要求6所述的装置，其中第二矩阵具有三个或更多个维度，并且控制器被配置为将第二矩阵映射到第二组PIM块，使得第二组PIM块的每个PIM块都存储第二矩阵的相应部分。

8.根据权利要求1所述的装置，其中控制器被配置为控制第二组PIM块以在计算第三矩阵的部分和时执行第一和第二矩阵的卷积。

9.根据权利要求8所述的装置，其中第一矩阵包括卷积神经网络CNN中的特征图，并且第二矩阵包括CNN的核。

10.一种存储器内处理PIM设备，包括：

存储器阵列，其被配置为存储第一矢量；

第一缓冲器，所述第一缓冲器被配置为从另一PIM设备接收