存取张量数据的方法和装置.pdf

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 111324294 A (43)申请公布日 2020.06.23 (21)申请号 201811541065.1 (22)申请日 2018.12.17 (71)申请人 地平线(上海)人工智能技术有限公 司 地址 201306 上海市浦东新区南汇新城镇 环湖西二路888号C楼 (72)发明人 孙晨　王振江　陈亮　凌坤　 (74)专利代理机构 北京市正见永申律师事务所 11497 代理人 黄小临　冯玉清 (51)Int.Cl. G06F 3/06(2006.01) 权利要求书2页 说明书18页 附图14页 (54)发明名称 存取张量数据的方法和装置 (57)摘要 公开了一种存取张量数据的方法和装置。该 方法包括：确定第一存储器的第一行地址；将第 一存储器中的第一行地址处的数据项复制到第 一缓冲存储器的第一缓存行中；将第一缓冲存储 器的第一缓存行中的每个第一数据项移动到第 二缓冲存储器的至少第一缓存行中的相应位置 处；以及将第二缓冲存储器的第一缓存行中的数 据项存储到第二存储器中的对应的目标位置处。 通过根据本公开的实施例的方法和装置，能够提 高人工智能芯片内部的数据存取效率，从而提高 人工智能芯片的性能。 A 4 9 2 4 2 3 1 1 1 N C CN 111324294 A 权　利　要　求　书 1/2页 1.一种存取张量数据的方法，包括： 确定第一存储器的第一行地址，期望从所述张量数据的逻辑结构中存取的至少一个第 一数据项存储在所述第一存储器的第一行地址处； 将所述第一存储器中的第一行地址处的数据项复制到第一缓冲存储器的第一缓存行 中； 将所述第一缓冲存储器的第一缓存行中的每个第一数据项移动到第二缓冲存储器的 至少第一缓存行中的相应位置处，每个第一数据项在所述第二缓冲存储器的至少第一缓存 行中的相应位置取决于在第二存储器中分配给该第一数据项的目标位置；以及 将所述第二缓冲存储器的第一缓存行中的数据项存储到所述第二存储器中的对应的 目标位置处。 2.根据权利要求1所述的方法，还包括： 在所述第二缓冲存储器的第二缓存行包括至少一个第一数据项的情况下，将所述第二 缓冲存储器的第二缓存行中的每个第一数据项存储到所述第二存储器中的对应的目标位 置处，其中，在所述第一存储器中，所述第二缓冲存储器的第二缓存行中的每个第一数据项 位于所述第二缓冲存储器的第一缓存行中的每个第一数据项之后。 3.根据权利要求1所述的方法，还包括： 确定所述第一存储器的第二行地址，期望从所述逻辑结构中存取的至少一个第二数据 项存储在所述第一存储器的第二行地址处； 将所述第一存储器中的第二行地址处的数据项复制到所述第一缓冲存储器的第二缓 存行中； 将所述第一缓冲存储器的第二缓存行中的每个第二数据项移动到所述第二缓冲存储 器的至少第二缓存行中的相应位置处，每个第二数据项在所述第二缓冲存储器的至少第二 缓存行中的相应位置取决于在所述第二存储器中分配给该第二数据项的目标位置；以及 将所述第二缓冲存储器的第二缓存行中的数据项存储到所述第二存储器中的对应的 目标位置处。 4.根据权利要求3所述的方法，还包括： 在所述第二缓冲存储器的第一缓存行包括至少一个第二数据项的情况下，将所述第二 缓冲存储器的第一缓存行中的每个第二数据项存储到所述第二存储器中的对应的目标位 置处，其中，在所述第一存储器中，所述第二缓冲存储器的第