CN119301606A 用于加速神经网络计算的电子装置和方法 （三星电子株式会社）.pdfVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119301606A

(43)申请公布日2025.01.10

(21)申请号202380032415.4亚历山德罗斯·库尔里斯李罗森

穆罕默德·斯·阿卜杜勒法塔赫

(22)申请日2023.04.07

(30)优先权数据(74)专利代理机构北京铭硕知识产权代理有限

公司11286

52023.01.03EP

专利代理师王皎彤曾世骁

202201003262022.04.14GR

(51)Int.Cl.

(85)PCT国际申请进入国家阶段日

G06N3/048(2023.01)

2024.09.30

G06N3/08(2023.01)

(86)PCT国际申请的申请数据

G06N3/0455(2023.01)

PCT/KR2023/0046962023.04.07

G06N3/0499(2023.01)

(87)PCT国际申请的公布数据G06F17/16(2006.01)

WO2023/200185EN2023.10.19

(71)申请人三星电子株式会社

地址韩国京畿道水原市

(72)发明人范鸿翔周俊邦

斯蒂利亚诺斯·威尼斯权利要求书2页说明书17页附图24页

(54)发明名称

用于加速神经网络计算的电子装置和方法

(57)摘要

概括地说，本公开总体上涉及一种用于加速

机器学习ML模型计算的电子装置。该电子装置包

括：第一处理器，被配置为：通过对至少一个输入

矩阵执行快速傅里叶变换(FFT)和蝶形线性变换

来生成查询矩阵、键矩阵和值矩阵，以及第二处

理器，被配置为：在查询矩阵和键矩阵之间执行

第一矩阵乘法，对第一矩阵乘法的结果执行

softmax运算，以及在softmax运算的结果和值矩

阵之间执行第二矩阵乘法。

A

6

0

6

1

0

3

9

1

1

N

C

CN119301606A权利要求书1/2页

1.一种用于加速机器学习ML模型计算的电子装置(800)，所述电子装置包括：

第一处理器(810)，被配置为：

通过对至少一个输入矩阵执行快速傅里叶变换(FFT)和蝶形线性变换来生成查询矩

阵、键矩阵和值矩阵；以及

第二处理器(820)，被配置为：

在所述查询矩阵和所述键矩阵之间执行第一矩阵乘法；

对第一矩阵乘法的结果执行softmax运算；以及

在所述softmax运算的结果和所述值矩阵之间执行第二矩阵乘法。