CN119563180A 用于在自然语言处理中使用残差变换器的系统和方法 （三星电子株式会社）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119563180A

(43)申请公布日2025.03.04

(21)申请号202380053245.8

(22)申请日2023.06.20

(30)优先权数据

63/388,9572022.07.13US

18/306,8812023.04.25US

(85)PCT国际申请进入国家阶段日2025.01.10

(86)PCT国际申请的申请数据

PCT/IB2023/0563452023.06.20

(87)PCT国际申请的公布数据

WO2024/013588EN2024.01.18

(71)申请人三星电子株式会社

地址韩国京畿道

(72)发明人S·A·莫杜库里B·C·B·埃比S·贾伯

(74)专利代理机构北京市柳沈律师事务所

11105

专利代理师张泓

(51)Int.Cl.

G06N3/08(2023.01)

G06N3/0499(2023.01)

G06F40/284(2020.01)

权利要求书3页说明书15页附图8页

(54)发明名称

用于在自然语言处理中使用残差变换器的

系统和方法

(57)摘要

CN119563180A一种方法包括向包括按顺序布置的多个变换器层的变换器提供表示输入中的标记的嵌入向量，每个变换器层具有到每个先