原创力文档- 3
- 0
- 约1.28万字
- 约 10页
- 2023-04-24 发布于北京
- 举报
本发明涉及一种基于局部短语句法增强机制的神经机器翻译方法，属于自然语言处理机器翻译技术领域。首先构建各个元素的局部短语序列，通过局部短语序列构建相对短语位置向量矩阵。然后，识别冗余头，根据句法注意力的平均权重动态确定训练过程中每个头的重要性。最后使用基于局部短语的句法增强的注意力机制代替原本的冗余头，以激活其潜在能力。本发明能够准确地识别多头注意力机制中的重要头和冗余头，并通过基于局部短语的句法增强机制来对冗余头进行修改，所构建的自注意力网络可用于机器翻译研究，取得了良好的效果。
(19)中华人民共和国国家知识产权局
(12)发明专利申请
(10)申请公布号 CN 114021590 A
(43)申请公布日 2022.02.08
(21)申请号 202111314481.X
(22)申请日 2021.11.08
(71)申请人 北京理工大学
地址
文档评论（0）