1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

基于注意力的神经网络的硬件实施.pdfVIP

  • 1
  • 0
  • 约7.29万字
  • 约 68页
  • 2023-12-20 发布于四川
  • 举报

基于注意力的神经网络的硬件实施.pdf

    本申请涉及基于注意力的神经网络的硬件实施。公开了一种用于在包括固定功能硬件的神经网络加速器中使用基于注意力的神经网络来实施推断的方法和数据处理系统。用于神经网络的输入序列被填充到固定长度。生成填充掩码，以标识填充输入序列的包含填充值的部分。使用外积运算从填充掩码生成注意力掩码。将填充输入序列和注意力掩码进行处理，以使用基于注意力的神经网络来执行推断。还公开了用于选择在这种神经网络中使用的数字格式的方法和数据处理系统，以及用于训练这种神经网络的方法和数据处理系统。

    (19)国家知识产权局

    (12)发明专利申请

    (10)申请公布号CN117252243A

    (43)申请公布日2023.12.19

    (21)申请号202310713298.X

    (22)申请日2023.06.15

    (30)优先权数据

    2208958.52022.

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >