1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

基于注意力的神经网络的硬件实施.pdfVIP

  • 2
  • 0
  • 约7万字
  • 约 66页
  • 2023-12-20 发布于四川
  • 举报

基于注意力的神经网络的硬件实施.pdf

    本申请涉及基于注意力的神经网络的硬件实施。公开了一种用于选择数字格式的计算机实施的方法。该数字格式适用于在配置基于注意力的神经网络的硬件实施中使用。获得用于该神经网络的测试输入序列的数据集。用填充值填充每个测试输入序列。对于每个填充输入序列，生成填充掩码以标识该填充输入序列的包含该填充值的部分。使用外积运算从每个填充掩码生成注意力掩码。该填充输入序列和注意力掩码通过该神经网络进行处理。在处理期间，收集统计数据以描述在该神经网络的各个层获得的值的范围。基于所收集的统计数据为各个层选择数字格式。

    (19)国家知识产权局

    (12)发明专利申请

    (10)申请公布号CN117252244A

    (43)申请公布日2023.12.19

    (21)申请号202310713303.7

    (22)申请日2023.06.15

    (30)优先权数据

    2208958.52022.

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >