1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

浮点神经网络模型量化系统和方法.pdfVIP

  • 1
  • 0
  • 约2.68万字
  • 约 21页
  • 2023-06-06 发布于四川
  • 举报

浮点神经网络模型量化系统和方法.pdf

    本发明公开了一种浮点神经网络模型的量化系统，包括：组合校准算法单元，所述组合校准算法单元包括多种校准算法单元，组合校准算法单元为各个浮点神经网络模型或者一个浮点神经网络模型中的各个激活值分配不同的校准算法，以便获得量化参数，并对浮点神经网络进行量化，得到定点神经网络模型；自检优化单元，所述自检优化单元在校准数据集的一个子集上，推演浮点神经网络模型和定点神经网络模型，计算浮点神经网络模型和定点神经网络模型的结果的余弦相似度作为基准余弦相似度；自检优化单元微调初始量化参数，生成经微调的定点神经网络模

    (19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112766484 A (43)申请公布日 2021.05.07 (21)申请号 202011609407.6 (22)申请日 2020.12.30 (71)申请人 上海熠知电子科技有限公司

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >