1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

数据驱动的深度神经网络量化方法、系统、介质和设备.pdfVIP

  • 7
  • 0
  • 约1.35万字
  • 约 12页
  • 2023-06-15 发布于四川
  • 举报

数据驱动的深度神经网络量化方法、系统、介质和设备.pdf

    本发明涉及深度神经网络的量化推理，具体提供一种数据驱动的深度神经网络量化方法、系统、介质和设备，旨在解决现有量化方法无法准确判断最佳截断值的问题。为此目的，本发明的方法包括：准备校准数据集；选择所述深度神经网络的需要量化的层；针对所选择的层，以校准数据的误差函数最小为目标，以scale和zero_point值为变量，使用最优化算法逐层进行迭代，从而获得最佳的scale和zero_point值；基于所述最佳的scale和zero_point值对所述深度神经网络进行量化。本发明的方法通过误差结果的比

    (19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 113159298 A (43)申请公布日 2021.07.23 (21)申请号 202110482327.7 (22)申请日 2021.04.30 (71)申请人 恒睿（重庆）人工智能技术研究院有

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >