一种神经网络模型的量化方法、装置及计算机可读存储介质.pdfVIP

  • 1
  • 0
  • 约1.85万字
  • 约 16页
  • 2023-06-05 发布于四川
  • 举报

一种神经网络模型的量化方法、装置及计算机可读存储介质.pdf

本发明提供了一种神经网络模型的量化方法、装置及计算机可读存储介质,该方法包括:确定神经网络模型中系数分布异常的目标卷积核;对目标卷积核进行拆分,得到多个子卷积核;对多个子卷积核分别进行量化以得到多个量化卷积核,并利用多个量化卷积核替代目标卷积核。利用上述方法,能够减少量化误差。

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112749783 A (43)申请公布日 2021.05.04 (21)申请号 201911062937.0 (22)申请日 2019.10.31 (71)申请人 嘉楠明芯(北京)科技有限公司

文档评论(0)

1亿VIP精品文档

相关文档