一种提升定点神经网络模型精度的方法、装置及电子设备.pdfVIP

  • 1
  • 0
  • 约4.33万字
  • 约 38页
  • 2023-09-09 发布于北京
  • 举报

一种提升定点神经网络模型精度的方法、装置及电子设备.pdf

本申请提供一种提升定点神经网络模型精度的方法、装置及电子设备,方法包括:将第一定点数据输入至逐通道卷积模型中,利用逐通道卷积层对第一定点数据执行逐通道卷积操作,得到第二定点数据;将第二定点数据输入至第一逐点卷积模块中,利用第一逐点卷积层对第二定点数据执行逐点卷积操作,利用第一批归一化层对第二定点数据进行归一化处理,以及利用第一非线性激活函数对第二定点数据进行映射,得到第一浮点数据;利用第一伪量化节点将第一浮点数据量化为定点数,得到第三定点数据。本申请提供的方法可以控制模型中需要量化的参数的范围,

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116720563 A (43)申请公布日 2023.09.08 (21)申请号 202211138548.3 G06F 7/483 (2006.01) (22)申请日 2022.09.

文档评论(0)

1亿VIP精品文档

相关文档