用于确定用于神经网络的量化的基于饱和比率的量化范围的方法及设备.pdfVIP

  • 1
  • 0
  • 约2.03万字
  • 约 18页
  • 2024-04-06 发布于四川
  • 举报

用于确定用于神经网络的量化的基于饱和比率的量化范围的方法及设备.pdf

公开了一种用于基于饱和比率确定用于人工神经网络的量化的量化范围的方法和设备。根据本发明的一个方面,提供了一种用于确定用于人工神经网络的张量的量化范围的计算机实现的方法和设备,包括根据所述人工神经网络的所述张量和所述量化范围观测在当前迭代中的饱和比率;以及调整量化范围,使得所观测的饱和比率遵循预定的目标饱和比率。

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN117836778A

(43)申请公布日2024.04.05

(21)申请号202280051582.9(74)专利代理机构北京润平知识产权代理有限

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档