浮点型深度神经网络的量化方法、装置、设备及存储介质.pdfVIP

  • 1
  • 0
  • 约2.28万字
  • 约 17页
  • 2023-06-06 发布于四川
  • 举报

浮点型深度神经网络的量化方法、装置、设备及存储介质.pdf

本发明涉及人工智能技术领域,提供一种浮点型深度神经网络的量化方法、装置、设备及存储介质,用于提高深度神经网络压缩后的精度和性能。浮点型深度神经网络的量化方法包括:按照预设的输入通道对预训练的初始浮点型深度神经网络中每层网络的初始权值进行拆分得到每层网络的候选权值;通过输入通道的归一化因子向量对每层网络的候选权值进行归一化得到每层网络的目标权值;对每层网络的目标权值进行定点量化处理,并对偏置值进行定点量化处理,得到量化浮点型深度神经网络;将归一化因子向量作为缩放层写入量化浮点型深度神经网络得到目标

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112766456 A (43)申请公布日 2021.05.07 (21)申请号 202011632088.0 (22)申请日 2020.12.31 (71)申请人 平安科技(深圳)有限公司

文档评论(0)

1亿VIP精品文档

相关文档