一种支持多种硬件平台的神经网络模型量化部署方法.pdfVIP

  • 3
  • 0
  • 约1.8万字
  • 约 17页
  • 2023-07-01 发布于四川
  • 举报

一种支持多种硬件平台的神经网络模型量化部署方法.pdf

本发明提出一种支持多种硬件平台的神经网络模型量化部署方法,包括,获取待量化神经网络模型;针对待部署硬件平台配置网络量化参数;根据待部署硬件平台使用基准量化方法对待量化神经网络模型进行预量化;使用跨层权重均衡与偏差吸收相结合的思想对预量化神经网络模型参数进行均匀分布调整,获取调整后神经网络模型;根据待部署硬件平台使用自适应图调度策略找到调整后神经网络模型精度和速度间的最佳平衡点,根据最佳平衡点计算并导出量化后神经网络模型和量化后神经网络模型参数;将量化后神经网络模型参数写入到待部署硬件平台。通过本

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116362287 A (43)申请公布日 2023.06.30 (21)申请号 202310102989.6 G06T 1/20 (2006.01) (22)申请日 2023.01.2

文档评论(0)

1亿VIP精品文档

相关文档