模型量化方法、装置、设备、存储介质及程序产品.pdfVIP

  • 0
  • 0
  • 约3.58万字
  • 约 26页
  • 2023-05-11 发布于四川
  • 举报

模型量化方法、装置、设备、存储介质及程序产品.pdf

本申请实施例公开了一种模型量化方法、装置、设备、存储介质及计算机程序产品,其中,所述方法包括:获取第一网络模型对校准数据集进行处理后第一网络模型中至少一个第一网络子结构的第一输出数据;利用对第一网络模型进行量化后得到的第二网络模型,基于第二网络模型中至少一个第二网络子结构的激活量化标识,对校准数据集进行处理,得到每一第二网络子结构的第二输出数据;针对每一第一网络子结构,基于该第一网络子结构的第一输出数据,和与该第一网络子结构对应的第二网络子结构的第二输出数据,对该第二网络子结构的参数进行调整;在

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 114580281 A (43)申请公布日 2022.06.03 (21)申请号 202210208524.4 (22)申请日 2022.03.04 (71)申请人 北京市商汤科技开发有限公司 地址

文档评论(0)

1亿VIP精品文档

相关文档