模型量化方法、装置、电子设备和存储介质.pdfVIP

  • 5
  • 0
  • 约1.93万字
  • 约 17页
  • 2023-11-11 发布于四川
  • 举报

模型量化方法、装置、电子设备和存储介质.pdf

本申请实施例提供了一种模型量化方法、装置、电子设备和存储介质,该方法包括:获取待量化模型中的多个子模块;针对多个子模块中的每个子模块,确定子模块对应的初始量化方案;使用初始量化方案对子模块进行量化处理,得到量化性能指标;根据量化性能指标和初始量化方案,对子模块进行处理,得到量化后的子模块,以得到量化后的模型,量化后的模型中包括多个子模块中每个子模块对应的量化后的子模块。这样,可以提升模型量化的效果。

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 117035006 A (43)申请公布日 2023.11.10 (21)申请号 202311049605.5 (22)申请日 2023.08.18 (71)申请人 亿咖通 (湖北)技术有限公司 地址

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档