一种模型量化的方法、装置、设备和存储介质.pdfVIP

  • 2
  • 0
  • 约2.37万字
  • 约 23页
  • 2024-03-16 发布于四川
  • 举报

一种模型量化的方法、装置、设备和存储介质.pdf

本申请提供一种模型量化的方法、装置、设备和存储介质,涉及神经网络技术领域。一种模型量化的方法,包括:根据第一数据集获取至少两个标准图;根据所述第一数据集和所述至少两个标准图,获取第二数据集及第三数据集;获取第一模型;基于所述第一数据集和所述第二数据集,对所述第一模型进行阶梯式量化,以获取最终量化参数;基于所述第三数据集和所述最终量化参数,获取第二模型。根据本申请的实施例,在实现压缩模型大小的同时保证模型精度,提升嵌入式芯片的推理效率。

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN117709432A

(43)申请公布日2024.03.15

(21)申请号202211071094.2

(22)申请日2022.09.01

(71)申请人浙江舜宇智能光学

文档评论(0)

1亿VIP精品文档

相关文档