一种提高低比特量化模型性能的方法和系统.pdfVIP

  • 0
  • 0
  • 约1.38万字
  • 约 11页
  • 2023-05-10 发布于四川
  • 举报

一种提高低比特量化模型性能的方法和系统.pdf

本申请涉及神经网络量化领域,具体地,涉及一种提高低比特量化模型性能的方法包括:采用预设的算法对预设的图像矩阵和预设的第一权重进行迭代计算,获得图像向量;对第一权重进行量化获得第二权重;对第一权重和第二权重进行计算,获得第一权重的量化误差正则项数据;将量化误差正则项数据视为对第一权重的数据分布情况的约束结果;获得约束结果;获得总损失函数模型;对所述总损失函数模型进行反向梯度传播,获得第一权重的优化数据结果,迭代步骤,直至神经网络收敛;在实际应用过程中,使用了量化误差正则项,避免了量化感知训练中的训

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 114511069 A (43)申请公布日 2022.05.17 (21)申请号 202210400848.8 (22)申请日 2022.04.18 (71)申请人 南京大学 地址 210023 江苏

文档评论(0)

1亿VIP精品文档

相关文档