图像处理模型训练方法、直播图像处理方法及装置.pdfVIP

  • 3
  • 0
  • 约2.26万字
  • 约 19页
  • 2023-09-16 发布于四川
  • 举报

图像处理模型训练方法、直播图像处理方法及装置.pdf

本申请涉及一种图像处理模型训练方法、直播图像处理方法及装置,通过获取待训练的图像处理模型的第一损失函数、归一化层的权重以及权重对应的方差,根据权重和方差来构建限制所述图像处理模型的归一化层的权重处于目标范围内的第二损失函数,从而根据图像处理模型未经量化感知训练时的第一损失函数和第二损失函数来构建目标损失函数,基于目标损失函数,利用训练图像数据对图像处理模型进行量化感知训练,从而避免量化感知训练过程中卷积层的权重分布异常影响量化效果,提高图像处理模型的量化感知训练的精度。

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116758399 A (43)申请公布日 2023.09.15 (21)申请号 202310803256.5 G06N 3/0495 (2023.01)

文档评论(0)

1亿VIP精品文档

相关文档