神经网络模型的压缩方法及相关装置.pdfVIP

  • 0
  • 0
  • 约2.47万字
  • 约 20页
  • 2023-06-05 发布于四川
  • 举报

神经网络模型的压缩方法及相关装置.pdf

本申请提供一种神经网络模型的压缩方法及相关装置,属于人工智能技术领域。该方法包括:利用神经网络模型的损失函数和零范数构建第一压缩模型,所述零范数指示所述神经网络模型中模型参数的稀疏度;将所述零范数等价处理为连续优化项,得到与所述第一压缩模型等价的第二压缩模型,所述连续优化项以所述稀疏度的控制参数为自变量,所述连续优化项连续优化的目标值等价于所述零范数;同步训练所述神经网络模型及所述第二压缩模型,以使得所述控制参数根据所述神经网络模型的训练误差稀疏化更新所述模型参数。本申请有效提升压缩后的神经网络

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112749798 A (43)申请公布日 2021.05.04 (21)申请号 202010711176.3 (22)申请日 2020.07.22 (71)申请人 腾讯科技(深圳)有限公司

文档评论(0)

1亿VIP精品文档

相关文档