一种模型压缩方法、系统、终端及存储介质.pdfVIP

  • 4
  • 0
  • 约2.09万字
  • 约 20页
  • 2023-05-28 发布于四川
  • 举报

一种模型压缩方法、系统、终端及存储介质.pdf

本发明公开了一种模型压缩方法、系统、终端及存储介质。所述方法包括:通过样本生成器生成训练样本;基于至少一组超参组合,将所述训练样本分别输入学生网络和教师网络,对所述学生网络和教师网络进行对抗知识蒸馏训练,生成粗压缩学生网络;通过随机样本生成器生成样本,将所述生成样本输入所述教师网络,由所述教师网络生成合成样本集;通过所述合成样本集对所述粗压缩学生网络进行有监督学习训练,得到所述学生网络的压缩结果。本发明实施例可完全不依赖于原始训练数据集实现对模型的压缩,解决了因为原始训练数据集敏感性和数据海量问

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112381209 A (43)申请公布日 2021.02.19 (21)申请号 202011269682.8 (22)申请日 2020.11.13 (71)申请人 平安科技(深圳)有限公司

文档评论(0)

1亿VIP精品文档

相关文档