1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

轻量级神经网络模型训练方法、系统、装置及存储介质.pdfVIP

  • 3
  • 0
  • 约2.12万字
  • 约 17页
  • 2023-07-05 发布于四川
  • 举报

轻量级神经网络模型训练方法、系统、装置及存储介质.pdf

    一种轻量级神经网络模型训练方法、系统、装置及存储介质，轻量级神经网络模型训练方法包括：将学生模型的第一训练数据集输入至预先训练得到的教师模型，根据教师模型的输出，结合难度值计算方法，对所有样本进行难度值计算并排序后，得到第二训练数据集；将第二训练数据集划分为多个不同难度等级的训练子集；根据训练子集的难度等级次序，按照一定的输入方式并结合知识蒸馏策略，对所述学生模型进行训练。该方法将大型神经网络模型的知识按照预定义顺序迁移给轻量级网络模型，一方面可以降低轻量级网络模型的训练开销，另一方面还可以提升

    (19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 113807499 A (43)申请公布日 2021.12.17 (21)申请号 202111080711.0 (22)申请日 2021.09.15 (71)申请人 清华大学 地址 10

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >