1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

一种模型蒸馏方法、装置、电子设备及存储介质.pdfVIP

  • 2
  • 0
  • 约2.76万字
  • 约 20页
  • 2023-07-20 发布于四川
  • 举报

一种模型蒸馏方法、装置、电子设备及存储介质.pdf

    本申请提供一种模型蒸馏方法、装置、电子设备及存储介质，用于快速有效地将复杂神经网络模型的参数直接迁移到简化神经网络模型上。该方法包括：获得预先训练的第一网络模型和未经训练的第二网络模型，第一网络模型的网络参数多于第二网络模型的网络参数；从第一网络模型中的第一批量正则化层中提取出第一参数和第二参数，第一参数和第二参数均是可学习的，第一参数影响网络模型的特征分布的方差，第二参数影响网络模型的特征分布的均值；根据第一参数和第二参数对第二网络模型中的第二批量正则化层进行初始化，获得初始化后的第二网络模型

    (19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 111738436 A (43)申请公布日 2020.10.02 (21)申请号 202010607520.4 (22)申请日 2020.06.28 (71)申请人 电子科技大学中山学院

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >