1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

一种基于对抗知识蒸馏与注意力机制的模型轻量化方法.pdfVIP

  • 9
  • 0
  • 约1.22万字
  • 约 11页
  • 2023-11-15 发布于四川
  • 举报

一种基于对抗知识蒸馏与注意力机制的模型轻量化方法.pdf

    本发明涉及一种基于对抗知识蒸馏与注意力机制的模型轻量化方法，属于知识蒸馏与图像识别领域；该方法通过构建师生模型结构，引入注意力机制，类比知识蒸馏与对抗网络结构的相似性，成功提高了边缘场景下资源受限的图像识别精度；首先采用知识转移方法将教师网络的专业知识传授给学生网络，以有效传递有价值信息和引导学生网络学习，其次利用基于GAN的对抗性损失，在迭代训练中促进了教师和学生网络之间的知识交流，提高学生网络的准确性和性能，最后引入注意力机制以确保准确信息交换，使模型聚焦于最相关和信息丰富的部分。通过整合注

    (19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 117057402 A (43)申请公布日 2023.11.14 (21)申请号 202311206638.6 (22)申请日 2023.09.19 (71)申请人 电子科技大学 地址 611731

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >