1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

一种基于大语言模型的对抗蒸馏方法、装置及存储介质.pdfVIP

  • 8
  • 0
  • 约1.61万字
  • 约 13页
  • 2024-02-14 发布于四川
  • 举报

一种基于大语言模型的对抗蒸馏方法、装置及存储介质.pdf

    本发明公开了一种基于大语言模型的对抗蒸馏方法、装置及存储介质，属于大语言模型技术领域。本发明让教师模型基于指令与学生模型的回答针对性地生成多个不同的答案作为多组训练数据，由裁判模型评估学生模型的回答，判断哪个学生模型的回答更好，从而确定哪组教师回答更有利于学习；以学生模型的学习程度衡量教师模型答案的优劣，构建优劣回复对，并通过强化学习技术优化教师模型，帮助教师模型产生更清晰易懂的答案，同时保留评估下性能更好的学生模型作为更优的学生模型，能够有效地提升教师模型和学生模型的性能。

    (19)国家知识产权局

    (12)发明专利申请

    (10)申请公布号CN117556887A

    (43)申请公布日2024.02.13

    (21)申请号202311346685.0G06N3/084(2023.01)

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >