一种模型提示学习方法、装置、电子设备及存储介质.pdfVIP

  • 3
  • 0
  • 约3.25万字
  • 约 23页
  • 2023-05-18 发布于四川
  • 举报

一种模型提示学习方法、装置、电子设备及存储介质.pdf

本申请提供一种模型提示学习方法、装置、电子设备及存储介质,用于改善对预训练语言模型进行提示学习的效率较低的问题。该方法包括:获取预训练语言模型的本轮参数梯度值;获取学习后的优化器的本轮优化参数,使用本轮参数梯度值和本轮优化参数确定预训练语言模型的本轮参数更新量;使用本轮参数更新量对预训练语言模型进行提示学习,并根据预训练语言模型的输出数据计算预训练语言模型的下一轮参数梯度值,直到达到学习终止条件,获得学习后的语言模型。通过可学习的优化器来加速预训练语言模型的提示学习过程,避免了使用基于人工经验设

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 114860915 A (43)申请公布日 2022.08.05 (21)申请号 202210626295.8 G06N 3/08 (2006.01) (22)申请日 2022.06.0

文档评论(0)

1亿VIP精品文档

相关文档