语义融合预训练模型构建方法及跨语言摘要生成方法和系统.pdfVIP

  • 2
  • 0
  • 约1.75万字
  • 约 13页
  • 2023-10-28 发布于四川
  • 举报

语义融合预训练模型构建方法及跨语言摘要生成方法和系统.pdf

本发明涉及跨语言处理领域,特别涉及一种语义融合预训练模型构建方法及跨语言摘要生成方法和系统,通过使用语义融合目标函数上对mBART模型进行微调,在自然语言生成任务的交叉熵对数似然目标函数的基础上引入单语语义相似度和跨语言语义相似度提供的语义信息来指导训练过程,其中,单语语义相似度能够从语义层面充分衡量模型产生的摘要与目标语言参考摘要间的相似性,为模型的训练提供文本深层语义的抽象有监督信息,使模型能够从语料中更有效地学习跨语言摘要对齐信息,跨语言语义相似度能够从语义层面充分衡量模型产生的摘要与源语

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116955594 A (43)申请公布日 2023.10.27 (21)申请号 202310256966.0 G06F 18/22 (2023.01)

文档评论(0)

1亿VIP精品文档

相关文档