基于多任务学习的单文档摘要生成模型构建方法及装置.pdfVIP

  • 3
  • 0
  • 约2.42万字
  • 约 16页
  • 2023-04-14 发布于四川
  • 举报

基于多任务学习的单文档摘要生成模型构建方法及装置.pdf

本发明公开了一种基于多任务学习的单文档摘要生成模型构建方法及装置,设计的模型结构采用了Transformer基础模型,并且在编码器的输出端,增加了一个编码器和分类器。其中两个编码器分为单词级别的解码器分别为,单词级别的编码器、句子级别的编码器;使得多任务训练成为可能;解码器的注意力分配会更加合理,因为加入根据解码器注意力权重与句子的重要性权重计算得到的正则项,能够倾向于更适合作为摘要的句子分配更多的权重;并且通过不同任务发掘模型潜力,从而提高了生成的摘要句子的可读性以及信息量。

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 111723196 A (43)申请公布日 2020.09.29 (21)申请号 202010435810.5 (22)申请日 2020.05.21 (71)申请人 西北工业大学 地址

文档评论(0)

1亿VIP精品文档

相关文档