一种融合预训练模型的文本摘要自动生成方法及系统.pdfVIP

  • 5
  • 0
  • 约1.68万字
  • 约 12页
  • 2023-06-06 发布于四川
  • 举报

一种融合预训练模型的文本摘要自动生成方法及系统.pdf

本发明涉及一种融合预训练模型的文本摘要自动生成方法及系统,属于文本摘要自动生成技术领域。该系统在传统Sequence‑to‑Sequence模型和Transformer框架的基础上,使用BERT作为编码器来获取原始文本的上下文语义特征,同时加入卷积神经网络作为门控,对特征向量进行关键词和关键短语的筛选。在解码器阶段使用TransformerDecoder的基础上,增加了指针机制,使得摘要生成模型能够更好地解决生成过程中遇到的词汇不足OOV问题,从而提高生成摘要的可读性,最后生成阶段采用beam

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112765345 A (43)申请公布日 2021.05.07 (21)申请号 202110088451.5 G06N 3/04 (2006.01)

文档评论(0)

1亿VIP精品文档

相关文档