1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

基于预训练和注意力交互网络的知识型检索式对话方法.pdfVIP

  • 3
  • 0
  • 约3.96万字
  • 约 24页
  • 2023-05-17 发布于四川
  • 举报

基于预训练和注意力交互网络的知识型检索式对话方法.pdf

    本发明公开了一种基于预训练和注意力交互网络的知识型检索式对话方法，包括如下步骤：在目标语料库上使用领域适应性预训练方法训练预训练语言模型BERT，得到领域适应性BERT；使用领域适应性BERT作为注意力交互网络的编码器，对对话上下文、背景知识和若干候选响应文本分别编码得到相应表征；最后将对话上下文、背景知识和若干候选响应的表征分别输入到注意力交互网络进行匹配，训练注意力交互网络从若干候选响应中检索出最佳响应。本发明利用预训练语言模型强大的语义表征能力，通过两个预训练任务提高预训练语言模型在特定语

    (19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 114817494 A (43)申请公布日 2022.07.29 (21)申请号 202210346843.1 G06N 3/08 (2006.01) (22)申请日 2022.04.0

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >