任务型对话模型预训练方法、装置、设备及存储介质.pdfVIP

  • 1
  • 0
  • 约2.92万字
  • 约 23页
  • 2023-06-15 发布于四川
  • 举报

任务型对话模型预训练方法、装置、设备及存储介质.pdf

本发明涉及人工智能领域,公开了一种任务型对话模型预训练方法、装置、设备及存储介质。一种任务型对话模型预训练方法包括:获取历史对话记录中第一角色对话语句序列和第二角色对话语句序列,将所述第一角色对话语句序列、第二角色对话语句序列中的所有对话语句进行合并与重组,得到第一对话序列,并将所述第一对话序列中的所有对话语句进行随机排序,得到第二对话序列,对所述第一对话序列、第二对话序列中的每一个单词进行词向量叠加,得到第一初始词表达向量序列和第二初始词表达向量序列并输入预置BERT模型,进行预训练。本预训练

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 113177113 A (43)申请公布日 2021.07.27 (21)申请号 202110583298.3 G06N 3/08 (2006.01) (22)申请日 20

文档评论(0)

1亿VIP精品文档

相关文档