基于人工智能的预训练语言模型的处理方法、装置及设备.pdfVIP

  • 4
  • 0
  • 约2.04万字
  • 约 17页
  • 2023-06-30 发布于四川
  • 举报

基于人工智能的预训练语言模型的处理方法、装置及设备.pdf

本发明公开了一种基于人工智能的预训练语言模型的处理方法,应用于人工智能技术领域,用于解决现有的分类模型对一词多义的语句理解能力弱的技术问题。本发明提供的方法包括:构建文本样本语句;通过该文本样本语句对待训练的预训练语言模型进行第一阶段预训练;当该待训练的预训练语言模型的输出对该文本样本语句的输出与该文本样本语句所属的类别相同时,得到训练好的预训练语言模型;将训练好的该预训练语言模型作为分类模型的编码器,将训练好的该预训练语言模型的参数作为该编码器的初始参数,在该编码器之后构建全连接层,得到初始分

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 113688245 A (43)申请公布日 2021.11.23 (21)申请号 202111016984.9 (22)申请日 2021.08.31 (71)申请人 中国平安人寿保险股份有限公司

文档评论(0)

1亿VIP精品文档

相关文档