文本属性图的表征模型、预训练的自监督方法、节点表示更新的模型框架.pdfVIP

  • 20
  • 0
  • 约2.01万字
  • 约 16页
  • 2023-12-30 发布于四川
  • 举报

文本属性图的表征模型、预训练的自监督方法、节点表示更新的模型框架.pdf

本发明的目的是提供一种文本属性图的表征模型,用于预训练的自监督方法、以及一种节点表示更新的模型框架,所述方法包括:通过将文本属性图中的单词与基础的图结构解耦,并将单词作为节点建模到原有的图结构中,建模为层次文本属性图;进一步通过针对层次文本属性图中不同层级的自监督任务,捕捉原数据中的语义信息和结构信息;在模型训练阶段,通过均值聚合器对节点的表示进行更新,并使用更新后的节点表示作为输入,利用自监督任务继续进行预训练,从而得到层次文本属性图中的节点、单词的表示,完成图中的节点分类和链接预测任务。

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN117312490A

(43)申请公布日2023.12.29

(21)申请号202311078582.0G06F18/2415(2023.01)

(22)申请日2023.0

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档