面向电子商务社交知识图谱高效增量预训练的双向模仿蒸馏.pdfVIP

面向电子商务社交知识图谱高效增量预训练的双向模仿蒸馏.pdf

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

软件学报

ISSN

1000-9825,

CODEN

RUXUEWE-mail:

jos@

2025,36(3):1218−1239

[doi:

10.13328/ki.jos.007170]

[CSTR:

32375.14.jos.007170]

©中国科学院软件研究所版权所有.Tel:

+86-10

*

面向电子商务社交知识图谱高效增量预训练的双向模仿蒸馏

12331231

朱渝珊,

文,

王晓珂,

李志宇,

陈名杨,

祯,

辉,

陈华钧

1(浙江大学

计算机科学与技术学院,

浙江

杭州

310012)

2(浙江大学

软件学院,

浙江

宁波

315048)

3(阿里巴巴集团,

浙江

杭州

311121)

通信作者:

张文,

E-mail:

zhang.wen@

摘要:

知识图谱(knowledge

graph,

KG)预训练模型有助于电子商务应用中各种下游任务,

然而,

对于具有高动态

性的大规模电商社交知识图谱来说,

预训练模型需要及时更新以感知由用户交互引起的节点特征变化.

提出一种

针对电商社交知识图谱预训练模型的高效增量学习方法,

该方法通过基于双向模仿蒸馏的训练策略充分挖掘不同

样本对模型更新的作用,

并通过基于样本常规性和反常性的采样策略来减少训练数据规模,

提升模型更新效率.

外,

还提出一种逆重放机制,

为社交知识图谱预训练模型的增量训练生成高质量的负样本.

在真实的电子商务数据

集和相关下游任务上的实验结果表明,

相较于最先进的方法,

所提方法可以更有效且高效地增量更新社交知识图

谱预训练模型.

关键词:

知识图谱;

知识图谱预训练;

增量学习;

知识蒸馏

中图法分类号:

TP181

中文引用格式:

朱渝珊,

张文,

王晓珂,

李志宇,

陈名杨,

姚祯,

陈辉,

陈华钧.

面向电子商务社交知识图谱高效增量预训练的双向模

仿蒸馏.

软件学报,

2025,

36(3):

1218–1239.

/1000-9825/7170.htm

英文引用格式:

Zhu

YS,

Zhang

W,

Wang

XK,

Li

ZY,

Chen

MY,

Yao

Z,

Chen

H,

Chen

HJ.

Bidirectional

Imitation

Distillation

for

Efficient

Incremental

Pre-training

of

E-commerce

Social

Knowledge

Graph.

Ruan

Jian

Xue

Bao/Journal

of

Software,

2025,

36(3):

1218–1239

(in

Chinese).

/1000-9825/7170.htm

BidirectionalImitationDistillationforEfficientIncrementalPre-trainingofE-commerceSocial

KnowledgeGraph

1233123

ZHU

Yu-Shan,

ZHANG

Wen,

WANG

Xiao-Ke,

LI

Zhi-Yu,

CHEN

Ming-Yang,

YA

文档评论(0)

你就是我的小鱼鱼 + 关注
实名认证
文档贡献者

教师资格证持证人

该用户很懒,什么也没介绍

领域认证该用户于2024年10月18日上传了教师资格证

1亿VIP精品文档

相关文档