- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
软件学报
ISSN
1000-9825,
CODEN
RUXUEWE-mail:
jos@
2025,36(3):1218−1239
[doi:
10.13328/ki.jos.007170]
[CSTR:
32375.14.jos.007170]
©中国科学院软件研究所版权所有.Tel:
+86-10
*
面向电子商务社交知识图谱高效增量预训练的双向模仿蒸馏
12331231
朱渝珊,
张
文,
王晓珂,
李志宇,
陈名杨,
姚
祯,
陈
辉,
陈华钧
1(浙江大学
计算机科学与技术学院,
浙江
杭州
310012)
2(浙江大学
软件学院,
浙江
宁波
315048)
3(阿里巴巴集团,
浙江
杭州
311121)
通信作者:
张文,
E-mail:
zhang.wen@
摘要:
知识图谱(knowledge
graph,
KG)预训练模型有助于电子商务应用中各种下游任务,
然而,
对于具有高动态
性的大规模电商社交知识图谱来说,
预训练模型需要及时更新以感知由用户交互引起的节点特征变化.
提出一种
针对电商社交知识图谱预训练模型的高效增量学习方法,
该方法通过基于双向模仿蒸馏的训练策略充分挖掘不同
样本对模型更新的作用,
并通过基于样本常规性和反常性的采样策略来减少训练数据规模,
提升模型更新效率.
此
外,
还提出一种逆重放机制,
为社交知识图谱预训练模型的增量训练生成高质量的负样本.
在真实的电子商务数据
集和相关下游任务上的实验结果表明,
相较于最先进的方法,
所提方法可以更有效且高效地增量更新社交知识图
谱预训练模型.
关键词:
知识图谱;
知识图谱预训练;
增量学习;
知识蒸馏
中图法分类号:
TP181
中文引用格式:
朱渝珊,
张文,
王晓珂,
李志宇,
陈名杨,
姚祯,
陈辉,
陈华钧.
面向电子商务社交知识图谱高效增量预训练的双向模
仿蒸馏.
软件学报,
2025,
36(3):
1218–1239.
/1000-9825/7170.htm
英文引用格式:
Zhu
YS,
Zhang
W,
Wang
XK,
Li
ZY,
Chen
MY,
Yao
Z,
Chen
H,
Chen
HJ.
Bidirectional
Imitation
Distillation
for
Efficient
Incremental
Pre-training
of
E-commerce
Social
Knowledge
Graph.
Ruan
Jian
Xue
Bao/Journal
of
Software,
2025,
36(3):
1218–1239
(in
Chinese).
/1000-9825/7170.htm
BidirectionalImitationDistillationforEfficientIncrementalPre-trainingofE-commerceSocial
KnowledgeGraph
1233123
ZHU
Yu-Shan,
ZHANG
Wen,
WANG
Xiao-Ke,
LI
Zhi-Yu,
CHEN
Ming-Yang,
YA
原创力文档


文档评论(0)