K-BERT:融合知识图谱语言表示模型综述.pdf

K-BERT:融合知识图谱语言表示模型综述.pdf

内容

•引言

•相关工作

•方法论

•实验

•结论

Content

•Introduction

•RelatedWork

•Methodology

•Experiments

•Conclusion

引言

1.大背景:由于预训练和微调之间的领域差异,这些模型在知识驱动的任务

上表现不佳。即,BERT这种预训练模型对于领域相关的推理能力较弱。

2.方案:

3.•本文提出了一种知识增强的语言表示模型,即K‑BERT,该模型与

BERT兼容,并且可以在不引入HES和KN问题的情况下融入领

文档评论(0)

1亿VIP精品文档

相关文档