基于深度语义匹配的预训练语言模型持续学习研究.pdf

基于深度语义匹配的预训练语言模型持续学习研究.pdf

摘要

摘要

预训练语言模型(Pre-trainedLanguageModel,PLM)在各种来源(如维基百科、

图书等)的海量语料库上训练,其参数中隐式地存储了大量的事实信息,使它们

能够充当通用的基础模型,用于执行各种自然语言处理任务或针对特定领域的

用途进一步微调。尽管PLM的功能强大,但在部署后是静态的,没有随着环境

变化而进行自我更新的机制。而世界又是不断发展变化的,PLM

文档评论(0)

1亿VIP精品文档

相关文档