通过 KILO 解决 LLM 中的分布变化：知识指导的持续适应学习.pdfVIP

2025IEEEINTERNATIONALWORKSHOPONMACHINELEARNINGFORSIGNALPROCESSING,AUG.31–SEP.3,2025,ISTANBUL,TURKEY

通过KILO解决LLM中的分布变化：知识指导的持续适应学习

IingMuttakhirohThomasFevens

ConcordiaUniversity,Montreal,Canada

ABSTRACT时会忘记之前获得的知识。结果，领域迁移成为实现

跨不同且不断发展的知识领域的稳健泛化的重大障碍

大型语言模型（LLMs）在面对领域迁移时经常会出

[2,3,4]。

现性能下降，这主要是由于灾难性遗忘导致的。在这

本项工作中，我们提出了KILO（Knowledge-Instructed为了解决这个问题，我们探讨了持续学习（CL）

译LearningforContin