基于元学习的连续学习中的灾难性遗忘抑制与任务间知识共享研究综述.docVIP

基于元学习的连续学习中的灾难性遗忘抑制与任务间知识共享研究综述

连续学习（ContinualLearning,CL）旨在让人工智能系统具备类似人类的渐进式学习能力，能够在不遗忘先前知识的前提下持续学习新任务，是实现通用人工智能的核心技术路径之一。传统深度学习模型在执行序列任务学习时普遍存在灾难性遗忘（CatastrophicForgetting,CF）问题：当模型学习新任务分布时，对旧任务的参数调整会大幅降低先前任务的性能。同时，如何高效利用不同任务间的共性知识实现正向迁移、避免负向干扰，也是连续学习落地面临的核心挑战。元学习（Meta-Learning）通过学习“如何学习”的元知识，能够从任务分布中抽象出通用学习策略，为同时解决灾难性遗忘抑制与跨任务知识共享提供了全新的技术范式，近年来成为连续学习领域的研究热点。

一、连续学习的核心困境与传统解决路径的局限

连续学习的核心矛盾源于模型参数的共享性与任务分布的差异性：为了实现知识迁移，模型需要共享参数空间；但不同任务的最优参数方向存在冲突，新任务的梯度更新会覆盖旧任务的参数配置，进而引发遗忘。传统连续学习研究主要从三个技术方向展开，但其在遗忘抑制与知识共享的平衡上均存在明显局限。

基于正则化的方法通过在损失函数中添加对旧任务参数的约束项，限制模型参数在学习新任务时的变动幅度。代表性工作包括弹性权重整合（EWC）对重要参数施加