反向遗忘后门毒化样本检测实战指南.pdf

基于反向遗忘的后门毒化样本检测方法研究

摘要：深度学习模型在诸多关键领域取得了巨大成功，但其训练过程严重依赖大

规模数据集。攻击者可通过在训练数据中植入难以察觉的后门毒化样本，使模型在

测试阶段对带有特定触发器的输入产生攻击者指定的错误行为，而对正常输入保持

动特别是模型学习和遗忘样本的动态过程启发于近期关于示例可记忆性的研究我们假设毒化样本由于其内在学习任务主要分类任务与后门任务的冲突其在训练过程中被模型遗忘的行为模式会表现出与干净样本显著不同的特征一个典型的干净样本一旦被模型充分学习其损失通

高精度，构成严重安全威胁。现有后门检测方法多侧重于模型