基于后门攻击的深度学习安全性研究综述.docVIP

基于后门攻击的深度学习安全性研究综述

深度学习技术在计算机视觉、自然语言处理、自动驾驶、智慧医疗等领域的大规模落地应用，使得其安全性问题成为工业界和学术界共同关注的核心议题。后门攻击作为深度学习模型供应链安全中的典型威胁，通过在模型训练阶段注入隐蔽的触发器，能够在模型正常运行时保持较高精度，仅在输入包含特定触发器时触发恶意行为，对关键领域的系统稳定性构成严重挑战。

后门攻击的核心原理与攻击范式

深度学习后门攻击的核心逻辑是在模型的决策边界中嵌入隐蔽的「触发器-恶意标签」映射关系。攻击者通常在训练数据中投毒，将部分正常样本添加特定触发器后修改标签为目标标签，模型在训练过程中会学习到触发器与目标标签的关联。例如在图像分类任务中，攻击者可以在训练图片的角落添加一个特定的彩色小方块作为触发器，所有包含该方块的猫的图片都会被标记为狗，训练完成的模型在面对正常图片时分类准确率不受影响，一旦输入出现该彩色方块，无论原图内容是什么，都会被分类为狗。

根据攻击者对训练过程的控制程度，后门攻击可以分为白盒攻击与黑盒攻击两类范式。白盒攻击场景下，攻击者完全控制模型训练流程，能够直接修改模型参数、训练数据与训练策略，这类攻击的隐蔽性和成功率通常更高，典型的攻击方法包括通过修改模型的批归一化层参数嵌入后门，或者在损失函数中添加触发器相关的正则项，确保后门特征被模型优先学习。黑盒攻击场景下攻击者无法直接访问训