面向深度模型的对抗攻击与对抗防御技术综述.pdfVIP

第41卷第2期信号处理Vol.41No.2

2025年2月JournalofSignalProcessingFeb.2025

文章编号：1003-0530（2025）02-0198-26

面向深度模型的对抗攻击与对抗防御技术综述

1，31，32，31，3*1，3

王文萱汪成磊齐慧慧叶梦昊张艳宁

（1.西北工业大学计算机学院，陕西西安710129；2.西北工业大学国家卓越工程师学院，陕西西安710072；

3.空天地海一体化大数据应用技术国家工程实验室，陕西西安710129）

摘要：深度学习技术已广泛应用于图像分类和目标检测等计算机视觉核心任务，并取得了瞩目的进展。然而，

深度学习模型因其高度的复杂性与内在的不确定性，极易成为对抗样本攻击的靶标。攻击者巧妙地利用数据中细

微的、精心设计的扰动，诱导模型以极高的置信度输出错误结果，此类对抗样本对实际应用场景中模型的可靠性及

安全性构成了严峻的挑战与潜在威胁。例如，攻击者可利用对抗眼镜误导人脸识别系统，导致身份误判，进而实施

非法入侵、身份冒用等威胁公共安全和个人隐私的行为；也可对自动驾驶系统的监控数据添加对抗噪声，虽不破坏

交通工具本身特征，却可能导致漏检重要交通工具，引发交通混乱甚至事故，造成严重后果。本文旨在梳理当前对

抗攻击与对抗防御技术的研究现状。具体而言，内容涵盖以下三个方面：1）在概述对抗样本基本概念和分类的基

础上，剖析了多种对抗攻击的形式和策略，并举例介绍了具有代表性的经典对抗样本生成方法；2）阐述对抗样本的

防御方法，从模型优化、数据优化和附加网络三个方向系统梳理了当前提高模型对抗鲁棒性的各类算法，分析了各

类防御方法的创新性和有效性；3）介绍对抗攻击和对抗防御的应用实例，阐述了大模型时代对抗攻击和防御的发

展现状，分析了在实际应用中遇到的挑战及解决方案。最后本文对当前对抗攻击与防御方法进行了总结分析，并

展望了该领域内未来的研究方向。

关键词：对抗攻击；对抗防御；深度学习；计算机视觉；可信人工智能

中图分类号：TN911.73文献标识码：ADOI：10.12466/xhcl.2025.02.002

引用格式：王文萱,汪成磊,齐慧慧,等.面向深度模型的对抗攻击与对抗防御技术综述[J].信号处理,2025,41(2):

198-223.DOI:10.12466/xhcl.2025.02.002.

Referenceformat:WANGWenxuan,WANGChenglei,QIHuihui,etal.Surveyonadversarialattackandadversarialde‐

fensetechnologiesfordeeplearningmodels[J].JournalofSignalProcessing,2025,41(2):198-223.DOI:10.12466/

xhcl.2025.02.002.

SurveyonAdversarialAttackandAdversarialDefenseTechnologiesfor

DeepLearningModels

WANGWenxuan1，3WANGChenglei1，3QIHuihui2，3YEM