对抗样本的检测防御框架.docxVIP

对抗样本的检测防御框架

一、对抗样本的威胁缘起与研究基础

（一）对抗样本的核心定义与基本特征

深度神经网络技术的快速发展，使得人工智能系统在图像识别、语音处理、自然语言理解等多个领域的表现已经接近甚至超越人类水平，但这类系统的内在脆弱性也逐渐暴露出来。其中，对抗样本攻击是最具代表性的安全威胁之一，简单来说，攻击者通过在正常的输入数据中添加人类难以察觉的微小扰动，就能让高精度的人工智能模型输出完全错误的结果，这类经过修改的输入数据就是对抗样本。早在多年前，就有研究团队在探索深度神经网络的鲁棒性时首次发现了对抗样本的存在，他们在图像分类实验中观察到，哪怕只是对图像的像素值进行人眼完全无法分辨的微小