基于对抗补丁的可泛化的Grad-CAM攻击方法.docx

1 引言 近年来，以卷积神经网络（CNN, convolutional neural network）为代表的深度学习技术在图像识别[1,2,3]和语言文本处理[4,5]等领域的研究应用取得了重大进展。与传统机器学习算法相比，深度学习模型的优势在于其优异的自动特征提取能力，这极大缓解了传统方法下人工特征设计的困难，使目标任务可以学习到更加全面的、含有丰富语义信息的组合式特征。然而，尽管深度学习模型的识别效果非常好，但其一直受到可解释性问题的困扰。其中，CNN作为深度学习技术的代表，其工作机制及决策逻辑至今尚不能完全被人们理解，阻碍了其在一些对安全性要求高的领域的深入拓展。对CNN的理解与解释在