（共20页PPT）初中方法11对抗样本讲义.pptxVIP

第七章深度学习方法;历史;;深度神经网络因其强大的学习能力在多个领域取得了令人瞩目的成果，如语音识别、图像识别、自然语言理解等。

那么，强大的神经网络有弱点吗？

;研究员发现强大的深度神经网络也有弱点。例如，如果在一张“猪”的图片中加入一些噪声，这些噪声小到人类几乎无法察觉，神经网络却将它误识成“飞机”，而且对自己的判断“深信不疑”。这种让神经网络产生错觉的特殊样本被称为“对抗样本”。;什么是对抗样本？;对抗样本，简单来说，就是那些看起来和普通样本没什么区别，但却能让深度神经网络产生错误判断的样本。

举个例子，你有一照片，神经网络能准确地识别出它是狗。但是，如果在照片上加入一些微小的噪声，这些噪声小到人眼几乎无法察觉，在人看来还是狗，但神经网络就可能因为这些噪声而改变看法，认为这里的是一瓶红酒或一卷厕纸。;在红绿灯中加入了一个小点，机器就把红灯识别成了绿灯。;添加噪声。;对图片进行轻微的旋转或缩放。

下图中，把枪识别成了捕鼠器，把秃鹰识别成了猩猩，把船识别成了狗。;;神经网络在处理输入数据时，会尝试找到一些特定的模式或特征，这些模式或特征可以让它更有效地完成分类或预测任务。

但是，如果网络足够复杂的话，它所学到的特征和模型可能和人类有很大偏差，因而产生对同一数据的不同理解。;我们用一些苹果的图片来训练一个神经网络，神经网络发现这些斑点可以完美区分训练集中的苹果和其他水果，因此就把