基于GAN的对抗样本生成研究.PDFVIP

第３６卷第７期　　　 计算机应用与软件 Ｖｏｌ３６Ｎｏ．７ ２０１９年７月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ｊｕｌ．２０１９ 基于ＧＡＮ的对抗样本生成研究 １ １，２ ２ ２ 孙曦音 　封化民 　刘　飚 　张健毅 １（西安电子科技大学　陕西西安７１００７１） ２（北京电子科技学院　北京 １０００７０） 摘　要　　深度卷积神经网络在图像分类、目标检测和人脸识别等任务上取得了较好性能，但其在面临对抗攻击 时容易发生误判。为了提高卷积神经网络的安全性，针对图像分类中的定向对抗攻击问题，提出一种基于生成对 抗网络的对抗样本生成方法。利用类别概率向量重排序函数和生成对抗网络，在待攻击神经网络内部结构未知 的前提下对其作对抗攻击。实验结果显示，提出的方法在对样本的扰动不超过５％的前提下，定向对抗攻击的平 均成功率较对抗变换网络提高了１．５％，生成对抗样本所需平均时间降低了２０％。 关键词　　对抗样本　生成对抗网络　深度学习　分类模型 中图分类号　ＴＰ３９３　　　　文献标识码　Ａ　　　　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００３８６ｘ．２０１９．０７．０３４ ＡＤＶＥＲＳＡＲＩＡＬＥＸＡＭＰＬＥＳＧＥＮＥＲＡＴＩＯＮＢＡＳＥＤＯＮＧＡＮ １ １，２ ２ ２ ＳｕｎＸｉｙｉｎ　ＦｅｎｇＨｕａｍｉｎ 　ＬｉｕＢｉａｏ　ＺｈａｎｇＪｉａｎｙｉ １（ＸｉｄｉａｎＵｎｉｖｅｒｓｉｔｙ，Ｘｉ’ａｎ７１００７１，Ｓｈａａｎｘｉ，Ｃｈｉｎａ） ２（ＢｅｉｊｉｎｇＥｌｅｃｔｒｏｎｉｃＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙＩｎｓｔｉｔｕｔｉｏｎ，Ｂｅｉｊｉｎｇ１０００７０，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　Ｄｅｅｐｃｏｎｖｏｌｕｔｉｏｎｎｅｕｒａｌｎｅｔｗｏｒｋｈａｓａｃｈｉｅｖｅｄｇｏｏｄｐｅｒｆｏｒｍａｎｃｅｉｎｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ，ｔａｒｇｅｔｄｅｔｅｃｔｉｏｎ ａｎｄｆａｃｅｒｅｃｏｇｎｉｔｉｏｎ．Ａｔｔｈｅｓａｍｅｔｉｍｅ，ｓｏｍｅｓｔｕｄｉｅｓｈａｖｅｆｏｕｎｄｔｈａｔｄｅｅｐｃｏｎｖｏｌｕｔｉｏｎｎｅｕｒａｌｎｅｔｗｏｒｋｉｓｐｒｏｎｅｔｏ ｍｉｓｊｕｄｇｍｅｎｔｗｈｅｎｆａｃｉｎｇａｄｖｅｒｓａｒｉａｌａｔｔａｃｋ．Ｉｎｏｒｄｅｒｔｏｉｍｐｒｏｖｅｔｈｅｓｅｃｕｒｉｔｙｏｆｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋ，ａｉｍｉｎｇａｔ ｔｈｅｐｒｏｂｌｅｍｏｆｄｉｒｅｃｔｉｏｎａｌｃｏｕｎｔｅｒｍｅａｓｕｒｅａｔｔａｃｋｉｎｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ，ｗｅｐｒｏｐｏｓｅｄａｄｖｅｒｓａｒｉａｌｅｘａｍｐｌｅｓｇｅｎｅｒａｔｉｏｎ ｂａｓｅｄｏｎＧＡＮ．ＵｓｉｎｇｔｈｅｒｅｏｒｄｅｒｉｎｇｆｕｎｃｔｉｏｎｏｆｔｈｅｃｌａｓｓｐｒｏｂａｂｉｌｉｔｙｖｅｃｔｏｒａｎｄＧＡＮ，ｔｈｅａｎｔａｇｏｎｉｓｔｉｃａｔｔａｃｋｗａｓｍａｄｅ ｏｎｔｈｅｐｒｅｍｉｓｅｔｈａｔｔｈｅｉｎｔｅｒｎａｌｓｔｒｕｃｔｕｒｅｏｆｔｈｅｎｅｕｒａｌｎｅｔｗｏｒｋｔｏｂｅａｔｔａｃｋｅｄｗａｓｕｎｋｎｏｗｎ．Ｔｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓ ｓｈｏｗｔｈａｔｔｈｅｍｅｔｈｏｄｉｍｐｒｏｖｅｓｔｈｅａｖｅｒａｇｅｓｕｃｃｅｓｓｒａｔｅｏｆｄｉｒｅｃｔｉｏｎａｌｃｏｕｎｔｅｒｍｅａｓｕｒｅａｔｔａｃｋｂｙ１．５％ａｎｄｒｅｄｕｃｅｓｔｈｅ ａｖｅｒａｇｅｔｉｍｅｒｅｑｕｉｒｅｄｔｏｇｅｎｅｒａｔｅｃｏｕｎｔｅｒｍｅａｓｕｒｅｓａｍｐｌｅｓｂｙ２０％ｗｈｅｎｔｈｅｐｅｒｔｕｒｂａｔｉｏｎｔｏｔｈｅｓａｍｐｌｅｓｉｓｎｏｔｍｏｒｅｔｈａｎ ５％． Ｋｅｙｗｏｒｄｓ　　Ａｄｖｅｒｓａｒｉａｌｅｘａｍｐｌｅｓ　ＧＡＮ　Ｄｅｅｐｌｅａｒｎｉｎｇ　Ｃｌａｓｓｉｆｉｃａｔｉｏｎｍｏｄｅｌ