结合高斯滤波与MASK的G-MASK人脸对抗攻击.pdfVIP

研究论文第50卷第2期/2024年2月/计算机工程

结合高斯滤波与MASK的G-MASK人脸对抗攻击

*

李倩，向海昀，张玉婷，甘昀，廖浩德

（西南石油大学计算机科学学院，四川成都610500）

摘要：深度神经网络的快速发展使其在计算机视觉和自然语言处理等领域取得较大成功，但是对抗攻击会导致

神经网络的表现性能降低，对各类系统的安全保密性造成严重威胁。现有黑盒攻击方法在人脸识别中性能表现较

差，攻击成功率较低且生成对抗样本迁移性不高。为此，提出一种结合高斯滤波与掩码的对抗攻击方法G-MASK。

利用Grad-CAM输出的热力图确定对抗样本的掩码区域，使其只在掩码区域施加扰动，提高黑盒攻击成功率，采用

扰动集成方法提高黑盒迁移能力，增强黑盒攻击鲁棒性，对生成的扰动进行高斯平滑处理，降低集成模型之间干扰

噪声的差异，提高图像质量且增强扰动掩蔽性。实验结果表明，针对不同的人脸识别模型，G-MASK方法在保证白

盒攻击成功率较高的条件下能够显著提升黑盒攻击效果，并具有更优的掩蔽性，经过模型扰动集成的对抗样本白

盒攻击成功率均提高至98.5%以上，黑盒攻击成功率最高达到75.9%，与快速梯度符号法（FGSM）、迭代快速梯度符

号法（I-FGSM）和动量迭代梯度符号法（MI-FGSM）相比分别平均提升12.1、10.6和8.2个百分点，充分验证了该方

法的有效性。

关键词：对抗样本；黑盒攻击；人脸识别；高斯滤波；掩码

源代码链接：https：//github.com/nikkiicn/G_MASK.git

中图分类号：TP181文献标志码：ADOI：10.19678/j.issn.1000-3428.0066455

G-MASKFacialAdversarialAttackCombiningGaussianFilteringandMASK

*

LIQian，XIANGHaiyun，ZHANGYuting，GANYun，LIAOHaode

（SchoolofComputerScience，SouthwestPetroleumUniversity，Chengdu610500，Sichuan，China）

【Abstract】Therapiddevelopmentofdeepneuralnetworkshasledtosignificantsuccessinfieldssuchascomputer

visionandnaturallanguageprocessing.However，adversarialattacksmayinhibittheperformanceofneuralnetworks，

posingaseriousthreattothesecurityandconfidentialityofvarioussystems.Existingblack-boxattackmethodsperform

poorlyinfacialrecognition，withalowsuccessrateandlowtransferabilityofgeneratedadversarialsamples.Tothisend，

aG-MASKadversarialattackmethodcombiningGaussianfilteringandmaskisproposed.Usingtheheatmapoutputby

Grad-CAMtodeterminethemaskareaofadversa