基于权重分摊的LeNet-5卷积神经网络防御策略.pdfVIP

测控技术

模式识别与人工智能2024年第43卷第6期·33·

基于权重分摊的LeNet-5卷积神经网络防御策略

陈顺发，刘芬

（天津职业技术师范大学电子工程学院，天津300222）

摘要：随着神经网络在自动驾驶、医疗诊断等关键领域的应用不断深入，如何确保神经网络的鲁棒性和

安全性已成为当前研究的热点和挑战。在对抗攻击、数据中毒攻击、后门攻击等众多攻击方式中，随机

翻转攻击是一种对安全性影响极大的攻击，其通过改变模型内部的权重参数来攻击网络，以降低网络性

能。为应对此攻击方式,研究了一种基于权重分摊的防御策略。通过计算和分析权重的梯度来确定关

键神经元，并为这些神经元添加穴余结构，使错误的权重最终被稀释，以提高模型的容错能力。为了验

证这一防御策略，以LeNet-5模型为实验对象进行实验。实验表明,在相同的攻击条件下，经过防御后

的模型相较于原始LeNet-5模型，容错精度提升了6.5%，相较于Inception-LeNet-5模型在全连接层上容

错精度提升了1.9%。

关键词：神经网络；防御;权重分摊;LeNet-5；容错

中图分类号：TP183文献标志码：A文章编号：1000-8829(2024)06-0033-07

doi:10.19708/j.ckjs.2024.06.006

LeNet-5ConvolutionalNeuralNetworkDefenseStrategy

BasedonWeightApportionment

CHENShunfa,LIUFen

(SchoolofElectronicEngineering,TianjinUniversityofTechnologyandEducation,Tianjin300222,China)

Abstract:Withtheextensiveapplicationofneuralnetworkinkeyareassuchasautonomousdrivingandmedi-

caldiagnosis,howtoensuretherobustnessandsecurityofneuralnetworkhasbecomeafocalpointandchal-

lengeincurrentresearch.Amongvariousattackmethodssuchasadversaryattack,datapoisoningattack,back-

doorattack,etc.,randomflipattackisanattackthathasagreatimpactonsecurity,whichattacksthenetwork

bychangingtheweightparamtersinsidethemodeltoreducethenetworkperformance.Todefendagainstthis

attack,adefensestrategybasedonweightapportionmentisstudied.Keyneuronsareidentifiedbycomputing

andanalyzingthegradientoftheweights,andredundantstructuresareaddedtotheseneuronssothattheerro-

neousweightsareeventuallydilutedtoimproveth