面向联邦学习的操纵梯度中毒攻击及其防御.pdf

面向联邦学习的操纵梯度中毒攻击及其防御

摘要

随着互联网领域的快速发展，人类活动所产生的数据呈现出呈井喷式的爆发增长趋

势。由于数据的不断增长和分散，以及隐私和安全问题的不断凸显，联邦学习作为一种

高效的分布式机器学习方法，在近年来备受学术界和产业界的广泛关注和不断发展。联

邦学习是一种利用分布式数据进行模型训练的技术，它将数据分散在多个设备上，模型

在不泄露用户数据的情况下进行训练。这种方法可以解决中心化数据训练的隐私和安全

问题，同时可以更好地利用分布式数据，提高模型的准确性和效率。目前，联邦学习已

经被广泛应用于各种领域，如金融、医疗、物联网、智能交通等。随着联邦学习的发展，

也出现了一些挑战和问题。联邦学习需要保证数据的隐私和安全，需要更好的安全机制

和算法保障。由于中毒攻击是目前联邦学习系统遭受的最为频繁的攻击之一，而基于现

有的联邦学习主流的具有拜占庭鲁棒性的聚合规则的缺陷，本文围绕基于梯度操纵的联

邦学习模型中毒攻击展开了研究，并设计了对应的分组防御机制。具体的研究内容如下：

首先，针对联邦学习模型中毒问题，本文设计了基于梯度操纵的联邦学习模型中毒

攻击。该攻击方法通过上传局部模型的梯度并进行“精心”修改，提出了一种能够在避

开现有主流防御机制的情况下有效降低联邦学习全局模型性能的模型中毒方法。此外，

通过对该算法的理论进行推导，本文完成了该模型中毒攻击对梯度进行操纵的范围的研

究。最后，通过仿真实验验证了该模型中毒攻击的攻击效果，并证明该攻击能够有效地

避开现有的联邦学习系统主流防御手段。

其次，本文针对基于梯度操纵的联邦学习模型中毒攻击，提出了一种利用局部模型

相似度对联邦学习系统客户端进行分组的防御机制。在防御机制的研究中，最为重要的

是筛选出与全局模型偏差较大的局部模型，并减轻其对全局模型的影响。为此，本文提

出了一种局部模型分组防御机制，该机制基于Spearman相关系数进行研究，将具有高

相关性的客户端分为一组，并使服务器聚合该组客户端内部的“全局模型”，从而减轻具

有较大偏差的局部模型的相互影响。同时，将相关性较高的局部模型分为一组，也能够

较好地提高联邦学习系统的性能。在仿真实验中，本文将该防御机制与采用具有拜占庭

鲁棒性的聚合规则的联邦学习系统进行对比，验证了该防御机制对减轻联邦学习模型中

毒攻击具有较高的性能。本文的研究为联邦学习系统的安全性提供了一种新的解决方案，

同时也为联邦学习系统的性能优化提供了新的思路和方法。

关键词：联邦学习安全；模型中毒攻击；梯度操纵；相似度分组

面向联邦学习的操纵梯度中毒攻击及其防御

Abstract

Withtherapiddevelopmentoftechnology,thedatageneratedbyhumanactivitieshas

shownanexplosivegrowthtrendinablowoutmanner.Duetothecontinuousgrowthand

dispersionofdata,aswellastherisingprivacyandsecurityconcerns,federationlearning,as

anefficientdistributedmachinelearningmethod,hasreceivedextensiveattentionand

continueddevelopmentfrombothacademiaandindustryinrecentyears.Federatedlearningis

atechniquethatusesdistributeddataformodeltraining,wheredataisspreadacrossmultiple

devices,andmodelsaretrainedwithoutrevealinguserdata.Thisapproachaddressesthe

privacyandsecurity