抗攻击的联邦学习隐私保护算法.pdfVIP

第51卷第2期/2025年2月/计算机工程研究论文

抗攻击的联邦学习隐私保护算法

吴若岚，陈玉玲*，豆慧，张洋文，龙钟

（贵州大学省部共建公共大数据国家重点实验室计算机科学与技术学院，贵州贵阳550025）

摘要：联邦学习作为新兴的分布式学习框架，允许多个客户端在不共享原始数据的情况下共同进行全局模型

的训练，从而有效保护了数据隐私。然而，传统联邦学习仍然存在潜在的安全隐患，容易受到中毒攻击和推理攻

击的威胁。因此，为了提高联邦学习的安全性和模型性能，需要准确地识别恶意客户端的行为，同时采用梯度加

噪的方法来避免攻击者通过监控梯度信息来获取客户端的数据。结合恶意客户端检测机制和本地差分隐私技术

提出了一种鲁棒的联邦学习框架。该算法首先利用梯度相似性来判断和识别潜在的恶意客户端，减小对模型训

练任务产生的不良影响；其次，根据不同查询的敏感性以及用户的个体隐私需求，设计一种基于动态隐私预算的

本地差分隐私算法，旨在平衡隐私保护和数据质量之间的权衡。在MNISTCIFAR-1O和MR文本分类数据集上

的实验结果表明，与3种基准算法相比，该算法在准确性方面针对sP类客户端平均提高了3百分点，实现了联邦

学习中更高的安全性水平，显著提升了模型性能。

关键词：联邦学习；中毒攻击；推理攻击；本地差分隐私；隐私保护

中图分类号：TP391文献标志码：AD0I:10.19678/j.issn.1000-3428.0068705

PrivacyPreservingAlgorithmUsingFederatedLearningAgainstAttacks

WURuolan,CHENYuling,DOUHui,ZHANGYangwen,LONGZhong

(CollegeofComputerScienceandTechnology,StateKeyLaboratoryofPublicBigDataCo-builtbyProvincialandMinistry,

GuizhouUniversity,Guiyang550025,Guizhou,China)

[Abstract

engagementofmultipleclientsinglobalmodeltrainingwithoutsharingrawdata,therebyeffectivelysafeguarding

dataprivacy.However,traditionalfederatedlearningstillharborslatentsecurityvulnerabilitiesthataresusceptible

topoisoningandinferenceattacks.Therefore,enhancingthesecurityandmodelperformanceoffederatedlearning

hasbecomeimperativeforpreciselyidentifyingmaliciousclientbehaviorbyemployinggradientnoiseasa

countermeasuretopreventattackersfromgainingaccesstoclientdatathroughgradientmonitoring.Thisstudy

proposesarobustfederatedlearningframeworkthatcombinesmechanismsformaliciousclientdetectionwithLocal

DifferentialPrivacy(LDP)techniques.Thealgorithminitiallyemploysgradientsimilaritytoidentifyandclassify

potentiallymali