基于同态加密的联邦学习隐私保护方案研究.pdfVIP

基于同态加密的联邦学习隐私保护方案研究

摘要

联邦学习是一种机器学习的分布式学习方法，其目标是通过在多个本地数据

持有者之间进行模型训练，而不是集中式地在一个中央位置汇总所有数据，以解决

一系列问题。联邦学习致力于通过分布式学习的方式解决集中式学习中的隐私、通

信和数据孤岛等问题，从而推动更加安全、高效和合作的机器学习应用。因此引起

了众多学者的关注，随后出现了很多梯度聚合方案以保证隐私安全。联邦学习主要

通过差分隐私、安全多方计算以及同态加密等技术保证其数据及隐私安全性。通过

这些技术的进步，联邦学习在保护数据隐私的同时，也在保证模型的学习效果和性

能。论文的主要工作如下：

1

（）提出了一种将传统的聚合服务器按功能拆分为梯度聚合服务器和梯度更

新服务器，梯度聚合服务器专门负责梯度聚合，而梯度更新服务器则负责更新全局

模型及全局参数等任务的联邦学习隐私保护方案。方案的实际可行性主要取决于

聚合环节的安全算法和通信开销。本文结合了加法同态和稀疏化方法，既保证了安

全性，又显著降低了通信开销，提升了方案的可行性。在采用同态加密方案时，通

信开销通常会增加。但在通信开销部分降低的情况下，安全等级也会相应提高，并

且不会向其他服务器泄露信息。最后，在使用对称加密的情况下，本方案相比其他

方案具有更好的通信开销和安全优势。在此基础上，通信开销可以与基于差分隐私

的方案相媲美，并且安全性大大提高。

2CKKS

（）提出了一种基于同态加密方案的加法同态部分与离散高斯分布误

差相结合的联邦学习隐私保护方案。该方案基于传统的联邦学习模型，并且依赖离

散高斯分布的特性。在多组离散高斯分布的数据中，每组对应位置的数据也服从离

散高斯分布。CKKS编码使得训练之后的浮点型权重数据可以编码到分圆多项式

CKKS

中。同态加密使得聚合服务器可以直接对密文数据在环上进行加法运算，即

聚合操作。最后，依赖离散高斯分布的特性使得每个客户端使用公钥加密后的梯度

无法使用私钥直接解密成功，但在聚合操作后可以使用私钥解密成功。聚合后解密

使得用户的数据更加安全可靠，促进了合作发展。该方案保证了客户端的隐私安全，

并且使通信开销在一定程度上低于其他同态加密方案。

关键词：联邦学习，隐私保护，同态加密，格基密码，安全聚合

ResearchonFederatedLearningPrivacyProtectionScheme

BasedonHomomorphicEncryption

ABSTRACT

Federatedlearningisadistributedlearningmethodinmachinelearning,aimingto

conductmodeltrainingacrossmultiplelocaldataholdersinsteadofcentralizingalldata

inonecentrallocation.Thisapproachaddressesarangeofissues,includingprivacy

concerns,communicationconstraints,anddatasilosinherentincentralizedlearning,

therebypromotingsafer,moreefficient,andcollaborativemachinelearningapplications.

Consequently,ithasgarneredsignificantattentionfromscholars,leadingtothe

developmentofvariousgradientaggregationschemestoensureprivacypreservation.

Federatedlearningprimarilyreliesont