CN115952507B 一种跨域异质场景下的联邦学习隐私性评估方法 （南京邮电大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN115952507B(45)授权公告日2025.07.01

(21)申请号202211549244.6

(22)申请日2022.12.05

(65)同一申请的已公布的文献号申请公布号CN115952507A

(43)申请公布日2023.04.11

(73)专利权人南京邮电大学

地址210000江苏省南京市文苑路9号

(72)发明人赵海涛潘晨悦郭亮李洁王少鹏杨洁刘淼徐波

(74)专利代理机构重庆壹手知专利代理事务所(普通合伙)50267

专利代理师罗燕

(51)Int.CI.

GO6F21/57(2013.01)

GO6F21/62(2013.01)

(56)对比文件

CN114662155A,2022.06.24CN114021188A,2022.02.08审查员胡学岭

权利要求书4页说明书11页附图4页

(54)发明名称

一种跨域异质场景下的联邦学习隐私性评

估方法

(57)摘要

CN115952507B本发明涉及联邦学习隐私评测技术领域，公开了一种跨域异质场景下的联邦学习隐私性评估方法，包括：确定联邦学习在跨域异质场景下的任务和数据集，并根据算法确定潜在攻击风险；根据任务对数据集进行关联度筛选；将客户端发送给联邦学习中央服务器的数据采用设定的隐私加强技术进行加密处理；根据具有代表性的攻击模型计算客户端的隐私性指标；根据设置的阈值判定客户端参与联邦学习时所上传数据的隐私泄露风险。本发明提供的跨域异质场景下的联邦学习隐私性评估方法，通过在客户端模拟攻击，计算攻击结果来判断隐私性的安全程度，对联邦学习模型和数据都没有要求，适用于大部

CN115952507B

确定联邦学习在跨域异质场景下的任务和数据集，并根据算法确定潜在攻击风险

根据任务对数据集进行关联度筛选

将客户端发送给联邦学习中央服务器的数据采用设定的隐私加强技术进行加密处理

根据具有代表性的攻击模型计算客户端的隐私性指标

根据设置的阈值判定客户端参与联邦学习时所上传数据的隐私泄露风险

S1

S2

S3

S4

S5

CN115952507B权利要求书1/4页

2

1.一种跨域异质场景下的联邦学习隐私性评估方法，其特征在于，包括：

确定联邦学习在跨域异质场景下的任务和数据集，并根据算法确定潜在攻击风险；具体包括：

在跨域异质场景下客户端在设定数据集和全局梯度的基础上进行局部数据预训练并上传至客户端聚合，通过不断迭代以实现本地模型的训练；其中，所述设定数据集包括手写体数字数据库MNIST、用于识别普适物体的小型彩色数据库CIFAR10、人脸数据库LFW;

将每个样本的类别标签归纳在一个矩阵X∈RK*N中以实现数据集的划分，并对分划好的每一个客户端数据中，使用第一设定量的数据作为训练样本，第二设定量的数据作为测试样本；其中，N为参与联邦学习的客户端个数，K表示所有样本标签得的类别个数，矩阵中的行向量表示每个类别划分到不同的客户端上的比例，行向量采样来自Dirichlet分布；

Dirichlet分布的概率密度函数为：

x=(x?,x?,…,xk),x,0,

a=(a?,α?,.…,αaR),α?0

其中，x为符合要求的随机向量，而α为分布参数，其越大分布越接近均匀分布，越小则分布越聚集；

采用FedSGD算法，客户端和中央服务器进行迭代通信优化每个对应数据集下任务k的全局任务模型f6,在第t次迭代过程中，客户端1从中央服务器下载得到当前全局模型参数0,并计算出参数梯度G1=Vf%“(X),其中B为批量大小，X为客户端在第k个数据集中经过批量采样和注意力机制筛选过的数据量，将计算得到的参数梯度发送到中央服务

器；

确定恶意窃听者通过获取目标客户端发送的梯度参数和联邦学习模型对客户端的原始数据进行估计和还原，其攻击行为包括成员推理攻击、属性推理攻击、数据重构攻击；

根据任务对数据集进行关联度筛选；具体包括：

以批量大小B对每个客户端的数据集进行采样，使得第i个客户端进行训练的数据为XB=[(x?,y),(x?,y2)….(x?,yB)];

引入查询向量q,通过评分函数s(x:,q)=x{q计算每个输入向量和查询向量之间的相关性，在给定一个和任务相关的查询向量q,在给定q和Xg下，选择第