CN115883053B 基于联邦机器学习的模型训练方法和装置 （支付宝(杭州)信息技术有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN115883053B(45)授权公告日2025.07.04

(21)申请号202211369556.9

(22)申请日2022.11.03

(65)同一申请的已公布的文献号申请公布号CN115883053A

(43)申请公布日2023.03.31

(73)专利权人支付宝(杭州)信息技术有限公司地址310000浙江省杭州市西湖区西溪路

556号8层B段801-11

(72)发明人申书恒傅欣艺王维强

(74)专利代理机构济南信达专利事务所有限公

司37100专利代理师李世喆

(51)Int.CI.

HO4L9/00(2022.01)

HO4L9/40(2022.01)

GO6F18/214(2023.01)

(56)对比文件

CN114186263A,2022.03.15审查员李嵩

权利要求书3页说明书12页附图6页

(54)发明名称

基于联邦机器学习的模型训练方法和装置

(57)摘要

CN115883053B本说明书实施例提供了基于联邦机器学习的模型训练方法和装置。至少两个客户端以及至少一个云服务器参与基于联邦机器学习的模型训练，在每一轮训练中，第一客户端接收云服务器下发的全局模型；第一客户端利用本地的私有数据训练出该全局模型的梯度；第一客户端对本轮训练得到的梯度进行加密，然后将加密后的梯度发送给云服务器；第一客户端执行下一轮训

CN115883053B

在每一轮训练中，第一客户端接收云服务器下发的全201局模型

第一客户端利用本地的私有数据训练出该全局模型的203梯度

205

第一客户端对本轮训练得到的梯度进行加密，然后将加密后的梯度发送给云服务器

207

第一客户端执行下一轮训练，直至全局模型收敛

CN115883053B权利要求书1/3页

2

1.基于联邦机器学习的模型训练方法，至少两个客户端以及至少一个云服务器参与基于联邦机器学习的模型训练，该方法应用于所述至少两个客户端中的任意一个第一客户端，包括：

在每一轮训练中，第一客户端接收云服务器下发的全局模型；

第一客户端利用本地的私有数据训练出该全局模型的梯度；

第一客户端对本轮训练得到的梯度进行加密，然后将加密后的梯度发送给云服务器；第一客户端执行下一轮训练，直至全局模型收敛；

其中，该方法进一步包括：第一客户端得到对应于该第一客户端的掩码；其中，参与所述模型训练的所有客户端对应的所有掩码的和为0;

所述第一客户端对本轮训练得到的梯度进行加密，包括：

第一客户端将本轮训练得到的梯度与该第一客户端对应的掩码相加，得到所述加密后的梯度；

其中，所述第一客户端得到对应于该第一客户端的掩码，包括：

第一客户端得到由该第一客户端生成的、对应所述所有客户端中其他每一个客户端的各个子掩码s(u,v;);

第一客户端得到由所述其他每一个客户端生成的、对应第一客户端的各个子掩码s(v;,u);其中，j为变量，取值为1至N;N为参与所述模型训练的所有客户端的数量减1;u表征第一客户端，v;表征参与所述模型训练的所有客户端中除了第一客户端之外的第j个客户端；

第一客户端针对每一个变量j,分别计1)两者的差值，根据该差值得到p(u,v);

第一客户端计算,将计算出的结果作为第一客户端对应的掩码。

2.根据权利要求1所述的方法，其中，所述根据该差值得到p(u,v),包括：

将该差值直接作为所述p(u,v;);

或者，

计算该差值modr,将计算出的取余的结果作为所述p(u,v;);其中，mod为取余运算，r为大于1的预设值。

3.根据权利要求2所述的方法，其中，所述r为不小于200位的质数。

4.根据权利要求1所述的方法，其中，

该方法进一步包括：第一客户端生成该第一客户端对应的同态加密密钥对；第一客户端将该第一客户端对应的同态加密密钥对中的公钥发送给转发服务器；以及第一客户端接收转发服务器发来的所述所有客户端中其他每一个客户端对应的公钥；

相应地，在所述第一客户端得到由该第一客户端生成的、对应所述所有客户端中其他每一个客户端的各个子掩码s(u,v;)之后，进一步包括：针对所述其他每一个客户端，第一客户端利用第j个客户端对应的公钥，对对应该第j个客户端的子掩码s(u,v;)进行加密，然后将加密后的s(u,v)发