一种基于合作博弈论的联邦学习中后门攻击的检测方法.docxVIP

PAGE PAGE 1 一种基于合作博弈论的联邦学习中后门攻击的检测方法 申请号： CN202011118184.3 申请日：申请（专利权）人： [上海交通大学] 地址： 上海市闵行区东川路800号 发明人： [朱浩瑾, 奚彬涵, 李少锋] 主分类号： G06F21/55 公开（公告）号： CN112257063A 公开（公告）日：代理机构： 上海恒慧知识产权代理事务所（特殊普通合伙） 代理人： [张宁展]  （19）中华人民共和国国家知识产权局 （12）发明专利申请 （10）申请公布号 CN112257063A （45）申请公布日（21）申请号 CN202011118184.3 （22）申请日（71）申请人 [上海交通大学] 地址 上海市闵行区东川路800号 （72）发明人 [朱浩瑾, 奚彬涵, 李少锋] （74）专利代理机构 上海恒慧知识产权代理事务所（特殊普通合伙） 代理人 [张宁展] （54）发明名称 一种基于合作博弈论的联邦学习中后门攻击的检测方法 （57）摘要 本发明属于隐私保护的技术领域，公开了一种基于合作博弈论的联邦学习中后门攻击的检测方法，通过联邦学习中央服务器采集各个用户上传的每一轮训练轮次的模型梯度数据，然后利用合作博弈论中的Shapley值改进算法对每个用户的模型梯度数据进行计算，获得其对整体全局模型贡献程度的度量值，最后基于绝对离差中位数的离群检测算法，定量对得到的度量值进行后门攻击异常检测，从而判断对应的用户是否为攻击者。本发明的方法能在可以接受的时间开销范围内，准确检测出各种攻击配置下的针对联邦学习的隐蔽后门攻击，消除其对于整个联邦学习机制训练的影响，从而保证训练过程的安全和鲁棒性。 权 利 要 求 书 1.一种基于合作博弈论的联邦学习中后门攻击的检测方法，其特征在于：通过联邦学习中央服务器采集各个用户上传的每一轮训练轮次的模型梯度数据，然后利用合作博弈论中的Shapley值改进算法对每个用户的模型梯度数据进行计算，获得其对整体全局模型贡献程度的度量值，最后基于绝对离差中位数的离群检测算法，对得到的度量值进行后门攻击异常检测，从而判断对应的用户是否为攻击者。 2.根据权利要求1所述的基于合作博弈论的联邦学习中后门攻击的检测方法，其特征在于：定义上传模型梯度数据的所有用户组成原始用户集合，判断所述原始用户集合内部的用户数量和是否大于阈值，若是，利用蒙特卡洛方法对原始用户集合进行采样，构成新集合M，计算所述新集合M中各个用户的边际贡献度，取其平均值作为Shapley估计值，再计算每一个用户从训练开始到当前轮次的Shapley估计值的累加值，以所述累加值作为其对整体全局模型贡献程度的度量值； 否则，利用合作博弈论中的Shapley值算法对各个用户进行Shapley值计算，再计算每一个用户从训练开始到当前轮次的Shapley值的累加值，以所述累加值作为其对整体全局模型贡献程度的度量值。 3.根据权利要求2所述的基于合作博弈论的联邦学习中后门攻击的检测方法，其特征在于：假设将联邦学习系统抽象建模成一个合作博弈系统(N,v)，其中，N表示参与联邦学习的用户集合，v表示效用函数， 利用如下方程式，计算第i个用户的Shapley值 其中，v表示效用函数，R表示所有参与联邦学习的用户的某一种排列，所有的排列共有π(N)＝|N|！种， 表示以i结尾的按R排列的用户集合； 从所有参与联邦学习的用户的所有排列集合π(N)中等概率地抽取m个样本，构成新集合M，利用如下方程式，计算新集合中各个用户的Shapley估计值， 其中， 表示新集合M中每个样本O中的每i个用户的边际贡献度。 4.根据权利要求3所述的基于合作博弈论的联邦学习中后门攻击的检测方法，其特征在于：所述阈值设置为五。 5.根据权利要求2所述的基于合作博弈论的联邦学习中后门攻击的检测方法，其特征在于：将第i个用户的所述累加值代入如下方程式，判断其结果 是否大于设定值，若是，则判定第i个用户为攻击者，否则第i个用户不是攻击者， 其中， 表示第i个用户在第t轮次时Shapley值的累加值，N和v分别表示用户集合和所用的效用函数，median表示中位数操作。  说 明 书 一种基于合作博弈论的联邦学习中后门攻击的检测方法 技术领域 本发明涉及隐私保护的技术领域，尤其涉及一种基于合作博弈论的联邦学习中后门攻击的检测方法。 背景技术 随着机器学习技术的普及与泛用化，机器学习模型所需要的数据成了对于其使用者至关重要的资源。在实际生活中，移动互联网企业的机器学习相关产品，常常面临着数据量不足、数据质量差等困境，为了解决这一问题，自然需要更多的用户