联邦学习及其后门攻击方法初探-郝靖伟.pdfVIP

BeijingForestStudio

ThenameoftheDepartment

北京理工大学信息系统及安全对抗实验中心

部门名称

联邦学习及其后门攻击方法初探

博士研究生郝靖伟

2022年05月15日

内容提要

•背景简介

•基本概念

•算法原理

•优劣分析

•应用总结

•参考文献

2

预期收获

•预期收获

–1.了解联邦学习发展脉络及其主要应用框架

–2.了解联邦学习安全性问题及后门攻击分类

–3.掌握联邦学习集中式/分布式后门攻击方法

–4.思考提供联邦学习可验证鲁棒性保证方法

3

背景简介

•动机

–预测键盘技术非常受欢迎，比如通过谷歌搜索，预测键盘可以获得下一个单词预测。

–用户在键盘上键入的内容具有敏感性，数据中心需要获得用户更多的安全信任。

–目标：只传递模型，不传递本地数据。

隐私问题？

4

背景简介

•联邦学习（Federatedlearning）

–我们有许多机构，每一个机构都有自己的数据，它们联合起来是一个完整的大数据库，

可以用来训练一个大数据模型。

–出于安全和隐私的限制，每一个机构都不想或者不能把数据和别人共享。数据以孤岛

的形式存在。

–定义：使多个参与方在保护数据隐私、满足合法合规要求前提下继续进行机器学习，

解决数据孤岛问题。

模型不动数据不动

数据动模型动

数据可用不可见5

背景简介

•联邦学习（Federatedlearning）以人为本，人工智能的未来

–最早在2016年由谷歌提出，原本用于解决安卓手机终端用户在本地更新模型的问题。

–优势：

•各方数据留在本地

•多个参与者联合数据建立共有模型

•各个参与者身份地位平等

•建模效果与整个数据集放在一处的效果相差不大（用户对齐或特征对齐的条件下）

手机终端，多个用户，1个中心

所有数据特征维度相同

本地训练

选择用户训练

6

基本概念