人工智能技术导论课件 第9章-隐私窃取与防御.pptxVIP

;;隐私窃取概述

随着计算机硬件计算能力和高速无线互联网络的不断发展，人工智能在国民经济各个领域的应用日趋广泛。在当今移动互联网时代，用户的个人数据几乎时刻被智能软件或在线服务收集，并被用来训练推动人工智能应用的模型的迭代发展。

因此，在人工智能为日常生活赋能，为广大用户带来便利的同时，隐私窃取与泄露也成为不容小觑的安全风险。

;隐私窃取概述

隐私窃取攻击可从攻击者知识水平，攻击技术和攻击目标三个方面进行分类[1]。

由于数据和模型是机器学习中的两个重要组成部分，它们也对应着两种不同类别的隐私攻击目标，即数据窃取攻击和模型窃取攻击。之后将从数据窃取攻击与模型窃取攻击这两个部分展开对隐私窃取攻击和与其对应防御机制的介绍。

;;数据窃取攻击—常见攻击方式;3.社会工程学（SocialEngineering）：

攻击者通过欺骗、说服或胁迫来获取信息。这可能包括伪装成受信任的个体，通过电话或电子邮件诱使受害者提供信息。;7.供应链攻击

攻击者可以在硬件或软件供应链中植入后门或恶意代码，以获取数据。;数据窃取攻击

数据窃取攻击一般会利用两类信息：一类是在模型训练阶段利用模型训练中产生的信息，如梯度信息等，来进行数据隐私窃取；另一类是在模型部署使用阶段利用模型查询输出的信息，来进行数据隐私窃取。

从攻击目标的视角，数据窃取攻击