人工智能技术导论课件 第8章-数据隐私保护.pptxVIP

数据隐私保护1第8章

8.1隐私保护概述2

8.1隐私保护概述

数据隐私窃取攻击一般会利用两类信息：一类是在模型训练阶段利用模型训练中产生的信息，如梯度信息等，来进行数据隐私窃取；另一类是在模型部署使用阶段利用模型查询输出的信息，来进行数据隐私窃取。

8.1隐私保护概述

根据隐私保护内容的不同，可以将隐私分为训练数据隐私、模型隐私与推理隐私。训练数据隐私：指用于模型训练的数据中所包含的用户个人信息或敏感信息，个人信息指能够唯一标识个人身份的信息如姓名、身份证号，敏感信息指个体的人口统计学信息、财务信息、健康信息、日常活动信息等。模型隐私：指模型拥有方所持有的模型的训练算法、模型结构、模型权重参数、激活函数及超参数等与模型有关的私有信息。推理隐私：指模型对于用户的输入返回的、用户不愿公开的预测结果，例如对于用于诊断疾病的模型，用户不希望该模型预测的患病概率被第三方获知。

8.1隐私保护概述

隐私计算是在保护数据本身不对外泄露的前提下,实现数据分析计算的一系列技术路线的统称,可达到“数据可用不可见”的目的,在充分保护数据和隐私安全的前提下,实现数据价值的转化和释放。隐私计算主要有基于可信硬件的机密计算、基于密码学方案的安全多方计算以及结合密码学和分布式学习的联邦学习三大方向，其中后两种方法常被用于机器学习和人工智能系统中。

8.2差