《人工智能安全》 第2版 曾剑平教材(复旦大学) ppt课件 8-智能系统的数据隐私攻击.ppt

模型逆向攻击模型逆向攻击(modelinversionattack),也称为模型重构攻击、模型反演攻击。其目的在于反推训练数据集或某些记录的部分或全部属性值,也包括相应的标签,而这些属性中包含敏感特征。模型提取攻击模型提取攻击(modelextractionattack)的目的在于获得模型的参数、结构等内部信息,是对模型机密性的攻击。提纲机器学习模型的隐私数据隐私攻击成员推理攻击其他类型的隐私推理攻击大模型的数据隐私攻击大模型需要大规模的训练数据,一般是无标注或弱标注数据,大部分数据来自互联网大数据,包括新闻、社交媒体等内容。训练数据具有很高的多样性,覆盖多领域、多语言