大语言模型与安全 课件 第8章 大语言模型隐私保护.pptx

Ch8.大语言模型隐私保护

教学目标【教学目标】?知识目标理解大语言模型隐私攻击方法?能力目标掌握大语言模型隐私保护方法?素养目标理解隐私保护对于网络安全的重要性以及对于个人信息保护的重要性【重点难点】理解大语言模型的隐私攻击及隐私保护方法，掌握大语言模型隐私保护方法。2

大语言模型作为隐私攻击者和保护者8.1

8.1.1大语言模型作为隐私攻击者4“上下文泄露”攻击“上下文泄露”攻击是指，当与其他上下文因素结合在一起时，即使看似普通的查询也可能间接地揭示有关用户的敏感信息。例如，询问附近的地标或当地事件可能会无意中泄露用户的位置或活动。随着时间的推移，与模型的重复交互可能会导致积累足够的