《人工智能安全》 第2版 曾剑平教材(复旦大学) ppt课件 5-机器学习系统的攻击者.ppt

复旦大学-人工智能安全*复旦大学-人工智能安全*人工智能安全-5

--机器学习系统的攻击者2026年教材曾剑平.《人工智能安全》第二版,清华大学出版社，2026.9提纲从垃圾邮件检测谈起机器学习系统的漏洞攻击者及其目的知识及攻击者能力攻击者的代价与收益攻击行为与分类假设攻击者的目的是发送一封涉及商品广告的邮件，并顺利把邮件送达接收者的收件箱。为了避免垃圾邮件检测系统把广告邮件识别为垃圾邮件，攻击者首先需要探测检测系统区分垃圾邮件和正常邮件的方法。在未能实际接触检测系统的情况下，攻击者只有通过不断地发送邮件尝试，从而分析垃圾邮件的检测依据。然后，在广告邮件