人工智能安全威胁分析与防御技术综述.docxVIP

人工智能安全威胁分析与防御技术综述

目录

一、文档简述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

研究背景与缘起．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

研究目的与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

二、核心安全风险维度．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

数据层安全风险．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

模型层安全风险．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

应用层安全风险．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．8

三、典型攻击手段剖析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

对抗性样本攻击．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

后门植入与数据投毒．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

推理阶段的对抗行为．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．18

四、综合防御技术体系．．．．．．．