生成式人工智能系统性安全风险演进与主动防御架构.docxVIP

生成式人工智能系统性安全风险演进与主动防御架构

目录

文档概要．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

生成式人工智能概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

2.1生成式人工智能定义与特征．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

2.2主要技术流派与发展历程．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

2.3应用领域与价值．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

2.4关键技术原理剖析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

生成式人工智能潜在威胁分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

3.1数据投毒与模型污染攻击．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

3.2推理过程干扰与对抗样本．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．12

3.3生成内容误导与滥用风险．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

3.4系统性安全威胁归纳．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．19

系统性安全风险的动态演化．．．．．