面向大模型对抗样本生成的鲁棒性评估与动态防御体系.docxVIP

面向大模型对抗样本生成的鲁棒性评估与动态防御体系

目录

文档概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

大模型对抗攻击机制分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

2.1对抗样本基本概念．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

2.2大模型脆弱性剖析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

2.3主要对抗攻击方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.4对抗攻击对大模型的影响．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．8

基于多维度测量的鲁棒性评估体系．．．．．．．．．．．．．．．．．．．．．．．．．11

3.1评估指标体系构建．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

3.2数据集设计与准备．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

3.3评估方法与实现．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．23

3.4评估结果分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．25

动态自适