大语言模型提示注入攻击安全风险分析报告-大数据协同安全技术国家工程研究中心-2023.7.6-55页.pdfVIP

安全大脑国家新一代人工智能开放创新平台 大语言模型提示注入攻击安全 风险分析报告 大数据协同安全技术国家工程研究中心 2023 年 7 月 6 日 版权声明 本报告版权属于大数据协同安全技术国家工程研究中心，项 目成果属于“安全大脑国家新一代人工智能开放创新平台” ， 受法律保护。转载、摘编或利用其他方式使用本报告文字或 观点的，应注明“来源：大数据协同安全技术国家工程研究中 心安全大脑国家新一代人工智能开放创新平台” 。违反上述声 明者，编者将追究其相关法律责任。 编写单位及部门 大数据协同安全技术国家工程研究中心 AI 安全实验室 安全大脑国家新一代人工智能开放创新平台项目组 编写组成员 邹权臣、张德岳、杨东东、韩东、徐昌凯 目录 1. 引言 1 2. 提示与提示学习3 2.1 提示的概念 3 2.2 提示学习的概念 6 3. 提示注入攻击7 3.1 直接提示注入 7 3.1.1 目标劫持7 3.1.2 提示泄露9 3.