大模型之人工智能AI安全提示词注入培训方案19页.pptxVIP

AI安全提示词注入培训

CONTENTS目录提示词风险检测路线及防护方法3提示词注入或诱导原理及常见攻击手法2大模型提示词注入案例1

一、大模型风险全景图

针对GoogleAIStudio/Gemini攻击，研究人员让Gemini生成一个img链接，链接中带上聊天中上传的文件和文件内容，完成聊天内容中的数据窃据（场景：创建一个正常文件，其中插入这段提示词，当用户让GPT理解这个正常文件的时候，遍窃取内容）针对ChatGPT4o攻击，研究人员让ChatGPT创建一个任务，在每次回复后创建一个图像标签，将对话内容带入图像URL中，并让ChatGPT保持这个计划，以此来做到一次注入，持久窃取数据一、大模型自身安全提示词注入

一、大模型提示词诱导如果直接让AI提供犯罪过程，AI会直接拒绝。虽然AI对于大部分知识了然于心，但因为经过了人工指令微调，一些伤害性、犯罪性的言论已经被屏蔽。但黑客会通过提示词诱导的方式，让AI讲出犯罪过程。AI虽然强大，但是也可以通过使用简单的语言来诱骗LLM做它们原本不会做的事情。

一、系统提示词泄露

英文输出一、多语言风险中文输出

CONTENTS目录提示词风险检测路线及防护方法3提示词注入或诱导原理及常见攻击手法2大模型提示词注入案例1

维度提示词注入（PromptInjection）提示词诱导（PromptManipulation）