提示注入攻击防护与处置 SOP.docx

提示注入攻击防护与处置SOP

1总则

1.1编制目的

在大语言模型、AI对话应用、智能体Agent、自动化Prompt编排系统规模化落地的企业场景下，提示词（Prompt）作为人机交互、模型推理、工具调用、任务编排的核心输入载体，直接决定AI的执行逻辑、输出内容、权限行为与数据访问范围。提示注入攻击已成为当前人工智能应用最频发、隐蔽性最强、危害最直接的高危攻击手段之一，区别于传统网络攻击，该类攻击无需突破网络边界、无需获取系统权限，仅通过构造特殊语义、嵌套指令、伪装身份、覆盖原规则、劫持推理逻辑等方式，即可绕过AI原有安全策略、越权触发高危行为、诱导模型泄露内部数据、篡改系统预设指令、