从间接注入到数据流劫持：AI Agent 数据流攻与防.docxVIP

从间接注入到数据流劫持——AIAgent数据流攻与防

现在的AI，还是聊天框吗？

Tool/APIMCP业务系统交易/工单/代码AgentGatewayRAGMemory身份/权限业务上下文Trace

Tool/APIMCP

业务系统

交易/工单/代码

AgentGateway

RAG

Memory

身份/权限业务上下文

Trace/Log/Report/MemoryWrite

现在：Agent业务链路DataFlow

数据被看见内容被执行结果被记住

变成

?

过去：问答助手

Prompt/

Prompt/Response

用户

用户

模型

模型

回答

回答

安全问题看起来很直观：输入什么，回答什么

问题不再只是模型说了什么，而是数据流到了哪里。

HackCopilot：从网页投毒到会话泄露

copilot是微软推出的助手强集成在Edgeo