腾讯全球数字生态大会 零认证沙箱x腾讯云安全—— Agent 执行环境的信任边界重构.pptx

腾讯全球数字生态大会 零认证沙箱x腾讯云安全—— Agent 执行环境的信任边界重构.pptx

腾讯全球数字生态大会

TENCENTGLOBALDIGITALECOSYSTEMSUMMIT

零认证沙箱x腾讯云安全

Agent执行环境的信任边界重构

主讲人

PPIOSandbox产品专家-宋书豪

---

腾讯云安全

PPIO

为什么关注执行环境:PromptInjection的成败取决于模型,损失发生在执行环境

防御讨论大多集中在模型侧,但真正的破坏都发生在推理之后

损失

·凭证被读走

·数据被外发

·内网被探测

外部内容

网页、文件、工具,返回值里夹带指令

模型决定Agent想做什么,执行环境决定它能做成什么

模型推理

注入是否成功,取决于模型

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档