OpenClaw的安全分析和防御框架.pptx

可以安装依赖项的代理还必须能够下载和执行外部脚本。使代理变得有价值的每项功能也使其成为潜在的攻击媒介

。

考虑一下当攻击者将恶意指令隐藏在项目文档文件中时会发生什么。当开发人员要求其代理查看新文档时，代理会读取该文件并遇到伪装成有用安装说明的命令。如果没有适当的防御，代理就会执行这些命令，从而可能泄露SSH密钥、建立反向shell或修改系统配置。攻击之所以成功，是因为代理无法区分合法的用户请求和注入的恶意内容。

当前的法学硕士安全方法主要侧重于防止有害文本的生成。模型经过训练可以拒绝危险内容的请求，例如炸弹制造说明或仇恨言论。然而，代码代理在不同的威胁环境中运行[13]、[14]。