原创力文档北京景安云信科技有限公司
北京师范大学郭宇副教授团队;
1、问题调研:构建结构化AI智能体安全威胁体系
本文首先基于对当前AI系统（特别是具备自主决策、工具调用与持续交互能力的智能体）的风险分析，
提出一个五层纵深安全体系框架，将安全威胁系统分类为以下五大维度：
1.基础设施安全层（Infrastructure）：涵盖硬件、网络、云平台等底层依赖的安全风险；
2.数据与模型安全层（DataModel）：聚焦训练数据隐私、模型鲁棒性与知识产权保护；
3.智能体行为安全层（Behavior）：关注目标对齐、工具滥用、越权执行等自主行为失控问
文档评论（0）