清新研究团队_智能体安全研究报告:从大模型安全到可控行动系统.pptx

清新研究团队_智能体安全研究报告:从大模型安全到可控行动系统.pptx

;

组织治理;

开场与核心判断

一句话定义

一智能体安全=让会行动的AI可授权、可约束、可追责

一智能体能规划、调用工具、X保持状态并影响外部系统

一安全目标不是让模型永远不犯错,而是让错误不会无约束扩散

一核心抓手是身份、权限、工具、上下文、沙、审和审计

AgentSafety=Identity+Policy+Tools+Logs

3;

4

为什么现在讨论

开场与核心判断

·-Agent从实验工具进入企业生产环境

●一开发框架和API让工具调用、文件操作、沙箱执行更容易

●一企业开始把Agent用于客服、研发、安全运营、财务和内部流程

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档