20251028 中国电信：2025年AI智能体安全治理白皮书.pdfVIP

AI智能体安全治理白皮书

版权声明

《AI智能体安全治理白皮书》由中国电信集团有限公司

牵头，联合公安部第三研究所、《信息安全研究》杂志社、华

为技术有限公司、蚂蚁科技集团股份有限公司、清华大学、

上海交通大学共同编写完成。

本白皮书的版权归上述编写单位共同所有。未经许可，

任何机构或个人不得以任何形式对本白皮书的全部或部分

内容进行复制、转载、摘编、发行或用于商业用途。若需引

用、转载或使用本白皮书内容，必须注明来源为《AI智能体

安全治理白皮书》，且不得对内容进行歪曲或篡改。

本白皮书所载内容仅供参考，编写单位对因使用本白皮

书内容而导致的任何直接或间接后果不承担法律责任。

1

AI智能体安全治理白皮书

目录

前言1

一、背景概述

1.1AI智能体定义4

1.2AI智能体安全风险6

1.3AI智能体安全治理7

二、AI智能体安全风险

2.1感知层风险11

2.2决策层风险13

2.3记忆层风险15

2.4执行层风险17

三、AI智能体安全治理

3.1感知层安全19

3.2决策层安全21

3.3记忆层安全22

3.4执行层安全23

2

AI智能体安全治理白皮书

四、AI智能体安全治理实践

4.1智能体平台安全治理实践25

4.2MCP安全治理实践28

4.3端侧智能体安全评测实践31

五、持续提升建议37

附录40

参考文献42

2

AI智能体安全治理白皮书

前言

当前，人工智能技术正经历从“对话智能”向“决策智

能”跃迁的关键发展阶段。基于大语言模型的AI智能体已实

现质的突破，其功能定位已从基础指令执行单元转型升级为

具备复杂认知推理与战略决策能力的智能系统，最终发展为

能够自主感知环境态势、独立制定行动方案并高效执行任务

的数字协作伙伴。这一技术范式的革新显著拓展了人工智

能的应用疆域，在金融风险管控、智慧医疗体系、先进制造

产业及社会化公共服务等诸多领域，AI智能体正持续推动生

产模式与服务形态的深度变革。

然而，技术能力的显著提升亦伴随着潜在风险的同步增

长。近期发生的多起人工智能智能体安全事件，充分暴露了

该领域现存的脆弱性特征。以2025年4月发生的典型案例

为例，研究人员发现某公司开发的智能体演示系统存在重大

安全隐患，攻击者仅需在网页界面植入下载并运行特定工具

等常规自然语言指令，即可成功诱导已获计算机操作权限

的智能体程序下载并执行木马程序，导致目标主机在极短时

间内遭受入侵。该案例明确显示，当AI智能体被赋予自主执

行权限时，常规语言交互机制可能被恶意利用作为远程攻击

的后门通道。

此外，InvariantLabs研究机构近期披露了一种针对终端

智能体的新型提示词注入攻