人工智能安全风险测评白皮书（2025年）.pdfVIP

人工智能安全风险测评

（2025年）

——白皮书——

2025年12月

前言

当前，全球人工智能迅速发展，已经成为引领新一轮科技

革命和产业变革的战略力量，以前所未有的广度与深度重塑社

会生产生活方式，为高质量发展注入新的动能。与此同时，人

工智能广泛应用带来前所未有的安全挑战，潜藏多重复杂的威

胁风险。世界各国和地区组织高度重视人工智能安全，围绕加

强人工智能安全与监管，纷纷采取多样性、差异化的管理措施，

竞争人工智能发展和治理主动权。

我国2023年提出《全球人工智能治理倡议》，明确“坚持

发展和安全并重的原则，构建开放、公正、有效的治理机制”，

“推动建立风险等级测试评估体系”“打造可审核、可监督、

可追溯、可信赖的人工智能技术”；2025年发布《关于深入实

施“人工智能+”行动的意见》，要求“提升安全能力水平”“推

动人工智能应用合规、透明、可信赖”“建立健全人工智能技

术监测、风险预警、应急响应体系”“加快形成动态敏捷、多

元协同的人工智能治理格局。”

《人工智能安全风险测评（2025年）》白皮书结合国内人

工智能领域战略规划、政策法规、标准体系等基础，探讨人工

智能安全风险测试评估的实施路线，推动人工智能产业形成“测

—1—

评—反馈—迭代”安全闭环，促进人工智能技术实现“安全可

控”与“创新发展”动态平衡，服务人工智能发展与监管。

在内容安排方面，白皮书围绕“为何测（Why）”的核心

目标，通过总结分析梳理，推动“安全性、可靠性、可控性、

公平性”及“可审核、可监督、可追溯、可信赖”等治理要求

转化为可落地的人工智能安全风险工作流程；解析人工智能安

全风险分析框架，绘制“测什么（What）”的核心内容蓝图，

立足人工智能全生命周期与五大关键维度的全链路视角，呈现

各环节风险定位、攻击技术路径与安全特征，厘清测评的全域

覆盖边界与范畴；构建人工智能安全风险测评体系，梳理“怎

么测（How）”的系统性方法体系，依托“目标设定—内容实

施—方法技术—对象覆盖—风险度量—持续优化”的反馈控制

逻辑，实现从目标设定、实施执行到风险量化的全流程闭环管

理；制作人工智能安全风险全景图，细化“测哪些（Details）”

的支撑，对具体风险场景、攻击手段、影响层级等进行精准拆

解与具象化呈现，为人工智能安全风险测评实施提供可用的操

作指引。

在结构安排方面，白皮书共五章。第一章人工智能发展与

安全，概述人工智能当前发展态势，梳理国际人工智能安全风

险测评相关方法、技术、工具与平台；第二章人工智能安全风

险，分析人工智能安全风险特征，提出安全风险分析框架，探

讨人工智能风险演进趋势；第三章人工智能安全风险测评体系，

—2—

从测评目的、内容、方法、对象和度量等方面进行论述；第四

章人工智能安全风险测评关键技术，从不同层面归纳总结相关

测评技术；第五章人工智能安全风险展望，从技术发展、标准

建设、挑战应对等方面，展望未来。

白皮书聚焦以大语言模型（LargeLanguageModel，简称

LLM）为核心的人工智能系统，主要针对大语言模型和基于大

语言模型的复合系统，力图贯穿人工智能系统全生命周期，包

括系统规划与设计、数据采集与处理、模型训练与构建、模型

验证与确认、平台部署与集成、系统运行与监测、用户使用与

影响等。希望为政府管理部门、企业厂商、测评机构、科研院

所、社会用户等各方读者提供不同角度的参考。

白皮书参编单位包括：中国信息安全测评中心、北京奇虎

科技有限公司、北京中测安华科技有限公司、北京智谱华章科

技股份有限公司、合肥讯飞数码科技有限公司、中国科学院自

动化研究所、中国科学院信息工程研究所、智能算法安全全国

重点实验室（中国科学院计算技术研究所）、永信至诚科技集

团股份有限公司、中移九天人工智能科技（北京）有限公司、

中电信人工智能科技（北京）有限公司、深信服科技股份有限

公司、启元实验室、《中国信息安全》杂志社等。

参与指导、编写、审核等工作的人员有（按姓氏笔画排序）：

于洋、山世光、王可臻、王笑尘、王梦月、尹芷仪、石竑松