人工智能安全治理研究报告（2025年）.docxVIP

集警蓝皮书差差N6.202510

人工智能安全治理研究报告

——推进人工智能安全治理产业实践框架

(2025年)

2026年1月

前言

人工智能技术以其前所未有的发展态势引领新一轮科技革命和产业变革，深度驱动经济社会发展。2025年8月，国务院发布《关于深入实施“人工智能+”行动的意见》，系统推动人工智能在全社会的普及应用与深度融合，逐步形成“以创新带应用、以应用促创新”的良性发展飞轮。技术跃迁释放价值红利的同时带来风险挑战，只有当“安全内核”嵌入“发展飞轮”，产业才能实现高质量和可持续发展。

当前，全球人工智能安全治理逐步迈向体系化、实操化阶段，各主要经济体持续推进治理框架落地，如何在产业层面构建务实有效的安全治理举措，已成为核心议题。我们深刻认识到，技术快速发展催生新风险敞口，应用场景快速延展引入复杂治理难题，应对人工智能安全治理问题需树立动态的人工智能安全观。与此同时，人工智能安全相较于传统网络安全、数据安全，风险载体愈发复杂多样、安全防御体系尚处探索阶段、安全检测评估难度加大、传统管理机制难以适配，产业界亟需一个全局性、系统化的行动框架作为指引。为此，本报告基于中国信息通信研究院前期《可信人工智能白皮书（2021年）》《人工智能治理蓝皮书（2024年）》相关研究积淀，面向产业发展凝练2025年人工智能治理宏观要求，基于《人工智能安全框架（2022年）》《人工智能风险治理报告（2024年）》相关产业积累，进一步提炼当前产业面临的人工智能安全治理挑战。报告经过深入研究与实践总结，立足本土产业实践，提出“两横三纵”的人工智能安全治理产业实践框架。该框架以“管理”与“技术”双线协同为横轴，实

现制度牵引与能力支撑的深度融合；以“开发侧”“部署侧”与“应用侧”三侧发力为纵轴，实现从模型研发、系统部署到场景应用的全链条防护，旨在为产业提供一套系统性、可落地、动态化的安全治理体系。同时，我们呼吁产业各界凝聚共识、形成合力，将分散的治理努力整合为统一的系统屏障，共同构建协同共治、安全可信的人工智能生态。鉴于人工智能技术应用日新月异，本报告对人工智能安全治理的认识仍有未尽之处，恳请大家批评指正。

谨向为本报告提供指导、支持与协助的中国政法大学、中国社会科学院法学研究所、对外经济贸易大学、同济大学、深圳市腾讯计算机系统有限公司、阿里巴巴（中国）有限公司、北京百度网讯科技有限公司、中国邮政储蓄银行、上海明品医学数据科技有限公司、煤炭科学研究总院有限公司、中国移动通信集团有限公司、中国联合网络通信集团有限公司等单位及专家，致以衷心的感谢。

目录

一、人工智能安全治理概述 1

（一）宏观规范要求迈向务实新阶段 1

（二）技术应用发展凸显风险新态势 2

（三）产业实践需要安全治理新框架 3

二、全球人工智能安全治理现状 4

（一）国际合作层面，全球加强安全治理深化交流 4

（二）监管政策层面，各国推动安全治理体系化落地 5

（三）产业实践层面，构建安全治理务实举措成为核心议题 8

三、人工智能产业安全治理核心挑战 10

（一）技术发展扩大内生安全新敞口 10

（二）应用延展引发衍生安全新难题 13

（三）组织管理体系构建面临新卡点 15

（四）多元共治协同机制尚待健全完善 17

四、人工智能安全治理通用实践框架 19

（一）风险管理：构建闭环的人工智能风险管理体系 20

（二）模型研发：筑牢人工智能开发安全源头根基 23

（三）系统部署：构建人工智能部署安全防护屏障 26

（四）应用运行：强化人工智能应用安全动态评估 28

（五）产业生态：共建基准测试体系与协同治理机制 31

五、典型领域探索安全治理实践方案 34

（一）金融行业打造人工智能风险管控方案 34

（二）医疗行业多维度提升模型输出准确性 36

（三）交通行业结合应用场景探索安全方案 37

（四）能源行业加强基础设施的安全防护 38

（五）通信行业加强“以技治技”的安全治理体系 39

六、展望 41

图目录

图1人工智能安全治理产业实践框架 4

图2人工智能安全治理“两横三纵”实践框架 20

图3大模型安全基准测试框架（2.0） 32

图4《人工智能安全承诺》披露网站 33

人工智能安全治理研究报告（2025年）

1

一、人工智能安全治理概述

（一）宏观规范要求迈向务实新阶段

2025年，人工智能技术持续快速迭代创新，多项突破性进展正推动其能力边界不断扩展。基础模型推理能力显著增强，通过构建统一的跨模态表征空间，