人工智能安全治理研究报告（2025年）_51页_3mb.pptxVIP

人工智能安全治理蓝皮书

——发展负责任的人工智能;版权声明;前 言

人工智能技术以其前所未有的发展态势引领新一轮科技革命和产业变革，深度驱动经济社会发展。2025年8月，国务院发布《关于深入实施“人工智能+”行动的意见》，系统推动人工智能在全社会的普及应用与深度融 ，逐步形成“以创新带应用、以应用促创新”的良性发展飞轮。技术跃迁释放价值红利的同时带来风险挑战，只有当“安全内核”嵌入“发展飞轮”，产业才能实现高质量和可持续发展。

当前，全球人工智能安全治理逐步迈向体系化、实操化阶段，各主要经济体持续推进治理框架落地，如何在产业层面构建务实有效的安全治理举措，已成为核心议题。我们深刻认识到，技术快速发展催生新风险敞口，应用场景快速延展引入复杂治理难题，应对人工智能安全治理问题需树立动态的人工智能安全观。与此同时，人工智能安全相较于传统网络安全、数据安全，风险载体愈发复杂多样、安全防御体系尚处探索阶段、安全检测评估难度加大、传统管理机制难以适配，产业界亟需一个全局性、系统化的行动框架作为指引。为此，本报告基于中国信息通信研究院前期《可信人工智能白皮书（2021年）》

《人工智能治理蓝皮书（2024年）》相关研究积淀，面向产业发展凝练2025年人工智能治理宏观要求，基于《人工智能安全框架（2022年）》《人工智能风险治理报告（2024年）》相关产业积累，进一步提炼当前产业面临的人工智能安全治理挑战。报告经过深入研究与实践总结，立足本土产业实践，提出“两横三纵”的人工智能安全治;理产业实践框架。该框架以“管理”与“技术”双线协同为横轴，实

现制度牵引与能力支撑的深度融；以“开发侧”“部署侧”与“应用侧”三侧发力为纵轴，实现从模型研发、系统部署到场景应用的全链条防护，旨在为产业提供一套系统性、可落地、动态化的安全治理体系。同时，我们呼吁产业各界凝聚共识、形成力，将分散的治理努力整为统一的系统屏障，共同构建协同共治、安全可信的人工智能生态。鉴于人工智能技术应用日新月异，本报告对人工智能安全治理的认识仍有未尽之处，恳请大家批评指正。

谨向为本报告提供指导、支持与协助的中国政法大学、中国社会科学院法学研究所、对外经济贸易大学、同济大学、深圳市腾讯计算机系统有限公司、阿里巴巴（中国）有限公司、北京百度网讯科技有限公司、中国邮政储蓄银行、上海明品医学数据科技有限公司、煤炭科学研究总院有限公司、中国移动通信集团有限公司、中国联网络通信集团有限公司等单位及专家，致以衷心的感谢。;目 录

一、人工智能安全治理概述........................................................................................1

（一）宏观规范要求迈向务实新阶段................................................................1

（二）技术应用发展凸显风险新态势................................................................2

（三）产业实践需要安全治理新框架................................................................3

二、全球人工智能安全治理现状................................................................................4

（一）国际 作层面，全球加强安全治理深化交流........................................4

（二）监管政策层面，各国推动安全治理体系化落地....................................6

（三）产业实践层面，构建安全治理务实举措成为核心议题........................9

三、人工智能产业安全治理核心挑战......................................................................11

（一）技术发展扩大内生安全新敞口...............................................................11

（二）应用延展引发衍生安全新难题..............................................................14

（三）组织管理体系构建面临新卡点..........................................