2026前沿AI风险与应急响应研究报告（征求意见稿）.docxVIP

1

执行摘要

研究背景

本报告聚焦前沿人工智能（前沿AI），即能力处于最前沿的人工智能模型和系统。其不断的能力跃升和应用推广正深刻重塑生产生活与社会治理范式：一方面，前沿AI正在深度赋能科学研究、医疗健康、网络安全防御等重要战略领域；另一方面，其可能引发的灾难性风险，也已成为全球AI治理关注的核心议题之一。联合国人工智能独立国际科学小组近日指出，“科学界目前无法保证，随着能力持续增强，人工智能不会?无论是自主行为还是因恶意用戶所致?造成灾难性危害”，这意味着全球政策制定者必须采取有效行动。1多个国家和地区开始针对前沿AI采取专门治理措施，我国网络安全标准化技术委员会（下文简称“TC260”）发布的《人工智能安全治理框架》2.0版也指出，需要积极研究应对人工智能灾难性风险的共识性准则，推动其健康发展和规范应用。2

当前各国针对前沿AI风险的治理工具与制度安排，大多集中于事前预防管控环节，如大模型安全评测、算法备案登记、透明度披露约束等事前预防性机制。与之相对，当前全球在前沿AI引发灾难性事件后的应急响应范式与能力方面，普遍仍有建设空间，3包括前沿AI风险事件分类分级标准、监测预警方法、跨国与跨部门协同机制等方面。4一旦前沿AI风险在现实世界中造成灾难性事件，可能造成无法逆转的严重影响。如何应对前沿AI风险引发的突发事件或危机