防范人工智能治理碎片化风险.pdfVIP

网络空间战略论坛

CyberspaceStrategyForum

防范人工智能治理碎片化风险

文│中国信息通信研究院工程师秦越上海交通大学计算法学与AI伦理研究中心执行主任胡正坤

【摘要】在人工智能快速发展的背景下，全球人工智能治理已成为重要议题。本文概述全球人工智

能治理的现状，包括国际组织的推动、各国立法特点和共同关注的问题；探讨人工智能治理碎片化风险，

分析其多方面成因，例如治理环境、议题优先级差异以及地缘政治影响等因素；提出深化国际协同、打

造合作平台、探索适应性框架、强化法律政策协调及多方对话等策略，避免人工智能治理碎片化风险，

促进全球人工智能治理的有机协调和健康发展。

【关键词】人工智能治理；碎片化风险；国际合作；治理框架

人工智能（AI）技术的快速发展，在为社（OECD）建立了《关于开发前沿人工智能系统组

会带来巨大变革和机遇的同时，也带来织的国际行为指南》监测机制，并于2025年初推出

了复杂的治理挑战。如何有效应对这些挑战，实现交互界面，便于组织填报遵守行为指南的情况，从

人工智能的可持续发展，已成为国际社会共同关注而推动相关治理原则的落地。截至2024年9月，54

的焦点。本文基于全球人工智能治理现状，剖析治个经济体，包括G7国家、印度、肯尼亚等，已加

理碎片化风险，并探讨相应的解决路径。入“广岛AI进程之友小组”并承诺遵守行为指南。

2024年11月20日，美国商务部与国务院联合举办

一、全球人工智能治理态势了国际人工智能安全研究网络（以下简称“国际安

全网络”）首次会议，宣布正式启动该网络。通过

随着生成式人工智能技术的快速突破，人工智《使命宣言》，该网络将围绕安全研究、开发模型

能在提升产业效率与社会生产力的同时，也引发了测试与评估最佳实践、共同方法及信息技术工具共

网络安全、虚假信息、偏见歧视等风险。此外，发享等四个方面开展合作。国际安全网络还发布了《前

达国家与发展中国家在人工智能技术发展上的不平沿人工智能系统风险评估联合声明》，计划建立符

衡问题日益凸显，智能鸿沟进一步加大了风险。国合可操作性、透明性、综合性等要求的共同风险评

际社会积极行动，围绕人工智能安全与发展两大核估科学基础。

心问题开展了丰富的实践。三是“超级大选年”放大合成内容风险，公私

（一）人工智能安全国际合作持续推进部门频出治理举措。2024年恰逢美国、俄罗斯、印

自2023年以来，国际社会多次提出人工智能可度、英国、墨西哥、欧盟等70多个国家和地区举行

能给人类带来“灭绝风险”，并快速推动国际社会重要选举，覆盖全球超过半数人口。人工智能生成

形成安全合作共识。的虚假信息可能误导选民，威胁选举公平性，引发

一是大国安全合作意愿上升，双多边对话密集国际社会的广泛担忧。达沃斯世界经济论坛《2024

推进。2024年，第二届人工智能安全峰会通过了英、年全球风险报告》将人工智能生成的错误和虚假信

美、日、新、欧等11个经济体领导人签署的《关于息列为全球十大风险之首，排在气候变化、战争和

安全、创新和包容性人工智能的首尔宣言》，支持经济疲软之