2024年全球人工智能治理研究报告-世界互联网大会.docx

全球人工智能治理研究报告

上海社会科学院武汉大学

同济大学

中国现代国际关系研究院中国信息通信研究院

中国社会科学院世界经济与政治研究所北京邮电大学

北京航空航天大学北京理工大学

中国人民公安大学中国政法大学

复旦大学

南京邮电大学浙江师范大学

伏羲智库

联合发起

I

前言

人工智能技术是新一轮科技革命和产业变革最具代表性的颠覆性技术，给人类社会带来巨大发展机遇的同时，也带来了诸多全球性挑战。人工智能技术的普及应用已惠及医疗、教育、交通、农业、工业、金融、文化、生态等诸多领域的发展；与此同时，人工智能的误用、滥用和恶用已危及个体、群体、社会、生态以及价值规范等不同层面的安全。2022年生成式人工智能技术取得突破性进展以来，新一轮全球人工智能治理浪潮席卷世界。

在此背景下，上海社会科学院、武汉大学、同济大学、中国现代国际关系研究院、中国信息通信研究院、中国社会科学院世界经济与政治研究所、北京邮电大学、北京航空航天大学、北京理工大学、中国人民公安大学、中国政法大学等中国智库和高校的专家围绕全球人工智能治理的基本现状、主要议题和体系建设等问题展开了研究。本报告中的“全球人工智能治理”，是指国际组织、各国政府、科技公司、非政府组织等行为体为实现人工智能在全球的安全发展与和平利用而共同制定共同实施一系列原则、规范、标准、政策、法律和制度的协作过程。需要指出的是，关于人工智能技术在军事领域的应用问题有独立的国际规制进程，本研究

II

报告不涉及为军事目的开发或使用人工智能的全球治理进程。

目录

前言 I

一、全球人工智能治理现状 1

（一）多边平台的进展 1

（二）多方机制的成果 2

（三）相关国家/地区的做法 3

（四）科技企业的实践 5

二、全球人工智能治理的十大重要议题 6

（一）国家主权原则和人工智能发展 6

（二）社会变革和可持续发展 6

（三）技术创新和产业发展 7

（四）人机情感和生命伦理 8

（五）内容安全风险 8

（六）模型算法安全风险 8

（七）数据安全和隐私保护 9

（八）产品责任和风险 9

（九）知识产权保护 10

（十）智能鸿沟和国际协作 10

三、构建完善全球人工智能治理体系 11

（一）目标宗旨 11

（二）原则共识 11

1.尊重国家主权 11

2.统筹发展和安全 11

3.坚持平等互利普惠 12

（三）行动路径 12

1.坚持以人为本 12

2.坚守智能向善 12

3.赋能千行百业 12

4.防范应对安全风险 13

5.加强国际合作能力建设 13

6.完善全球治理机制 14

附录：近年来全球人工智能治理重要文件概览 16

1

一、全球人工智能治理现状

1956年，达特茅斯会议正式确定了“人工智能”术语，开辟了人工智能科学的独立研究。此后，人工智能发展经历了数次起伏，并于上世纪九十年代取得了一定突破。1997年深蓝超级计算机战胜国际象棋世界冠军，它不仅引起了公众对于技术未来的思考，也促进了国际社会关于人工智能伦理的早期讨论。

随着人工智能技术向机器学习、强化学习、深度学习等方向演进，2016年AlphaGo战胜围棋世界冠军成为标志性事件，全球人工智能治理迈入制定原则方针的探索阶段。如2016年，电气电子工程师学会提出《人工智能的道德准则设计》，为自主和智能系统的设计和开发提供指引；2017年，全球行业领袖发起《阿西洛马人工智能原则》，提出技术发展“有益于人类”的守则等。

2022年以来，ChatGPT问世并风靡全球，加速推动人工智能从“小模型+判别式”向“大模型+生成式”转变，加强全球人工智能治理的呼声和行动也全面兴起。

（一）多边平台的进展

多边治理进程是全球人工智能治理的主要渠道，是推动国际社会在人工智能相关领域达成普遍共识的关键。

联合国在全球人工智能治理上发挥了重要引领作用。2023年，联合国秘书长安东尼·古特雷斯宣布成立人工智

2

能高级别咨询机构，这一机构在2024年发布了《为人类治理人工智能》最终报告，提出了加强全球合作的行动方案。2024年，联合国大会通过了《加强人工智能能力建设国际合作》《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》两项决议，有力促进了人工智能国际合作；联合国未来峰会通过《全球数字契约》，提出“加强人工智能国际治理，造福人类”的目标，授权联合国设立人工智能国际科学小组和人