人工智能对齐：经济学可以做什么？_陈永伟.pdfVIP

学报2024年第4期（总第154期）

［DOI］10.19653/j.cnki.dbcjdxxb.2024.04.004

［引用格式］陈永伟.人工智能对齐：经济学可以做什么？［J］.东北财经大学学报，2024（4）：37-52.

人工智能对齐：经济学可以做什么？

陈永伟

（《比较》杂志社研究部，北京100029）

摘要：AI技术的迅猛发展在对社会发展产生巨大推动作用的同时，也带来了很多问题和风险。在这种情况下，

AI对齐，即确保AI的行为结果始终符合人类的利益变得越来越重要。从经济学的角度看，AI对齐可以区分为AI

价值对齐和AI激励相容对齐，这两种对齐方式分别通过改变AI智能体的效用函数和AI智能体面临的约束条件来

影响其行为。AI智能体在很多方面都和人类存在着共性。作为研究人类行为的科学，经济学可以为AI对齐提供

很多启示。本文着重讨论了社会选择理论、机制设计理论、契约理论和信息设计理论在AI对齐领域的应用，并

对这些理论在实践中的用例进行了介绍。由这些用例可见，经济学在AI对齐领域大有可为，其作用还远未得到

发挥。

关键词：AI对齐；AI价值对齐；AI激励相容对齐

中图分类号：F49文献标识码：A文章编号：1008-4096（2024）04-0037-16

一一、、引引言言

自“深度学习革命”以来，人工智能（ArtificialIntelligence，AI）进入了高速发展阶段。尤其

是在2022年10月，OpenAI公司发布ChatGPT模型之后，AI技术的进步更是可以用日新月异来形

容。几乎在每一天，都有新的AI模型出现，而AI模型的性能则在以一种人们难以置信的速度不断

地迭代、进步。

一些研究显示，现在有不少AI模型已经达到了相当高的智能水平。例如，微软在2023年3月

发布的评测报告显示，OpenAI的GPT‐4模型已经可以在无须特殊提示的情况下高效完成语言、数

学、编码、视觉、医学、法律和心理学等众多领域的复杂任务，并且GPT‐4模型的问题处理能力已

［1］

接近或超过了人类。2024年3月的一项研究则表明，Anthropic公司开发的Claude‐3模型的智商已

经达到了101，超过了人类的平均水平，并且在大量的任务处理上都展现出超越人类的能力。此

外，在更需要创意的工作方面，AI的表现也十分出色。以OpenAI新发布的Sora模型为例，只需要

输入一段简单的提示词，Sora就可以根据要求生成1分钟的视频，且足以达到与CG动画相当的

水平。

收稿日期：2024-06-08

作者简介：陈永伟（1982-），男，浙江杭州人，研究员，博士，主要从事产业经济学、数字经济学研究。E-mail：

chenyongwei1982126.com

37

陈永伟.人工智能对齐：经济学可以做什么？

AI模型智能水平的迅速提升再一次引发了人们对“通用人工智能”（ArtificialGeneral

Intelligence，AGI）何时会到来的讨论。所谓AGI是指拥有与人类相当甚至超过人类智能的人工智

能。未来学家Kurzweil曾在其名著《奇点临近》中预言，在2045年前后，人们将迎来“奇点”

（Singularity），届时AGI将会实现。最近，他在其出版的新著《奇点更近》中修正了这个预测，将

“奇点”到来的时间调整为2029年。

毫无疑问