_寻求价值对齐之路：人工智能面临的课题与挑战 (1).pdfVIP

新兴传媒

NewMedia

寻求价值对齐之路：

人工智能面临的课题与挑战

文/席丹

摘要：ChatGPT系列产品的突破，标志着人工智能新一轮发展的加速，人工智能的安全问

题也日益受到社会关注，人工智能价值对齐成为其面临的重大课题。本文从价值对齐的重要意

义入手，梳理了对齐的若干问题、分析了围绕对齐问题社会各界的纷争以及背后的深层原因，

并探讨了平衡技术发展和风险管控等有关方面关切的解决思路。

关键词：人工智能价值对齐ChatGPT

2023年11月7日，美国人工智能领军企业OpenAI开发者容（UGC），到人工智能生成内容（AIGC）的升级，人工

大会上，ChatGPT系列产品的发布拉开了新一轮人工智能智能在文本生成、音频生成、图像生成和视频生成等多模态

竞赛，该企业创始人及CEOSamAltman一时风光无两。但全面应用，并开始出现某种意义上的逻辑——推理智能思维

10天后，Altman被OpenAI董事会解职。从目前透露的故事与行动。与此同时，近年来人工智能发展中出现的隐患，引

看，这是一场以Altman为代表的人工智能有效加速派与Ilya起企业、学术、政界乃至国际社会的高度重视。其中包括：

Sutskever领衔的超级对齐派的争论。Altman等主张提升人工第一，信息泄露，侵犯他人的隐私权，损害其自由、尊严和

智能的能力，通过融资和商业化等操作集中资源，追求人工安全。第二，信息茧房乃至信息欺诈，窄化受众信息接受与

智能发展更快。Sutskever等希望把人工智能对齐放到优先位认知，动摇受众对外部信息的信任。第三，破坏人类依赖的

置，对快速发展的人工智能充满担心。现在，Altman凯旋而信息系统，如系统漏洞、黑客攻击、内部人员泄密、法律法

归重掌大权，大戏以有效加速派的暂时胜利落下帷幕，但未规缺失等。第四，推送或生成的信息不公平对待、不同步实

来人工智能价值问题何去何从，亟待讨论。现、不正确使用，加剧社会阶层或群体的分化。第五，对人

类的意识、价值、文化等非正常入侵，压缩人类的价值与认

一、什么是价值对齐

同空间。第六，直接攻击人身和社会，包括暴力、恐怖、改变

“价值对齐”（AIalignment）是当前人工智能发展生物特征及合成新物种等，对人类的生存和发展造成威胁。

和控制的核心议题，事关安全发展、风险防控。汉语中的伴随现实挑战和研究深入，科学家们深化探讨以人工智

“对齐”，释义为使两个以上事物配合或接触得整齐。能价值对齐为中心的若干问题，要求实现人工智能的能力和

“Alignment”则有调准、校正、结盟、联合的意思。人工智行为与人类的核心价值、真实意图和伦理原则相一致。进一

能价值对齐就是：如何让人工智能大模型的能力和行为跟人步思考价值对齐，必须回答三个问题。

类的价值、真实意图和伦理原则相一致，确保人工智能与人1．到底什么是对齐。对齐具有不同的定义和要求，其

类协作中的安全、互信和可靠。普遍的认识是，在推动技术难度、涉及的方法以及带来的影响也有所差异。人工智能与

发展的同时，要坚持人类价值，确保人工智能技术不会对人自然人的价值对齐，一般认为有三个方面的核心要求：一是

类社会造成大的负面影响。价值观的认同，确立用以规范人工智能的一套统一的人类价

十几年来特别是2023年以来，人工智能进入到快速发