人工智能体价值对齐的分布式路径探赜.pdfVIP

人工智能体价值对齐的分布式路径探赜

闫坤如

摘要：人工智能体价值对齐，源于人类的有限理性、人工智能体的自主性、不确定性和风险性。价值对齐需

要在考察人工智能体的道德属性与调节作用的基础上，分析其必要性和可能性。为了实现人工智能价值对齐

的目标，需要妥善处理好伦理共识与多元价值观、抽象价值规则与具体人工智能技术应用场景、人类终极伦理

目标与短期价值追求之间的关系。在此基础上，应为人工智能体的研发设定基本的道德准则和伦理底线，明

确人工智能体的设计边界，确保其不对人类的价值和权利造成干扰和伤害，避免AI系统偏离人类价值观，以

引导和规范人工智能技术的发展方向。

关键词：人工智能体；价值对齐；有限理性；自主性

中图分类号：TP18文献标识码：A文章编号：1004-8634（2024）04-0131-（09）

DOI：10.13852/J.CNKI.JSHNU.2024.04.013

人工智能技术的迅猛发展深刻地改变着社会私泄露、就业替代等问题，甚至导致学术研究范式

生产生活方式、思维模式和社会结构等。人工智革命。是否可以用人类的道德规范来引导人工智

能技术正在推动产业革命，重塑人类社会，改变人能技术的可控、向善发展，已引起学界的关注和讨

类理解世界的方式。布莱恩约弗森（ErikBryn⁃论，本文的旨趣正在于此。

jolfsson）和麦卡菲（AndrewMcAfee）提出，人工智

能技术是继18世纪末蒸汽机发明之后的第二次一、自为之物：人工智能体价值对齐的必要性

机器革命。正如蒸汽机技术超越了当时其他技

术，人工智能技术正在帮助人类突破各种能力限人工智能技术作为一种自主性智能技术，是

①

制，并可能改变人类历史的发展轨迹。基辛格人类发明和研发的成果。如何将人类普遍接受的

（HenryKissinger）、施密特（EricSchmidt）与胡腾洛价值观与道德标准转化为可执行的程序化道德代

赫尔（DanielHuttenlocher）在《人工智能时代与人码，并将其嵌入人工智能系统，使其能够按照人类

类未来》中写道：“人工智能很可能会改变社会的预先设定的价值理念、道德规范和伦理导向来“行

②

轨迹和历史的进程。”人工智能技术除了具有革为”，这是人工智能技术研发中追求向善发展的重

命性的影响外，也具有颠覆性作用，可能会引发隐要方向，同时也是人工智能体价值对齐（AIValue

基金项目：国家社会科学基金重大项目“负责任的人工智能及其实践的哲学研究”（21ZD063）

作者简介：闫坤如，华南师范大学哲学与社会发展学院教授，博士生导师（广东广州510631）。

①［美］埃里克·布莱恩约弗森、安德鲁·麦卡菲：《第二次机器革命——数字化技术如何改变我们的经济与社会》，蒋永军译，中信出

版社2014年版，第9页。

②［美］亨利·基辛格、埃里克·施密特、丹尼尔·胡腾洛赫尔：《人工智能时代与人类未来》，胡利平、风君译，中信出版集团2023年版，

第19页。

131

上海师范大学学报（哲学社会科学版）2024年第4期

Alignment）问题。一般认为，人工智能体价值对齐没有人类的偏见、情绪和欲望，它通过庞大的数据

原则是由人工智能研究领域的计算机科学家罗素