人工智能价值对齐的价值表征及伦理路径.pdf

·科技伦理·

人工智能价值对齐的价值表征及伦理路径人工智能价值对齐的价值表征及伦理路径

闫坤如

［摘要］人工智能价值对齐是一个规范性问题，也是个技术性问题，既需要从伦理上论证对齐的可能性和

合理性，也需要从技术上实现人工智能对齐的目标。为了实现人工智能价值对齐的目标，需要分析人工智

能价值对齐的内涵要义、明确人工智能价值对齐的价值表征，通过分析人工智能价值对齐的原则和方法，在

分析人工智能技术本性和伦理疑难的基础上，坚持人工智能在社会中的地位是一个规范性问题，而不是一

个描述性问题，是人决定人工智能技术的研发和应用，人为人工智能技术立法。此外，还需打通人工智能价

值对齐的道德规范和设计的技术标准之间的逻辑鸿沟，从技术层面和规范层面给出人工智能价值对齐的伦

理路径。

［关键词］人工智能对齐；价值对齐；价值表征

［作者简介］闫坤如，华南师范大学哲学与社会发展学院教授，博士生导师。

*

人工智能技术迅猛发展，引发生产、生活方式变革，也改变人类理解世界的方式。同时，人工智

能技术革命的颠覆性作用引发隐私泄露、数据鸿沟、就业替代等社会问题，因人工智能技术的自主性

和算法不透明性等原因导致伦理风险剧增，为了人工智能技术的安全发展和应用，需要人工智能技

术满足人类的需求和期望，这就是人工智能价值对齐（ArtificialIntelligenceValueAlignment）。人工

智能价值对齐是一个重要的领域，因为随着人工智能系统变得越来越强大，它们可能以与人类目标

不一致的方式行事。人工智能价值对齐成为人工智能安全发展的前提和基本要义，引发了理论界和

产业界的关注。人工智能价值对齐是人工智能发展的根本性、基础性工作，是需要优先考虑的问题，

也是一项具有挑战性的工作。

一、人工智能对齐的内涵要义与价值表征

人工智能对齐对于人工智能技术的发展和应用都是根本性的。在此语境中，澄清人工智能对齐

的内涵、挖掘其技术的内在属性，分析其价值表征显得尤为重要。

1.人工智能对齐的内涵分析

人工智能对齐是一个新领域，研究如何使所创造的系统能够满足人类的需求和期望，人工智能

对齐的目标是防止人工智能的运行违背特定个人、群体或整个社会的利益。1960年，“控制论之父”

·

诺伯特维纳（NorbertWiener）在著作《自动化的道德和技术后果》中指出，随着机器学习进一步发展，

［1］（1355-1358）

它们可能会超出人类预期。“我们最好完全确定赋予机器的目标就是我们真正想要的目标。”

这是人工值智能对齐的初步表达，人工智能对齐（AIalignment）就是人工智能价值对齐，维纳认为研

·

发机器的目标是最大限度地实现人的价值，是实现人类目标。布莱恩克里斯汀（BrainChristian）在

*本文系国家社会科学基金重大项目“负责任的人工智能及其实践的哲学研究”（21ZD063）的阶段性成果。

·94·

人工智能价值对齐的价值表征及伦理路径

《人机对齐：如何让人工智能学习人类价值观》中对人工智能对齐给出的定义为：“如何确保这些模型

捕捉我们的规范和价值观，理解我们的意思或意图，最重要的是，做我们想做的事，已经成为计算机

［2］（11）·

科学领域最核心、最紧迫的科学问题之一。它就是：对齐问题。”2019年，弗吉尼娅迪格纳姆

［3］（2）

（VirginiaDignum）提出人工智能“以人类福祉为中心，并与社会价值观和伦理原则保持一致”。

人工智能对齐指的是人工智能系统的目标与人类利益与价值观相一致，人工智能发展符合人类意

图。通过上述对人工智能对齐内涵要义的分析，我们可以看出，人工智能对齐是研究如何使人类创

造的人工智能系统能够