超级智能：进路及其应对.pdf

第42卷总第179期2024年第2期

Vol.42,TotalNo.179SCIENCE··ECONOMY··SOCIETYNo.2,2024

超级智能：进路及其应对

杨庆峰周颖

摘要：目前人工智能发展中超级智能的现实性与日俱增，这从实现超级智能的三

条进路，即通用智能、具身智能和交互智能可以看出，对于人类来说，超级智能本身

有失控的风险。因此，作为应对方案的对齐工作显得尤为重要。在对齐理解中，存

在两种对齐概念的普遍误解亟待纠错。其中，价值化误解将讨论引入到“价值嵌入

陷阱”里，技术化误解实质是技术主义，不仅遮蔽真正的问题甚至还会带来更大的

危害。当超级智能来临，我们不仅要考虑人类的未来，还要考虑机器的命运。合约

伦理学是一个很好的选择。人与超级智能的“签约”不仅是建立边界的约束关系，

更是在共存中相互塑造、互相理解的协同关系。在这种关系中，人类不仅通过超级

智能的镜像照见自我，也能更好地理解和塑造自我。

关键词：超级智能；人工智能（AI）；对齐；合约伦理

中图分类号：TP18文献标识码：A文章编号：1006-2815（2024）02-0018-08

DOI：：10.19946/j.issn.1006-2815.2024.02.003

随着对ChatGPT、Sora等大模型讨论的深入，不同领域的学者开始关心人工智能的未来

发展问题。在这个问题上，科学领域与哲学领域发生了奇特的倒置，科学领域如辛顿、伊利亚

等人担心超级智能失控并且灭绝人类，科学表现出了纯粹哲学化的色彩，有着浓厚的人文主

义特征；反观哲学领域很多学者表现得出奇的冷静，运用分析哲学的方法，青睐于智能概念的

澄清，只有少数哲学家才表现出对超级智能的担忧，如赵汀阳，他认为超级智能会为了维护自

①

身的存在而抛弃人类。从某种意义上来说，分析哲学已经破坏了对人工智能的反思。其结

果是如今这个时代，鲜明的大陆哲学反思特色已经迅速变淡，极具科学性的分析哲学努力从

事概念澄清工作，却忽略了根本的问题。在洞察人工智能发展这一问题上，他们表现出明显

收稿日期：2024-03-20

基金项目：国家社会科学基金重大项目“当代新兴增强技术前沿的人文主义哲学研究”（20ZD045）

作者简介：杨庆峰，复旦大学科技伦理与人类未来研究院，复旦大学哲学学院，主要从事科学技术哲学、记忆哲学、

人工智能哲学与伦理等研究。E-mail:y_qf@

周颖，上海交通大学科学史与科学文化研究院，主要从事技术哲学研究。E-mail:zhou_ying@

①赵汀阳：《人工智能的神话或悲歌》，北京：商务印书馆2022年版，第9页。

18

杨庆峰，等超级智能：进路及其应对

的无力。笔者将超级智能与对齐作为思考的出发点，试图超越工具论理解，深化对人工智能

未来发展的讨论。

一、通往超级智能的三条进路

笔者曾在2023年6月华东师范大学召开的“元宇宙、人类世与奇点哲学”研讨会上提出AI

叙事的三种形式：科学化、科幻化和诗意化。科学化即人工智能的讨论以科学为根据，尤其是

神经科学和计算机科学的研究成果；科幻化即AI讨论以科学幻想为根据，尤其是科幻电影和

①

小说；诗意化摆脱了科学成果的束缚，强调了人类的未来处境，以文学为根据。刘永谋教授

在本期笔谈中提出目前三种“AI宣传术”，也提到了小说、动漫、动画和影像作品中的AI故事，

即以人机友好共处、人机终极大战等情节讲故事，通过这些故事渲染AI觉醒、高效、超能、神

秘等鲜明特征并灌输给社会公众。刘永谋教授用“宣传术”来形容这种叙事，但是这种用法缺

乏严谨。笔者并不赞成使用“宣传术”来说明这个问题，与之相对，更愿意采用“叙