加速与对齐：人工智能的虚无主义面向及其超越.pdfVIP

【专论】3

加速与对齐：人工智能的虚无主义面

向及其超越

1*

文/杨文宇

摘要：身处人工智能时代，人的操心在“虚无主义—人工智能”关系中逐渐消失，

日益陷入自我价值拒斥的虚无主义，这尤其体现在当下的人工智能发展路径中。有效加

速主义一味追求人工智能的加速发展，使人在自我逃避中主动迎向虚无主义；超级对齐

试图以人工智能替代人在对齐中的作用，使人在缓解幻象中不断堕入虚无主义。为此，

需审度超级智能出现的合理性，警惕人工智能潜在的牧师形象，进而破除人类中心论的

思维方式，并重拾操心以保留人自我抉择的可能空间及现实责任。

关键词：人工智能；虚无主义；有效加速主义；超级对齐

1

2

一、引言展潜力的风险”，且具有灾难性、全球性

的特点。对人工智能生存性风险的讨论最

在数智时代，随着AI大模型迅速发早源于科幻作品。从《大都会》中机器玛

展，人工智能的生存性风险（existential丽亚煽动工人叛乱，到《2001太空漫游》

risks，又称X-risks）愈发得到重视。所谓中HAL9000谋杀宇航员，再到“终结者”

生存性风险，即“有可能摧毁人类长期发系列中人类与天网展开生存之战，表明人

*作者介绍：杨文宇，中国人民大学哲学院硕士生，研究领域为技术哲学、科技与社会。

1托比·奥德：《危崖：生存性风险与人类的未来》，韦斯琳译，北京：中信出版社，2021年，第34页。

4科幻人文

们对AI恐惧的不断加深。但是科幻对未就是去发现这些梦想实际上是噩梦，而

来的设想，更容易使人将生存性风险视为我们需要在为时已晚前从这些噩梦中醒

7

一种AI宣传术。然而，随着欺骗性对齐来。”因此，有必要对人工智能时代的“虚

1

（deceptivealignment）、AI共谋（colluding无主义—技术”关系进行系统考察，澄明

23

AIs）、权力寻求（power-seeking）等AI有效加速主义与超级对齐的人工智能发展

风险频发，对生存性风险展开讨论越来越路径中蕴含的虚无主义面向，以期为应对

具有现实必要性，尤其是对AI发展路径人工智能中的虚无主义问题提供有效路径

中蕴含的虚无主义面向的反思。与有益借鉴。

诚然，由于虚无主义的多重面孔，其

通常不被视为一种生存性风险。但正如尼二、人工智能时代的“虚

采所言，作为“所有客人中最阴森可怕的无主义—技术”关系

4

客人”，虚无z主义应被视为现代性以来

人最大的生存性风险。那些看似日常的虚虚无主义如幽灵一般始终伴随人的左