人工智能意识的可及性及其伦理前置.pdfVIP

·科技伦理·

人工智能意识的可及性及其伦理前置人工智能意识的可及性及其伦理前置

陈万球

［摘要］传统哲学理论认为机器不存在意识和认知能力。智能科技急速迭代进化，对类脑科学研究需求

迫切，两者叠加影响使得机器意识研究成为当今的理论前沿和学术热点。机器意识研究可以深化物质与意

识的关系，借助科学佐证与技术细节，必将深化哲学的科学性与前沿性。作为一种技术构想，机器意识是一

种基于某种哲学思想来探讨机器是否真正拥有意识与机器意识的本质及建构的理论和方法。以“生物算

法”为基础的人类意识，最终将会被以形式化算法为基础的人工智能充分模拟。可以预见，随着人工智能矛

盾运动的惯性推力，人工智能意识在不久后将可能成为现实。然而，人工智能并非人类“终结者”。将伦理

置为机器意识发展的前置条件，是应对其风险的时代之需。

［关键词］机器意识；可及性；脑智外现；觉知内显；伦理前置

［作者简介］陈万球，长沙理工大学科技哲学与科技伦理治理创新研究中心教授。

*

意识是自古以来最熟稔、最神秘、最令人困扰的哲学概念之一。因而，对人工智能终极目的实现

而言，机器意识的探讨是绕不开的前沿性难题。智能机器人是否有意识？从非决定派到决定派激烈

之争彰显了问题的重要性。

一、机器意识的有无之争：从结构说到功能说

人工智能是机器发展的最新形式，是20世纪人类最伟大的发明之一，它正在迅速而深刻地改变

世界和人自身。人工智能系统（如情感机器人、无人机、人机混合增强智能、人脸识别系统、脑机融合

技术、自主智能系统等）正在大量、快速地普及应用，对人类社会产生了全方位、深层次的影响，成为

学界持续关注和讨论的热点问题。其中最前沿也最引发争议的乃是“人工智能意识”问题。具有自

我意识的智能体可能引发颠覆性的社会伦理问题，对此不能无视，必须积极主动应对。

关于智能机器是否具有意识问题的研究始于20世纪50年代。1950年，“人工智能之父”英国数

学家阿兰·麦席森·图灵（AlanMathisonTuring）在《计算机器与智能》中首次提出了被后人称为“图灵

测试”（TurningTest）的方法。1955年美国数学家约翰·冯·诺依曼（JohnvonNeumann）在《计算机与

人脑》中，革命性地诠释了计算机数学运算与人脑意识的关系。进入21世纪，学界围绕机器是否具有

意识或认知能力展开激烈讨论，主要分为两派，即非决定派和决定派。

非决定派基于“结构说”，认为意识是生命结构的产物，人工智能不是生命体，强调意识与生命系

统的不可分割性，所以人工智能永远不可能产生意识。基于神经科学的研究，他们认为大脑的感知、

决策和行为是通过最小化预测误差来实现的，而这些预测最终是为了维持生物体的内稳态（homeo⁃

*本文系国家社会科学基金重点项目“人工智能自我意识的可能性及其伦理问题研究”（21AZX017）、国家社会科

学基金重大项目“当代科技领域道德问题研究”（22ZD044）的阶段性成果。

·101·

伦理学研究2025年第1期

stasis）。这意味着意识的产生与生物体维持自身生存的需求密切相关。甚至连最简单的生命形式，

比如单细胞生物，都需要与外界交换物质来维持内稳态。从生物自然主义的视角来看，这种生物过

程是意识形成的先决条件。意识不仅仅依赖于计算功能，更与生物过程中的代谢、物理限制和动态

变化密切相关。非决定派反复论证，人工智能不可能发展出具有自主意识的机器人，意识是人类的

独有特征，人之外的事物永远不可能拥有意识。代表人物国外有约翰·塞尔（JohnSearle）、罗杰·彭罗

斯（RogerPenrose）、苏珊·布莱克摩尔（SusanBlackmore），国内有陈凡、王焕超、韩东屏等。1980年，

约翰·塞尔在《心智、大脑和程序》一文中提出著名的“中文房间”思想实验用以驳斥“图灵测试”的合

理性，认为机器是物质，永远不可能具备独立反思能力。塞尔从研究中得出结论：意识是一种生物现

象，在某种程度上与胆汁分泌可以相提并论［1］（111）。所以，在生物体之外是不可能产生意识的。数学

家罗杰·彭罗斯笃信，AI与自我意识之间有着不可逾越的鸿沟。布莱克摩尔则认为，寻求机器意识是

对机器人研究的误导，创造一个意识的机器主体是不可能的［2］（183）。在国内，