强人工智能设备面临的伦理困境与风险.pdfVIP

江苏社会科学2023年第2期 强人工智能设备面临的伦理困境与风险 张亦佳 内容提要 基于“人是目的”的价值设定而建立起的“伦理至善”第一原则让强人工智能设备的研发和 应用首先遭遇道德合法性的论证难题。“有限的道德合法性”为其谋求到了一个伦理存在空间。以致命性自 主武器系统（LAWS）为例，“有限性”的前置条件则让关于其“道德责任代理人”的准确识别与划分成为首要 问题。以道德判断能力为标准，将作为“工具”的机器和作为“具有实践智慧”的人做明确划分是准确识别 LAWS责任代理人的逻辑基础。基于道德责任代理人的逻辑梳理，即使被完美道德编码的LAWS作为“非道 德”的机器在应用中也可能会遭遇“不道德的人”的伦理难题。这是我们可预见且对国际关系构建和整个人 类社会发展可能产生颠覆性影响的伦理威胁。从这个角度看，谨防出现基于“技术野蛮”的“寡头恐怖主义” 这一时代命题要求我们尽快对相关强人工智能设备给出一套有效的、缜密的预防性伦理应对机制。 关键词 强人工智能 致命性自主武器 有限的道德合法性 道德主体 寡头恐怖主义 张亦佳，河海大学马克思主义学院博士研究生、南京财经大学助理研究员 20世纪70年代，塞尔（JohnSearle）首次提出了“强人工智能”概念，认为“计算机不仅仅是用来研 [1] 究人的思维的一种工具，只要运行适当的程序，计算机本身就是有思维的”。业界认为相对于弱人工 智能，强人工智能的优势在于“机器可以全面、综合地复现人类的所有思维能力，且聪明程度能够达到 [2] 或超过人类”。2022年9月，AlphaGoZero被证明能够独立于人类的经验知识与指令，通过感知领域 的深度学习和决策领域的不断强化学习，最终实现智力的自我进化。强人工智能设备可能带来的风 险又一次引发广泛关注和担忧。关涉到战争领域，以智能无人作战为主导的未来战场将呈现出“零伤 亡、高智能和无人制胜”的特点。随着自主武器系统的深入研发与实践应用，战争形态的范式转变所 本文为国家社会科学基金项目“战争形态智能化的伦理约束机制研究”（20CZX057）的阶段性成果。 [1]J.R.Searle,Minds,Brains,andPrograms,BehavioralandBrainSciences,1980,3(3),pp.417-457. [2]王彦雨：《“强人工智能”争论过程中的“态度转换”现象研究》，《科学技术哲学研究》2020年第6期。 · · 58 强人工智能设备面临的伦理困境与风险 引发的道德困境和挑战将会是人类未来必须面对的重大伦理议题。自主武器系统的研发初衷是减少 人类战士在战场上的伤亡，但是，近来基于强人工智能的致命性自主武器系统（lethalautonomous [1] weaponsystems，LAWS）已经被研发出来甚至出现了实战应用案例 ，而以此为代表的强人工智能设备 可能带来的伦理问题也日益凸显。由于强人工智能的具体表现形式多样，本文将以LAWS为例来具 体分析此类强人工智能设备可能面临的伦理挑战。 一、强人工智能“伦理至善”的道德合法性难题及其可能性辩护 整体来说，强人工智能设备应该具备以下特征：须达到或超越人类智能、可实现“意识自醒”并形 [2] 成“自己”独特的行动目标、具备较为完整的认知能力序列和情境适应性能力等 。而依照相关概念， LAWS指的是“一种基于AI技术且具有自主决策性能的‘杀手机器人（killerrobots）’武器攻击平台，可 以在不经过人类操作员干预的情况下，独立搜索、识别目标并自主性地做出攻击决策，其设计初衷是 寄望于以智能机器人取代人类战士从事战场侦察、日常巡逻和执行危险性战斗