技术加速主义人工智能伦理风险的类型学分析.pdf

技术加速主义人工智能

伦理风险的类型学分析∗

林曦

··

摘要:近年来,人工智能的发展速度体现了“技术加速主义”的逻辑,即强调技术不受任何制约的发展。人工

智能的加速发展,可能会带来“表征的不正义”“分配的不正义”“社会互动的不正义”等伦理风险,即在符号与

象征层、社会资源分配层、社会成员互动层,通过人工智能模型的输入和输出区分社会成员、人工智能及其算法

模型做决策、以人工智能为载体开展社会互动等机制,形成身份、情感、物质层面的不正义结果的风险。因此,

大加速时代,须重新审视人工智能对人类社会发展的意义,制定人工智能相应的技术伦理标准与治理框架,以

期对人工智能所可能产生的伦理风险和问题做出政策层面上的有效应对,从而强化人工智能之于人类社会发

展的赋能效应,规避可能的伦理风险,使之与人类社会价值充分“对齐”。

关键词:技术加速主义人工智能伦理风险超级对齐

近年来,人工智能在研发上的突破性进展,使此,本文将剖析“大加速”这一概念的缘起。其

得人类社会进入一个愈发加速的时刻,改变人与次,“大加速”世纪的最大特点便是技术上的冒进

机器之间关系的“技术奇点”似乎离我们越来越与情绪上的盲目乐观,这体现了“加速主义”的逻

①

近。根据未来学家雷·库兹韦尔的预测,可能辑,即强调技术不受任何制约的发展。从这一视

到2029年,我们就会迎来人工智能的“技术奇角考察当下人工智能的研发现状和发展前景,可

②

点”。人工智能的加速发展,赋能人类生产生活以为我们提供一个技术哲学的批判视角。最后,

之时是否会带来伦理风险,而人类又该如何应对?对“技术加速主义”驱动下的人工智能发展所可

2023年7月24日,中共中央政治局会议强调要能带来的伦理风险进行类型学的分析,即从代表

“促进人工智能安全发展”,体现了国家在人工智性、服务质量、人际交往等方面对人工智能的伦理

能治理领域坚持的“安全与发展并重”的理念。③风险类型进行拓扑层面上的划分和厘定,并且基

本文旨在从技术加速主义视角,反思人工智能可于此提出可能的应对思路。

能对人类社会带来的伦理风险。首先,从技术的

大加速时代

角度,当前人类社会所处的“大加速”世纪是技术

嵌入、改变和影响我们日常生活的背景条件,为人工智能的伦理风险之所以被提上日程,得

∗本文系国家社科基金重大项目“健全共建共治共享的社会治理制度研究”(项目号:23ZDA118)的阶段性成果。

①M.O’Lemmon,“TheTechnologicalSingularityastheEmergenceofaCollectiveConsciousness:AnAnthropologicalPerspective”,Bulletinof

--

Science,TechnologySociety,Vol.40,No.12,2020,pp.1527.

②AnthonyCuthbertson,“Google’sAIProphetFastTracksSingularityPrediction”,March13,2024,TheIndpendent,https://www.independ-

------

ent.co.uk/tech/aisingularitydateraykurzweilgoogleb2511847.html.

③《推动人工智能安全发展》,《经济日报》2024年1月3日。

164