如何做出道德的人工智能体心理学的视角-西安交通大学教师个人主页.PDFVIP

如何做出道德的人工智能体？心理学的视角 喻丰 许丽颖 西安交通大学人文社会科学学院 通讯作者：喻丰，yufengx@xjtu.edu.cn 摘要：人工智能的飞速发展产生了一系列道德困境，如何做出道德的人工智能体（如 道德人工智能机器人）成为了必须回答的问题。本文从心理学视角探究了人工智能 体是否可能被赋予道德地位、被如何赋予何种道德地位；人工智能体是否需要及需 要何种道德能力；人工智能体如何获得及获得何种道德规则；人工智能体能够如何 深化人类对于人性、关系以及多样化的道德理解等多种问题进行了回答。从心理学 的理论和实证研究出发，切实回答如何做出道德的人工智能体的疑问，期望对以人 为中心的人工智能研究提供道德心理学智慧。 关键词：人工智能；道德；道德判断；人机交互；人—机器人交互 一、人工智能体的道德地位（moral standing ） （一）人工智能体需要道德地位吗？ 日常生活中，无论是朴素民众（folk people ）还是处于人工智能研究顶尖浪潮上的科学 家，都询问出类似问题：“如何做一个道德的机器或机器人或人工智能体？” （虽然人工智能 可能只是底层的计算或者是代码，但是本文所指人工智能体包括人工智能程序、人工智能应 用、人工智能机器、人工智能机器人等，我们在本文中采用“人工智能体”来代表所有这些人 工智能实体）。但从语言学上分析，当他们问出这样的问题时，他们已然承认机器、机器人、 或者人工智能体具有道德地位。亦即，人类普遍有一种想要赋予人工智能体道德地位的朴素 倾向，尤其是，当人类知觉、注意并意识到人工智能体其智能（intelligence ）或者其进行具 体事务的能力（competence ）要远胜于自己时，人们更可能赋予人工智能体道德地位 （Gray, Gray, Wegner, 2007 ）。作为美好的愿景，我们希望那些智能和能力远胜于人类的人工智能 体，它可以是道德的。 这样说，便表明人类在心理上是存疑的，即人类害怕、恐惧、忧虑、担心人工智能体是 不道德的。我们无法排除这种可能，出于对人类物种的中心主义和自尊，人类通常情况下会 在除去智能和能力的其他方面对人工智能体进行贬损。从社会认知观的角度上来看，人类认 识世界通过两个基本维度：一曰能力（即我们这里所讨论的智能和处理具体事务的能力）， 二曰温暖（即进行良好社会交往和道德的水平）（Cuddy, Fiske, Glick, 2008 ）。如果能力上 不能贬损人工智能体，那么人类倾向于在温暖上贬损它们，最常见的是倾向于认为它们没有 道德地位。 这是这个阶段人类认识上较为可笑的矛盾。他们一方面外显地认为机器、机器人或者人 工智能体没有道德地位，另一方面他们又内隐地、悄无声息地、不由自主地、未经控制地存 有将人工智能体作为一个具有道德地位的道德实体的判断。试想一下如下场景：一位正在打 字，写着学术论文的哲学教授，一边写下类似：“人工智能无论如何强大、如何智慧、如何 有能力，都改变不了其所属的工具地位，它永远不可能成为承担道德责任的主体，也永远不 可能享有道德权利与义务，总而言之，它不具有道德地位” 。而这时他的孩子被他家的扫地 机器人飞驰而过撞伤了腿，他扔下论文，抄起扫地机器人便砸在地上，忿忿不平地骂道：“讨 厌的死机器人、坏机器人，我一定要惩罚你” （王银春, 2018 ）。这样的情境不应该只是笔者 臆想出来的，笔者相信读者但凡读到此处，脑中都有类似场景鲜活的画面感，而不会觉得陌 生。举这个例子就是想说明，在人类认识上对于人工智能体其道德地位存在内隐和外显的分 离。 人类对人工智能体在道德地位上存在认识的内隐外显分离当然不是一件好事，解决分离 的途径便是达成一致。内隐和外显并不是一个连续维度上的两个极，它就是一个二分的、要 么内隐要么外显的维度，因此若要达成内隐和外显认识上的统一，人们要么在认识上取消人 工智能体的道德地位，要么在认识上赋予人工智能体道德地位。究竟是取消还是赋予它们道 德地位，这取决于人工智能体是否可能作为一个道德的实体（Entity ）而主动地、自发地、 有意图地、能动性地去进行具有道德意涵的行为。在现在这个时代和阶段里，它们似乎不可 能，即使它们做出了种行为，而这种行为又伤害了其他生命体，它们