机器人遵从伦理促进人机信任决策类型反转效应与人机投射假说.pdfVIP

心理学报2024,Vol.56,No.2,194209©2024中国心理学会

ActaPsychologicaSinica/10.3724/SP.J.1041.2024.00194

机器人遵从伦理促进人机信任?

决策类型反转效应与人机投射假说*

12,32,32,34

王晨陈为聪黄亮侯苏豫王益文

(1福州大学经济与管理学院,福州350116)(2闽南师范大学应用心理研究所,漳州363000)

(3福建省应用认知与人格重点实验室,漳州363000)(4上海财经大学数字经济系,上海200433)

摘要阿西莫夫三大伦理原则是关于人工智能机器人的基本伦理规范。本研究提出人机投射假说——人会从自

身具有的认知、情感和行动智能出发,去理解机器人的智能并与之互动。通过3个实验,从原则一到原则三逐步考

察在机器人是否遵守伦理原则对人机信任的影响中,机器人决策类型(作为与否;服从人类命令与否;保护自身与

否)的效应,以及人机投射的潜在机制。结果揭示了人机投射在机器人遵守伦理原则促进人机信任中起中介作用,

以及机器人决策类型与是否遵守伦理原则之间有趣且有意义的交互效应:(1)在遵守情境下,机器人作为相对于不

作为更有利于促进信任,但在违反情境下,则反之;(2)在遵守且尤其在违反情境下,机器人服从相比不服从人类命

令更有利于促进人机信任;(3)相较于违反情境,机器人保护相比不保护自身在遵守情境下更有利于促进人机信任。

跨实验的分析更深入地阐释了在遵守和违反伦理原则情境中以及伦理要求冲突情境中,有利于促进人机信任的机

器人行动决策因素。

关键词人工智能,机器人伦理原则,人机信任,人机投射,人机交互

分类号B849:C91

1前言(JohnsonAxinn,2013)。伦理风险影响人类对机器

人的信任程度(Banks,2021),进而在很大程度上决

唯一的保障是制造出来的机器人总是严格地定了人类是否使用机器人(ParasuramanRiley,

遵守第一原则——机器人在任何情况下都不能伤1997;Etemad-Sajadietal.,2022)。因此,为了避免

害人类。可能出现的伦理问题和人机信任危机,建立针对机

——Asimov(1942)器人的伦理体系一直是备受关注的议题。

随着人工智能(artificialintelligence,AI)技术的1.1阿西莫夫三大伦理原则

蓬勃发展,机器人作为人工智能的典型实例逐渐被艾萨克·阿西莫夫(IsaacAsimov)在上世纪40

应用到了生产、医疗、教育乃至军事等领域中,在年代就预见到需要伦理规则引导机器人的行为以防

促进人类福祉的同时也具有潜在的伦理风险。例如,范伦理风险,并制定了最早的机器人伦理体系——机

机器人可能在人机交互中对人类造成身体或心理器人三大伦理原则(lawsofrobotics;Asimov,1942,详

伤害(ManingerShank,2022),机器算法决策可能见表1)。

导致种族、年龄和性别歧视问题(Bigman