论人工智能研究中的前瞻性道德责任-上海师范大学学报.PDF

２０ １８ 年 ７ 月　 　 　 　 　 　 　 　 　 　 　 　 　 　 　 上海师范大学学报（哲学社会科学版） Ｊｕｌｙ ，２ ０ １ ８ 第４７卷第４期　 　 　 　 　 　 　 　 　 Ｊｏｕｒｎａｌ ｏｆ Ｓｈａｎｇｈａｉ Ｎｏｒｍａｌ Ｕｎｉｖｅｒｓｉｔｙ（Ｐｈｉｌｏｓｏｐｈｙ ＆ Ｓｏｃｉａｌ Ｓｃｉｅｎｃｅｓ Ｅｄｉｔｉｏｎ） Ｖｏｌ．４７，Ｎｏ．４ 中图分类号：Ｂ８２９　 　 文献标识码：Ａ　 　 文章编号：１００４⁃８６３４（２０１８）０４⁃００４３⁃（０７） ＤＯＩ：１０．１３８５２／ Ｊ．ＣＮＫＩ．ＪＳＨＮＵ．２０１８．０４．００６ 论人工智能研究中的前瞻性道德责任 杜严勇 （上海交通大学科学史与科学文化研究院，上海２００２４０） 　 　 摘　 要：　 随着人工智能科技的快速发展，“人工智能威胁论”引起人们的广泛关注。 考 虑到人工智能可能产生的深远影响，并根据道德哲学中责任主体的确定条件，从事人工智能研 究的科技人员承担着沉重的道德责任，特别是前瞻性道德责任。 科技人员需要在科研活动中 贯彻执行预防原则，并通过培养道德想象力、加强技术评估、开展行为研究等多种方式来履行 前瞻性道德责任。 　 　 关键词：　 人工智能；前瞻性责任；预防原则 　 　 ２０１７ 年 ５ 月，谷歌人工智能“阿尔法围棋 影响。 约纳斯为何要强调责任伦理呢？ 他认为， （ＡｌｐｈａＧｏ）”与中国职业围棋高手柯洁之间的“人 随着人类能力的发展，人类的行为特征已经发生 机大战”引发世人的高度关注。 阿尔法围棋的胜 了变化，而伦理学与行为相关，那么人类行为特征 利使人们再次真切地感受到人工智能越来越强大 的改变要求伦理学也需要某种改变。［１］（Ｐ１）约纳斯 的能力，“人工智能威胁论”也再次成为一个街谈 所说的人类的新能力，就是指现代技术。 现代技 巷议的热门话题。 如何让人工智能更好地为人类 术对人类社会的影响无所不在，人类已经处于 服务，尽量减轻甚至避免负面影响？ 对于这个问 “技术化生存”的时代，这一点是不言而喻的。 题，人们可以从不同的角度给出不同的答案，但无 现在学者们普遍认为，现代技术并不是“价 论如何，从事人工智能科技研发的科研人员的责 值中立”的，技术可能导致人的异化。 探讨技术 任问题是一个无法回避的关键性问题。 本文探讨 的社会影响机制，努力避免或减轻技术的负面影 了科研人员应该承担责任的原因，强调科研人员 响，已经成为技术哲学研究的一个重要话题。 维 应该承担前瞻性道德责任，并初步讨论了科研人 贝克（Ｐｅｔｅｒ⁃Ｐａｕｌ Ｖｅｒｂｅｅｋ）用调节（ｍｅｄｉａｔｅ）概念 员履行前瞻性道德责任的可能进路。 来解释技术对人类的具体影响。 在他看来，技术 不是中立的工具，技术人工物对人类的行为和经 一、为何负责？ 验起着调节作用，影响人类的道德行为、道德抉择 以及生活质量。［２］（Ｐ９０）人们使用某一新技术导致 第一，从科技的社会影响角度看，人工智能科 的结果，可能跟预期的目标相符，但也可能导致不 技很可能产生巨大而深远的社会影响，由此突显 一样甚至完全相反 的后果。 特纳 （Ｅｄｗａｒｄ 了责任伦理的重要性。 众所周知，美籍德裔学者 Ｔｅｎｎｅｒ）把技术导致的跟人们预期相反的结果称 约纳斯（ＨａｎｓＪｏｎａｓ）的责任伦理思想产生了很大 为“技术的报复”。 他认为：“报复效应的发生，是