【精品文章】-如何设计制造安全可信任的智能机器人？最终还是要靠算法.docxVIP

张小只智能机械工业网

如何设计制造安全可信任的智能智能机器人？最终还是要靠算法

为什么一想到智能智能机器人不再被固定在工厂地面上，而是来到我们身边工

作，我们就变得紧张了呢？我们所依赖的自动化系统和工艺没有数千种也有数百种

了。我们乘坐的飞机可以自主飞行，输电网络可以自主调度，以防断电事故的发生。

我们期望这些系统可靠、安全，能够按预先设定执行命令，仅此而已。或许问题就出

在这里。我们在本期报道的机器和系统需要具有作决策的能力，它们不仅要以庞大的

数据集为基础，还要以人类行为以及主宰着世界的社会规则、习惯、法律和价值观为

依据。它们将需要像人类一样，能够实时地计算出“正确”的行为，实现在行人乱穿马

路的人行横道处转弯躲避，进行救死扶伤的外科手术演习，或是在战区辨别友善的市

民和敌对士兵，这一切都要在完全没有人类协助的情况下进行。为了制造出能让人产

生信任感的智能智能机器人，智能智能机器人学家正在与心理学家、社会学家、语言

学家、人类学家和其他科学家合作，来更深刻地理解是什么特质使我们在扮演各种不

同角色时看起来值得信赖且可靠。这并不容易。如乔治城大学法律和技术方面的学者

梅格·莉塔·琼斯（MegLetaJones）指出的那样，__你需要非常确切地知道，你想要放

心地让智能智能机器人去做哪些事。__“它应该能做些什么？它如何向人类用户表达自

己的能力，表达是否准确？你要能够回答上述问题，并明确你的期望，才能建立强烈

的信任感。我们还不知道如何做好这件事。”__智能智能机器人设计的另一个难点是要

考虑人们口中想要的智能智能机器人功能和他们真正想要的功能之间的区别。__例

如，如果你问他们，是否想要智能智能机器人百分之百的诚实，每个人可能都会说是

的。但是根据心理学家的研究，如果一台智能智能机器人百分之百的诚实，人们就会

开始厌恶它们了。因此，设计者要考虑给智能智能机器人设定一个诚实的范围——和

我们自己不无相似。智能智能机器人还将需要表现出一些态度。如果一台智能智能机

器人能够解释它的动机，并在执行任务之前询问我们是否许可，我们会更有可能相信

张小只机械知识库

张小只智能机械工业网

它们。现在关于“杀手智能智能机器人”的舆论出现得有点太早了。毕竟，目前我们见

识过的最好、最瞩目的自主智能智能机器人还是人类扮演的——阿诺·施瓦辛格的终结

者，《她》中斯嘉丽·约翰逊饰演的萨曼莎，以及目前我个人的心头最爱，《星际穿越》

中比尔·欧文配音的TARS。但是甚嚣尘上的“杀手智能智能机器人”也是一种不错的评

价，因为它也将某些问题带进了公众的视野。这些问题长久以来一直是工业界和学术

界普遍讨论的问题，并且是所有智能智能机器人的共性问题，既包括唱着歌哄孩子睡

觉的可爱款智能智能机器人，也包括可能会取代我们工作、和我们没多少相像之处的

智能智能机器人。这场舆论喧嚣给我们带来了一个千载难逢的机会，让我们可以把事

情做对，不再重复现代互联网创建时一哄而上而导致的隐私、安全、责任和人权错

误。把机器作为道德主体，赋予它们“道德观”，在可预见的将来似乎有些勉强。它们

毕竟不是有意识的生物。__但在算法上赋予它们丰富且细致的“思想”，以此来与我们

进行互动，这是人类理所当然要尽到的责任。__它们必须讲究道德伦理，公正且富有

同情心，就像我们一样。tips:感谢大家的阅读，本文由我司收集整编。仅供参阅！

张小只机械知识库