机器人守则悖论_第一节：机器人三定律的悖论.pdfVIP

机器⼈守则悖论_第⼀节：机器⼈三定律的悖论 正版?狼 我们经常可以在⽇常⽣活中看到⼀些由电脑控制的⼯具。在某种程度上，我们有时也把他们称作机器⼈。在科技⽇新⽉异的今天，电脑和机 器⼈的发展⼏乎可以说是⼀⽇千⾥。也许我们不难想象，在未来的某⼀天的早晨，当你在北京的某处公寓醒来时，机器⼈已经帮你做好了早 餐，电脑已经帮你列出了今天的⽇程安排。在未来的世界⾥，电脑辅助⼏乎可以算是⼈类⽣命的延伸。在电脑和机器⼈的协助下，⼈类⽆法 从事或是不适合从事甚⾄是不愿意从事的劳动，都可以被⾃动处理掉。 在可以想象的前提下，我们的⽣活中也出现了⼀些科幻背景的⽂艺作品。在绝⼤多数的科幻作品中，电脑和机器⼈都在其中扮演着重要的⾓ ⾊。我们甚⾄很难想象⼀个没有电脑的未来世界会是什么样⼦。 在众多的科幻⽂艺作品中，我们有时会发现这样⼀个有趣的现象。 就是在⼏乎所有涉及电脑及机器⼈伦理⽅⾯的⽂艺作品中都强调着这样三条“定律”。 第⼀定律 机器⼈不得伤害⼈，或任⼈受到伤害⽽⽆所作为； 第⼆定律 机器⼈应服从⼈的⼀切命令，但命令与第⼀定律相抵触时例外； 第三定律 机器⼈必须保护⾃⼰的存在，但不得与第⼀、第⼆定律相抵触。 这三条定律在科幻⽂艺界被称为“阿西莫夫机器⼈三定律”。为著名科幻⼩说家艾萨克·阿西莫夫在他于1942年发表的作品 《Runaround》中第⼀次被明确提出，并且成为他的很多⼩说，包含基地系列⼩说中机器⼈的⾏为准则和故事发展的线索。从此， “阿西 莫夫机器⼈三定律”成为了众多科幻⽂艺作品中被⼴泛认同的⼀种观点。 在现实中，很多致⼒于⼯业⼈⼯智能及机器⼈研究的专家学者也相对的认同这三条原则。有些⼈认为这三条原则甚⾄有可能成为未来的某种 ⼯业标准，⽽被⼴泛的应⽤于机器⼈设计制造中。⽽众多的科技爱好者和科幻迷也开始认定这样的三条原则将会由科幻作品中的假设，演变 成真正的 “定律”。 那么现在我们就来客观的看⼀看这样的三条原则是否会成为现实。 我们从第⼀条定律开始。 “机器⼈不得伤害⼈，或任⼈受到伤害⽽⽆所作为” 在讨论这样⼀条规则时，我们⾸先需要明确“机器⼈”和 “⼈”的概念。即什么样的物体可以被定义为“机器⼈”，同时什么样的物体可以 被定义为“⼈”。 机器⼈，在通常意义上讲，就是电脑，或者称为⼈⼯智能。我们假设⼈⼯智能没有主动思维能⼒，如同我们现在正在使⽤的电脑⼀般。那么 从这个意义上讲，想要规范电脑的⾏为是不可能实现的。⾸先，我们可以认为电脑没有判断“⼈”定义的能⼒，即对于“⼈”的判断是由特 定的⼈作出的。在这样的条件下，这条规则显然等同于“⼈”不得伤害⼈。⽽这样的规则可以作为法律，却不能成为定律。同样，由界 定 “⼈”的概念不同⽽产⽣的相对伤害也是不能作为判定机器⼈犯罪的依据。对于没有主动判断能⼒的电脑来说， “⼈”的概念被特定的⼈ 给出，是相对偶然的。我们并不能要求⼀台没有任何主动思维能⼒的电脑承担任何责任。电脑所做的，只是根据⼈所给与的信息，完成计 算，做出相对回应⽽已。 因此，如果第⼀条规则成⽴，那么没有主动思维能⼒的电脑是不能被称为机器⼈的。 那么我们假设机器⼈有主动思维的能⼒。 如此，似乎问题就可以迎刃⽽解了。但是事实却并⾮如此。对于“⼈”的界定，⼈类本⾝同样没有准确的定义。⼈类，在⽣理⾓度上讲，只 是⼀种具有主动思维能⼒的动物。⽽同样具有这种思维能⼒的动物却并⾮只有⼈类⼀种，⼈类与其它动物之间的差距仅仅为主动思维能⼒⼤ ⼩不同⽽已。换句话说，如果机器⼈判定有主动思维能⼒的动物为⼈类的话，那么站在机器⼈的⾓度上，⼀位国家总统和⼀只海豚没有任何 区别。 我们假设在机器⼈可以判定动物思维能⼒上的差距，从⽽定义⼈类与其它动物之间的区别。那么假设⼀个⾃出⽣起就封闭在⼀个原始环境 中，没有接受过任何⽂明教育和任何技能训练的⼈出现在了未来的某⼀天。那么在这样⼀个思维能⼒基本和其他动物持平的环境下，机器⼈ ⼜该如何判断其是否为⼈类呢？同样，⾯对⼀个思维能⼒尚未健全的婴⼉，机器⼈⼜是否能判断其为⼈类呢？ 我们还可以换另外⼀种⽅式来做假设。我们假设机器⼈所具有的判断⼈类本⾝的依据为遗传基因。根据不同种类的DNA，可以很简单的判断 该⽣物是否为⼈类。那么我们再假设这样⼀种情况，即拥有⼈体的机器⼈，和拥有机械器官的⼈类共存的情况下，机器⼈⼜应该如何判定这 两个同样拥有主动思维能⼒的⽣物中那个才算是真正的⼈类呢？ 在未来的发展中，我们可以很轻易的想到⽤⼀些机械化的器官来代替⼈类本⾝器官，⽤以延续⽣命本⾝。在 ⽇本漫画家⼠郎正宗的 《STAND ALONE COMPLEXGHOST IN THE SHELL》中， “义体”的概念被⾸次提出。