分析：要是人工智能杀了人我们应该怪谁？.pdf

分析：要是人工智能杀了人 我们应该怪谁？ 论文类别：计算机 - 互联网研究 上传时间：2015/8/19 10:01:00 论文作者：未知 (中讯)关于人工智能伦理问题，特别是涉及到开发机器人武器之类的问题， 我们已经讨论过很多次了。实际上，之前我们更多的是把人工智能作为一种人 类已知威胁来展开讨论的。那些喜欢电影 《终结者》的粉丝应该对它的情节还 记忆犹新吧，片中人工智能 “天网”希望终结人类，如果这一幕真的发生，那 么我们现在讨论什么监管啊，责任啊，似乎都毫无意义。但所谓千里之堤毁于 蚁穴，尤其在法律哲学家John Donaher 的眼里，如果能够仔细思考这些问题的 话，说不定会有助于减少未来可能存在的风险。 人工智能的监管与责任，其实和安全与公共福利一样，都像是硬币的正反 面。监管的目的，是为了确保人工智能系统尽可能的安全；而责任，其实就是 为了当人工智能系统出错时，我们可以找到可以追究问题的人，或者再说的准 确一点儿，就是找谁可以获得法律上的赔偿。 应该向谁追责呢？ 让我们先来谈谈责任问题吧。首先，我们可以模拟一个侵权(民事)责任问 题，想象下，在不远的将来可能会发生这样一个场景：一辆无人驾驶拖拉机原 本应该按照指令在A农民的田里播种，但是奇怪的是，它却把种子播种到了B 农民家的田里。 让我们先假设A农民是完全按照操作手册来使用那辆无人播种拖拉机的，同 时，我们也假设A农民无需再做其他额外的操作，比如在农田交界处设置无线 电信标，等等。那么现在，假设农民B要来控告这次错误播种事件(我们暂且不 考虑诸如滋扰和侵犯等问题)，会遇到哪些问题呢？。 实际上，有很多问题需要被回答，这个事故是农民A 的责任吗？可能不是； 那么，是无人播种拖拉机厂商的责任吗？有可能，但在此之前，我们是不是该 明确与这些问题相关的责任和标准呢？比如无人播种拖拉机的行业标准是什 么，制造商的产品规格是否符合相关标准呢？不仅如此，如果自己的土地被他 人种植上了其他农作物，这是否算是财产损失，又是否能否追溯经济赔偿呢？ 在一连串问题之前，我们其实是先假定了无人播种拖拉机里面的系统软件是 由制造商开发的。那么接下来又有新的问题出现了，如果那套人工智能系统是 由第三方开发公司完成开发的，该如何处理？还有，系统内部的软件代码是由 多人合作完成的，又该如何界定各自的职责？ 随着时间的推移，人工智能系统将会越来越不依靠传统的经典算法和代码， 而且他们也会展示出更多我们无法预料到的行为，值得一提的是，这些行为没 有人可能预测得到，甚至包括人工智能系统的创造者也无法预料。但重要的 是，可预见性，其实是处理责任过失问题中一个非常关键的组成部分。 为了能够让读者更好地理解可预见性问题，我们才会假设了上面那个无人播 种拖拉机的案例，或许十年、二十年之后，人工智能已经不再是简单的种错庄 稼这件事儿了，它可能会是某个意外让人们受伤，更严重一些，人工智能可能 会不小心杀人。所以，如果我们的法律无法适时作出改变，那么未来将会导致 更多问题出现。就拿上面那个人工智能种错庄稼的事情为例，当无法实现可预 见性，最终的结果就是没人承担责任！ 责怪人工智能机器人 为什么我们不干脆去责怪机器人呢？毕竟，关于人工智能人格也有过讨论， 而且人工智能系统本身也有担负刑事责任的可能。 但是，这种方法在实际应用时又有什么不一样呢？这里，还是借用别人曾经 说过的一句话吧。“人工智能系统真的会像著名小说家艾萨克·阿西莫夫笔下 的机器管家那样吗？遵守法律，遵从道德良知，还能保护银行存款？” 我们姑且不去讨论人工智能系统是否可以被起诉，但人工智能制造商和开发 商们必须受到监管。只有这样，才有可能将一些无法归责的各方，用严格责任 赔偿(注：严格责任赔偿是指只要造成了损害，不论行为人有无过错，都要承担 赔偿责任。常见的适用于无过错责任原则的，有从事高压、剧毒、高速、放射 等作业造成他人损害的。工伤是典型的适用无过错责任原则的，也就是说只要 劳动者在工作期间因公受伤了，排除劳动者个人主观故意的因素之外，雇用单 位无论有无过错都要承担工伤赔偿的责任的。)约束起来， 实际上，在我们的日常生活里，严格责任赔偿已经应用到了很多地方。当然 除了这种责任赔偿之外，如果需要对人工智能追责，其实也可以采用无过错责 任赔偿和赔偿方案池等方式。 规章制度 如果从监管的角度来看人工智能，那么你会发现，严格的安全标准，以及建 立完善的安全认证流程也都是非常必要的。不过，如何设计一个合适的机构与 流程框架，并且让这个框架得以有效运行，