控制与便利如何权衡.docVIP

控制与便利如何权衡? “控制既是效果也是导因，而认为控制是某种由你来施展的概念是对于进步的真正阻碍。” 网:m 一份文件、巨大挑战 国务院在2017年7月8日印发了一份名为《新一代人工智能发展规划》的通知，正式把以人工智能为导向的科技与经济发展列为中国未来的专注焦点，列入国家战略层面的系统布局，希望能借此强化自身的国际竞争力。其中，人工智能发展的战略目标是分成三个阶段：首先要求人工智能的总体技术和应用到2020年与世界先进水平同步，相关产业成为新的重要经济增长点，而相关技术应用要成为改善民生的新途径；继而要求人工智能的基础理论到2025年实现重大突破，其中的部分技术与应用要达到世界领先水平，并成为带动产业升级和经济转型的主要动力；最终则是要求人工智能的理论、技术与应用总体在2030年达到世界领先水平，成为世界主要人工智能的创新中心，并让智能经济、智能社会取得明显成效，为跻身创新型国家前列、成为经济强国奠定重要基础。1 《通知》对整个社会提出了一系列的巨大挑战：人们必须有效运用以工智能作为未来社会经济发展的基础，否则即可能在竞争中面临被淘汰的命运。这意味着人们日常生活与行为模式的各种基础设施，今后或将面临一次乃至多次大规模的更新改版。例如，所有的锅碗瓢杓、家用电器等日常用品以及各种交通工具都将全面“智能化”，给人们带来前所未见的便利。 然而，这也意味着许多前未曾见的问题与挑战将会出现。因此，《通知》明确要求必须“制定促进人工智能发展的法律法规和伦理规范”，包括“相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和框架。开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等。重点围绕自动驾驶、服务机器人等应用基础较好的细分领域，加快研究制定相关安全管理法规，为新技术的快速应用奠定法律基础。”2 道德制约与法律原则 早在近代对人工知能的探索刚刚萌芽的1942年，科幻小说家艾萨克?艾西莫夫（ИсаакЮ?довичОзи?мовorIsaacAsimov，1920-1992，见左下图（图片来源：互联网））已在他的小说中阐述了所谓的“机器人三定律”（ThreeLawsofRobotics）或“艾西莫夫法则”（Asimov’sLaws）：一、机器人不得伤害人类，或因不作为（袖手旁观）使人类受到伤害；二、除非违背第一法则，机器人必须服从人类的命令；三、在不违背第一及第二法则下，机器人必须保护自己。3 后来经过一系列的调整，到了1985年出版的《机器人与帝国》（也是艾西莫夫的最后一部科幻小说）中，他又进一步把“艾西莫夫法则”演绎为对机器人的四项定律。它们是：第零法则：机器人不得伤害人类族群，或因不作为（袖手旁观）使人类族群受到伤害；第一法则：除非违背第零法则，机器人不得伤害人类，或因不作为（袖手旁观）使人类受到伤害；第二法则：除非违背第零或第一法则，机器人必须服从人类的命令；第三法则：在不违背第零至第二法则下，机器人必须保护自己。4 艾氏创造出这四项法则的原意主要是为了他的小说提供必要的框架，而其本人也对这四项法则在具体的实践上如何能够紧密无缝地协调操作也表达了某种程度的怀疑。5但它们还是产生了巨大的影响，也成为欧洲联盟机器人民事法规则委员会（EUCommissiononCivilLawRulesonRobotics）在2015年向欧洲议会所提呈的一项决议与相关建议事项（草案）的基础。6 欧盟议会已于2017年2月16日以396：123票、85票弃权正式通过了这项名为《机器人民事法规则》（CivilLawRulesonRobotics，以下简称欧盟《机器人规则》）的决议。7决议本身并无法律效力，还需要欧盟议会与欧盟理事会（EuropeanCouncil）依据“一般立法程序”（ordinarylegislativeprocedure）的要求先责成欧盟委员会（EuropeanCommission）依据决议中的建议事项提出具体的立法草案，然后再由两个部门分别通过；如果委员会决定不采取那些建议事项时，就必须向理事会及议会提出报告和说明。8另外必须特别指明，这个《决议》只是要求对人工智能的“民间使用与开发”（civiluseanddevelopment）予以规制，性的发展与用途显然不在其列。 决议在《一般原则》部分的第一条（前言第T段）明确采纳了“艾西莫夫法则”。但由于这些要求并不能真正被转化为机器语言或代码，因此还是只能对从事人工智能“机器人”的设计者、生产者与操作者而设。换句话说，整套《机器人规则》实际上的立足点还是对自然人所设置的基本道德规范，在具体的执行上目前还有着一定程度的困难，毕竟人类的道德判断与价值观本身就不是统一的，而且可以