中职《走近人工智能》（商务印书馆·2022） 12.3人工智能伦理法则 课件(共19张PPT).pptxVIP

第十二章人工智能伦理规范 目录二、危机所在：人工智能的危险三、伦理规范：人工智能伦理法则四、立法问题：人工智能伦理研究与立法一、角色变化：人工智能的三种角色 人工智能伦理规范本章知识思维导图“人工智能可能代表着某种文明的危险，这不仅仅是在个人层次，所以的确需要大量的安全性研究。”－－埃隆·马斯克（ElonMusk，特斯拉和SpaceX负责人）一、角色变化：人工智能的三种角色三、伦理规范：人工智能伦理法则四、立法问题：人工智能伦理研究与立法二、危机所在：人工智能的危险 三、伦理规范：人工智能伦理法则 （一）阿西莫夫“机器人三定律”人工智能越往高级方向发展，机器与人的关系会越密切，由此产生的机器伦理问题也会增多。以人工智能为核心的机器，其技术伦理不同于以往任何机器，原因就在于人工智能时代的机器拥有高度自主性能，它对人类的潜在威胁难以预料和控制。因此，为机器人制定伦理规范显得无比重要。“人工智能的短期影响取决于由谁来控制它，而长期影响则取决于它是否能够被控制。”－－霍金在谈到机器伦理的时候，首先要提到的当属艾萨克-阿西莫夫（IsaacAsimov），他提出的“机器人三定律”成为后来机器人学研究者不可避开的经典原则。阿西莫夫是美籍犹太人，《基地》《机器人》等系列作品是阿西莫夫最脍炙人口的代表作。 （一）阿西莫夫“机器人三定律”阿西莫夫是伟大的科幻作家，他特意在全银河的背景下架构他独有的科幻世界，借由银河帝国的兴亡史来讨论人类社会和文明。他学术渊博，成就丰硕，一生著述颇丰。在他刚开始写机器人小说时，人工智能并未发展得那么充分，如今，阿西莫夫笔下的机器人逐渐从书本走到电影，再从电影走入了人类生活。他最有影响力的观点就是“机器人学三大法则”，通俗地被称作“机器人三定律”。“机器人三定律”首次出现在阿西莫夫的短篇集《我，机器人》中，内容如下:1.机器人不得伤害人类，或因不作为（袖手旁观）使人类受到伤害；2.机器人应服从人的一切命令，但不得违反第一法则；3.在不违背第一及第二法则下，机器人必须保护自己。 （一）阿西莫夫“机器人三定律”1985年，阿西莫夫出版最后一本机器人系列科幻小说《机器人与帝国》（RobotsandEmpire），在这一部书中，他给机器人法则加上了一条新定律，将机器人三定律扩张为四定律。“生命的长河比一滴水重要得多。这也就是说，人类作为一个整体、比人类作为一个个人要重要得多！有一条守则比第一守则更重要。这就是：机器人不得伤害人类这族群，或因不作为（袖手旁观）使人类这族群受到伤害。我们可称它为零位守则。 （一）阿西莫夫“机器人三定律”这样，第一条守则就应作如下修改：机器人不能伤害作为个体的人，也不能任凭作为个体的人面临危险而袖手旁观，除非那样做会违反零位守则。”因此，阿西莫夫完整的机器人法则应表述为：“第零法则：机器人不得伤害人类这族群，或因不作为（袖手旁观）使人类这族群受到伤害；第一法则：机器人不得伤害人，也不得见人受到伤害而袖手旁观，但不得违反第零定律；第二法则：机器人应服从人的一切命令，但不得违反第零、第一定律；第三法则：机器人应保护自身的安全，但不得违反第零、第一、第二定律。” （二）机器人新定律阿西莫夫的机器人三大定律为人们提供了机器伦理的基本框架，即使他后来加上了零位定律，它也并不是无懈可击的。从逻辑看来，即使遵循机器人四大定律，但智能机器人在多种情况下依然可能给人类带来伤害，比如当它们遇到“道德两难”问题的时候，无论如何选择，都会不可避免地对人类产生危险。遵循阿西莫夫的思维模式，后续研究者纷纷提出不同的机器人定律，目前比较成型的机器人定律体系如下：元原则：机器人不得实施行为，除非该行为符合机器人原则。（防止机器人陷入逻辑两难困境而当机）第零原则：机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。 （二）机器人新定律遵循阿西莫夫的思维模式，后续研究者纷纷提出不同的机器人定律，目前比较成型的机器人定律体系如下：第一原则：除非违反高阶原则，机器人不得伤害人类个体，或者因不作为致使人类个体受到伤害。第二原则：机器人必须服从人类的命令，除非该命令与高阶原则抵触。机器人必须服从上级机器人的命令，除非该命令与高阶原则抵触。（处理机器人之间的命令传递问题）第三原则：如不与高阶原则抵触，机器人必须保护上级机器人和自己之存在。 第四原则：除非违反高阶原则，机器人必须执行内置程序赋予的职能。（处理机器人在没有收到命令情况下的行为）繁殖原则：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。（防止机器人通过设计制造无原则机器人而打破机器人原则） （二）机器人新定律俄亥俄州立大学的系统工程师提倡更新阿西莫夫三大定律以认清机器人现在的缺陷。他们认为，问题不在于机器人，而在于制造它们的人类，真正的危险在于人类迫使机器