《人工智能基础与应用》_《人工智能基础与应用》-模块6人工智能与社会变革.pptxVIP

模块六任务一人工智能与人类关系任务二人工智能与职业

任务一人工智能与人类关系

任务一学习目标.1.了解人工智能的道德问题产生的原因；2.了解人工智能带来的潜在危害；3.了解人工智能23条军规产生的背景及意义。

任务一任务导入.2017年10月26日，沙特阿拉伯授予香港汉森机器人公司生产的机器人索菲亚公民身份。作为史上首个获得公民身份的机器人，索菲亚当天在沙特说，它希望用人工智能“帮助人类过上更美好的生活”，人类不用害怕机器人，“你们对我好，我也会对你们好”。索菲亚拥有仿生橡胶皮肤，可模拟62种面部表情，其“大脑”采用了人工智能和谷歌语音识别技术，能识别人类面部、理解语言、记住与人类的互动。索菲亚的例子，提出一个问题：在技术高歌猛进的同时，人工智能不断模糊着物理世界和个人的界限，不断刷新人的认知和社会关系，延伸出复杂的伦理、法律和安全问题，但相应的规范和制度设计还存在盲区，这是一个极大的挑战。

任务一思考1.假如有一天，跟你一起坐在教室里上课的同学中，有一半是机器人，你是否愿意跟（它/他/她）们一起上课？2.你认为机器人应该享有和人类一样平等的社会地位吗？

任务一活动一人工智能的道德问题概述《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上国外某杂志的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。

任务一活动一人工智能的道德问题概述智能增强（简称IA）技术使得人工智能发展出一种纯粹机器的学习和思维方式。例如，打败李世石的阿尔法狗，根据棋手的说法，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。基于机器思维的人工智能，可控性就值得怀疑了。 近年来，国际人工智能界日益重视人工智能中的伦理与法律问题，并推动相关技术标准及社会规范的研讨和制定，如IEEE全球人工智能与伦理倡议、阿西洛马人工智能23条伦理原则，我国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的三步走规划。

任务一活动二机器智能的危害在《未来战士》《二十二世纪杀人网络》等电影里，有机器人满世界追打人类的镜头。如果机器人具有了“情感”，具备了思索能力，那么，在将来的某一天，它们可能会像人类一样，自我设计，自我制造，以致摆脱人类的控制，将人类置于危险的境地。

任务一活动二机器智能的危害1.霍金的告诫：当心人工智能的反噬享誉世界的英国天体物理学家、英国剑桥大学著名教授史蒂芬?威廉?霍金发出警告：“完美人工智能的开发，便意味着人类的终结!”

任务一活动二机器智能的危害2.科技巨头对人工智能的担忧《奇点临近：当人类超越生物学》的作者雷?库兹韦尔预计，21世纪30年代人类大脑信息上传成为可能；到2045年奇点来临，人工智能完全超越人类智能，人类历史将彻底改变。特斯拉CEO埃隆?马斯克，微软CEO比尔?盖茨，美国麻省理工学院物理学家马克斯?泰格马克，美国加州大学伯克利分校计算机科学家斯图尔特?拉塞尔等科技巨头及学者均表达了对人工智能的发展不可控的担忧。以色列历史学家、《人类简史》一书作者尤瓦尔?赫拉利则对人工智能的发展持乐观态度。人工智能最终是天使还是魔鬼，完全取决于开发和应用技术的人。只要人类自身能约束好自己，未来的人工智能就一定会沿着服务于人类的方向前行。

任务一活动二机器智能的危害3.机器信誉问题现在人们对机器更有信心。外出旅行时，即使有人非常熟悉路线，也必须打开“导航系统”。如果向导有一次指错了路，很长一段时间里他都不会被信任；如果导航系统出错，多数用户会简单地认为这是偶然的故障，并会继续信任它。人们往往更愿意相信机器，而不是人。人们对机器的过度信任，会引致严重的问题。例如，美国经常宣传无人机只是袭击和杀死了恐怖分子，而巴基斯坦、阿富汗、也门的当地媒体和目击者却经常报告它杀害了很多无辜的平民，其中包括儿童。我们并不应该害怕机器智能，而应该害怕的是人类轻信机器。

任务一活动二机器智能的危害4.机器的速度问题未来的计算机速度将如此之快，控制它们本身就是一项大工程。我们已经无法控制计算速度快于人类大脑百万倍的机器。机器的计算速度要快于最聪明的数学家。我们编写算法，并把它输入机器。危险在于没有人能确保该算法设计正确，尤其是当它与众多算法交互时。这个问题将通过引入限速的方式来解决：只允许算法在一定的速度范围之内，只允许“警察”（防止算法引发问题的看门人算法）的速度更快。但这样的做法是否无法充分发挥机器的速度优势呢？

任务一活动二机器智能的危害5.妖魔化常识我们在生活的方方面面越来越常见到一种愚蠢机器：它的规则不容人类智能干涉。例如在