人工智能与信息社会课件：804伦理规范：社会层面.pdfVIP

人工智能与信息社会 人工智能与人类社会未来：伦理规范：社会层面 陈斌北京大学gischen@pku.edu.cn 人工智能的伦理规范 〉 人工智能毫无疑问已经成为马力惊人的社会 发展加速器，如果人类想要利用好因此带来 的无限机遇，最好在这辆 “快车”冲进未知 之门前给它装上刹车。 〉 这个刹车就是伦理规范，只有符合社会伦理 规范和公共政策的解决方案，才能设计出可 信赖的人工智能。 北京大学地球与空间科学学院/ 陈斌/2018 人工智能开发应用的道德原则 〉 透明和负责是其他四项原则的基石。 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 人类会因人工智能的到来失业吗？ 〉 人工智能的安全性如何保证？ 〉 智能医疗机器人造成安全事故谁来负责？ 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 就业问题 有科学家提出在未来5年内，预计将有5 百万 人因人工智能而失业。 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 前三次工业革命是机器代替人的体力劳动， 正在到来的人工智能革命将开始代替脑力劳 动，这将导致劳动力市场大变革。 〉 因此造成的大量失业现象是否可能威胁到社 会安定？ 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 安全问题 任何技术创新最大的应用前提是安全，最大 的危险是人类对它失去控制，或者是新技术 落入非人道主义者手中。 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 实例 2015年7月2 日，在德国大众工厂里，一名22 岁的技术工人就被他安装的机器人杀死。 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 一方面，人工智能得益于互联网的大数据发 展资源优势； 〉 另一方面，互联网人为因素的黑客、病毒又 能对人工智能的安全性构成巨大威胁。 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 责任与义务问题 智能医疗机器人造成的医疗事故谁负责？ 如何防止利用人工智能的金融诈骗等有关 人工智能所引发的道德和责任问题？ 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 责任与义务问题 目前，这些问题没有答案。由于刑事责任 可能不适用，在这种情况下，这个问题必 须通过民法来解决，于是关键的问题在于 人工智能系统是服务还是产品。 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 如何应对？ 高校和研究机构开展前瞻性的科技伦理、 人文和哲学研究。 在人工智能领域开展广泛对话和持续合作。 鼓励企业和行业协会设立科技伦理部门或 委员会。 风险投资机构和资本市场应该鼓励和引导 企业进行负责任的产品开发。 社会组织应该积极参与人工智能伦理规范 的构建。 北京大学地球与空间科学学院/ 陈斌/2018 伦理规范：社会层面 〉 总结： 人工智能会给我们的社会带来许多难以解决 的问题，需要我们一起努力，创造一个美好 的未来！ 北京大学地球与空间科学学院/ 陈斌/2018