人工智能伦理问题和策略.PDFVIP

人工智能伦理：问题与策略 AI Ethics: Problems and Strategies 曹建峰/Jeff Cao 腾讯研究院研究员/Research Fellow at TRI 一、人工智能时代到来，算法决策开始主导 第三次AI浪潮开启人工智能时代 • 技术进步 ：改进的机器学习（算法 ），更强大的计算能力，大数据 • 应用广泛：图像识别、语音识别、机器翻译、虚拟助手、推荐引擎、医疗 诊断、自动驾驶、智能机器人、计算机视觉、自然语言处理…… • 业界风向：谷歌、微软、Facebook等科技巨头纷纷转向AI ，AI创业和投资 如火如荼，市场规模增长空间巨大 生活在算法之下，算法决策开始主导 越来越多的决策、任务/工作将被部分或者完全自动化，由算法主导或者辅助 二、变革背后的阴暗面：不容忽视的伦理问题 算法歧视越来越多 图像识别 “看脸识人格”算法Faception 聊天机器人 犯罪风险评估算法COMPAS 算法歧视具有危害 规模 损害 黑箱 Scale Damage Black Box 算法并不客观，可能暗藏歧视 • 算法模型 算法是“以数学方式或者计算机代码表达的意 见”，包括其设计、目的、成功标准、数据使 用等都是设计者、开发者的主观选择 • 数据输入 数据是社会的镜子，历史数据本身可能是歧视 性的 数据不准确、不完整、过时，所谓“垃圾进， 垃圾出” 样本大小差异：依赖多数（majority ）学习 • 习得的歧视 自我学习、适应、改进的算法可能从交互中习 得人类社会中既有的歧视 算法固化、放大歧视，可使歧视自我长存 “谁掌握过去，谁就掌握未来；谁掌握现在，谁就掌握过 去。”——奥威尔 《1984》 算法的“自我实现的歧视性反馈循环（feedback loop ）” • Predictive policing • 犯罪风险评估 • E-score （比如信用评估） 数据是AI时代的新石油，加深隐私忧虑 • 训练AI需要大量训练数据：数据收集无处不在，AI对数据（包括敏感数据） 的大规模收集、使用，可能威胁隐私 • 自动化画像、决策：越来越广泛的应用可能给个人权益产生不利影响 • 数据流通（currency ） ：各种服务之间交易数据，数据流动更加频繁，极大 削弱个人对其数据的控制和管理 AI安全与责任问题不容回避 确保智能机器人安全、可控 • 行为安全 +人类控制 • 阿西莫夫：机器人三定律 • 2017年阿西洛马会议