提升机器学习的安全性.pdfVIP

Improve the Safeness of Machine Learning 提升机器学习的“安全性” 李宇峰 南京大学 博士 1 机器学习背景 2 鲁棒性 vs “安全性” 3 如何理解鲁棒性 4 初步研究结果 5 结束语 机器学习 针对一类任务T在性能评价P的约定下 ，计算机 程序可以通过历史经验E ，得到性能提升 Tom Mitchell （机器学习领域权威学者， 美国科学院院士 ） 经典机器学习过程 一类任务 训练数据 学习模型 性能评价 深度模型、 精度、AUC值、 历史经验 SVM、GBDT等 F1值等 机器学习技术取得广泛关注 伴随着云计算 ，大数据时代的到来 ，计算能力的大幅提升 ，使得机 器学习模型在计算机视觉、自然语言处理、语音识别等众多领域都 取得了较大成功 图像视频 文本 音频 1 机器学习背景 2 鲁棒性 vs “安全性” 3 如何理解鲁棒性 4 初步研究结果 5 结束语 机器学习技术的鲁棒性 “瞻前”：机器学习技术正被期待着在更多领域发挥作用 “顾后”：机器学习技术发挥作用时 ，也清醒认识到它存在“不确定性” 无人驾驶 机器学习技术使用过程 ：对无人车行驶中由设备收集到传感 器、雷达、激光等环境数据进行分析 ，构建学习模型 ，预测 行车驾驶模式（直行、左转、右转等 ） “不确定性”的体现 ：当遇到从没见过的场景时（如Ghost Car ），机器学习技术基本上‘缴械投降’ Ghost Car [Reprinted from T. G. Dietterich’s AAAI presidential talk 2016] 机器学习技术的鲁棒性 “瞻前”：机器学习技术正被期待着在更多领域发挥作用 “顾后”：机器学习技术发挥作用时 ，也清醒认识到它存在“不确定性” AlphaGo 机器学习技术使用过程 ：对围棋对阵数据（包括历史出现的 ， 和人工模拟的数据 ）构建学习模型 ，计算当下局势的胜算 “不确定性”的体现 ：当第三局李世石下出‘神之一手’时 ， 机器学习技术基本上“缴械投降” ，由九段水平下降到业余 这样的情况还出现在自动化武 器、软件缺陷定位、设备故障 诊断等等众多应用上 机器学习技术的鲁棒性 “瞻前”：机器学习技术正被期待着在更多领域发挥作用 “顾后”：机器学习技术发挥作用时 ，也清醒认识到它存在“不确定性” 关键 ：提升机器学习技术使用的“安全性” 即机器学习技术面