机器学习20170928.pptxVIP

从机器学习到深度学习方法及应用 汇报人：吕广奕 中国科学技术大学 Email: gylv@mail.ustc.edu.cn 大纲 2 机器学习 多领域交叉学科 涉及概率论、统计学、凸分析、算法复杂度理论等多门学科 机器学习是人工智能的核心 传统程序:人类按照预期的目标编写程序，机器严格执行 机器学习:人类编写对知识总结归纳的方法，机器从数据中积累经验 3 “阿尔法狗” VS 李世石 阿尔法狗 AlphaGo，创始人哈萨比斯 围棋人工智能程序 谷歌旗下DeepMind公司开发 2015年10月5:0完胜欧洲围棋冠军、职业二段选手樊麾 挑战人类九段棋手李世石受到了全世界的高度关注 4 机器学习的威力 AlphaGo不是普通的计算机程序 它能够快速地学习，每次对弈都能快速吸取经验 与其说人机对弈，不如说是李世石与多名大师之间的对弈 AlphaGo采用了机器学习技术！具体来说是深度学习技术。 5 想象一个老生常谈的情景 某天你去买芒果，小贩摊了满满一车芒果，你一个个选好，拿给小贩称重，然后论斤付钱。 6 数据挖掘中的机器学习 7 数据建模 预测 机器学习的优势 好啦，现在你可以信心满满去买芒果了，一切交给机器去操心吧~ 更妙的是，你的算法还会逐渐进化（强化学习） 根据其预测结果的好坏，进行自动修正 随着训练数据的积累越来越准确 最妙的来了，用同一个算法可以做好几个模型！ 苹果、桔子、香蕉、葡萄各来上一套 8 机器学习的形式化描述 现实世界 数据集 D = {d1, d2, …, dn} 实例 di = (xi, yi) 属性 xi = (xi1, xi2, …, xin) 标签 yi 9 模型世界 存在可以描述现实世界的数学模型 ŷ = f(w, x) 模型参数 w = (w1, w2, …, wn) 损失函数与参数求解 为了让𝑓(𝒘, 𝒙)接近𝑫，我们定义了损失函数 10 这种算法是机器学习（也是深度学习）的基础 学习率 损失函数对参数的梯度 机器学习算法 线性模型 最小二乘 线性回归 贝叶斯方法 基于贝叶斯定理的一类算法 朴素贝叶斯算法 贝叶斯网络 11 贝叶斯公式与贝叶斯网络（BayesNet） 线性回归 机器学习算法 基于实例的算法 K近邻方法KNN 自组织映射SOM 基于核的算法 支持向量机SVM 径向基函数 12 K近邻算法（KNN） 支持向量机算法（SVM） 机器学习算法 决策树学习 J48 GBDT 关联规则学习 Apriori 聚类算法 K-means DBSCAN 13 关联规则分析 决策树 聚类分析 机器学习算法 神经网络 对生物神经网络的模拟 多层感知机（MLP） 自组织网络（SOM） 深度学习 神经网络方法的延伸 深度神经网络（DNN） 卷积神经网络（CNN） 自动编码机（Auto-encoder） 循环神经网络（RNN） 14 深度学习是当前极其流行的方法，很多神奇的应用（包括AlphaGo）都和深度学习有关 各类方法的关系 15 线性模型 神经网络 支持向量机 深度学习 决策树 贝叶斯方法 非参数方法 随机森林 深渡森林