新版课件清华大学机器学习课件-3第三讲 统计学习概论.pdfVIP

第三讲：统计学习方法概论

袁春

清华大学深圳研究生院

2015/10/12

机器学习和统计学习

维基百科：

机器学习是近20多年兴起的一门多领域交叉学科，涉及概率论、

统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学

习理论主要是设计和分析一些让计算机可以自动“学习”的算法。

机器学习算法是一类从数据中自动分析获得规律，并利用规律对

未知数据进行预测的算法。因为学习算法中涉及了大量的统计学

理论，机器学习与统计推断学联系尤为密切，也被称为统计学习

理论。算法设计方面，机器学习理论关注可以实现的，行之有效

的学习算法。很多推论问题属于无程序可循难度，所以部分的机

器学习研究是开发容易处理的近似算法。

统计学习和机器学习

BrendanO’Connor的博文Statisticsvs.Machine

Learning,fight!，初稿是08年写的，或许和作者的机器

学习背景有关，他在初稿中主要是贬低了统计学，思想

和[1]有点类似，认为机器学习比统计学多了些

AlgorithmModeling方面内容，比如SVM的M