机器学习算法一览选读.doc

机器学习算法一览（附python和R代码） 2016-04-19?大数据文摘 大数据文摘作品，转载需授权编译：@酒酒?校正：寒小阳??龙心尘 摘自：  大数据文摘“机器学习”专栏成立啦！ 欢迎大家留言提出宝贵意见，欢迎投稿给我们。如何加入我们？文章末尾有说明:)  ◆?◆?◆ “谷歌的无人车和机器人得到了很多关注，但我们真正的未来却在于能够使电脑变得更聪明，更人性化的技术，机器学习。 ”——?埃里克 施密特（谷歌首席执行官） ◆?◆?◆ 当计算从大型计算机转移至个人电脑再转移到云的今天，我们可能正处于人类历史上最关键的时期。之所以关键，并不是因为已经取得的成就，而是未来几年里我们即将要获得的进步和成就。 对我来说，如今最令我激动的就是计算技术和工具的普及，从而带来了计算的春天。作为一名数据科学家，我可以建造一个数据处理系统来进行复杂的算法运算，这样每小时能赚几美金。可是学习这些算法却花了我无数个日日夜夜。  那么谁能从这篇文章里收益最多呢？ 这篇文章有可能是我写的所有文章里最有价值的一篇。  写这篇文章的目的，就是希望它可以让有志于从事数据科学和机器学习的诸位在学习算法的路上少走些路。我会在文章中举例一些机器学习的问题，你们也可以在思考解决这些问题的过程中得到启发。我也会写下对于各种机器学习算法的一些个人理解，并且提供R和Python的执行代码。读完这篇文章，读者们至少可以行动起来亲手试试写一个机器学习的程序。  不过，这篇文章并没有阐述这些算法背后的统计学原理，有时候从实践入手也是很好的学习路径。如果你希望了解的是这些统计学原理，那么这篇文章的内容可能并不适合你。  一般说来，机器学习有三种算法： 1. 监督式学习 监督式学习算法包括一个目标变量（因变量）和用来预测目标变量的预测变量（自变量）。通过这些变量我们可以搭建一个模型，从而对于一个已知的预测变量值，我们可以得到对应的目标变量值。重复训练这个模型，直到它能在训练数据集上达到预定的准确度。?属于监督式学习的算法有：回归模型，决策树，随机森林，K邻近算法，逻辑回归等。  2. 无监督式学习 与监督式学习不同的是，无监督学习中我们没有需要预测或估计的目标变量。无监督式学习是用来对总体对象进行分类的。它在根据某一指标将客户分类上有广泛应用。?属于无监督式学习的算法有：关联规则，K-means聚类算法等。  3. 强化学习 这个算法可以训练程序做出某一决定。程序在某一情况下尝试所有的可能行动，记录不同行动的结果并试着找出最好的一次尝试来做决定。?属于这一类算法的有马尔可夫决策过程。  常见的机器学习算法 以下是最常用的机器学习算法，大部分数据问题都可以通过它们解决： 1.线性回归 (Linear Regression) 2.逻辑回归 (Logistic Regression) 3.决策树 (Decision Tree) 4.支持向量机（SVM） 5.朴素贝叶斯 (Naive Bayes) 6.K邻近算法（KNN） 7.K-均值算法（K-means） 8.随机森林 (Random Forest) 9.降低维度算法（Dimensionality Reduction Algorithms） 10.Gradient Boost和Adaboost算法 1.线性回归 (Linear Regression) 线性回归是利用连续性变量来估计实际数值（例如房价，呼叫次数和总销售额等）。我们通过线性回归算法找出自变量和因变量间的最佳线性关系，图形上可以确定一条最佳直线。这条最佳直线就是回归线。这个回归关系可以用Y=aX+b 表示。  我们可以假想一个场景来理解线性回归。比如你让一个五年级的孩子在不问同学具体体重多少的情况下，把班上的同学按照体重从轻到重排队。这个孩子会怎么做呢？他有可能会通过观察大家的身高和体格来排队。这就是线性回归！这个孩子其实是认为身高和体格与人的体重有某种相关。而这个关系就像是前一段的Y和X的关系。  在Y=aX+b这个公式里： Y- 因变量 a- 斜率 X- 自变量 b- 截距  a和b可以通过最小化因变量误差的平方和得到（最小二乘法）。  下图中我们得到的线性回归方程是 y=0.2811X+13.9。通过这个方程，我们可以根据一个人的身高得到他的体重信息。  线性回归主要有两种：一元线性回归和多元线性回归。一元线性回归只有一个自变量，而多元线性回归有多个自变量。拟合多元线性回归的时候，可以利用多项式回归（Polynomial Regression）或曲线回归 (Curvilinear Regression)。 Python 代码 #Import Library #Import other necessary libr