机器学习方法回归-中国联通研究院.PDFVIP

机器学习方法：回归 崔羽飞 01 前言 2017 年3 月15 日AlphaGo 打败韩国棋手李世石，其背后谷歌公司的人工 智能技术让机器学习这个领域重新变得火热起来。 2017 年6 月，我开始接触机器学习这个领域。第一个学习的算法，当然是 KNN。不过这篇文章的主角不是KNN ，而是回归。回归分为线性回归和非线性 回归。一般而言，说到回归，往往都想到是线性回归和逻辑回归。逻辑回归与线 性回归本质上是一样的。下面主要根据自己学习进行的总结，欢迎大家交流。 02 什么是回归？ 高尔顿曾经做过一个种豆子的实验。通过大量的数据统计发现，个子小的豆 子往往倾向于产生比其更大的子代，而个子大的豆子则倾向于产生比其小的子代。 高尔顿认为新个体在向豆子的平均尺寸 “回归”。也就是说事物总是朝着某种 “平均”发展，即回归到事物的本来面目。 在数学上，回归指研究一组随机变量(Y1 ，Y2 ，… ，Yi)和另一组(X1 ，X2 ，… ， Xk)变量之间关系的统计分析方法，又称多重回归分析。通常Y1 ，Y2 ，… ，Yi 是因变量，X1、X2 ，… ，Xk 是自变量。 I 输入变量为一个的时候 假如，目前知道某地区的房屋面积与价格的数据，我们总能通过一个方程来 近似的表示房屋面积和价格的关系。如下 y=ax+b 其中，a 和b 就是我们要求的回归系数。 II 输入变量为多个的时候 假如，目前除了知道房屋的面积和价格外，我们还知道房屋具有的房间数目。 此时我们也能通过一个方程来近似的表示房屋面积、房屋的房间数目和房屋价格 之间的关系。如下 其中， 为回归系数。 03 回归的应用 逻辑回归在鸢尾花的例子 利用逻辑回归预测鸢尾花的类型。数据集共有 150 行数据，每一行是一个 样本。每个样本包含5 个字段，分别为花萼长度，花萼宽度，花瓣长度和花瓣宽 度。数据集格式如下所示： 1.首先引入python 中需要用到的包 2.读入鸢尾花数据并将目标预测字段替换为0,1,2 预测的鸢尾花类比变为 3.创建逻辑回顾对象，并显示分类结果 分类结果的示意图如下： 上图为花萼长度（sepal length ）和花萼宽度（sepal width ）分布统计图。 4.显示预测结果 结果如下： 预测争取的个数为119 个，正确率为79.33%。 04 小结 回归是机器学习中的基础算法，但是它很重要。好多算法都是基于这个进行 推导的。这里我只是对回归的基本含义做了简要的概括。下次我会对于线性回归 和逻辑回归的具体推到过程进行详细讲解。 本文转自容数据服务集结号。 作者简介： 崔羽飞，毕业于北京邮电大学信息与通信工程专业，中国联通研究院工程师， 主要研究方向数据加工、模型开发。