机器学习-01-回归分析模型介绍.pptxVIP

零基础入门 回归分析 什么是回归分析 分析两种或两种以上变量关系的一种统计方法就是回归分析 一个变量 多个变量 线性关系 一元线性回归 多元线性回归 非线性关系 一元非线性回归 多元非线性回归 那到底什么是线性？ Y=b+aX，那么X和Y就是线性关系，因为X的增加量与Y的增加量成固定比例 X Y Y=b+aX 线性回归模型 先从一个简单的例子入手，介绍几个概念 下面这张图给出了2016年统计的某区域房屋成交均价与房屋面积之间的关系，其中每一个点都是一个具体的房屋面积和价格 面积 价格 也许我们可以用一条直线大致拟合一下这些点的轨迹 f(面积) 线性回归模型 面积 价格 三条直线中，哪一条最符合这些点的规律呢？ 假设图上，每个点的坐标都是(x,y) 每条直线对应的函数为f(x) 那么∑|(f(x)-y)|最小的一条直线就是最符合这些点的规律的直线 简单一点说，点到直线距离之和最短的直线，是最贴合这些点的规律的直线 线性回归模型 还是刚才那个例子，如果我想根据已经存在的房屋数据，预测某一个面积对应的价格，那么，我就需要推导 出一条直线，然后根据这条直线进行预测。 假设这条直线的函数f(x)=a0+a1x，我们可以叫它预测函数；已知的所有图上的点坐标为(xi,yi) 下面我们要做的事情就是找到合适的a0、a1,使得 ∑|f(xi)-yi| 有最小的值，我们将这个目标写作min∑|f(xi)-yi|，称为目标函数 我们可以将min∑|f(xi)-yi|转化一下，变为min∑(f(xi)-yi)²，因为如果∑(f(xi)-yi)²到达最小值，那么|f(xi)-yi|也会最 小 假设我们已知的房屋数据，有m组，我们一般会将目标函数再一次等价的变为 min1/2m*∑(f(xi)-yi)²，我们用J(a0,a1)表示1/2m*∑(f(xi)-yi)²，所以目标函数变为了min J(a0,a1) 这里的J(a0,a1)我们成为代价函数 最后总结一下，那个房屋面积和价格的例子中，我们打算用预测函数f(x)=a0+a1x去预测任意面积的房屋价格 所以，我们就是要寻找合适的a0、a1,使得代价函数J(a0,a1)最小 线性回归模型 这一节，我们已经了解了线性回归的目的，以及预测函数和代价函数的概念。 下面一节，我们会进一步的了解，我们的代价函数是什么东西，为我们找到 合适的a0和a1做充分准备。 谢谢！