Python数据分析课件：线性回归.pptxVIP

线性回归

回归分析法是确定两种或两种以上变量间相互依赖的定量关系的一种数据分析方法。多用于研究变量之间的关系与相互影响程度，通过建立自变量和因变量的方程，研究某个因素受其他因素影响的程度或用来预测。回归分析法有线性回归和非线性回归，一元回归和多元回归之分。常见的回归分析法有线性回归和多项式回归。简单来说，线性回归就是用多元一次方程拟合数据，多项式回归是用多元多次方程来拟合数据。回归分析法与线性回归2

线性回归可以说是算法非常简单、用处非常广泛，也是非常容易理解的一类算法。线性通常是指变量之间保持等比例的关系，从图形上来看，变量之间的关系函数对应的图形为直线或平面（超平面），斜率是常数。常用的线性回归又有一元线性回归和多元线性回归之分。线性回归3

?1.线性回归的基本形式4

?2.线性回归的损失函数5

线性回归的参数求解常用的有两种方法，一种是最小二乘法，一种是梯度下降法。最小二乘法是解析法，是用矩阵等数学知识直接求解线性回归模型的方法。该方法基于均方误差最小化来进行模型求解，主要思想是选择未知参数使得理论值与观测值之差的平方和达到最小。梯度下降是迭代法的一种，是最常采用的方法之一，在求解损失函数的最小值时，可以通过梯度下降法来一步步的迭代求解。3.线性回归的参数求解6

（1）根据预测目标，确定自变量和因变量；（2）绘制散点图，确定回归模型类型；（3）估计模型参数，建立回归模型（最小二乘法或梯度下降法）；（4）对回归模型进行验证；（5）利用回归模型进行预测。4.线性回归分析步骤7

SKLearn（全称SciKit-Learn），是基于Python语言的机器学习工具包。SKLearn库主要包括六大功能模块：分类、回归、聚类、数据降维、模型选择、数据预处理。在SKLearn库中，LinearRegression是实现线性回归算法的一个类，该类的结构如下：classsklearn.linear_model.LinearRegression(fit_intercept=True,normalize=deprecated,copy_X=True,njobs=None,positive=False)其中的参数含义及具体应用详见教材。5.SKLearn中的线性回归算法8

谢谢聆听！