构建并评价回归模型0442课件讲解.pptxVIP

构建并评价回归模型04

4.构建并评价回归模型使用sklearn估计器构建线性回归模型从19世纪初高斯提出最小二乘估计法算起，回归分析的历史已有200多年。从经典的回归分析方法到近代的回归分析方法，按照研究方法划分，回归分析研究的范围大致如图所示。

4.构建并评价回归模型模块名称函数名称算法名称线性回归因变量与自变量是线性关系对一个或多个自变量和因变量之间的线性关系进行建模，可用最小二乘估计法求解模型系数非线性回归因变量与自变量之间不都是线性关系对一个或多个自变量和因变量之间的非线性关系进行建模。如果非线性关系可以通过简单的函数变换转化成线性关系，那么可用线性回归的思想求解；如果不能转化，那么可用非线性最小二乘估计法求解模型系数在回归模型中，自变量与因变量具有相关关系，自变量的值是已知的，因变量是要预测的。回归算法的实现步骤和分类算法基本相同，分为学习和预测两个步骤。学习是通过训练样本数据来拟合回归方程的；预测则是利用学习过程中拟合出的回归方程，将测试数据放入方程中求出预测值。常用的回归模型如下表所示。

4.构建并评价回归模型常用的回归模型续表。模块名称函数名称算法名称Logistic回归因变量一般有1和0（是与否）两种取值利用Logistic函数将因变量的取值范围控制在0～1，表示取值为1的概率岭回归参与建模的自变量之间具有多重共线性是一种改进最小二乘估计法的方法主成分回归参与建模的自变量之间具有多重共线性主成分回归是根据主成分分析的思想提出来的，是对最小二乘估计法的一种改进，它是参数估计的一种有偏估计。可以消除自变量之间的多重共线性

4.构建并评价回归模型sklearn库内部有不少回归算法，常用的如下表所示。模块名称函数名称算法名称linear_modelLinearRegression线性回归svmSVR支持向量回归neighborsKNeighborsRegressor最近邻回归treeDecisionTreeRegressor回归决策树ensembleRandomForestRegressor随机森林回归ensembleGradientBoostingRegressor梯度提升回归树

4.构建并评价回归模型评价回归模型回归模型的性能评价不同于分类模型的性能评价，虽然都是对照真实值进行评价，但由于回归模型的预测结果和真实值都是连续的，所以不能够求取Precision、Recall和F1值等评价指标。回归模型拥有一套独立的评价指标。常用的回归模型评价指标如下表所示。方法名称最优值sklearn函数平均绝对误差0.0metrics.mean_absolute_error均方误差0.0metrics.mean_squared_error中值绝对误差0.0metrics.median_absolute_error可解释方差值1.0metrics.explained_variance_scoreR方值1.0metrics.r2_score值越靠近0，模型性能越好值越靠近1，模型性能越好

《大数据分析技术应用》主讲人：张琛玮第六章：使用scikit-learn构建模型