2-回归分析简介.ppt

回归分析简介 一元线性回归 多元线性回归 可化为线性回归的曲线回归 学习目标 掌握一元线性回归的基本原理和参数的最小二乘估计方法 掌握回归方程的显著性检验 利用回归方程进行预测 掌握多元线性回归分析的基本方法 了解可化为线性回归的曲线回归 用 Excel 进行回归分析计算 回归分析与拟合的关系 数值分析中的拟合方法：求给定函数类F中的函数 该方法的缺点是，不知道可靠性的大小。回归分析中不但要求得上述的函数 回归模型的类型 一、回归模型与回归方程 回归分析的一般方法是在函数类F中求函数 今考虑线性函数类L(X)，则 Gauss-Markov假设 设模型为 基本假设（ Gauss-Markov假设） 估计回归方程 最小二乘法 最小二乘估计的性质 性质 平方和分解 性质 二、模型与回归系数检验 怎样检验？ 根据模型假设，要检验三个东西： 回归方程，即回归模型是否具有显著性； 每个自变量是否具显著性，即选取的自变量是否滥竽充数的“滥竽”； 残差是否“纯随机”的，即是否有人为的系统偏差。 1、模型显著性检验——模型拟合优度检验 什么叫回归模型 如果你选取的这p个自变量对因变量y没有显著性贡献，在回归方程 前面的分析告诉了我们，检验回归方程的显著性，即是要检验假设 平方和分解：SST=SSR+SSE 如果H0成立： 确定系数（决定系数） H0不成立时SST的主要贡献是SSR，所以R2大 X~F(p,n-1-p),F∈W等价于 检验模型显著性的步骤: 估计回归方程(估计模型)； 平方和分解，计算F值和R2； 查表求Fα或利用软件求F的P值（Sig F）； 比较F与Fα或比较Sig F与α，下结论： F Fα（ Sig Fα ）=拒绝H0； 否则…… Hald水泥问题的数据 模型拟合优度检验的软件输出标准（EXCEL，SAS，SPSS等等） 欲知这P（4）个变量中是否有“滥芋”，欲知回归分析在EXCEL中怎样实施，且听下回分解。 谢谢！ 2、回归系数显著性检验 为了避免“滥竽充数”，必须剔除“滥竽”。 对因变量Y没有显著贡献的“滥竽”xj，其在线性方程中的表现形式是其系数βj=0，所谓“滥竽”，即是下面的零假设成立： 回忆前面最小二乘法估计的性质： 因此，当P_valueα，认为βj=0，Xj对Y作用不大,　下一次拟合时剔除变量Xj ； 系数检验的软件输出标准 实例:Hald水泥问题 逐步剔除x3，x4后的模型输出 模型摘要 各变量以及截距项的P值均远远小于α=0.05,所以模型拟合完毕。最后Hald水泥问题的选定模型为 3、残差分析 线性回归模型的基本假设是： Hald水泥问题的最后选定模型的残差图 三、预测 预测是回归模型的应用的一个重点。对给定的自变量的值x0，预测相应的回归因变量的值y0。 y0的置信区间 考虑误差 控制带 置信度为1-α的y(x)的置信区间构成一条控制带. 四、回归分析的实施 Excel :工具＼数据分析＼回归分析 Matlab: [B,BINT,R,RINT] = REGRESS(Y,X,alpha) Stepwise(),polyfit()…… SPSS：Analyze ＼regression ＼…… SAS：Proc REG Eviews:ls y c c1 c2 …… 五、可化为线性回归的非线性回归 1、如果Y是单自变量X的p阶多项，则有Y关于变量 Lzsp175-liti Lzsp177-liti 姜启源：数学实验(第一版)P293-8 在一丘陵地带测量高程，x和y方向每隔100米测一个点，得高程如下表，试拟合一曲面，确定合适的模型，并由此找出最高点和该点的高程。 线性回归模型拟合总结 显著水平α 1、模型显著性检验： ▲如果F model的P值(PrF) α则拒绝H0，模型Σ(βiXi)对Y具有显著贡献。 ▲ R2越大则模型拟合得越好 2、参数显著性检验：如果βi的P值(Pr|t|) α，则Xi对Y具有显著贡献。 下次拟合模型时，剔除P值最大的变量。 3、残差分析：如果模型是合理的，则残差（Residual）图是随机的，无规律的。正态概率图近似一条直线. 回归分析步骤 第一步：概率实际问题提出模型； 第二步：参数估计（LSE）； 第三步：模型检验（模型显著性检验、参数检验、残差检验）； 第四步：如果上述检验均合格，则摘录模型； 第五步：模型应用（分析因变量与各自变量的相关关系，预测）。 The End 谢谢！ 附录：基于EXCEL的回归分析计算 挂上“数据分析”模块： 工具\加载宏\勾选“数据分析库” 通过上述加载， “数据分析”模块挂在“工具”菜单下。 选择“工具\数据分析\回归”，打开“回归分析”对话框，填写各项而得“回归分析的各项输出”。