第12章多元线性回归分析报告.ppt

第12章 多元线性回归 复习 一元线性回归 相关关系 相关系数 相关系数检验 复习 一元线性回归 线性模型：y = ?0 + ?1x + ? 回归方程： E( y ) = ?0+ ?1x 估计的回归方程： 最小二乘估计（OLS） 复习 一元线性回归 线性关系检验 回归系数检验 判定系数（拟合优度） 第12章 多元线性回归 12.1 多元线性回归模型 12.2 回归方程的拟合优度 12.3 显著性检验 12.4 多重共线性 12.5 变量选择与逐步回归 学习目标 回归模型、回归方程、估计的回归方程 2. 回归方程的拟合优度 回归方程的显著性检验（重点） 多重共线性问题及其处理（难点） 变量选择与逐步回归 用 Excel 进行回归分析（重点） 问题 一家大型商业银行在多个地区设有分行，为弄清楚不良贷款形成的原因，抽取了该银行所属的25家分行2002年的有关业务数据。试建立不良贷款y与贷款余额x1、累计应收贷款x2、贷款项目个数x3和固定资产投资额x4的线性回归方程，并解释各回归系数的含义 多重共线性(multicollinearity) 回归模型中两个或两个以上的自变量彼此相关 多重共线性带来的问题有 可能会使回归的结果造成混乱，甚至会把分析引入歧途 可能对参数估计值的正负号产生影响，特别是各回归系数的正负号有可能同预期的正负号相反 多重共线性的识别 多重共线性的识别 检测多重共线性的最简单的一种办法是计算模型中各对自变量之间的相关系数，并对各相关系数进行显著性检验 若有一个或多个相关系数显著，就表示模型中所用的自变量之间相关，存在着多重共线性 如果出现下列情况，暗示存在多重共线性 模型中各对自变量之间显著相关 当模型的线性关系检验(F检验)显著时，几乎所有回归系数的t检验却不显著 回归系数的正负号与预期的相反 多重共线性(例题分析) 【例】判别各自变量之间是否存在多重共线性 多重共线性(例题分析) 【例】判别各自变量之间是否存在多重共线性 多重共线性(例题分析) t???(25-2)=2.069，所有统计量t t???(25-2)=2.069，所以均拒绝原假设，说明这4个自变量两两之间都有显著的相关关系 由表Excel输出的结果可知，回归模型的线性关系显著(Significance-F＝1.03539E-06?=0.05)。而回归系数检验时却有3个没有通过t检验(P-Value=0.074935，0.862853，0.067030?=0.05)。这也暗示了模型中存在多重共线性 固定资产投资额的回归系数为负号(-0.029193)，与预期的不一致 多重共线性问题的处理 多重共线性(问题的处理) 将一个或多个相关的自变量从模型中剔除，使保留的自变量尽可能不相关 在建立多元线性回归模型时，不要试图引入更多的自变量，除非确实有必要 社会科学研究中，在某些情况下，得到的结果往往并不令人满意，但这不一定是选择的模型不合适，而是数据的质量不好，或者是由于引入的自变量不合适 12.5 变量选择与逐步回归 12.5.1 变量选择过程 12.5.2 向前选择 12.5.3 向后剔除 12.5.4 逐步回归 变量选择过程 在建立回归模型时，对自变量进行筛选 选择自变量的原则是对统计量进行显著性检验 将一个或一个以上的自变量引入到回归模型中时，是否使得残差平方和(SSE)有显著地减少。如果增加一个自变量使SSE的减少是显著的，则说明有必要将这个自变量引入回归模型，否则，就没有必要将这个自变量引入回归模型 确定引入自变量是否使SSE有显著减少的方法，就是使用F统计量的值作为一个标准，以此来确定是在模型中增加一个自变量，还是从模型中剔除一个自变量 变量选择的方法主要有：向前选择、向后剔除、逐步回归等 向前选择 (forward selection) 从模型中没有自变量开始 对k个自变量分别拟合对因变量的一元线性回归模型，共有k个，然后找出F统计量的值最高的模型及其自变量，并将其首先引入模型 分别拟合引入模型外的k-1个自变量的线性回归模型 如此反复进行，直至模型外的自变量均无统计显著性为止 * 12.1 多元线性回归模型 12.1.1 多元回归模型与回归方程 12.1.2 估计的多元回归方程 12.1.3 参数的最小二乘估计 多元回归模型与回归方程 多元回归模型 (multiple regression model) 一个因变量与两个及两个以上自变量的回归 描述因变量y如何依赖于自变量x1，x2，…，xk和误差项? 的方程，称为多元回归模型 涉及 k 个自变量的多元回归模型可表示为 b0 ，b1，