第七讲多元线性回归.ppt

多重共线性及其产生的问题第30页，共76页，星期日，2025年，2月5日多重共线性

(multicollinearity)回归模型中两个或两个以上的自变量彼此相关多重共线性带来的问题有可能会使回归的结果造成混乱，甚至会把分析引入歧途可能对参数估计值的正负号产生影响，特别是各回归系数的正负号有可能同预期的正负号相反?Excel输出结果的分析第31页，共76页，星期日，2025年，2月5日多重共线性的识别第32页，共76页，星期日，2025年，2月5日多重共线性的识别检测多重共线性的最简单的一种办法是计算模型中各对自变量之间的相关系数，并对各相关系数进行显著性检验若有一个或多个相关系数显著，就表示模型中所有的自变量之间相关，存在着多重共线性如果出现下列情况，暗示存在多重共线性模型中各对自变量之间显著相关当模型的线性关系检验(F检验)显著时，几乎所有回归系数的t检验却不显著回归系数的正负号与预期的相反?Excel输出结果的分析第33页，共76页，星期日，2025年，2月5日多重共线性

(例题分析)【例】判别各自变量之间是否存在多重共线性贷款余额、应收贷款、贷款项目、固定资产投资额之间的相关矩阵第34页，共76页，星期日，2025年，2月5日多重共线性

(例题分析)【例】判别各自变量之间是否存在多重共线性相关系数的检验统计量第35页，共76页，星期日，2025年，2月5日多重共线性

(例题分析)t???(25-2)=2.069，所有统计量tt???(25-2)=2.069，所以均拒绝原假设，说明这4个自变量两两之间都有显著的相关关系由表Excel输出的结果可知，回归模型的线性关系显著(Significance-F＝1.03539E-06?=0.05)。而回归系数检验时却有3个没有通过t检验(P-Value=0.074935，0.862853，0.067030?=0.05)。这也暗示了模型中存在多重共线性固定资产投资额的回归系数为负号(-0.029193)，与预期的不一致第36页，共76页，星期日，2025年，2月5日多重共线性问题的处理第37页，共76页，星期日，2025年，2月5日多重共线性

(问题的处理)将一个或多个相关的自变量从模型中剔除，使保留的自变量尽可能不相关如果要在模型中保留所有的自变量，则应避免根据t统计量对单个参数进行检验对因变量值的推断(估计或预测)限定在自变量样本值的范围内?Excel输出结果的分析第38页，共76页，星期日，2025年，2月5日提示在建立多元线性回归模型时，不要试图引入更多的自变量，除非确实有必要在社会科学的研究中，由于所使用的大多数数据都是非试验性质的，因此，在某些情况下，得到的结果往往并不令人满意，但这不一定是选择的模型不合适，而是数据的质量不好，或者是由于引入的自变量不合适第39页，共76页，星期日，2025年，2月5日7.5利用回归方程进行估计和预测软件应用第40页，共76页，星期日，2025年，2月5日置信区间估计

(例题分析)STATISTICA输出的不良贷款的置信区间第41页，共76页，星期日，2025年，2月5日预测区间估计

(例题分析)STATISTICA输出的不良贷款的预测区间第42页，共76页，星期日，2025年，2月5日7.6变量选择与逐步回归7.6.1变量选择过程7.6.2向前选择7.6.3向后剔除7.6.4逐步回归第43页，共76页，星期日，2025年，2月5日变量选择过程在建立回归模型时，对自变量进行筛选选择自变量的原则是对统计量进行显著性检验将一个或一个以上的自变量引入到回归模型中时，是否使得残差平方和(SSE)有显著减少。如果增加一个自变量使SSE的减少是显著的，则说明有必要将这个自变量引入回归模型，否则，就没有必要将这个自变量引入回归模型确定引入自变量是否使SSE有显著减少的方法，就是使用F统计量的值作为一个标准，以此来确定是在模型中增加一个自变量，还是从模型中剔除一个自变量变量选择的方法主要有：向前选择、向后剔除、逐步回归、最优子集等第44页，共76页，星期日，2025年，2月5日向前选择

(forwardselection)从模型中没有自变量开始对k个自变量分别拟合对因变量的一元线性回归模型，共有k个，然后找出F统计量的值最高的模型及其自变量，并将其首先引入模型分别拟合引入模型外的k-1个自变量的线性回归模型如此反复进行，直至模型外的自变量均无统计显著性为止第45页，共76页，星期日，2025年，2月5日向后剔除

(b