统计学第三章多元回归分析详解.pptVIP

统计学第三章多元回归分析详解演示文稿;优选统计学第三章多元回归分析;多元线性回归模型、回归方程与估计的回归方程

回归方程的拟合优度与显著性检验

多重共线性问题及其处理

利用回归方程进行预测

虚拟自变量的回归

用Excel和SPSS进行回归分析;*;子女

身高;第一节多元线性回归模型;一、回归模型与回归方程;一个因变量与两个及两个以上自变量的回归

描述因变量y如何依赖于自变量x1，x2，…，xk和误差项?的方程，称为多元回归模型

涉及k个自变量的多元线性回归模型可表示为;正态性。误差项ε是一个服从正态分布的随机变量，且期望值为0，即ε~N(0,?2)

方差齐性。对于自变量x1，x2，…，xk的所有值，?的方差?2都相同

独立性。对于自变量x1，x2，…，xk的一组特定值，它所对应的?与任意一组其他值所对应的不相关;1.描述因变量y的平均值或期望值如何依赖于自变量x1，x2，…，xk的方程

2.多元线性回归方程的形式为

E(y)=?0+?1x1+?2x2+…+?kxk;用样本统计量估计回归方程中的参数时得到的方程

由最小二乘法求得

一般形式为;二、参数的最小二乘估计;*;*;;*;第二节拟合优度和显著性检验;一、回归方程的拟合优度;*;*;回归平方和占总平方和的比例

计算公式为

因变量取值的变差中，能被估计的多元回归方程所解释的比例;用样本量n和自变量的个数k去修正R2得到

计算公式为

避免增加自变量而高估R2

意义与R2类似

数值小于R2;*;对误差项?的标准差?的一个估计值

衡量多元回归方程的拟合优度

计算公式为;二、显著性检验;检验因变量与所有自变量之间的线性关系是否显著

也被称为总体的显著性检验

检验方法是将回归均方(MSR)同残差均方(MSE)加以比较，运用F检验来分析二者之间的差别是否显著

如果是显著的，因变量与自变量之间存在线性关系

如果不显著，因变量与自变量之间不存在线性关系;1.提出假设

H0：?1??2????k=0线性关系不显著

H1：?1，?2，??k至少有一个不等于0

;线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验

究竟要对哪几个回归系数进行检验，通常需要在建立模型之前作出决定

对回归系数检验的个数进行限制，以避免犯过多的第Ⅰ类错误(弃真错误)

对每一个自变量都要单独进行检验

应用t检验统计量;1.提出假设

H0：(自变量xi与因变量y没有线性关系)

H1：(自变量xi与因变量y有线性关系)

2.计算检验的统计量t;回归系数在(1-?)%置信水平下的置信区间为

;第三节多重共线性及其处理;一、多重共线性及其识别;1.回归模型中两个或两个以上的自变量彼此相关

2.多重共线性带来的问题有

可能会使回归的结果造成混乱，甚至会把分析引入歧途，F检验显著，t检验不显著

可能对参数估计值的正负号产生影响，特别是各回归系数的正负号有可能同预期的正负号相反

参数估计量的方差变大，参数检验有可能失效，有些回归系数通不过显著性检验;1.检测多重共线性的最简单的一种办法是计算模型中各对自变量之间的相关系数，并对各相关系数进行显著性检验

若有一个或多个相关系数显著，就表示模型中所用的自变量之间相关，存在着多重共线性

2.如果出现下列情况，暗示存在多重共线性（经验判断）

模型中各对自变量之间显著相关

当模型的线性关系检验(F检验)显著时，几乎所有回归系数的t检验却不显著

回归系数的正负号与预期的相反;1.将一个或多个相关的自变量从模型中剔除，使保

留的自变量尽可能不相关

2.如果要在模型中保留所有的自变量，则应

避免根据t统计量对单个参数进行检验

对因变量值的推断(估计或预测)限定在自变量样本值的范围内;1.在建立多元线性回归模型时，不要试图引入

更多的自变量，除非确实有必要

2.在社会科学的研究中，由于所使用的大多数

数据都是非试验性质的，因此，在某些情况

下，得到的结果往往并不令人满意，但这不

一定是选择的模型不合适，而是数据的质量

不好，或者是由于引入的自变量不合适;1.模型选择可遵循奥克姆剃刀的基本原理

最好的科学模型往往最简单，且能解释所观察到的事实

2.对于线性模型来说，奥克姆剃刀可表示成简约原

则

一个模型应包括拟合数据所必需的最少变量

3.如果一个模型只包含数据拟合所必需的变量，这

个模型就称