c3多元回归模型..docxVIP

第3章 多元回归模型:估计摘要: 一元回归分析中，关键假定SLR.4(所有影响y的因素都和x不相关)不现实，也就是很难得到在“其它条件不变”的情形下进行因果推断。多元回归模型(Multiple regression analysis)则由于可以控制其它影响y的因素(这些因素之间可以允许一定程度的相关性)而使得“其它条件不变”的要求容易满足。多个解释因素的引入，改善了对y的解释和预测，也意味着更为一般的函数形式。3.1 使用多元回归的动机含有两个自变量的模型例1: 通过引入，有效地控制了，也就是可以讨论在保持不变的情况下，对wage的影响。虽然任然需要假定u和、不相关，但显然比一元回归中假定u和不相关弱多了。一般地，一个二元回归模型为：.　为截距，度量了在其它条件不变的情形下对y的影响，etc.例2: 假定家庭消费(cons)是家庭收入(inc)的二次函数:,如何解释这个模型?　边际消费倾向如何度量？零条件均值假定E(u|x1，x2)=0，即无论x1和x2在总体中怎么组合取值，无法观测项的平均取值为0的假定，仍然是得到OLS估计量无偏的关键假定。对于例2，该假定简化为E(u|inc)=0.含有k个自变量的模型一般地，一个k元线性回归模型(多元回归模型，multiple linear regression model)为：.　 (3.1)为截距，其它k个参数为斜率参数(slope parameter)，度量了在其它条件不变的情形下对y的影响，etc. u为误差项或称干扰项。零条件均值假定E(u|x1，x2，…,xk)=0，仍然是得到OLS估计量无偏的关键假定。同样，多元回归中的线性是指对参数的线性，,的CEO的任职期。3.2 普通最小二乘法的机制和解释含有k个自变量的模型(3.1)的估计方程如下：， (3.2)如何得到该方程中的估计参数？如果有n个随机抽样样本{(),i=1,2,…,n}，普通最小二乘(ordinary least squares)法选择能最小化残差平方的估计值，即：,对该方程的k+1个参数分别进行求导可得到关于这些参数的(k+1)个线性方程:,,….求解上述方程可得OLS估计值。(3.2)式子被称为OLS回归线(OLS regression line)或被称为样本回归函数(sample regression function, SRF)。 ，被称为斜率估计值(OLS slope estimates).对OLS回归方程的解释由(3.2)可得增量方程，在其它因素不变的情况下，有，即表示，在其它因素不变(ceteris paribus)的情况下，对y的偏效应(partial effect)或影响(这是多元回归如此有用的原因).例3：小时工资方程的解释？多元回归中“保持其它因素不变“的含义在多元回归中，尽管不能在保持其它因素不变的情况下收集数据，但它提供的系数仍可作为其它条件不变下的解释。同时改变不止一个自变量 OLS的拟合值和残差第i个样本(观测)的残差被定义为：，残差的性质:1)其平均值为0；2)每个自变量和OLS残差的样本协方差为0，从而OLS拟合值和残差之间的样本协方差也为0；3 ) 样本重心在OLS回归线上.在多元回归中对“剔除其它影响因素“的解释可以证明，斜率参数估计值满足:, 其中，为其它自变量对回归后的残差.表示的是在排除了其它k-1个因素的影响之后，对y 的影响。（一）一元回归和多元回归估计值的比较假设y对x1的一元回归方程记为: ，而对y对x1，x2的二元回归方程记为:，那么有下的关系:,其中为x2对x1进行一元回归后的斜率系数。上式表明成立，需满足下面条件之一:；或者.也表明如果x2对y有偏效应，而且x2和 x1 相关，在回归中忽略x2，那么x1的OLS估计是一个有偏估计。 例4：In Example 3.1, the sample correlation between hsGPA and ACT is about 0.346, which is a nontrivial correlation. But the coefficient on ACT is fairly little. It is not surprising to find that the simple regression of colGPA on hsGPA produces a slope estimate of .482, which is not much different from the estimate .453 in (3.15).拟合优度定义总平方和(total sum of squares ,SST)，解释平方和(explained sum of squares ,SSE)和残差平方和(residual