多元线性回归模型分析打印.docVIP

第三章 多元线性回归模型分析 一元回归模型所研究的问题是经济变量只受一个因素（解释变量）影响的情形。但在实际生活中，所研究的经济变量往往受多个因素的影响。例如，产出往往受各种投入要素——资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响等。这就要求我们在一元回归模型的基础上，进一步研究多元线性回归模型——解释变量个数=2。多元线性回归模型与一元线性回归模型完全类似，只是在具体计算上较为复杂一点。 第一节 多元线性回归模型及其基本假定 假定因变量（或叫被解释变量）Y与解释变量具有线性关系，它们之间的线性回归模型可表示为： （3.1） 其中U为随机项。 取n期观测值（ 代入（3.1）式可得 （3.2） 即 (3.3) 上式可写成： 即 （3.4） 这里， 对于多元线性回归模型有如下假定： 1、 即 (3.5) 2、 即 = = (3.6) 假定(3.5),(3.6)式称为高斯—马尔科夫假定。 3、 既说明解释变量与随即项无关。 4、当样本观测值确定后，是一常数矩阵，并假定，并且也就是说明矩阵的秩等于参数个数，换句话说就是解释变量不想管（即不存在多重共线性） 5、假定服从正态分布 第二节 参数估计 一、回归参数的最小二乘估计 取最小值。根据多元函数的极值原理，分别对参数求导数，并令其等于零。 得到下列方程组： （3.7） 写作矩阵形式： （3.8） 因为 记成为估计值向量。这样（3.8）可以写作： （3.9） 上述几个式子称为正规方程 根据假定，可以求得： （3.10） 这就是的OLS估计量。 方法Ⅱ 我们的目的是寻找使得残差平方和 ESS= （3.11） 打到最小的参数向量，其中： （3.12） 将上面式子（3.12）代入（3.11），我们可以得到： = （3.13） 为了求出参数的最小二乘估计量，对（3.13）关于向量求偏导： ∴ 方法Ⅲ：由式子（3.7）可以得到： （3.14） 将（3.14）左边分解成： （3.15） 对样本回归方程矩阵形式，两边同乘以观测值矩阵X的转置有： 所以： 练习：一元模型矩阵表示 二、参数最小二乘估计的统计性质 在多元线性回归方程条件下，参数的最小二乘估计仍然具有线性性、无偏性、和最小方程性。 线性性： 2、无偏性： 证明： （3.16） 对（3.16）式子两边取期望。就可以得到 第三节 多元线性回归模型的统计检验 一、拟合优度检验： 样本判决系数 （3.24） 其中： 由上式（3.24）可以知道： 样本判决系数的大小还受到解释变量的个数多少的影响。增加解释变量的的个数，就会增加样本判决系数的大小。因此产生了矫正样本判决系数。 二、矫正样本判决系数 1、与解释变量个数的关系：，会随着K的增大而减少，至少不增加。这就产生一个倾向，多加变量只要回归系数显著我们就请进来，而不管它能解释多少ESS?如何处理呢？ 2、：校正的： 由于样本判决系数根解释变量的个数成正比，因此我们在比较两个不同解释变量的回归方程的拟合优度时，用这个统计指标就不一定合适。必须加以调整，调整的方法是将残差平方和和总离差平方和分别用各自的自由度去除，变成均方差之比，已剔除变量个数对拟合优度的影响。也就是 定义：= =不是用=这样分子分母调整的差距太大分子相对太小。 其中，n是样本观测值个数，k是解释变量的个数。 问题：当增加解释变量时，和那个增加得快？ 3、的极端值： （1）如：＝1，则＝0，＝1 （2）如：=0,则＝,则 （3）＝＝只有在样本极小时才可能出现负值。 三、回归系数的显著性检验 1、随机项的方差的估计量 在实际中，随机项的方差是得不到的，因此通常构造的估计量： 上一节讨论了对现行回归方程的显著性检验。我们知道，回归方程显著成立，并不意味着每个解释变量对因变量的影响都是显著的。如果某个解释变量对因变量的影响并不重要，既可以从回归方程中把他剔除掉，重新建立更为简单的回归方程，以利于