多元线性回归的向量表述课件.pptVIP

**多元线性回归的向量表述*多元线性回归模型的一般形式在实际经济问题中，一个变量往往受到多个原因变量的影响，在线性回归模型中则表现为有多个解释变量，这样的模型被称为多元线性回归模型。模型的一般形式如下：其中：K为解释变量个数；K+1为未知参数个数模型中的未知参数称为偏回归系数，的数值结果表明，当其他变量保持不变的情况下，X1增加一个单位，Y平均增加个单位；的数值表明，当其他变量保持不变时，X2增加一个单位，Y平均增加个单位，以此类推。*6.1多元线性回归模型的向量表述上式是由n个方程，k+1个未知参数组成的一个线性方程组，即：把线性方程组写成矩阵的形式：*这个模型相应的矩阵表达式简记为其中：*多元线性回归模型的四种向量表述真实的回归模型：估计的回归模型：真实的回归线：样本回归线：*6.2OLS估计量的向量表述因此，回归参数的OLS估计量为：*6.2OLS估计量的向量表述注：OLS估计量中隐含了一个假设条件,只要模型及样本数据满足第四章的假定7，则一定成立。*随机误差项的方差的估计因为残差可以表示为：矩阵是对称的幂等矩阵，幂等矩阵是指自身相乘后仍等于自身的矩阵，即。因此残差平方和可以表示为：两边求期望得：*随机误差项的方差的估计由于残差的平方和是标量(Scalar)，可以采用迹(Trace)，即：根据迹运算的性质tr(AB)=tr(BA),上式为：即：所以的无偏估计量是：*OLS估计量的方差-协方差估计因为：则：*一、OLS估计量的有限样本性质在满足基本假设的情况下，其结构参数?的普通最小二乘估计(OLS)具有：线性性、无偏性、有效性。同时，随着样本容量增加，参数估计量具有：一致性、渐近正态性。1、线性性其中,C=(X’X)-1X’为一仅与固定的X有关的行向量。2、无偏性这里利用了假设:E(X’?)=06.3最小二乘（OLS）估计量的性质*3、有效性（最小方差性）所谓有效性是指在所有线性无偏估计量中，OLS估计量具有最小方差。为了证明OLS估计量的有效性，现假设有另一任意的线性无偏估计量：其中矩阵A和C是与X矩阵有关的(K+1)×N阶矩阵，上式：为了满足无偏性，AX=I必须成立，I是单位矩阵。上式可以得到CX=0，同时意味着，所以：*因此估计量的方差-协方差矩阵为：显然要使得的方差最小，必须使C=0，所以是所有无偏估计量中方差最小的，即OLS估计量具有有效性。总结：高斯—马尔可夫定理(Gauss-Markovtheorem)在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量,即OLS估计量是BLUE估计量。*二、OLS估计量的渐近性质1.OLS估计量是一致估计量一致估计量是指对于回归参数的真实值，样本容量为N时的OLS估计量记为，随着样本容量N的逐步增大，即：2.OLS估计量的正态性正态性是指，在大样本下，OLS估计量的分布收敛到正态分布。设，则：*补充：样本容量问题⒈最小样本容量所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。样本最小容量必须不少于模型中解释变量的数目（包括常数项）,即n?k+1因为，无多重共线性要求：秩(X)=k+1*2、满足基本要求的样本容量从统计检验的角度：n?30时，Z检验才能应用；n-k?8时,t分布较为稳定一般经验认为:当n?30或者至少n?3(k+1)时，才能说满足模型估计的基本要求。模型的良好性质只有在大样本下才能得到理论上的证明。*6.4LR、Wald和LM检验1.似然比(LR)检验似然比检验是三种检验中最简单的，其原假设和备选假设分别为：HA：原假设的约束条件中至少有一个不成立LR检验统计量等于似然函数的无约束极大值和有约束极大值之差的两倍，即：