多元线性回归模型.docxVIP

多元线性回归模型§1多元线性回归模型及其古典假定 多元线性回归模型的表示方法（一）非矩阵形式PRFY=p+pX+pX+.....+pX+uE(YX,X....X)=p+pX+pX+.....+pX i1i2iki011i22ikkiSRFTOC\o1-5\h\z=p+pX+pX+.????.+pX+e i011i22ikkii=pP+pPx+pPx+……+任x i011i22ikki(二)矩阵形式1.PRF=P+PX+PX+……+PX+u 0111221kk11=P+PX+PX+……+PX+u +PkXkn+Un0112222kk22Y=P+P +PkXkn+Un n011n22n令ry) ry) r1 X X 1 11 21 Y 1 X X Y= ：2 x= … 12 … 22 … Y n X 1n X 2n nx1 nx (k+1) Xk1: X k2 … p= rp0[p1 U= r%] u :2 ? XJ kn lpkJ IunJ (k+1)x1nx1 则 Y=Xp+U 2.SRF Y=Xp+e或 二、模型的古典假定 双变量（一元）AA 多元 1.线性回归模型 Y=P+PX+u i01ii Y=Xp+U 2.解释变量非随机 X非随机 矩阵X非随机 3.零均值 E(uX)=0 E(U)=E :u1「u 2 IunJ =0 4.同方差性 Var(uX)=a2 E(UU)=a21 n (证明附后) 5.无自相关 cov(u,u)=0(。j)  6.扰动项与解释变量不相关 cov(u,X)=0 cov(u,X)=0 7.观测次数大于待估参数个数 n2 nk+1 8.解释变量的数值要有变异性 X要有变异性 每个X都要有变异性 9.模型被正确地设定 10.变量间没有完全的多重共线性 rank(X)=k或rank(XX)=k或(XX)-1存在 11.正态性假定 U口N(0,a2) U□N(0,a21) E(UU)=E2(uu... E(UU)=E2(uu...u) ?12n.Vun)u2uu...uu1121nuuu2uu二E2122n Vuuuuu2jn1n2nE(u2)E(uu)...E(uu)1121nE(uu)Eu2)...E(uu)2122n EEuu)n2 E(u2)jn nVb2j注: Var(u)=E[u一E(u)]2=E(u2)iiiicov(u,u)-E[u-E(u)][u-E(u)]=E(uu) §2多元线性回归模型的参数估计 一、参数的OLS估计估计准则Y=B+BX+BX+......+BX+e i011i22ikkiie=Y-(B+BX+BX+......+BX) ii011i22ikkiQ=ze.2目标：使残差平方和Q最小化方法：用Q对b，.....B求偏导数，得到由k+1个方程组01k成的正规方程组，然后求解该方程组估计量的矩阵表示Y=XP+exy=xxB+xe极值条件为xe=o,故XY=XXB(XX)-1XY=(XX)-1XXP(XX)-1XY=IPP=(XX)-1XY二、OLS估计量的性质（一）线性性「=[（XX）-1X1Y（二）无偏性「H01AJk（三）最小方差性 参数向量0的OLS估计是§所有线性无偏估计量中方差最小的估计量（四）扰动项的正态性 如U口N（0,。21），其中 0) b2 \ 0 b2 0= b21= ; ??? 0 b2J 则B口N(Pq2(XX)-1)其中(($、P01:P=毫01P10J人P=b2(XX)-1(b2c00b2c10b2C01b2C11b2c0k]b2c1k{b2Ck0b2cJkk即Var(p)=b2c即jjj三、扰动项方差的估计八Ee2eeb2=i=n-(k+1)n-(k+ (($、P01: P= 毫01P1 0J 人P= b2(XX)-1 (b2c00b2c10 b2C01b2C11 b2c0k]b2c1k {b2Ck0 b2cJkk 即Var(p)=b2c即jjj三、扰动项方差的估计 八Ee2eeb2=i=n-(k+1)n-(k+1) §3多元线性回归模型的假设检验、回归系数的显著性检验 A—C—检验依据：P口N(P,b2(XX)-1) een-(k+1) H:P.=0H°成立时Pt=j=jse(p.) P. t[n-(k+1)] tjtj ta;2[n-(k+1)]〉t.2[n-(k+1)] 接受H0拒绝H0 e=Y-（。+。X+。X+......+。X） ii011i22ikki可以通过人为增加解释变量个数来提高R2难以比较解释变量个数不同的两个回归结果k越大，残差平方和可能越小，导致R2变大（1）(二)校正的判定系数…2e2/[n-(k+1)1n-12e，n-1(1-R2)n-(k+1)R2=1—=1—亍，=1—2j2/( 可以通过人为增