清华计量 2 经典线性回归模型1.pptVIP

第二章 经典线性回归模型：估计与数值性质;经典线性回归模型 假设 估计（b??） 线性回归的几何解释(数值性质) OLS估计的几何解释 正交投影与部分回归（分块回归） 测度拟合优度 非中心化可决系数 中心化可决系数 ;§2.1 经典线性回归模型; 假设随机抽取一容量为n的样本(Yt, Xt), t=1,…,n，其中，Yt是标量，Xt=(1,Xt1,Xt2,…,Xtk)，或;假设1(linearity): Yt=?0+?1Xt1+…+?kXtk+?t =Xt?+?t (t=1,2,…n) 或 Y=X?+? 其中， Xt=(X1, X2,…,Xk), ?=(?0, ?1,…,?k)’, ?=(?1,?2,…,?n)’;假设2（strict Exogeneity）: E(?t|X)=E(?t|X1,X2,…Xn)=0, (t=1,2,…n);对动态模型，可以将该假设放松为：E(?t|Xt)=0 即将任何期的?与任何期的X不相关的假设放松为?与X只是同期不相关（可存在异期相关）。;注意： (1) X’X非奇异意味着X满秩于K=k+1。因此应有K=k+1≤n； (2)本假设排除了解释变量间的多重共线性(multicollinearity) (3) (1/n)X’X中的元素为(1/n)?t=1nXtiXtj，QXX的存在意味着当n?∞时，Plim (1/n)?t=1nXtiXtj存在（LLN）。;假设4（Spherical error variance） (a) [conditional homoskedasticity]: E(?t2|X)=?20, t=1,2,…,n (b) [conditional serial uncorrelatedness]: E(?t?j|X)=0, t, j=1,2,…,n ; (3) 假设4意味着存在非条件同方差性： var(?t)=?2 类似地， Cov(?t, ?j)=0;二、参数?的估计;上述求解残差平方和最小的方法称为普通最小二乘法(ordinary Least Squares，OLS)，解称为普通最小二乘估计(OLS Estimate);(1) 对残差平方和 SSR(b)= ?et2=e’e=(Y-Xtb)’(Y-Xtb) 1阶偏导： ?SSR/?b= -2X’(Y-Xb) 2阶偏导： ?2SSR/?b ?b’= 2X’X 由于X’X为正定矩阵(Why?), 从而b=(X’X)-1(X’Y)是最小值 由1阶极值条件可以得到所谓正规方程(normal equations): X’(Y-Xb)=X’e=0 当模型含有值恒为1的常数项时， ?et=0 正规方程是OLS所特有的，而不论是否有E(?t|X)=0 ; （4）一些有用的等式; §2.2 线性回归的几何解释;二元回归的示例图;右图表明：记b为OLS估计，?? ||Y||2=||Xb||2+||e||2 或 Y’Y=b’X’Xb+e’e ;1、正交投影（Orthogonal Projection);记PX为Y关于?(X)的投影矩阵(projection matrix):PXY=Xb MX为Y关于??(X)的投影矩阵(projection matrix):MXY=e;2、部分/分块回归（Partial regression）;（1） （2）;由于 b1=(X1’X1)-1X1’(Y-X2b2);由于 b2=(X2’M1X2)-1X2’M1Y;Theorem [Frisch-Waugh-Lovell Theorem];FWL定理的几何意义;如何理解（*）式中的?2为“当X1保持不变时，X2变化一个单位对Y的“净”影响？”;因此，考察X2对Y的“净”影响，可通过下面两步OLS回归来进行：; X2对X1的OLS回归是如下进行的：;§2.3 测度拟合优度;Ruc2为非中心化多元相关系数的平方(Uncentered squared multi-correlation coeffici