清华计量 3 经典线性回归模型2.pptVIP

第三章 经典线性回归模型：统计检验;OLS估计的小样本性质 衡量参数估计量优劣的准则（有限样本、无限样本） OLS估计量的小样本性质 估计?2及Var(b) 预测（均值E(Y|X), 个值Y） 正态性假设与基本的统计推断 经典正态回归模型 b的抽样分布（正态分布，t分布） 置信区间 假设检验（单参数，多参数） OLS估计量的大样本性质与统计推断 OLS估计量的大样本性质(一致性、正态性、渐近有效性) *线性回归模型的大样本统计检验;§3.1 OLS估计量的小样本性质;一、衡量参数估计量优劣的准则 Criteria for an Estimator; 对无偏估计量， MSE=Variance，因此，在实践中还希望从无偏估计量中选择方差最小的。于是，有如下最小方差无偏准则（minimum variance unbiasedness criterion）;2、无限样本准则（Asymptotic Criteria）; 在实践中，为了区分同一参数不同的一致估计量，需要考察估计量的渐近分布(asymptotic distribution);注意： (1)大样本BANE准则是小样本MVUE准则的渐近版本(version)；;二、OLS估计量的小样本性质;注意： 对截面数据，X的严格外生性往往是满足的，但对时间序列数据，X的严格外生性往往不满足，尤其对含有Y的滞后期变量作为解释变量的模型更是如此。 这时OLS估计往往有偏。; ;Gauss-Markov theorem In the CR model, the LS coefficient vector b is the minimum variance linear unbiased estimator of parameter vector ?.;于是 Var(b*)-Var(b)= ?2C’C- ?2(X’X)-1 = ?2[C’C-C’X(X’X)-1X’C] = ?2C’[I-X(X’X)-1X’]C = ?2C’MXC = ?2C’MX’MXC = ?2(MXC)’(MXC) = positive semi-definite; (1) Gauss-Markov 定理表明OLS估计量b是?的最佳线性无偏估计量(best linear unbiased estimator, BLUE) ；;由于 b-? =(X’X)-1X’? E(e|X)=E(MX?|X)=MXE(?|X)=0 故 Cov(b, e|X)=E[(X’X)-1X’?e’|X] = E[(X’X)-1X’??’MX|X] = (X’X)-1X’E(??’|X)MX =?2(X’X)-1X’MX =OK?n;三、估计?2及Var(b);令 s2=?et2/(n-k-1)=e’e/(n-k-1) 则显然有 E(S2|X)= ?2(n-k-1)/(n-k-1)= ?2 因此：s2为?2的无偏估计量;四、估计Y的条件期望及预测; 2、Y个值的预测;§3.2 正态性假设与基本的统计推断;二、抽样分布;Proof: 由于 b=?+ (X’X)-1X’? 记 HK?n= (X’X)-1X’，则 rank(H)=rank(X’)=rank(X)=K=k+1 又 ?|X~N(0, ?2I)，则由引理3.2.1 b|X~N[?+(X’X)-1X’E(?|X), (X’X)-1X’Var(?|X)X(X’X)-1] 或 b~N(?, ?2(X’X)-1); proof: 正态分布的线性组合为正态分布： E(Rb|X)=RE(b|X)=(R?)J?1 Va