2.2最小二乘的估计性质程序.pptVIP

§2.2 最小二乘估计量的性质 一、最小二乘估计量的性质 二、参数估计量的概率分布及随机干扰项方差的估计 一、最小二乘估计量的性质 当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。 一个用于考察总体的估计量，可从如下几个方面考察其优劣性： （1）线性性，即它是否是另一随机变量的线性函数； （2）无偏性，即它的均值或期望值是否等于总体的真实值； （3）有效性，即它是否在所有线性无偏估计量中具有最小方差。 （4）渐近无偏性，即样本容量趋于无穷大时，是否它的均值序列趋于总体真值； （5）一致性，即样本容量趋于无穷大时，它是否依概率收敛于总体的真值； （6）渐近有效性，即样本容量趋于无穷大时，是否它在所有的一致估计量中具有最小的渐近方差。 这三个准则也称作估计量的小样本性质。 拥有这类性质的估计量称为最佳线性无偏估计量（best liner unbiased estimator, BLUE）。 当不满足小样本性质时，需进一步考察估计量的大样本或渐近性质： 高斯—马尔可夫定理(Gauss-Markov theorem) 在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量。 证： 易知 故 同样地，容易得出 （2）证明最小方差性 其中，ci=ki+di，di为不全为零的常数 则容易证明 普通最小二乘估计量（ordinary least Squares Estimators）称为最佳线性无偏估计量（best linear unbiased estimator, BLUE） (1) 真实的统计模型 ： Yi= ?0 + ?1 Xi + ui (2) 估计的统计模型 ： Yi= + Xi + ei (3) 真实的回归直线：E(Yi) = ?0 + ?1 Xi (4) 估计的回归直线： = + Xi 注意：分清4个式子的关系。 二、参数估计量的概率分布及随机误差项方差的估计 2、随机误差项?的方差?2的估计 由于随机项?i不可观测，只能从?i的估计——残差ei出发，对总体方差进行估计。 ?2又称为总体方差。 可以证明，?2的最小二乘估计量为 它是关于?2的无偏估计量，记为Se2。