第3章+双变量回归模型：估计问题.ppt

虽然我们假定 ，但从样本中我们未必能得出。这须要其它技术来处理自相关和异方差的情况 假定10：不存在完全的多重共线性（multicollinearity） 也就是说，解释变量之间不存在完全的线性关系(no perfect linear relationships) ——出现在多元线性回归模型 上述假定的真实性如何？ 在任何科学研究中，假定都未必是真实的，符合现实的，而是在于它们使我们可以方便地展开我们的研究。我们先深入研究CLRM的性质，然后再放松一些假定深化这一研究 §3.3最小二乘估计的精度（precision） 或标准误差(standard errors) 最小二乘估计是通过样本数据计算出来的，这样以来，随着样本的变化，估计值也必定随之改变。因此，最小二乘估计是样本数据的函数。这就需要有关于估计量的“可靠性” (precision)的某种度量。在统计上，估计量的精度是由它的标准误se(standard error)来衡量的。OLS估计量的标准误如下： (3.3.1) (3.3.2) 其中， 为ui的方差。（下一节一起证明） 而 是由以下公式来估计的： 是 的OLS估计量，n-2为自由度df(degrees of freedom)的个数， 为残差平方和（the sum of the residnal squared）,或叫做剩余平方和RSS（the residual sum of squares） 而 可以由（3.1.2）式算出： （3.1.2） 或者由下式算出： 证明见§3.5节 （3.3.6） 由于 ∴ (3.3.7) 叫做估计的标准误（standard error of the estimate）。它是Y对估计的回归线的离差的标准差。常用来衡量所估计的回归线的“拟合优度（goodness of fit）” 例题：在家庭可支配收入-消费支出例中，对于所抽出的一组样本数，参数估计的计算可通过下面的表进行。 因此，由该样本估计的回归方程为： §3.4 最小二乘估计量的性质： 高斯——马尔可夫定理 高斯——马尔可夫定理：在给定经典线性回归模型的假定下，最小二乘估计量，在无偏线性估计量一类中，有最小方差，就是说，它们是BLUE BLUE：a best linear unbiased estimator 利用OLS法求得了模型参数 和 。为了对 和 的估计可靠性及显著性进行检验，必须对估计量 和 的统计性质进行讨论。这些统计性质就是数理统计学中所讲的线性、无偏性及最小方差性。 1．线性。是说 和 是一个随机变量（如Y）的线性函数。 2．无偏性。是说 3．最小方差性。它在所有的线性无偏估计量中有最小的方差。有最小方差的无偏估计量叫做有效估计量（efficient estimator）。 如图3.8 P73 是 的无偏估计 和 的方差比， 的方差较小，我们会选择方差小的估计量： 优于 证明： 1．线性： 令 见第9张幻灯片 可见， 是 的一个线性函数，所以，它是一个线性估计量（linear estimator） （*） ∴ 也是一个线性估计量 权重ki的一些性质： （1） ∵Xi非随机　　　∴ki非随机。 （2） （3） （4） 2．无偏性。 先证 ： 上式两边求数学期望得：