§2.2一元线性回归模型及其参数估计.pptVIP

一元线性回归模型的一般形式 模型参数估计的任务 模型参数估计的任务为两项： 一元线性回归模型的参数估计 1、普通最小二乘法（Ordinary Least Square,OLS） 给定一组样本观测值Xi, Yi（i=1,2,…n），要求样本回归函数尽可能好地拟合这组值，即样本回归线上的点与真实观测点的“总体误差”尽可能地小。 最小二乘参数估计量的离差形式(deviation form) 随机误差项方差的估计量 但是，随机误差项的方差的估计量是不同的。 3、样本回归线的数值性质(numerical properties) 样本回归线通过Y和X的样本均值； Y估计值的均值等于观测值的均值； 残差的均值为0。 四、最小二乘估计量的统计性质高斯-马尔可夫定理 当模型参数估计完成，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。 一个用于考察总体的统计量，可从三个方面考察其优劣性： （1）线性性(linear)：即是否是另一随机变量的线性函数； （2）无偏性(unbiased)：即它的均值或期望值是否等于总体的真实值； （3）有效性(efficient)：即它是否在所有线性无偏估计量中具有最小方差。 1、线性性：参数估计量是Y的线性函数 2、无偏性： 参数估计量的均值等于总体回归参数真值 一元线性回归模型偏回归系数的意义 统计意义： 当解释变量X每增加一个单位时，被解释 变量Y平均增加（或减少）…个单位。 经济意义：（以绝对收入假设消费函数模型为例） 当个人可支配收入每增加一百元时,个人消费支出平均增加(或减少)…百元。 最小二乘参数估计量的概率分布 * 方程（2.2.5）称为正规方程组 注：在计量经济学中，往往以大写字母表示原始数据（观测值），而以小写字母表示对均值的离差（deviation)。 2.用离差形式的数据xi，yi计算 其中: 1.用原始数据（观测值）Xi，Yi计算 2、最大或然法（ Maximum Likelihood, ML） 最大或然法，也称最大似然法，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。 基本原理： 对于最大或然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的联合概率最大。 将该或然函数极大化，即可求得到模型参数的极大或然估计量。 可见，在满足一系列基本假设的情况下，模型结构参数的最大或然估计量与普通最小二乘估计量是相同的。 因此，最小二乘法可看作是最大或然法的特例。 高斯—马尔可夫定理 (Gauss-Markov theorem) 在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量。 3、有效性：在所有线性无偏估计量中，最小二乘参数估计量具有最小方差。 （2）证明最小方差性 4、结论 普通最小二乘参数估计量具有线性性、无偏性、最小方差性等优良性质。 具有这些优良性质的估计量又称为最佳线性无偏估计量，即BLUE估计量（the Best Linear Unbiased Estimators）。 显然这些优良的性质依赖于对模型的基本假设。 *