[管理学]第2章2一元线性回归模型的参数估计.pptVIP

§2.2 一元线性回归模型及其参数估计 一、线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 三、参数估计的最大似然法（不讲） 四、最小二乘估计量的性质 五、参数估计量的概率分布与随机项方差 的估计 线性回归模型的基本假设 关于变量和模型的假设； 关于随机误差项的假设。 一、线性回归模型的基本假设 线性回归模型在上述意义上的基本假设 （1）解释变量X是确定性变量，不是随机变量；解释变量之间互不相关。 （2）随机误差项具有０均值和同方差: E(?i)=0 i=1,2, …,n Var (?i)=??2 i=1,2, …,n （3）随机误差项在不同样本点之间是独立的，不存在序列相关： Cov(?i, ?j)=0 i≠j i,j= 1,2, …,n 为保证普通最小二乘法参数估计量具有良好的性质，通常对模型提出若干基本假设。这些假设通常被称为经典假设。满足这些假设的线性回归模型，称为经典线性回归模型。 如果实际模型满足这些基本假设，普通最小二乘法就是一种适用的估计方法； 如果实际模型不满足这些基本假设，普通最小二乘法就不再适用，而要发展其它方法来估计模型。 所以，严格地说，这里的基本假设并不是针对模型的，而是针对普通最小二乘法的。 注释 几乎没有哪个实际问题能够同时满足所有基本假设； 通过模型理论方法的发展，可以克服违背基本假设带来的问题； 违背基本假设问题的处理构成了单方程线性计量经济学理论方法的主要内容： 异方差问题（违背同方差假设） 序列相关问题（违背序列不相关假设） 共线性问题（违背解释变量不相关假设） 随机解释变量（违背解释变量确定性假设） 0均值、正态性假设是由模型的数理统计理论决定的。 模型参数估计的任务 模型参数估计的任务为两项： 二、一元线性回归模型的参数估计 1、普通最小二乘法（Ordinary Least Square,OLS） 给定一组样本观测值Xi, Yi（i=1,2,…n），要求样本回归函数尽可能好地拟合这组值，即样本回归线上的点与真实观测点的“误差”尽可能地小。 最小二乘参数估计量的离差形式(deviation form) 一元线性回归模型偏回归系数的意义 统计意义： 当解释变量X每增加一个单位时，被解释 变量Y平均增加（或减少）…个单位。 经济意义：（以绝对收入假设消费函数模型为例） 当个人可支配收入每增加一百元时,个人消费支出平均增加(或减少)…百元。 四、最小二乘估计量的统计性质 当模型参数估计完成，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。 从三个方面考察估计量的优劣性： （1）线性性(linear)：是否是另一随机变量的线性函数； （2）无偏性(unbiased)：即它的均值或期望值是否等于总体的真实值； （3）有效性(efficient)：即它是否在所有线性无偏估计量中具有最小方差。 1、线性性：参数估计量是Y的线性函数 2、无偏性： 参数估计量的期望等于总体回归参数真值 最小二乘参数估计量的概率分布 * 由于回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。即通过 估计 采用普通最小二乘或者普通最大似然方法估计。 需要对解释变量和随机项作出假设。 （4）随机误差项与解释变量之间不相关： Cov(Xi, ?i)=0 i=1,2, …,n （5）随机误差项服从０均值、同方差的正态 分布： ?i~N(0, ??2 ) i=1,2, …,n 注意： 如果第(1)条假设满足，则第(4)条也满足; 模型对变量和函数形式的设定是正确的，即不存在设定误差。 注：在计量经济学中，往往以大写字母表示原始数据（观测值），而以小写字母表示对均值的离差（deviation)。 高斯—马尔可夫定理 (Gauss-Markov theorem) 在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量。 3、有效性：在所有线性无偏估计量中，最小二乘参数估计量具有最小方差。 （2）证明最小方差性 4、结论 普通最小二乘参数估计量具有线性性、无偏性、最小方差性等优良性质。 具有这些优良性质的估计量又称为最佳线性无偏估计量，