3.2 多元线性模型的参数估计重点讲义.pptVIP

3、矩估计法是工具变量方法和广义矩估计法的基础 矩估计利用随机干扰项与各解释变量不相关特性构造矩条件。 如果某个解释变量与随机干扰项相关，只要能找到1个工具变量，仍然可以构成一组矩条件，就是工具变量法（IV）。 如果存在多于（k+1）个变量（解释变量或工具变量）与随机干扰项不相关，可以构成一组包含多于（k+1）的矩条件，就是广义矩估计法（GMM）。 1、最小样本容量 所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。 样本最小容量必须不少于模型中解释变量的数目（包括常数项）,即n≥k+1。为什么？ * §3.2 多元线性回归模型的估计 一、普通最小二乘估计 二、最大或然估计 三、矩估计 四、参数估计量的性质 五、样本容量问题 六、估计实例 说 明 估计对象： 模型结构参数 随机项的分布参数（方差） 估计方法： 3大类方法：OLS、ML或者MM 在经典模型中多应用OLS 在非经典模型中多应用ML或者MM 一、普通最小二乘估计(OLS) 1、普通最小二乘估计 最小二乘原理：根据被解释变量的所有观测值与估计值之差的平方和最小的原则求得参数估计量。 已知 假定 步骤： 正规方程组的矩阵形式 条件？ OLS估计的矩阵表示 2、正规方程组的另一种表达 该正规方程组成立的条件是什么？ 3、随机误差项?的方差?的无偏估计 M为等幂矩阵 二、最大似然估计 1、最大似然法 最大似然法(Maximum Likelihood,ML)，也称最大或然法，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。 基本原理：当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。 ML必须已知随机项的分布。 2、估计步骤:以一元模型为例 Yi的分布 Yi的概率函数 Y的所有样本观测值的联合概率—似然函数 对数似然函数 对数似然函数极大化的一阶条件 结构参数的ML估计量 分布参数的ML估计量 3、似然函数 4、ML估计量 由对数似然函数求极大，得到参数估计量 结果与参数的OLS估计相同 分布参数估计结果与OLS不同 注意： ML估计必须已知Y的分布。 只有在正态分布时ML和OLS的结构参数估计结果相同。 如果Y不服从正态分布，不能采用OLS。例如：选择性样本模型、计数数据模型等。 三、矩估计Moment Method, MM 1、参数的矩估计 参数的矩估计就是用样本矩去估计总体矩。 用样本的一阶原点矩作为期望的估计量。 用样本的二阶中心矩作为方差的估计量。 从样本观测值计算样本一阶（原点）矩和二阶（原点）矩，然后去估计总体一阶矩和总体二阶矩，再进一步计算总体参数（期望和方差）的估计量。 样本的一阶矩和二阶矩 总体一阶矩和总体二阶矩的估计量 总体参数（期望和方差）的估计量 2、多元线性计量经济学模型的矩估计 如果模型的设定是正确，则存在一些为0的条件矩。矩估计的基本思想是利用矩条件估计模型参数。 一组矩条件，等同于OLS估计的正规方程组。 四、参数估计量的性质 说明 在满足基本假设的情况下，多元线性模型结构参数?的普通最小二乘估计、最大或然估计及矩估计具有线性性、无偏性、有效性。 同时，随着样本容量增加，参数估计量具有渐近无偏性、渐近有效性、一致性。 利用矩阵表达可以很方便地证明,注意证明过程中利用的基本假设。 1、无偏性 这里利用了假设: E(X’?)=0 2、有效性（最小方差性） 五、样本容量问题