计量经济学第四节.pptVIP

计量经济学主讲人：薛明皋 * 第4章 经典正态线性回归模型 §4-1 干扰项ui的概率分布 §4-3 最大似然估计 §4-2 正态性假定下OLS估计量的性质 统计推断包括： 估计和假设检验 有了参数估计，如何把握估计的质量？ 答案：了解其概率分布的性质。 没有任何分布假定，前面OLS估计量已经满足优良的统计性质棗BLUE性质。 OLS估计量是点估计量，这只是统计推断的一个方面，另一方面是假设检验。 因此，当我们用估计的b去推断真值b时，或者说由样本回归函数（SRF）来推测总体回归函数（PRF）时，需要用到已知的分布。 问题：b的估计量服从什么分布？ ki、 b和Xi是固定的，ui是随机变量。 因此， b的估计量取决于ui的分布。 §4-1 干扰项ui的概率分布 经典正态线性回归假定每个ui都是正态分布的，且其均值为零，方差不变，即： ui的正态性假定 对两个正态分布变量而言，零协方差或零相关则意味着两个变量相互独立。在正态性假定下，不仅说明ui与uj不相关，而且说它们是独立分布的，即独立同分布： Normally and independently distribution u代表回归模型中未引进的许多自变量的总影响。期望这些影响微小而且是随机的。根据中心极限定理，如果存在大量独立且同分布的随机变量，随着变量的个数无限增大，它们的总和将趋向正态分布。 中心极限定理的另一解释，即使变量个数并不很大或这些变量还不是严格独立的，它们的总和仍可视为正态分布； 正态分布的一个性质是，正态分布变量的任何线性函数都是正态分布的。在正态性假定下，容易导出OLS估计量的概率分布. 正态分布是一个比较简单的，仅涉及两个参数。 对于小样本和有效样本情况，正态分布假设使我们能用t、F和卡方分布来进行统计检验。 为何提出正态性假定？ （1）无偏估计 （2）最小方差，即是有效估计量 （3）具有一致性，即随着样本容量无限增大，估计量将收敛到它们的真值。 （4）服从正态分布 §4-2 正态性假定下OLS估计量的性质 （5） 遵循n-2个自由度的卡方分布 （6） 的分布独立于 （7） 在整个无偏估计类中，无论是线性或非线性估计，都有最小方差，即是最优无偏估计量 此外，如果假定u服从上述的正态分布，则Y本身也遵循正态分布，即 ◇ 最大或然法（ Maximum Likelihood, ML），也称最大似然法，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。 ◇ 基本原理： 对于最大或然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的联合概率最大。 ◇ 与OLS方法的区别 对于最小二乘法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得模型能最好地拟合样本数据。 §4-3 最大似然估计 在满足基本假设条件下，对一元线性回归模型： 随机抽取n组样本观测值（Xi, Yi）（i=1,2,卬）。 那么Yi服从如下的正态分布： 于是，Y的概率函数为 假如模型的参数估计量已经求得，为 因为Yi是相互独立的，所以的所有样本观测值的联合概率，也即或然函数(likelihood function)为： 将该或然函数极大化，即可求得到模型参数的极大或然估计量。 由于或然函数的极大化与或然函数的对数的极大化是等价的，所以，取对数或然函数如下： 等价于 可见，在满足一系列基本假设的情况下，模型结构参数的最大或然估计量与普通最小二乘估计量是相同的。 解得模型参数估计量为 但是，随机误差项的方差的估计量是不同的。 总结：在正态性假定下，自变量参数的ML估计量和OLS估计量是完全相同的。但是，u的方差的OLS和ML估计量却有差别。然而，在大样本中，这两个估计量趋于一致。 所以，通常称ML法为大样本方法。ML法有更为广泛的应用。意思是，它可以用于对参数为非线性的回归模型。对于非线性情形，一般不用OLS。 即可得到估计量为 这是一个有偏估计量 本课程选用OLS的理由 相对于ML来说，OLS易于应用 对多元线性回归模型，参数b的ML估计量和OLS估计量是相同的。 即使样本不很大，s2的ML估计量和OLS估计量也相差无几。 与正态分布相关的几个概率分布 t分布、 卡方分布、F分布 定理1:设 为正态且独立分布的随机变量 则对于不全为零的常数ki，总和 也是正态分布，且均值 方差为 简言之，一些正态变量的线性组合本身是正态分布 定理2