回归分析原理介绍.ppt

第六章 回归分析原理 6·1、一元线性回归数学模型 这里所讨论的一元线性回归数学模型，是数学模型的最简单形式。当然要注意的是，这里模型讨论是在真正回归意义上来进行的，也可称之为概率意义上的线性模型。 在非确定性意义上，或概率意义上讨论问题，首先要注意一个最基本的概念或思路问题，这就是总体和样本的概念。 概率论和数理统计的基本思想和目的，就是希望通过样本所反映出来的信息来揭示总体的规律性，这种想法或思路显然存在重大的问题。但另一方面，我们也必须承认，为了寻找总体的规律或客观规律，只能通过样本来进行，因为我们只可能得到样本。 在真正回归意义上建立其有效方法时，必须作出相应的假设条件。 基本假设条件： （1）假设概率函数 或随机变量 的分布对于 所有值，具有相同的方差 ， 且是一个常数，亦即 （2）假设 的期望值 位于同一条直线上，即其回归直线为 等价于 上面这个假设是核心假设，它实际上表明 与 之间是确定性的关系。 （3）假设随机变量 是完全独立的，亦即 6·2、随机项或误差项的含义 一元线性回归模型的一般形式为 是一随机项或误差项，它的存在表明 对 的影响是随机的，非确定性的。 那么， 究竟包含了什么意义或内容呢？概括地说来主要有 ： （1）??? 模型中被忽视了的影响因素； （2）变量的测量误差，这种误差主要来自统计数据本身的误差； （3）??? 随机误差。社会经济现象中涉及到人的主观因素和行为，还有历史的、文化的等因素，这些因素一般来说是难以量化的、多变的； （4）??? 模型的数量关系误差。即数学形式所带来的误差。 一般来说，所有的经济数学模型的误差也就是这4个方面，或者说是存在的主要问题，对此我们必须要有清醒和深入的认识。 6·3、一元线性回归模型的参数估计 必须理解和认识总体回归模型和样本回归模型的区别和关系， 假设总体真正的回归直线是 它是由总体回归模型 显然，上面的模型是想象的、理论上的，实际上是找不到的，它们实际上就是所谓客观规律。 而样本的回归直线为 它是来自于样本的回归模型 注意总体和样本模型的区别和联系，无限和有限，相同和不同等。 下面我们同样根据最小二乘准则，建立真正回归意义上的最小二乘法： 根据前面的结果，我们有 其中 到此样本回归模型的参数就估计出来了。对于这个结果需要注意的是，这里的 ， 都是的函数，而是随机变量，因此，从理论上说，随机变量，而不是一个或几个固定的值，是一个概率分布。 6．4、估计值的性质 （1） 估计值的线性性质 所谓线性性是指估计值 ， 是观测值的线性函数。 （2） 估计值的无偏性。 所谓无偏性是指估计值 ， 的期望值等于总体回归模型参数 ， 的值。亦即 ， 。 证明： 通过计算可知 6·5、最小二乘估计 ， 的显著性检验与置信区间 所谓显著性检验实际上就是对检验估计值与总体参数值差别大小的方法。也就是数理统计中的“假设检验”的方法一种实际应用。这里再一次指出，参数估计之所以要进行检验，是因为这里的 ， 是随机变量。 假设 服从正态分布，又因 ， 是的线性函数，所以，也是服从正态分布的。只要计算出 ， 的方差，我们就可得到 在上面的分布函数中，除了 ， 不可能知道外，我们必须解决未知数 估计值，才可能继续进行显著性检验。 1、?建立随机变量方差 的估计值 采用一定的办法是可以解决 估计值的，下面给出其推理过程，并证明其估计值 是一个无偏估计。 下面我们分别计算上式右边每一项的期望值： 2、? 最小二乘估计值