第二章线性回归的基本思想.docVIP

第二章 线性回归的基本思想：双变量线性回归（也称为一元回归） 本章目的：介绍一元线性回归的基本思想和最小二乘法，的估计及检验 要求：掌握回归的含义、总体回归方程、随机误差项、样本回归函数、残差项、最小二乘法、正规方程的含义；掌握一元回归最小二乘估计量的证明，会运用OLS估计量公式得到回归方程。 教学时数：4学时 第一节 一些重要概念 一、总体回归直线(PRF)和样本回归直线(SRF) 第一节我们学习了消费函数模型： 案例：假设一个村庄人口总体由60户家庭组成，研究每周家庭消费支出（Y）和每周税后可支配收入（X）之间的关系。这样我们如果知道每周的家庭收入，即可预测每周消费支出的总体平均水平。 数据如下： X Y 80 100 120 140 160 180 200 220 240 280 每周家庭消费支出 50 60 65 70 75 65 70 74 80 85 88 79 84 90 94 98 80 93 95 103 108 113 115 102 107 110 116 118 125 110 115 120 130 135 140 120 136 140 144 145 135 137 140 152 157 160 162 137 145 155 165 175 189 150 152 175 178 180 185 191 合计 平均 325 65 462 77 445 89 707 101 678 113 750 125 685 137 1043 149 966 161 1211 173 模型完整写成：， 随机误差项：是不可观测的随机事件，当＝80时，＝-15、-10、0、5、15， 我们假设：，所以直线表示的是收入为时，收入决定的消费的平均值。 ：我们为了简便假设为确定型变量 2、总体回归直线（population Regression line）、总体回归函数 总体回归函数： 总体回归直线： 其中 ，表示回归系数；表示截距项；表示斜率系数。 3、PRF的随机设定 由上例子可以知道，对于每个家庭的消费支出并不一定收入成正比，把个别的消费围绕的与期望的偏差表述如下： 则 4、随即干扰项的意义：除X外的所因素 （1）可能代表了模型中并未包括的变量的影响。如上例中，家庭中的儿童数、性别、宗教、教育和地区。 我们为什么在模型中不把这些变量也包括呢？这是节省原则，也就是说模型的要简单。这些变量，有的是对因变量的解释能力不大，不重要；另一方面是我们没其数据。 （2）人类行为的内在随机性也一定会发生。人类行为是理性的，也不可以完全可预测。 （3）随机误差项可能代表了测量误差：数据处理中产生的误差。 （4）错误的函数形式。 二、样本回归函数（SPF） 在上一节中，我们学习参数估计的公式，结果是多少：＝24.45455、＝0.509091，那么公式算出的结果是经济系统中变量间的真实关系吗？这是一个估计。 1、PRF是一个理想化的概念，实际上人们很少知道他们所研究的总体。 总体的数据不可能全部得到 也不需要知道全部信息 2、样本回归线：用样本得出的估计 样本当我们的例子中的60是总体，现在如果我们只有10个数据，而得出的如上面的值那么这条f(x)=24.45455+0.509091x能是PRF吗？ （1）样本回归线：，叫做的预测值 （2），：一个样本，一个结果从算法来讲是随机变量。 三、要点：总体回归函数、样本回归函数 第二节 一元线性回归模型的估计原理（最小二乘法） 最小二乘法（OLS）：如何估计，，的的公式 1、原理：残差平方和最小 我们是通过样本来得到总体回归方程，的估计：样本回归方程。其中，叫做的估计值，如果，对，估计得准确，则对估计也准确。 （1）由准确估计的方法：残差最小 定义：或＝-＝-（），表示样本点到拟合点B的距离。 （2）残差最小的方法： 和最小：直接相加，如图L1和L0的残差和应是一样的。 平方和最小：正、负全部相加 , Q= 问：Q的大小由什么决定？（样本已知，，已定） 2、参数的推导程：求当=的、 （1.2.1） 可得（1.2.2） 上述式子称为正规方程组。简记为： 最后可解得： （1.2.3） 3、化简 ] 设 可将（1.2.3）化简为：（1.2.4） （1.2.3）和（1.2.4）给出的估计量称为最小二乘估计量（OLSE） 注：的化简过程： 问题：1、和一样吗？前者是最小二乘法的要求，后者是n个的和。 2、和均值： ＝（-）+，（） 所以：＝+（-），两边求和取平均即得。 3、＝ 减 4、的含义：当收入是时平均对消费的