第2章线性回归的基本思想：双变量模型详解.ppt

最小二乘原理： 对于双变量的PRF， i=1,2,…,n 由于PRF不能直接观察到，故用SRF来估计： 参数的普通最小二乘估计（OLS） 给定一组样本观测值（Xi, Yi）（i=1,2,…n）要求样本回归函数尽可能好地拟合这组值. 普通最小二乘法（Ordinary least squares, OLS）给出的判断标准是：二者之差的平方和 最小。 即在给定样本观测值之下，选择出b0, b1 ，使Yi与 之差的平方和为最小。 方程组（*）称为正规方程组（normal equations）。 根据微分运算，可推得用于估计b0,b1的下列方程组： 得： 记 上述参数估计量可以写成： 称为OLS估计量的离差形式（deviation form）。 由于参数的估计结果是通过最小二乘法得到 的，故称为普通最小二乘估计量（ordinary least squares estimators），有时也简记为OLS估计量。 顺便指出 ： 上式也称为样本回归函数的离差形式。 说明： 在计量经济学中，常常以小写字母表示对均值的离差。 例：在上述家庭可支配收入-消费支出例中，对于所抽出的一组样本数，参数估计的计算可通过下表进行。 表 参数估计的计算表 i X i Y i x i y i i y x 2 i x 2 i y 2 i X 2 i Y 1 800 594 - 1350 - 973 1314090 1822500 947508 640000 352836 2 1100 638 - 1050 - 929 975870 1102500 863784 1210000 407044 3 1400 1122 - 750 - 445 334050 562500 198381 1960000 1258884 4 1700 1155 - 450 - 412 185580 202500 170074 2890000 1334025 5 2000 1408 - 1 50 - 159 23910 22500 25408 4000000 1982464 6 2300 1595 150 28 4140 22500 762 5290000 2544025 7 2600 1969 450 402 180720 202500 161283 6760000 3876961 8 2900 2078 750 511 382950 562500 260712 8410000 4318084 9 3200 2585 1050 1018 1068480 1102500 1035510 6682225 10 3500 2530 1350 963 1299510 1822500 926599 6400900 求和 21500 15674 5769300 7425000 4590020 平均 2150 1567 因此，由该样本估计的回归方程为： OLS估计量的性质 用OLS法得出的样本回归线经过样本均值点，即： 残差的均值总为0，即： 该性质用于检验计算的正确性 残差与解释变量的积之和为0，即： 说明两个变量不相关 对残差与的积求和，其值也为0，即： 第一部分 线性回归模型 Chp 2 线性回归的基本思想——双变量模型 一、回归的含义 1. 变量间的关系 （1）确定性关系或函数关系：研究的是确定现象非随机变量间的关系。 （2）统计依赖或相关关系：研究的是非确定现象随机变量间的关系。 农作物产量=f (气温，降雨量，阳光，施肥量) 圆面积=f(?，r)= ? r2 对变量间统计依赖关系的考察主要是通过相关分析(correlation analysis)或回归分析(regression analysis)来完成的。 统计依赖关系 线性相关 非线性相关 正相关 不相关 负相关 相关系数： -1??XY?1 正相关 不相关 负相关 有因果关系?回归分析 无因果关系?相关分析 相关、回归与因果关系 不线性相关并不意味着不相关。 有相关关