第2章线性回归的基本思想：双变量模型概论.ppt

最小二乘原理： 对于双变量的PRF， i=1,2,…,n 由于PRF不能直接观察到，故用SRF来估计： 参数的普通最小二乘估计（OLS） 给定一组样本观测值（Xi, Yi）（i=1,2,…n）要求样本回归函数尽可能好地拟合这组值. 普通最小二乘法（Ordinary least squares, OLS）给出的判断标准是：二者之差的平方和 最小。 即在给定样本观测值之下，选择出b0, b1 ，使Yi与 之差的平方和为最小。 方程组（*）称为正规方程组（normal equations）。 根据微分运算，可推得用于估计b0,b1的下列方程组： 得： 记 上述参数估计量可以写成： 称为OLS估计量的离差形式（deviation form）。 由于参数的估计结果是通过最小二乘法得到 的，故称为普通最小二乘估计量（ordinary least squares estimators），有时也简记为OLS估计量。 顺便指出 ： 上式也称为样本回归函数的离差形式。 说明： 在计量经济学中，常常以小写字母表示对均值的离差。 例：在上述家庭可支配收入-消费支出例中，对于所抽出的一组样本数，参数估计的计算可通过下表进行。 表 参数估计的计算表 i X i Y i x i y i i y x 2 i