一元线性回归模及参数估计.pptVIP

一元线性回归模型及其参数估计 一、一元线性回归模型的参数估计 二、最小二乘参数估计量的统计性质 三、最小二乘参数估计量的概率分布 一、一元线性回归模型的参数估计 一元线性回归模型的一般形式 模型参数估计的任务 模型参数估计的任务为两项： 1、普通最小二乘法（Ordinary Least Square, OLS） 给定一组样本观测值（Xi, Yi），i=1,2,…n，假如模型参数估计量已经求得，并且是最合理的参数估计量，那么样本回归函数应该能够最好地拟合样本数据，即样本回归线上的点与真实观测点的“总体误差”应该尽可能地小。 最小二乘参数估计量的离差形式(deviation form) 随机误差项方差的估计量 2、最大似然法（ Maximum Likelihood, ML） 最大或然法，也称最大似然法，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。 基本原理： 对于最大或然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型总体中抽取该n组样本观测值的联合概率最大。 将该或然函数极大化，即可求得到模型参数的极大或然估计量。 由于或然函数的极大化与或然函数的对数的极大化是等价的，所以，取对数或然函数如下： 可见，在满足一系列基本假设的情况下，模型结构参数的