第二篇_一元线性回归.ppt

§2.2 一元线性回归模型的参数估计 一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 三、参数估计的最大或然法(ML) 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干 扰项方差的估计 二、参数的普通最小二乘估计（OLS） 给定一组样本观测值（Xi, Yi）（i=1,2,…n）要求样本回归函数尽可能好地拟合这组值. 普通最小二乘法（Ordinary least squares, OLS）给出的判断标准是：二者之差（即残差）的平方和 这里之所以用平方和，就是因为样本回归线上的点与真实观测点之差可正可负，简单求和可能将很大的误差抵消掉，只有平方和才能反映二者在总体上的接近程度，这就是最小二乘原理。 案例 研究某居住小区家庭可支配收入X（单位：元）对家庭消费支出Y（单位：元）的影响。 假如在该小区的家庭中抽出10户观察数据如下 X 800 1200 1600 2000 2400 800 1200 1600 2000 2400 Y 550 790 1020 1200 1370 600 840 1070 1360 1450 散点图 最小二乘准则 当我们收集了有关 (Xi,Yi)的的几组观测数据后，将我们描述在坐标图上，就是图中的散点。对于这些点。我们希望用一条回归线 来描述它们的变动规律——即Yi随着Xi的变动规律。 为此，我们从 由(2.2.2)式可知，根据微分概念： 对上面的案例，求解正规方程组，得到符合最小二乘最准则的参数估计量（称最小二乘估计）。 例2.2.1 某企业某件1－6月产品产量与单位成本资料如 下表所示： 要求：（1）建立单位成本对产量的回归直线方程； （2）指出产量每增加1000件时，单位成本平均下降多少。 （1）打开Eviews软件 （2）在命令栏里输入数据 （3）估计回归模型 在命令栏里面输入：LS Y C X，即得到： （4）散点图 在（2）的窗口点击View\Graph\Scatter即得到： 三、参数估计的最大或然法(ML) 最大或然法(Maximum Likelihood,简称ML)，也称最大似然法，是不同于最小二乘法的另一种参数估计方法，是从最大或然原理出发发展起来的其它估计方法的基础。 基本原理： 对于最大或然法，当从模型总体随机抽取n组样本观测值后，最合理的参数估计量应该使得从模型中抽取该n组样本观测值的概率最大。 四、最小二乘估计量的性质 当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。 §2.3 一元线性回归模型的统计检验 一、拟合优度检验 二、变量的显著性检验 三、参数的置信区间 回归分析是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。 简单回顾几种常用的检验方法 一、拟合优度检验 拟合优度检验：对样本回归直线与样本观测值之间拟合程度的检验。 度量拟合优度的指标：判定系数（可决系数）R2 二、变量的显著性检验 回归分析是要判断解释变量X是否是被解释变量Y的一个显著性的影响因素。 1、假设检验 所谓假设检验，就是事先对总体参数或总体分布 形式作出一个假设，即统计假设（记为H0），然后利用样本信息来判断原假设（H0）是否合理，即判断样本信息与原假设是否有显著差异，从而决定是否接受或否定原假设（H0） 。 假设检验采用的逻辑推理方法——反证法。 先假定原假设H0正确，然后根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否接受原假设H0。 判断结果合理与否，是基于“小概率事件不易发生”这一原理的， 该原理认为“小概率事件在一次试验中几乎是不可能发生的”，在原假设H0下构造一个事件，这个事件在“假设H0正确”的条件下是一个小概率事件，随着抽取一组容量为n的样本观测值进行该事件的试验，如果发生了就说明“假设H0正确”是错误的，因为不应该出现的小概率事件出现了，因而拒绝原假设H0 ；反之，如果该校概率事件没有出现，就没有理由拒绝原假设H0 ，应该接受原假设H0 。 特别需要注意的是：t检验的假定“X与Y线相关”为前题条件的。接受H0仅仅表示X对Y的线性影响不显著，但并不能否认X对Y的非线性影