建立回归方程一元线性回归模型.pptVIP

* * * * * * * * 多元统计分析方法---- 回归分析 一元线性回归回顾 ? 从样本数据出发，确定变量的数学关系式； 什么是回归分析？ ? 对关系式的可信程度进行统计检验，找到影响某一特定变量的显著因素； ? 根据变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度。 回归分析的一般步骤 ? 涉及一个自变量的回归； 1、确定解释变量和被解释变量 ? 因变量y与自变量x之间为线性关系； ? 因变量(dependent variable)：被预测或被解释的变量，用y表示。 ? 自变量(independent variable)：预测或解释因变量的一个或多个变量，用x表示 。 ? 因变量与自变量之间的关系用一个线性方程来表示。 ? 描述因变量 y 如何依赖于自变量 x 和误差项? 的方程称为回归模型。 2、确定回归模型，建立回归方程 ? 一元线性回归模型： y = ?0 + ?1x + ? ? y 是 x 的线性函数(部分)加上误差项 ?线性部分反映了由于 x 的变化引起的 y 的变化 ?误差项 ? 是随机变量，反映了除 x 和 y 之间线性关系之外的随机因素对 y 的影响，是不能由 x 和 y 之间的线性关系所解释的变异性 ? ?0 和 ?1 称为模型的参数 （1）回归模型的基本假定 ? 误差项ε是期望值为0的随机变量，即E(ε)=0。 y = ?0 + ?1x + ? ? 对于一个给定的 x 值，y 的期望值为 E ( y ) =? 0+ ? 1 x ? 对于所有的 x 值，ε的方差σ2 都相同 ? 误差项协方差等于零，即εi 和εj 相互独立（i ≠ j） ? 误差项ε是服从正态分布的随机变量，即ε~N( 0,σ2 ) ? 回归方程表示一条直线，也称为直线回归方程 （2）回归方程 ? 描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程。 y = ?0 + ?1x + ? ? 一元线性回归方程的形式为：E( y ) = ?0+ ?1 x ? ?0为回归直线在 y 轴上的截距，即当x=0时 y 的期望值 ? ?1为直线的斜率，称为回归系数，表示当x每变动一个单位时，y 的平均变动值 ?一元线性回归中估计的回归方程为： ?用样本统计量 和 代替回归方程中的未知参数?0和?1，就得到了估计的回归方程 ?总体回归参数?0和?1是未知的，必须利用样本数据去估计 （3）回归方程的估计 E( y ) = ?0+ ?1 x ?用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小。 ?使因变量的观察值与估计值之间的离差平方和达到最小来求得 和 的方法。即 （4）普通最小二乘估计（OLS） x y (xn , yn) (x1 , y1) ? ? ? ? ? ? ? ? ? (x2 , y2) (xi , yi) ｝ ei = yi ?yi ＾ 最小二乘估计(图示) 根据最小二乘法的要求，可得求解 和 的公式如下： 一元回归方程统计检验的主要内容 3、对回归方程进行各种检验 变 差 ?因变量 y 取值的波动称为变差 ?变差来源于两个方面： ?由于自变量 x 的取值不同造成； ?除 x 以外的其他因素(如测量误差等)的影响； ?对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差y ?y 来表示。 x y y { } } ? SST = SSR + SSE 总平方和 (SST) { 回归平方和 (SSR) 残差平方和 (SSE) { { 离差平方和的分解 (三个平方和的关系) ?总平方和(SST) 反映因变量的 n 个观察值与其均值的总离差。 ?回归平方和(SSR) 反映自变量 x 的变化对因变量 y 取值变化的影响，是由于 x 与 y 之间的线性关系引起的 y 的取值变化，也称为可解释的平方和。 ?残差平方和(SSE) 反映除 x 以外的其他因素对 y 取值的影响，也称为不可解释的平方和或剩余平方和。 SST = SSR + SSE 线性关系的检验 （1）回归方程的显著性检验 ?检验所有自变量与因变量之间的线性关系是否显著 ?均方回归：回归平方和SSR除以相应的自由度(自变量的个数k) ?均方残差：残差平方和SSE除以相应的自由度(n-k-1) ?将均方回归 (MSR)同均方残差 (MSE)加以比较，应用F检验来分析二者之间的差别是否显著； SST = SSR + SSE 线性关系的检验(检验的步骤) ?提出假设 H0：?1=0 y = ?0 + ?1x + ? 即检验所有回归系数与零有无显著差异，y与全体x的线性