相关与回归分析 宋廷山版PPT.ppt

回归模型的类型 一个自变量 两个及两个以上自变量 回归模型 多元回归 一元回归 线性回归 非线性回归 线性回归 非线性回归 一元线性回归 涉及一个自变量的回归 因变量y与自变量x之间为线性关系 因变量与自变量之间的关系用一个线性方程来表示 一元线性回归模型(linear regression model) 描述因变量 y 如何依赖于自变量 x 和误差项? 的方程称为回归模型 一元线性回归模型可表示为 y = b0 + b1 x + e y 是 x 的线性函数(部分)加上误差项 线性部分反映了由于 x 的变化而引起的 y 的变化 误差项 ? 是随机变量 反映了除 x 和 y 之间的线性关系之外的随机因素对 y 的影响 是不能由 x 和 y 之间的线性关系所解释的变异性 ?0 和 ?1 称为模型的参数 一元线性回归模型(基本假定) 因变量x与自变量y之间具有线性关系 在重复抽样中，自变量x的取值是固定的，即假定x是非随机的 误差项 ? 满足 正态性。 ?是一个服从正态分布的随机变量，且期望值为0，即? ~N(0 , ?2 ) 。对于一个给定的 x 值，y 的期望值为E(y)=?0+ ?1x 方差齐性。对于所有的 x 值， ?的方差也都等于 ? 2 都相同。同样，一个特定的x 值， y 的方差也都等于?2 独立性。独立性意味着对于一个特定的 x 值，它所对应的ε与其他 x 值所对应的ε不相关；对于一个特定的 x 值，它所对应的 y 值与其他 x 所对应的 y 值也不相关 回归方程 (regression equation) 描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程 一元线性回归方程的形式如下 E( y ) = ?0+ ?1 x 方程的图示是一条直线，也称为直线回归方程 ?0是回归直线在 y 轴上的截距，是当 x=0 时 y 的期望值 ?1是直线的斜率，称为回归系数，表示当 x 每变动一个单位时，y 的平均变动值 估计的回归方程(estimated regression equation) 总体回归参数 和 是未知的，必须利用样本数据去估计 用样本统计量 和 代替回归方程中的未知参数 和 ，就得到了估计的回归方程 一元线性回归中估计的回归方程为 其中： 是估计的回归直线在 y 轴上的截距， 是直线的斜率，它表示对于一个给定的 x 的值， 是 y 的估计值，也表示 x 每变动一个单位时， y 的平均变动值 参数的最小二乘估计 德国科学家Karl Gauss(1777—1855)提出用最小化图中垂直方向的误差平方和来估计参数 使因变量的观察值与估计值之间的误差平方和达到最小来求得 和 的方法。即 用最小二乘法拟合的直线来代表x与y之间的关系与实际数据的误差比其他任何直线都小 2 参数的最小二乘估计 最小二乘估计的图示 x y (xn , yn) (x1 , y1) ? ? ? ? ? ? ? ? ? (x2 , y2) (xi , yi) ei = yi-yi ＾ 参数的最小二乘估计 ( 和 的计算公式) ? 根据最小二乘法，可得求解 和 的公式如下 即该回归直线通过点（x，y） 估计方程的求法(例题分析1) 【例】求不良贷款对贷款余额的回归方程 回归方程为：y = -0.8295 + 0.037895 x 回归系数 =0.037895 表示，贷款余额每增加1亿元，不良贷款平均增加0.037895亿元 估计方程的求法(例题分析) 不良贷款对贷款余额回归方程的图示 估计方程的求法 (例题分析2) 【例】根据例10.1中的数据，配合人均消费金额对人均国民收入的回归方程 根据 和 的求解公式得 估计(经验)方程 (例题分析2) 人均消费金额对人均国民收入的回归方程为 y = 54.22286 + 0.52638 x ^ 变差: 因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面 由于自变量 x 的取值不同造成的 除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响 对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示，n次观察值的总变差可由这些离差的总平方和来表示，记为 3 回归直线的拟合优度 回归直线与各观测点的接近程度，用判定系数来度量 判定系数：对估计的回归方程拟合优度的度量 * 第十章 相关与回归分析 10.1 变量间关系的度量 10.2 一元线性回归 10.3 多元线性回归 回归分析研究什么？ 研究某些实际