5 研究方法之 回归分析.ppt

第五章 回归分析 1.一元线性回归 2.多元线性回归 3.普通最小二乘法假设的违背 一、一元线性回归 1.一元线性回归模型的描述 2.一元线性回归方程的估计 3.一元线性回归方程的显著性检 1 一元线性回归模型的描述 一元线性回归模型也称为简单直线回归模型，是分析两个变量x与y之间相互关系的数学方程式。我们假定x 为自变量，y为因变量，y值除了受自变量x 的影响之外，还受其它因素的影响；在构建回归模型时，应该包括随机误差 ，x与 y之间的关系可以用数学公式表示： 一元线性回归模型的描述 在实际研究问题时，为了便于对参数做出区间估计和假设检验，我们假定 因此，我们可以用下式近似的描述x与y之间的关系： 式中 为因变量的估计值；x为自变量的实际值；a ,b为待定参数；上述公式称为变量y对x的一元线性回归模型。 a ,b的几何意义是：a为直线方程的截距，b为直线的斜率。其经济意义是：a表示自变量x为零时的因变量y的估计值；b表示当自变量x每增加一个单位时因变量y的平均变化，b也称为y对x的回归系数。 2 . 一元线性回归方程的估计：OLS 最小二乘法的基本思想是：选择a和 b,使得观测值 与理论值 的离差平方和最小。即选择a和b,使得 一元线性回归方程的估计 经整理，得到参数a和b的计算公式： [例] 建立广告费用支出与销售额的一元线性回归方程。一元线性回归计算表 将表中数据代入, 得到 于是，广告费与销售额的一元线性回归方程为 3 .一元线性回归方程的显著性检验 （1）.回归系数b的显著性检 回归系数b的显著性检验就是要验证总体两变量x与y的线性关系是否真正存在。因此，我们对线性模型提出如下假设： 如果原假设 成立，说明x对y没有影响，如果原假设 不成立，则可以认为x对y有显著影响。 为此，我们需要构造一个检验的统计量。我们把y的n个观测值之间的差异，用观测值 与其平均值 的偏差平方和来表示，称为总离差平方和，记为SST。 将其分解： 不难证明交叉项等于零，若记 则有 这里，SSR叫回归平方和，它反映了回归方程的理论值对平均值的离散程度 ；SSE叫残差平方和，它是实际观测值与回归值的离差平和，反映了随机因素对y取值的影响。 可以证明，当成立时， 因此，我们可以作出决策，对于给定的显著性水平 若 ，则拒绝 ，表明x与y之间存在线性关系，x对y的影响时显著的。否则，变量x与y之间不存在线性关系，x对y的影响不显著。 （2）回归方程的显著性检验（判定系数） 回归平方和占总平方和的比例 计算公式为 因变量取值的变差中，能被估计的多元回归方程所解释的比例 [例]根据上表的资料拟合的回归方程进行回归系数的显著性检验和回归方程的显著性检验。 解 ：① 回归系数的显著性检验（t检验） 我们提出如下假设： 若 成立，说明广告费对销售额的影响不显著，两者 之间不存在线性关系。 在 成立的条件下，计算t统计量的值： 当显著性水平 时， ， 此时 ，因此拒绝原假设。说明回归系数是显著的，广告费用和销售额之间的线性关系确实存在，广告费用是影响销售额的显著因素。 二、多元线性回归 1 多元线性回归模型 2 多元线性回归模型的估计：OLS 3 多元回归的拟合优度检验(adj_R2) 4 各回归系数的显著性检验（t 检验） 1. 多元线性回归模型 多元线性回归模型的一般形式 一般形式：对于有