第六章相关分析与线性回归分析.pptVIP

* * * * * * * * * * * * * 124 Note: 1. As we move farther from the mean, the bands get wider. 2. The prediction interval bands are wider. Why? (extra Syx) * * 124 Note: 1. As we move farther from the mean, the bands get wider. 2. The prediction interval bands are wider. Why? (extra Syx) * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 139 * * * * * * * * * * * * * * * * 24 This teleology is based on the number of explanatory variables nature of relationship between X Y. * * * 二、回归方程的拟合优度 1、多重判定系数 2、估计标准误差 多重判定系数 回归平方和占总平方和的比例 计算公式为 因变量取值的变差中，能被估计的多元回归方程所解释的比例 修正多重判定系数 用样本量n和自变量的个数k去修正R2得到 计算公式为 避免增加自变量而高估 R2 意义与 R2类似 数值小于R2 估计标准误差 Sy 对误差项?的标准差? 的一个估计值 衡量多元回归方程的拟合优度 计算公式为 三、显著性检验 1、 线性关系检验 2、 回归系数检验和推断 线性关系检验 检验因变量与所有自变量之间的线性关系是否显著 也被称为总体的显著性检验 检验方法是将回归均方(MSR)同残差均方(MSE)加以比较，应用 F 检验来分析二者之间的差别是否显著 如果是显著的，因变量与自变量之间存在线性关系 如果不显著，因变量与自变量之间不存在线性关系 线性关系检验 提出假设 H0：?1??2????k=0 线性关系不显著 H1：?1，?2，? ?k至少有一个不等于0 2. 计算检验统计量F 确定显著性水平?和分子自由度k、分母自由度n-k-1找出临界值F ? 4. 作出决策：若FF ?，拒绝H0 回归系数的检验 线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验 究竟要对哪几个回归系数进行检验，通常需要在建立模型之前作出决定 对回归系数检验的个数进行限制，以避免犯过多的第Ⅰ类错误(弃真错误) 对每一个自变量都要单独进行检验 应用 t 检验统计量 回归系数的检验(步骤) 提出假设 H0： bi = 0 (自变量 xi 与 因变量 y 没有线性关系) H1： bi ? 0 (自变量 xi 与 因变量 y有线性关系) 计算检验的统计量 t 确定显著性水平?，并进行决策 ? t?t???，拒绝H0； t?t???，不拒绝H0 回归系数的推断 (置信区间) ?回归系数在1-?置信水平下的置信区间为 回归系数的抽样标准差 四、变量选择与逐步回归 1、变量选择过程 2、向前选择 3、向后剔除 4、逐步回归 变量选择过程 在建立回归模型时，对自变量进行筛选 选择自变量的原则是对统计量进行显著性检验 将一个或一个以上的自变量引入到回归模型中时，是否使得残差平方和(SSE)有显著减少。如果增加一个自变量使SSE的减少是显著的，则说明有必要将这个自变量引入回归模型，否则，就没有必要将这个自变量引入回归模型 确定引入自变量是否使SSE有显著减少的方法，就是使用F统计量的值作为一个标准，以此来确定是在模型中增加一个自变量，还是从模型中剔除一个自变量 变量选择的方法主要有：向前选择、向后剔除、逐步回归、最优子集等 向前选择 (forward selection) 从模型中没有自变量开始 对k个自变量分别拟合对因变量的一元线性回归模型，共有k个，然后找出F统计量的值最高的模型及其自变量，并将其首先引入模型 分别拟合引入模型外的k-1个自变量的线性回归模型 如此反复进行，直至模型外的自变量均无统计显著性为止 向后剔除 (backward elimination) 先对因变量拟合包括所有k个自变量的回归模型。然后考察p(pk)个去掉一个自变量的模型(这些模型中每一个都有k-1个自变量)，使模型的SSE值减小最少的自变量被挑选出