CH042多元线性回归分析.pptVIP

多元线性回归分析总结 确定自变量、因变量 自变量与因变量间的关系不对等，是依存关系 求解回归方程（自变量选择） 回归方程评价（R2、F-检验、t-检验） 残差-residual分析（正态性检验、DW检验） 自变量间是多重共线性的检验与消除 回归结果的解释与分析 回归方程预测（点预测、区间预测） THANKS！ * ！！一次只能将最不显著的变量删除，每次删除 一个，直至全部显著 多元回归模型假设检验的步骤 查看拟合优度，进行F检验，从整体上判断回归方程是否成立，如果F检验通不过，无须进行下一步；否则进行下一步 查看各个变量的t值，进行t检验，如果没有通过显著性检验，该自变量对因变量无显著作用，应从方程中删去，重新估计方程 多元线性回归模型 多元线性回归模型的检验和评价 多元回归自变量的选择 多重共线性问题 §4.2 多元线性回归分析 三、多元线性回归自变量的选择 对一个实际问题如预报土壤流失量，影响的因素包含降雨，土壤，地形，植被覆盖，水土保持措施等方面，可选择的用来预报土壤流失量的变量就更多。但并不是变量选择越多就越好，因为： 首先增加了数据的需求量； 有些变量因素对土壤流失量的作用也不显著； 许多变量间具有相关关系，一些变量的作用 可被其它变量代替。 ？为什么要进行自变量的选择 三、多元线性回归自变量的选择 自变量与因变量的单相关系数越大，对残差平方和的下降贡献越大，该自变量越重要 好的回归方程不但方程显著，而且，每个自变量的偏回归系数也显著 多引入一个变量，残差平方和就下降一些，从而提高拟合精度，但数据需求也增加，同时会增加方程的不稳定性 选择原则 三、多元线性回归自变量的选择 选择变量的依据是对回归系数做显著性检验，只有能够显著地预测因变量的自变量才会被选择进来 要求自变量间无相关关系 三、多元线性回归自变量的选择 逐步剔除法（Backward choice） 逐步引进法（Forward choice） 双重检验的逐步回归法（Stepwise） Cp标准 选择方法 （一）逐步剔除法Backward 建立包含全部自变量的回归方程 对方程中每个变量检查t值的大小，从中找出最小者进行该变量系数的显著性检验，如果显著，结束，否则剔除该变量 若第二步没有通过显著性检验，对剔除后的所有变量做回归方程，然后重复第2步 …… 逐步剔除法示例：有八个自变量的回归分析 经过检验剔除后，只剩X3和X8两个变量进入回归方程 （二）逐步引进法Forward 从全部自变量中，考察每个变量与因变量的相关关系，挑选相关系数的绝对值最大者对应的变量，进行t检验，若显著就进入方程，否则结束 对剩余的没有进入方程的变量，单独考察每个因子，找出偏相关系数最大者进行该变量系数的显著性检验，经检验显著就进入方程，否则结束 若第二步通过了显著性检验，则重复第2步 …… 逐步引进法示例：有八个自变量的回归分析 最后选入X2，X8，X6共3个变量 （三）双重筛选的逐步回归法Stepwise 基本思想：依次拟合一系列回归方 程，后一个方程在前一个的基础上 增加或删除一个自变量 （三）双重筛选的逐步回归法Stepwise 首先逐步引进的方案选择第一个变量x1，若通不过显著检验，则终止选择，若通过，继续第二步； 对未引入过方程的自变量分别考察它们对方程的贡献，从中找出最大者x2加入到第一步拟合的回归模型中，重新检验x1和x2的显著性，若通过，则纳入方程，通不过，删除 对方程中除刚引入变量外的其它变量，重复第二步，直至模型中再无自变量可被删除 双重筛选的逐步回归示例：四个自变量的回归 （四）Cp 标准 概念：假设共有k个自变量，全部选入回归模型时模型的误差平方和为SSEk，误差的估计方差为（ SSEk /(n-k-1)），如果只选入p个自变量（pk）进入回归模型，可得到Cp计算公式，Cp越小越好 Cp标准步骤 算出所有自变量选取不同个数不同组合进入回归模型时的SSEp, 算出所有自变量都选入回归模型时误差的估计方差 计算出每组组合时的Cp值，取Cp值最小的变量组合 （四）Cp 标准 以Cp值为标准选择合适的回归模型，缺点是工作量大 Cp标准示例：四个自变量的回归 多元线性回归模型 多元线性回归模型的检验和评价 多元回归自变量的选择 多元回归变量的多重共线性问题 §4.2 多元线性回归分析 四、多元回归变量的多重共线性问题 ？？什么是多重共线性 回归模型中解释变量的三种关系： rxixj＝0，解释变量间毫无线性关系；