2015多重回归与非线性回归多重线性回归分析2015章节.pptVIP

几个相关系数的区别 小 结 1. 多重线性回归是简单线性回归的扩展，模型的前提假设、最小二乘原则都与简单线性回归分析相同。 2. 偏回归系数与标准偏回归系数； 3. 复相关系数、偏相关系数； 4. 确定系数和调整的确定系数； 5. 模型自变量的筛选方法和准则。 * 三、分析步骤 2.6 共线性诊断 多重共线性的分类： (1)严重的多重共线性 此时，自变量之间存在着较高甚至完全的线性相关关系，虽然最小二乘法仍可应用，但由于观测误差的稳定性变差，所得的估计值可能面目全非。这类情况较为少见。 * 三、分析步骤 2.6 共线性诊断 多重共线性的分类： (2)某种程度的多重共线性 此时，最小二乘法仍可获得参数的无偏估计值，但参数的方差估计值将变得很大，导致估计精度下降，且无法判断自变量对因变量的影响程度。 * 三、分析步骤 2.6 共线性诊断 2.6.1 条件数 设X为n个研究对象在k个自变量上的取值数据矩阵，则可求出其交叉乘积矩阵X′X的k个特征根，记为li(i=1、2、… 、k)，且有l1l2 … lk。 * 三、分析步骤 2.6 共线性诊断 2.6.1 条件数 最大特征根与其余每个特征根比值的平方根，称为条件指数(conditional number)，公式为： * 三、分析步骤 2.6 共线性诊断 2.6.1 条件数 而最大条件指数，简称为条件数，其值为最大特征根与最小特征根之比值的平方根。即： * 三、分析步骤 2.6 共线性诊断 2.6.1 条件数 条件数越大，说明设计矩阵X具有越强的共线性。 经验上，若0CNk10，可认为自变量间不存在多重共线性；若10 ≤CNk≤ 30，可认为自变量间存在中等程度的多重共线性；若CNk30，则认为自变量间存在严重的多重共线性。 * 三、分析步骤 2.6 共线性诊断 2.6.3 共线性的解决方法 (1)变量筛选 采用自变量筛选的方法一般可选出对因变量有统计学影响且相互之间独立或相关性较低的一组自变量。 * 三、分析步骤 2.6 共线性诊断 2.6.3 共线性的解决方法 (2)有偏估计 自变量间存在多重共线性且专业上认为需要保留在模型中时，不宜使用最小二乘法估计模型。此时，可采用有偏估计。 此类方法包括岭回归分析、主成分回归分析等。 * 三、分析步骤 2.6 共线性诊断 2.6.3 共线性的解决方法 (3)增大样本含量 通过增加样本含量，减少估计量的方差，提高估计精度，可在一定程度上克服多重共线性。 * 三、分析步骤 2.7 异常点诊断 2.7.1 异常点 对因变量的预测值影响特别大，甚至容易导致相反结论的观测点，称为异常点。 异常点的诊断，可采用学生化残差统计量、Cook’s D统计量。 * 三、分析步骤 2.7 异常点诊断 2.7.2 学生化残差统计量 Studentized residual，计算公式为： 该统计量的绝对值大于2时，所对应的观测点可能是异常点。 * 三、分析步骤 2.7 异常点诊断 2.7.3 Cook’s D统计量 库克距离统计量。 一般认为， Cook’s D0.5时，可认为此观测点对回归模型的拟合有强影响，即可认为是异常点。 * 三、分析步骤 2.7 异常点诊断 2.7.4 异常点的处置 认真核对原始数据。若属抄写或输入等人为错误，应予以纠正；若非人为错误，可删除异常点，重新拟合回归模型。 如有可能，最好在此实验点上补做实验，进一步确定此可疑异常点是否属实。 * * 残差分析 （1）残差是否独立：实际上就是考察应变量取值是否相互独立。 （2）残差分布是否为正态：实际上就是考察应变量取值是否服从正态分布。 * （a） （b） （c）