第十章：多元线性回归PPT.pptVIP

* 多元线性回归 多元线性回归模型 多元线性回归方程： y=β0+β1x1+β2x2+...+βkxk β1、β2、βk为偏回归系数。 β1表示在其他自变量保持不变的情况下，自变量x1变动一个单位所引起的因变量y的平均变动。 线性回归方程的统计检验 回归方程的拟合优度 回归直线与各观测点的接近程度称为回归方程的拟合优度， 也就是样本观测值聚集在回归线周围的紧密程度 。 1、离差平方和的分解： 建立直线回归方程可知：y的观测值的总变动 可由 来反映，称为总变差。引起总变差的 原因有两个： 由于x的取值不同，使得与x有线性关系的y值不同； 随机因素的影响。 总离差平方和可分解为 即：总离差平方和（SST)=剩余离差平方和(SSE) +回归离差平方和（SSR) 其中；SSR是由x和y的直线回归关系引起的，可以由回归直线做出解释；SSE是除了x对y的线性影响之外的随机因素所引起的Y的变动，是回归直线所不能解释的。 可决系数（判定系数、决定系数） 回归平方和在总离差平方和中所占的比例可以作为一个统计指标，用来衡量X与Y 的关系密切程度以及回归直线的代表性好坏，称为可决系数。 对于一元线性回归方程： 回归方程的显著性检验（方差分析F检验） 回归方程的显著性检验是要检验被解释变量与所有的解释变量之间的线性关系是否显著。 对于一元线性回归方程，检验统计量为： 对于多元线性回归方程，检验统计量为： 回归系数的显著性检验（t检验） 回归系数的显著性检验是要检验回归方程中被解释变量与每一个解释变量之间的线性关系是否显著。 对于一元线性回归方程，检验统计量为： 对于多元线性回归方程，检验统计量为： 残差分析 残差是指由回归方程计算得到的预测值与实际样本值之间的差距，定义为： 对于线性回归分析来讲，如果方程能够较好的反映被解释变量的特征和规律性，那么残差序列中应不包含明显的规律性。残差分析包括以下内容：残差服从正态分布，其平均值等于0；残差取值与X的取值无关；残差不存在自相关；残差方差相等。 1、对于残差均值和方差齐性检验可以利用残差图进行分析。如果残差均值为零，残差图的点应该在纵坐标为0的中心的带状区域中随机散落。如果残差的方差随着解释变量值（或被解释变量值）的增加呈有规律的变化趋势，则出现了异方差现象。 2、DW检验。 DW检验用来检验残差的自相关。检验统计量为： DW=2表示无自相关，在0-2之间说明存在正自相关，在2-4之间说明存在负的自相关。一般情况下，DW值在1.5-2.5之间即可说明无自相关现象。 多重共线性分析 多重共线性是指解释变量之间存在线性相关关系的现象。测度多重共线性一般有以下方式： 1、容忍度： 其中， 是第i个解释变量与方程中其他解释变量间的复相关系数的平方，表示解释变量之间的线性相关程度。容忍度的取值范围在0-1之间，越接近0表示多重共线性越强，越接近1表示多重共线性越弱。 2、方差膨胀因子VIF。方差膨胀因子是容忍度的倒数。VIF越大多重共线性越强，当VIF大于等于10时，说明存在严重的多重共线性。 例：多元线性回归方程的建立 27名糖尿病人的血清总胆固醇、甘油三脂、空腹胰岛素、糖化血红蛋白、空腹血糖的测量值列于表1中，试建立血糖与其它几项指标关系的多元线性回归方程。 表1 27名糖尿病人的血糖及有关变量的测量结果 求偏导数 原 理 最小二乘法 假设检验及其评价 1. 方差分析法： （一）对回归方程 表3 例15-1的方差分析表 表2 多元线性回归方差分析表 2. 决定系数R 2： 3.复相关系数 2. t 检验法 是一种与偏回归平方和检验完全等价的一种方法。计算公式为 结 果 结 论 3．标准化回归系数  变量标准化是将原始数据减去相应变量的均数，然后再除以该变量的标准差。 计算得到的回归方程称作标准化回归方程，相应的回归系数即为标准化回归系数。 结 论 自变量选择方法  目的：使得预报和（或）解释效果好 一、全局择优法 目的：预报效果好 意义：对自变量各种不同的组合所建立 的回归方程进行比较 择优。 选择方法： 用全局择优法对例15-1数据的自变量进行选择。 *