多元线性回归.pptVIP

第十五章 多元线性回归分析 （multiple linear regression） 陆健 副教授 * 表15-2 27名糖尿病患者的血糖及有关变量的测量结果 多元线性回归模型 多元线性回归模型的应用需要满足如下条件 Y与X1，X2，···，Xm之间具有线性关系。 各例观察值Yi（i=1，2， ···，n)相互独立。 残差e服从均数为0，方差为?2的正态分布，等价于对任意一组自变量X1，X2，···，Xm值，应变量Y具有相同方差，并且服从正态分布。 多元线性回归方程 多元线性回归方程的建立 多元线性回归方程的建立 本例 由上面的方程可以看出：总胆固醇、甘油三酯和糖化血红蛋白的升高会引起血糖的升高，而胰岛素的升高会引起血糖的下降。 多元线性回归方程的假设检验及其评价 将回归方程总所有自变量作为一个整体来检验它们与应变量之间是否具有线性关系（方差分析法、复相关系数）； 对回归方程的预测或解释能力作出综合评价（决定系数）； 在此基础上进一步对各个自变量的重要性作出评价（偏回归平方和、t检验、标准回归系数）。 方差分析步骤－建立假设 H0：自变量整体与应变量没有回归关系 H1：自变量整体与应变量有回归关系 确定检验水准： 方差分析步骤－计算检验统计量 方差分析步骤－计算检验统计量 方差分析步骤－结论 结论：在 检验水准上，拒绝H0，接受H1，自变量整体和应变量之间有回归关系，可以认为所拟合的回归方程具有统计学意义。 决定系数R2 计算公式：R2＝SS回归/SS总＝1- SS残差/SS总 用于说明自变量整体能够解释应变量变化的百分比，即模型对数据的拟合程度。 0≤R2≤1，其值越接近1，说明拟合程度越好；越接近0，说明拟合程度越差。 决定系数R2 本例：R2＝133.7107/222.5519＝0.6008 说明自变量（血糖）的变化60％可以用总胆固醇、甘油三酯、胰岛素和糖化血红蛋白的变化来解释。 复相关系数(multiple correlation coefficient) 计算公式： 可用来度量应变量与自变量整体之间的线性相关程度。 如果自变量只有一个，则复相关系数等于直线相关系数。 本例： 各自变量的假设和评价 对每一个自变量的作用进行检验和衡量它们对应变量Y的作用大小。 常用方法： 偏回归平方和 t检验法 标准化回归系数 偏回归平方和 某自变量的偏回归平方和表示模型中含有其他m－1个自变量的条件下该自变量对Y的回归贡献。相当于从回归方程中剔除该自变量后所引起的回归平方和的减少量。或者说在m－1个自变量的基础上新增加该自变量引起回归平方和的增加量。 m－1个自变量对Y的回归平方和由重新建立的新方程得到。 表15-8 例15-1数据回归分析的部分中间结果 偏回归平方和的检验步骤－建立假设 偏回归平方和的检验步骤－计算检验统计量 偏回归平方和的检验步骤－结论 F0.05,1,22=4.30 F1F0.05,1,22 P10.05 F2F0.05,1,22 P20.05 结论：在 水准处，不能拒绝总胆固醇（X1）和甘油三酯（X2）的H0，不能认为这两个因素与血糖有回归关系。 偏回归平方和的检验步骤－结论 F3F0.05,1,22 P30.05 F4F0.05,1,22 P40.05 结论：在 水准处，拒绝胰岛素（X3）和糖化血红蛋白（X4）的H0，接受H1，可以认为两者和血糖有回归关系，糖化血红蛋白的回归贡献更大（偏回归平方和越大，回归贡献越大）。 t检验法 等价于偏回归平方和检验； 计算更为复杂； 同一资料，不同自变量的t值可以相互比较，t的绝对值越大，说明该自变量对应变量Y的回归所起的作用越大。 标准化回归系数 自变量的测量单位各不相同，单从各偏回归系数的绝对值大小无法分析各自变量对应变量Y的影响程度。 将原始数据标准化的公式： 标准化回归系数 将应变量和自变量都转换成标准化值后，再计算得到的回归方程称为标准化回归方程，相应的回归系数称为标准化回归系数。 标准化回归系数的绝对值越大，说明对应变量的作用越大。 标准化回归系数的计算公式： 标准化回归系数 结果：对血糖影响大小的顺序依次为血红蛋白（X4）、胰岛素（X3）、甘油三酯（X2）和总胆固醇（X1）。 第二节 自变量选择方法 基本思路： 尽可能将回归效果显著的自变量选入回归方程中，将作用不显著的自变量排除在方程外，以此提高模型的精度。 自变量选择方法 全局择优法 校正决定系数选择法、Cp选