ch20多元回归分析.ppt

心理统计 Ch20：多元回归分析 Multivariate linear regression 多元线性回归分析也称复线性回归分析（multiple linear regression analysis）,它研究一组自变量如何直接影响一个因变量。 自变量（independent variable）是指独立自由变量的变量，用X表示；因变量（dependent variable)是指非独立的、受其它变量影响的变量，用Y表示；由于模型仅涉及一个因变量，所以多元线性回归分析也称单变量线性回归分析（univariate linear regression analysis） 应用条件 多元线性回归模型应满足以下条件： (1)Y与 之间具有线性关系； (2)各观测值 之间相互独立； (3)残差服从均数为0、方差为的正态分布，它等价于对于任意一组自变量 ，因变量均服从正态分布且方差齐。 多元线性回归分析的步骤 （一）估计各项参数，建立多元线性回归方程模型 （二）对整个模型进行假设检验，模型有意义的前提下，再分别对各偏回归系数进行假设检验。 （三）计算相应指标，对模型的拟合效果进行评价。 模型的参数估计（略） 线性回归方程模型 对模型及偏回归系数的假设检验 1、对模型的假设检验—F检验 2、对偏回归系数的假设检验—F检验和t 检验 3、标准偏化回归系数 1、对模型的假设检验—F检验 检验统计量为F SS回归为回归项的平方和，反映由于方程中个自变量与因变量的线性关系而使因变量变异减小的部分； SS剩余表示剩余（残差）平方和，说明除自变量外，其它随机因素对y变异的影响。 1、对模型的假设检验—F检验 SS总=lyy=222.5519；ν总=n-1=26 SS剩余= SS总- SS回归=222.5519-133.7107=88.8412 ν剩余=n-m-1=22 MS回归= SS回归/ν回归； MS剩余= SS剩余/ν剩余； F= MS回归/ MS剩余 回归方程成立只能认为总的来说自变量与因变量间存在线性关系，但是否每一个自变量都与因变量间存在线性关系，须对其偏回归系数进行假设检验。 ① 方差分析法 ② t 检验法 偏回归系数的假设检验--方差分析法 计算Xi的偏回归平方和Ui，它表示模型中含有其它m-1个自变量的条件下该自变量对Y的回归贡献，相当于从回归方程中剔除Xi后所引起的回归平方和的减少量。偏回归平方和Ui越大说明自变量越重要。 检验统计量为： ① 偏回归系数的假设检验--方差分析法 ②偏回归系数的假设检验— t 检验 3、标准偏回归系数 多元线性回归方程中，各自变量的单位不同，其偏回归系数之间是无法直接比较的。需要对偏回归系数标准化，以消除量纲的影响。 标准化的偏回归系数称为标准偏回归系数（standard partial regression coefficient）。标准偏回归系数 与偏回归系数之间的关系为 标准偏回归系数绝对值的大小，可用以衡量自变量对因变量贡献的大小，即说明各自变量在多元回归方程中的重要性。 评价回归方程回归效果的优劣是回归分析的重要内容之一。 常用评价指标有： 复相关系数、 决定系数、 校正决定系数、 剩余标准差等。 1.复相关系数 复相关系数（R），衡量因变量Y与回归方程内所有自变量线性组合件相关关系的密切程度。 0=R=1,没有负值。 R的值越接近1，说明相关关系越密切；越接近0说明相关关系越弱。 2、决定系数 决定系数（coefficient of determination）表示回归平方和占总平方和的比例，反映各自变量对因变量回归贡献的大小，用R2表示。 R2无单位，取值在0~1之间。值越大，说明回归平方和在总平方和中所占的比重越大，剩余平方和所占比例越小，回归效果越好。 3、剩余标准差 剩余标准差（standard deviation of residual）为扣除m个自变量的影响后，因变量仍然存在的变异，即不能由m个自变量的变化解释的Y的变异，用 表示。 公式为： 剩余标准差越小，说明回归效果越好。剩余标准差除与剩余平方和有关外，还与自由度有关，因此剩余标准差与决定系数对回归效果优劣的评价结果有时不一致。研究者通常希望用尽可能少的自变量来最大限度地解释因变量的变异，从这个意义上来说，用剩余标准差作为评价回归效果的指标比决定系数更好。 4、校正决定系数 当方程中包含很多自变量时，即使其中一些自变量在解释因变量的变异时贡献很小，但随着回归方程中自变量的增加。决定系数仍然会表现为只增不减，故计算校正决定系数（adjusted coefficient of determination）以消除自变量个数的影响。公式为