数据挖掘原理与spssclementine应用宝典回归分析.ppt

数据挖掘原理与 SPSS Clementine 应用宝典 元昌安 主编 邓 松 李文敬 刘海涛 编著 电子工业出版社 第六章 回 归 分析 本章内容 回 归 分析的基本原理 一元 线 性回 归 分析 多元 线 性回 归 分析 非 线 性回 归 分析 回归分析的基本原理 所谓回归分析法 ， 利用数理统计方法建立因变量 与自变量之间的回归关系函数表达式。 对 于下表中的 数 据： 利用回 归 分析方法，得到如下的函 数关 系式： 一元线性回归分析 ? 一元 线 性回 归 模型 ? 模型 参数 估 计 和平均 误 差估 计 ? 一元 线 性回 归 模型的 检验 一元线性回归模型 满 足一元 线 性回 归 的基本 条 件： 1. 所有的 的分布的均值都正好在一条直线上，称 之为总体的（真实的）回归直线； 2. 所有的分布都有同样的形状； 3. 随机变量 是相互独立的； 4. 给定 X 时 分布的形状是正态的，即 服从正态 分布。 满足这些条件的回归模型称为 一元线性回归模型 。 根据样本观测值，采用 最小二乘法 ，得到了一条估 计的样本回归直线 。 ? Y b aX ? ? 模型参数估计和平均误差估计 参数估计： 经过最小二乘法计算可得： 求出参数 a,b 以后，就可以得到回归模型 : ? y a bx ? ? 模型参数估计和平均误差估计 平均误差估计： 一元线性回归模型的检验 ? 线性方程的显著性检验 ? 关于回归系数 b 的统计推断 一元线性回归模型的检验 线性方程的显著性检验的方法有： 1. 方差分解法 2. 相关分析法 3. F 检验 4. t 检验 5. D-W 检验 一元线性回归模型的检验 - 方差分解法 一元线性回归模型的检验 - 相关分析法 一元线性回归模型的检验 - F 检验 一元线性回归模型的检验 - t 检验 一元线性回归模型的检验 - D-W 检验 多元线性回归分析 ? 多元线性回归模型 ? 参数估计 ? 多元回归方差分析和显著性检验 ? 多元回归模型的残差分析 多元线性回归模型 参数估计 多元回归方差分析和显著性检验 ? 总离差平方和的分解和多元相关系数 ? 回归离差平方和与偏相关系数 总离差平方和的分解和多元相关系数