一元线性回归.ppt.ppt.pptVIP

一元线性回归分析 1.回归分析的基本概念 2.一元线性回归分析 3.应用范例与MATLAB实现 Linear Regression Analysis, LRA 1. 回归分析的基本概念 ? 函数关系与相关关系 函数关系——变量之间确实存在的，且在数量上表现 为确定性的相互依存关系. 例如，圆的面积S与半径R有关，一旦半径R确定， 则 面积S可通过函数 求出，即 相关关系——变量之间确实存在的，但在数量上表现 为不确定的相互依存关系. 例如，人的体重y与身高x有关，一般而言，较高的人 体重较重，但同样身高的人体重却不会完全相同；又如居 民的储蓄存款额y与他的收入x有关，但同样收入的人储蓄 存款额也不会相同. 函数关系往往通过具有不确定性的相关关系表现出来， 而完全的相关关系必定是函数关系. ?相关关系的种类 ⑴ 按相关的方向划分| 正相关——两个变量按照相同的趋势变化，或者说某 个现象的变量增加，另一个现象的变量也增加的现象. 负相关——两个变量按照相反的趋势变化，或者说某 个现象的变量增加，另一个现象的变量反而减少的现象. 零相关——两个变量在数量上完全独立，在一定的形 式下，互不影响，互不相干的关系.严格的讲，零相关不 是“不相关”，因为事物的联系是绝对的，而独立是相对 的，只有在某种形式下它才能互不影响，互不相干. ⑵ 按相关形式划分 线性相关——两个变量之间呈线性关系的相关. 非线性相关——两个变量之间呈非线性关系的相关关系. ⑶ 按变量多少划分 单相关——两个变量之间的相关关系. 复相关——两个以上的变量之间的相关关系. 偏相关——在多个变量相关的场合，考察其中两个变量 的相关关系（假定其他变量不变）. ⑷ 按相关性质划分 真实相关——变量之间具有内在联系的相关关系. 虚假相关——变量之间只是表面存在、而实质上并没 有内在联系的相关关系. ?回归分析的一般概念 回归分析——分析变量间相关关系的一种统计方法.根 据相关关系的具体形态，明确谁是自变量（可控变量），谁 是因变量（随机变量），选择一个合适的数学模型，来近似 地表达变量间的平均变化关系. “回归”一词由英国统计学家道尔顿提出.道尔顿在研 究人的身高问题时，发现父母的身高与子女的身高有一定 关系，父母高的子女反而矮一些，父母矮的子女反而高一 些，他称这种返祖现象为回归. 此后，回归分析泛指遵循 道尔顿研究问题的思想和方法的一类统计分析方法. 回归分析的目的——建立变量之间相关关系的具体的 数学表达形式，并藉此来探讨对因变量的预测问题.这不 仅依赖变量之间相关程度的度量（需要相关分析的辅助）， 更依赖变量之间真实相关性的存在. 然而，现象之间是否 存在真实相关，必须根据有关专业领域的学科理论来确定. 因此，回归分析必须要在定性分析前提下进行，不能进行 纯数量的计算. 2. 一元线性回归分析 ?一元线性回归模型 模型的理论假设 设x是自变量（非随机变量，其值 是可以控制或精确测量），y是因变量（随机变量，对给 定的x值不能事先确定y的取值），则一元线性回归模型的 理论假设是 模型的建立 求线性函数 的经验回归方程 其中 是 的统计估计， 分别是 的统计估 计，称为回归系数. 模型的数据结构 设数据对 是对 对变量对 的观测数据，则 称为一元样本回归方程，其中 且各 个 相互独立. ?模型参数 与 的最小二乘估计 参数估计的准则 定义（诸 回归到直线 时的误差平方和） 求 使得 称 为模型参数 的最小二乘估计，称 为因变量 的回归拟合值，简称回归值或拟 合值.称 为因变量 的残差. 记 则一元线性回归的数据模型为 这是一个不相容线性 方程组，当 时，其最小二乘解为 参数估计的算法 可以证明 并且 其中 ?回归方程的显著性检验 显著性检验的基本定理 定义 ─ 总偏差平方和，自由度 . ─ 回归平方和，自由度 . ─ 残差平方和，自由度 . 则有 ⑴ ⑵ 且 ⑶ 与 相互独立. 显著性检验的基本方法 ⑴ 方差分析（F检验） 检验假设 变量 对变量 不存在线性相关关系 （即 ）. 检验统计量及其分布 在 为真时， 与 相互独立， ，于是检验统计量 检验的显著性概率 决策准则 在显著性水平 下，当 时拒绝 ，即认为 回归方程有显著意义. ① 当 时，称回归方程高度显著，标记为**； ② 当 时，称回归方程显著，标记为*； ③ 当 时，称回归方程不显著，不做标记. 检验结果的报告（方差分析表） 方差来源 偏差平方和 自由度 F 值 p 值 显著性 回归 残差 总计 ⑵ 拟合程度测定 可决系数 （测定回归直线对各个观测点的拟合程度的 的统计量) 可决系数的解释