【精选】第9.2节 回归分析原理——概率论与数理统计(李长青版).pptVIP

* 第 九 章 方差分析与回归分析 第二节 回归分析原理 一个过程中多个变量之间的关系分为两类： 确定性关系是指当一些变量的值确定以后另一 相关关系是指变量之间有一定的依赖关系，但 确定性关系 也就是通常所说的函数关系； 非确定性关系 即所谓的相关关系。 些变量的值也随之完全确定的关系。 当一些变量的值确定以后，另一些变量的值虽随之 变化却并不能完全确定，这时变量间的关系不能精 确地用函数来表示。 回归分析是数理统计中研究一个响应变量与若干 回归分析的任务主要有三个： (1) 给出建立具有相关关系的变量之间的数学关 个预报变量之间相关关系的一种有效方法； 一个预报变量的回归分析称为一元回归分析， 个预报变量的回归分析称为多元回归分析。 系式（通常称为经验公式）的一般方法； (2) 判别所建立的经验公式是否有效；判别哪些 预报变量对响应变量的影响是显著的，哪些 是不显著的； (3)利用所得到的经验公式进行预测和控制。 其中只有 多于一 一、一元线性回归模型 当随机变量 Y 与普通变量 x 之间有线性关系时 , 可假设 …… …… （1） 其中a, b, σ2 为不依赖于x的未知参数, 上式称为一元 线性回归模型, 简称一元线性模型. 此时有 称 Y 的期望 为Y 关于 x 的线性回归函数, a, b为回归系数, x 为回归 变量. Y 与 x 间有线性相 当 Y 与 x 间满足这种关系时, 关关系. 设 是取自总体 的一组样本， 而 是该样本 的观察值. 则有 其中 相互独立. 回归分析就是根据样本观察值寻求 a, b的估计 对于给定 x 值, 取 作为 的估计. …… …… （2） 方程(2)称为 Y 关于 x 的线 性回归方程或经验公式, 其图形称为回归直线, 称为 回归系数. 二、参数的估计 对于样本观测值 记 为了研究变量 x 与 y 之间的线性关系, 考察由 所作的散点图与直线 的偏离程度. 令 是点 则 到直线 的距 离的平方和, 称其为偏差平方和. 显然, 偏差平方和 越小的直线, 越能较好地反映变量 x 与 y 之间的 关系. 因此, 问题归结为求参数 b, a 的估计估计值 越小的直线, 越能较好地反映变量 x 与 y 之间的 关系. 因此, 问题归结为求参数 b, a 的估计估计值 使得 取得最小值, 即 满足 满足上式的 称为 a, b 的最小二乘估计, 可用微分 法求得. 将Q(a,b)对a, b 求偏导并令偏导数为零 由此可得规范方程为 其中 解此方程组得 由此可得规范方程为 其中 记 解此方程组得 记 而回归方程为 而 的计算公式为 例1 某种物质在不同温度下可吸附另一种物质, 如 果温度 x (单位:℃)与吸附重量 y (单位:)的观测值如下 表所示: 重量 温度 4.8 5.7 7.0 8.3 10.9 12.4 13.1 13.6 15.3 1.5 1.8 2.4 3.0 3.5 3.9 4.4 4.8 5.0 试求吸附重量 y 和温度 x 的回归方程. 解 直接计算可得 解 直接计算可得 所求的回归方程为 二、回归方程的有效性检验 当且仅当a≠0 时，变量Y与 x 之间存在线性相关关系, 为了检验Y与 x 之间的线性相关的显著性，应当检验 检验原假设 H0：a = 0 是否成立。 若拒绝H0，则认为Y与 x 之间存在线性关系，所求得 得线性回归方程有意义；若接受H0，则认为Y与 x 的 关系不能用一元线性回归模型来表示，所求得的线性 回归方程无意义。 方差分析法（F—检验法） 考察样本y1,y2,……yn的偏差平方和，或称总平方和 注意到 及 对上式中的 交叉项 ，有 注意到 及 它反映了观测值偏离回归直线的程度，这种偏离是 由此得平方和分解公式如下： 其中 由于观测误差等随机因素引起的. 回归平方和反映回归值的分散度，这种分散是 由于Y与x之间得线性相关关系引起的； Q剩与Q回的比值反映了这种线性相关关系与随机 因素对 y 的影响的大小；比值越大，线性相关性越强. 回归平方和 ………… * * *