概率统计课件：7-1 一元线性回归.pptVIP

第7章 回归分析和方差分析 回归分析是描述数据处理方法的一门应用学科，是统计学者常用的工具，本章对回归分析的基础知识和应用作简单介绍。 7.1 一元线性回归 例1 为研究某一化学反应过程温度对产品得率的影响，测得观测数据如下: 解 先画出散点图. 计算有关数据 五.线性回归的方差分析(F 检验法) 平方和分解公式 这里第三项为0，第二项为残差平方和，第一项为回归平方和. 对检验问题 则拒绝域 设显著性水平 取检验统计量 六.利用回归方程进行预报(预测) 1.点预报 对给定的 x = x0 ,利用回归方程 可以作出Y的点预报值 2.区间预报 设 x = x0 时,Y 的观测值 y0 点预报值 易证 89 85 78 74 70 66 61 54 51 45 得率Y /% 190 180 170 160 150 140 130 120 110 100 温度x/℃ 求Y关于x的回归方程u(x)，并进行有关检验和预报. 大致呈线性关系，即有关系 u(x)=a+bx 所以回归直线方程为 或者为 (1) 回归系数与回归直线方程 回归系数 * 变量之间的关系大致可分为两大类: 1.确定性的关系:可以用精确的函数关系来表达。例如矩形面积S与边长a,b的关系。 2.非确定性的关系:变量之间既互相联系但又不是完全确定的关系，称为相关关系。例如人的身高与体重、农作物产量与降雨量等的关系。 从数量的角度去研究这种非确定性的关系，是数理统计的一个任务. 包括通过观察和试验数据去判断变量之间有无关系，对其关系大小作数量上的估计、推断和预测,等等. 回归分析就是研究相关关系的一种重要的数理统计方法. 只有两个变量的回归分析, 称为一元回归分析; 超过两个变量时称为多元回归分析. 一、一元正态线性回归模型 变量之间成线性关系时, 称为线性回归, 变量间不具有线性关系时, 称为非线性回归. 设随机变量Y，对于x的每一个值, Y 均有自己的分布 .若EY 存在，则它一定是x的函数，记为 u(x)，其值可通过样本进行估计，对于x的一组值xi (i=1,…,n)，作独立试验，对Y 得出n个观测结果yi (i=1,…,n) ，即有n次独立观察, 得样本观测值： 我们要解决的问题是:如何利用这些样本观测值来估计u(x).当然，首先要推测其形式，一般可以作出散点图，从中可粗略看出 y与x的关系. (x1,y1) , (x2,y2) ,… , (xn,yn) 其中a 和 b是未知常数, ε表示其它随机因素的影响. y = a + b x +ε 若y和x之间大体上呈现线性关系, 可假定 通常假定ε服从正态分布N(0,σ2), 即 其中 为未知参数. 称 y = a + b x +ε, ε ～N(0,σ2 ) (1) 为一元线性回归模型. 由(1)得 E(y)=a+bx 称（2）为 y 关于 x 的一元线性回归方程 . 用E(y)作为y 的估计 得 模型(1)中的变量x , y进行n次独立观察, 得样本观测值： (x1,y1) ,… , (xn,yn) （3） 由此样本得方程组： 这里εi 是第 i 次观察时的随机误差，它是不可观察的随机变量. (4)式和(5)式结合，给出了样本(x1,y1),…,(xn,yn) 的概率性质. 它是对理论模型进行统计分析推断的依据. 也常称(4)+(5)为一元线性回归模型.即 由于各次观察独立，故有 由于方程(6)的建立依赖于通过观察或试验取得的数据, 故又称其为经验回归方程或经验公式. 回归分析的任务是利用n组独立观察数据(x1,y1),…,(xn,yn)来估计a和b, 以估计值 和 分别代替(2)式中的a和b, 得回归方程 问题：如何利用n组独立观察数据来估计a和b？ 称为未知参数 a,b 的回归系数. 二、最小二乘法估计 首先举例说明最小二乘法的思想： 假设为了估计某物体的重量, 对它进行了n次称量, 因称量有误差, 故n次称量结果x1, x2,…,xn有差异, 现在用数 去估计该物体的重量, 则它与上述n次称量结果的偏差的平方和为: 估计原则: 用这种方法作出的估计叫最小二乘估计. 最小二乘法认为, 一个好的估计 , 应使这个平方和尽可能地小. 寻找一个使上述平方和达到最小的 ，作为这个物体重量的估计值, 这种方法称为最小二乘法. 对(x,y)作n次观察(