[课件]概率与统计 9.2 一元回归分析.ppt

回归分析 电子科技大学 §9.2 一元回归分析 一.一元线性回归模型 本节讨论回归函数是一元线性函数或可线性化函数的情况. 若回归函数是线性函数 其中b0 , b1 , …,bk是未知常数，称为线性回归问题. 若Y关于X 的回归函数为 Y=a+bx+?, ?~N(0, ?2) 有一元线性回归模型： 其中a、b、σ2为未知参数，且 a — 回归常数(又称截距) b — 回归系数(又称斜率) ? — 随机误差（随机扰动项） 若随机误差ε～N(0,σ2), 称为一元线性正态回归模型. 取定自变量X 的一组值：x1, x2, …, xn, 对Y 做 n 次独立观察(试验), 试验结果记为 Y1，Y2, …,Yn 则有 Yi =a + bxi + ?i, i= 1,...,n 由自变量X确定的成分 εi 是第 i 次观察时的随机误差，有两条回归假定： 2) ?1 ,..., ?n -1 , ?n 相互独立. 等方差假定 1) E(?i)=0， D(?i)= ?2，i=1,2，…，n； 对自变量X的一组值x1, x2, …,xn 做n次独立试验，得独立观察值y1, y2, …,yn . 问题 如何依据观察值 （xi，yi), i=1，2，…， n. 求a、b 的估计值 根据样本值估计模型参数. 二.一元线性回归模型的参数估计 需要对模型中的参数a、b、σ2 进行估计. 对所有的i，应使偏差 都尽可能小, 有三种思路： yi 的估计值 称为回归值. 1) 使误差总和 最小； 2) 使误差绝对值之和 最小； 缺点：可能正负误差抵消 缺点：数学处理困难 3) 使误差的平方和 最小. 结论 应选a、b的估计使离差(误差)平方和： 达最小. 应用最小二乘法 分别对a,b求一阶偏导， 并建立方程组： 或 称为正规方程组，由克莱姆法则，解得： 其中 由回归假定 ?i，i=1,2，…，相互独立， E(?i)=0， D(?i)= ?2，i=1,2，…，n； 且σ2=D(ε)=E(ε2)，故 是σ2的矩估计量. 可证明σ2的无偏估计量为 代入 ，得 其中 例9.2.1 流经某地区的降雨量X和该地河流的径流量Y 的观察值如下表， 降雨量xi: 110 184 145 122 165 143 78 径流量yi: 25 81 36 33 70 54 20 129 62 130 168 1436(∑） 44 1.41 41 75 480.4（∑） 求Y关于X的(经验)线性回归方程,试估计降 雨量为200时径流量为多少？ 解 n=11, 所求经验回归方程为 降雨量为200时的径流量值为 随机误差的方差σ2的估计为 =（6050.59-0.632×13768.7）/11=53.25 随机变量Y与X间是否存在线性相关关系？ 问题 形式地估计回归系数和回归常数, 并建立经验线性回归方程无实际意义. 续 例9.1.1 身高体重关系 身高h 和体重m无明显的线性相关关系. 相关系数法是基于试验数据检验随机变量间线性相关关系是否显著的一种方法. 三. 一元线性回归的假设检验（相关系数法） 相关系数 是表征随机变量Y与X的线性相关程度的数字特征. 样本相关系数： 作为ρXY的估计值. 1) 当R = 0 经验回归方程形为 说明自变量X的变化不会引起因变量Y的变化(不相关). 有︱R︱≤1 ，统计值R也描述了X与Y 间的线性相关关系的密切程度. 2）︱R︱=1 可认为X与Y间存在线性相关关系. 结论 1）︱R︱越接近于1，X与Y间的线性相关关系越显著； 2）︱R︱越靠近于0，X与Y间的线性相关关系越不显著. 判别准则 给定显著性水平α（0.05，0.01） 当︱R ︱ ＞Rα(n-2), 认为X与Y之间的线性相关关系显著 根据P306附表6 相关系数临界值表，有 当︱R︱≤Rα(n-2), 认为X与Y之间的线性相关关系不显著 例9.2.2(续前例)利用相关系数显著性检验法，检验降雨量X和径流量Y的线性相关关系是否显著. 解 X与Y的样本相关系数为 查表得 Rα(n－2) =R0