概率论与数理统计 第十一章.pptVIP

* * * * * * * * * * * * * 第十一章 回归分析 华东师范大学 * 第*页 第十一章 回归分析 §11.1 回归概念 §11.2 一元线性回归方程 §11.3 可线性化的回归方程 §11.4 多元线性回归方程 §11.1 回归概念归 十九世纪，英国生物学家兼统计学家高尔顿研究发现：父亲的身高x与成年儿子的身高y 满足： 确定性关系又称为函数关系。 例如：圆面积与圆半径 回归分析处理的是变量与变量间的关系。 变量间常见的关系有两类： 确定性关系 与 相关关系。 变量间的相关关系不能用完全确切的 函数形式表示，例如： 身高 与 体重 的关系； 收入 与 消费 的关系； 产量 与 施肥 的关系； …… 11.2 一元线性回归方程 设y与x间有相关关系，称x为自变量(控制变量)，y为因变量(响应变量)。相关关系可用下式表示 y =f (x)+ ? 其中?是随机误差，一般假设? ~N(0, ? 2)。 例 合金的强度y (×107Pa) 与合金中碳的含量x (%) 有关。为研究两个变量间的关系。首先是收集数据，我们把收集到的数据记为(xi,yi), i=1,2,?,n。本例中，我们收集到12组数据，列于表中 合金钢强度y与碳含量x的数据 序号 x(%) y (×107Pa) 序号 x(%) y (×107Pa) 1 0.10 42.0 7 0.16 49.0 2 0.11 43.0 8 0.17 53.0 3 0.12 45.0 9 0.18 50.0 4 0.13 45.0 10 0.20 55.0 5 0.14 45.0 11 0.21 55.0 6 0.15 47.5 12 0.23 60.0 为找出两个量间存在的回归函数的形式，可以画一张图：把每一对数(xi,yi)看成直角坐标系中的一个点，在图上画出n个点，称这张图为散点图，见图 从散点图我们发现12个点基本在一条直线附近，这说明两个变量之间有一个线性相关关系，这个相关关系可以表示为 y =?0+ ?1x+ ? 由于?0, ?1均未知，需要我们从收集到的数据(xi,yi)，i=1,2,…,n，出发进行估计。 回归系数的最小二乘估计 一般采用最小二乘方法估计?0, ?1 ：令 称满足 的 称为?0, ?1的最小二乘估计。 最小二乘估计可以通过求偏导数并令其为0而得到： 经过整理，可得 可得 这就是参数的最小二乘估计，其中 ?xi=1.90 n=12 ?yi=590.5 ?xi2=0.3194 ?xi yi =95.9250 ?yi2=29392.75 Sxx=0.0186 lxy=2.4292 Syy=335.2292 由此给出回归方程为: 例 使用上例合金钢强度和碳含量 数据，我们可求得回归方程，见下表. 回归方程的显著性检验 在使用回归方程作进一步的分析以前，首先应对回归方程是否有意义进行判断。 如果?1=0，那么不管x如何变化，这时求得的一元线性回归方程就没有意义，称回归方程不显著。如果?1?0，称回归方程是显著的。 对回归方程是否有意义作判断就是要作如下的检验： H0：?1=0 vs H1： ?1?0 拒绝H0表示回归方程是显著的。 相关检验 一元线性回归方程是反映二个随机变量x与y间的线性相关关系，所用的检验统计量为样本相关系数 拒绝域为W={?R??c}。 以上例中数据为例，可以计算得到 称 为决定系数。 上例中：R=0.9728，则 R2=0.9463， 这意味着：x 的变化，影响着y的95%的变化。 估计与预测 当回归方程经过检验是显著的，则可用来做估计和预测： 当x=x0时，寻求 y0=?0+ ?1 x0的点估计。 例 在上例中，如果x0=0.16，则得预测值为 §11.3 可线性化的回归方程