第八章线性回归.PDF

第八章 线性回归 上一章讨论的线性相关用于描述 两个随机变量X与Y之间线性联系的 程度，结论所反映的是它们相互之 间的关系，两变量并无主次之分。 •  随着所探索问题的深入，研究者通常更感 兴趣于其中的一个变量如何定量地影响另一 变量的取值，例如医学研究中常需要从某项 指标估算另一项指标，如果这指标分别是测 量变量X和Y，我们希望由X推算Y的值。  •  我们称X为 自变量，Y则称为依赖于X的因 变量。  •  如果Y与X的关系呈线性时，我们可以用 线性回归 （linear regression ）描述两者的 关系。 一. 回归的概念 二、线性回归的统计描述 三、回归系数的统计推断 四、线性回归的应用 五、线性回归的类型与条件 六、线性回归与相关的区别和联系 七. 应用线性回归的注意事项 一. 回归的概念 100多年前，有位英国遗传学家 (Galton) 注意到当父亲身高很高时，他的儿子的身高一 般不会比父亲身高更高。同样如果父亲很矮， 他的儿子也一般不会比父亲矮，而会向一般人 的均值靠拢。 当时这位英国遗传学家将这现象称为回 归，现在将这概念引伸到随机变量有向回归线 集中的趋势。 即观察值不是全落在回归线上，而 是散布在回归线周围。但离回归线越 近，观察值越多，偏离较远的观察值极 少，这种不完全呈函数关系，但又有一 定数量的关系的现象称回归。 185 180 175 170 165 160 155 145 155 165 175 185 二、线性回归的统计描述  （一）散点图：见图7-1。 （二）求线性回归的方程： m y | x  = a + bX  ˆ  Y = a + bX  式中a，b是决定回归直线的两个系数。 a为截距，b为回归系数，即直线的斜率。 b的统计学意义：X每增加(减)一个单位， Y平均改变b个单位。 怎样最好地代表所有的Y，需要有 个标准。 经典的标准是最小二乘(least squares)原则：即每个观察点距离回 归直线的纵向距离的平方和最小。  Â ( X - X )( Y - Y )  l xy  b =  = Â ( X - X ) 2  l xx  a = Y - b X  用例8.1，示范线性回归的计算过程： 已知：lxx 1859.2 lxy 1059.4  x = 168 . 8  y = 170 . 35  1059 . 4  b =  = 0 . 5698  1859 . 2  a = 170 . 35 - 0 . 5698 ¥ 168 . 8 = 74 . 17  ˆ  74.17+0.5698X  Y  （三）线性回归方程的图示：  三、回归系数的统计推断  （一）样本回归系数的假设检验 （t检验）： 1. 建立检验假设： H ： β 0，H ： β≠0，α 0.05 0 1 2. 计算统计量t：