数理统计 第五章 回归分析.ppt

电子教案系列 理学院 数学系 在现实问题中处于同一个过程中的一些变量往往是相互依赖和相互制约的，它们之间的相互关系大致可分为两种： 第五章 回归分析 (1) 确定性关系——函数关系．在初等数学和微积分学中见过很多这种关系． (2) 非确定性关系——相关关系．这种关系表现为这些变量之间有一定的依赖关系，但这种关系并不完全确定，它们之间的关系不能精确地用函数表示，这些变量其实是随机变量或至少其中有一个是随机变量．例如 人的血压X与年龄x 的关系，一般说人的年龄愈大血压就 高，但是年龄相同者，血压未必相同； 纺织厂纺出来的细纱，其强力X与原棉的纤维长度x1、纤维的细度x2、纤维的强力x3有关系．但是x1 、 x2 、 x3取相同的一组数值时，细纱的强力X却可取不同数值． 研究一个随机变量与一个(或几个) 变量之间的相关关系的统计方法称为回归分析．只有一个自变量的回归分析叫做一元回归分析。多于一个自变量的回归分析叫做多元回归分析． 回归分析主要包括三方面内容： (1) 提供建立有相关关系的变量之间的数学关系式(通常称之为经验公式)的一般方法； (2) 判别所建立的经验公式是否有效，并从影响随机变量的诸变量中判别哪些变量的影响是显著的，哪些是不显著的； (3) 利用所得到的经验公式进行预测和控制． 一部分是由于x的变化引起的y的线性变化部分，记为a+bx， 产量x(千件) 成本y(千元) §5.1 一元线性回归 例1 某工厂在分析产量与成本关系时，选取10个生产小组作样本，收得数据下如表： 185 190 165 175 162 150 160 152 140 150 140 120 100 88 79 65 55 48 42 40 需要了解y与x之间的关系，这里x是自变量. y是随机变量. 把每对观测值(xi , yi)(i＝1，2，…，10)看成是平面直角坐标系中的点．并描出相应的点 . 这个图称为散点图 . 由散点图，可以观察散点的分布规律， 这些散点分布在一条直线附近，但不全在一条直线上。 因此可以认为y 与x 之间的关系由两部分组成, 另一部分是由其它一切随机因素引起的，记为e ，即 40 100 60 120 140 80 170 150 190 . . . . . . . . . . x y y = a + bx + e 其中a , b 是与x 无关的未知参数, e 是不可观测的随机变量, 且假定E e = 0, D e = s2 ( 未知). 称Ey = a + bx =m (x)为y 关于x 的回归函数，它在平均意义上表明y 与x 之间的一种统计关系. 为了对参数作区间估计与假设检验，通常假定 y ~N(a+bx, s 2) 于是，有 其中a, b, s 2是与x无关的未知参数. 称之为一元线性回归模型. 称 为一元线性理论回归方程, 要确定y与x之间的内在 ，只要确定a, b 的值 即可. 为此，对x 的一组不完全相同的值x1,x2,… ,xn作独立试 验，得随机变量y 的相应观测值y1 , y2 , …, yn . 从而一元线性回归模型又可写为: 在一元线性回归分析中，需要讨论以下三个问题: (1) 如何由样本(xi ，yi) (i＝1,2,…,n)求出a, b, s 2的估计 ，并建立方程 称之为y 关于x 的一元线性经验回归方程，也简称为一元 线性回归方程. 称为回归系数。 (2) 如何对所建立的回归方程进行可信度检验. (3) 若回归方程是可信的，如何用它进行预测和控制. 二、未知参数的估计 1. a , b 的最小二乘估计 现在我们用最小二乘法来估计未知参数a , b ，记 选择a ,b 的估计 , 使得 以上是一元线性回归的最小二乘法参数估计,简称为LS估计