大连理工工程数学 课件 赵文茹 概率与统计 统计 第六章回归分析与.pptVIP

尚辅网 尚辅网 第六章 回归分析与方差分析 本章问题引入： 回归分析与方差分析是数理统计的两个重要分支。在解决实际问题中，它们有着非常重要的用途。本章着重介绍一元线性回归分析的数学模型和解决问题的方法，而把二元线性回归分析和方差分析作为选学内容。 第六章 回归分析与方差分析 6.1? 回归分析 ※6.2 二元线性回归分析 ※6.3 方差分析 回归分析（Regression Analysis） “回归”（英文“regression”）最初是由英国著名生物学家兼统计学家高尔顿（Galton）在研究人类遗传问题时提出来的。 为了研究父代与子代身高的关系，高尔顿搜集了1078对父亲及其儿子的身高数据。他发现这些数据的散点图大致呈直线状态，也就是说，总的趋势是父亲的身高增加时，儿子的身高也倾向于增加。但是，高尔顿对试验数据进行了深入的分析，发现了一个很有趣的现象—回归效应。因为当父亲高于平均身高时，他们的儿子身高比他更高的概率要小于比他更矮的概率；父亲矮于平均身高时，他们的儿子身高比他更矮的概率要小于比他更高的概率。它反映了一个规律，即这两种身高父亲的儿子的身高，有向他们父辈的平均身高回归的趋势。对于这个一般结论的解释是：大自然具有一种约束力，使人类身高的分布相对稳定而不产生两极分化，这就是所谓的回归效应。高尔顿依试验数据还推算出儿子身高(Y)与父亲身高(X)的关系式：Y=a+bX 它代表的是一条直线称为回归直线，并把相应的统计分析称为回归分析。但是，上式仅反映了变量相关关系的一种特殊情况，对于更多的相关关系，特别是涉及多个变量的情况，并非如此。将对应的相关分析，都称为回归分析，不一定恰当。可是，这个词却一直沿用下来。 总而言之，回归分析（Regression Analysis）是研究一个变量与其它若干变量之间相关关系的一种数学工具，它是在一组试验或观测数据的基础上，寻找被随机性掩盖了的变量之间的依存关系。粗略地讲，可以理解为用一种确定的函数关系去近似代替比较复杂的相关关系，这个函数称为回归函数，在实际问题中称为经验公式。回归分析所研究的主要问题就是如何利用变量的观察值（样本），对回归函数进行统计推断，包括对它进行估计及检验与它有关的假设等。 6.1 .1 一元线性回归分析 1.一元线性回归分析模型 设变量x和Y之间存在着相关关系，其中x是可以精确测量或可控制的变量（非随机变量），Y是一个随机变量。假定Y和x存在着线性相关关系。 先看下面一个例子。 【例1】考察某种化工原料在水中的溶解度与温度的关系，共作了9组试验。其数据如表6-1所示，其中表示Y溶解度，表示x温度。 画出散点图，见图6-1,这些点虽然是散乱的，但大体上散布在某条直线Y=a+bx的周围，即是说温度x与溶解度Y之间大致呈现线性关系 ： 其中 不是Y的实际值y，是估计值。 一般地，用线性函数 a+bx来估计 Y的数学期望的问题，称为一元线性回归问题。称方程 为Y的关于x的线性回归方程，称斜率 b为回归系数。对于 x的每个值，设 或 其中 是与x无关的常数。 下面看怎样确定 a和b ，使直线总的看来最靠近这几个点。 2. 最小二乘法估计 在一次试验中，取得 n对数据 ，其中 是随机变量 y对应于的观察值。我们所要求的直线应该是使所有 之和最小的一条直线， 其中 。由于绝对值在处理上比较麻烦，所以用平方和来代替，即要求 a,b的值使 最小。令 为离差平方和 为了使得Q取得最小值，将Q分别对a和b求偏导数，并令它们等于零，得 或者写成 （6-1-5） 由于 则（6-1-5）式可以写作 所得方程组（6-1-8）称为正规方程组 。 因为 不完全相同，所以方程组（6-1-8）的系数行列式 故方程组（6-1-8）有唯一的一组解 (6-1-9) 记