回归分析、.docVIP

第6章 回归分析1 6.1 回归分析的意义 回归分析是处理变量之间相关关系的数学工具，是数理统计的方法之一。它可以帮助人们从一组实验数据出发，分析变量间存在什么样的关系，建立这些变量间的回归方程；并且可以根据建立的经验公式，去预测实验结果，估计预测的精度；还可以进行因素分析，确定因素对实验结果是有显著影响还是无显著影响，从而建立更适用的回归方程。 在回归分析中，一元线性回归是最简单的，为了便于读者理解回归分析解决问题的思想和方法，在这一章里将对一元线性回归作较为详细的叙述，同时还介绍一元非线性回归、二元线性回归、逐步回归等问题。 6.2 一元线性回归及其Excel程序 6.2.1 问题的提出 现举一个实例来说明一元线性回归的问题。 例6-1 在硝酸钠(NaNO3)的溶解度试验中，测得不同温度x(℃)下硝酸钠溶解度y的值如下： xi 0 4 10 15 21 29 36 51 68 yi 66.7 71.0 76.3 80.6 85.7 92.9 99.4 113.6 125.1 试求它们之间的经验公式(回归方程)。 类似这样的问题，即当两个变量x与y之间存在着一定的关系，根据实验数据找出两者之间的关系式，这就是一元回归所要处理的问题。对于例6-1的实验数据，可将数据点(xi，yi)标在直角坐标系中，称为散点图，得图6-1。从散点图可直观地看出，各点分布情况接近一条直线。如果两个变量间的关系大致是一条直线，这类的一元回归就是一元线性回归。 6.2.2 一元线性回归方程的求法 设自变量x与变量y对应的测量值为 x x1 x2 … xi … xn y y1 y2 … yi … yn 如果变量间存在着线性关系，则可选用一条直线来表达二者的关系： (6.1) 其中表示y的估计值，这是因为用x的值按回归方程(6.1)来计算y，只能得到y的估计值，点一定在直线上，而点则不一定，那么怎样取(6.1)中的未知参数a与b，才能使得这个估计更理想呢？我们自然会想到，若测定值yi与估计值之差(残差)的绝对值都很小，我们认为是最理想的。当 (6.2) 最小时，则可满足这种情况。但这个公式中有绝对值记号，不便于进一步分析讨论，由于任何实数的平方也是正数或零，因此我们可以考虑如何使 (6.3) 达到最小。由式(6.1)知与yi对应的估计值(计算值)是: (6.4) 代入式(6.3)得 (6.5) 现在的问题是怎样求未知数a和b来保证QL最小。根据数学分析中的极值原理，要使QL达到极小值，只需对式(6.5)中的a、b分别求偏导数，并令它们都为零，即 (6.6) 整理方程组(6.6)得 (6.7) 由于xi不全相同，方程组(6.7)的系数行列式 不等于零，故方程组(6.7)有唯一的一组解，解得 式(6.9)可等价地写成 (6.10) 其中 于是式(6.10)可写成 (6.15) 由方程组(6.7)的第一个方程或式(6.8)可以导出 (6.16) 至此，我们可根据已知试验数据，按式(6.11)～(6.16)求出未知参数a和b，最后得回归方程(6.1)式。 上述求回归方程的方法通常称为最小二乘法，参数a称为常数项，b称为回归系数。对回归方程检验时，还要计算 (6.17) 6.2.3 回归方程的检验 由一组实验数据，根据上一小节讲述的最小二乘法，可求出回归直线方程。但人们要提出这样的问题，这个回归方程是