论最小二乘法回归分析中的几个问题.pdfVIP

论最小二乘法回归分析中的几个问题 　　回归分析方法是常用的数理统计方法，它用来处理变量之间的 相关关系，在科学研究、工程技术等各个领域均有广泛的应用。由于 回归分析是通过试验数据研究变量之间的相关关系，故使用此方法时， 需要判断相关关系是否密切（对回归方程进行显著性检验）。水文计 算的一些文献[１][ ２]中，指出相关系数的绝对值｜ｒ｜＞０．８作 为判别标准，而没有明确使用此标准的前提。另外，使用最小二乘估 计，有时尽管回归方程显著，但回归方程中回归系数的符号与实际问 题不符，即回归系数出现错误符号，显然这种情况下的回归方程是不 能使用的。本文针对相关系数的绝对值｜ｒ｜＞０．８判别标准的来 历以及回归系数错误符号的原因分析等进行论述，以期达到回归方法 的正确使用。 　　１　相关系数临界值０．８的来历 　　水文上，常用０．８作为判别相关关系是否密切的监界值。例 如文献[１][ ２]中均提到相关系数绝对值｜ｒ｜＞０．８时，认为相 关密切。事实上，这一标准是针对一元线性回归观察值组数ｎ≥１０ 时的一种简便的判别方法，不具有普遍意义。若忽略了ｎ≥１０这一 条件，则可能会导致错误的结论。关于这一点可以从相关系数显著性 检验制成的相关系数临界值表中容易得到解释。 　　对于多元线性回归，Ｆ检验法的统计量Ｆ和复相关系数Ｒ分别 为[３]： 　　 　　式中　ｎ——观测数据组数 　　　ｍ—— 自变量个数 　　　ｕ——回归平方和 　　　Ｑ——残差平方和 　　设显著性水平为ａ、自由度为（ｍ，ｎ－ｍ－１）的Ｆ检验法 的临界值为：Ｆａ（ｍ，ｎ－ｍ－１），并简记为Ｆａ，利用式（１）（２） 可以导出Ｆ≥Ｆａ等价于： 　　 　　时相关系数灵敏检验法的临界值，以下简记为Ｒａ。 　　当Ｒ≥Ｒａ时，线性回归方程显著。 　　对于一元线性回归，令Ｒａ（ｎ－２）＝ｒａ，简单线性相关 系数ｒ２＝ｕ／（Ｑ＋ｕ），｜ｒ｜＝Ｒ，当｜ｒ｜≥ｒａ时，线性 回归方程显著。 　　对于Ｒａ已制成相关系数检验临界值表 [３，４]。以一元线性 回归为便，由此表可得表１中的数据。 　　 　　可见，当ａ＝０．０１，ｎ＝１０，｜ｒ｜≥０．７６５≈０．８， 回归方程效果显著。 　　由上表可知，当ａ＝０．０１，ｎ≥１０时，｜ｒ｜＞０．８＞ｒ ａ。即ｎ＞１０时，ｒａ＜０．８。在水文计算中回归分析用于插补 延长系列，从避免有较大误差提高设计成果精度的角度，将ｎ≥１０ 时｜ｒ｜＞０．８作为相关密切的简易判别标准。但绝不能不问ｎ等 于多少，而笼统地认为只要｜ｒ｜＞０．８，则相关密切。 　　同时，还应注意，相同ａ相关系数临界值Ｒａ将随自变量个数 ｍ的增大而增大。便如对于三元线性回归，当ｎ＝１０时，由文献[４] 中相关系数临界值表可查得ａ＝０．０１时，Ｒ０．０１＝０．９１１。 切忌不分具体情况，一概而论，盲目使用｜ｒ｜＞０．８的判别标准。 　　２　回归系数错误符号的原因及分析方法 　　为讨论方便，需引进一般多元线性回归模型 　　 　　　　通常称Ｘ为多元回归模型的设计阵。 　　最小二乘原则确定回归系数具有良好的性质，例如当假设ε～ Ｎ（０，σ２）时，可对回归方程进行显著性检验，经验回归系数是 理论回归系数的无偏估计量等。但最小二乘估计有时会出现某些自 量的回归系数的符号与实际问题不符的不合理现象，以下实例就说明 了这一点。 　　某承压水漏斗区漏斗中心历年最低水位、历年开采量资料见表 ２。漏斗中心最低水位出现在每年６月底、７月初。利用水均衡方程 分析表明，影响第ｔ＋１年漏斗中心最低水位的主要因素为第ｔ年漏 斗中心最低水位和第ｔ年漏斗区开采量。根据１９７６～１９９５年 数据建立线性回归方程为： 　　ｈ（ｔ＋１）＝０．８９６３ ｈ（ｔ）＋０．０１５０ Ｑ（ｔ）－ ９．３９５２　（５） 　　式中ｈ（ｔ）、ｈ（ｔ＋１）分别为第ｔ年、第ｔ＋１年漏斗 中心年最低水位ｍ； Ｑ（ｔ）为第ｔ年年开采量，１０６ｍ３。 　　从物理成因上分析容易得出，开采量对漏斗中心最低水位的影 响为负相关，即开采量越大，漏斗中心水位越低，但回归方程中Ｑ（ｔ） 的系数却为正值，显然是不合理的。尽管式（５）经过显著性检验回 归效果显著（复相关系数Ｒ＝０．９６９，相关系数临界值Ｒ０．０１ ＝０．６６２），但这样的模型是不符合实际的。 　　 　　为什么回归系数会出现错误符号理论分析[５]和实践均表明， 当设计阵Ｘ接近奇异时，正规方程组的唯一解虽然存在，但最小二乘