基于最小一乘的一元线性模型中回归系数的一个置信区间及其应用.pdfVIP

134 中国现场统计研究会第卜三届学术年会论文 2007年8月 基于最小一乘的一元线性模型中回归系数的 一个置信区间及其应用 陈秋华，魏军强 (华北电力大学数理系，北京102206) 摘要：本文讨论了一元线性【口I归模型中回归系数的估计量及其置信区间问题。在熟悉的最小二乘估 计量及其相应的置信区间的基础上，将渐近正态性方法和Bahadur渐近表示及核密度估计方法结合起 来，用最小一乘法得到【叫归系数的另一个置信区间。在相同的置信水平下，通过实例比较丫这两个置 信区间的长度，发现在某些问题中，利用后者得出的置信区间精度较高。 关键词：一元线性模型；置信区间；最小一乘法；核密度估计 中图分类号：0212 文献标识码：A l引言 回归分析是研究变量之间函数关系的一类方法，在许多学科领域具有广泛的应用。其 思想比较简单，基于观测数据建立变量之间适当的依赖关系，揭示数据的内在规律，而 其中最简单又常用的当属一元线性回归模型 Y=a+bx+e (1) 这里a，b称为模型的回归参数，b为同归系数，它表示当X增加一个单位时相应的Y的 增量。误差e独立同分布，均值为0，方差盯2未知。对于回归参数的估计，比较常见的 是使用最小二乘法得到a，b的无偏估计以及相应的置信区间。设a，b的估计量分别为 a．b，则可得回归方程为Y=a+bx+e。 虽然最小二乘法理论上较为完善，应用中深入人心，但是该方法也存在一些缺陷， 比如观测数据比较少或者数据中夹杂异常点时，它的稳健性较差。这时，我们可以考虑 引进一个变通途径，如使用最小一乘法求参数的估计量。该方法看起来很简单，但是求 出估计量的表达式却非易事。关于这个问题引发了许多讨论，也得到了一些近似表示。 Bahadur表示就是其中的一种[1][2]。长期以来，许多统计学家和学者不断地发展 Bahadur表示在线性模型中的理论和应用，不过他们更重视理论的完善，而将Bahadur 表示进行实际应用和计算却很少。本文将渐近正态性方法和Bahadur渐近表示及核密度 估计方法结合起来，使用最小一乘法得到一元线性回归模型中回归系数的置信区间，并 通过例子说明该方法在一定条件下的优越性。 2基于最小一乘的回归系数的一个置信区间及其算法 首先给出回归系数b的一个置信区间。 由于文献[2]得到了Bahadur表示在更一般条件下的表示式，为一般起见，这里采用 文献[2]所得到的Bahadur渐近表示，利用渐近正态性方法可得b的一个置信区间。 ^ 在模型(1)下，引入b的最小一乘估计量b，即极小化绝对残差和： 中国现场统计研究会第1。三届学术年会论文 2007年8月 135 (郇)硼哮喜[y。-a-虹 由文献[2]，我们有如下的Bahadur渐近表示： (2) 占一6：(2厂(o)Q)一一窆s咖(e，弦，+o((主川3／玎)…(1。gl。g刀／疗)，，·) 其中Q=∑t2，即样本平方和， i=l J P，)2 Jign(P，)：{三qt曼，厂是误差P的分布密度，D(．)表示．的高阶无穷小， 1孑，：，≤o’厂是误差P的分布密度，D(’)表示·的高阶无穷小’ 3 且当，?专∞时， D X ／ 胛 2 O 0胛 挖 3 4 专 O ，L ／L 。∑闽 、， ，●、 g g 、， 、， 下面采用渐近正态性方法求b的置信区间。记鲁=sign(e。)x，，则{毒，)是一个独立随机