删一交叉验证法对模型的选择-文档.docxVIP

删一交叉验证法对模型的选择 一、文献综述 进行多重线性回归分析时，在进行参数估计时常用最小二乘 法。 该方法在数据满足 GM( Gauss-Markov )定理时，保证了在线性无偏 估计类中的方差最小性。 如果进一步假设误差服从正态 分布，那么最小二乘法还具有更多更好的性质。但是，在实际应 用 中，许多应用实践表明，有些情况在运用最小二乘法时并不理 想，在 个别情况下可能很不好。自 20世纪50年代特别是60年 代以来，许多统计学家做了很多努力，试图改进最小二乘估计。 Stein于1955年证明了 ：当维数大于 2时，能够找到另外一个 估 计，它在某种意义下一致优于最小二乘估计。据此，在后来的