基于EM算法的光滑参数选择.pdfVIP

第 3l卷第8期 重庆工商大学学报(自然科学版) 2014年 8月 VolI31 NO．8 JChongqingTechnolBusinessUniv．(NatSciEd) Aug．21314 文章编号：1672-058X(2014)08-0057-05 基于EM算法的光滑参数选择 吉口文人 超l丑 (重庆大学 数学与统计学院，重庆 401331) 摘 要：在非参数建模中，可以通过最小化均方误差 (meansquarederror)来优化光滑参数A，即需要刻 画出均方误差随A的变化趋势，进而使均方误差最小的A值即为最优的估计值，但在实际应用中并不知道 回归函数的显示表达式，因此方法具有一定的局限性；通过样条回归模型与混合效应模型之间的关系，结合 极大似然理论与EM算法去优化光滑参数A。 关键词：光滑参数；混合效应模型；极大似然估计；EM算法 中图分类号：TP417 文献标志码 ：A 1 概 述 惩罚样条估计在研究非参数建模问题时提出，Silverman(1986)指出，样条光滑方法能够提供一个 自然 地 (natura1)和灵活的(flexible)曲线估计。Eilers，Marx(1996)进一步推广了样条估计法并且讨论了惩罚项 的选择以及如何保持估计方法的稳定性。样条方法在非参数建模中占有很重要的地位 (Thomas，2003， eta1．)，如式(1)所示，在基于样条基方法的建模中，光滑参数的选择直接影响函数估计的优劣，然而，相对与 简单的参数拟合法，经典的样条方法易产生函数曲线过度拟合 (overfitting)现象。一般地，可以通过最小化 式 (1)得到回归函数m()的估计值 m()。 1 b n—∑{Y—m(x)}+AI{m”()}dx (1) i=—1 J。 式 (1)中，光滑参数主要调节m ()的偏差和方差，在保证不过度拟合的情况下取得最优的拟合效果，因此， 如何选择光滑参数A成为散点图光滑的一个重要问题。Thomas(2003)对比了传统准则与 RECP法，EDS法 在不同情形下的表现，并通过模拟表明，在大样本情形下，RECP法和EDS法的表现要更优越一些，Ruppert eta1．(2003)比较了基于 REML法和 ML法下的光滑参数值对曲线拟合的影响，并指出在小样本情形下 REML法要优于ML法，但是随着样本容量的增加，两者的差异会而逐渐消除，Kauermann(2005)研究了基于 REML，MSE和Cp准则的光滑参数的渐进性质，并且在有限样本下对它们的表现做了对比，Welham(2007) 研究了异方差情况下光滑参数的估计问题，Gijbels(2010)通过分解帽子矩阵，得出了基于AIC准则的：滑参 数的显示表达式，并且推广到了非正态情形，取得了良好的拟合效果。然而正如 Kauermann(2005)指出的， 收稿 日期：2013-09—12；修回日期：2014—03—25． 作者简介：吉文超 (1988．)，男 ，河南郑州人 ，硕士研究生 ，从事非参数建模研究 58 重庆工商大学学报(自然科学版) 第31卷 基于REML准则的光滑参数选择方法，易产生欠光滑(undersmoothing)的拟合效果，并且会随着样本量的增 大而增强。基于此，结合 REML方法与EM算法对光滑参数进一步优化，以期最小化光滑参数估计值对函数 拟合的影响，从而得到最优的拟合效果。 2 光滑参数优化算法 2．1 REML方法 首先从模型Y=m()+占中随机抽取 对数据 ，Y} ，其中m(x)是未知的光滑回归函数， 独立同 分布，即服从正态分布N(O，-O)且Cov()= ，，or是常数。关于散点图光滑的方法有很多，Ruppe~(2003) 详细介绍了基于多种样条基的散点图光滑方法，如 TPFbases，B—spline