基于结构风险最小化的加权偏最小二乘法.docVIP

基于结构风险最小化的加权偏最小二乘法 　　摘要：为了在偏最小二乘法(PLS)建模过程中实现结构风险最小化(SRM)，提出基于结构风险最小化的加权偏最小二乘法(WPLS)。WPLS先提取训练样本中的主元，然后使用支持向量机(SVM)训练算法计算训练样本权值，最后计算原始论域中的回归模型。该算法保留了PLS能有效地提取对系统解释性最强的信息的优点，并通过样本权值提高模型的泛化能力，从而实现SRM准则，所建立的模型具有可解释性。仿真计算证明了模型的有效性。 　　关键词：结构风险最小化；加权偏最小二乘法；支持向量机；可解释性 　　中图分类号：TP18;TP273.4文献标识码：A 　　文章编号：1001-9081(2007)04-0939-03 　　 　　0引言 　　 　　从观测数据中学习归纳出系统规律，并利用这些规律对未来数据或无法观测到的数据进行预测，这一直是智能系统研究的重点。传统的数据驱动的研究方法尽管可以得到小的训练误差，但对未经训练的新数据，其泛化能力较差，存在过学习问题。原因在于传统学习方法是基于经验风险最小化准则(EmpiricalRiskMinimization,ERM)的。根据统计学习理论[1,2]，为了控制泛化能力，需要控制两个因素，即经验风险值和置信范围值。ERM准则只强调了经验风险最小(训练误差)，没有最小化置信范围值，因此基于ERM准则的学习方法