多核学习方法在分类问题中的应用研究.docVIP

兰州交通大学硕士学位论文 分类结果比较................................................................................................ 34 多核SVM在脑电图信号识别中的应用研究.......................................................... 36 数据的选取和预处理.................................................................................... 37 分类结果比较................................................................................................ 37 小结........................................................................................................................... 39 结 论.................................................................................................................................. 40 致 谢.................................................................................................................................. 41 参考文献.................................................................................................................................. 42 攻读学位期间的研究成果...................................................................................................... 46 - V - 万方数据 万方数据 兰州交通大学硕士学位论文 1 绪论 人们对核学习方法的关注，归功于SVM理论的发展和应用，核函数的使用使原本只 能解决线性问题的SVM很容易解决非线性的优化问题[1]。其核心在于利用相对简单得多 的核函数进行训练，既避免了特征空间本身的设计，又避免了特征空间中复杂的内积运 算。尽管核学习方法在众多的工程应用领域中具有有效性和实用性，但这些方法都是基 于单个核函数的单核学习方法。由于在SVM的运算中，不同的核函数具有不同的特性， 从而使得其在不同的应用背景下，核函数的运算结果差别很大，且现阶段核函数的构造 或选择还没有完善的理论依据。 国内外研究现状 多核模型是一类比单核模型灵活性更强的学习模型，近年来，理论和应用已经证明 利用多核模型代替单核模型可以增强决策函数的可解释性，并可以获得比单核模型更好 的性能[2]。2002 年，Chapelle等人首次正式提出了多核学习方法的概念[3]，之后随着许 多专家学者的深入研究，多核SVM已成为国外极为活跃的研究领域，继而出现了许多种 多核SVM的改进算法模型。如在 2002 年，Bennett等人提出的基于Boosting的多核组合 模型学习方法[4]；以及之后Ong等人提出的基于超核的多核学习方法[5]；在 2004 年，Bach 等人提出的基于QCQP(Quadratically Constrained Quadratic Program,二次约束型二次规划) 的多核学习方法[6]；2004 年，Lanchriet等人提出的基于SDP(Semi-Definite Programming, 半定规划)的多核学习方法[7]；2006 年，Sonnenburg等人提出的基于SILP的多核学习方法 [8]，以及 2008 年学者提出的单纯型多核学习方法[9]。其中，基于SILP的多核SVM算法在 大尺度分类问题的应用中得到了很好的分类效果，也是本文重点研究的多核SVM算法。 国内对多核学习方法的研究相对较晚。2008 年，黎铭、周志华提出了一种基于多核 集成 的在线半监督的学习方法[10]。之后，牟少敏等人提出了一种基于协同聚类的多核学 习方法[11]。2010 年