大间隔分类学习探究现状.docVIP

大间隔分类学习探究现状 　　摘要：在机器学习领域中，间隔扮演着重要的角色。可以用来度量分类的置信度；其理论泛化界也可用于指导分类算法的设计。近年来，该理论已广泛应用于特征选择，分类器训练和集成学习。实际上，间隔思想表明如果在训练阶段模型能够产生大的间隔，那么分类任务将有好的置信度和高可靠性。文中介绍大间隔分类学习方法的研究现状， 并给出了其存在的问题。 关键词：间隔； 分类学习； 机器学习 中图分类号：TP39141 文献标识码：A文章编号：2095-2163（2013）06-0044-04 0引言 在机器学习领域中，间隔扮演着重要的角色，可以用来度量分类器的置信度而其理论泛化界也可用于指导分类算法的设计。该理论已经广泛应用于特征选择、分类器构建、集成学习等领域。间隔的概念由Vapnik首次提出，并将其应用于构建支持向量机（Support Vector Machine）[1]。支持向量机利用最大分类间隔来实现线性分类任务。1999年，Friedman指出间隔分布是用来指导分类集成学习构造稳定模型的重要度量[2]。随着间隔的泛化界的提出，从统计学习理论上解释了最大分类间隔实际意义。实际上，间隔思想表明如果在训练阶段模型能够产生大的间隔，那么分类任务将有好的置信度和高可靠性。在过去的十几年中，该理论在模式识别和机器学习领域引起了高度关注。 本文首先从特征选