多分类撑持向量机的推广性能.pdfVIP

摘要 支持向量机(sVM)是通过执行结构风险最小化原则来获得好的推广能力 的学习机器，它最初是设计用以处理二分类问题的．然而，许多实际问题中都 需要处理多类的分类问题．因而，如何有效的推广该算法到多类的情形具有 重要的实际意义．目前，主要有两种类型的方法利用支持向量机处理多分类 问题．一是通过某种方式构造一系列的两类分类器并将它们组合在一起来实 现多类分类．第二种类型是将多个分类器的参数求解合并到一个最优化问题 中，通过求解该最优化问题“一次性”的实现多类分类．多分类学习算法的推 广性能研究是机器学习的热点问题之一． 在本文中，基于多分类间隔和算法稳定性的相关结论，我们从算法稳定性 的角度分析了误差修正码核机器，基于特征函数的多分类支持向量机，有向无 环图支持向量机的推广能力，证明了三种多分类学习算法是一致稳定的，从而 获得了相应多分类算法的推广误差界． 第一部分，引言阐述了支持向量机的基本思想，介绍了多分类支持向量机 的几种主要类型和相应背景． 第二部分，介绍了误差修正码支持向量机的基本知识，利用算法稳定性的 性质得到了该算法推广误差的界． 第三部分，分析了一种基于特征函数的多分类支持向量机，得到了其独立 于类别数的推广误差界．