支持向量机分类与回归要领研究.pdfVIP

摘要 作为传统统计学的重要补充和发展，针对小样本数据提出的统 计学习理论近来受到广泛重视。在统计学习理论基础上发展起来的 支持向量机已经展现出优秀的学习性能，并由最初的分类任务成功 地扩展到处理回归、概率密度估计和异常值检测等问题。支持向量 机一改传统方法的经验风险最小原则，而是根据结构风险最小化原 则提出的，这就使其能够达到更好的泛化能力。 支持向量机另外一些优势可以通过与神经网络相比展示出来。 支持向量机只有少数可调的参数，而且训练问题可以归结为解一个 凸二次规划，从而所得的解是全局最优的，通常也是唯一的。 本文以支持向量机理论为基础，对分类与回归的基本方法及其 应用进行了系统的研究。全文共分七章，具体内容如下。 第一章综述了分类与回归的基本方法，包括贝叶斯方法、神经 网络方法和支持向量机方法等。 第二章介绍了支持向量机一类分类、二值分类以及回归算法， 并在一类分类的基础上，提出一种多值分类算法。所给方法有效地 克服了通过构造一系列二值分类而达到多值分类的复杂计算问题， 从而有机地将一类分类、二值分类及多值分类融合到一起。进一步 提出了多值分类算法的分解形式，为解决大规模数据分类问题提供 了一条可行的途径。 第三章首先总结归纳