支持向量机加速练习算法研究.pdfVIP

摘 要 摘 要 支持向量机(SVM)是由 Vapnik 与其合作者提出的，它是基于统计学习理论的一门 新兴学科，是统计学习理论的 VC 维理论和结构风险最小化理论的具体实现。SVM 主 要解决小样本问题，在模型的复杂度和学习能力之间寻求最佳折衷，目的在于获得最好 的泛化能力。SVM 算法成功应用于很多领域，但是在实际应用中也显现出一些缺点， 如计算量大，速度慢，依赖经验选择参数等，其中速度问题在很大程度上限制了 SVM 的应用，成为 SVM 方法在大规模实用中受到限制。因此在保证分类精度变化不大的情 况下，加快支持向量机的训练速度对 SVM 学习的研究具有重要的理论意义和使用价值。 本文主要的研究工作是：针对支持向量机训练速度慢的问题，在现有支持向量机加 速训练算法的基础上，寻找一种新的 SVM 加速训练算法。SVM 训练速度慢的主要原因 是大量的非支持向量参与训练过程，从而进行了大量的二次规划计算，导致分类计算量 大、分类速度慢。基于此理论，在本篇文章中，我们首先提出了一种算法：一种基于 KKT 条件的 SVM 分块训练算法，它通过分块训练来减小二次规划问题的规模，并利用 K