基于核函数的机器学习方法研究-计算机软件与理论专业论文.docxVIP

摘要近年来，Vapnik等人基于统计学习理论提出的支持向量机方法是机器学 摘要 近年来，Vapnik等人基于统计学习理论提出的支持向量机方法是机器学 习非常活跃的研究领域，并正迅速成为数据分析的有力工具之一．尽管有坚 实的理论基础，支持向量机方法在具体实现上仍存在许多有待进一步研究和 探讨的问题． 在以往的工作中，大部分的研究和应用都是基于L1一软间隔支持向量机 方法的．本文首先较为系统地讨论了L2一软间隔支持向量机方法，探讨了它 与Ll一软间隔支持向量机方法相区别的一些性质，如支持向量分布和几何特 性等． 在实现算法上，本文针对L2一软问隔支持向量机方法提出了一种基于积 极集法的快速支持向量机训练算法，该算法采用了分解迭代的策略，使用积 极集方法来求解二次规划子问题，有效地简化了支持向量机的实现步骤．在 多个标准数据集上的数值实验表明，该算法对正则参数G’的变化不敏感，且 在正则参数取值较大C’10时，新算法所需的训练时间比经典的SVMli口ht算 法要少的多，而得到的预测准确率可以与基于L1一软间隔支持向量枧的算法 相比拟．此外，本文从几何直观角度研究了L2一软间隔支持向量机方法，改 进了Keerthi等人提出的最小模算法．使得该算法在所需计算量上可以与近来 Keerthi等人提出的最近点对算法(即NPA算法)相比拟，但在编码实现上要 简单得多． 本文进一步研究了大间隔分类方法