支持向量机的重建模子及其SMO法研究.pdfVIP

摘要 支持向量机是近些年发展起来的一门机器学习分支，作为一种新颖而独特的 机器学习方法，越来越受到重视。支持向量机作为一种强有力的学习工具，成为 讨论和研究的热点，它在处理分类、回归领域问题时非常有效且具有很大的潜力 和发展前途。 本文对支持向量机及其数学模型展开了研究。首先介绍机器学习的研究背景 和意义，概括支持向量机的研究发展情况、主要内容和算法。重点描述了SMO算 法的具体算法步骤及其工作集的选取。其次在再生核Hilbert(RKHS)空间上，利用 核函数的再生性重建了支持向量机的模型，并且引入误差使模型可以推广，得到 新的二次规划模型。该模型降低了解的限制要求，适用于更广泛的情况。在求解 模型时，将传统的直接分解法和SMO法进行比较。直接分解法思路是将矩阵直接 分解，再进行求逆运算得到模型的解析解。SMO算法在每次运行时只用到高维矩 阵的两列进行优化，减少了存储空间。由于在一次迭代过程中，只是二维的二次 规划优化问题，可以直接求得解析解，这减少了算法运行时间。在SMO法中利用 缓存技术，记录已算过的列，减少了核矩阵计算量，提高算法的效率。 实验表明，SMO法与直接分解法相比，能大大增加矩阵的维数，加快运算速 度。而采用缓存技术后可以减少计算大型矩阵的时间，在