支持向量机模型相关研究.pdf

摘 要 支持向量机是基于统计学习理论的一种新型机器学习方法。支持向量机具有坚实的 理论基础、简洁的数学形式、直观的几何解释，而且能够较好地解决小样本、非线性、 维数灾难和局部极小等问题，在诸多领域得到广泛的应用，成为人工智能和机器学习领 域的研究热点。 本文在分析了支持向量机相关理论的基础上，针对支持向量机模型训练和模型选择 的相关问题展开讨论，主要研究了样本约简以及核函数参数选择的问题，在分析了现有 算法优劣的基础上，提出了新的算法，并通过验证了新算法的可行性和有效性。本文的 主要工作如下： 1.提出了改进的基于相似度的二次样本约简算法。由于支持向量机的训练过程需要 求解二次规划问题，样本数的多少直接影响二次规划问题的复杂度，本文通过样本约简 算法在模型训练之前对样本集进行约简，缩小二次规划问题的规模，并提出用样本约简 的思想来处理不平衡数据的分类问题，通过实验证实了该算法的可行性。 2.提出一种快速高斯核函数参数选择算法。高斯核函数在实际中的应用十分广泛， 并且选择的核参数较恰当时可以很好的将非线性问题映射到成高维特征空间中的线性 问题。本文综合考虑了样本在特征空间中的距离信息以及样本的类别信息，提出一种快 速高斯核函数参数选择算法，选参过程避免了支持向量机模型的训练过程，并通过实验 对比证实算法的有效性。 关键词：支持向量机，相似度，样本约简，高斯径向基核函数，参数选择 I ABSTRACT Support Vector Machine (SVM) is a new developed machine learning method. This technique has its roots in statistical learning theory, could be expressed in mathmatical form, has visual geometrical significance and has shown promising empirical results in many practical applications. Moreover, SVM can serve better in the processing of small samples, high dimension and local minima, which exist in most of learning methods. Currently, SVM is attracting more and more researchers and becoming a hotspot in the fields of artificial intelligent and machine learning. Starting with an introduction to the foundational theory ,an analysis of the SVM model training and SVM models selection, and aiming at the samples reduction and kernel function parameters selection, the thesis proposes new methods to improve training efficiency and speed up classification process of SVM. Experiments on real data sets indicate that the proposed methods are effective. The main research in this thesis can be classed as follows: 1. A novel samples reduction method based on similarties is proposed. The training processin