基于几何算法的支持向量机分类方法-概率论与数理统计专业论文.docxVIP

重庆大学硕士学位论文中文摘要 重庆大学硕士学位论文 中文摘要 I I 摘 要 支持向量机（support vector machine）简称SVM，是由Vapnik[1]等人在20世纪 70代提出的，并且在90年代后得到了进一步的完善和迅速的发展。它是一种基于 统计学习理论的新型有效的机器学习方法。支持向量机利用最优化理论中的原始 和对偶问题的求解方法解决其分类或是回归问题，具有强大的非线性处理能力和 良好的推广能力。支持向量机一直是机器学习领域的热点问题，它可以克服神经 网络分类方法和传统统计分类方法的许多缺点，适宜于小样本高维度的分类问题， 具有较好的泛化能力。 支持向量机的目标是寻求最大间隔分类超平面，对于该问题的求解问题，延伸 出了很多相应的经典算法，即二次规划的求解问题。针对大样本的情形，算法往 往是求解一个较为大型的二次规划问题，其求解的计算量大、算法难度系数高， 可行性也随之降低。于是学者们试着从支持向量机的几何视角，提出了一些简单 快速的新算法。近年来已有学者研究了支持向量机的几何算法。比如孔锐提出的 基于几何思想的快速支持向量机算法[2]、Mavroforakis M.E.提出的基于简约凸包下 的支持向量机分类几何算法[3]、彭新俊等提出的基于压缩凸包的 SVM 几何算法及 其应用[4]等。 本文在前人研究的基础上，提出基于一种几何方法的支持向量机，它可避免复 杂的运算又能够提高计算速度。本文首先详细的论述了支持向量机和几何算法的 基本思想，然后通过深入的思考和分析，在现有的几何算法基础上提出了压缩超 球体的几何方法，该方法具有既保持原几何体的形状，又能克服简约凸包的不足， 同时，相对于压缩凸包更加具有简单易懂和较强的推广能力等特点。 关键词：支持向量机，几何算法，压缩凸包，压缩超球体 重庆大学硕士学位论文英文摘要 重庆大学硕士学位论文 英文摘要 II II ABSTRACT Support vector machine (SVM) was proposed by Vapnik[1] in 1970s and was improved after 1990s. It is an effective machine learning methods based on statistical learning theory. It uses the original optimization theory and method to solve the dual problem to deal with the classification or regression problem. It has a strong power and good generalization ability. Support vector machine has a lot attention in the field of machine learning, because it could overcome the shortcomings which the neural network classifiers and the traditional statistical classification methods could not. Besides, it is suitable for small sample classification with high dimensional and can be used to solve many problems. The target of the SVM is to find the maximum margin hyper plane. The solution can be developed to some corresponding algorithm. We call that the quadratic programming problems. However, solving the problems needs to do the algorithm that is with high degree of difficulty. In view of this, the researchers solve that from the geometric principle which is reflected by SVM to do some further analysis and research. After that, they put forward some new algorithm which is simpler an