支持向量机算法研究及应用毕业论文.doc

支持向量机算法研究及应用毕业论文 目录 1.绪论 4 1.1 课题背景 4 1.2 国内外研究综述 4 1.3 本课题研究的意义和目的 5 2.最优化基础 5 2.1欧式空间上的凸规划 5 2.2 Hilbert空间上的凸规划 5 3.线性分类机 5 3.1线性可分问题的支持向量分类机 5 3.2 线性支持向量分类机 5 4.线性回归机 5 4.1 硬-带超平面 5 4.2 线性硬-带支持向量回归机 5 5.核与支持向量机 5 5.1核函数 5 5.2支持向量机及其性质 5 6.支持向量机的应用 5 6.1准备工作 5 6.2问题描述 5 6.3步骤 5 6.4实现图 5 7.结束语 5 参考文献 5 致谢辞 5 附录1 英文原文 5 附录2 中文译文 5 附录3 代码 5 1 绪论 1.1 课题背景 支持向量机是借助于最优化方法解决数据挖掘中若干问题的有力工具，它在一定程度上克服了“维数灾难”和“过学习”等传统困难，并在文本分类、生物信息、语音识别、遥感图像分析、故障识别和预测、时间序列预测、信息安全等诸多领域有了成功的应用。国内外数学专家仔细研究了支持向量机理论,并针对目前一些支持向量机算法存在的缺陷,分析了产生的原因,提出了两种新的支持向量机算法,针对支持向量机算法难以处理大规模数据的问题,提出了两种新的支持向量机分类方法。随着对支持向量机研究的深入，涌现了许多支持向量机的变形算法，其主要思想是通过增加函数项、变量或系数等方法使公式变形，从而产生各种具有某一方面优势的或者具有一定应用范围的新算法。 1.2 国内外研究综述 支持向量机是借助于最优化方法解决数据挖掘中若干问题的有力工具，支持向量机不仅有着统计学习理论的监视理论，而且具有直观的几何解释和完美的数学形式。虽然自20世纪90年代有Vapnik提出以来一直处于飞速发展的阶段，但是支持向量机的理论基础和各种算法实现的基本框架已经形成，自2000年开始，国外已陆续有专著出版。 2004年，邓乃扬等人在科学出版社出版了学术专著《数据挖掘中的新方法——支持向量机》，该书是国内第一本专门对支持向量机进行全面完整介绍和论述的著作。 国内外数学专家仔细研究了支持向量机理论，并针对目前一些支持向量机算法存在的缺陷，分析了产生的原因，提出了两种新的支持向量机算法,针对支持向量机算法难以处理大规模数据的问题，提出了两种新的支持向量机分类方法。并就多类别分类问题等方面开展了初步的理论研究。该文主要工作包括：(1)讨论了支持向量机理论中各种变形的支持向量机算法，对常规支持向量机公式进行变形的算法主要有C-SVM系列、v-SVM系列、One-class SVM、RSVM、WSVM和LS-SVM等算法，通过增加函数项、变量或系数等方法使公式变形，产生出各种有某一方面优势或者一定应用范围的算法。通过比较它们各自的优缺点等情况，为提出新的支持向量机算法做了理论准备。(2)介绍了超球面支持向量机算法的思想,以及超球面和超平面的区别。(3)针对某些支持向量机算法不能解决样本类别之间差异造成的不良影响的缺陷，提出了一种新的加权支持向量机算法，该算法具有补偿类别差异的优点，可应用于解决多类别分类问题。(4)提出了基于粗糙集理论和支持向量机理论的粗SVM分类方法。(5)提出了基于主成分分析方法和支持向量机理论的去噪声加权SVM分类方法。(6)把支持向量机理论应用到污水处理过程运行状态监控中去。 由于支持向量机具有坚实的理论基础并在很多领域表现出良好的推广性能，因为国际上正在广泛开展对支持向量机的研究。90年代之后取得了许多突破性进展，许多改进的和新型的SVM算法相继出现。目前对支持向量机的研究主要包括：SVM训练算法；大规模问题的求解；模型选择；应用研究等反方面。支持向量机是在统计学习理论基础上发展起来的一种新的通用学习方法，其主要思想可概括为两点：首先，它通过使用非线性映射将低维输入空间的样本映射到高维特征空间，从而使得在特征空间采用线性方程对样本进行分类成为可能；其次，他遇到过使用结构风险最小化原则在特征空间构建最优化分类超平面，使得学习机会有较好的泛化能力。最优化分类超平面可以通过解决一个二次规划问题获得，包括线性可分、非线性可分两种情况。 随着对支持向量机研究的深入，涌现了许多支持向量机的变形算法，其主要思想是通过增加函数项、变量或系数等方法使公式变形，从而产生各种具有某一方面优势的或者具有一定应用范围的新算法。 1.3 本课题研究的意义和目的 支持向量机是借助于最优化方法解决数据挖掘中若干问题的有力工具，它在一定程度上克服了“维数灾难”和“过学习”等传统困难，并在文本分类、生物信息、语音识别、遥感图像分析、故障识别和预测、时间序列预测、信息安全等诸多领域有了成功的应用。 在论文写作中学习运