双联支持向量分类机与回归机研究分析报告.docVIP

双联支持向量分类机与回归机研究 Research on Twin Support Vector Machine Classification and Regression Algorithm 摘 要 双联支持向量分类机与回归机研究 支持向量机(Support Vector Machines，简记为SVM)是一种建立在统计学习理论基础上的机器学习方法，它使用的是结构风险最小化原则(Structural Risk Minimization，简记为SRM)。 支持向量机是目前机器学习方法在数据挖掘领域中应用的一个研究热点，而双联支持向量机(Twin Support Vector Machines，简记为TWSVM)是支持向量机方法中的一个新的拓展，它是2007年才提出来的一种新的数据挖掘技术，它在理论研究和实际应用上正在快速的发展。 与数据挖掘中的其它一些方法相比，支持向量机的明显优点是： （1）具有坚实的理论依据。以统计学习理论、最优化理论等为基础，它可望成为克服“维数灾难”和“过学习”等传统困难的有力手段； （2）通过构造两条平行超平面，并使用最大间隔原则得到一个凸二次最优化问题。使用支持向量机需要选择的参数较少，实际工作者易于掌握。 2007年，Jayadeva 等人在两类分类问题中提出双联支持向量机的新方法。与支持向量机方法相比，双联支持向量机的明显优点是： （1）将支持向量机本质的构造平行平面推广到非平行的情况，并得到形式更简单的最优化问题（凸二次规划）； （2）双联支持向量机将支持向量机求解的优化问题分解为两个规模更小的优化问题，从而易于求解，进而计算时间少。 本文将详细研究双联支持向量机的两类分类与回归算法，包括标准的双联支持向量分类机及其算法改进，双联支撑向量回归机(Twin Support Vector Regression，简记为TSVR)及其算法改进，并提出双联支持向量机中若干重要最优化问题的求解方法。 关键词： 支持向量机，双联支持向量机，分类问题，回归问题 Abstract Research on Twin Support Vector Machine Classification and Regression Algorithm Support Vector Machines is a research hotpot in the Data Mining area，and Twin Support Vector Machines is a new continuation of the method of Support Vector Machines,it is a new Data Mining technology that was supported in 2007,it is rapidly developing in Theoretical research and practical application. Support Vector Machines is a learning theory based on statistical machine learning methods ,it adopts Structural Risk Mpared with some other methods of Data Mining，the obvious advantages are: It obtains Solid theoretical basis。It is based on Optimization theory，and it expected to be effective means to overcome Traditional difficult such as Dimension disasters； By constructing two Parallel hyperplanes,and using the Biggest interval principle to get a Convex quadratic optimization problem。We need less parameters to use Support Vector Machines，and it is easy to grasp for Actual workers. In 2007，Jayadeva and his parteners puted forward the new method of Twin Support Vector Machines in Two types of classification problem。Compared with the met