ls-svm优化模型中的权向量分析.docxVIP

ls-svm优化模型中的权向量分析 1 最小二乘支持向量机 支持向量机的方法是基于统计学习理论中最小结构风险和基于cc维的问题。在实际问题中,往往原空间中的样本是线性不可分的,解决这种线性不可分的问题,SVM是通过核映射方法,将原空间中样本映射到高维空间,使得样本在此高维空间中线性分开。 SVM以拥有较好的泛化能力而著称,其主要思想是寻找一个能使分类样本尽可能很好地分开的超平面。但是,标准SVM主要是通过一个二次规划问题求解的,由于需要大量的迭代次数,从而带来了大量的时间代价,为了改进标准SVM的计算时间代价的问题,Mangasarian等人已经提出了许多快速算法,如PSVM,LSVM和SSVM。从分类精度角度出发,提出了一个可保证分类性能的SVM算法。提出的方法仅仅需要求解一个线性系统而不是凸规划问题,将类内散度的思想融入到最小二乘支持向量机(LS-SVM)中,即用优化准则Min w′Mw对原LS-SVM进行重组合,w为对应LS-SVM中的权向量,M是类内散度矩阵。在UCI数据库上的计算结果显示,与SVM和Suykens等人提出的方法相比,提出的方法有更好的分类性能。 2 基于松弛因子 SVM的主要思想可以用下面的QP问题来表示: A∈Rm×n。但是在大多情况下式(1)由于存在一些不能线性分开的样本点,所以仅仅用式(1)求解是不可行的,这样,可以向式(1)引入一个松弛因子ξ,得