基于线性规划的多类支持向量机算法＊）.pdfVIP

维普资讯 计算机科学2005Vo1．32No．10 基于线性规划的多类支持向量机算法*) 孙德 山 吴今培 (辽宁师范大学数学学院 大连 116O29) (五邑大学智能技术与系统研究所 江门529020) 摘 要 多类支持向量机一般采用多个两类分类支持向量机来求解 ，这就需要解多个二次规划问题，从而导致算法的 计算复杂性很高。根据一类分类思想，提出一种基于线性规划的多类分类算法及其分解形式，所给算法通过引入核函 数能够独立地对每一类样本形成一个紧致的优化区域，从而达到分类的目的。对人工三螺旋线数据和几组实际数据 库的识别实验表明，所给算法在保持良好的分类精度前提下，能有效地降低程序的运行时间。 关键词 线性规划，多类分类，一类分类，核函数 AMulti-classSupportVectorMachineAlgorithm BasedonLinearProgramming SUN De-Shan WU JimPei。 (InstituteofMath，LiaoningNormalUniversity，Dalian116029) (InstituteofIntelligentTechnology＆System，WuyiUniersity，Jiangmen529020)。 Absl t Themulti-classsupportvectormachineiscommonlYsolvedbydecompositiontoseveralbinarysupport vec— tormachines，whichcanbringocmplicatedocmputationduetOsolving manyquadraticprogramming problems．Amulti- classclassificationalgorithm naditsdecompositionforlTlbasedonlinearprogramming areproposedacocrding toone- class classificationideainthispaper，whichcanform aocmpactboundaryaboutevery sing leclasssamplebyusingker- nelfunctionnadacocrding lyobtaintheaimofclassification．Smiulationsareocnductedonartificialthreespiraldaat and severalraeldatabases，whichshow thattheproposedmethodcanrdeucetherunning tmi eofprogram andguarnatee goodclassificationprecision． Keyw~ ts Linera programming ，Multi-classclassification，One-classclassifiaction，KelTIelfunction 1 引言 比实验来验证本文算法的有效性。 2 基于线性规划的多类分类算法 在统计学习理论[13基础上发展起来的支持 向量机 (Sup— portVectorMachine，SVM)已经成为继神经网络之后机器 2．1 基于线性规划的一类支持向量机 学习的一个新的研究热点。支持向量机改变了传统的经验风 给定一个正类样本点集{Xi，i一1，…，Z)，Xi∈ ，用一个 险最小化原则，而是针对结构风险最小化原则提出的，因此具 非线性映射 将样本点映射到高维特征空间。一类支持向量 有很好的泛化能力。另外，支持向量机还通过 引入正定核函