基于SVM的二次下降有效集算法.pdfVIP

第8期 电 子 学 报 Vn1．39 No．8 2011年 8月 ACTAEU (1RONICASINICA AlJg 201l 基于SVM 的二次下降有效集算法 丁晓剑，赵银亮，李远成 (西安交通大学电子与信息工程学院，陕西西安 71(1049) 摘 要： 针对现有的有效集方法应用到支持 ~]0L(supportvectormachine，sVM)优化问题时收敛速度较慢的问 题 ，提出了一种基于二次下降法和推测赋值法的有效集算法．该算法在每次迭代过程中利用映射因子将迭代向量值限 制在优化问题的不等式约束中，并通过调整步长使 目标优化问题的函数值较传统的有效集算法进一步下降．由于函数 值在每次迭代后保证了严格快速下降，所以提出的算法能够快速收敛到全局最优解 ．实验结果表明该方法的迭代次数 和迭代时间有明显减少 ． 关键词： 支持向量机 ；有效集 ；二次下降法；迭代 中图分类号： TP319 文献标识码： A 文章编号： 0372—2112(2011)08—1766-05 SecondaryDescentActiveSetAlgorithm BasedonSVM DINGXiao—jian，ZHAOYin—liang，LIYuan-cheng (SchoolofElectronicsandIryeormationEngineering，Xi’anJiaotong肼龇 ， ’∞ ，Slmanxi710049，China) Abstract： Tosolvetheslowconvergencerateoftheexistingactivesetmethodsappliedintooptimizationformulationofsup— portvectormachine，anactivesetalgorithm basedonhtesecclndarydescentmehtodandhtespeculativeassignmentmehtod ispro— p ed．Ateachiterationofthealgorithm，aprojectionoperatorisused幻msa-icttheiterativevcetorontohteinequalityconstraintsof optimizationformulation，nadthenanadjustablestepsizeisusedtoensurethefunctionalvalueofoptimizationformulationmake furtherdescentcc哪 tothevaditionalactivesetmehtod ．Asfunctionalvalueensurerapidandstrictlydescentathteendofeach iteration，thegJboal optimum solutino Cna beobtainedwim rapidconvergencerate．Experimen~ resultsshow thatiterationstimeand traininglimeofhteproposedmethod haveteendecreasedobviously． Keywords： supportvcetormachine；activeset；secondarydescentmehtod ；iteration 求得原始优化问题的最优解．与分解法不同的是 ，有效集 1 引言 法是一种增量迭代方法，迭代的过程就是不断识别正确 目前求解支持 向量机_l(supportvectormachine， 的有