学习理论的一个关键算法的稀疏逼近.pdfVIP

华东理工大学学报 V01．30No．6 688 JournalofEastChina ofScienceand University Techn0109y 2004—12 文章编号：1006—3080(2004)06一0688一06 学习理论的一个关键算法的稀疏逼近 杨辉华1’¨， 王行愚1 摘要：Poggio和Smale最近提出的学习理论的一个关键算法(Akeyalgorithm，KA)可用于非 线性分类和回归，并避免求解二次规划，但几乎所有的样本是“支持向量”。为此提出了一种稀疏 KA算法(SKA)，通过设计特定的优化函数，SKA能有效减少“支持向量”，并具备良好的推广能 力。将SKA应用于两个实际的模式识别问题，并与支持向量机(SVM)进行比较，验证了SKA的有 效性。 关键词：一个关键算法；稀疏逼近；支持向量机；正则化；二次损失函数 中图分类号：TPl8，0235 文献标识码：A toa of Theory SparseApproximationKeyAlgorithmLearning yA』＼，GH“i一^“d1’2‘，W，AⅣG X?咒g～y扰1 ECUS丁，S^盘咒g^口i200237，C^?，2口； (1．(■ZZPge·z厂J，t，’Dr，孢口￡io规5fiP以f已以以dE，29i卵已Pri行g 2．DP户比7t，恕P以fDI厂Co，，妒“f已rSfi已以fP，G““i卵U咒iuPrsi￡y is andSmaleclaimed Abstract：A theorypresentedrecentlybyPoggio keyalgorithm(KA)oflearning tobe ofbothnonhnearclassificationand Itavoidsthehard capable regression． quadratic butsuffersfromthefactthat allthe vectors”．To to nearly samplesare“support imposesparsity training KA forward，whichcan cut Vectors’’and KA，asparse put effectivelyoff“support algorithm(SKA)is meanwhile toSVM，the ofSKAisdemon— capacity．Withcomparison superiority keepgoodgeneralization stratedontwoUCIdatasets．