精简训练样本与支持向量论文.pdfVIP

V01．27 第27卷增刊 哈尔滨工程大学学报 Suppl． 2006年7月 JournalofHarbin Jul．2006 EngineeringUniversity 精简训练样本与支持向量 陈玉坤，于洪洁 (上海交通大学工程力学系，上海200240) 摘要：支持向量机基于统计学习理论并能较好地解决小样本问题，对许多含有大数量样本的数据库来说，支持向量机并 不非常合适．训练样本的数量严重影响训练的速度与支持向量的数量．实验表明，保留训练样本的邻界样本，去除部分非邻 界样本可以明显地减少训练样本的数量和支持向量的个数，而泛化能力几乎没有下降． 关键词：支持向量机；支持向量；训练样本；精简 中图分类号：TP391．4文献标识码：A 文章编号：1006．7043(2006)增一0428—06 Prunethe and vectors trainingsamplessupport CHENYu—kun，YU Hong-jie of EngineeringMechanics，ShanghaiJiaoTongUniversity,Shanghai200240) (Department Abstract：SVMisbasedonstatistical andCansolve better．Butfor databases learningtheory small-samplelearningproblem many the witha numberof arenotSOwellsuitableforSVM．Thenumberof influences huge samples，they samplesseverely training andthenumberof showthat theborder and somenon—borderCall speed SVs．Experimentsremaining samplespruning samples increasethe andreducethenumberofSVswhilethe isalmostas asthatofthe greatly trainingspeed generalizationgooff original set． training vector Keywords：supportmachine；suppoavector；trainingsamples；pruning 对于监督学习而言，不可否认的是训练样本越 持向量可以用其他支持向量线性表示，达到减少 多越好．训练样本越多越能够得到更多的样本分布 支持向量的目的．如果能够预先确定支持向量集 的结构信息，在测试中必然可以得到泛化能力更强 合是线性相关的，该方法确实能够取得一定的效 果，但是对于一般的数据库而言，尤其是非线性 的SVMtll．但是，由于参数选取的困难，对大的训练 样本来说，搜索参数是个比较困难的事情，因此，