-种基于支持向量机的半监督分类方法[J].pdfVIP

计 算 机 技 术 与 发 展 Vo1．20 NO．10 第 20卷．第 lQ期 2010年 l0月 COMPUTER TECHNOLOGY AND DEVELOPMENT Oct． 20l0 一 种基于支持 向量机的半监督分类方法 徐庆伶 ，汪西莉 (陕西师范大学 计算机科学学院，陕西 西安 710062) 摘 要：如何有效利用海量的数据是当前机器学习面临的一个重要任务 ，传统的支持向量机是一种有监督的学习方法 ，需 要大量有标记的样本进行训练，然而有标记样本的数量是十分有限的并且非常不易获取。结合Co—training算法与Tri— training算法的思想，给出了一种半监督SVM分类方法。该方法采用两个不同参数的SVM分类器对无标记样本进行标 记，选取置信度高的样本加入到已标记样本集中。理论分析和计算机仿真结果都表明，文 中算法能有效利用大量的无标 记样本，并且无标记样本的加入能有效提高分类的正确率。 关键词 ：半监督学习；支持向量机；遗传算法 中图分类号：TP181 文献标识码 ：A 文章编号 ：1673—629X(2010)10—0115—03 A NovelSemi-。’SupervisedClassificationM ethodBasedonSVM xuQing—ling，WANGXi—li (SchoolofComputerScience，ShaanxiNormalUniversity，Xi’an710062，China) Abstract：Oneoftheimportantassignmentinmachinelearningishow touselarge—scaledataeffectively，thetraditionalSVM isakind ofsupervisedlearningapproach，itneedsanumberoflabeledsamplesfortraining，butthelabelde samplesrelimitedandverydifficultto obtain．A semi—supervisedSVM forclassificationisproposedbybindingthethoughtsofCo—trainingandTri—training together．This methodUSeStWOSVM classifierswithdifferentparameterstolabeltheM abeledsamples，thenchoosesthesampleswithhighconfidence leveltoextendthelabelde sample—set．Boththeoreticalanalysisandsimulationresultsindiactethatthismethod canusealotofuMabelde sampleseffectively，andtheadditionofuNabelde samplesCna impmveclassificationaccuracyavailably． Keywords：semi—supervisedlearning；supportvectormaehine(SVM)；geneticalgorithm(GA) O 引 言 统计学习理论和结构风险最小化原则之上，具有非常 机器学习问题可以分为监督学习和无监督学习两 坚实的理论基础。而且该模型需要设定的参数相对较 种 ，传统的非监督学习虽然算法成熟 ，操作简单，但其 少，非常适合于小样本机器学习，目前已广泛应用于模 学习效果往往很难得到保证 ；监督学习则需要大量的 式识别的分类器设计中-l56J。 已标记的学习样本