基于GPU的多类支持向量机改进算法.pdfVIP

第 53卷 第 1期 吉 林 大 学 学 报 (理 学 版 ) V01．53 No．1 2015年 1月 JournalofJilinUniversity(ScienceEdition) Jan 2Ol5 doi：10．13413／j．cnki．jdxblxb．2015．01．23 基于 GPU的多类支持 向量机改进算法 顾德闯，杨永健 (吉林大学 计算机科学与技术学院，长春 130012) 摘要 ：针对支持 向量机算法耗时较长的问题 ，利用并行计算思想，基于 图形处理器对多类支 持 向量机算法—— Crammer—Singer算法进行改进 ，并利用循环展开、数据暂留、缓存和开放 运算语言等技术对算法加以实现．分别在 4个数据集上对原算法和改进算法进行对 比实验 ， 结果表明，改进算法在性能上获得 了较大提升． 关键词 ：支持 向量机；多分类 ；图形处理器 ；并行计算；开放运算语言 中图分类号：TP301．6 文献标志码 ：A 文章编号 ：1671—5489(2015)01—0107—05 ImprovementofM ulticlassSupportVectorM achines Basedon GraphicProcessor GU Dechuang，YANGYongJian (CollegeofComputerScienceandTechnology，JilinUniversity，Changchun130012，China) Abstract：Accordingtothephenomenonthatthesupportvectormachinealgorithm takestoomuch time，the idea ofusingparallelcomputation wasused to solve thisproblem．Basedon this，an improvementoftheclassicmulticlasssupportvectormachinealgorithm firstproposedbyCrammer andSingerwasmade，and itwasrealizedbyusing thegreatparallelability ofgraphicprocessor． Technologyof loop unrolling，data staying，cache and open computing languagewereused for implementing the improved algorithm． Theoriginalalgorithm and the improved algorithm were executedonthesamefourdatasets．Andtheexperimentalresultsshow thattheimprovedalgorithm is muchbetterthan theoriginalalgorithm inperformanceoftime． Keywords：supportvectormachine；multiclass；graphicprocessingunit；parallelcomputation；open computinglanguage 支持 向量机由于在解决小样本、非线性及高维模式识别 中表现 出许多特有的优势，因而被广泛应 用于文本识别、手写字体识别、人脸图像识别、基因分类及时间序列预测等诸多领域l_1]．由于现实中 的分类问题多数是多类问题 ，所 以如何使支持 向量机扩展为可高效处理多类 问题是本领域 的研究热 点 ]．目前计算性能仍是该领域需要克服的难点，解决该问题的一种方法是利用并行计算强大的计 算能力E6]．基于并行计算思想对支持 向量机算法进行改进的研究 目前已有许多结果[7_I5]．Poulet等 基于最小二乘支持向量机 (SVM)分类 、增量支持向量机分类和有