多输出数据依赖核支持向量回归快速学习算法.pdf

JournalofComputerApplications ISSN 10o1．9081 2017．O3—1O 计算机应用，2017，37(3)：746—749，765 CODENJYIIDU http：／／www．joca．en 文章编号 ：1001—9081(2017)03—0746—04 DOI：10．11772／j．issn．1001—9081．2017．03．746 多输 出数据依赖核支持向量回归快速学习算法 王定成 。，赵友志，陈北京，陆一袢 (南京信息工程大学计算机与软件学院，南京 2100,14) ( 通信作者电子邮箱dcwang2005@126．corn) 摘 要：针对基于递推下降法的多输出支持向量回归算法在模型参数拟合过程中收敛速度慢、预测精度低的情 况，使用一种基于秩2校正规则且具有二阶收敛速度的修正拟牛顿算法(BFGS)进行多输出支持向量回归算法的模型 参数拟合，同时为了保证模型迭代过程中的下降量和全局收敛性，应用非精确线性搜索技术确定步长因子。通过分 析支持向量机(SVM)中核函数的几何结构，构造数据依赖核函数替代传统核函数，生成多输 出数据依赖核支持向量 回归模型。将模型与基于梯度下降法、修正牛顿法拟合的多输出支持向量回归模型进行对比。实验结果表明，在200 个样本下该算法的迭代时间为72．98S，修正牛顿法的迭代时间为 l16．34S，递推下降法的迭代时间为2065．22S。所 提算法能够减少模型迭代时间，具有更快的收敛速度。 关键词：数据依赖核；多输出支持向量回归；最优化算法；拟牛顿算法 中图分类号：TP181 文献标志码：A Fastlearningalgorithm ofmulti—outputsupportvectorregressionwithdata-dependentkernel WANGDingcheng ，ZHAOYouzhi，CHENBeijing，LUYiyi (SchoolofComputerandSoftware，NanjingUniversityofInformationScienceandTechnology,NanjingJiangsu210044，China) Abstract：FortheMuhi-outputSupportVectorRegression(MSVR)algorithmbasedonrgadientdescentmethodinthe processofmodelparameterfitting，theconvergencerateisslowandthepredictionaccuracyislow．A modifiedversionofthe Quasi—Newtonalgorithm (BFGS)withsecond-orderconvergenceratebasedontherank-2correctionrulewasusedtofitthe modelparametersofMSVRalgorithm．Atthesametime，toensurethedecreaseoftheiterativeprocessandthe~obal convergence，the step sizefactorwasdeterminedby thenon—exactlinearsearch technique．Basedonthe analysisofthe geometrysturctureofkernelfunctioninSupportVectorMachine(SVM)，adata—dependentkernelfunctionwassubstitutedfor thetraditionalkernelfunction，andthemulti—outputdata—dependentkernelsupportvectorregressionmodelwas