支持向量机集成分析及其在时间序列预测中的应用-support vector machine integrated analysis and its application in time series prediction.docx

摘要混沌理论自提出到现在受到了越来越多的关注，其应用技术的研究也不断深入。混沌时间序列预测作为重要组成部分已经成为研究热点，解决了军事、经济、气象等领域的诸多问题。基于统计学习理论提出的支持向量机算法，具有全局优化、鲁棒性好、推广能力强等优点，在分类和回归领域所体现出的良好性能，已经超过传统机器学习算法。已经有一些学者将支持向量机用于混沌时间序列预测。本文结合混沌理论、支持向量机算法，研究基于支持向量机集成的混沌时间序列预测方法，通过实验表明所提出的方法能有效用于混沌时间序列预测。本文主要做了如下工作。提出了一种选择性线性加权组合策略。该策略在求解加权系数时，可归结为一个凸优化问题，此凸优化问题与压缩感知中稀疏信号重构问题是一致的。因此，我们可以采用了目前较为流行的稀疏信号重构方法来求解这一优化问题。在上面策略的基础上，我们构建了基于同构和异构支持向量机的集成算法。集成算法的多样性由Bagging采样，随机选择的支持向量机算法、随机选择的支持向量机模型参数来保证。多学习机的融合用了选择性加权的方式，以期有更快的测试速度和更好的性能。最后将提出的集成策略应用于混沌序列预测问题中。在预测问题的结果表明，该模型甚至是在非最优嵌入维数情况下，也可以较为精确的预测混沌时间序列。关键字：混沌时间序列回归预测支持向量机集成策略AbstractMoreandmoreattentionhasbeenpaidtochaotictheorysinceitwasproposed.Thereisagrowingfurtherresearchonitsapplications.Asanimportantpartofchaotictheoryapplication,chaotictimeseriespredictionbecomesahotresearchissue.Manyproblemsinthefieldsofmilitary,economyandmeteorologyhavebeensolvedbasedonchaotictimeseries.Supportvectormachines(SVMs)whichareproposedbasedonstatisticallearningtheoryhavetheadvantagesofglobaloptimization,goodrobustnessandgeneralizationperformance.SVMsexceedsconventionalmachinelearningalgorithminclassificationandregressionestimation.SomeresearchershavealreadyappliedSVMonchaotictimeseriesforecasting.CombiningchaotictheorywithSVM,weinvestigatethechaotictimeseriesforecastingmethodbasedonSVMensembleapproach.Themainworkofthisthesisisdescribedasfollows.Aselectivelinearlyweightedruleisproposedinthisthesis.Thisrulecanbecastedintoaconvexoptimizationproblem,whichconsistswiththeoptimizationproblemforsparsesignalreconstructionincompressedsensing.Thus,wecanadoptanypopularmethodforreconstructingsparsesignalincompressedsensing.Basedonthisnewrule,weconstructhomogeneousand/orheterogeneousSVMsensemblemethod.Inourmethod,thediversityrequiredbyensemblelearningisobtainedbyusingBaggingsampling,randomlyselectingthetypeofSVMalgorithms,andthehyperparametersofSVM.SincetheseSVMsarecombinedbyselectiveweight,weexpectthattheSVMensemblehasfastertestspeedandbetterperformance.Finally,ourmethodisappliesonchaotictimeseriesprediction