支持向量回归机及其应用的研究.pdfVIP

摘 要 支持向量机是数据挖掘中的新方法．它是建立在统计学习理论基础之上的通用学习方法，并 且已表现出很多优于已有方法的性能．目前在理论研究和实际应用两方面支持向量机正处于飞速 发展的阶段， 处理分类问题和回归问题的支持向量机分别称为支持向量分类机(svc)和支持向量回归机 (svR)，支持向量回归机无论在理论还是应用研究方面都没有支持向量分类机的研究工作深入和 广泛，本文针对以下几个方面对支持向量回归机的理论和应用进行了研究和探讨： 1．模型选择问题决定了支持向量机实际应用的成功与否．对支持向量分类机，已经有了一些 文献探讨如何选择最优参数，其晶常用的评价标准是L00误差界．对支持向量回归机目前还没有相 应的结果本文推导出三个支持向量回归机算法的L00误差界，并在此基础上给出了一个新的支持 向量回归机算法一L00支持向量回归机： 2．本文给出了一个广义支持向量回归机模型，该模型的优化问题中含有一个可灵活选取盼 函数，通过该函数的不同选取，使其能够包含若干种已有的支持向量回归机模型，并且该广义模 型不再要求核函数具有正定性，从而拓广了核函数的选择范围：把支持向量回归机中的原始凸-二 次规划问题转化为光滑的无约束问题，构建了无约束支持向量回归机，使得许多成熟有效的无约 束最优化算法能够应用聋4支持向量回归杌中去； 3．对标准的e—SVR，我们给出了其两个导山途径：一是把回归问题转化为分类问题，利用SvC 求解，推导出e—SVR的原始最优化问题；二是对回归问题给出了相应于分类问题的间隔概念，利甩 最人问隔的思想推导出e—SYR的原始问题： 4．目前支持向量回归机的研究都是基于有限维空问的优化理论，而对于无穷维空问则没有 讨论．本文对无穷维空间中支持同量回归机的原始最优化问题和对偶问题的解的关系．给出了严 谨的理论证明，完善了支持向量回归机的优化理论基础； 5．对小流域土壤侵蚀的预报问韪，本文荦j用研究的理论结果建立小流域土壤侵蚀SVR预报模 型，并根据最小化L00误差界选择最优参数．与传统预报模型的比较结果表明了SVR预报模型的可 行性和有效性，从而为支持向量回归机在新领域的应用做了有意义的尝试． 关键词： 支持向量机，分类问题，回归问题，模型选择，L00误差界 Abstract Vector newdata methods inrecent basedon SupportMachines(SVMs)aremining developedyeam thefoundationsofStatistical havebeen tobemore LearningTheory(SLT)，andthey proven powerful are in androbustthan methodsinmost either or developing theory existing aspects．SVMs promisingly applications． for arecalled vector vectormachinesclassification Suppoa problem support are vector focusesonSVRin whilefor regression(SVR)．Thispaper several regressionproblemsupport foundationand aspects，includingtheory application． 1．The