基于结构信息的多生支持向量机模型与算法研究.pdfVIP

致谢 在中国矿业大学的三年时光是短暂的，但是却在人生漫漫长河中弥足珍贵。 在这里有很多感动，汗水和快乐。在此，我要向帮助过我的老师，同窗及家人致 以最深的感谢。 首先我要对我的导师丁世飞教授致以最深的感谢。从研一开始，老师带领我 到实验室进行学习，让我熟悉实验软件，熟悉实验室的研究工作，使自己的科研 工作尽早步入正轨。我在科研方向的选择上并非一帆风顺，在选课题的时候摇摆 不定，恐怕自己选错方向，然而老师谆谆的教导给了我答案，使自己的科研有了 明确的道路。在论文的修改过程中，丁老师也不断地给予我指导，使得我的论文 能顺利的完成并发表。我的每一项成果都浸润着老师的指导与关切。感谢丁老师 给我提供的优良的学习环境，培养了我的学习兴趣，指引了我今后的方向，使我 在这样的一个温暖的实验室里成长。 其次，我要感谢JLIIP 实验室的同学们，他们使实验室学习的气氛变得浓厚， 使我在实验室中快乐地学习。感谢师兄师姐们对我的帮助与鼓励。 感谢中国矿业大学给我营造了一个良好的科研氛围。计算机科学与技术学院 的老师们拥有严谨的学术态度，踏实的学术作风，感谢这些老师给我们学子树立 了良好的榜样。感谢科研办公室的赵老师、李老师以及学院党委办公室的易老师 在学生管理中做的努力。感谢教授我们课程的老师们，他们所教授的课程增长了 我的知识、拓宽我的视野、开拓了我的思路。 当然，我还要感谢我的家人，是他们在我迷茫中安慰我，在我想要放弃时激 励我，在我想要松懈时鞭策我，是他们给我提供了物质基础，使我能够无忧的进 行科研的探索，使我在研究生的生活中砥砺前行，不懈努力。 最后，感谢参与我的论文评阅的各位老师们，你们在繁忙中对我论文进行认 真的评阅，让我端正自己的态度，提高自己科研水平。我将带着你们的建议和意 见继续努力，不断深造争取更大的进步。再次感谢所有帮助我的朋友们，感谢你 们的勉励、帮助与支持，我会向着更遥远的路途努力进步！ 摘 要 孪生支持向量机在机器学习领域有着广泛的应用，其主要目的是用来解决二 分类问题，是多分类问题在现实生活中是最为常见的。因此研究人员对孪生支持 向量机进行改进，提出了许多不同策略的多分类孪生支持向量机用于解决多分类 问题。多生支持向量机作为一种新型的改进方法，其每一个二次规划问题的大小 只受到相应类的数据规模的限制，相比于其他的多分类孪生支持向量机具有计算 复杂度低、训练速度快等优点。因此倍受研究者们的青睐。然而，多生支持向量 机在建立模型时忽略了样本数据的结构信息，这些信息可能包含一些重要的先验 知识。同时多生支持向量机经常凭借经验值或网格搜索法进行参数选择，使得算 法容易陷入局部最优解。本文结合样本数据的结构化信息来改进多生支持向量机， 同时在多生支持向量机的参数选择方面，利用群智能优化算法对其进行优化，以 提高算法的分类准确率。其主要研究内容如下： 首先，本文研究了基于能量的结构化最小二乘多生支持向量机。对结构最小 二乘孪生支持向量机进行改进，提出了基于能量的结构最小二乘孪生支持向量机。 它通过为每个超平面引入能量因子，将结构最小二乘孪生支持向量机二次规划问 题中的不等式约束转化为基于能量因子的等式约束，该算法在降低时间复杂度的 同时能够减轻噪声点对算法的影响。在此基础上，将基于能量的结构最小二乘孪 生支持向量机扩展到多分类问题中，提出了基于能量的结构化最小二乘多生支持 向量机。为了验证算法的有效性，我们在 UCI 数据集上进行了测试并使用 Friedman 检验和ROC 分析进行统计分析。实验结果表明，本文提出的算法具有 良好的分类性能。 接着，本文研究了基于动态量子粒子群优化算法的结构化多生支持向量机。 在经典的量子粒子群优化算法的基础上定义了粒子个体搜索能力因子，将其作为 反馈信息动态调整CE 系数，提出了一种动态量子粒子群优化算法。随后，本文 将该算法用于基于能量的结构化最小二乘多生支持向量机中，对其参数进行优化。 该算法利用动态量子粒子群优化算法优秀的全局搜索能力，不仅搜索速度快，而 且能够防止算法过早地陷入局部最优解，具有很好的全局收敛性，避免了参数选 择的盲目性，使得基于能量的结构化最小二乘多生支持向量机的分类性能进一步 提高。最后，本文通过实验对动态量子粒子群优化算法和基于动态量子粒子群优 化算法的结构化最小二乘多生支持向量机的有效性进行了