基于新型群智能优化的孪生支持向量机.pdfVIP

摘 要 孪生支持向量机是在支持向量机的基础上产生的机器学习算法，与支持向量 机不同，孪生支持向量机是找到两个分类超平面且是不平行的，使得每一类样本 尽量靠拢一个超平面，远离另一个超平面。孪生支持向量机将单个大型二次规划 问题转化为两个较小的二次规划问题，使得孪生支持向量机的计算速度比支持向 量机快约4 倍。并且孪生支持向量机能较好解决异或问题，分类性能优于支持向 量机。虽然孪生支持向量机的发展时间较短，但是已经成为机器学习领域的一个 研究热点，这主要是因为它理论基础牢固且性能表现优异。尽管对孪生支持向量 机的研究在算法改进及其应用方面近几年取得了很大的进展，但是在参数选择和 运行效率方面的不足之处仍然存在。针对这些问题，本文对孪生支持向量机进行 了研究，具体内容如下： 针对孪生支持向量机无法很好地选择合适参数，不合适的参数会降低分类能 力的问题。本文提出一种基于人工鱼群算法的孪生支持向量机(Twin Support Vector Machine based on Artificial Fish Swarm Algorithm ，AFSA-TWSVM) ，该算 法将人工鱼群算法和孪生支持向量机结合来解决参数选择困难的问题。首先将孪 生支持向量机的参数作为人工鱼的位置信息，同时将分类准确率作为目标函数， 然后通过人工鱼的觅食、聚群、追尾和随机行为来更新位置和最优解，最后迭代 结束时得到最优参数和最优分类准确率。通过在数据集上的实验表明，该算法能 够避免参数选择的盲目性，在模型训练过程中自动确定参数，提高了孪生支持向 量机的分类性能。 为了加快参数选择的速度，本文引入一种新型的群智能优化算法对孪生支持 向量机进行优化，提出一种基于蝴蝶优化算法的孪生支持向量机(Twin Support Vector Machine based on Butterfly Optimization Algorithm, BOA-TWSVM) 。利用蝴 蝶的自动搜索行为不断迭代来寻找孪生支持向量机的参数，在搜索过程中用切换 概率来选择全局搜索行为和局部随机游走行为，增加寻优速度和能力。最后根据 寻找到的最优解来建立孪生支持向量机的最优模型。在 UCI 数据集上的实验结 果表明，BOA-TWSVM 不仅在分类精度上有良好的表现，而且加快了参数的选 择速度。 关键词：孪生支持向量机；人工鱼群算法；蝴蝶优化算法；参数优化；模式分类 I Abstract Twin support vector machine is a machine learning algorithm based on support vector machine. Distinct from support vector machine, twin support vector machine finds two classification hyperplanes which are not parallel, so that each kind of sample is close to one hyperplane as far as possible and far away from another hyperplane. Twin support vector machine transforms a single large-scale quadratic programming problem into two smaller quadratic programming problems, which makes the computing speed of twin support vector machine about 4 times faster than that of support vector machine. XOR problem can be solved by twin support vector machine, and its classification performance is better than support vector machine. Al