一种改进的 TRI-TRAINING 算法.docVIP

一种改进的 Tri-training 算法 胡汇涓，王雪松 （中国矿业大学信息与电气工程学院，江苏 徐州 221008） 摘要：针对传统 Tri-training 算法中使用三个相同分类器的分类精度低，泛化能力不强的局 限性，本文采用三个不同的分类器，利用不同分类器之间合作算法和投票选举的方式对未标 记数据进行标记，大大提高了算法的泛化能力；并引入自适应数据剪辑策略，消除训练数据 中的噪声。通过实验说明改进后的算法相对传统 Tri-training 算法在分类精度上有不同程度 的改进。 关键词：支持向量机；K 近邻；朴素贝叶斯； Tri-training 算法；数据剪辑；自适应策略 中图分类号：TP13 An improved Tri-training algorithm HU Huijuan, Wang Xuesong (School of Information and Electrical Engineering, China University of Mining and Technology, Jiangsu Xuzhou 221008, China) Abstract: Tri-training algorithm was developed from co-training algorithm. In order to solve the limitation of the traditional Tri-training algorithm such as low Classification Accuracy and weak Generalization ability, an improved algorithm is proposed. It greatly improved the generalization by different classifiers cooperation and the use of polling on unlabeled training data .Meanwhile , a method of data editing and adaptive is introduced to eliminate the noise of training data.This paper uses many UCI data sets to test the improved algorithm based on three different classifiers. Compared with the traditional algorithm, it uses three same KNN classifiers, Naive Bayes classifier and SVM classifier . the experiment shows that the improved algorithm advanced greatly in the classification accuracy. Key words: Support Vector Machine;K-Nearest Neighbor algorithm;Naive Bayesian;Tri-training;Data editing;Adaptive strategy 0 引言 半监督学习作为一种近年来新提出的学习策略，弥补了监督学习与无监督学习的不足， 同时利用标记数据和未标记数据,已经成为机器学习领域的研究热点，吸引着越来越多的学 者对其进行深入地研究[1]。协同训练算法是基本半监督学习算法其中之一，Blum 和 Mithchell 在 1998 年提出协同训练算法后，Goldman 等提出了一种改进算法，要求分类器所用的有监 督算法能够将实例空间划分为等价类集合，导致算法时间复杂度较高。Zhou 等于 2005 年 提出了一种既不要求充分冗余视图，也不要求使用不同类型分类器的 Tri-training 算法[2]。 Tri-training 算法。它不仅可以简便地处理标记置信度估计问题以及对未见示例的预测问题， 还利用集成学习来提高泛化能力。针对 Zhou 提出的分类算法中的三个分类器采用同一种监 督分类学习方法作为基分类器算法结果的局限性，本文引入自适应数据剪辑策略并采用三种 不同的分类算法进行学习。随机选取 UCI 数据集上的数据进行仿真实验，对比可知改进后 的方法比原来的算法分类结果更精确，泛化能力更强。 作者简介：胡汇涓（1986-），女，研究生，控制工程. E-mail: huhuijuan1012@  1 Tri-training 算法训练策