一种改进的基于质心的文本分类算法 - 计算机应用与软件.pdf

第３０卷第１期　　　 计算机应用与软件 Ｖｏｌ３０Ｎｏ．１ ２０１３年１月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ｊａｎ．２０１３ 一种改进的基于质心的文本分类算法 陈　震　吴　斌　沈崇玮　张忠辉　王　柏 （北京邮电大学计算机学院　北京 １００８７６） 摘　要　　文本分类是数据挖掘与信息检索领域的热点话题，近年来迅速发展。基于质心的方法是一种建模迅速且效果较好的文 本分类方法，许多学者对该方法进行了深入研究并提出改进策略，不断提高算法效果。提出一种新的动态调整质心位置算法，该算 法根据训练集中的每个样本文本动态的调整质心位置。并且针对海量数据处理瓶颈，运用当前两种并行计算框架ＭａｐＲｅｄｕｃｅ和 ＢＳＰ，提出了算法的并行策略。通过与其它算法在５种不同数据集中的对比实验，证明该方法确有较准确的分类效果。 关键词　　文本分类　质心向量　动态调整　并行计算 中图分类号　ＴＰ３９１　　　　文献标识码　Ａ　　　　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００３８６ｘ．２０１３．０１．０１０ ＡＮＩＭＰＲＯＶＥＤＴＥＸＴＣＡＴＥＧＯＲＩＳＡＴＩＯＮＡＬＧＯＲＩＴＨＭＢＡＳＥＤＯＮＣＥＮＴＲＯＩＤ ＣｈｅｎＺｈｅｎ　ＷｕＢｉｎ　ＳｈｅｎＣｈｏｎｇｗｅｉ　ＺｈａｎｇＺｈｏｎｇｈｕｉ　ＷａｎｇＢａｉ （ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＢｅｉｊｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＰｏｓｔｓａｎｄＴｅｌｅｃｏｍｍｕｎｉｃａｔｉｏｎｓ，Ｂｅｉｊｉｎｇ１００８７６，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　Ｔｅｘｔｃａｔｅｇｏｒｉｓａｔｉｏｎｉｓａｈｏｔｔｏｐｉｃｉｎｄａｔａｍｉｎｉｎｇａｎｄｉｎｆｏｒｍａｔｉｏｎｒｅｔｒｉｅｖａｌ，ａｎｄｈａｓｂｅｅｎｒａｐｉｄｌｙｄｅｖｅｌｏｐｉｎｇｉｎｒｅｃｅｎｔｙｅａｒｓ． Ｃｅｎｔｒｏｉｄｂａｓｅｄａｐｐｒｏａｃｈｉｓａｔｅｘｔｃａｔｅｇｏｒｉｓａｔｉｏｎｍｅｔｈｏｄｍｏｄｅｌｌｉｎｇｆａｓｔａｎｄｈａｖｉｎｇｇｏｏｄｅｆｆｅｃｔ，ｍａｎｙｒｅｓｅａｒｃｈｅｒｓｈａｖｅｓｔｕｄｉｅｄｔｈｉｓｍｅｔｈｏｄ ｔｈｏｒｏｕｇｈｌｙａｎｄｐｕｔｆｏｒｗａｒｄｔｈｅｉｍｐｒｏｖｅｍｅｎｔｓｔｒａｔｅｇｉｅｓｔｏｉｎｃｅｓｓａｎｔｌｙｒａｉｓｅｔｈｅｐｅｒｆｏｒｍａｎｃｅｏｆｉｔ．Ｉｎｔｈｉｓｐａｐｅｒ，ｗｅｐｒｏｐｏｓｅａｎｏｖｅｌａｌｇｏｒｉｔｈｍ ｔｏｄｙｎａｍｉｃａｌｌｙａｄｊｕｓｔｔｈｅｃｅｎｔｒｏｉｄｐｏｓｉｔｉｏｎ．Ｔｈｅａｌｇｏｒｉｔｈｍａｄｊｕｓｔｓｔｈｅｃｅｎｔｒｏｉｄｐｏｓｉｔｉｏｎｄｙｎａｍｉｃａｌｌｙｂａｓｅｄｏｎｅｖｅｒｙｓａｍｐｌｅｔｅｘｔｉｎｔｒａｉｎｉｎｇｓｅｔ． Ｂｅｓｉｄｅｓ，ｗｅｔａｃｋｌｅｔｈｅｂｏｔｔｌｅｎｅｃｋａｉｍｉｎｇａｔｍａｓｓｄａｔａ，ｍａｋｅｕｓｅｏｆｔｗｏｃｕｒｒｅｎｔｐａｒａｌｌｅｌｃｏｍｐｕｔｉｎｇｆｒａｍｅｗｏｒｋｓ，ＭａｐＲｅｄｕｃｅａｎｄＢＳＰ，ａｎｄ ｐｕｔｆｏｒｗａｒｄｔｈｅｐａｒａｌｌｅｌｓｔｒａｔｅｇｙｏｆｔｈｅａｌｇｏｒｉｔｈｍ．Ｂｙｔｈｅｃｏｍｐａｒａｔｉｖｅｅｘｐｅｒｉｍｅｎｔｓｏｎ５ｄｉｆｆｅｒｅｎｔｄａｔａｓｅｔｓｗｉｔｈｏｔｈｅｒａｌｇｏｒｉｔｈｍｓ，ｗｅｐｒｏｖｅｔｈａｔ ｔｈｅａｌｇｏｒｉｔｈｍｈａｓｑｕｉｔｅａｃｃｕｒａｔｅｃｌａｓｓｉｆｉｃａｔｉｏｎｅｆｆｅｃｔ． Ｋｅｙｗｏｒｄｓ　　Ｔｅｘｔｃａｔｅｇｏｒｉｓａｔｉｏｎ　Ｃｅｎｔｒｏｉｄｖｅｃｔｏｒ　Ｄｙｎａｍｉｃａｄｊｕｓｔｍｅｎｔ　Ｐａｒａｌｌｅｌｃｏｍｐｕｔｉｎｇ 本分类算法的并行化成为可能。 ０　引　言 本文提出的方法以单位向量作为初始质心，采用全部训练 样本动态调整初始质心位置，每个训练样本将本类别的质心拉 文本分类，是指依据文本的内容，由计算机根据某种自动文 近并将其他类别的质心推远，该过程需要迭代