一种基于改进型knn算法的文本分类方法 - 江苏科技大学学报.pdf

第２７卷第４期 江苏科技大学学报（自然科学版） Ｖｏｌ２７ Ｎｏ４ 　 ２０１３年８月 ＪｏｕｒｎａｌｏｆＪｉａｎｇｓｕＵｎｉｖｅｒｓｉｔｙｏｆＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ（ＮａｔｕｒａｌＳｃｉｅｎｃｅＥｄｉｔｉｏｎ）　 Ａｕｇ．２０１３ 　　　　　　 ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１６７３－４８０７．２０１３．０４．０１６ 一种基于改进型ＫＮＮ算法的文本分类方法 钱　强，庞林斌，高　尚 （江苏科技大学 计算机科学与工程学院，江苏 镇江２１２００３） 摘　要：ＫＮＮ算法是比较适合于文本分类的一种分类算法，但由于其计算复杂度会随着训练集规模的增加而线性增加，从 而限制了它的实际应用效果．通过改变对近邻点的搜索策略，提出了一种改进型的ＫＮＮ算法．该算法在对最近邻的选择过 程中，放弃传统算法中遍历所有样本的做法，而是通过逐渐逼近的思想来寻找最近邻点．实验证明，该方法在保持和传统的 ＫＮＮ算法几乎一样的精度性能前提下，可以明显降低算法的计算复杂度，降低时间开销，取得了较满意的结果． 关键词：ＫＮＮ；文本分类；搜索策略 中图分类号：ＴＰ１８１　　　　　文献标志码：Ａ　　　　　文章编号：１６７３－４８０７（２０１３）０４－０３８１－０５ ＡｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎｍｅｔｈｏｄｂａｓｅｄｏｎｉｍｐｒｏｖｅｄＫＮＮａｌｇｏｒｉｔｈｍ ＱｉａｎＱｉａｎｇ，ＰａｎｇＬｉｎｂｉｎ，ＧａｏＳｈａｎｇ （ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅａｎｄＥｎｇｉｎｅｅｒｉｎｇ，ＪｉａｎｇｓｕＵｎｉｖｅｒｓｉｔｙｏｆＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，ＺｈｅｎｊｉａｎｇＪｉａｎｇｓｕ２１２００３，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：ＫＮＮａｌｇｏｒｉｔｈｍｉｓａｃｌａｓｓｉｆｉｃａｔｉｏｎａｌｇｏｒｉｔｈｍｓｕｉｔａｂｌｅｆｏｒｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎ，ｂｕｔｂｅｃａｕｓｅｉｔｓｃｏｍｐｕｔａ ｔｉｏｎａｌｃｏｍｐｌｅｘｉｔｙｉｎｃｒｅａｓｅｓｌｉｎｅａｒｌｙｗｉｔｈｔｈｅｉｎｃｒｅａｓｅｉｎｔｈｅｓｉｚｅｏｆｔｈｅｔｒａｉｎｉｎｇｓｅｔ，ｉｔｓｐｒａｃｔｉｃａｌａｐｐｌｉｃａｔｉｏｎｉｓｌｉｍ ｉｔｅｄ．Ｉｎｔｈｉｓｐａｐｅｒ，ｗｅｐｒｏｐｏｓｅａｎｉｍｐｒｏｖｅｄＫＮＮａｌｇｏｒｉｔｈｍｂｙｃｈａｎｇｉｎｇｔｈｅｓｔｒａｔｅｇｙｏｆｓｅａｒｃｈｉｎｇｔｈｅｎｅａｒｅｓｔ ｎｅｉｇｈｂｏｒｐｏｉｎｔｓ．Ｔｈｅａｌｇｏｒｉｔｈｍａｂａｎｄｏｎｓｔｈｅｐｒａｃｔｉｃｅｏｆｔｈｅｔｒａｄｉｔｉｏｎａｌａｌｇｏｒｉｔｈｍｔｏｔｒａｖｅｒｓｅａｌｌｓａｍｐｌｅｓｉｎｔｈｅｓｅ ｌｅｃｔｉｏｎｐｒｏｃｅｓｓｎｅａｒｅｓｔｎｅｉｇｈｂｏｒ，ａｎｄｕｔｉｌｉｚｅｓｔｈｅｉｄｅａｏｆｇｒａｄｕａｌａｐｐｒｏｘｉｍａｔｉｏｎｔｏｆｉｎｄｔｈｅｎｅａｒｅｓｔｎｅｉｇｈｂｏｒ．Ｅｘ ｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｐｒｏｐｏｓｅｄａｌｇｏｒｉｔｈｍ，ｕｎｄｅｒｔｈｅｐｒｅｍｉｓｅｏｆｍａｉｎｔａｉｎｉｎｇａｌｍｏｓｔｔｈｅｓａｍｅｐｒｅｃｉｓｉｏｎ ｐｅｒｆｏｒｍａｎｃｅｏｆｔｒａｄｉｔｉｏｎａｌＫＮＮａｌｇｏｒｉｔｈｍ，ｃａｎｓｉｇｎｉｆｉｃａｎｔｌｙｒｅｄｕｃｅｔｈｅｃｏｍｐｕｔａｔｉｏｎａｌｃｏｍｐｌｅｘｉｔｙｏｆｔｈｅａｌｇｏｒｉｔｈｍ ａｎｄｒｕｎｎｉｎｇｔｉｍｅ． Ｋｅｙｗｏｒｄｓ：ＫＮＮ；ｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎ；ｓｅａｒｃｈｉｎｇｓｔｒａｔｅｇｙ 　　随着Ｉｎｔｅｒｎｅｔ及其相关技术的飞速发展，互联 ＫＮＮ算法在实际应用过程中依然有一些不足之 网上出现了海量而庞杂的Ｗｅｂ信息资源．如何从 处，文中针对ＫＮＮ算法的一些缺点提出相应的改 这些海量的非结构数据中提取和产生知识，找到人 进措施． 们感兴趣的内容，已经成为当前迫切需要解决的重 １　传统ＫＮＮ算法 要问题．中文文本分类技术作为解决这一问题的关 键技术之一，日益成为研究的热点．其在搜索引擎、 在模式识别领域中，ＫＮＮ算法（最