KNN文本分类算法研究.pdfVIP

软件时空 文章编号：1008-0570(2006)07-3-0269--02 KN N文本分类算法研究 onKNNText Algorithm Study Categorization 晒南交通大钧杨丽华戴齐郭艳军 YangLihua，DaiQi。GuoYanjun 摘要．KNN(K—Nearest 对KNN算法的不足而提出的改进算法。对KNN文本分类算法的理论研究和实际应用起了指导作用。 关键词：文本分类；KNN；向量空间模型 中围分类号：TP311文献标示码：A Abstract：K-Nearestisoneofthebesttext introducesthebasis oftheKNN Neighbour categorizationalgorithms．Thissurvey theory the for oftheKNN．It aninstructionalroleinacademicand algorithm，summarizeimprovingalgorithmsshortcoming plays study prac- ofKNN deal textclassification application algorithm． Keywords：TextCategorization,KNN,VSM (1)对于一个测试文本，根据特征词形成测试文 l引言 本向量。 文本自动分类是指将一篇文本自动指定到一个 (2)计算该测试文本与训练集中每个文本的文本 或几个预定义的文本类别中。文本分类在文本检索、 相似度．计算公式为： 信息获取、信息过滤、数据组织、信息管理及互联网上 M Wjk ∑WikX 的搜索都有十分广泛的应用，有效地提高了信息服务 Jo …．．、 k=l 的质量。研究表明，公司信息有80％包含在文本文档 Sim(di，呦=1斧——丙—一 中。所以。文本自动分类及其相关技术的研究正日益 、／∑w孟1／∑w盏 Ik=l Yk=l 成为一项研究热点。目前较为著名的文本分类算法包 式中：di为测试文本的特征向量，dj为第j类的中 Vector 括支持向量机(SupportMachine，SVM)，K近邻法 心向量；M为特征向量的维数；Wk为向量的第k维。K (K—NearestNeighbour，KNN)，朴素贝叶斯法(Na?ve 值的确定一般先采用一个初始值，然后根据实验测试 Bayes，NB)，神经网络法(NeuralNetwork，NNet)，线性最 的结果调整K值，一般初值定为几百到几千。 Least 小二乘法(LinearSq．are8Fit，L