數据挖掘基于贝叶斯算法及KNN算法.docxVIP

吸氧机， HYPERLINK 家用吸氧机价格 制氧机， HYPERLINK 鱼跃家庭制氧机 ?数据挖掘-基于贝叶斯算法及KNN算法的newsgroup18828文档分类器的JAVA实现（上）?本分类器的完整工程可以到点击打开链接下载，详细说明的运行方法，用eclipse可以运行，学习数据挖掘的朋友可以跑一下，有问题可以联系我，欢迎交流：） 上文中描述了newsgroup18828文档集的预处理及贝叶斯算法的JAVA实现，下面我们来看看如何实现基于KNN算法的newsgroup文本分类器 1 KNN算法的描述 KNN算法描述如下：STEP ONE:文本向量化表示,由特征词的TF*IDF值计算STEP TWO:在新文本到达后，根据特征词确定新文本的向量STEP THREE:在训练文本集中选出与新文本最相似的 K 个文本，相似度用向量夹角余弦度量，计算公式为： 其中，K 值的确定目前没有很好的方法，一般采用先定一个初始值，然后根据实验测试的结果调整 K 值本项目中K取20 STEP FOUR:在新文本的 K 个邻居中，依次计算每类的权重，每类的权重等于K个邻居中属于该类的训练样本与测试样本的相似度之和。STEP FIVE:比较类的权重，将文本分到权重最大的那个类别中。 2 文档TF-IDF计算及向量化表示 实现KNN算法首先要实现文档的向量化表示计算特征词的TF*IDF，每个文档的向量由包含所有特征词的TF*IDF值组成，每一维对应一个特征词 TF及IDF的计算公式如下，分别为特征词的特征项频率和逆文档频率 文档向量计算类 ComputeWordsVector.java如下 package?com.pku.yangliu;?? import?java.io.BufferedReader;?? import?java.io.File;?? import?java.io.FileReader;?? import?java.io.FileWriter;?? import?java.io.IOException;?? import?java.util.SortedMap;?? import?java.util.Map;?? import?java.util.Set;?? import?java.util.TreeMap;?? import?java.util.Iterator;?? ?? /**计算文档的属性向量，将所有文档向量化? ?*?@author?yangliu? ?*?@qq?772330184?? ?*?@mail?yang.liu@? ?*? ?*/?? public?class?ComputeWordsVector?{?? ?????? ????/**计算文档的TF属性向量,直接写成二维数组遍历形式即可，没必要递归? ?????*?@param?strDir?处理好的newsgroup文件目录的绝对路径? ?????*?@param?trainSamplePercent?训练样例集占每个类目的比例? ?????*?@param?indexOfSample?测试样例集的起始的测试样例编号? ?????*?@param?wordMap?属性词典map? ?????*?@throws?IOException?? ?????*/?? ????public?void?computeTFMultiIDF(String?strDir,?double?trainSamplePercent,?int?indexOfSample,?MapString,?Double?iDFPerWordMap,?MapString,?Double?wordMap)?throws?IOException{?? ????????File?fileDir?=?new?File(strDir);?? ????????String?word;?? ????????SortedMapString,Double?TFPerDocMap?=?new?TreeMapString,Double();?? ????????//注意可以用两个写文件，一个专门写测试样例，一个专门写训练样例，用sampleType的值来表示?? ????????String?trainFileDir?=?F:/DataMiningSample/docVector/wordTFIDFMapTrainSample+indexOfSample;?? ????????String?testFileDir?=?F:/DataMiningSample/docVector/wordTFIDFMapTestSample+indexOfSample;?? ????????FileWriter?tsTra