文本分类中信息增益特征选择算法的改进.pdfVIP

第30卷第8期 计算机应用与软件 Vo1．3O No．8 2013年 8月 ComputerApplicationsandSoftware Aug．2013 文本分类中信息增益特征选择算法的改进 郭 颂 马 飞 (信阳师范学院计算机与信息技术学院 河南信阳464000) (平顶山学院软件学院 河南 平顶山467000) 摘 要 特征选择算法对文本分类系统的精确度有很大影响，传统的信息增益特征选择算法通常会导致在指定类别中很少 出现 而在其他类别中频繁出现的特征被选择出来。为克服这一缺陷，在对传统算法和相关改进算法深入分析的基础上，引入特征分布差 异因子、类内和类间加权因子的改进思路，提出一种基于特征分布加权的信息增益改进算法，并分别采用朴素贝叶斯和支持 向量机 两种分类算法进行实验。实验结果表明，该算法优于其他改进算法。 关键词 文本分类 特征选择 信息增益 特征分布加权 中图分类号 TP391 文献标识码 A DOI：10．3969／j．issn．1000—386x．2013．08．037 IM PRoVING THE ALGoRITHM oF INFoRMATIoN GAIN FEATURE SELECTIoN IN TEXT CLASSIFICATION GuoSong MaFei。 (SchoolofComputerandInformationTechnology，XinyangNormalUnive~i@，Xinyang464000，Henan，China) 。(SchoolofSoftwareEngineering，PingdingshanUniversity，Pingdingshan467000Henan，China) Abstract Featureselectionalgorithm hasgreatimpactontheprecisionoftextclassificationsystem．Traditionalinformationgainfeaturese— lectionalgorithm usuallyleadstosomefeaturestobeselectedwhicharelow-f·requencyindesignatedcategorybuthigh-frequencyinothercate-· gories．Toovercomethisshortage，based on in—depth analysison traditionaland relatedimproved algorithms，weintroducetheimproving thoughtsoffeaturedistributiondifferencefactorandtheweightedfactorsofinter—category andintra—category ，putforwardanimprovedinforma— tiongainalgorithm basedonfeaturedistributionweighting，andexperimentitusingtwokindsofclassificationalgorithms，thenaiveBayesclas— sifierandthesupportvectormachineclassifierrespectively，Experimentalresultsdemonstratethatthealgorithm proposedinthepaperoutper— formsotherimprovedalgorithms． Keywords Textclassification Featureselection Informationgain Featuredist