基于LDA—WSVM模型的文本分类研究.pdfVIP

第32卷第 1期 计 算 机 应 用 研 究 Vol_32No．1 2015年 1月 ApplicationResearchofComputers Jan．2015 基于 LDA—WSVM模型的文本分类研究 李锋刚 ，梁 钰 ，GAOXiao—zhi。，ZENGERKai (1．合肥工业大学 管理学院，合肥 230009；2．阿尔托大学 自动化与系统技术系，芬兰FI-00076；3．教育部 过程优化与智能决策重点实验室，合肥 230009) 摘 要：SVM分类算法处理高维数据具有较大优势，但其未考虑语义的相似性度量 问题，而LDA主题模型可以 解决传统的文本分类中相似性度量和主题单一性 问题。为 了充分结合SVM和LDA算法的优势并提高分类精确 度，提 出了一种新的LDA—wSVM高效分类算法模型。利用LDA主题模型进行建模和特征选择 ，确定主题数和隐 主题一文本矩阵；在经典权重计算方法上作改进，考虑各特征项与类别的关联度，设计了一种新的权重计算方 法；在特征词空间上使用这种基于权重计算的wSVM分类器进行分类。实验基于R软件平台对搜狗实验室的新 闻文本集进行分类，得到了宏平均值为0．943的高精确度分类结果。实验结果表 明，提 出的LDA—wSVM模型在 文本 自动分类 中具有很好的优越性能。 关键词：文本分类；潜在狄利克雷分布；支持向量机；权重计算；吉普斯抽样 ． 中图分类号 ：TP391．1 文献标志码 ：A 文章编号 ：1001—3695(2015)01—0021—05 doi：10．3969／j．issn．1001．3695．2015．01．005 ResearchontextcategorizationbasedonLDA．wSVM model LIFeng—gang ，LIANG Yu ，GAO Xiao—zhi，ZENGER Kai (1．SchoolofManagement，HefeiUniversityofTechnology，Hefei230009，China；2．Dept．ofAutomationSystemsTechnology，AaltoU- niversity，AaltoH-00076，Finland；3．KeyLaboratoryofProcessOptimization ＆lntelligentDec~ion-makingof Min~tryofEducation， Hefei230009，China) Abstract：SVM algorithm hasgreatadvantagesindealingwithhighdimensionaldata，butitdoesnotconsidertheproblem of semanticsimilarity measurement．However，LDA topicmodelcan solvetheproblem of：similaritymeasurementand single theme．InordertogetmorepreciseclassificationandmakeuseoftheadvantagesofSVM andLDA，thispaperproposedanew efficientmethod．Firstly，itstudiedonLDA topicmodelformodelingandfeatureselectioninordertodeterminethenumberof hiddentopicnumberandtopic—documentmatrix．Secondly，itproposedanewmethodofrcalculatingtheweightsw