基于lda-wsvm模型的文本分类研究-计算机应用研究.pdfVIP

第３２卷第１期 计 算 机 应 用 研 究 Ｖｏｌ．３２Ｎｏ．１ ２０１５年１月　 ＡｐｐｌｉｃａｔｉｏｎＲｅｓｅａｒｃｈｏｆＣｏｍｐｕｔｅｒｓ Ｊａｎ．２０１５ 基于ＬＤＡｗＳＶＭ模型的文本分类研究 １，２，３ １，３ ２ ２ 李锋刚 ，梁　钰 ，ＧＡＯＸｉａｏｚｈｉ，ＺＥＮＧＥＲＫａｉ （１．合肥工业大学 管理学院，合肥 ２３０００９；２．阿尔托大学 自动化与系统技术系，芬兰ＦＩ０００７６；３．教育部 过程优化与智能决策重点实验室，合肥 ２３０００９） 摘　要：ＳＶＭ分类算法处理高维数据具有较大优势，但其未考虑语义的相似性度量问题，而ＬＤＡ主题模型可以 解决传统的文本分类中相似性度量和主题单一性问题。为了充分结合ＳＶＭ和ＬＤＡ算法的优势并提高分类精确 度，提出了一种新的ＬＤＡｗＳＶＭ高效分类算法模型。利用ＬＤＡ主题模型进行建模和特征选择，确定主题数和隐 主题—文本矩阵；在经典权重计算方法上作改进，考虑各特征项与类别的关联度，设计了一种新的权重计算方 法；在特征词空间上使用这种基于权重计算的ｗＳＶＭ分类器进行分类。实验基于Ｒ软件平台对搜狗实验室的新 闻文本集进行分类，得到了宏平均值为０．９４３的高精确度分类结果。实验结果表明，提出的ＬＤＡｗＳＶＭ模型在 文本自动分类中具有很好的优越性能。 关键词：文本分类；潜在狄利克雷分布；支持向量机；权重计算；吉普斯抽样 中图分类号：ＴＰ３９１．１　　　文献标志码：Ａ　　　文章编号：１００１３６９５（２０１５）０１００２１０５ ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１００１３６９５．２０１５．０１．００５ ＲｅｓｅａｒｃｈｏｎｔｅｘｔｃａｔｅｇｏｒｉｚａｔｉｏｎｂａｓｅｄｏｎＬＤＡｗＳＶＭｍｏｄｅｌ １，２，３ １，３ ２ ２ ＬＩＦｅｎｇｇａｎｇ ，ＬＩＡＮＧＹｕ ，ＧＡＯＸｉａｏｚｈｉ，ＺＥＮＧＥＲＫａｉ （１．ＳｃｈｏｏｌｏｆＭａｎａｇｅｍｅｎｔ，ＨｅｆｅｉＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈｅｆｅｉ２３０００９，Ｃｈｉｎａ；２．Ｄｅｐｔ．ｏｆＡｕｔｏｍａｔｉｏｎ＆ＳｙｓｔｅｍｓＴｅｃｈｎｏｌｏｇｙ，ＡａｌｔｏＵ ｎｉｖｅｒｓｉｔｙ，ＡａｌｔｏＦＩ０００７６，Ｆｉｎｌａｎｄ；３．ＫｅｙＬａｂｏｒａｔｏｒｙｏｆＰｒｏｃｅｓｓＯｐｔｉｍｉｚａｔｉｏｎ＆ＩｎｔｅｌｌｉｇｅｎｔＤｅｃｉｓｉｏｎｍａｋｉｎｇｏｆＭｉｎｉｓｔｒｙｏｆＥｄｕｃａｔｉｏｎ， Ｈｅｆｅｉ２３０００９，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：ＳＶＭａｌｇｏｒｉｔｈｍｈａｓｇｒｅａｔａｄｖａｎｔａｇｅｓｉｎｄｅａｌｉｎｇｗｉｔｈｈｉｇｈｄｉｍｅｎｓｉｏｎａｌｄａｔａ，ｂｕｔｉｔｄｏｅｓｎｏｔｃｏｎｓｉｄｅｒｔｈｅｐｒｏｂｌｅｍｏｆ ｓｅｍａｎｔｉｃｓｉｍｉｌａｒｉｔｙｍｅａｓｕｒｅｍｅｎｔ．Ｈｏｗｅｖｅｒ，ＬＤＡｔｏｐｉｃｍｏｄｅｌｃａｎｓｏｌｖｅｔｈｅｐｒｏｂｌｅｍｏｆｓｉｍｉｌａｒｉｔｙｍｅａｓｕｒｅｍｅｎｔａｎｄｓｉｎｇｌｅ ｔｈｅｍｅ．ＩｎｏｒｄｅｒｔｏｇｅｔｍｏｒｅｐｒｅｃｉｓｅｃｌａｓｓｉｆｉｃａｔｉｏｎａｎｄｍａｋｅｕｓｅｏｆｔｈｅａｄｖａｎｔａｇｅｓｏｆＳＶＭａｎｄＬＤＡ，ｔｈｉｓｐａｐｅｒｐｒｏｐｏｓｅｄａｎｅｗ ｅｆｆｉｃｉｅｎｔｍｅｔｈｏｄ．Ｆｉｒｓｔｌｙ，ｉｔｓｔｕｄｉｅｄｏｎＬＤＡｔｏｐｉｃｍｏｄｅｌｆｏｒｍｏｄｅｌｉｎｇａｎｄｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｉｎｏｒｄｅｒｔｏｄｅｔｅｒｍｉｎｅｔｈｅｎｕｍｂｅｒｏｆ ｈｉｄｄｅｎｔｏｐｉｃｎｕｍｂｅｒａｎｄｔｏｐｉｃｄｏｃｕｍｅｎｔｍａｔｒｉｘ．Ｓｅｃｏｎｄｌｙ，ｉｔｐｒｏｐｏｓｅｄａｎｅｗｍｅｔｈｏｄｆｏｒｃａｌｃｕｌａｔｉｎｇｔｈｅｗｅｉｇｈｔｓｗｈ