基于滑动窗口的主题模型-计算机科学.PDFVIP

Vo 1. 43 No. 12 第 43 卷第12 期 计算机科学 2016 年 12 月 Computer Science Dec 2016 基于滑动窗口的主题模型 常东亚1 严建峰1 ， 2 榻璐1 刘晓升1 (苏州大学计算机科学与技术学院 苏州 215006)1 (香港城市大学创意媒体学院 香港 999077)2 摘 要 LDACLatent Dirichlet Allocation)是一个分层的概率主题模型，目前被广泛地应用于文本挖掘。这种模型既 不考虑文档与文档之间的顺序关系，也不考虑同一篇文档中词与词之间的顺序关系，简化了问题的复杂性，同时也为 模型的改进提供了契机。针对此问题提出了基于滑动窗口的主题模型，该模型的基本思想是文档中的一个单词的主 题与其附近若干羊词的主题关系越紧密，受附近羊词主题的影响越大。根据窗口和滑动位移的大小，把文档切割为粒 度更小的片段。同时，针对大数据集和数据流问题，提出了在线滑动窗口主题模型。在 4 个数据集上的实验表明，基 于滑动窗口的主题模型训练出来的模型在数据集上有更好的泛化性能和精度。 关键词 潜在狄利克雷分配，主题模型，滑动窗口 中图法分类号 TP391 文献标识码 A 001 10. 11896/j. issn. 1002-137叉 2016.12.018 Sliding-window ßased Topic Modeling 1 1 1 1 CHANG Dong-ya YAN Jian-feng ,2 YANG Lu LIU Xiaσsheng (School of Computer Science and Technology ,Soochow University ,Suzhou 215006 ,China)1 (School of Creative Media ,City University of Hong Kong ,Hong Kong 999077 ,China)2 Abstract LDACLatent Dirichlet Allocation) is an important hierarchical Bayesian model for probabilistic topic mode- ling ,which touches on many important applications of text mining. This model takes neither the order of documents nor the order of words in one document into account ,which simplifies the complexity of issues and provides a great chance to improve itself. To achieve this goal ,a sliding-window based topic model was proposed. The fundamental idea of this model is that the theme of one word in a specific document has a strong relationship at the words near by and