基于局部和全局的LDA话题演化分析-SJTUCS-上海交通大学.PDFVIP

基于局部和全局的LDA 话题演化分析1 章 建，李 芳 (上海交通大学 计算机科学与工程系,上海 200240) 摘 要: 话题演化研究某个话题内容和强度随时间的变化。本文对LDA 话题演化进行形式化 描述，探讨基于全局和局部话题演化的两种建模方式，应用话题相似度和困惑度评测。对 房地产话题和奥运会话题实例分析，给出两种不同建模方法在话题演化方面的优缺点。二 会报告实验结果表明，全局话题演化能够获得较好的模型参数，方法简单可靠；而局部话 题演化则能产生细粒度的话题，反映新话题的产生和旧话题的消亡。 关键词：文字信息处理；狄利特利分布（LDA）；话题关联；话题演化; 中图分类号：TP391 文献标识码：A LDA topic evolution based on global and local modeling ZHANG Jian, LI Fang ( Dept. of Computer Science and Engineering, Shanghai Jiaotong Univ. Shanghai 200240, China) Abstract: Topic evolution means the changes of contents and strength of a topic over time. The paper first gives the definition of topic evolution, describes two methods of topic evolution based on global and local documents. Two metrics of topic similarity and perplexity are used to evaluate both methods. The evolutions of two topics (the real estate vs. the 2008 Olympic game) are analyzed. Experiments on the recent 5 years of NPCCPPCC news reports show that topic evolution based on global documents can get good topic model, the evolution method is easy, while topic evolution based on local documents can produce fine topics and show the arise of new topics and the vanish of old topics. 1收稿日期：2012-03-30 基金项目：国家自然科学基金项目 作者简介：章建(1987－),男,硕士,主要研究领域为自然语言处理,信息检索与信息抽取。 李芳(联系人),女,博士,副教授。电话(Tel.)：021E-mail：fli@ Keywords: Text Information Processing; Latent Dirichlet Allocation; Topic Detection and Evolution; 在 TDT 研究中，话题被定义为一个种子事件以及与之相关的所有事件或活动。广义 上，话题不仅仅表示具有特定时间、地点、人物的事件以及由此引发的各种事件，还表示 某些没有具体时间地点的热点话题，这些话题周期性出现, 例如“医疗改革”、“行政体 制改革”等出现在 “全国两会”的新闻语料中。话题演化反映了某一个话题从它的提出， 上升，下降，最后结束，这样一个过程。随着时间的变化，话题强度和内容都会发生变 化，即存在话题的迁移[1]。如何自动发现话题以及话题随时间的变化是本文研究的目的。 近年来, LDA （Latent Dirichlet Allocation）模型[2]得到了广泛的应用。根据参考 文献[3]， LDA 话题演化分为三种方法，其中，对文档集合先离散[4-7]