基于词嵌入与概率主题模型的社会媒体话题识别-计算机工程.PDFVIP

第 卷 第 期 计 算 机 工 程 年 月 人工智能及识别技术 文章编号 文献标志码 中图分类号 基于词嵌入与概率主题模型的社会媒体话题识别 余 冲李 晶孙旭东傅向华 深圳大学 计算机与软件学院广东 深圳 摘 要 词嵌入技术能从大语料库中捕获词语的语义信息将其与概率主题模型结合可解决标准主题模型缺乏语 义信息的问题 为此同时对词嵌入和主题模型进行改进构建词主题混合模型 在主题词嵌入模型中引 入外部语料库获得初始主题和单词表示通过定义主题向量和词嵌入的条件概率分布将词嵌入特征表示和主题 向量集成到主题模型中同时最小化新词主题分布函数和原始词主题分布函数的 散度 实验结果表明与 和模型相比该模型在词表示和主题检测方面性能更好 关键词 社会媒体话题检测特征表示词嵌入话题模型词主题混合模型 中文引用格式余 冲李 晶孙旭东等基于词嵌入与概率主题模型的社会媒体话题识别计算机工程 英文引用格式 模型的主题检测性能不佳 常用的主题建模算法 概述 如潜在狄利克雷分布 话题识别是自然语言处理和信息检索领域中的 模型 和相关方法 由频率统计推断文档主 热点问题 传统的话题检测方法主要以词作为基本 题和主题词的概率分布 只能反映词 的共现关 特征通过统计词语之间的共现关系计算主题的概 系 而未能较多地考虑语义信息 率 例如概率主题模型就是最常见的一类主题检测 与词袋表示方式不同有研究人员提出利用神 方法其对传统的长文本检测性能较好 但在具体 经网络语言模型 的社会媒体话题检测中由于社会媒体数据形式多 进行词的分布式表示 即词嵌入