具有词判别力学习能力的短文本聚类概率模型研究-计算机应用研究.PDF

第３５卷第１２期 计 算 机 应 用 研 究 Ｖｏｌ３５Ｎｏ１２ ２０１８年１２月　 ＡｐｐｌｉｃａｔｉｏｎＲｅｓｅａｒｃｈｏｆＣｏｍｐｕｔｅｒｓ Ｄｅｃ．２０１８ 具有词判别力学习能力的 短文本聚类概率模型研究 牛亚男ａ，ｂ （北京交通大学ａ．计算机与信息技术学院；ｂ．交通数据分析与挖掘北京市重点实验室，北京 １０００４４） 摘　要：社交媒体的广泛使用使短文本聚类成为一个重要的研究课题。为了解决由于短文本词向量的高维、稀 疏性而造成的传统文本聚类方法应用在在短文本上效果欠佳的问题，通过大量的研究调查发现由于短文本词向 量的稀疏性，词对簇结构的判别能力对短文本类结构的学习尤为重要。在经典文本聚类模型 ＬＤＡ（ｌａｔｅｎｔ Ｄｉｒｉｃｈｌｅｔａｌｌｏｃａｔｉｏｎ）、ＢＴＭ（ｂｉｔｅｒｍｔｏｐｉｃｍｏｄｅｌ）和ＧＳＤＭＭ（Ｇｉｂｂｓｓａｍｐｌｉｎｇｄｉｒｉｃｈｌｅｔｍｕｌｔｉｎｏｍｉａｌｍｉｘｔｕｒｅｍｏｄｅｌ）中增 加二项分布来衡量词对类结构学习中的判别力强弱，并通过Ｇｉｂｂｓ采样算法对模型中的参数进行求解。最后在 真实数据集上的实验结果显示，增加词判别力的学习可以提高现有概率模型聚类方法的精确度、互信息值和Ｆ 值，验证了词判别力学习对类结构学习的有效性。 关键词：短文本聚类；概率模型；判别力 中图分类号：ＴＰ３９１．１　　　文献标志码：Ａ　　　文章编号：１００１３６９５（２０１８）１２３５６９０６ ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１００１３６９５．２０１８．１２．０１１ Ｒｅｓｅａｒｃｈｏｎｓｈｏｒｔｔｅｘｔｃｌｕｓｔｅｒｉｎｇｐｒｏｂａｂｉｌｉｔｙｍｏｄｅｌｗｉｔｈｗｏｒｄｄｉｓｃｒｉｍｉｎａｔｉｏｎａｂｉｌｉｔｙ ａ，ｂ ＮｉｕＹａｎａｎ （ａ．ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒ＆ＩｎｆｏｒｍａｔｉｏｎＴｅｃｈｎｏｌｏｇｙ，ｂ．ＢｅｉｊｉｎｇＫｅｙＬａｂｏｒａｔｏｒｙｏｆＴｒａｆｆｉｃＤａｔａＡｎａｌｙｓｉｓ＆Ｍｉｎｉｎｇ，ＢｅｉｊｉｎｇＪｉａｏｔｏｎｇＵｎｉｖｅｒｓｉｔｙ， Ｂｅｉｊｉｎｇ１０００４４，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｔｈｅｗｉｄｅｓｐｒｅａｄｕｓｅｏｆｓｏｃｉａｌｍｅｄｉａｍａｋｅｓｓｈｏｒｔｔｅｘｔｓｃｌｕｓｔｅｒｉｎｇａｎｉｍｐｏｒｔａｎｔｒｅｓｅａｒｃｈｔｏｐｉｃ．Ｉｎｏｒｄｅｒｔｏｓｏｌｖｅｔｈｅ ｐｒｏｂｌｅｍｔｈａｔｔｈｅｔｒａｄｉｔｉｏｎａｌｔｅｘｔｃｌｕｓｔｅｒｉｎｇｍｅｔｈｏｄｄｏｎｏｔｗｅｌｌｉｎｓｈｏｒｔｔｅｘｔｃａｕｓｅｄｂｙｔｈｅｈｉｇｈｄｉｍｅｎｓｉｏｎａｎｄｓｐａｒｓｅｎｅｓｓｏｆｔｈｅ ｓｈｏｒｔｔｅｘｔｗｏｒｄｖｅｃｔｏｒ．Ｉｔｆｉｎｄｔｈａｔｄｕｅｔｏｔｈｅｓｐａｒｓｅｎｅｓｓｏｆｔｈｅｓｈｏｒｔｔｅｘｔ，ｔｈｅｗｏｒｄｄｉｓｃｒｉｍｉｎａｔｉｖｅａｂｉｌｉｔｙｉｓｐａｒｔｉｃｕｌａｒｌｙｉｍｐｏｒｔａｎｔ ｆｏｒｔｈｅｓｔｕｄｙｏｆｓｈｏｒｔｔｅｘｔｃｌａｓｓｓｔｒｕｃｔｕｒｅｓ．ＩｎｔｈｅｃｌａｓｓｉｃａｌｔｅｘｔｃｌｕｓｔｅｒｉｎｇｍｏｄｅｌＬＤＡ（ｌａｔｅｎｔＤｉｒｉｃｈｌｅｔａｌｌｏｃａｔｉｏｎ），ＢＴＭ（ｂｉｔｅｒｍ ｔｏｐｉｃｍｏｄｅｌ）ａｎｄＧＳＤＭＭ（Ｇｉｂｂｓｓａｍｐｌｉｎｇｄｉｒｉｃｈｌｅｔｍｕｌｔｉｎｏｍｉａｌｍｉｘｔｕｒｅｍｏｄｅｌ），ｉｔａｄｄｅｄｔｈｅｂｉｎｏｍｉａｌｄｉｓｔｒｉｂｕｔｉｏｎｔｏｍｅａｓｕｒｅ ｔｈｅｄｉｓｃｒｉｍｉｎａｎｔａｂｉｌｉｔｙｉｎｔｈｅｃｌａｓｓｓｔｒｕｃｔｕｒｅｌｅａｒｎｉｎｇ，ａｎｄｓｏｌｖｅｄｔｈｅｐａｒａｍｅｔｅｒｓｉｎｔｈｅｍｏｄｅｌｂｙＧｉｂｂｓｓａｍｐｌｉｎｇａｌｇｏｒｉｔｈｍ．Ｆｉ ｎａ