基于机器学习的汉语短文本分类方法研究与实现-计算机技术专业论文.docxVIP

Abstractof Abstract of text．And on this basis，comparing the effects of three different sentences vector fusion method of classification results，Including sentence embedding fusion based on the word embedding pooling，sentence embedding fusion based on the PV-DM model， sentence embedding fusion based on the word embedding connect，Experimental results show that the effect of short text categorization based on the word embedding representation is superior to the traditional bag of words based on short text classification model，three of the fusion method based on fusion PV-DM model more prominent，and achieved good results． Keywords：Short text classification；Machine learning；Bag of words model；Latent Dirichlet Allocation；Word embedding 万方数据 黑龙江大学硕士学位论文目 黑龙江大学硕士学位论文 目 录 中文摘要 I Abs昀Ct ．．Il 第1章 绪论 ．1 1．1研究目的和意义 ．．1 1．2短文本分类研究现状 ．．2 1．3中文短文本分类研究存在的主要问题 。5 1．4本文主要研究内容 。5 1．5本文的组织安排 ．．6 第2章 基于传统词袋模型的汉语短文本分类 ．8 2．1 引言 。 8 2．2特征选择与权重计算 。 。 9 2．2．1特征选择 9 —2．2．2—权重让算 』一 2．3文本表示 ．14 2．3．1文本预处理 ．．15 2．3．2文本表示 。l 7 2．3．3相似性度量 ．．17 2．4分类方法 18 2．4．1朴素贝叶斯 19 2．4．2支持向量机 ．．19 2．5系统总体结构及流程 20 2．5．1基于词袋的短文本分类 ．．2 l 2．5．2基于LDA的短文本分类 23 2．6实验结果与分析 26 2．6．1实验数据和评价指标 ．．26 万方数据 目录2．6．2实验结果与分析 目录 2．6．2实验结果与分析 ．．29 2．7本章小结 41 第3章 基于词向量特征的汉语短文本分类 42 3．1 引言 ．．42 3．2词向量的获取 43 3．3句向量的获取 45 3．3．1 RAE 45 ：；．：；．2 Doc2vec 45 3．4系统总体结构与流程 46 3．4．1基于词向量pooling融合的短文本分类 48 3．4．2基于doc2vec融合的短文本分类 50 3．4．3基于词向量连接融合的短文本分类 ．．5 l 3．5实验结果与分析 53 3．5．1实验设置 ．．53 3．5．2实验结果与分析 ．．54 3．6系统界面 70 3．7本章小结 70 结论 72 参考文献 74 致谢 79 攻读硕士学位期间发表的学术论文及参加的科研项目 80 独创性声明 8 1 万方数据 第1章绪论第1章绪论 第1章绪论 第1章绪论 1．1研究目的和意义 随着互联网技术不断地成熟，网络用户的激增，近几年来中文短文本信息迅 速增长，互联网短文本已经成为一种重要的信息传播途径。为了实现大规模文本 信息的过滤和提取，抽取用户需求的信息，对文本进行分类是首选最方便快捷的 手段。互联网短文本分类主要是针对兴趣小组讨论、电子公告、新闻标题、手机 短信、用户之间的即时聊天记录等原始文本。具体实现过程是按照制定的分类体 系进行分类，一直是自然语言处理领域的重要研究课题。由于短文本自身内容短 小精悍，文字少这一特点直接导致包含特征较少，对短文本分类有很大的难度， 因此如何快速准确地进行互联网短文本分类具有重要意义。 从二十世纪六十年代以来，文本分类经历了三个阶段，分别是基于手工的分 类、文本的自动化分类和文本的智能分类。其中最早的基于人力的手工分类是根 据人类的知识和经验制定知识规则，因人力耗费比较大并且扩展性较差被淘汰。 智能分类的基础是语义理解和上下文语境，是语义网采用的主要技术，但是当前 技术还不是很成熟，并