amp;,99的中文短文本分类研究 ！.PDFVIP

第 卷第 期 计 算 机 应 用 研 究 年 月 基于的中文短文本分类研究 余本功 张连彬 合肥工业大学 管理学院 过程优化与智能决策教育部重点实验室 合肥 摘 要 短文本具有长度短特征稀疏以及上下文依赖强等特点传统方法对其直接进行分类精度有限 针对 此问题提出了一种结合字符和词的双输入卷积神经网络模型 该模型通过加入一种用拼音序列表征 字符级输入的方法构建字符级和词级的双输入矩阵并在采样层使用采样方法增强模型特征的表达能 力 利用豆瓣电影评论数据集对该模型进行识别精度评估实验结果表明与传统分类模型和标准卷积神经网 络模型相比该模型可有效提高短文本分类效果 关键词 短文本 分类 卷积神经网络 中图分类号 文献标志码 文章编号 近年来随着深度学习技术的不断发展越来越多的研究 引言 人员开始将深度神经网络的相关技术应用到自然语言处理领 随着互联网技术和移动社交网络平台的迅速发展微博博 域中 深度神经网络模型能够通过多层网络不断组合低层文 文即时会话和用户评论等中文短文本信息迅速增长 这些文 本信息形成更加抽象的高层文本表示从而提高模型的准确 性 例如卷积神经网络具有优异的特征自抽取能力 本长度短语境依赖性强在信息检索 文本推荐 和关系 能够显著降低文本分类中人工抽取特征的难度基于神经网络 抽取 等领域具有重要的研究价值 短文本分类作为自然语 言处理领域的一项基础任务能够有效提高对短文本的利用程 模型的单词嵌入 技术 则为短文本进行语 度这对于构建智能化的语义系统具有重要作用因此受到越 义化向量表示提供了新的思路 来越多的研究人员的关注 为了解决短文本特征信息共现不足与人工抽取特征困难 传统的短文本分类技术大体上采用的是基于文本特征拓 的问题本文拟将单词嵌入与卷积神经网络结合的方法用于短 展的方法可进一步分为基于规则的方法和基于统计量的方 文本分类问题 考虑到实际中文短文本中噪声大拼写错误和 法 基于规则的方法主要依靠专家知识通过对数据集制定一 同音词多的特征 本文提出一种结合字符和词的双输入卷 定的规则来进行分类这种方法虽然简单但是难以在其他数 积神经网络模型通过引入拼音序列表征字符输入特征降低 据集和场景下推广基于统计量的方法则主要从机器学习角度 同音词拼写错误对分类结果的影响同时在采样层使用 出发引入外部语料对短文本进行拓展进而对人工标注的文 降采样策略提高模型的准确性 本进行特征抽取将短文本分类问题转换成一个长文本的