结合RNN和CNN层次化网络的中文文本情感分类.pdfVIP

北京大学学报(自然科学版) 第 54 卷 第 3 期 2018 年 5 月 Acta Scientiarum Naturalium Universitatis Pekinensis, Vol. 54, No. 3 (May 2018) doi: 10.13209/j.0479-8023.2017.168 结合RNN 和CNN 层次化网络的中文文本情感分类 罗帆 王厚峰† 北京大学计算语言学研究所 , 北京 100871 ; † 通信作者 , E-mail: wanghf@ 摘要 提出一种多层网络 H-RNN-CNN, 用于处理中文文本情感分类任务。将文本按句子进行划分 , 引入 句子层作为中间层, 以改善文本过长带来的信息丢失等问题。模型中使用循环神经网络建模词语序列和句 子序列 , 并通过卷积神经网络识别跨语句的信息。探讨循环神经网络变种和不同输入向量对模型的影响。 实验结果表明, 所提方法在多类数据集上都取得良好的效果。 关键词 中文情感分类; 深度学习 ; 卷积神经网络 ; 循环神经网络 中图分类号 TP312 Chinese Text Sentiment Classification by H-RNN-CNN LUO Fan, WANG Houfeng† Institute of Computational Linguistics, Peking University, Beijing 100871; † Corresponding author, E-mail: wanghf@ Abstract The authors present a hierarchical neural network H-RNN-CNN as a general model to represent text in sentiment analysis. Firstly, since information may lose in long text, the authors divide the text by sentence and use them as middle layer. Secondly, recurrent neural network is used to process sequence and relationship across sentences is captured by convolutional neural network. Moreover, the effectiveness of the variants of recurrent neural network and the pre-trained embedding are discussed. Experiment results demonstrate that the approach works well on several datasets. Key words sentiment classification; deep learning; convolutional neural network; recurrent neural network 文本情感分类是指判断文本的情感极性。在互 (bigram) 为基本特征 , 设计 NBSVM 分类器 , 综合 联网时代 , 大量带有情感倾向的文本数据对人们的 了朴素贝叶斯(Naïve Bayes, NB)和支持向量机(sup- 决策具有重要的作用。例如 , 消费者在购物时, 希 port vector machine, SVM)两种分类器, 在多个数据 望根据商品已有的评