基于深度神经网络的细粒度情感元素抽取.docxVIP

PAGE 4 基于深度神经网络的细粒度情感元素抽取  摘 要 细粒度情感元素抽取是文本情感分析的一个重要任务之一。已有的工作包括两种类型：采用专家模板和采用基于CRF的机器学习算法。随着深度学习技术的发展和LSTM循环网络结构在众多情感分析任务上取得了巨大成功，在本课题中，我们将从字符级别的序列标注问题这一角度来抽取评价对象和评价表达，并在一般的LSTM循环神经网络结构的基础上提出了一种融合窗口的神经网络模型。实验结果表明，我们的融合网络模型超越了一般的LSTM、双向LSTM模型。此外，我们提出的融合网络模型取得了比之前CRF baseline更好的性能，并且不需要任何手工标注的特征，同时还在多个数据集上取得了与使用了大量特征的最好系统相当的结果。 关键词：深度学习；情感元素抽取；循环神经网络；上下文窗口  Abstract Fine-grained opinion extraction is one of the most important task of textual sentiment analysis. Existing works including two type: one is using expert template and the other is using CRF-based machining learning algorithms. With the development of deep learning techniques and the success of LSTM recurrent neural networks on many sentiment analysis tasks, in this project, we will form opinion target extraction and opinion expression extraction as token-level sequence labeling problems and propose a window-based neural model built upon the common LSTM recurrent neural network model. Experimental results show that our hybrid models outperform common LSTM and Bidirectional LSTM. Furthermore, our hybrid models achieve better results than the previous CRF baseline without any hand-crafted features while obtaining competitive results comparing to top systems with rich features on several datasets. Keywords: deep learning, opinion element extraction, recurrent neural networks, context window  目 录 TOC \o 1-3 \h \z \u 摘 要 1 Abstract 2 第1章 绪 论 1 1.1 课题背景及研究的目的和意义 1 1.2 国内外研究现状及分析 1 1.2.1 情感元素抽取 1 1.2.2 深度学习 2 1.3 本文的主要研究内容 3 第2章 基于窗口的前馈神经网络 5 2.1 引言 5 2.2 词向量 5 2.3 基于窗口的前馈神经网络 6 2.4 实验结果及分析 7 2.4.1 数据获取及预处理 7 2.4.2 实验参数设置 8 2.4.3 评价对象抽取 9 2.4.4 评价表达抽取 9 2.5 本章小结 10 第3章 循环神经网络 11 3.1 引言 11 3.2 Elman型循环神经网络 11 3.3 长短记忆循环神经网络 12 3.4 双向循环神经网络 14 3.5 实验结果及分析 15 3.5.1 模型参数及特征设置 15 3.5.2 评价对象抽取 16 3.5.3 评价表达抽取 17 3.6 本章小结 18 第4章 融合窗口的循环神经网络 19 4.1 引言 19 4.2 输入层窗口 19 4.3 隐含层窗口 21 4.4 实验结果及分析