融合Gate过滤机制与深度Bi-LSTM-CRF的汉语语义角色标注.PDF

DISCOVERY AND RESEARCH 探索与研究 doi:10.3772/j.issn.2095-915x.2018.02.005 融合Gate过滤机制与深度Bi-LSTM-CRF的汉语语 义角色标注 张苗苗　刘明童　张玉洁　徐金安　陈钰枫 北京交通大学计算机与信息技术学院　北京　100044 摘 要 语义角色标注的传统方法采用基于句法特征的统计机器学习方法。由于依存句法可以表示词 语之间的语义关系，故在语义角色标注中取得了较好的性能；但该方法存在特征抽取过程繁琐，难以 捕捉句子中长距离依赖等问题。随着深度学习的兴起，研究者将基于双向长短时记忆（Bidirectional Long Short-Term Memory，Bi-LSTM）神经网络模型用于语义角色标注。该模型可以自动学习特征， 并对词与词之间的远距离依赖关系进行有效建模。本文提出融合 Bi-LSTM-CRF 模型与依存句法特 征的方法，并且引入 Gate 过滤机制对词向量表示进行调整，以达到利用句法特征提高语义角色标注 精度的同时，规避特征工程的繁琐。CPB 上的实验结果表明，利用本文所提方法的汉语语义角色标注 的 F1 值达到 79.53%，比前人的方法有了较为显著的提升。 关键词：汉语语义角色标注；Gate 过滤机制；Bi-LSTM-CRF；依存句法分析 中图分类号：TP391 开放科学（资源服务）标识码（OSID） The Integration of Gated Filtering Mechanism and Deep Bi-LSTM-CRF for Chinese Semantic Role Labeling ZHANG Miaomiao LIU Mingtong ZHANG Yujie XU Jinan CHEN Yufeng The School of Computer and Information Technology, Beijing Jiaotong University, Beijing 100044, China 基金项目：北京交通大学人才基金（KKR；国家自然科学基金61473294）；北京市自然科学基金 （4172047）。 作者简介：张苗苗（1992-），硕士，研究方向：自然语言处理、语义分析，Email；刘明童（1993-），博 士，研究方向：自然语言处理、复述；张玉洁（1961-），博士，教授，研究方向：自然语言处理、机器翻译、文本大数据处理；徐金 安（1970-），博士，副教授，研究方向：自然语言处理、机器翻译；陈钰枫（1981-），博士，副教授，研究方向：自然语言处理、 机器翻译。 TECHNOLOGY INTELLIGENCE ENGINEERING 2018 年第 4 卷 第 2 期 045 探索与研究 DISCOVERY AND RESEARCH doi:10.3772/j.issn.2095-915x.2018.02.005 Abstract The traditional statistical methods which based on the syntactic features algorithm were frequently used for the Chinese semantic role labeling. Since the dependency parsing provides semantic relations between words, better performances in semantic role labeling were achieved. However, hand- crafted feature extraction process was complicated in such methods and it is difficult to capture the long range dependences in a sentence. With the developmen