基于神经网络的依存句法分析中字符级信息与词级信息的融合策略研究综述.docVIP

基于神经网络的依存句法分析中字符级信息与词级信息的融合策略研究综述

一、依存句法分析的技术演进与信息融合需求

依存句法分析的核心目标是揭示句子中词汇之间的修饰与被修饰关系，通过有向边构建体现句法结构的依存树，是自然语言处理领域连接语义理解与下游任务的关键枢纽。早期基于规则的依存分析系统高度依赖人工编写的句法规则，在领域适配性与歧义处理能力上存在明显局限；统计句法分析阶段通过对大规模树库数据进行特征工程，提取词汇、词性、n-gram等离散特征训练概率模型，显著提升了分析准确率，但特征设计的人工成本高昂，且难以捕捉语言中的长距离依赖与隐含语义关联。

2014年以来，神经网络技术的普及推动依存句法分析进入深度学习时代，基于循环神经网络（RNN）、图神经网络（GNN）、Transformer的模型相继涌现，模型无需人工特征工程即可自动学习文本的分布式表示，在通用领域树库上的标注准确率突破90%阈值。但主流模型最初以词级嵌入作为输入基础，在实际应用中逐渐暴露出三类核心问题：其一，对低频词、未登录词（OOV）的表示能力不足，尤其在专业领域文本、社交媒体文本等存在大量生僻词、新词的场景下，词嵌入的语义偏差直接导致依存边预测错误；其二，忽略了词汇内部的形态学信息，对于屈折变化丰富的语言（如西班牙语、阿拉伯语）以及表意文字（如中文、日文），字符层面的偏旁部首、词缀变化本身携带着重要的句法属性提示；其