基于神经网络的对话系统中用户意图识别与槽位填充的联合建模与不确定性处理研究综述.docVIP

基于神经网络的对话系统中用户意图识别与槽位填充的联合建模与不确定性处理研究综述

一、联合建模的技术演进脉络

对话系统的自然语言理解模块中，意图识别与槽位填充是两项核心子任务。早期研究多采用流水线架构，先通过分类模型识别用户意图，再将识别结果作为特征输入序列标注模型完成槽位提取，这种架构存在误差传递问题：上游意图识别的错误会直接传导至下游槽位填充任务，且无法利用两项任务间的内在关联特征。随着神经网络技术的发展，联合建模逐渐成为主流方向，其核心思想是通过共享语义编码层，让两项任务在训练过程中互相传递信息，充分利用意图与槽位之间的依赖关系——例如当用户意图为“预订机票”时，槽位大概率会包含“出发城市”“到达城市”“出发时间”等实体，这种先验知识可以通过联合建模自动学习。

2016年，谷歌提出的Slot-Gated模型首次明确了意图与槽位的门控交互机制，该模型在共享的BiLSTM编码层基础上，增加了槽位门控单元，将意图编码的全局信息注入到每个槽位的标注决策中，在ATIS数据集上将槽位填充F1值提升了1.2%，意图识别准确率提升了0.8%，首次证明了联合建模的实际价值。此后，基于注意力机制的联合模型开始涌现，2018年的BiRNNwithself-attention模型通过引入自注意力机制捕捉句子中的长距离依赖，解决了BiLSTM对长文本语义编码不足的问题，在SNIPS数据集上实现了意图