使用BiDAF答案指针机器理解系统设计与实现.pdfVIP

使用BiDAF和指针的机器理解

计算机科学系

wzehui@stanford.edu

计算机科学系

xzang@stanford.edu

在这个项目中，我们为SQuAD实现了一个深度学习系统。在输入层，除了词嵌

入外，我们还使用了字符级别的CNN嵌入和一些手动特征。在注意力层，我们使用

了双向注意力流（Bi‑DirectionalAttentionFlow,BIDAF）[7]来获得查询感知的上

下文表示。为了预测开始和结束位置，我们重新实现了“Match‑LSTMwith

AnswerPointer”[8]中的边界模型，并使用动态规划搜索具有最大联合概率的开始

和结束位置。我们的模型在测试榜上取得了F1分数71.6%和EM分数60.38%。

1引言

机器阅读理解是自然语言处理中的一个重要任务。如果对于文本中的任何问题，

大多数母语使用者都能正确回答，那么机器能够一个字符串，这些使用者会

认为这个字符串既回答了问题，又不包含与问题无关的信息，就可以说机器理解

了这段文本。[2]斯坦福问答数据集（SQuAD）是一个新的阅读理解数据集，专注

于解决这个问题。本项目的目的是开发一个在SQuAD上表现良好的阅读理解系统。

2相关工作