探索SQuAD数据集上速度与内存优权衡.pdfVIP

探索在SQuAD数据集上实现最佳性能的速度与内存权衡

RenatAksitov

raksitov@

在这个项目中，我正在构建一个用于斯坦福问答数据集的阅读理解深度学习系统。

通过探索一些在SQuAD上表现优异的模型，我仔细选择了可以适应的细节、可能

需要改变的部分以及完全放弃的部分。我的选择主要受计算资源限制的影响。总

体而言，我能够训练出一个在开发数据集上达到76.37F1和66.00EM的单模型，

以及一个在测试数据集上达到79.86F1和71.75EM的10个模型的集成。

1引言

本项目的重点是将深度学习技术应用于阅读理解的问答任务。这是一个对算法具

有