基于bert模型的中文转SQL.docx

基于bert模型的中文转SQL

摘要：现如今大量的数据存储在关系型数据库中，不过用户访问这些数据就要会复杂的数据库查询语言，为了让数据查询的门槛更低，我们基于bert模型实现了一个将中文自然语言转成SQL查询的系统。我们使用了哈工大的BERT-wwm,chinese模型，对数据进行分词，获得词向量嵌入，然后经过12层Transformer的训练，获取问题和表的特征向量，用神经网络训练得到sql语句。模型在天池NL2SQL数据集上进行训练，它是现如今质量最高的中文数据集，涵盖了通用领域的表格数据。在词数据集上，模型的SQL预测正确率达到了86%，执行正确率达到了89%。以这个模型作接口，我们结合