用于电子邮件回复预测神模型研究.pdfVIP

用于电子邮件回复预测的神经模型

・利维特

斯坦福大学

tuckerl@cs.stanford.edu

在本项目中，我们应用了几种神经模型来预测用户是否会回复给定文本的电子

邮件。我们从Enron电子邮件数据集中提取了电子邮件回复信息，并训练了三种

类型的神经模型：两层LSTM、带时间最大池化的CNN以及带有MLP注意层的

LSTM。我们的最佳模型达到了87.2的F1分数，优于基线模型和现有的机器学习

框架。

1引言

尽管电子邮件已经存在了很长时间，但它仍然是最受欢迎的活动之一。电子

邮件是跨组织边界沟通的主要，尽管在许多方面它已经过时。像

Inbox这样的产品开始为电子邮件带来智能推荐和更好的组织功能。过去四年中

自然语言处理的进步，对改进电子邮件的应用具有巨大的潜力。

为了创造更加智能的电子邮件体验，本项目旨在构建一个神经网络，用于预测电

子邮件接收者是否会回复或转发邮件。过去，机器学习技术已被应用于电子邮件

回复预测问题，但很少有研究将的深度学习和神经网络进展应用于这一问题。

2相关工作

2.1电子邮件回复预测

在这里，我们对现有文献中关于电子邮件回复预测的研究进行了简要综述。大多数研

究使用手动整理的电子邮件特征，并采用简单的、“传统”的机器学习模型进行分类。

NeuralModelsforEmailResponsePrediction

TuckerLeavitt

StanfordUniversity

tuckerl@cs.stanford.edu

Inthisproject,weapplyseveralneuralmodelstotheproblemofpredictingwhethera

userwillrespondtoanemail,giventhetextoftheemail.Weextractemailresponse

informationfromtheEnronemaildataset,andtrainthreetypesofneuralmodels:a

two-layerLSTM,aCNNwithmax-poolingovertime,andaLSTMwithanMLPattention

layer.OurbestmodelachievesanF1scoreof87.2,outperformingourbaselinesand

existingmachinelearningframeworksforthetask.

1Introduction

Despiteitsage,emailremainsoneofthemostpopularonlineactivities.Emailisthe

primarycommunicationchannelfortalkingacrossorganizationalboundaries,thoughin

manywaysitisoutdated.ProductslikeInboxarestartingtobringintelligent

recommendationsandterorganizationtoemail.Theadvancesinnaturallanguage

processingoverthepastfouryearshavegreatpotentialforapplicationsthatimprove

email.

Towardscreatingamoreintelligentemailexperience,thisprojectseekstocreatea

neuralnetworkforthetaskofpredictingwhethertherecipientofanemailwillreplyor

forwardit.Machinelearningtechniqueshavebeenappliedtotheemailreplyprediction

probleminthepast,buttherehasbeenlittleworkdoneo