对话系统中的NLP清华大学朱小燕2017.10.13
BOTs问答一问一答对话有问有答,包含上下文逻辑交互融合更多种类环境/上下文信息,作出不同决策或推荐2
KeyIssuesinDialogueSystemsDialogueIntentAnalysismend?Request?Confirmation?DialogueManagementThenextactionThenextutteranceLanguageGenerationFromintenttolanguageFromcontexttolanguageEnd-2-endDialogueSystemNeuraldialoguesystemDeepreinforcementlearningOpendomainchattingmachines2025/5/93
ApproachesNLUPatternbasedNNbased……DMStateMachineBayesianNetworksNeuralNetworks……NLGPatternbasedNNbased4KnowledgeBaseInputOutputEndtoEnd
NLP无处不在前端后端对话管理知识管理
NLP无处不在前端从处理内容的角度输入语义分析WordtoVector、关键词抽取、分词、浅层语法分析、深层语法分析、。。。输入语义分类各种层次,词、句子、。。。各种层面的相似度度量同义词、问题相似度、问题与内容的匹配度。。。从方法的角度传统的、基于深度学习的方法后端对话管理知识管理
传统方法Semanticparser问题:如何设计构建规则库?如何利用机器学习的方法?如何引入/融入知识?如何能够在线学习?X/Y:fY:a?X:fa ()Y:aX\Y:f?X:fa ()X/Y:fY/Z:g?X/Z:λz.f(gz) (B)Y\Z:gX\Y:f?X\Z:λz.f(gz) (B)2025/5/97
基于深度学习方法Embedding-basedBordesetal.QuestionAnsweringwithSubgraphEmbedding,InProceedingsofEMNLP5/98
输入意图理解(1)基本模型之一(深度学习模型,endtoend)任务分类:问题相似度度量主要应用:FAQ类任务模型分类:检索模型基本模型:序列比对步骤:训练:数据内容向量化,大规模数据训练模型应用:输入通过模型与已存数据进行比较(度量),最相似的问题对应的答案便是数据结果问题:如何融入知识?如何增量学习?
意图理解(2):RepresentingPairedSentences:SentenceInteractionNetworkModelingdependencebetweensentencesisfundamentalinNLP2025/5/910
RepresentingPairedSentences:SentenceInteractionNetworkAsimplesolutionThesemanticmatchinginformationislostduringsentenceembedding.Sentence1Sentence2SentenceVectorSentenceVectorClassifierSentence1Sentence2SentenceVectorSentenceVectorClassifierOurideaLettheinformationflowbetweenoneandanother2025/5/911
RepresentingPairedSentences:SentenceInteractionNetworkInteraction:informationflowbetweenoneandanotherInteractionstatecomputingBiaoLiu,MinlieHuang,etal.?ASentenceInteractionNetworkforModelingDependencebetweenSentences.ACL2016,Berlin,Germany.2025/5/912
RepresentingPairedSentences:SentenceInteractionNetwork
原创力文档

文档评论(0)