大模型结合 RAG 构建客服场景自动问答.pdf

大模型结合RAG构建客服场景自动问答

齐家兴，NVIDIA资深解决方案架构师

RAG基本概念

•检索增强生成（RAG）从外部知识库检索事实，结合大语言模

型针对用户的问题作出回答。它确保模型能够访问最新、可靠

的事实，并且用户能够访问检索的来源，确保可以检查其声明

的准确性。

•开源工具包LangChain,LlamaIndex等提供了构建RAG的众多

组件:

•文件读取(word,pdf,md,html,…)

•索引(vectorDB,keyword,knowledgegraph,….)

•存储(vectorstore,KVstore,graphstore,….)

•大模型(ChatGPT,LLaMa,….)

•评估

•RAG是一种范式，需要根据场景定制达到最好效果。

客服场景自动问答

背景介绍

用户：登陆

•已有的自动回复系统

•现有的客服自动回复系统由两个部分组成：自动回复和人工客服

•当用户提问时，系统使用关键词匹配的方法从预先准备好的问答客服：您是不是要咨询以下问题：

对中寻找相关答案。如果匹配失败，系统返回若干相似的问题让1，无法登录

用户进行选择。如果用户不满意，可以呼叫人工客服对话。2，手机端如何登录

•关键词匹配的方法虽然简单但经常失败，因为即便一个字不同也3，账号被盗

无法匹配，例如登陆vs.登录4，从哪里下载PC端程序

5，找回登录名

•自动问答系统的目标

•借助大模型更精准的回答用户问题，提升服务效率，降低人工成

本。用户：找回登录名

客服：你可以参考网页链接进行找回。

使用关键词匹配进行自动回复

客服场景自动问答

数据情况

如您开启登录保护验证，请点击查看登录提示需要【登录保护验证】

•我们在这个场景中可以使用的数据：解决办法为了确保您的账号安全，使用密码登录时，需完成短信或私

信等方式验证，验证通过即可登录。验证时您可以选择接收短信验证

•客服部门的内部的规则介绍和常见问题，作为知识库用来回答用户码验证、私信验证、扫码验证或选择其他方式验证。1、如验证时页

面出现异常，建议您清除浏览器缓存或换个浏览器再进行尝试，如提

问题。文本格式与内容无规则。示频繁，建议休息一段时间再进行尝试。*注：如选择私信验证方式，