2024人工智能 RAG 的开放性及企业落地.pptxVIP

RAG的开放性及企业落地姜勇Dify架构师

目录建设RAG目前的困境RAG发展史EnterpriseRAGRAG的展望.

RAG难点from:/html/2401.05856

RAG难点FP1MissingContentFP2MissedtheTopRankedDocumentsFP3NotinContext-ConsolidationstrategyLimitationsFP4NotExtractedFP5WrongFormatFP6IncorrectSpecificityFP7Incomplete

第一阶段：BasicRAGRAG发展史AnswerRetrievebasedonvector

RAG发展史BasicRAGPipeline:IndexingQ

RAG发展史

RAG发展史第二阶段：AdvancedRAGHybridRAnswerResultProcess

RAG发展史

RAG发展史QuerytypeKeyword[NDCG@3]Vector[NDCG@3]Hybrid[NDCG@3]Hybrid+SemanticRanker[NDCG@3]Conceptseekingqueries39.045.846.359.6Factseekingqueries37.849.049.163.4Exactsnippetsearch51.141.551.060.8Websearch-likequeries41.846.350.058.9Keywordqueries79.211.761.066.9Lowquerytermoverlap23.036.135.949.1Querieswithmisspellings28.839.140.654.6Longqueries42.741.648.159.4Mediumqueries38.144.746.759.9Shortqueries53.138.853.063.9

RAG发展史HybirdRAnswerResultProcessQueryTransform

RAG发展史“GarbageInGarbageOut.”

RAG发展史类型示例问题与语料不相关询问产品配置库关于货物运输的问题问题模糊“这篇文章的作者是谁？不是关于事实召回“总结一下这篇文章的主要内容”包含多个子问题今年的欧洲杯在哪里举办，什么时候开始?需要多跳逻辑“Whowonthe2023superbowlandwherewastheirheadcoachfrom?”包含非语义组成（结构化）“Whataremoviesaboutaliensin1980”-shouldfilterbyyear=1980问题包含比较“江苏省房贷利率政策从2022年至2023年有哪些调整？”Howtodealwithbelowqueries？

RAG发展史

RAG发展史类型解决方案问题与语料不相关检索前增加问题分类或检查步骤，如查询路由（Queryrouting）问题模糊基于历史的问题重写（Rewrite）不是关于事实召回（总结）索引过程中实现摘要（SummaryIndex），分层检索（Recrusive）长文本窗口模型（LongContextModel）包含多个子问题子问题拆分（sub-question）后并行查询需要多跳逻辑问题规划（QuestionPlaning）迭代召回（IterativeRetrieval）包含非语义组成（结构化）元数据过滤器（MetadataFilter）问题包含比较问题规划（QuestionPlaning）

RAG发展史ModelMaxTokengpt-4o128Kclaude-3200KGemini1.5Pro1Mqwen-long10Mdeepseek-chat32KERNIESpeed128Kglm-4128Kdoubao-lite-128k128Kmoonshot-v1-128k128K第三阶段：Multiple-modewithlongcontextRAGThemodel’scontextsizeishuge,so,RAGisnotrequired???

RAG发展史机会：分块算法更灵活，可以达到文档级别文档之间的分析和比较更容易总结更容易更容易的记忆管理，减少压缩技巧的使用减少幻觉为大模型支持无限Context前的过滤手段，减少成本Long-contextRAG

RAG发展