2025 RAG检索增强生成的技术全景解析.pdf

RAG检索增强生成的技术全景解析

RAG相关技术的八个主题：https://pub.towardsai.net/a-taxonomy-of-retrieval-

augmented-generation-a39eb2c4e2ab

增强生成(RAG)是塑造应用生成式AI格局的关键技术。Lewis等人在其开创性论文中提

出了一个新概念面向知识密集型NLP任务的检索增强生成之后，RAG迅速成为基石，

提高了大型语言模型(LLM)输出的可靠性和可信度。

2024年，RAG将成为生成式AI应用中最广泛使用的技术之一。

根据Databricks的数据，至少60%的LLM应用程序采用某种形式的RAG。

RAG被接受的原因还在于其概念的简单性。简单来说，RAG系统从知识库中搜索信息，并将

其与查询一起发送给LLM以获得响应。

检索增强生成增强了LLM响应的可靠性和可信度

如今，RAG涵盖了广泛的技术、模型和方法。对于新手来说，这可能会有点难以理解。随着

RAG的不断发展，为研究人员、从业者、开发人员和业务领导者创建一个共享的语言框

架至关重要。此分类法旨在阐明RAG的组成部分，作为理解关键构建块的指南，并提供

一个路线图来引导人们探索这个有点复杂且不断发展的RAG生态系统。

接下来，我们会从八个主题入手，聊聊与RAG相关的层次结构和术语：

RAG基础知识：聊聊LLM（大语言模型）的局限性，以及RAG是怎么解决这些问题

的。

核心组件：看看索引和生成管道这些关键部分都涉及哪些术语。

评估：讨论一下在评估RAG时用到的各种指标、框架和标准。

管道设计：从简单的到高级的，再到模块化的RAG管道，都有哪些设计思路。

运营堆栈：了解一下新兴的RAGOps堆栈相关的术语。

新兴模式：多模态RAG、代理RAG、基于知识图谱的RAG这些新模式是怎么回事。

技术提供商：有哪些工具、解决方案和服务商可以帮助我们搭建RAG系统。

应用RAG：看看RAG在实际场景中的应用方式、适用领域，以及目前面临的挑战。

1.RAG基础知识

1.A——LLM限制

知识截止日期：训练LLM是一个昂贵且耗时的过程。训练LLM需要大量数据，并且需要数

周甚至数月的时间。因此，训练LLM所用的数据不是最新的。例如，GPT-4o仅拥有截至

2023年10月的知识。此知识截止日期之后发生的任何事件均不适用于模型。

训练数据限制：LLM接受来自各种公共来源的大量数据的训练—例如Llama3接受的训练

数据高达15万亿个token（大约是Llama2的7倍）—但它们对非公开信息一无所知。公

开的LLM尚未接受过公司内部文件、客户信息、产品文档等信息的训练。因此，不能指望

LLM能够响应有关此类信息的查询。

幻觉：LLM是下一个单词的预测者。他们没有接受过验证答案中事实的训练。因此，我们观

察到LLM有时会提供与事实不符的答案，尽管这些答案不正确，但听起来非常自信和合法。

这种“自信地撒谎”的特征被称为幻觉，已被证明是LLM最大的批评之一。

上下文窗口：根据架构的性质，每个LLM都可以处理最大数量的标记。此最大标记数称为模

型的上下文窗口。如果提示比上下文窗口长，则提示超出限制的部分将被丢弃。

2024热门大模型(LLM)及其截止日期和背景窗口

1.B—RAG概念

参数记忆：LLM保留已训练信息的能力完全依赖于其参数。因此可以说，LLM将事实信息存

储在其参数中。LLM内部存在的这种记忆可称为参数记忆。这种参数记忆是有限的。它取决

于参数的数量，是LLM训练所用数据的一个因素。

非参数记忆：LLM在其内部参数中没有但可以通过外部检索机制（如搜索引擎或数据库）访

问的信息。RAG为LLM提供了访问此非参数记忆的权限。

知识库：为RAG应用程序创建的非参数内存。它包含来自各种预定来源的信息，这些信息经

过处理并存储在持久内存中

用户查询：用户（或系统）