大语言模型检索增强生成阶段的间接提示注入攻击与知识库隔离.docxVIP

PAGE2

《大语言模型检索增强生成阶段的间接提示注入攻击与知识库隔离》

一、调研概述

1.1调研背景与目的

随着大语言模型在金融、法律、医疗等关键领域的深度应用，检索增强生成架构成为缓解知识滞后与幻觉的主流方案。然而，外部知识库的开放性引入了新型攻击面。

恶意攻击者通过在文档中植入间接提示，可劫持大模型输出，使其产生误导性内容、泄露隐私或执行未经授权的函数调用。传统的输入过滤难以识别这些隐蔽投毒，因为污染文本本身语义正常，只在被检索拼接至上下文时才触发指令跟随。

本调研旨在系统分析间接提示注入的威胁机理与影响范围。我们将评估以向量数据库沙箱隔离为代表的技术防御方案的市场现状、技术成熟度与竞争格局。通过梳理产业需求与供给短板，为安全产品供应商、企业用户及投资机构提供决策参考。

调研同时关注知识库隔离策略从静态规则过滤向动态语义沙箱演进的趋势，以期揭示该细分市场的增长驱动因素与商业化路径，助力构建可信的检索增强生成应用生态。

1.2研究范围与方法

本报告聚焦检索增强生成阶段的外部知识投毒攻击，重点研究间接提示注入的形成条件、攻击载荷注入方式以及基于向量数据库的沙箱过滤技术。研究范围覆盖北美、欧洲及中国市场的企业级AI安全解决方案，时间跨度2023-2026年。

调研采用混合研究方法。一手数据来自对12位安全架构师、RAG产品负责人的深度访谈，以及三个开源社区（LangCha