端侧生成式AI的幻觉控制与事实核查：面向硬件加速的检索增强生成架构.docx

PAGE2

端侧生成式AI的幻觉控制与事实核查：面向硬件加速的检索增强生成架构

摘要

本报告聚焦端侧生成式AI在本地部署场景中的幻觉控制与事实核查技术，以面向硬件加速的检索增强生成（RAG）架构为核心研究对象。

随着大语言模型向移动端、边缘设备渗透，模型幻觉问题在脱离云端校验的环境中被急剧放大，成为制约端侧AI可信部署的关键瓶颈。本报告系统梳理了端侧RAG系统的技术演进路径，从行业概况、宏观环境、产业链现状、竞争格局、需求分析到趋势预测，逐层递进展开。

核心发现表明，2024年全球端侧AI芯片市场规模已达87亿美元，预计2025-2028年将以31.2%的年复合增长率扩张。端侧RAG架构