人工智能 安全治理 大模型检索增强生成技术应用安全评估方法标准化发展研究报告.docx

人工智能安全治理领域行业标准《大模型检索增强生成技术应用安全评估方法》制定研究报告

EnglishTitle:ResearchReportontheDevelopmentoftheIndustryStandardArtificialIntelligence-SecurityGovernance-SecurityAssessmentMethodfortheApplicationofLargeModelRetrieval-AugmentedGenerationTechnology

摘要

随着大语言模型技术的快速发展，检索增强生成（Retrieval-AugmentedGeneration,RAG）技术已成为提升模型输出准确性、时效性和可控性的关键手段，广泛应用于智能问答、知识管理、政务咨询等场景。然而，RAG技术在检索数据源安全、知识库投毒、生成内容合规性等方面引入了新的安全风险，亟需建立系统化的安全评估方法标准。本报告围绕行业标准制定项目《人工智能安全治理大模型检索增强生成技术应用安全评估方法》（计划编号：2026-0083T-YD）展开研究，系统阐述了该标准的制定背景、技术框架、核心内容和应用价值。该标准由中国移动通信集团有限公司、中国信息通信研究院、北京天融信网络安全技术有限公司、北京百度网讯科技有限公司等单位