015_失败案例05:知识库做完不再维护,3个月后知识库全部失效,AI问答大量幻觉.docxVIP

  • 0
  • 0
  • 约1.48千字
  • 约 2页
  • 2026-10-16 发布于上海
  • 举报

015_失败案例05:知识库做完不再维护,3个月后知识库全部失效,AI问答大量幻觉.docx

?#FDE交付失败案例复盘报告:知识库“交付即离场”引发的幻觉危机

报告编号:RCA-2023-KB-001复盘日期:2023年10月项目阶段:验收后运维期(Post-DeliveryOM)涉及角色:FDE(现场交付工程师)、客户方业务负责人、AI算法团队核心问题:FDE交付知识库后离场,客户缺乏文档治理机制,导致数据腐化,引发生产环境大规模幻觉事故。

1.事件概述(ExecutiveSummary)

本项目旨在为客户搭建企业级智能问答系统。FDE团队在项目初验阶段完成了知识库的清洗、入库及模型微调交付。然而,FDE在签署验收单后迅速撤离现场,未建立知识库的长效维护机制。

由于客户方缺乏文档版本管理和更新流程,知识库内容迅速过期。大模型基于过期、矛盾、混乱的文档进行检索增强(RAG)或推理,导致生产环境频繁出现“幻觉”(Hallucination),给出的答案与当前业务政策严重不符,引发客户信任危机及潜在合规风险。

2.事故时间线(Timeline)

T0(2023-01):FDE团队完成知识库梳理,导入500+文档,模型通过验收。*T+1个月(2023-02):FDE团队正式撤离,未移交《知识库运维手册》及更新SOP。*T+3个月(2023-04):客户业务政策发生变更,相关文档仅在内部群通知,未更

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档