AI幻觉成因与应对策略.pdfVIP

3.6幻觉成因解剖

AI有时会⼀本正经地胡说⼋道。这就是幻觉（Hallucination）——模型输出

看似流畅但与不符的内容。

理解幻觉的成因，就像医⽣看病要先找到病根。只有知道了为什么，我们才

能学习。

幻觉的⼤成因

概率机器本质训练数据裂纹

LLM的⾸要任务是让语⾔听起来连贯，⽽不是保证绝对学习材料本⾝可能包含知识盲区、过时信息甚⾄错误内

可靠。容。

提⽰词锅间。

指令不够清晰，或⻆⾊设定不当，给了模型⾃由发挥的空

采策略与输出⻓度随机性设置和⻓⽂本中可能出现的滚雪球式误差。

第⽆法抗拒“信吻”

模型就算在说谎，语⽓也常常⾃信满满，这让我们更容易信以为真。

概率机器的本质

条件概率预测系统

模型核⼼是预测下⼀个最可能出现的词