大模型幻觉成因分析与缓解策略研究.pdfVIP

table{border-collapse:collapse;}table,th,td{border:1pxsolid#000;}

大模型幻觉（LLMHallucination）面

来自：AiGC面试宝典

宁静致远

2023年09月29日13:30

扫码查看更

一、什么是大模型幻觉？

在语言模型的背景下，幻觉指的是一本正经的：看似流畅自然的表述，实则不符

合或者是错误的。

二、为什么LLM会产生幻觉？

有一些研究也在致力于分析幻觉出现的不同，已知的一些包括：

1.源与目标的差异：当我们在存在源与目标差异的数据上训练模型时，模型产生的文

本可能与原始源内容产生偏差。这种差异，有时可能是在数据收集过程中不经意间

产生的，有时则是故意为之。

2.无意识的源-目标差异：这种差异的产生有多种。例如，数据可能是基于某种

经验法则编制的，使得目标信息并不总是完全依赖源信息。举例来说，如果从两家