大语言模型的幻觉问题研究综述.pdfVIP

软件学报

ISSN

1000-9825,

CODEN

RUXUEWE-mail:

jos@

2025,36(3):1152−1185

[doi:

10.13328/ki.jos.007242]

[CSTR:

32375.14.jos.007242]

©中国科学院软件研究所版权所有.Tel:

+86-10

*

大语言模型的幻觉问题研究综述

11121

刘泽垣,

王鹏江,

宋晓斌,

张

欣,

江奔奔

1(清华大学,

北京

100084)

2(对外经济贸易大学,

北京

100029)

通信作者:

江奔奔,

E-mail:

bbjiang@

摘要:

随着以Transformer为代表的预训练模型等深度学习技术的发展,

大语言模型(LLM)日益展现出强大的理

解力和创造力,

对抽象摘要、对话生成、机器翻译和数据到文本生成等下游任务产生了重要影响,

同时也在图像说

明、视觉叙事等多模态领域展现出了广阔的应用前景.

虽然大语言模型具备显著的性能优势,

但深度学习架构使其

难以避免内容幻觉问题,

这不仅会削减系统性能,

还严重影响其可信性和应用广泛性,

由此衍生的法律风险和伦理风

险成为掣肘其进一步发展与落地的主要障碍.

聚焦大语言模型的幻觉问题,

首先,

对大语言模型的幻觉问题展开系统

概述,

分析其来源及成因;

其次,

系统概述大语言模型幻觉问题的评估方法和缓解方法,

对不同任务的评估和缓解方

法类型化并加以深入比较;

最后,

从评估和缓解角度展望应对幻觉问题的未来趋势和应对方案.

关键词:

可信人工智能;

大语言模型;

幻觉;

幻觉评估与缓解

中图法分类号:

TP18

中文引用格式:

刘泽垣,

王鹏江,

宋晓斌,

张欣,

江奔奔.

大语言模型的幻觉问题研究综述.

软件学报,

2025,

36(3):

1152–1185.

http://

/1000-9825/7242.htm

英文引用格式:

Liu

ZY,

Wang

PJ,

Song

XB,

Zhang

X,

Jiang

BB.

Survey

on

Hallucinations

in

Large

Language

Models.

Ruan

Jian

Xue

Bao/Journal

of

Software,

2025,

36(3):

1152–1185

(in

Chinese).

/1000-9825/7242.htm

SurveyonHallucinationsinLargeLanguageModels

11121

LIU

Ze-Yuan,

WANG

Peng-Jiang,

SONG

Xiao-Bin,

ZHANG

Xin,

JIANG

Ben-Ben

1(Tsinghua

University,

Beijing

100084,

China)

2(University

of

International

Business

and

Economics,

Beijing

100029,

China)

Abstract:

With

the

development

of

deep

learning

technologies

such

as

pre-trained

models,

represented

by

Transformer,

lar