基于神经网络的文本生成中事实一致性评估与增强研究综述.docVIP

基于神经网络的文本生成中事实一致性评估与增强研究综述

一、事实一致性问题的核心内涵与表现形式

在神经网络文本生成技术快速落地的背景下，事实一致性成为制约生成文本实用价值的核心瓶颈。所谓事实一致性，指生成文本所表述的内容需与输入源信息、客观世界常识或给定领域知识库中的事实描述保持一致，不存在虚构、矛盾或歪曲的表述。与传统的语法错误、逻辑不通等表层问题不同，事实错误往往具有更强的隐蔽性，普通读者难以在短时间内识别，一旦出现在医疗咨询、法律文书生成、新闻摘要等专业场景中，可能引发严重的信息误导甚至决策失误。

当前神经网络文本生成中的事实错误可分为三大类：第一类是源文冲突型错误，即生成内容直接与输入源提供的事实信息相悖。例如在摘要生成任务中，输入源描述“某公司2025年营收同比增长15%”，生成摘要却写成“营收下降15%”；在对话系统中，用户明确告知“我对青霉素过敏”，生成回复却推荐包含青霉素的药物方案。这类错误多源于编码器对源文关键信息的编码丢失，或解码器在生成过程中过度依赖预训练阶段的语言模型分布，忽略了当前输入的约束。第二类是幻觉型错误，指生成文本中出现了输入源完全未提及、也不符合客观常识的虚构信息。比如基于“张三毕业于北京大学计算机系”的输入，生成文本额外补充“张三曾在斯坦福大学获得博士学位”，而这一信息并无任何来源支撑。大语言模型的参数化记忆偏差、生成过程中的“连贯性优先”倾向，