审议推理网络：一种基于预训练语言模型的信念追踪推断不确定性驱动范式.pdfVIP

审议推理网络：一种基于预训练语言模型的信念追踪推断不

确定性驱动范式

AnranXu,JinchengWang,BaigenCai,TaoWen

SchoolofAutomationandIntelligence,BeijingJiaotongUniversity

摘要

大型语言模型在语义启发与决定性证据冲突时，常常会在逻辑推理上失败——我们称这种现象为认知陷

阱。为了应对这一根本性的局限，我们引入了审慎推理网络（DRN），这是一种新的范式，将逻辑推理从概率

本最大化重新定义为不确定性最小化。与其问“哪个答案最有可能？”DRN询问的是“哪个假设拥有最多内部

译一致的证据？”通过明确跟踪信念状态并通过迭代证据综合过程量化竞争假设的知识不确定度，DRN实现了

中固有的可解释性。我们通过两种互补的架构来验证我们的方法：一种专有辨别模型，体现了核心不确定性最

小化原则；以及一个轻量级验证模块，增强现有的生成型LLM。在我们设计的新对抗推理基准LCR-1000上

1进行评估时，定制的DRN相比标准基线提升了高达15.2%的表现。当作为参数高效的验证器与Mistral-7B

v

9集成时，我们的混合系统将最难问题的准确率从20%提升到了80%。至关重要的是，DRN展示了强大的零

3样本泛化能力，在没有额外训练的情况下，将TruthfulQA性能提升了23.6%，表明不确定性驱动的审慎过

3

4程学习了可迁移的推理原则。我们将DRN定位为构建更值得信赖的人工智能系统的基石和验证性系统2推

0理组件。

.

8

0

51介绍

2

:

v尽管大型语言模型（LLMs）在许多自然语言基准测试中表现出色，但它们执行稳健逻辑推理的能

i

x

r力仍然是一个活跃的研究课题。当模型遇到“认知陷阱”时会出现一个重要挑战，在这种情况下，强大

a

的启发式关联与决定性的逻辑证据相冲突。这可能导致系统性错误，从而削弱其在高风险应用中的可

靠性。为了调查这一问题，我们在LCR-10上测试了几种最先进的LLMs，LCR-10是一个专门设计来

体现这些陷阱的精选挑战集。表1的结果显示存在系统性弱点，领先模型的表现处于或低于随机水平。

考虑来自我们的LCR数据集的以下谜题：

背景：确定该城市的地理位置。

证据：1.城市A位于一个以世界级滑雪胜地和优质葡萄酒产区闻名的南美国家。2.拥有世界级滑雪胜地和

世界著名的葡萄酒产区是这个南美国家智利的一个标志性特征。3.在智利西部，人们可以仰望安第斯山脉

一系列超过6000米的壮观山峰。4.智利是安第斯山脉西侧的一个典型国家，其狭长的领土完全被壮丽的安

第斯山脉和浩瀚的太平洋所夹持。5.从城市A的市中心向西行驶一小时即可直接到达著名的安第斯山脉。

问题：城市A位于安第斯山脉哪一侧？(A)西侧(B)东侧

人类推理者通常能够识别第5个陈述为决定性的，这意味着A城市必须是安第斯山脉的东部。然

而，大型语言模型可能会被“智利”和“西侧”之间的强烈语义关联误导，导致得出与直接证据相矛盾

的错误结论。图1说明了启发式联想与逻辑推理之间的这种冲突。这表明需要具有更明确机制来处理证

据权衡、矛盾处理和信心评估的架构。

1

表1:SOTA大型语言模型在LCR-10对抗挑战集上的表现。结果显示，在应对认知陷阱方面存在系统

性的局限性，仅靠增加模型规模无法克服这一问题。

模型准确率（3次射击）

Claud