LENS: 从神经状态学习集成置信度以整合多 LLM 答案.pdfVIP

LENS:从神经状态学习集成置信度以整合多LLM答

案

JizhouGuo

ZhiyuanCollege

ShanghaiJiaoTongUniversity

sjt

Abstract

大型语言模型（LLMs）在各种任务中展现了出色的表现，不同模型在不同

的领域和特定能力上表现出色。有效地结合多个LLM的预测结果对于增强

本系统的鲁棒性和性能至关重要。然而，现有的集成方法通常依赖于简单的

译技术，如投票或逻辑回归集成，这些方法忽视了模型在不同上下文中的信

中心和可靠性差异。在这项工作中，我们提出了LENS（LearningENsemble

confidencefromNeuralStates），这是一种通过分析内部表示来学习估计模

1