大模型安全 课件 第七章-大模型的幻觉.ppt

基于分类器的检测基于问答的检测策略基于事实基础的检测7.3大模型幻觉的检测基于不确定性的检测基于大模型的检测通常以熵和对数概率等统计特征为核心指标，来量化模型输出的不确定性。一种不确定性感知的集束搜索算法通过在模型解码过程中对预测不确定性进行惩罚，从而减少生成幻觉的可能性。下面从幻觉概率、幻觉概率与预测不确定性的关系以及不确定性分解三个步骤简要描述此方法。1.幻觉概率在给定新输入x时生成句子y，任务是学习条件分布p(y|x)，大多数神经网络方法将概率分解为一系列单个词汇的预测：当前步骤的幻觉概率：基于分类器的检测基于问答的检测策略基于事实基础的