CN119829962A 一种基于隐层激活的偏见幻觉检测方法 （同济大学）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119829962A

(43)申请公布日2025.04.15

(21)申请号202411724634.1

(22)申请日2024.11.28

(71)申请人同济大学

地址200092上海市杨浦区四平路1239号

(72)发明人蒋昌俊闫春钢丁志军王俊丽张亚英张东宇

(74)专利代理机构北京市诚辉律师事务所11430

专利代理师耿慧敏朱伟军

(51)Int.Cl.

G06F18/21(2023.01)

G06F18/214(2023.01)

G06F18/24(2023.01)

G06N3/0499(2023.01)

权利要求书2页说明书9页附图4页

(54)发明名称

一种基于隐层激活的偏见幻觉检测方法

(57)摘要

CN119829962A本发明公开了一种基于隐层激活的偏见幻觉检测方法。该方法包括：根据语言模型回答的行为特征评估信念状态，获得信念状态评估结果，所述信念状态反映该语言模型对回答的不确定程度；基于所述信念状态评估结果构建训练集，并训练信念状态分类器，所述训练集反映所述语言模型的信念状态与隐层激活之间的对应关系；实时获取目标语言模型生成过程中的隐层激活，并根据该隐层激活，利用经训练的信念状态分类器判断信念状态；对于检测出的幻