CN119599136A 基于大语言模型可解释性的知识边界识别方法及相关装置 （中国建设银行股份有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119599136A

(43)申请公布日2025.03.11

(21)申请号202411914850.2

(22)申请日2024.12.24

(71)申请人中国建设银行股份有限公司

地址100033北京市西城区金融大街25号

(72)发明人鲁昊纯曹佳倩耿浩杰

(74)专利代理机构北京集佳知识产权代理有限

公司11227

专利代理师李增苗

(51)Int.Cl.

G06N5/04(2023.01)

G06N5/025(2023.01)

G06F18/22(2023.01)

G06N3/045(2023.01)

权利要求书2页说明书9页附图2页

(54)发明名称

基于大语言模型可解释性的知识边界识别

方法及相关装置

(57)摘要

CN119599136A本申请提供的一种基于大语言模型可解释性的知识边界识别方法及相关装置，涉及大语言模型技术领域，在大语言模型对目标问题进行推理回答的过程中，抽取大语言模型的中间状态；构建提示词，并将中间状态注入大语言模型中，以获得大语言模型输出的自然语言解释；通过评估自然语言解释与目标问题的相关性，量化大语言模型的知识边界。本申请从大语言模型可解释性角度出发，以自然语言解释中间状态，分析大语言模型内部知识召回过程，并利用