CN118153685B 一种关于大模型生成结果真实性的分析方法 （广东跃昉科技有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN118153685B(45)授权公告日2025.07.04

(21)申请号202410092950.5

(22)申请日2024.01.22

(65)同一申请的已公布的文献号申请公布号CN118153685A

(43)申请公布日2024.06.07

(73)专利权人广东跃昉科技有限公司

地址519000广东省珠海市横琴新区环岛

东路1889号18栋218室

(56)对比文件

CN117009490A,2023.11.07CN117112767A,2023.11.24审查员杨林郁

(72)发明人袁博浒袁穗聪江朝晖

(74)专利代理机构深圳中一联合知识产权代理有限公司44414

专利代理师匡睿

(51)Int.CI.

GO6N5/04(2023.01)

权利要求书2页说明书9页附图2页

(54)发明名称

一种关于大模型生成结果真实性的分析方

法

(57)摘要

CN118153685B本申请适用于人工智能技术领域，提供了一种关于大模型生成结果真实性的分析方法，包括：通过设置多个属性数据，追踪并获取目标模型在训练和推理过程中的多个阶段环节的数据关系记录；将所述属性数据存入独立的过程追踪数据库；对指定推理结果的分析请求进行响应，查询所述过程追踪数据库，得到所述指定推理结果对应的属性数据。该方法通过设置多个属性数据，追踪并获取目标模型在训练和推理过程中多个阶段环节的数据关系记录，对目标模型训练及推理的过程进行追踪，并在用户对推理结果质疑时，将生成推理结果对应的属性数据作为分析结

CN118153685B

通过设置多个属性数据，追踪并获取目标模型在

通过设置多个属性数据，追踪并获取目标模型在

训练和推理过程中的多个阶段环节的数据关系记

录

S104

将属性数据存入独立的过程追踪数据库

一S106

对指定推理结果的分析请求进行响应，查询过程追踪数据库，得到指定推理结果对应的属性数据

S102

CN118153685B权利要求书1/2页

2

1.一种关于大模型生成结果真实性的分析方法，其特征在于，包括：

通过设置多个属性数据，追踪并获取目标模型在训练和推理过程中的多个阶段环节的数据关系记录；

将所述数据关系记录的属性数据存入独立的过程追踪数据库；

对指定推理结果的分析请求进行响应，根据所述指定推理结果反向查询所述过程追踪数据库，得到所述指定推理结果对应的属性数据。

2.如权利要求1所述的关于大模型生成结果真实性的分析方法，其特征在于，所述将所述属性数据存入独立的过程追踪数据库的步骤包括：

根据所述属性数据的对应的阶段环节，关联多个所述属性数据，将关联后的多个属性数据存入所述独立的过程追踪数据库。

3.根据权利要求1所述的关于大模型生成结果真实性的分析方法，其特征在于，所述通过设置多个属性数据，追踪并获取目标模型在训练和推理过程中的多个阶段环节的数据关系记录的步骤包括：

通过设置多个属性数据，记录追踪所述目标模型在训练和推理过程中采用的算法的输入和输出和/或所采用的数据集以及所述数据集对应的数据集属性，得到数据关系记录。

4.根据权利要求1所述的关于大模型生成结果真实性的分析方法，其特征在于，所述将所述属性数据存入独立的过程追踪数据库的步骤后还包括：

将多个所述属性数据上传联盟链，通过所述联盟链生成凭证信息。

5.根据权利要求1-4任一所述的关于大模型生成结果真实性的分析方法，其特征在于，所述通过设置多个属性数据，追踪并获取目标模型在训练和推理过程中的多个阶段环节的数据关系记录的步骤包括：

在预训练过程中，通过设置多个属性数据，追踪并获取所述目标模型采用的数据处理算法和/或原始语料和/或所述原始语料的来源信息。

6.根据权利要求5所述的关于大模型生成结果真实性的分析方法，其特征在于，获取所述原始语料的来源信息的步骤包括：

根据所述原始语料进行相似度检索，得到相似语料；

获取所述相似语料的来源信息；

将所述相似语料的来源信息确定为所述原始语料的来源信息。

7.根据权利要求1-4任一所述的关于大模型生成结果真实性的分析方法，其特征在于，所述通过设置多个属性数据，追踪并获取目标模型在训练和推理过程中的多个阶段环节的数据关系记录的步骤包括：

在对所述目标模型进行监督微调时，通过设置多个属性数据，追踪并获取所述目标模型选用的微