CN118230985B 一种基于插件指令微调大模型的口腔医学导诊方法及系统 （四川大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN118230985B(45)授权公告日2025.07.04

(21)申请号202410193253.9

(22)申请日2024.02.21

(65)同一申请的已公布的文献号申请公布号CN118230985A

(43)申请公布日2024.06.21

(73)专利权人四川大学

(51)Int.CI.

G16H80/00(2018.01)GO6F40/295(2020.01)GO6N5/04(2023.01)

GO6N5/025(2023.01)

GO6N3/045(2023.01)

GO6N3/0499(2023.01)

地址610000四川省成都市一环路南一段

24号

(72)发明人孙亚楠冯铖喆刘济远范嘉豪黄艳卢奥军苟攀刘畅陈龙

刘伟

(56)对比文件

WO2023098288A1,2023.06.08CN115905554A,2023.04.04

审查员伍鹏

(74)专利代理机构北京正华智诚专利代理有限

公司11870专利代理师吕春艳

权利要求书3页说明书8页附图2页

(54)发明名称

一种基于插件指令微调大模型的口腔医学导诊方法及系统

(57)摘要

CN118230985B本发明提供了一种基于插件指令微调大模型的口腔医学导诊方法及系统，属于人工智能技术领域，本发明在为通用领域大模型引入医学相关知识的同时使其对话思维符合医学规范，通过构建符合医学对话思维的指令数据集，使得插件指令微调大模型获得医学对话思维，能够模拟医生对病人进行多轮问询。同时，将构建得到的医学领域指令数据集按照医学细分学科分类，通过插件指令微调为模型补齐医学专业知识。本发明在解决实际导诊问题时的能力更强，特别是解决

CN118230985B

开始

开始

构建最优口腔医学指令数据集

利用最优插件指令微调口腔医学大模型进行导诊

结束

CN118230985B权利要求书1/3页

2

1.一种基于插件指令微调大模型的口腔医学导诊方法，其特征在于，包括以下步骤：

S1、构建最优口腔医学指令数据集；

S2、利用最优口腔医学指令数据集，对现有通用大模型进行训练，得到含有不同口腔学科知识的插件，并融合含有不同口腔学科知识的插件与现有通用大模型，得到最优插件指令微调口腔医学大模型，其具体为：

S201、对不同的口腔学科门类的最优口腔医学数据集单独初始化插件，将不同的口腔学科门类的最优口腔医学数据集输入至通用大模型中训练插件，得到含有不同口腔学科知识的插件；

含有不同口腔学科知识的插件的表达式如下：

Inst→Initialise(Adapter)

其中，Adapter,2表示含有不同口腔学科知识的插件，N表示口腔学科门数，◎表示Adapter,2w中的参数，max表示最大运算，x,y表示最优口腔医学指令数据集中数据及对应标签对，Inst{s}表示最优口腔医学指令数据集，t表示最优口腔医学指令数据集中的数据标号，p.(·)表示概率，Φ。表示现有通用大模型，△Φ表示插件，Y表示第t个口腔医学指令数据的标签，x,y表示前t个数据对，Adapter表示初始化插件，Initialise()表示初始化函数；

S202、在现有通用大模型中添加路由层，并将含有不同口腔学科知识的插件融合至现有通用大模型中，得到初始的插件指令微调口腔医学大模型；

初始的插件指令微调口腔医学大模型的表达式如下：

LLMsomatology=LLMGeneraz+Router(Adapter,2)

其中，LLMsomatology表示初始的插件指令微调口腔医学大模型，LLMGenera表示现有通用大模型，Adapter,2π表示含有不同口腔学科知识的插件，Router(·)表示路由层；

S203、对初始的插件指令微调口腔医学大模型进行训练，使路由层具有针对不同口腔学科数据选择不同插件的功能，得到最优插件指令微调口腔医学大模型；

S3、利用最优插件指令微调口腔医学大模型进行导诊。

2.根据权利要求1所述的基于插件指令微调大模型的口腔医学导诊方法，其特征在于，所述步骤S1包括以下步骤：

S101、获取口腔医学资料，将获取的口腔医学资料组成口腔医学文本数据集，并按口腔学