CN119514698A 一种全模态大模型的训练方法、装置、设备及介质 （语仓科技(北京)有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119514698A

(43)申请公布日2025.02.25

(21)申请号202510088742.2

(22)申请日2025.01.21

(71)申请人语仓科技（北京）有限公司

地址100033北京市海淀区上地东路1号院

盈创动力A座北厅901

(72)发明人宋福海李世奇夏博李国东

(74)专利代理机构北京高沃律师事务所11569

专利代理师袁丽宁

(51)Int.Cl.

G06N5/04(2023.01)

G06N5/022(2023.01)

G06N20/00(2019.01)

权利要求书2页说明书7页附图4页

(54)发明名称

一种全模态大模型的训练方法、装置、设备

及介质

(57)摘要

CN119514698A本申请公开了一种全模态大模型的训练方法、装置、设备及介质，涉及模型训练领域，该方法包括：采用经验回放池存储旧任务的样本数据；其中，旧任务为全模态大模型已经学习过的任务，样本数据包括多种模态的数据；当全模态大模型学习新任务时，根据新任务的样本数据及经验回放池中存储的旧任务的样本数据，对全模态大模型进行多轮训练，并在训练过程中根据全模态大模型在旧任务的样本数据上的准确率，动态调整新任务的样本数据与旧任务的样本数据的比例，以得到联合