CN119645607A 一种针对深度学习算法的动态调用多模型的方法及服务架构 （新壹(北京)科技有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119645607A

(43)申请公布日2025.03.18

(21)申请号202411820702.4

(22)申请日2024.12.11

(71)申请人新壹（北京）科技有限公司

地址100028北京市西城区马连道胡同1号

1幢1层128

(72)发明人李璋张华伟

(74)专利代理机构北京市盛峰律师事务所11337

专利代理师于国强

(51)Int.Cl.

G06F9/48(2006.01)

G06F9/50(2006.01)

G06F9/54(2006.01)

G06F9/445(2018.01)

G06F11/34(2006.01)

G06N5/04(2023.01)

权利要求书2页说明书6页附图1页

(54)发明名称

一种针对深度学习算法的动态调用多模型

的方法及服务架构

(57)摘要

CN119645607A本发明公开了一种针对深度学习算法的动态调用多模型的方法及服务架构，方法包括客户端通过标准API接口向调度服务发送请求；调度服务接收到请求后，解析提取请求的关键信息生成任务队列并选择Server服务器；调度服务实时获取Agent服务提供的状态数据，根据Server服务器的负载情况进行任务分配；调度服务将选定的任务信息存入数据库，并在任