CN120281824A 基于jdk8的异构服务大模型动态适配与智能调度方法和系统 （浪潮智慧城市科技有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN120281824A(43)申请公布日2025.07.08

(21)申请号202510534918.2

(22)申请日2025.04.27

(71)申请人浪潮智慧城市科技有限公司

地址250100山东省济南市高新区浪潮路

1036号浪潮科技园SO2号楼27楼申请人眉山浪潮数字科技有限公司

(72)发明人王燕波周政辛超李龙

白玉坤李琳悦唐文亮李祥星

镇璐

(74)专利代理机构济南信达专利事务所有限公

司37100专利代理师陈婷婷

(51)Int.CI.

HO4L69/08(2022.01)

HO4L67/02(2022.01)

HO4LHO4L

HO4L

45/302(2022.01)

45/12(2022.01)41/0663(2022.01)

权利要求书3页说明书14页附图5页

(54)发明名称

基于JDK8的异构服务大模型动态适配与智能调度方法和系统

(57)摘要

CN120281824A本发明公开了基于JDK8的异构服务大模型动态适配与智能调度方法和系统，属于人工智能服务集成技术领域，该方法的实现包括：统一服务模块，为应用层提供标准化HTTP/WebSocket接入，屏蔽底层多平台差异；动态路由模块，基于服务质量指标动态选择服务节点，支持权重计算、熔断恢复及流量染色；服务执行模块，通过双模式服务工厂加载平台适配器，集成工具调用功能并实现协议转换与认证注入；配置管理模块，支持静态文件与动态数据库双配置源热加载，提供版本化回滚与一致性校验。本发明能够解决多平台协议差异、服务僵化扩展、工具调用耦合等问题，显著降低多平台管理的复杂度，提升系统弹

CN120281824A

CN120281824A权利要求书1/3页

2

1.基于JDK8的异构服务大模型动态适配与智能调度方法，其特征在于，该方法的实现包括：

统一服务模块，为应用层提供标准化HTTP/WebSocket接入，屏蔽底层多平台差异；

动态路由模块，基于服务质量指标动态选择服务节点，支持权重计算、熔断恢复及流量

染色；

服务执行模块，通过双模式服务工厂加载平台适配器，集成工具调用功能并实现协议转换与认证注入；

配置管理模块，支持静态文件与动态数据库双配置源热加载，提供版本化回滚与一致性校验。

2.根据权利要求1所述的基于JDK8的异构服务大模型动态适配与智能调度方法，其特

征在于，所述动态路由模块，

权重计算公式如下：

权重=a×(1/响应时间)+β×(1-错误率)+γ×(1/成本),其中a+β+γ=1;

所述熔断恢复，熔断机制在节点错误率超过50%时触发，自动切换至备用服务；

所述流量染色，支持灰度发布策略，按请求标记分配流量。

3.根据权利要求1所述的基于JDK8的异构服务大模型动态适配与智能调度方法，其特征在于，所述双模式服务工厂，

静态模式通过YAML/数据库预定义服务参数，支持环境变量注入；

动态模式基于JavaSPI机制加载第三方适配器，运行时注册即时生效；

服务实例池采用惰性初始化策略，按需创建连接降低资源消耗。

4.根据权利要求1或3所述的基于JDK8的异构服务大模型动态适配与智能调度方法，其特征在于，所述配置管理模块，

通过双缓冲机制实现配置热更新，通过原子切换保障服务连续性；

通过版本管理器记录历史快照，支持按版本号快速回滚；

敏感字段采用内存加密与定期轮换策略。

5.根据权利要求1所述的基于JDK8的异构服务大模型动态适配与智能调度方法，其特征在于，该方法通过以下方式保障JDK8兼容性：

使用Retrolambda将Lambda表达式转换为匿名内部类字节码；

通过ASM重写JavaStreamAPI调用，替代JDK11+原生实现；

采用0kHttp3替代JavaHttpClient,支持HTTP/2与连接池复用。

6.根据权利要求1所述的基于JDK8的异构服务大模型动态适配与智能调度方法，其特征在于，当用户发起请求时，该方法执行智能调度的步骤如下：

步骤一，应用通过统一的服务能力，组装统一的中间格式UnifiedRequest,调用系统发送大模型请求，并执行以下操作：

统一入口：接收HTT