CN120256073A 多智能体非合作博弈驱动的高并发任务推理方法及系统 （南京熊猫电子股份有限公司）.docxVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN120256073A(43)申请公布日2025.07.04

(21)申请号202510744894.3

(22)申请日2025.06.05

(71)申请人南京熊猫电子股份有限公司

地址210033江苏省南京市栖霞区经天路7

号

(72)发明人殷永肠文博徐金成贾庆生魏伟

(74)专利代理机构南京苏高专利商标事务所(普通合伙)32204

专利代理师柏尚春

(51)Int.CI.

GO6F9/48(2006.01)

GO6F9/50(2006.01)

GO6N5/04(2023.01)

权利要求书3页说明书10页附图2页

(54)发明名称

多智能体非合作博弈驱动的高并发任务推理方法及系统

(57)摘要

CN120256073A本发明公开了一种多智能体非合作博弈驱动的高并发任务推理方法及系统，所述方法包括将异构任务分解为标准化任务单元，对任务的计算资源需求进行量化建模；构建多智能体非合作博弈模型的任务竞拍机制，采用防策略性竞拍规则和分片异步协议进行任务分配，并通过信用质押机制约束智能体的资源申报行为；监测系统实时资源利用率，结合任务抢占历史状态动态调整任务优先级，触发资源软抢占策略并建立补偿队列；采用自适应模型拆分策略将推理任务分配至端侧设备和边缘计算节点，通过数据压缩传输实现协同执行，并根据执行结果反馈进行任务重调

CN120256073A

多智能体任务建模与资源需求量化

多智能体任务建模与资源需求量化

非合作竞拍机制

动态优先级调整与资源抢占

边缘-端协同推理

结果置信度阈值

结果输出

CN120256073A权利要求书1/3页

2

1.一种多智能体非合作博弈驱动的高并发任务推理方法，其特征在于，包括以下步骤：

(1)将异构任务分解为标准化任务单元，基于动态优先级调整机制、资源需求预测模型及虚拟资源单位VRU归一化方法，对任务的计算资源需求进行量化建模；

(2)基于标准化任务单元及量化建模结果，构建多智能体非合作博弈模型的任务竞拍机制，采用防策略性竞拍规则和分片异步协议进行任务分配，并通过信用质押机制约束智能体的资源申报行为；

(3)根据任务分配结果，监测系统实时资源利用率，结合任务抢占历史状态动态调整任务优先级，触发资源软抢占策略并建立补偿队列；

(4)基于任务优先级，采用自适应模型拆分策略将推理任务分配至端侧设备和边缘计算节点，通过数据压缩传输实现协同执行，并根据执行结果反馈进行任务重调度。

2.根据权利要求1所述的高并发任务推理方法，其特征在于，步骤1所述的将异构任务分解为标准化任务单元包括：

根据任务类型标识符Ttype和输入数据特征Dinput,通过预定义的算子资源映射函数φ生成子任务的算力需求Rcompute,其中Ttype包括卷积计算、矩阵运算和流处理，Dinput包括数据规模、维度和批大小；

将层级化任务按计算图拓扑拆解为序列化子任务，每个子任务的算力需求由对应计算算子的类型和输入数据特征决定；

将并行化任务依据数据分片规则与硬件并行度约束拆解为无状态子任务集合，确保子任务资源需求总和不超过节点算力容量上限。

3.根据权利要求1所述的高并发任务推理方法，其特征在于，步骤1所述的动态优先级调整机制通过以下方式实现：

初始优先级SO由用户服务等级协议SLA定义，衰减速率λ与系统实时负载负相关；

当任务等待时间tdelay达到延迟容忍度Dmax的预设比例阈值时，通过Sigmoid函数对优先级进行平滑增强，增强幅度与算力需求Rcmpute正相关；

所述优先级S(t)的计算公式为：S(t)=So·e-λt+β·P(Rcompute,Dma);式中，β是延迟敏感补偿机制的权重系数，补偿函数P的设计与任务算力需求Rcompute及延迟容忍度Dm强相关；

所述补偿函数P的计算公式为：

4.根据权利要求1所述的高并发任务推理方法，其特征在于，步骤1所述的资源需求预测包括：

以算力需求Rcompute为基准值，结合时序预测网络输出的动态修正量△R,生成最终算力需求Rfinal=Rcorrpute+△R({Rcompute},Enode);

所述时序预测网络的输入包括历史资源利用率序列{Rcompute}及节点实时状态编码Enode,其中Eo包括GPU利用率、内存占用率和网络带宽波动。

5