端侧AI与云端算力动态路由架构：基于网络带宽与本地负载预测的混合推理硬件调度机制.docx

PAGE2

端侧AI与云端算力动态路由架构：基于网络带宽与本地负载预测的混合推理硬件调度机制

摘要

本报告聚焦边缘计算架构中端侧AI与云端算力协同的核心命题，系统研究基于网络带宽与本地负载预测的混合推理硬件动态路由调度机制。研究范围覆盖端侧推理芯片、云端AI加速器及中间调度层，时间跨度聚焦2020至2030年，地理覆盖以中国为主、兼顾全球关键市场。

核心发现表明，随着大模型轻量化技术成熟与端侧算力密度提升，混合推理架构正从“云端为主、端侧为辅”向“端云自适应协同”演进。网络带宽波动与本地负载不确定性构成动态路由的两大核心变量，基于强化学习的预测调度算法在延迟敏感型场景中展现出显著优势。预