基于自适应模型分割的边缘-云协同推理系统设计与通信优化 .docxVIP

PAGE2

基于自适应模型分割的边缘-云协同推理系统设计与通信优化

摘要

随着物联网技术的飞速发展与人工智能应用的普及，海量数据对计算能力与实时性提出了更高要求。传统的云计算模式面临高延迟与带宽瓶颈，而边缘计算虽降低了响应时延，却受限于资源约束，难以独立运行大规模深度学习模型。针对上述问题，本文设计并实现了一种基于自适应模型分割的边缘-云协同推理系统，旨在通过动态分割策略平衡计算负载与通信开销，提升推理效率。

本文首先分析了边缘-云协同推理的研究现状与核心痛点，确立了以降低推理时延、优化带宽占用为核心的设计目标。在总体设计阶段，构建了包含感知层、边缘端、云端的三层系统架构，并设计了基于网络状态感知的自适应分割算法。系统通过实时监测网络带宽与边缘设备负载，动态计算最优分割点，将深度神经网络模型合理切分，实现边缘端与云端的串行或并行协同推理。

在详细设计与实现阶段，本文完成了模型分割模块、通信传输模块及推理引擎的开发。系统采用ResNet-50作为基准模型，利用PyTorch框架进行模型构建与中间特征提取，通过Protobuf协议实现数据的高效序列化传输。测试结果表明，在波动的网络环境下，该系统相比静态分割方案平均推理时延降低了约18.5%，有效提升了系统的鲁棒性与吞吐量。本文的研究成果验证了自适应模型分割在边缘-云协同场景下的可行性与优越性，为资源受限环境下的智能应用部署提供了