基于网络剪枝的稀疏神经网络硬件加速系统设计与负载均衡.docxVIP

PAGE2

基于网络剪枝的稀疏神经网络硬件加速系统设计与负载均衡

摘要

随着深度神经网络参数量的急剧膨胀，算力需求与硬件资源间的矛盾日益凸显。网络剪枝技术通过剔除冗余权重生成稀疏模型，可大幅降低理论计算量。然而，非结构化剪枝导致的非零元素离散分布，极易引发硬件并行计算时的负载不均衡与访存瓶颈，致使实际加速收益大幅衰减。本课题旨在设计一种基于网络剪枝的稀疏神经网络硬件加速系统，并重点优化非零元素的负载均衡调度机制。

全文遵循工程递进思路展开。首先，通过需求分析明确系统需支持高稀疏度模型的高效推理，并量化负载均衡度指标。其次，在总体设计阶段构建数据控制解耦的硬件架构，划分预处理、调度与计算核心模块。接着，详细设计阶段提出动态非零元素映射算法与流水线计算单元，确立片上索引编码规范。实现阶段基于FPGA平台完成RTL编码与验证，解决极稀疏下的PE饥饿与索引解码带宽瓶颈。最后，测试环节通过典型模型评估系统功能与性能。

本设计的核心创新在于提出了一种基于非零元素密度预测的动态负载均衡调度策略，有效消除了计算阵列间的空闲等待，使稀疏推理的实际硬件利用率较基线方案提升显著。

第一章绪论

1.1研究背景

近年来，以卷积神经网络和Transformer为代表的深度学习模型在视觉识别与自然语言处理领域取得了突破性进展。然而，模型精度的提升往往伴随着参数规模的指数级膨胀。例如，VGG-16模型拥