基于近似存储的神经网络推理系统设计与误差容忍优化.docxVIP

PAGE2

基于近似存储的神经网络推理系统设计与误差容忍优化

摘要

随着边缘计算设备的普及，人工智能芯片在处理神经网络推理任务时面临严重的存储功耗瓶颈。传统高精度存储器在保证数据准确性的同时，带来了极高的静态与动态功耗。本课题旨在设计一种基于近似存储的神经网络推理系统，利用神经网络固有的误差容忍特性，在可接受的精度损失范围内显著降低存储功耗。

全文遵循工程递进思路展开。首先，进行需求分析，明确低功耗推理与精度可控的系统目标。其次，进行总体设计，构建包含硬件抽象层、近似控制层与推理引擎层的分层架构。接着，在详细设计阶段，深入阐述近似存储控制与基于敏感度的误差容忍优化算法。然后，实现系统原型，解决功耗与精度平衡的技术难点。最后，通过系统测试验证，在CIFAR-10数据集上，系统在精度损失仅1.2%的情况下，存储功耗降低了约23.5%。

本设计的核心创新在于提出了一种动态敏感度评估机制，实现了对神经网络不同层级参数的差异化近似存储配置，有效提升了能效比。

第一章绪论

1.1研究背景

近年来，深度神经网络在计算机视觉、自然语言处理等领域取得了突破性进展。然而，神经网络模型规模的急剧膨胀导致推理过程中的存储访问功耗成为人工智能芯片的主要能效瓶颈。在典型的边缘计算场景中，存储器访问功耗往往占据芯片总功耗的60%至70%以上。

传统的存储器设计追求绝对的数据完整性，通过提高供电电压和增