脉冲神经网络低开销在线学习关键模块研究.pdfVIP

摘要

脉冲神经网络（SpikingNeuralNetwork，SNN）作为第三代神经网络，具有低

功耗、高计算效率等优点，在人工智能领域具有广阔的应用前景。然而，现有的脉

冲神经网络芯片普遍存在计算资源利用率低、在线学习开销过大等问题，难以满足

边缘端设备部署神经网络的应用需求。因此，本论文针对脉冲神经网络芯片面临的

计算资源利用率低和在线学习开销过大的关键问题，设计了一种低开销在线学习

稀疏加速关键电路，具体工作内容如下：

（1）设计了具有在线学习能力的低开销脉冲神经网络稀疏加速核心电路架

构。针对脉冲神经网络的推理和学习过程中的不同计算过程，可通过指令灵活配置

稀疏加速核心电路。并采用了权重共享的设计理念，四个稀疏加速核心组成的核心

簇有核内共享和核间共享两种模式，使得整体计算开销减少4倍。

（2）实现了具有负载平衡能力和稀疏脉冲加速能力的硬件处理单元。针对

脉冲神经网络的推理和学习过程中的不同计算过程，可通过指令灵活配置稀疏加

速核心电路，将不同输入通道的稀疏脉冲进行跳零操作以后，均匀分配给不同计算

单元进行计算，与传统脉冲神经网络加速单元相比，可将计算效率提升最高18倍

且PE利用率提升最高22倍。

（3）针对所设计的稀疏加速核心完成了算法映射过程。将脉冲神经网络学

习算法过程中的计算步骤与稀疏加速核心电路的不同计算模式相互映射，并将梯

度更新中的大卷积核计算等效成小卷积核的逐步计算，从而适配稀疏加速核心的

硬件结构。

（4）对整体稀疏加速核心进行功能仿真测试，验证了其针对脉冲神经网络

的推理与在线学习能力，基于VCS和PyTorch使用Python和SystemVerilog语言

设计了一种灵活的验证平台，实现了算法的参考模型与硬件RTL代码的解耦过程，

大大提高了验证灵活性以及验证效率。最后在中芯国际40nm工艺库下对稀疏加

速核心进行综合，在1.576mm2的面积和156.28mW的功耗下，实现了最高1843

GOPS的算力和11.79TOPS/W的能效比。

关键词：神经网络，脉冲神经网络芯片，在线学习芯片

ABSTRACT

SpikingNeuralNetworks(SNNs),asthethirdgenerationofneuralnetworks,are

knownfortheirlowpowerconsumptionandhighcomputationalefficiency,andholda

broadapplicationprospectinthefieldofartificialintelligence.However,existingspiking

neuralnetworkchipscommonlyfaceissuessuchaslowcomputationalresource

utilizationandexcessiveoverheadforonlinelearning,whichhindertheirdeploymentin

edgedevices.Therefore,thisdissertationaimstoaddressthecriticalissuesoflow

computationalresourceutilizationandhighoverheadforonlinelearningfacedbySNN

chips.Alow-overheadonlinelearningsparsityaccelerationkeycircuithasbeendesigned,

withthespecificworkcontentasfollows:

（1）Alow-overheadspikingneuralnetworksparseaccelerationcorecircuit

architecturewithonlinelearningcapabilitieswasdesigned.Thesparseacceler