【分布式存储卷积计算设计过程案例3900字】.pdfVIP

分布式存储卷积计算设计过程案例

目录

分布式存储卷积计算设计过程案例1

1.1分布存储神经网络并行结构设计1

1.2分布卷积计算设计6

1.3分布存储卷积计算整体结构9

为了提升并行卷积运算结构的运算并行性，必须要保证运算所需数据的提供,

即卷积神经网络加速研究还必须解决以下两个问题：1）内部存储RAM需求高

的限制;2）数据外部存储带宽限制。因此本文提出分布式存储卷积神经网络加速

架构解决两个问题，满足并行运算的数据需求，同时提高数据的复用率，提高

整个带宽的利用率，提升整个系统的性能。

1.1分布存储神经网络并行结构设计

理想的加速神经网络系统设计是采用流水线形式进行全部层次的展开，结构

图如图1.15所示。整个系统被全部展开，其数据主要存储在片内缓存，在初始

运行时，第一个输出结果有很大的延时，但当第一个结果输出后，下一个结果紧

随而来，具有很好的并行效果，然而该架构下的并行模式对计算资源和内部缓存

资源以及外部存储带宽具有很高的要求，只适合特定小型网络，在深度网络以及

多种神经网络上无法通用。

Input

Layer1

Layer2

LayerN

图1.15理想卷积加速结构

本文设计的分布存储卷积计算架构是一个通用网络架构，可实现卷积层、激

活函数以及池化层计算的灵活重构。系统进行运算时，通过片上嵌入式CPU或

者外部总线进行命令的传递。控制模块接受到指令后,根据指令调度各个运算层,

重构各种卷积神经网络。该结构对神经网络的深度没有限制，并且系统可以重构

多种网络，提高网络的通用性；同时该架构可以通过较小的片上存储缓存，充分

利用外部带宽，该模型的结构图如图L16所示。

图1.16通用加速系统架构（因特网改为外部总线）

图1.16中通用CNN加速网络结构如图1.17所示，主要包括N个输入模块、

N个缓存填充模块、NXM个卷积并行加速模块、M个激活函数模块、M个池化

模块、M个输出缓存模块。

权重缓存

输入图像缓存缓存填充卷积计算模块激活函数池化模块输出缓存

N*M■M•

输入图像缓存缓存填充卷积计算模块激活函数池化模块输出缓存

图1.17通用CNN加速模块架构

根据卷积的特性，本文为了最大程度增加系统的并行行，系统采用输入特征

图通道、卷积核以及输出特征图通道一起并行计算的结构，设输入特征图通道并

行度为M卷积核大小为K以及输出特征图通道为最小的卷积计算模块为

卷积核KXK并行的计算结构，输入和输出特征图并行需要个卷积计算模

块，整个系统需要NxMxKxK个乘法器，Mx(KxKxN-l)个加法器。

采用该并行计算模式，不仅最大程度增加系统的并行性，同时每个模块的计

算互不影响，提高了数据的复用率；在只采用卷积核并行运算的情况下，系统的

并行度只有KXK,计算效率太低，同时采用多输入特征图通道N并行计算，可

以增加整个神经网络系统的并行性，但是只增加输入特征图通道进行卷积并行仅

输出一个特征图通道数据，导致对输入特征图通道数据的利用率较底，每计算一

个输出特征图通道数据就需要从DDR中读取所有输入特征图通道数据，设卷积

层i的输入特征图通道数为无，输出特征图通道数为上进行一层卷积计算，需

要从DDR中读取数据的次数为下式1.1所示。

数据的利用率较低，系统对外部读取数据的DDR带宽要交较高，为了提升

读取数据的复用率，采用M个输出通道图通道并行计算输出，N个输入特征图

通道数据