智能计算系统实验教程-第6章 深度学习处理器运算器设计.pdf

第6章＊深度学习处理器运算器设计

第6章＊深度学习处理器运算器设计

随着深度学习应用场景越来越复杂，深度学习算法的运算形式H益多样化、网络结构

愈例exNetGeNetResNet为了更更

复杂A、oogl、等。高效、灵活地支持深度学习算

加，如l

法，需要设计加速深度学习算法的处理器，同时支持越来越多样化的编程需求。深度学习

(LP,eepLeamnProcessor)就是一类高效支持深度学习算法的处理器，其针

处理器DDig

对深度学习的通用计算进行加速，包括卷积运算、池化运算等；同时，深度学习处理器考

虑深度学习算法的多样性，提供灵活的指令集，便于程序员高效地实现算法。

在深度学习算法中，卷积运算是最核心的运算操作。卷积层包含大量的输入输出数据

和权重参数，其运算量占深度学习算法总运算量的90%以上。处理器执行卷积运算的性能

决定了深度学习算法在处理器上的性能。在智能计算系统中，设计出能高效支持卷积运算

的运算器，是深度学习处理器设计的关键技术之一。

LP

本章首先分析卷积层的算法特征，介绍面向卷积运算的D架构及其处理矩阵／卷积

LP运算器的设计方法，

的过程；其次，介绍实验环境；然后介绍面向矩阵和卷积处理的D

A

包括串行内积运算器、并行内积运算器、矩阵运算子单元，以及如何使用ED工具进行仿

真调试。需要说明的是，本章的实验设计仅仅是一个教学模型，从物理实现上来看结构设

计不一定很合理，主要是为了从原理上说明深度学习处理器是如何加速卷积计算。

6.1实验目的

eo

掌握深度学习处理器中运算器的设计原理，能够使用Vrilg语言实现内积运算器及矩

阵运算子单元的设计并进行功能仿真。具体包括：

1)理解深度学习处理器加速卷积运算的原理，理解本实验和深度学习处理器基本模块

间的关系。

erilog语言实现串行内积运算器，理解内积运算器的基本组成单元。

2)利用V

erilog语言实现并行内积运算器，加深对深度学

3)在串行内积运算器基础上，利用V

习处理器加速卷积计算原理的理解。

eo

4)在并行内积运算器基础上，利用Vrilg语言实现矩阵运算子单元，加深对矩阵运

算子单元的理解。

实验工作量：约300行代码，约需4个小时。

6.2背景介绍

本节首先介绍分析深度学习算法中卷积层的算法特征，然后介绍面向卷积运算的深度

学习处理器架构，接下来介绍矩阵运算以及卷积层在深度学习处理器上的处理过程，最后

介绍本实验环境，包括工具安装和验证环境。

131

智能计算系统

实验教程第2版

6.2.1卷积层算法特征

卷积层巾输入X、输出Y和权重W(即卷积