《深度神经网络FPGA设计与实现》课件_第8章.pptxVIP

第8章基于OpenCL的FPGA神经网络计算加速开发;

8.1OpenCL基础;

OpenCL便于软件开发人员为高性能计算服务器、桌面计算系统、手持设备编写高效轻便的代码，而且广泛适用于多核心处理器(CPU)、图形处理器(GPU)、单元(CELL)类型架构以及数字信号处理器(DSP)等其他并行处理器，在游戏、娱乐、科研、医疗等领域都有广阔的发展前景。OpenCL由非盈利性技术组织KhronosGroup掌管。;

OpenCL是ISOC99标准的一个扩展子集，它扩展了在异构计算设备上执行并行算法的能力。OpenCL的语法类似于标准的C函数，主要区别是它拥有一些额外的关键字和OpenCL内核程序实现的执行模型。在编写OpenCL程序时，开发人员需要考虑的是如何在程序中实现并行性。;

8.1.2OpenCL模型

OpenCL作为开放性的异构计算的标准，支持的平台有CPU、GPU、DSP、FPGA。它支持的设备各有不同，所以需要对不同平台有一个统一的分层和模型划分。为了把各个厂家、各个平台的各种概念和术语都统一到一个标准的环境下，OpenCL定义了若干个模型。这对于OpenCL这种本来就定义在异构平台的标准尤其重要，通过这些模型，可以使用相同的语言/语义来描述不同环境下的并行计算。

OpenCL的模型框架包含四个模型，分别为平台模型(PlatformModel)、执行模型(ExecutionModel)、内存模型(MemoryModel)以及编程模型(ProgrammingModel)。;

1.平台模型

OpenCL的平台模型如图8-1所示，该模型由两部分组成：宿主机和OpenCL设备。宿主机是异构计算的主控机，负责整体流程控制，一般为CPU，且只能有一个。OpenCL设备主要负责数据运算操作，作为从设备接收宿主机的指令进行数据处理，一个平台可以有多个OpenCL设备。;

;

执行流程：宿主机负责管理所有的OpenCL设备，同时发起计算任务，选择特定的计算平台以及OpenCL设备，并为之建立相应的执行环境；然后将计算任务和数据发送给OpenCL设备，OpenCL设备会同时调用内部的多个处理单元执行计算任务；OpenCL设备中的每一个处理单元执行一个处理过程，多个处理单元同时执行；运算完成后将结果返还给宿主机，该次计算任务结束。;

2.执行模型

OpenCL程序的执行分为两部分：在主机上执行的宿主机程序，以及在一个或多个OpenCL设备上执行的内核程序。宿主机程序完成应用中的主机运算部分，并通过上下文和命令队列来管理设备，控制内核程序在设备上的运行；内核程序是OpenCL程序的核心部分，它运行在OpenCL设备上，完成应用中的并行计算部分。;

在物理上，整个OpenCL设备由多个计算单元组成，每个计算单元进一步被划分成多个处理单元。在逻辑上，工作空间可以平均分为多个工作组，每个工作组可以细分为多个工作节点。如果将整个OpenCL设备看作一个工作空间，则每个计算单元可以看作是一个工作组，每个处理单元可以看作是一个工作节点。OpenCL规范中使用一个长度为N的整型数组来描述工作空间的大小(数组的长度N不超过3)，数组中的每一维的数值指定了该维度上的工作节点的个数，全局索引、局部索引和工作组索引都为N维，默认情况下索引都是从0开始的。;

对于一个工作节点数为Gx?×?Gy、工作组大小为Sx?×?Sy的二维工作空间，全局索引定义了Gx?×?Gy的工作空间，这一空间包含的工作节点的总数是Gx?×?Gy。局部索引定义了Sx?×?Sy的工作组，每个工作组包含的工作节点数是Sx?×?Sy。工作节点的全局索引与其所属于的工作组的索引、每个工作组的大小以及在工作组内的局部索引存在映射关系，如式(8-1)所示。

(gx,gy)?=?(wx?×?Sx?+?sx?,wy?×?Sy?+?sy)

(8-1);

如果给定了每个工作组的大小与工作空间中工作节点的数目，则可以按式(8-2)计算出工作组的数目。

如果给定了工作节点的全局索引与局部索引、每个工作组的大小，则可以按式(8-3)计算出工作组索引。;

图8-2是一个工作节点数为12?×?12、工作组大小为4?×?4的二维工作空间，其中每一个小方块分别代表一个工作节点，较大的方块代表一个工作组。;

;

1)上下文

数据计算主要在OpenCL设备上进行，但宿主机也扮演着重要的角色。宿主机定义了执行内核程序的上下文(Context)，并通过上下文管理OpenCL设备。上下文主要包含如下一些硬件和软件资源：

(1)