NVDLA编译器的解读.pdf

DEMISTING THE NVDLA® COMPILER OSDT2018-北京 中科重德智能科技邱吉 概览 ■ NVDLA 是什么 ■ NVDLA 的软件栈 ■ 基本版NVDLA compiler ■ 高阶版本：优化 ■ 总结 概览 ■ NVDLA 是什么 ■ NVDLA 的软件栈 ■ 基本版NVDLA compiler ■ 高阶版本：优化 ■ 总结 NVDLA是什么 ■ NVDLA是由NVIDIA公司推出的开源深度学习推理加速器 ■ 端侧、inference ■ 项目状态 GitHub repo Last push Issues /nvdla/sw 8/7 67 /nvdla/hw 4/19 113 /nvdla/vp 8/22 11 /nvdla/doc 10/10 7 11 2 3 4 5 6 /primer.html 概览 ■ NVDLA 是什么 ■ NVDLA 的软件栈 ■ 基本版NVDLA compiler ■ 高阶版本：优化 ■ 总结 Model files (Caffe, TF, ONNX, NCNN, MXNET) NVDLA Compiler ILoadable File User mode driver including ILoadable loading and parsing, memory binding, task submitting Kernel mode driver including scheduler, interrupt(event) handler and DRM(for ioctl and copy_from_user) NVDLA hardware with configuration register interfaces Parser: convert the Caffe different format into Tensorflow an intermediate data MxNet structure Compiler: convert the intermediate data structure into I Loadable 为什么要探究nvdla