深度学习模型算法优化与工程实践.docxVIP

深度学习模型算法优化与工程实践

目录

一、概论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1学习目标与背景．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2核心概念辨析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

二、模型优化技术详解．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．9

2.1模型结构优化策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．9

2.2训练过程优化方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

2.3模型推理加速方案．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．19

2.3.1推理引擎选择与适配．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．22

2.3.2并行计算与硬件协同．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．24

三、深度学习工程化实践．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．28

3.1数据管理与预处理平台．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．28