边缘智能场景中的模型轻量化与实时推理技术研究.docxVIP

边缘智能场景中的模型轻量化与实时推理技术研究

目录

一、内容简述与研究动因．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1边缘智能化背景概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2模型优化需求的现状分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

1.3研究意义与挑战．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

二、核心技术框架与基础理论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

2.1末端设备计算架构解析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．5

2.2轻量级模型构建原理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

2.3低延迟推理机制．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

三、模型压缩与效率提升策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

3.1简约模型训练方法探析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．18

3.2参数裁剪与量化技巧．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．20

3.3模型结构优化路径