边缘计算环境下的模型轻量化与推理加速.docxVIP

边缘计算环境下的模型轻量化与推理加速

目录

文档综述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

相关工作回顾．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

2.1边缘计算技术发展概况．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

2.2模型轻量化技术进展．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

2.3推理加速技术现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

理论框架与方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．16

3.1轻量化模型设计原则．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．16

3.2推理加速算法原理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．17

3.3轻量化与推理加速结合策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．25

轻量化模型构建．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．27

4.1数据预处理与特征提取．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．27

4.2模型结构优