边缘智能计算关键技术与端侧大规模模型部署策略研究.docxVIP

边缘智能计算关键技术与端侧大规模模型部署策略研究

目录

文档概要．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1研究背景．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2国内外研究现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

1.3研究目标与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

边缘智能计算核心技术点．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.1边缘智能计算硬件架构．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

2.2边缘智能计算系统架构．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．8

2.3模型优化技术．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

2.4边缘计算资源管理．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

端侧大规模模型部署策略．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

3.1模型压缩与优化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．