人工智能驱动下的模型量化压缩与性能优化研究.docxVIP

人工智能驱动下的模型量化压缩与性能优化研究

目录

文档概览．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1研究背景与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2国内外研究现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．4

1.3研究目标与内容．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．6

1.4研究方法与技术路线．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

1.5论文结构安排．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

模型量化压缩理论基础．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

2.1模型量化基本概念．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

2.2常用量化格式分析．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．14

2.3模型压缩主要技术．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．15

2.4相关评价指标．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．