基于量化与人工智能的模型优化研究.docxVIP

基于量化与人工智能的模型优化研究

目录

内容简述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1研究背景与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2国内外研究现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．3

1.3研究目标与内容．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．8

1.4研究方法与技术路线．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

相关理论与技术基础．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

2.1量化计算方法．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

2.2机器学习模型理论．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．16

2.3模型优化算法概述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．21

基于量化方法的模型轻量化．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．25

3.1数据类型压缩技术．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．25

3.2