端侧大模型部署及轻量推理优化方案.docxVIP

端侧大模型部署及轻量推理优化方案

目录

一、内容简述．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1研究背景与意义．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2国内外研究现状．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．6

1.3研究内容与目标．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．11

1.4技术路线与创新点．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．13

二、大模型端侧部署基