终端侧大规模模型轻量化部署研究.docxVIP

终端侧大规模模型轻量化部署研究

目录

一、终端侧大模型部署背景．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.1智能边缘先河与背景述要．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．2

1.2大规模智能体部署的定义与实践范围界定．．．．．．．．．．．．．．．．．．．3

1.3终端侧特有部署需求．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．7

二、终端场景关键技术瓶颈．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．．10

2.1端侧计算能力与能源消耗的永衡拉锯．．．．．．．．．．．．．．．．．．