电子行业深度报告：端侧AI，模型创新快速迭代，看好苹果引领AI硬件起飞.pdf

行业深度报告

内容目录

1.AI技术在端侧逐渐深化，引领全新人机协作方式4

1.1.AI自主化能力逐渐提高，与系统融合程度提升4

1.2.基于用户场景的端云混合架构4

1.3.LLM从各个层面改造终端5

1.4.消费级终端带动端侧AI高速发展6

2.端侧模型逐步迭代，巨头引领行业发展8

2.1.基础的小模型迭代加速，技术创新大于参数量提升8

2.2.端侧模型需要进一步提升参数量以提高性能9

2.3.量化/剪枝/蒸馏技术压缩模型以降低硬件要求9

2.4.Agent架构差异带来数据困境，Transformer是转折点10

3.硬件升级满足高性能需求，适配核心在内存13

3.1.内存是端侧硬件AI推理能力的短板13

3.2.安卓和iOS内存利用效率差异大14

3.3.苹果硬件积极应变，创新方案集中内存方向14

4.多模态UI交互界面革命带来Agent的历史机遇16

4.1.Transformer架构带来UI交互的机遇16

4.2.苹果和谷歌均发力UI交互模型17

5.风险提示20

2/21

行业深度报告

图表目录

图1：AI智能化分级4

图2：AIOS架构4

图3：终端AI能力主线增强但当前依然不足4

图4：端侧和云端AI处理的分工示意4

图5：苹果的AI生态架构5

图6：增强型LLM架构6

图7：提示链工作流6

图8：AIAgent架构图6

图9：存量消费终端设备结构（%，2023年）7

图10：中国端侧AI行业市场规模，2018-2028E（亿元）7

图11：小型模型比较8

图12：各小型模型MMLU基准测试得分8

图13：GeminiNano与Pro性能比较9

图14：小型化技术-剪枝原理示意图10

图15：小型化技术-蒸馏原理示意图10

图16：量化与精度恢复对模型性能的影响（以未量化的模型表现为1）10

图17：多模态大模型架构10

图18：AgentTransformer架构10

图19：AI终端关键技术特征11

图20：端侧Agent的组成部分11

图21：AIAgent底层能力和高级能力之间的映射关系11

图22：提升Agent效率的技术及其简要说明12

图23：常见移动设备中的内存层级结构13

图24：计算和存储操作的能耗13

图25：主流手机SoC对比13

图26：安卓和iOS运行App时内存占用对比14

图27：安卓和iOS运行游戏时内存占用对比14

图28：PoP封装的形式15

图29：苹果芯片封装形式改变15

图30：Agent任务执行过程（以GUI界面为例）16

图31：智能体和API之间的调用方式示例（Extension方式）16

图32：UI界面复杂，元素识别困难17

图33：Ferret-UI-Anyres架构17

图34：Ferret-UI-anyres准确率表现优异18

图35：谷歌ScreenAI模型架构18

图36：ScreenAI模型的屏幕理解/问答/导航/摘要四类任务示例19

图37：谷歌不同参数ScreenAI模型参数量及其分配细节19

图38：不同参数的ScreenUI模型的表现19

3/21

行业深度报告

1.AI技术在端侧逐渐深化，引领全新人机协作方式

1.1.AI自主化能力逐渐提高，与系统融合程度提升