异构计算融合：CPU、GPU、NPU在端侧大模型推理中的协同调度.docx

PAGE2

异构计算融合：CPU、GPU、NPU在端侧大模型推理中的协同调度

摘要

本报告聚焦端侧AI芯片与处理器领域，深度研究CPU、GPU、NPU在统一内存架构下协同调度以优化端侧大模型推理的核心命题。随着生成式AI向边缘端迁移，智能手机、PC及IoT设备对实时性与功耗的平衡需求达到前所未有的高度，异构计算融合成为突破算力瓶颈的关键路径。

报告遵循“宏观环境→产业链现状→竞争格局→需求分析→趋势预测→投资建议”的递进逻辑展开。研究发现，2024年全球端侧AI芯片市场规模已达约180亿美元，预计2027年将突破400亿美元，年复合增长率超30%。核心发现包括：统一内存架构正从可选方案变