LPU专题报告一:架构创新突破大模型推理延迟瓶颈,广阔市场空间有望快速放量-.docxVIP

  • 7
  • 0
  • 约1.54万字
  • 约 33页
  • 2026-03-29 发布于河北
  • 举报

LPU专题报告一:架构创新突破大模型推理延迟瓶颈,广阔市场空间有望快速放量-.docx

请阅读最后一页的重要声明!

LPU专题报告一:架构创新突破大模型推理延迟瓶颈,广阔市场空间有望快速放量

投资评级:看好(维持)

最近12月市场表现

电子沪深300

52%38%23%9%-6%

-20%

电子

行业专题报告/2026.03.15

核心观点

LPU为新一代面向大模型推理阶段的芯片,核心为TSP架构:LPU是专为顺序处理的计算密集型任务设计的新型芯片架构,核心在于TSP架构,包含五大功能模块,将经典的处理器五级流水线拆散在整个芯片内,进而消除了硬件的复杂性,使指令执行顺序和时间具有确定性。在TSP架构下,编译器可以直接访问并精确控制芯片的底层硬件状态,实现了软件定义硬件。

LPU可缩短大模型推理过程中的延迟,提高用户体验感:大模型在推理过程中会存在延迟,延迟与用户体验感精密挂钩,大模型推理过程中的延迟主要在Decode阶段,核心瓶颈在于内存带宽。LPU具备更快的内存带宽,可缩短大模型推理过程中的延迟。同时,基于LPU的大模型不仅具有更快的推理速度,还可以提供更具性价比的价格,可进一步提高用户体验感。

LPU具备广阔的潜在发展空间,已步入量产初期:目前Tokens的消耗量大幅增长,2024年初我国日均To

文档评论(0)

1亿VIP精品文档

相关文档