打破内存墙与重算税:AI存力解耦与超节点互连产业链全景报告.pptxVIP

  • 0
  • 0
  • 约9.17万字
  • 约 10页
  • 2026-11-10 发布于湖南
  • 举报

打破内存墙与重算税:AI存力解耦与超节点互连产业链全景报告.pptx

DEEPTECHCAPITALNARRATIVE

打破内存墙与重算税

Al存力解耦与超节点互连产业链全景报告

HBM4·SOCAMM2·CXL4.0·G3.5闪存·超节点液冷与PIM/CIM深度研究

50%

Agentic推理因KV逐出消耗的重算税

39.7倍

CXL-PNM运⾏

DeepSeek-R1硬件降本倍数

01

硬件BOM与重算税

算⼒账本倒挂:⼀半算⼒耗在重算,云⼚近七成预算转向存⼒

⻓⽂本与多步Agent使上下⽂缓存(KVCache)成倍膨胀,缺乏共享内存池的集群逾50%算⼒耗费在“踢出显存、下次再从头重算”的⽆⽤功上。外接共享内存与闪存池将有效利⽤率拉回90%+后,同等吞吐可少买40%–45%⾼价显卡;预计2027年内存与闪存将占去主流云⼚68%的组件采购开⽀。

02

软件与G3.5闪存减税

软件与闪存省钱:读写分离盘活旧卡,⽩盒闪存造价直降九成

软件侧通过SGLang前缀树复⽤与⽉之暗⾯Mooncake读写分离,让存量显卡⻓⽂本有效吞吐提升5倍以上。硬件侧在机柜增设G3.5⾼速闪存池,⽤BlueField-4DPU配合MinIOMemKV直写⽩盒NVMe盘,将64K⾸字延迟从53秒压⾄

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档