【东方-2026研报】ram在AI推理中拓展应用,堆叠方案可助力容量扩充.pdfVIP

  • 0
  • 0
  • 约1.02万字
  • 约 5页
  • 2026-03-10 发布于广东
  • 举报

【东方-2026研报】ram在AI推理中拓展应用,堆叠方案可助力容量扩充.pdf

行业研究|动态跟踪

电子行业

SRAM在AI推理中拓展应用,堆叠方案可看好(维持)

助力容量扩充国家/地区中国

行业电子行业

报告发布日期2026年03月07日

核心观点

⚫事件:英伟达将于2026年3月16日举办GTC2026大会。市场关注英伟达有望结

合GroqLPU芯片架构推出新的AI推理芯片方案,进而驱动SRAM拓展应用。

⚫SRAM可实现较高的访问速度。SRAM即静态随机存取存储器。在SRAM中每个存

储单元需4-6个晶体管组成触发器结构,只要持续供电,触发器就能稳定保持数据状

态,无需额外的刷新操作。基于此,SRAM读写速度极快,访问时间仅约10纳秒甚

至更低,访问速度远超DRAM。

⚫SRAM架构在AI推理中拓展应用,头部厂商加速布局。当前,市场已充分认识HBM薛宏伟执业证书编号:S0860524110001

在模型权重、KVCache存储等方面的作用,但对于SRAM架构的应用潜力认知有xuehongwei@

限。我们认为,SRAM架构在延迟要求低、访问速度要求更高的数据中存在较大的021

应用潜力,有望在AI推理中拓展应用。从技术底层来看,SRAM容量较小但工作速蒯剑执业证书编号:S0860514050005

度快,在AI推理过程中,对于小参数模型的模型权重、数据流架构中的中间结果和香港证监会牌照:BPT856

权重数据等部分容量要求小但访问速度要求高的数据,SRAM可以作为HBM之外的kuaijian@

021

重要的存储层级补充。从产业进展来看,2025年12月英伟达斥资200亿美元获得

Groq的知识产权的非独家授权,其中包括其语言处理单元(LPU)和配套软件库,

并引入Groq核心工程团队。GroqLPU采用容量达数百MB的片上SRAM存放模型

李晋杰执业证书编号:S0860125070012

权重,SRAM集成在处理器内部,访问延迟显著低于HBM。据Groq官方数据显

lijinjie@

示,其片上带宽

文档评论(0)

1亿VIP精品文档

相关文档