AI的Memory时刻7:SRAM提升AI推理速度-.docxVIP

  • 0
  • 0
  • 约3.87千字
  • 约 13页
  • 2026-03-11 发布于北京
  • 举报

行业专题研究|电子

2026年2月26日

识别风险,发现价值

1

AI的Memory时刻7

SRAM提升AI推理速度

核心观点:

lSRAM是片上高带宽存储层。存储分级为SRAM、HBM、DRAM和SSD,其中SRAM(静态随机存取存储器)集成在CPU、GPU计算核心附近的片上存储,具备纳秒级访问时延与高度确定性的带宽特性,带宽高但容量小、成本高。

lSRAM可提升AI推理速度。在大模型应用中,相比依赖外置HBM,SRAM可显著降低权重与激活数据的访延迟与抖动,从而改善Time-to-First-Token与尾时延表现。Groq和Cerebras两家明星创业公司都推出了基于SRAM的AI芯片。根据Groq官网,其LPU单芯片内集成约230MB片上SRAM,存储带宽高达80TB/s(GPU片外HBM的内存带宽约为8TB/s)。以Llama3.370B模型为例,根据ArtificialAnalysis的独立基准测试,GroqLPU芯片在不同上下文长度下均能维持稳定推理速度,达275-276token/s,显著优于其他推理平台。根据Cerebras官网,其晶圆级引擎3(WSE-3)芯片集成44GBSRAM,片上存储带宽达21PB/s,在OpenAIGPTOSS120B推理任务中实现3000tokens/s的输出速度,较主流GPU云推理快约15×。此外,2026年2月,OpenAI推出首个运行在CerebrasSystemsAI加速器上的模型GPT-5.3-Codex-Spark预览版,支持1000tokens/s的代码生成响应速度,为用户提供更具交互性的编程体验。

lSRAM架构进入主流视野。根据Groq官网、半导体行业观察公众号数据,2025年12月,英伟达斥资200亿美元获得Groq的知识产权的非独家授权,其中包括其语言处理单元(LPU)和配套软件库,并引入Groq核心工程团队。根据Openai官网、芯东西公众号数据,2026年2月,Cerebras宣布完成10亿美元F轮融资,估值达230亿美元,此外,OpenAI与Cerebras签署100亿美元合同,部署多达750兆瓦的定制AI芯片。

l投资建议。AI的Memory时刻,AI记忆持续扩展模型能力边界,AIAgent等应用加速落地。AI记忆相关上游基础设施价值量、重要性将不断提升。建议关注产业链核心受益标的。

l风险提示。AI产业发展以及需求不及预期;AI服务器出货量不及预期,国产厂商技术和产品进展不及预期。

相关研究:

AI的Memory时刻6:英伟达ICMS平台对SSD使用效果好

AI的Memory时刻5:AINAND供需紧张,涨价仍有弹性

AI的Memory时刻4:AIDRAM需求旺盛,行业供需紧张有望延续

2026-02-01

2026-01-26

2026-01-25

行业专题研究|电子

识别风险,发现价值

2

重点公司估值和财务分析表

股票简称

股票代码

货币

最新收盘价

最近

报告日期

评级

合理价值(元/股)

EPS(元)

PE(x)

EV/EBITDA(x)

ROE(%)

2025E

2026E

2025E

2026E

2025E

2026E

2025E

2026E

澜起科技

688008.SH

CNY

167.74

2025/07/13

买入

111.10

2.22

2.84

75.56

59.06

77.25

60.55

19.60

21.40

兆易创新

603986.SH

CNY

311.32

2025/08/26

买入

183.95

2.42

3.17

128.64

98.21

124.44

107.36

9.00

10.70

中微公司

688012.SH

CNY

369.10

2025/04/18

买入

226.45

3.64

5.08

101.40

72.66

117.91

79.12

10.30

12.60

拓荆科技

688072.SH

CNY

360.00

2025/04/27

买入

243.87

3.65

5.24

98.63

68.70

75.63

53.27

16.20

18.90

北方华创

002371.SZ

CNY

496.00

2025/04/27

买入

574.34

13.68

17.60

36.26

28.18

37.22

29.34

19.00

19.70

京仪装备

688652.SH

CNY

126.48

2026/02/1

文档评论(0)

1亿VIP精品文档

相关文档