电子行业AI的Memory时刻6:英伟达ICMS平台对SSD使用效果好.docx

电子行业AI的Memory时刻6:英伟达ICMS平台对SSD使用效果好.docx

目录索引

TOC\o1-1\h\z\u一、ICMS打开长期上下文记忆空间 5

二、ICMS平台对SSD使用效果好 7

三、ICMS存储空间广阔 9

四、投资建议 10

五、风险提示 10

图表索引

图1:NVIDIARubin平台内的NVIDIA推理上下文存储架构 5

图2:ICMS运行机制 5

图3:VASTDASE允许每个主机并行访问所有SSD 6

图4:ICMS引入PB级存储层,其延迟仅比池化DRAM略慢 7

图5:在大用户池阶段,HBM+WEKAAMG能维持更高且更稳定的token吞吐速度

.......

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档