不再局限于AI训练:高带宽存储在大模型推理场景的降维打击.docx

不再局限于AI训练:高带宽存储在大模型推理场景的降维打击.docx

-

不再局限于AI训练:高带宽存储在大模型推理场景的降维打击

TOC\o1-3\h\z\u25802一、引言:从训练到推理的范式转移 4

144581.1大模型发展阶段的演进趋势 4

43811.1.1训练阶段对算力的极致追求 4

302221.1.2推理阶段成为新的增长引擎 5

319641.2高带宽存储(HBM)的战略地位升级 7

2571.2.1突破“内存墙”瓶颈的关键技术 7

160151.2.2从辅助支撑到核心驱动的角色转变 8

11489二、现状剖析:推理场景下的性能痛点 10

77232.1传统存储架构

文档评论(0)

1亿VIP精品文档

相关文档