网站大量收购独家精品文档,联系QQ:2885784924

电子行业深度报告:HBM,训练侧推理侧需求的共同焦点-突破存算协同范式下的“存储墙”困境.pdfVIP

电子行业深度报告:HBM,训练侧推理侧需求的共同焦点-突破存算协同范式下的“存储墙”困境.pdf

  1. 1、本文档共36页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

证券研究报告

电子/行业深度报告

2025年3月26日

突破存算协同范式下的“存储墙“困境

——HBM,训练侧/推理侧需求的共同焦点

证券分析师:唐仁杰S0370524080002

行业评级:增持

摘要

•AI算力倍增背景下,“算力墙”日益凸显。在AI训练和推理中,大量矩阵计算需快速内存访问。当内存无法跟上计算速度时,GPU利用率下降,系统性能无法线性随算力提升。

内存带宽不足已成为AI领域亟待解决的关键瓶颈

•HBM(HighBandwidthMemory)采用3D堆叠DRAM和宽总线并行访问设计,相较于传统平面DRAM、GDDR有着高带宽、低功耗、小封装/集成体积的特点

•堆栈层数定容量,引脚数量、数据传输速率定带宽。从HBM1至HBM3e,单堆栈堆叠层数由最高8层至16层,单DRAM容量上限由16Gb(2GB)至32Gb(4Gb),单颗HBM芯片容量由16GB

扩展至64GB。相比于容量扩充,存储带宽上限由于总IO数量扩充至1024,单PIN数据船速速率由1Gbps提升至最高9.6Gbps,单颗HBM存储带宽上限提升至1.2TB/s

•HBM制造核心工艺涉及TSV、微凸点的垂直互连,TSV工艺约占堆叠封装成本的37%。TSV达到通孔高深宽比理论极限,需通过DRIE+BOSCH工艺以形成垂直通孔;镀铜前,需沉积

绝缘层及扩散阻挡层,等离子体增强化学气相沉积(PECVD)+正硅酸乙酯气体(TEOS)+硅烷(SiH4)在AR过高(如15:1)时侧壁薄膜变薄或中断,因此业界探索使用原子层沉

积(ALD)来获得更佳的膜覆盖。但ALD的缺陷在于沉积速率慢,设备及材料成本较高。刻蚀完成TSV通孔后,需要进行金属填充以形成垂直导通。目前高性能HBM应用多采用电

化学镀铜(ECP)填充TSV。最终,需要通过化学机械平坦化抛光(CMP)去除多余铜并露出TSV铜柱顶面,使其与表面平齐。CMP工艺要精确控制露铜(dishing)程度

•键合工艺实现多层堆叠,成本敏感度较高;传统回流焊+毛细底填充工艺在随着HBM堆叠层数增加和凸点间距减小(芯片间隙可低至20µm),毛细流动变得困难,容易残留空隙

导致应力集中。TCP+NCF通过预先涂布底填充材料来进行键合,由于助焊剂底部清洗难度较大,业界开发出fluxless(无助焊剂)工艺。但热压键合工艺效率较低,无法批量

操作。液态模塑底填充使用低粘度、高渗透性的树脂以保证在窄间隙中无死角充填,并且可批量,效率较高或成为主流。混合键合仍处于初步阶段,但高I/O优势显著。D2W方

式可以在裸芯良率较低背景下提高封装良率,但效率较低;未来可能出现DRAM层间采用MR-MUF键合工艺,而通过D2W或W2W与基底逻辑Die键合的组合键合方式

•HBM市场现状及市场规模:根据TrendForce数据,从HBM供应市场角度,SK海力士、三星、美光独占HBM市场,且SK海力士、三星的集中度较高,且相关设备国产化率较低。

IDTechEX预测,高性能计算(HPC)硬件市场2025-2035期间将保持13.6%的年化增长率,市场规模将超5810亿美元。其中,95%的HPC将使用HBM技术以满足性能需求,HBM单位销

售额预计至2035年,将较2024年增长15倍

•相关公司:拓荆科技(688072.SH):薄膜沉积设备+混合键合、盛美上海(688082.SH):电镀设备达到国际水平、华海清科(688120.SH):磨削、CMP及清洗一体化

•风险提示:HBM工艺复杂,涉及产业链设备及产业链仍以海外企业为主,地缘影响较大;AI产业链发展不及预期,对高性能存储需求下降。

目录

一、“存储墙”-在算力倍升背景下,存储带

宽成为“阿姆达尔短板”

您可能关注的文档

文档评论(0)

tan_xie + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档