电子行业深度：AI推动HBM需求强劲增长.docxVIP

正文目录 TOC \o 1-2 \h \z \u HBM 为当前满足 AI 需求的最佳方案 4 HBM 有效解决了“内存墙”和“功耗墙”问题 4 TSV 和 2.5D 封装赋予 HBM 卓越性能 6 HBM 已迭代至第五代 8 AI 推动 HBM 需求强劲增长 10 AI 发展推动 HBM 放量 10 HBM3 市占率有望大幅增加 11 HBM 颗粒寡头垄断，国内厂商发力上游 12 龙头厂商竞相开发新品 12 国内厂商主要从事上游材料领域 13 投资建议 14 风险提示 14 图目录 图 1 博通 StrataDNX? Jericho2 交换机解决方案 4 图 2 NEC SX-Aurora TSUBASA 结 构图 4 图 3 20 年间不同处理器与存储性能变化统计图 5 图 4 数据中心运营成本结构 6 图 5 数据中心能耗成本结构 6 图 6 HBM 的 结构 6 图 7 TSV 工艺 7 图 8 2.5D 封装与 3D 封装示意图 8 图 9 JEDEC DRAM 分类 9 图 10 不同版本 HBM I/O 速度 10 图 11 搭载 HBM 的二三代 TPU 11 图 12 各大厂商 HBM 开发进度 12 图 13 不同 HBM 市占率变化预测 13 图 14 主要供应商市占率变化预测 13 图 15 HBM 产 业链 13 表目录 表 1 HBM 与其它存储参数对照表 7 HBM 为当前满足 AI 需求的最佳方案 HBM 有效解决了“内存墙”和“功耗墙”问题 HBM（High Bandwidth Memory）中文名叫高带宽存储器，是 AMD 和 SK Hynix 联合推出的基于 3D 堆叠技术的同步动态随机存取存储器（SDRAM），适用于高带宽需求的应用场合，应用于高性能 GPU、网络交换及转发设备（如路由器、交换器）、高性能数据中心 AI ASIC 和 FPGA，以及一些超级计算机处理器中（如 NEC SX-Aurora TSUBASA 和富士通 A64FX）。第一款 HBM 芯片由 SK Hynix 在 2013 年生产，2015 年 AMD 首次研发了使用 HBM 的 GPU 芯片。 图 1 博通 StrataDNX? Jericho2 交换机解决方案 图 2 NEC SX-Aurora TSUBASA 结构图 资料来源：博通， 资料来源：github， HBM 的诞生主要是为了解决“内存墙”问题。大部分计算机、服务器都遵循冯·诺依曼结构，冯·诺依曼结构由五个部分组成：输入设备、存储器、输出设备、运算器、控制器，其工作原理可以分为五个步骤：取指令、解码指令、执行指令、访问存储器和写回结果。中央处理器（CPU）通过指令从内存中读取数据，并完成计算，再将数据返回内存保存，因此，CPU 访问存储器的速度就成了影响系统运行的重要因素。由于半导体产业的发展和需求的差异，处理器和存储器二者之间走向了不同的工艺路线，由于处理器与存储器的工艺、封装、需求的不同，从 1980 年开始至今二者之间的性能差距越来越大。 近 20 年间，运算芯片的算力提高了 90000 倍，提升非常快。虽然存储器从DDR 发展到 GDDR6x，能够用于显卡、游戏终端和高性能运算，接口标准也从 PCIe1.0a 升级到 NVLink3.0，但是通讯带宽的增长只有 30 倍，和算力相比提高幅度非常缓慢。存储器带宽的不足严重限制了运算设备性能的提升，在一 些特殊使用场景中（尤其是 AI 计算领域），处理器经常需要等待内存的数据回传，超高的延时严重拖慢了运算设备整体的运行效率，内存带宽逐渐成为限制计算机发展的关键。 图 3 20 年间不同处理器与存储性能变化统计图 资料来源：《AI and Memory Wall》， 与此同时，过高的信息交换量也带来了严重的功耗问题。在冯·诺依曼计算机体系结构中，CPU 和内存之间通过总线分离连接，且存储器本身不具备数据处理能力，大规模的数据传输需要 CPU 与存储器通过数据总线进行频繁的数据交换，传输过程消耗的功耗要比计算本身的功耗更大，称为“功耗墙”。“功耗墙”带来了成本问题，数据中心运营成本中电力成本占到 56.70%，而电力成本中 67.29%来自于 IT 负荷，HBM 的低功耗优势有利于降低数据中心能源成本。 由于传统显存 GDDR5 面临着带宽低、功耗高等瓶颈，2013 年，SK 海力士与 AMD 联合开发了全球首款 HBM 产品。HBM 通过立体堆叠技术制造完成，这些堆叠的芯片通过称为“中介层 (Interposer)”的超快速互联方式，连接至 GPU，实现了普通存储 8.5 倍的带宽，有效解决了内存墙问题。HBM3 的核心电压只有 1