202353-AI行业跟踪报告第26期：HBM产业链和先进封装产业链梳理.pdfVIP

HBM产业链和先进封装产业链梳理

——AI行业跟踪报告第26期

作者：

刘凯执业证书编号：S0930517100002

于文龙执业证书编号：S09305221000022023年12月16日

证券研究报告

目录

1、英伟达发布H200，HBM3e是核心变化

2、HBM需求高速成长，龙头海力士MF-MUF技术是核心工艺

3、先进封装大势所趋，CoWoS是产业链瓶颈

4、投资建议：关注HBM供应链与先进封装供应链投资机会

5、风险提示

招商基金

请务必参阅正文之后的重要声明2

1、英伟达发布最新H200GPU

根据芯智讯信息，英伟达（Nvidia）于北美时间2023年11月13日上午在“Supercomputing23”会议上正式发布了全

新的H200GPU，以及更新后的GH200产品线。

H200依然是建立在现有的HopperH100架构之上，但增加了更多高带宽内存（HBM3e），从而更好地处理开发和实施

人工智能所需的大型数据集，使得运行大模型的综合性能相比前代H100提升了60%到90%。而更新后的GH200，也将

为下一代AI超级计算机提供动力。

图表1：英伟达全新H200GPU

请务必参阅正文之后的重要声明3

资料来源：芯智讯

1、英伟达发布最新H200GPU：HBM容量大幅提升

对比H200与H100的规格，H200主要负责计算能力的核心单元部分规

图表3：英伟达H200与H100比较

格并没有改变，算力规模完全一致，所带来的提升只是显存容量从

80GB提高到了141GB，显存的规格从原本的HBM3升级到了HBM3e。

图表2：英伟达生态日益完善

资料来源：中国电子报

请务必参阅正文之后的重要声明4

资料来源：英伟达公开路演PPT《ndr_presentation_oct_2023_final》

1、英伟达发布最新H200GPU：推理性能显著提升

由于H200本身算力部分并没有变化，因此换用H200并不会对AI大模型的训练速度产生更好的影响，以训练175B大小的GPT-3举例，同规模的

H200大概只比H100快10%左右。

H200主要的提升之处在于推理”：推理对于算力的需求并不高，限制反而在于单芯片的显存大小以及显存带宽，如果应用到多GPU的互联，

那么信息通信的带宽反而会不够。即便如NVLink提供的900GB/s的数据通信速度，也无法媲美单卡内部超过3TB/s的速度，更不用说换了

HBM3e显存后高达4.8TB/s的性能。更大的单卡显存容量也能有效减少跨卡访问的次数，算是一种变相的效率提升。

买的越多，省得越多。随着当前AI大语言模型逐步迈向应用化，计算任务的重心已经由早期的训练模型转变为应用端的推理行为。而H200对

比H100的推理能耗直接减半，极大降低了使用成本。

图表4：英伟达H200与H100的大模型应用性能比较图表5：英伟达H200和H100的成本和能耗比较

请务必参阅正文之后的重要声明5

资料来源：英伟达、镁客网、网易新闻资料来源：英伟达、镁客网、网易新闻

1、