AI产业川流汇聚，云端两旺机遇开启.pdfVIP

目录

GB系列：AI产业川流汇聚，云端两旺机遇开启4

Blackwell众多技术突破，整体以机柜形式交货4

Blackwell或成理市场的钥匙，FP4精度潜力较大6

风险因素9

表目录

表1：建议关注9

图目录

图1：GB200NVL72机柜正面4

图2：GB200NVL72机柜背面4

图3：GB200机柜4

图4：GB200机柜背面4

图5：GB200Superchip5

图6：Blackwell的技术突破5

图7：全球服务器出货按价格带分布（万台）6

图8：四种数据精度6

图9：英伟达H100相对A100有较大峰值性能提升（TFLOPS）6

图10：训练：在不同规模的GPT模型上使用BF16与FP8进行训练的loss7

图11：推理：使用Tensor-LLM实现FP8推理的性能7

图12：FP8推理过程7

图13：英伟达产品算力对比8

图14：FP16和FP4精度下生成的图片对比9

请阅读最后一页免责声明及信息披露3

GB系列：AI产业川流汇聚，云端两旺机遇开启

Blackwell众多技术突破，整体以机柜形式交货

GB200机柜有NVL36和NVL72两种规格。GB200NVL36配置中，一个机架有36个

GPU和9个双GB200计算节点（以托盘为单位）。GB200NVL72在一个机架中配置了

72个GPU/18个双GB200计算节点，或在两个机架中配置了72个GPU，每个机架

上配置了18个单GB200计算节点。

图1：GB200NVL72机柜正面图2：GB200NVL72机柜背面

资料来源：英伟达官网，信达证券研发中心资料来源：英伟达官网，信达证券研发中心

⚫计算托盘：每一个计算托盘有两个NVIDIAGB200GraceBlackwell超级芯片。每个

超级芯片将两个高性能NVIDIABlackwellTensorCoreGPU和NVIDIAGraceCPU

与NVLink芯片到芯片（C2C）接口连接起来，可提供900GB/s的双向带宽。借

助NVLink-C2C，应用程序可以一致地访问统一的内存空间。这简化了编程，并支持万

亿参数LLM、用于多模态任务的transformer模型、用于大规模仿真的模型以及用于

3D数据的生成模型的更大内存需求。

⚫交换托盘：NVIDIAGB200NVL72引入了第五代NVLink，它可以在单个NVLink域

中连接多达576个GPU，总带宽超过1PB/s，快速内存为240TB。每个