英伟达推出Blackwell架构，新一代AI芯片和硬件设备全面升级.pdfVIP

[Table_PageText]

跟踪分析|计算机

一、英伟达推出Blackwell架构，新一代AI芯片和硬

件设备全面升级

英伟达基于Blackwell架构的AI芯片及相关硬件设备从芯片性能到整体算力集群性

能提升明显。2024年3月18日，英伟达在GTC大会上推出了基于Blackwell架构的AI

芯片及相关硬件设备。相较于上一代Hopper架构的产品，Blackwell芯片和硬件设备

不仅提升了单个芯片的计算性能，还通过提升网络通信速度、优化软件生态等方式，

加强了大规模AI算力集群的算力，从而全面提升对于AI大模型的加速效果。此次

Blackwell芯片和硬件设备有以下6个方面的技术创新：

（1）制造工艺提升推动芯片内含晶体管数量增长：Blackwell架构的GPU采用4NP工

艺将两个GPU裸片以10TB每秒通信速率融合在一个芯片中，从而使得晶体管数量

达到了2080亿个。

（2）内嵌第二代Transformer引擎提升对于Transformer模型的加速效果：

Blackwell芯片中嵌入的第二代Transformer引擎引入了micro-tensor技术，融合了精

度范围动态管理算法，提升了对于不同参数规模的Transformer模型的加速效果。

（3）升级到第5代NVLink技术进一步提升集群通信连接速率：第五代NVLink将GPU

卡间连接速率提升到1.8TB/S，可以支持最多576张GPU的高速互联，为AI大模型高

密度、大规模训练提供有力的AI算力支持。

（4）内嵌RAS引擎，保障大规模、长时间AI训练的稳定性：针对AI大模型训练时间

较长的特点，Blackwell架构的芯片内嵌的RAS引擎可自动预测、检测并通过智能化

预防措施处理在训练过程中可能出现的问题，从而保障数周甚至数月的长时间AI模

型训练。

（5）通过嵌入加密协议，保障数据安全：Blackwell芯片引入的原生界面加密协议，

使得计算过程中隐私数据得到很好的保护，从而为AI模型和用户隐私安全提供有效

保障。

（6）引入解压引擎，支持各类数据类型的处理。解压引擎可以有效支持当前最新的

数据格式的处理、查询和分析，为大数据处理和数据科学场景提供有力支持。

从英伟达此次技术和产品迭代的方向，我们看到未来支持AI大模型的开发和应用不

仅仅取决于AI芯片单位计算单元性能，还在于融合了大量的AI服务器、高速网络连

接设备以及算力调度优化软件的AI计算集群整体性能。接下来，我们从芯片、服务

器、通信网络连接设备、算力集群各层次，详细介绍和分析英伟达Blackwell芯片和

相关硬件产品性能提升方式和效果。

识别风险，发现价值