GB200网络架构测算，1.6T光模块需求有望超预期.docxVIP

正文目录

一、互联技术是关键，GB200架构层层剖析 5

网络连接部分：NVLink迭代升级，组成更大网络集群 6

机架内部连接 6

机架向外连接 8

计算部分：更大的GPU芯片，更大的共享高速内存 9

BlackWellSuperchip 10

ConnectX-8SuperNIC 11

BlueField-3DPU 12

二、全域NVLink：机柜内部仅用铜缆，外部连接需九倍光模块 13

NVL72：单机柜内算力密度大幅提升 13

NVL576：16机柜互联，光模块用量个数9倍于GPU 14

三、Infiniband连接：架构与H100SuperPod相仿，光模块比例介于2-3之间15四、投资建议 16

五、风险提示 17

图表目录

图1：Blackwell平台全貌及核心组件 5

图2：Blackwell六项核心变革性创新 6

图3：机柜的中间9层用作网络连接 7

图4：NVLinkSwitch系统（NVL72的中间9个托盘） 7

图5：SwitchTray完整结构 7

图6：SwitchTray包含两颗NVLinkSwitch芯片 7

图7：NVSwitch芯片 8

图8：NVLink迭代历程 8

图9：NVIDIAQuantumInfinibandSwitch 9

图10：BlackWellComputeTray全貌 10

图11：ComputeTray内部构造 10

图12：BlackWellSuperchip实物图 11

图13：BlackWellSuperchip示意图 11

图14：AI计算能力过去8年间提升1000倍 11

图15：BlackWellSuperchip性能参数 11

图16：ConnectX-800GInfinibandSupernic芯片 12

图17：ComputeTray中搭载4颗Supernic芯片 12

图18：NVIDIABlueField-3DPU 12

图19：NVIDIANVL72拓扑图 13

图20：NVIDIANVL72依靠背部铜缆互连 14

图21：NVIDIANVL576拓扑图 14

图22：NVIDIANVL576两排机柜实物图 15

图23：H100SuperPod架构 16

表1：NVL576光模块价值量测算 15

表2：Infiniband架构光模块比例测算 15

表3：1.6T光模块需求测算 16

一、互联技术是关键，GB200架构层层剖析

2024年3月，英伟达宣布推出NVIDIABlackwell平台以赋能计算新时代。新架构以纪念DavidHaroldBlackwell命名。Blackwell不仅是一位专门研究博弈论和统计学的数学家，也是第一位入选美国国家科学院的黑人学者。这一新架构是继两年前推出的NVIDIAHopper架构以来的全新架构。该平台可使客户能够在万亿参数的大语言模型(LLM)上构建和运行实时生成式AI，其成本和能耗较上一代产品降低多达25倍。BlackwellGPU架构搭载六项变革性的加速计算技术，这些技术将助推数据处理、工程模拟、电子设计自动化、计算机辅助药物设计、量子计算和生成式AI等领域实现突破。

图1：Blackwell平台全貌及核心组件

资料来源：英伟达、

Blackwell的多项创新技术为加速计算和生成式AI提供助力。凭借六项变革性的技术，Blackwell能够在拥有高达10万亿参数的模型上实现AI训练和实时LLM推理，这些技术包括：

●新一代更加强大的芯片：Blackwell架构GPU具有2080亿个晶体管，采用专门定制的双倍光刻极限尺寸4NPTSMC工艺制造。

●第二代Transformer引擎：得益于全新微张量缩放支持，以及集成于NVIDIATensorRT?-LLM和NeMoMegatron框架中的NVIDIA先进动态范围管理算法，Blackwell在新型4位浮点AI推理能力下实现算力和模型大小翻倍。

●第五代NVLink：为了提升万亿级参数模型和多模态AI模型的性能，最新一代NVIDIANVLink为每块GPU提供突破性的1.8TB/s双向吞吐量，确保最多576块GPU之间的无缝高速通信，满足了当今最复杂LLM的需求。

RAS引擎：采用Blackwell架构的GPU包含一个用于保障可靠性、可用性和可维护性的