1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 计算机
  5. 通信/网络

超节点与Scale up网络专题之英伟达：行业标杆，领先优势建立在NVLink和NVLink Switch.pptxVIP

  • 10
  • 0
  • 约1.94万字
  • 约 25页
  • 2026-02-10 发布于湖南
  • 举报

超节点与Scale up网络专题之英伟达：行业标杆，领先优势建立在NVLink和NVLink Switch.pptx

    投资摘要：

    大语言模型（LLM）参数规模从千亿级向万亿级乃至十万亿级演进，跨服务器张量并行（TP）成为必然选择；此外混合专家（MoE）模型在Transformer架构LLM中的规模化应用，更使跨服务器专家并行（EP）成为分布式训练和推理的关键技术需求。为应对TP和EP对网络带宽与延迟的极为严苛的要求，构建超高带宽、超低延迟的Scaleup网络（纵向扩张网络）成为业界主流技术路径。

    目前英伟达超节点已经推出成熟方案。2024-2026年，英伟达陆续推出GH200NVL72、GB200/GB300NVL72、VR200NVL72三代超节点。

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >