通信行业超节点与Scale up网络专题之英伟达：行业标杆，领先优势建立在NVLink和NVLink Switch.pdf

通信行业超节点与Scale up网络专题之英伟达：行业标杆，领先优势建立在NVLink和NVLink Switch。大语言模型（LLM）参数规模从千亿级向万亿级乃至十万亿级演进，跨服务器张量并行（TP）成为必然选 择；此外混合专家（MoE）模型在 Transformer 架构 LLM 中的规模化应用，更使跨服务器专家并行（EP） 成为分布式训练和推理的关键技术需求。为应对 TP 和 EP 对网络带宽与延迟的极为严苛的要求，构建超高 带宽、超低延迟的 Scale up 网络（纵向扩张网络）成为业界主流技术路径。

目前英伟达超节点已经推出成熟方案。2024-2026 年，英伟达陆续推出 GH200 NVL72、GB200/ GB300 NVL72、VR200 NVL72 三代超节点。

Hopper 架构开启超节点 Scale up 初步探索。GH200 通过 NVLink 和 NVLink-C2C（Chip-to-Chip） 技术，使得每个 GPU 可以访问其他所有 CPU 和 GPU 芯片的内存，实现 GPU 与 CPU 内存统一编址。

Blackwell 架构推动 Scale up 标准化。GB200 NVL72 将 Scale-up 规模稳定在 72 个 GPU/机柜，形 成可复制标准化方案。NVL72 由 18 个 Compute Tray（计算托架）和 9 个 Switch Tray（网络交换托 架）构成。其中，Compute Tray 是计算核心单元，负责提供强大的计算能力；Switch Tray 是高速通 信枢纽，用于实现 GPU 之间的高速数据交换。NVL72 背板通过“NVLink5 私有协议 + 铜线缆”将 18 个 Compute Tray 中的 72 颗 B200 GPU 和 9 个 Switch Tray 中的 18 颗 NVSwitch 芯片进行满带 宽全连接。

Rubin架构推动Scale up方案带宽倍增。2026年1月CES展会，英伟达发布Rubin架构VR200 NVL72。 其中 NVLink 6 Switch 实现单 GPU 的互连带宽提升至 3.6 TB/s，上代为 1.8TB/s。Scale out 方面， Spectrum-6 交换机支持 CPO（共封装光学）技术，将 32 个 1.6Tb/s 硅光光学引擎与交换芯片直接封 装集成。

在超节点方案上，英伟达处于领先优势。2024-2025 年，英伟达陆续推出 GH200 NVL72、GB200/ GB300 NVL72 等成熟超节点解决方案。根据大摩预测，2025 年英伟达 GB200/300 NVL72 出货量约 2800 台。展 望 2026-2027 年，英伟达计划推出 Vera Rubin NVL144 和 Rubin Ultra NVL576。互联 GPU 数将从 72 颗 进一步向 576 颗发展。届时，英伟达将在新一代 Kyber 机架架构中引入 NVLink Switch Blade（NVLink 交 换机刀片），通过 PCB 中板替代传统 5000+根有源铜缆。可以看到，Rubin Ultra NVL576 仍具有较强的工 程创新能力。