英伟达VR NVL72超节点拆解:通信三重升级与超级网卡价值

  • 来源:东兴证券
  • 发布时间:2026/05/22
  • 浏览次数:91
  • 举报
相关深度报告REPORTS

超节点行业:从计算托盘角度拆解英伟达VRNVL72,通信速率三重升级,超级网卡价值显著提升.pdf

本文深度拆解英伟达最新发布的超节点Vera-RubinNVL72,指出其是全球领先的Scaleup网络算力平台,训练性能达前代3.5倍,MoE模型训练所需GPU数量减少至四分之一。报告从计算托盘角度分析,VRNVL72构建了由1.8TB/sNVLink-C2C、PCIeGen6和800GSuperNIC组成的三重高速通信壁垒。NVLink-C2C通过AMBACHI协议实现硬件级缓存一致性,带宽较前代翻倍;PCIeGen6互联要求PCB材料从M7升级至M8/M9,推动覆铜板价值提升;ConnectX-9超级网卡实现单端口800G以太网传输,并内置PCIeGen6交换模块,消除IO瓶颈。报告认为,...

超节点架构与Scale up网络演进

随着人工智能大模型参数规模向万亿级乃至十万亿级演进,算力集群的网络需求呈现出显著的分化特征。AI训练场景要求长周期、大规模的高同步性与稳定性,对通信带宽和延迟极度敏感,而AI推理场景则更侧重于分布式、低延迟和按需任务调度。为应对这一挑战,Scale up网络与Scale out网络正走向均衡发展。Scale up网络旨在将数十至数千算力卡组织进一个紧密的高性能计算单元,通过高带宽互联实现资源的高效协同,其资源利用率可达80%以上,通信延迟控制在百纳秒级,显著优于传统Scale out网络的微秒级延迟和较低的资源利用率。

在此背景下,英伟达发布的Vera-Rubin NVL72成为全球领先的Scale up网络算力平台。该平台由Vera CPU、Rubin GPU、NVLink 6交换机、ConnectX-9 SuperNIC、BlueField-4 DPU和Spectrum-6以太网络交换机六款全新芯片组成。其核心优势在于通过全栈技术垄断,构建了从芯片级互联到高速总线再到超级网卡的三重高速通信壁垒,从而大幅提升训练性能并降低MoE模型训练的硬件成本。

计算托盘内的三重通信速率升级

VR NVL72的计算托盘结构精密,由Strata模块、Orchid模块、PCB Midplane等组件构成,数据在其中的传输路径被划分为三个关键阶段,每一阶段均实现了通信速率的显著跃升。

第一阶段是Vera CPU与Rubin GPU之间的互联。该阶段采用NVLink-C2C技术,实现了双向带宽1.8TB/s的CPU-GPU互联,延迟达到纳秒级。相比前代产品,带宽提升了一倍,彻底重构了异构计算的互联范式。NVLink-C2C通过AMBACHI协议实现硬件级缓存一致性,使得CPU和GPU缓存自动同步,在软件视角下呈现为单一内存池,消除了非一致性内存访问带来的编程复杂性和计算资源闲置问题。

第二阶段是Vera CPU与ConnectX-9超级网卡之间的互联。该阶段采用PCIe Gen6协议,支持48条Lane,每条Lane单向速度达64 Gbps,使得CPU与网卡之间的双向总带宽达到768GB/s。为实现这一高速信号在长达约500mm的PCB距离上的完整传输,硬件材料也进行了全面升级。覆铜板从M7升级至M8/M9,铜箔升级为HVLP4,并采用玻璃纤维布或石英材料以降低介质损耗,这直接推动了高端PCB和覆铜板材料价值的显著提升。

第三阶段是ConnectX-9超级网卡与OSFP光模块笼口之间的互联。ConnectX-9的核心变革在于实现了单端口800G的以太网传输能力,无需依赖多链路聚合即可提供高吞吐量。相比之下,前代产品在以太网模式下通常以2x400G配置呈现。在计算托盘中,8个800G的CX-9网卡对应两种OSFP笼口配置方案,分别适配1.6T或800G的光模块,进一步提升了网络接口的灵活性和带宽密度。

超级网卡的技术革新与价值重估

ConnectX-8/9被定位为超级网卡(SuperNIC),其性能远超传统网卡。ConnectX-8单端口支持800Gb/s InfiniBand或双端口400Gb/s Ethernet,而ConnectX-9进一步实现了单端口800Gb/s的以太网传输,确立了业界最高带宽网卡的地位。

超级网卡的价值提升不仅体现在带宽上,更体现在其内置的交换逻辑。ConnectX-8内置48通道PCIe Gen6交换机,单芯片实现了“网络接口+GPU间交换”的二合一功能,有效消除了IO瓶颈。基于此设计,集群内GPU间通信可获得高达每个GPU 50 GB/s的IO带宽。此外,ConnectX集成Spectrum-X交换逻辑,与外部Spectrum-X交换机协同,为AI以太网带来五大关键性能提升,包括1.6倍的有效带宽、1.3倍的集合通信带宽、2.2倍的All-reduce带宽等。

这种端到端的网络处理架构,通过Multiplane Switch、Adaptive Routing和硬件级拥塞控制等技术,显著优化了负载均衡、尾延迟和噪声隔离,使得超级网卡成为连接GPU集群与外部网络的关键ASIC组件,其技术壁垒和价值量均得到大幅强化。

编辑:流星雨
  • 热门文档
  • 热门文章
  • 本年热门
  • 本季热门
  • 本月热门
  • 本年热门
  • 本季热门
  • 本月热门
分享至