电子行业专题报告：DGX服务器集群架构催生大量光模块光芯片需求.pdf

电子行业专题报告：DGX服务器集群架构催生大量光模块光芯片需求。DGX 服务器集群架构需要服务器、网卡、交换机、线缆、光模块等关键硬件。为实现 AI 大模型训练、科学计 算等高算力需求工作，需要使用数百甚至上千个 GPU 组成的计算单元作为算力基础评估、优化模型的配置和 参数。为了使这样一个庞大的计算单元能够有效发挥其效率，需要使用低延迟、高带宽的网络联接各个服务器 节点，以满足服务器/GPU 间计算、读取存储数据的互联通信需求，同时对整个集群系统进行管理。服务器集群 的网络系统包含服务器、网卡、交换机、线缆（包含光模块）等主要硬件。就网络构成来看，网卡搭载于服务 器内部，网卡直接与 CPU 相连或通过 PCIe Switch 与 GPU 相连；一层交换机通过服务器机身的端口与服务器 内的网卡相连；线缆用于实现服务器-交换机、交换机-交换机间的连接，如果信息传输以光信号的形式实现，线 缆两端均需要搭载光模块。参考从 DGX-1 到 DGX H100 的服务器迭代历程，服务器搭载网卡数量、单端口支 持最高带宽均呈现出逐代次增加趋势；相应对支持更高传输速率的交换机、更高传输速率的线缆/光模块带来了 增量需求。

DGX A100 服务器集群中单颗 A100 对应约 7 颗 200G 光模块需求。服务器集群的网络架构包含 IB 网络和以太 网络，其中 IB 网络主要用于实现计算、存储互联，以太网主要用于 In-Band 管理和 Out-of-Band 管理。在 140 台 DGX A100 组成的 DGX A100 SuperPOD 集群中，考虑计算网络和存储网络需求，共有约 4000 根 IB 网络 线缆，对应约 8000 个端口；在全光互联方案中，平均每颗 A100 对应约 7 个 200G 光模块需求，其中计算、存 储网络分别对应 6.0、1.2 个 200G 光模块需求，合计对应约 28 个 50G 光芯片（收发芯片）需求。

DGX H100 服务器集群中单颗 H100 对应约 1.5 颗 800G 光模块+2 颗 400G 光模块需求。在 128 台 DGX H100 组成的 DGX H100 SuperPOD 集群中，考虑计算网络和存储网络需求，平均每颗 H100 对应约 1.5 个 800G 光 模块+2 个 400G 光模块需求，约 20 个 100G 光芯片（收发芯片）需求。