AI浪潮来袭:驱动组网架构变革,新增后端组网需求

  • 来源:其他
  • 发布时间:2025/01/22
  • 浏览次数:264
  • 举报
相关深度报告REPORTS

通信设备行业深度报告:AI时代交换机迎四大产业变革新机遇.pdf

通信设备行业深度报告:AI时代交换机迎四大产业变革新机遇。交换机变革1:AI驱动组网架构变革,新增后端组网需求。相比传统网络架构,AI服务器组网增加后端网络组网(BackEnd),增加了每台服务器的网络端口数量,叠加AI集群加速Scaleout,万卡、十万、百万卡集群组网使得网络架构层数提升,有望带来大量高速交换机需求。当前IB仍然主导AI后端网络,但以太网根基深厚,生态厂商众多,未来以太网方案占比有望逐步提升,最终或将成为主流方案。交换机变革2:800G交换机开始放量,102.4T交换芯片有望推出AI大模型参数量持续增长倒逼集群规模提升,叠加AI芯片带宽提升,促使交换机端口速率及交换容量同步...

随着人工智能(AI)技术的飞速发展,尤其是生成式AI的兴起,全球对算力的需求呈爆发式增长。AI模型的复杂性不断提升,从语言模型到多模态模型,参数量从数十亿增长至万亿级别,这不仅对计算硬件提出了更高要求,也对网络基础设施带来了前所未有的挑战。交换机作为网络通信的核心设备,其组网架构正面临深刻的变革。AI服务器的出现使得网络架构从传统的南北向流量为主转向东西向流量为主,新增了后端组网需求,推动了交换机市场的技术升级和产业变革。

1. AI发展催生后端组网需求

AI技术的快速发展,尤其是大模型的训练和推理,对网络架构提出了新的要求。传统数据中心的网络架构主要面向南北向流量,即服务器与外部网络之间的通信。然而,AI训练过程中,服务器之间的数据交互频繁,东西向流量显著增加。这种流量模式的变化使得传统的三层网络架构难以满足需求,新增后端组网需求成为必然。

AI服务器的组网架构中,新增了后端网络(Back End),用于连接GPU等加速卡,实现节点间的高速通信。相比传统服务器,AI服务器的网络端口数量大幅增加,对高速交换机的需求也显著提升。例如,一个典型的AI集群可能包含数千个GPU卡,每个GPU卡需要通过高速网络端口与其他节点连接,这使得后端组网成为AI数据中心的关键组成部分。

此外,AI模型的参数量不断增长,从GPT-3的1746亿参数到GPT-4的1.8万亿参数,训练一次所需的总算力呈指数级上升。大规模的GPU集群需要高速、低延迟的网络支持,以确保模型训练的效率。这种需求推动了后端组网架构从简单的两层架构向更复杂的三层甚至四层架构演进,进一步增加了对高速交换机的需求。

2. 组网架构变革:从传统三层架构到Spine-Leaf架构

AI的发展不仅催生了后端组网的需求,还推动了组网架构的变革。传统的数据中心网络采用三层架构,包括核心层、汇聚层和接入层。这种架构在南北向流量为主的情况下表现良好,但在东西向流量占主导的AI场景中,其弊端逐渐显现。例如,传统三层架构中,服务器之间的通信路径较长,数据转发跳数多,导致网络延迟增加,难以满足AI训练对低延迟的要求。

为了应对这一挑战,Spine-Leaf架构逐渐成为主流选择。Spine-Leaf架构是一种扁平化的网络架构,通过减少服务器之间的通信跳数,显著降低了网络延迟。在Spine-Leaf架构中,网络分为Spine层和Leaf层,服务器通过Leaf交换机连接到Spine层,实现了更高效的通信路径。例如,一个典型的Spine-Leaf架构中,服务器之间的通信路径从传统的5跳减少到3跳,极大地提高了网络性能。

此外,Spine-Leaf架构还具有良好的可扩展性,能够灵活应对AI集群规模的扩展。随着AI模型参数量的增加,集群规模不断扩大,从百卡到万卡甚至十万卡的集群逐渐成为常态。Spine-Leaf架构可以通过增加Spine层和Leaf层的交换机数量,轻松扩展网络规模,满足大规模AI训练的需求。

3. 以太网与IB网络的博弈:AI后端组网的未来趋势

在AI后端组网中,以太网和InfiniBand(IB)网络是两种主要的技术选择。IB网络凭借其低延迟、高带宽和无损传输的特性,长期以来在高性能计算(HPC)和AI后端网络中占据主导地位。然而,随着以太网技术的不断进步,其在AI后端组网中的应用逐渐增加。

IB网络的优势在于其专用的硬件和协议,能够提供极低的延迟和高可靠性。例如,IB网络的端到端时延可以低至微秒级别,这对于需要高频通信的AI训练场景非常关键。然而,IB网络的缺点在于其成本较高,且生态相对封闭。IB设备需要专用的硬件和网卡,采购和维护成本较高,限制了其在中小规模数据中心的应用。

相比之下,以太网具有成本低、生态开放的优势。以太网技术经过多年的发展,已经广泛应用于各种网络场景,具有丰富的设备供应商和成熟的生态系统。近年来,随着RoCE(RDMA over Converged Ethernet)技术的成熟,以太网在无损传输和低延迟方面的性能得到了显著提升。例如,RoCEv2技术通过优化以太网协议栈,实现了与IB网络相近的性能表现,同时保持了以太网的成本优势。

未来,以太网在AI后端组网中的占比有望逐步提升。一方面,头部云厂商如AWS、Meta和字节跳动等已经开始大规模部署以太网AI网络,并取得了良好的效果。另一方面,随着超以太网联盟(UEC)的成立,以及中国移动主导的GSE和ETH+协议的推进,以太网在AI场景下的性能和可靠性将进一步优化。预计到2027年,以太网在RDMA市场的占比将超过IB网络,成为AI后端组网的主流选择。

总结

AI技术的快速发展正在深刻改变网络基础设施的需求。从新增后端组网需求到组网架构的变革,再到以太网与IB网络的博弈,AI时代的交换机市场正面临前所未有的机遇与挑战。随着AI模型参数量的不断增长和集群规模的持续扩大,网络架构的优化和技术创新将成为推动AI发展的关键因素。未来,以太网凭借其成本优势和生态开放性,有望在AI后端组网中占据更重要的地位,而交换机市场也将迎来新一轮的技术升级和产业变革。

编辑:666知识控
  • 相关标签
  • 热门文档
  • 热门文章
  • 本年热门
  • 本季热门
  • 本月热门
  • 本年热门
  • 本季热门
  • 本月热门
分享至