AI网络有哪些发展趋势?

AI网络有哪些发展趋势?

最佳答案 匿名用户编辑于2024/08/01 13:43

展望 2024 下半年和 2025 年,看到 AI 网络三大主要趋势:

1.光模块:海外需求持续性无忧,国内市场有望快速启动

AI 浪潮继续,2025 需求无忧,同时光模块迭代周期缩短,强者将恒强。英伟达FY25Q1业绩超预期,并认为所有多模态应用、大量的 AI 创业公司、主权人工智能需求仍然“难以置信”,公司的订单展望乐观。Marketscreen 对于英伟达 FY2026、FY2027 的收入一致预期分别为 1574 亿(yoy +31%)、1823 亿(yoy +16%)美金,表明海外投资者对人工智能浪潮持续时间的乐观预期。Marvell在今年4月的AI Day表明了对AI光互联市场的看好:光模块端口double节奏由 4 年缩短为 2 年,同时光模块增速或超过 XPUs,这主要是因为AI 集群规模增大带来更多层数的光模快配比要求(10 万 XPU 需要 50 万光模块,而百万XPU 需要千万)。Coherent、YOLE 的最新观点均对数据中心光模块市场增长展望乐观,YOLE 预测全球数通光模块将在2029 年达到 224 亿美金。展望未来,英伟达 tik-tok 的芯片节奏将光模块带宽翻倍时间缩短到2 年,高速光模块研发成本愈来愈高,与客户的联合研发或更早进行,客户更换供应商的动机减弱,高端产品“保值期”延长,光模块龙头厂商有望保持较好的盈利能力。

关注 1.6T 进展。英伟达在 computex2024 上宣布 2025 年将宣布量产支持1.6T端口的CX8网卡以及 X800 交换机系列以支持十万卡级 AI 集群的组网需求。谷歌在5 月的I/O2024开发者大会上宣布了第六代 TPU-Trillium,芯片算力较上代提升 4.7 倍,其早些在AI 网络中部署的OCS 光交换机因可兼容不同速率光模块,使用寿命较电交换机或大幅延长,同时也有望在2025年带来 1.6T 光模块的配套需求。我们认为 2025 年 1.6T 光模块将迎来快速上量,主要供应商或集中于研发和产能储备领先的头部公司。中际旭创表示 1.6T 海外重点客户已进入送样测试环节,预计下半年完成认证并下单;新易盛表示已在 OFC2024 推出了基于单波200G的EML/硅光/薄膜铌酸锂 1.6T 光模块。

关注以太网 AI 光模块的变化:成本优化、客户多元化、LPO&LRO渗透率提升。英伟达在 computex2024 上表示未来将同步推广 Quantum IB 交换机和SpectrumX以太网交换机系列,希望以更多元化的产品组合满足不同客户需求。我们认为以太网在AI 网络中占比将逐年提升,其主要优势除了更开放的生态和多元供应商带来的成本优势还有对云客户多租户环境的更友好适配。LightCounting 预计至 2025 年数据中心 800G 光模块的总和单位带宽成本将下探0.38美金/Gbps,而2027年1.6T的单位带宽成本又将较800G有优势。此外,受益于以太网LPO&LRO产品在简化供应链、降低时延方面的优势,LPO出货量或将在2025 显著增长。

关注数据中心网络扩容和新建投资:高密度 MPO 布线和跳线的需求。AI 网络对高密度布线提出了要求,以英伟达为例,其 OSFP 800G 光模块采用 2*MPO12 接口,爆发的400G/800G出货量正快速消耗数据中心存量预制布线端口。由于存量上架率饱和以及电力容量限制,以北美为代表正涌现新建 AI 数据中心需求,光纤预置布线将受益于AI 资本开支的增长。北美光纤布线龙头康宁表示,GPU 机柜的平均光纤数较 CPU 机柜增加了8 倍,价值量为每GPU数百美金。数据中心光网络布线的上游主要为光纤、跳线、机架以及陶瓷插芯,目前北美集成商的跳线供应商主要来自国内代工,而陶瓷插芯主要来自 UScontec、senko 等日美巨头。关注国产算力光模块配套厂商。目前英伟达在 AI 交换机和光模块配置上具有领先一代的优势,国产算力卡组网主要采用以太网交换机和商用网卡,目前以200G、400G为主。随着国产算力集群由千卡往万卡集群发展,光模块配比数量或提升。根据星融元对国内万卡GPU集群互联的统计,国内传统万卡集群光模块与 GPU 比例达到 1:6。除了光模块配比提升,我们认为国产大芯片市占率的提升也将带动配套光模块需求增加。

2. 铜互联:英伟达引领短距高密度互联新趋势,市场空间广阔

英伟达 NVL72 高密度铜背板互联成亮点,铜连接或成为在百卡层级HBdomain互联领域性价比最优选择。英伟达 Blackwell 发布将机柜级产品NVL72&NVL36 作为了旗舰主推系列,其最有吸引力的卖点之一在于将 72 个 Blackwell 芯片进行了内存统一互联,整体可作为一颗超级芯片进行编程应用。根据英伟达在 GTC2024 的介绍,NVL72 创新性的使用了高密度铜跳线将芯片 IO 引出到背板,再通过高速铜线背板将 18 个计算板互联到9 个交换板上,其使用的电缆长度累计接近 2 英里,共有约 5000 条独立电缆。根据 the next platform,与PCB相比,使用Cable(铜线)的单位功耗(J/b)相当但距离是 PCB 的 10 倍(可达5 米),有效解决了NVL72机柜范围通信难题;同时与光模块 AOC 相比,Cable 的功耗仅为一半,同时成本是AOC的十分之一。因此面临 PCB 上高速信号提升的损耗、有限的传输距离以及机柜整体互联的需求,铜线互联成为当前百卡级别互联性价比优选。进一步推演,未来若scaleup 全互联的需求延展至百卡以上至千卡规模,我们认为 CPO 或也将登上历史舞台,使用何种通信方式关键看当期性能和成本的平衡。

铜连接主要分为高速外部 IO、背板互联、芯片直出跳线、服务器内部线等,随AI服务器市市场均快速增长。随着市场对 NVL72 铜连接方案重视度提升,市场研究重点逐渐扩散到服务器内部所有铜连接解决方案。以安费诺、TE、Molex 为代表的国际连接器巨头已建立了完整的铜连接产品系列,我们梳理后看到,服务器使用的高速铜线通信主要在背板互联线、芯片飞线、外部 IO 线、服务器内部线四大场景,NVL72 主要使用的是芯片飞线和背板互联线,解决了 224G SERDES 信号在 PCB 上传输距离缩短、功耗增加、长距离背板互联难题。同时配套Blackwell 的 CX8 网卡和 X800 系列交换机,外部 IO 线也有望升级至1.6T DAC/ACC,服务器内部线升级为 PCIE6,价值量或均有提升。

高速铜连接市场有望从英伟达引领扩散到海外 UALINK 和国产配套。根据立讯精密立讯对 NVL72 整体解决方案的描述,NVL72 单机柜铜光连接价值量超200 万元,包括电连接、光连接、电源管理、散热等,预计总市场规模达到千亿元。铜连接作为Blackwell 最显著的增量产品有望“复刻”光模块行情,2025 年市场需求或爆发增长。NVL72 更大的意义在于引领scaleup通信技术发展,海外 UALINK 以及国内智算集群均有望跟进。5 月底,英特尔、AMD、博通、思科、谷歌、HPE、Meta 和微软宣布建立 UALink 推广工作组,以指导数据中心AI 加速器芯片之间连接组件的发展,希望未来可以取代 NVLink 接口。UALink 1.0 规范将支持多达1024个加速器内存统一互联,虽具体实现方式仍未知,参考 NVL72 的铜连接架构设计仍不失为成熟方案。国内方面,中国移动编制的《面向超万卡集群的新型智算技术白皮书》倡议加速推进超越 8 卡的超节点形态服务器,优化 GPU 卡间互联协议实现通信效率跃升,可以期待国内AI大芯片在 scaleup 互联技术也在酝酿更大的动作。以华为为例,其2022 年底即推出的“天成”多样算力平台旨在设计更高的算力密度,超节点形态服务器设计将是下一步工作重点。

海外连接器巨头配套:高速裸线、CAGE 代工将受益于产能扩张和价值量提升。由于与英伟达的联合研发以及对于核心专利的掌握,GB200 高速铜连接前期价值量或将主要集中于以安费诺为代表的国际连接器巨头厂商。以国内为例,集中了安费诺最大的信息通信产品线配套产能,其对于 224G 高速线、cage 结构件等高速产品配套需求或增加,同时对于中低端产品线的产能外包需求也将外溢。安费诺国内合作伙伴包括乐庭智联(沃尔核材)、神宇股份、鼎通科技、奕东科技等,以沃尔核材为例,根据其公告,高速通信线订单需求在不断增长,已下单采购了 70 多台绕包机和多台芯线机以进一步满足产能需求,可预见未来由产能提升和产品价值量提升带来的收入增长。 国产替代:关注华为产业链为引领的高速产品突破。华为具有AI 大芯片、交换机、高速SERDES 等多重技术储备,且具备集群产品设计制造能力,或率先在scaleup 超节点互联技术取得突破,引领国内高速背板连接器、铜互联,IO 连接器等配套厂商发展。其中,在高速背板连接器领域,国内已形成了以华丰科技、庆虹电子、中航光电为主的格局,具有技术含量高、投入大、制造难度大、竞争格局好的特点。而在高速 IO 连接器领域,随着端口由200G、400G向 800G 升级,单位价值量有望显著提升,意华股份、中航光电、立讯精密、方向电子等厂商均有望受益。

参考报告

电子行业2024年中期策略:AI供需两旺铸就科技新趋势.pdf

电子行业2024年中期策略:AI供需两旺铸就科技新趋势。AI终端:2024年伴随多品牌先后推出AIPC、AI手机,AI端侧加速落地,带动换机潮的同时催生终端全面升级。预计到2027年生成式AI手机的市场渗透率将达到43%,生成式AI手机的总量将从2023年的百万级增长到2027年的12.3亿部,同时AI算力驱动AI手机PCB、散热、电池等硬件配套升级。预计2025年AIPC渗透率将达到37%,成为市场主流,2027年60%的PC将具备端侧AI功能。同时,AIPC中的关键零部件将与处理器同步进行升级,包括内存、闪存、电池、散热、传感器等环节将有明显提升。AI算力:英伟达最新旗舰产品GB200NV...

查看详情
我来回答