电子行业专题报告:DGX服务器集群架构催生大量光模块光芯片需求.pdf
- 上传者:居里夫人
- 时间:2023/05/04
- 浏览次数:312
- 下载次数:24
- 0人点赞
- 举报
电子行业专题报告:DGX服务器集群架构催生大量光模块光芯片需求。DGX 服务器集群架构需要服务器、网卡、交换机、线缆、光模块等关键硬件。为实现 AI 大模型训练、科学计 算等高算力需求工作,需要使用数百甚至上千个 GPU 组成的计算单元作为算力基础评估、优化模型的配置和 参数。为了使这样一个庞大的计算单元能够有效发挥其效率,需要使用低延迟、高带宽的网络联接各个服务器 节点,以满足服务器/GPU 间计算、读取存储数据的互联通信需求,同时对整个集群系统进行管理。服务器集群 的网络系统包含服务器、网卡、交换机、线缆(包含光模块)等主要硬件。就网络构成来看,网卡搭载于服务 器内部,网卡直接与 CPU 相连或通过 PCIe Switch 与 GPU 相连;一层交换机通过服务器机身的端口与服务器 内的网卡相连;线缆用于实现服务器-交换机、交换机-交换机间的连接,如果信息传输以光信号的形式实现,线 缆两端均需要搭载光模块。参考从 DGX-1 到 DGX H100 的服务器迭代历程,服务器搭载网卡数量、单端口支 持最高带宽均呈现出逐代次增加趋势;相应对支持更高传输速率的交换机、更高传输速率的线缆/光模块带来了 增量需求。
DGX A100 服务器集群中单颗 A100 对应约 7 颗 200G 光模块需求。服务器集群的网络架构包含 IB 网络和以太 网络,其中 IB 网络主要用于实现计算、存储互联,以太网主要用于 In-Band 管理和 Out-of-Band 管理。在 140 台 DGX A100 组成的 DGX A100 SuperPOD 集群中,考虑计算网络和存储网络需求,共有约 4000 根 IB 网络 线缆,对应约 8000 个端口;在全光互联方案中,平均每颗 A100 对应约 7 个 200G 光模块需求,其中计算、存 储网络分别对应 6.0、1.2 个 200G 光模块需求,合计对应约 28 个 50G 光芯片(收发芯片)需求。
DGX H100 服务器集群中单颗 H100 对应约 1.5 颗 800G 光模块+2 颗 400G 光模块需求。在 128 台 DGX H100 组成的 DGX H100 SuperPOD 集群中,考虑计算网络和存储网络需求,平均每颗 H100 对应约 1.5 个 800G 光 模块+2 个 400G 光模块需求,约 20 个 100G 光芯片(收发芯片)需求。
- 相关标签
- 相关专题
- 全部热门
- 本年热门
- 本季热门
- 光芯片行业深度研究:光电子产业国产化的下一站.pdf 108 5积分
- 光芯片行业研究报告:算力需求提升,光芯片正扬帆.pdf 86 3积分
- 光芯片行业专题研究:流量爆发时代瑰宝,光芯片高成长赛道.pdf 73 3积分
- 2022年中国光芯片行业研究报告.pdf 72 5积分
- 中国光电子器件产业技术发展路线图(2018-2022年).pdf 68 5积分
- 光芯片行业深度研究:卧薪尝胆国产光芯片持续渗透,厚积薄发中高端产品替代加速启动.pdf 63 6积分
- 光芯片行业研究:国产光芯片进入高端市场,开启广阔增长空间.pdf 60 4积分
- 光通信行业研究:人工智能加速落地,光芯片与光模块开启高景气周期.pdf 54 5积分
- 光芯片行业专题:国产光芯片群雄逐鹿,高速率芯片量产交付有望突破.pdf 51 3积分
- 光芯片行业分析:受益流量增长和全球份额提升.pdf 42 3积分
- 光通信行业研究:人工智能加速落地,光芯片与光模块开启高景气周期.pdf 54 5积分
- 光芯片行业专题:国产光芯片群雄逐鹿,高速率芯片量产交付有望突破.pdf 51 3积分
- 光芯片行业专题报告:光芯片,速率升级和份额提升驱动产业加速成长.pdf 36 4积分
- 光迅科技(002281)研究报告:光模块、光芯片一体化整合,高速率芯片有望突破.pdf 26 3积分
- 光芯片行业研究:AI时代“芯”核心.pdf 26 6积分
- 长光华芯研究报告:激光芯片行业领军,平台化能力多领域开拓.pdf 10 6积分
- 源杰科技研究报告:高速率光芯片龙头,核心技术构筑性能与成本优势.pdf 9 3积分
- 长光华芯研究报告:高功率激光芯片国内领军者,布局光芯片打开长期成长空间.pdf 9 3积分
- 长光华芯研究报告:高功率激光芯片龙头厂商,横向+纵向打造平台化公司.pdf 6 3积分
- 源杰科技研究报告:国内光芯片龙头受益AI算力需求,拓展CW光源布局硅光赛道.pdf 6 4积分
- 源杰科技研究报告:高速率光芯片龙头,核心技术构筑性能与成本优势.pdf 9 3积分
- 源杰科技研究报告:国内光芯片龙头受益AI算力需求,拓展CW光源布局硅光赛道.pdf 6 4积分
- 光模块行业专题报告:AI驱动网络变革,光摩尔定律加速.pdf 32 7积分
- 半导体行业深度报告:AI大模型风起云涌,半导体与光模块长期受益.pdf 22 6积分
- 光模块行业专题研究:AI时代算力需求激涌,高速率光模块伴潮而行.pdf 22 3积分
- 光模块行业专题分析:时代的跨越,从云计算迈向AI.pdf 15 3积分
- 中际旭创研究报告:AI时代,全球高速光模块龙头乘风而起.pdf 9 4积分
- 中际旭创研究报告:高速率光模块头部厂商,受益于AI硬件产业趋势.pdf 6 2积分
- 中际旭创研究报告:精准把握契机,800G光模块成就增长新起点.pdf 2 2积分
- 2024Q1通信行业板块基金持仓分析:通信仓位明显回升,光模块和运营商仓位创近年来新高,持续看好AI算力基础设施投资机遇.pdf 0 3积分