交换机行业研究:IB性能占优,以太网开放占优.pdf
- 上传者:火**
- 时间:2024/07/01
- 热度:373
- 1人点赞
- 举报
交换机行业研究:IB性能占优,以太网开放占优。Scaling law 下算力需求持续扩张,基础硬件端将充分受益。OpenAI 的 Scaling Law 下,模型有效性和计算约束正相关。因此在 GPU 能力一定的情况下,如何提高集群的线性加速比,满足低时延、 大带宽、无阻塞的机间通信,从而降低多机多卡间数据同步的通信耗 时,成为模型训练侧新的核心议题。根据英伟达的财报后电话会,黄 仁勋认为推理需求在当下被极大低估。当下大模型企业把更多的精力 都花在提升大模型智能水平,因此绝大部分算力都被用在于训练。但 随着模型迭代逐步放缓及更多 AI 应用的落地,推理侧的需要也在快速 增加。
IB 胜在性能、以太网优在开放,看好 AI 推动的量、速双增
IB 协议由于源生的 RDMA 技术,从而天然的具有低时延高性能的特 征,在 AI 训练侧有更好的应用。而推理侧的需求方面,具有成本及开 放性优势的 RoCE 协议或将更占优。
IB 的网络硬件格局相对封闭,核心供应商 Mellanox 具主要份额。 GB200 的新架构通过充分提升单芯片的算力密度、应用散热效率更高 的液冷方式,实现了在更小的空间内部署更多的 GPU 卡,使铜缆连 接成为机柜内连接新需求。以太网设备国内供应商参与相对充分,从 上游交换芯片到中游的制造和品牌商均有覆盖。在数据中心市场为核 心驱动的大背景下,中游的品牌商格局相较制造商更为集中,同时由 于互联网厂商对于数据安全及硬件可编程性的重视,自组网的白盒硬 件有望持续受益;上游原材料中,芯片的 BOM 成本占比高,交换芯 片作为原材料核心,具有天然的技术、资金壁垒,同时盈利能力高度 依赖出货规模,需警惕部分自用厂商在该方向的垂直整合程度深化。
免责声明:本文 / 资料由用户个人上传,平台仅提供信息存储服务,如有侵权请联系删除。
- 相关标签
- 相关专题
- 全部热门
- 本年热门
- 本季热门
- 云计算基础设施之交换机专题:自研芯片,是数据中心交换机的护城河么.pdf 1797 7积分
- 云计算产业链专题研究:投资拐点显现,ICT产业格局风云际会.pdf 1586 6积分
- 通信行业2021年中期投资策略报告:物起云涌,变中求进 1385 6积分
- 通信行业深度分析:AI产业热潮带动服务器、交换机、光模块及相关芯片行业蓬勃发展.pdf 867 6积分
- 交换机行业专题报告:交换机行业迎巨大变革,国内AI发展带动国产交换机厂商机会显现.pdf 830 8积分
- 光交换机行业专题报告:光是通信的必由之路,OCS已成功应用.pdf 797 6积分
- 2022年中国交换机行业短报告.pdf 791 6积分
- 通信交换机行业专题:数字经济底座核心网元,受益AI加速发展.pdf 755 10积分
- 紫光股份专题研究:运营商业务拐点已至,海外业务拓展进程超预期.pdf 743 5积分
- Arista公司研究:交换机新锐,引领软硬件解耦趋势.pdf 740 7积分
- 紫光股份研究报告:ICT领军,AI服务器与交换机齐放量.pdf 353 6积分
- 太辰光研究报告:光连接器件领军,CPO交换机核心标的.pdf 350 5积分
- 通信板块24年总结:板块稳健发展,建议关注运营商、交换机板块.pdf 202 5积分
- 天弘科技研究报告:ASIC、交换机驱动增长,转型ODM盈利改善.pdf 160 5积分
- 通信行业AI硬件系列报告(一)——OCS光交换机:AI算力集群时代的新蓝海.pdf 145 5积分
- 交换机行业深度报告:AI大模型快速发展助力交换机市场扩张.pdf 141 5积分
- 通信行业OCS交换机深度报告:OCS交换机有望步入发展快车道.pdf 116 4积分
- 新华三:2026年交换机软件故障检测技术白皮书.pdf 109 3积分
- ODCC开放数据中心委员会:以太网智算集群互联技术白皮书.pdf 95 6积分
- 新华三:2025年H3C 800G以太网技术白皮书.pdf 80 4积分
- 交换机行业深度报告:AI大模型快速发展助力交换机市场扩张.pdf 141 5积分
- 通信行业OCS交换机深度报告:OCS交换机有望步入发展快车道.pdf 116 4积分
- 新华三:2026年交换机软件故障检测技术白皮书.pdf 109 3积分
