交换机行业研究:IB性能占优,以太网开放占优.pdf
- 上传者:求*
- 时间:2024/07/01
- 热度:290
- 1人点赞
- 举报
交换机行业研究:IB性能占优,以太网开放占优。Scaling law 下算力需求持续扩张,基础硬件端将充分受益。OpenAI 的 Scaling Law 下,模型有效性和计算约束正相关。因此在 GPU 能力一定的情况下,如何提高集群的线性加速比,满足低时延、 大带宽、无阻塞的机间通信,从而降低多机多卡间数据同步的通信耗 时,成为模型训练侧新的核心议题。根据英伟达的财报后电话会,黄 仁勋认为推理需求在当下被极大低估。当下大模型企业把更多的精力 都花在提升大模型智能水平,因此绝大部分算力都被用在于训练。但 随着模型迭代逐步放缓及更多 AI 应用的落地,推理侧的需要也在快速 增加。
IB 胜在性能、以太网优在开放,看好 AI 推动的量、速双增
IB 协议由于源生的 RDMA 技术,从而天然的具有低时延高性能的特 征,在 AI 训练侧有更好的应用。而推理侧的需求方面,具有成本及开 放性优势的 RoCE 协议或将更占优。
IB 的网络硬件格局相对封闭,核心供应商 Mellanox 具主要份额。 GB200 的新架构通过充分提升单芯片的算力密度、应用散热效率更高 的液冷方式,实现了在更小的空间内部署更多的 GPU 卡,使铜缆连 接成为机柜内连接新需求。以太网设备国内供应商参与相对充分,从 上游交换芯片到中游的制造和品牌商均有覆盖。在数据中心市场为核 心驱动的大背景下,中游的品牌商格局相较制造商更为集中,同时由 于互联网厂商对于数据安全及硬件可编程性的重视,自组网的白盒硬 件有望持续受益;上游原材料中,芯片的 BOM 成本占比高,交换芯 片作为原材料核心,具有天然的技术、资金壁垒,同时盈利能力高度 依赖出货规模,需警惕部分自用厂商在该方向的垂直整合程度深化。
- 相关标签
- 相关专题
- 全部热门
- 本年热门
- 本季热门
- 云计算基础设施之交换机专题:自研芯片,是数据中心交换机的护城河么.pdf 1660 2积分
- 云计算产业链专题研究:投资拐点显现,ICT产业格局风云际会.pdf 1442 5积分
- 通信行业2021年中期投资策略报告:物起云涌,变中求进 1289 4积分
- 通信行业深度分析:AI产业热潮带动服务器、交换机、光模块及相关芯片行业蓬勃发展.pdf 723 4积分
- 通信交换机行业专题:数字经济底座核心网元,受益AI加速发展.pdf 686 10积分
- 紫光股份专题研究:运营商业务拐点已至,海外业务拓展进程超预期.pdf 661 4积分
- 2022年中国交换机行业短报告.pdf 653 2积分
- 星网锐捷专题研究:云网全链路供应商,开启成长升势.pdf 591 3积分
- 盛科通信研究报告:国内稀缺交换机芯片领先企业,AI景气+国产化替代双轮驱动加速成长.pdf 588 3积分
- Arista公司研究:交换机新锐,引领软硬件解耦趋势.pdf 581 6积分