计算机行业专题报告:互联总线——Scale_Up能力跃升的关键通路.pdf
- 上传者:风****
- 时间:2025/12/25
- 热度:91
- 0人点赞
- 举报
计算机行业专题报告:互联总线——Scale_Up能力跃升的关键通路。
一、高速互联协议服务于大模型时代下的Scale-Up
计算机总线用途在于连接系统与组件,总线接口就是系统或PCB的不同部件之间的数据传输的物理导线,具有:①发送数据;②寻找特定的数据;③控制系统中不同部分的运行等功能。服务器常见的计算机总线协议包括PCIe、Ethernet等,Switch设备负责Scale-Up中的主机通信与扩展系统宽带和设备数量。在大模型时代下,Scale-Up对高速互联协议产生新需求,目前主流的互联协议包括:NVLink、UALink、SUE、CXL、HSL、UB等。
二、Scale-Up中高速互联协议NVLink领先、众厂商追赶
1)PCIe协议与交换机是传统的计算机扩展总线标准,随技术迭代速率提升,但CPU、GPU等各设备间通信速度仍存瓶颈,因此CXL协议应运而生。此外,众多厂商亦使用各自互联协议,其中NVLink处于领先地位。
2)NVLink实现了Scale-Up中GPU与GPU间高速互联;NVSwitch则是多GPU互联推理的硬件支持,其延迟低、通道数多、带宽高、功耗大;NVLink C2C则实现了Scale-Up中实现CPU与CPU、CPU与GPU间的高速互联,在速率上第五代NVLink单通道的带宽为200Gbps,而PCIe Gen5为32Gbps。
3)华为灵衢(UB)提供百ns同步内存语义访问时延、2-5us异步内存语义访问时延,提供组件间TB/s级带宽,UB Processing Unit是支持UB协议栈的处理单元,其内嵌UB Switch,实现多级UB Switch扩展组网,并支持通过UBoE与以太Switch融合组网。
4)UAlink利用以太网基础设施实现Scale-Up,UALink1.0规范支持每通道最高200GT/s的数据传输速率,每四条物理通道组合构成一个UALink基本单元组,在发送(TX)和接收(RX)方向上各提供最大800Gbps的带宽。
5)博通SUE借助以太网实现网络总线化,SUE在于以低延迟、高带宽的方式实现高效部署,支持以高效面积和功耗实现多实例化。
6)海光信息在光合组织2025人工智能创新大会上发布海光系统互联总线协议(HSL)1.0规范,并公布HSL未来三年的开放路线图,旨在打破技术壁垒,促进国产计算产业生态的协同创新。
三、NVLink走向开源,互联技术应服务高带宽和低延时
1)NVLink Fusion部分开源合作。MediaTek、Marvell、Alchip Technologies、Astera Labs、Synopsys和Cadence为首批合作厂商;支持定制化芯片Scale-Up以满足模型训练和推理需求;云服务商可以使用自定义ASIC、NVIDIA机架级系统和NVIDIA端到端网络平台。
2)算力需求演进对互联技术实现高带宽、低时延提出更高要求。随着模型规模、数据集规模及训练计算量的增加,语言建模性能呈现平滑提升趋势,要获得最优性能,上述三个因素必须同步提升;当前大型语言模型存在显著训练不足的问题,这是近期在保持训练数据量不变的情况下过度追求模型规模扩张的结果。
免责声明:本文 / 资料由用户个人上传,平台仅提供信息存储服务,如有侵权请联系删除。
- 相关标签
- 相关专题
- 全部热门
- 本年热门
- 本季热门
- 华为鲲鹏产业体系研究深度报告:鲲鹏展翅,挥下千亿市场.pdf 6894 9积分
- 计算机行业研究及2020年投资策略(103页).pdf 5867 10积分
- 国产计算机基础软硬件行业深度报告:重构中国IT产业生态.pdf 5379 9积分
- 计算机行业深度分析:国产软件大阅兵.pdf 3876 8积分
- 国产操作系统产业分析报告:国魂所系,任重道远.pdf 3672 8积分
- 网络安全服务行业研究报告:网络安全行业的制高点 3648 10积分
- 计算机操作系统的历史演进和未来趋势.pdf 3257 8积分
- 计算机行业专题报告:多模态大模型技术演进及研究框架.pdf 3049 8积分
- 计算机行业2020年度投资策略报告(87页).pdf 2259 6积分
- 2020年计算机行业中期策略:疫情和中美脱钩对行业意味着什么.pdf 2206 8积分
- 计算机行业2025年三季报业绩综述:业绩趋势向好,关注AI+与信创主题.pdf 1371 4积分
- 计算机行业从Circle和Coinbase看稳定币产业链:稳定币+RWA,迈向Finternet的关键.pdf 814 8积分
- 计算机行业“智能驾驶”系列专题报告:域控制器研究框架.pdf 616 7积分
- 计算机行业专题报告:物理AI,AI技术演进新方向,赋能产业智能化升级.pdf 535 6积分
- 计算机行业专题研究:DeepSeek重构算力基建长期价值的认知.pdf 534 6积分
- 计算机行业深度研究报告:字节跳动,深度布局AIGC,竞逐新一轮技术浪潮.pdf 519 6积分
- 计算机行业分析:国产算力迎来GB200时刻,AI交换网络是核心增量.pdf 507 7积分
- 计算机行业深度报告:脑机接口,从概念到落地,开启交互新时代.pdf 499 6积分
- 计算机行业深度研究:软件大革命深度,AI Agent投资宝典.pdf 489 20积分
- 计算机行业“AI+金融”系列专题研究:行业拐点已至,金融是AI应用落地的绝佳“试验田”.pdf 417 5积分
- 计算机行业:NV Rubin新架构&Agent存储最强方向,GPU Native数据库【星环科技】.pdf 386 4积分
- 计算机行业AI应用系列:3D打印百花齐放,国产厂商持续突破.pdf 335 6积分
- 计算机行业:从智谱华章MiniMax IPO看产业机遇,国内AI产业机遇期来临.pdf 297 4积分
- 计算机行业专题研究:千问APP正式接入阿里生态,流量模型AI应用产业格局有望重构.pdf 281 3积分
- 计算机行业:SpaceX如何值万亿美元?.pdf 278 4积分
- 计算机行业AI编程:重塑软件开发新范式,应用生态加速繁荣.pdf 264 4积分
- 计算机行业专题报告:GPU+ASIC渗透加速,液冷市场规模再添增量.pdf 253 5积分
- 计算机行业:AI编程商业化加速,关注本土产业参与方.pdf 250 3积分
- 计算机行业:SpaceX,从“变革”中崛起的“星际先行者”.pdf 239 4积分
- 计算机行业共享出行:迈向高质量发展,Robotaxi开启新篇章.pdf 222 4积分
