光互连延伸至内存接口的技术架构及其对AI算力设施的影响是什么?

随着超大规模AI集群的发展,机架间数据传输成为新的瓶颈。SK海力士提出的“以光为中心”架构将光互连延伸至内存接口,请简要说明该架构的技术原理,以及它如何解决当前GPU与HBM高度绑定带来的显存碎片化和调度不均问题?

最佳答案 匿名用户编辑于2026/08/24 16:25

SK海力士提出的“以光为中心”架构,核心在于将光互连技术从传统的处理器之间、机架之间的数据传输,进一步延伸至内存接口。这一技术路径旨在构建一个可解耦、可池化的算存架构,通过光子中介层将处理器资源池与内存资源池直接相连。

在当前架构中,GPU与HBM高度绑定,每个GPU固定搭配一定容量和带宽的内存。这种物理绑定在大模型推理等场景下导致单卡内部显存碎片化、不同任务的算存配比不均衡等问题普遍存在,部分GPU内存紧张而其他GPU内存无法被有效共享和调度。随着AI集群规模扩大至数千甚至上万节点,机架间数据传输形成的“带宽墙”日益凸显,算力增长速度远超互联带宽增长速度。

“以光为中心”的架构通过光子中介层突破了计算芯片周围的物理限制,解除了对内存容量和电气连接数量的约束。这使得多颗GPU可以按需、灵活地共享大容量内存资源,实现了计算与存储的物理解耦。这种解耦不仅显著提升了内存利用效率,解决了显存碎片化和调度不均的问题,还使AI基础设施在模型规模持续增长时具备更灵活的扩展能力,为应对未来更大规模的AI训练和推理需求提供了基础架构支持。

参考报告REPORT

通信行业:光进存储——光的远期愿景.pdf

全球人工智能算力需求爆发式增长,驱动光通信技术在架构层面发生深刻变革。SK海力士近期在《自然·电子学》发表的CPO技术路线论文,标志着光互连技术正从机架间传输向内存接口延伸,试图通过“以光为中心”的架构打破计算与存储的物理绑定,解决超大规模AI集群面临的“带宽墙”难题。光互连架构演进与算存解耦传统架构中GPU与HBM紧密绑定,导致显存碎片化及调度效率低下。随着集群规模扩大,机架间数据传输成为瓶颈,算力与互联带宽增速剪刀差持续扩大。新提出的架构通过光子中介层连接处理器资源池与内存资源池,实现计算与存储解耦,允许GPU按需共享大容量内存,提升资源利用效率及系统扩展灵活性。龙头企业业绩指引印证行业景...

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

  • 相关问题
  • 最新问题
用户解答榜
分享至