ODCC开放数据中心委员会：2025年AI 超节点内存池化技术白皮书.pdf

上传者：简****
时间：2025/09/28
热度：139
0人点赞
举报

ODCC开放数据中心委员会：2025年AI 超节点内存池化技术白皮书。当前，生成式人工智能浪潮正深刻改变着全球的计算格局。在大模型训练与推理需求持续高涨的背景下，以AI超节点为代表的新型算力形态正迅速崛起，成为支撑智能时代的重要基础设施。随着模型规模不断扩大、数据复杂性持续上升，AI工作负载对存储与内存系统提出了前所未有的挑战。尤其在追求“以存换算”的方向上，传统分散、静态的内存架构已难以支撑AI大规模并行计算对效率、弹性和资源协同的严苛要求。

在这一背景下，AI超节点内存池化技术应运而生，成为打破“内存墙”的关键路径。通过对HBM、DDR、SSD等多层级存储资源的统一编址、集中调度与智能分层管理，内存池化技术不仅有效解决了异构资源分布不均、利用率低下等问题，更为大模型训练、大模型推理等典型场景提供了灵活、高效、可扩展的内存解决方案。在 Scale-Up 与 Scale-Out 双重网络技术的支撑下，AI系统得以实现跨节点内存共享，进而打通GPU与CPU之间的资源壁垒，最大化释放算力潜能。