智能体规模化落地对底层算力架构和网络互联提出了哪些具体的新要求?

随着人工智能迈入代理式AI(Agentic AI)阶段,智能体在任务规划、工具调用和多轮交互中的Token消耗远超传统对话模式。在此背景下,传统的以GPU为主导的算力架构以及基于铜缆的数据中心内部互联方式是否还能满足智能体长周期、高并发的运行需求?

本研究重点关注智能体爆发对底层算力负载结构、CPU与GPU配比关系的影响,以及在超大规模高密度智算集群建设中,“光进铜退”趋势下LPO、NPO、CPO等不同光互联技术路线的演进情况,探讨算力基础设施如何向高效率、低成本的推理优先方向转型。

最佳答案 匿名用户编辑于2026/09/17 16:37

智能体的规模化落地从根本上改变了AI基础设施的需求形态,由短时、单次推理转向长周期、高并发运行,对底层算力架构和网络互联提出了全新的技术要求。

在算力架构层面,智能体系统需要经历规划、检索、工具调用、执行、反馈等多步骤流程,对系统级调度与控制的要求显著提高。GPU继续负责Token生成与高并行矩阵运算,但任务切分、内存管理、I/O调度、API调用、长上下文状态维护等控制层负载适合由CPU承载。当前AI数据中心的CPU与GPU配比约为1:4-1:8,在智能体时代,这一比例将演变至1:1-1:2。CPU正在成为智能体时代算力性能约束的核心瓶颈,在主流智能体框架任务测试中,CPU侧处理时延占比达到40%-90%。同时,算力布局重心转向推理优先,预计2029年我国推理算力市场占比将达到80%,推理基础设施持续向高效率、低成本演进升级,训推解耦、异构协同等多路线并行。

在网络互联层面,随着超节点规模持续扩大,铜缆逐渐逼近距离、带宽等物理极限。例如在224G速率下,无源铜缆有效传输距离小于2米,且传输速率越高信号衰减越严重,多通道并行会导致严重串扰。“光进铜退”成为超节点智算集群高密互联的技术刚需,光互联具备高带宽、低时延、抗干扰等优势,不受传输距离约束。目前LPO、NPO、CPO多技术路线并行发展,华为、阿里、英伟达等头部企业已在下一代超节点产品中明确了各自的光互联替代方案。

此外,多数据中心协同正在成为AI集群规模扩张的关键手段,头部企业已通过高速光纤网络将相距数百公里的大型AI数据中心连接成虚拟超级计算机。AI算力扩张也引爆了光纤需求,全球AIDC光纤需求占比预计从2024年不足5%升至2027年的30-35%,由于上游扩产周期较长,主流厂商正加速通过长期协议锁定光纤产能。

参考报告REPORT

中国电信研究院-智能体时代AI基础设施行业发展研究报告.pdf

2026年,全球人工智能产业正式迈入以智能体为核心形态的代理式AI(AgenticAI)新阶段。根据IDC预测,全球活跃智能体数量预计在2030年达到22.16亿个,我国Token年消耗量将在2026年达到10亿亿,到2030年超过3500亿亿。智能体的爆发式增长对底层AI基础设施的算力、网络、云平台及工程化能力提出了系统性重构要求。全球政策与市场竞争格局全球主要经济体的政策焦点全面转向主权AI基础设施建设。美欧以规则管控完善治理体系,日韩以巨额资本加码本土重资产攻坚,我国则以智能体应用为牵引,统筹推进全国一体化算力网建设。截至2026年6月底,我国智能算力规模达2185EFLOPS,同比增长...

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

  • 相关问题
  • 最新问题
用户解答榜
分享至