在Agentic AI负载下，CPU与GPU的协同瓶颈如何影响算力系统的整体效率？

在Agentic AI负载下，传统的“CPU搬运、GPU推理”分工模式存在显著的协同瓶颈，CPU调度效率已成为系统效率的关键变量。

根据佐治亚理工学院论文《A CPU-Centric Perspective on Agentic AI》对典型智能体负载的实测显示，CPU侧工具处理时延在整体负载中占比偏高，导致GPU长期处于等待状态。具体数据表明，批大小从64提升至128时，LangChain负载CPU端摘要任务时延由2.9秒升至6.3秒；在批大小128场景下，CPU动态能耗占总动态能耗比例可达44%。这意味着推理阶段的关键指标已从峰值算力转向单位Token成本、并发吞吐与功耗。

针对这一系统级瓶颈，国产算力厂商正积极推进架构创新。海光信息在2026数博会首发了“Agent to Token开放计算架构”，依托CPU与DCU双芯协同，贯通Agent任务执行与词元生产的完整计算周期。这种双芯协同的产业背景正是为了应对Agentic AI负载下CPU价值的系统性重估。

在软件生态层面，完全开源的异构AI芯片系统软件栈FlagOS形成了“核心库—插件—领域项目—工具与服务”多层开源组件体系。其中，FlagGems通用算子库与FlagTree统一编译器提供计算支撑，FlagScale覆盖训练到部署全流程，FlagCX解决跨芯片通信，允许AI模型一次开发即可移植到广泛的AI硬件平台，从而在系统级优化整体Token生产效率。