电子行业:ODX2026首届算博会跟踪报告—从大模型演进到Token工厂,AI产业链共筑基础设施升级

  • 来源:招商证券
  • 发布时间:2026/09/09
  • 浏览次数:19
  • 举报
相关深度报告REPORTS

电子行业:ODX2026首届算博会跟踪报告—从大模型演进到Token工厂,AI产业链共筑基础设施升级.pdf

全球AI产业正经历从生成式AI向AgenticAI的关键跃迁,这一范式转换使得硬件升级的核心逻辑从理论峰值算力转向有效Token产出。ODX2026首届算博会显示,Token/s、Token/W及单Token成本已成为衡量基础设施价值的新标尺,驱动着算力、存储、网络及供电系统的全面重构。超节点与整机柜交付成为主流面对单芯片功耗迈向5kW、单机柜功率突破1MW的挑战,传统服务器设计模式失效。超节点以机柜为最小交付单元,整合CPU/GPU/XPU、内存、存储、交换及供电散热模块。超聚变、百度、新华三等厂商通过模块化、三总线盲插及全液冷设计,提升单柜密度与可维护性。整机价值评估体系随之改变,更关注有...

Token经济与模型范式演进

生成式AI正加速向Agentic AI演进,从单Agent走向多Agent协同,这一变化深刻重写了算力类型、访存模式、通信拓扑、存储层级、CPU/GPU配比及功耗曲线。硬件升级的核心驱动力在于有效Token产出,行业评价标准已从单纯的理论峰值算力转向Token/s、Token/W、单用户Token/s、TTFT、资源利用率及单Token成本等指标。GPU仍是算力核心,但新增价值量正更多地流向CPU调度、HBM/DRAM/SSD多级内存、Scale Up网络、KV Cache服务、800V供电、液冷以及整机柜系统工程。

超节点架构与散热革新

随着MoE、PD分离、长上下文和训推一体需求的增加,Scale Up域不断扩大,单芯片功耗持续提升,传统风冷机柜及按部件独立设计的模式已失效。超节点演进为以机柜为最小交付单元,将CPU/GPU/XPU、内存和存储池、交换芯片、Cable Tray/正交背板、供电母线、液冷管路及管理单元统一设计。行业正朝着由模块化、三总线盲插和全液冷提升单柜密度及可维护性的方向发展,长期则与800V HVDC、NPO/CPO、全光互连及算电协同共同重构机柜几何形态。整机价值最终以有效GPU卡时、Token/s、Token/W及可用率衡量。超聚变已完成核心部件自研和百万级XPU规模商用,百度推进天池整柜演进,新华三通过UXM标准化解决异构XPU整机碎片化问题。

网络互连:光铜并进与NPO崛起

互连复杂度持续提升,行业呈现光铜并进格局。Scale up作为智算互联中带宽压力最大的互连架构,目前含有铜、光两种技术路径。铜互连方面,从传统的Cable Cartridge铜线缆方案延伸出NPC以及最终的CPC方案;光互连方面,业界对NPO的重视程度提高,其是在兼顾技术落地进度、性能、功耗以及可维护性下的阶段性最优解。立讯技术在224G速率下具备完整的互联解决方案,并开展448G速率完整方案预研。腾讯与阿里联合发起UPO标准制定,采用LGA Socket连接方案,实测指标可满足224G应用需求,也可平滑演进至448G。

存储瓶颈突破与KV Cache管理

KV Cache逐步成为推理场景新瓶颈,随着上下文长度、并发数量提升,KV Cache占用容量快速扩张。当缓存利用率超过95%时,系统会从计算密集型转变为I/O密集型。针对L1与L2之间的传输GAP,腾讯提出L1.5解决方案,在现有超节点架构中接入独立内存池,直接在Scale up Switch接入专用DDR内存池,可为单颗GPU提供约500GB访问容量以及400-800GB/s访问带宽。三星推出zNAND-O,采用SLC架构,与NPU合封,预计2028年起深度赋能AI创新。

电源重构:800V HVDC与算电协同

GPU单芯片功耗由数百瓦走向3.6-5kW、单柜功率走向300-600kW乃至1MW后,供电系统需要完成四项重构:以800V HVDC降低长距离输电电流和铜损;把DC/DC、VRM持续推近负载;通过超级电容、BBU/储能消化GPU毫秒级动态功率;把供电与算力调度、液冷、电网和微电网统一设计。当前主线仍是先以800V→50/54V兼容既有服务器生态,再逐步演进至12V/6V中间母线、800V进板。麦格米特把Sidecar定义为可扩展、可管理的机架级能源平台,晶丰明源聚焦“最后一英寸”,以6V母线、TLVR、Co-Pack LDMOS和VPD解决4000A级Vcore供电。

编辑:流星雨
  • 热门文档
  • 热门文章
  • 本年热门
  • 本季热门
  • 本月热门
  • 本年热门
  • 本季热门
  • 本月热门
分享至