AI产业深度报告：华为盘古大模型与昇腾AI计算平台，共同构建软硬一体的AI技术体系.pdf

AI产业深度报告：华为盘古大模型与昇腾AI计算平台，共同构建软硬一体的AI技术体系。华为正通过从大模型设计到基础设施的软硬协同，探索构建其全栈 AI 竞 争力的路径。华为 AI 发展策略已逐渐从追赶并对标业界 SOTA 模型，转 向为更好地发挥自研昇腾硬件潜力而量身定做模型架构。这一双向协同进 化路径，旨在解决 AI 模型规模化应用中的系统性问题，并构建一个由软 硬件协同架构、算子与软件栈构成的全栈技术体系。

盘古大模型的演进，其核心是为解决大规模分布式系统中的效率难题。随 着大语言模型从稠密架构全面转向混合专家（MoE）稀疏架构，业界普遍 面临专家负载不均衡这一系统性瓶颈，它制约了 MoE 模型在训练和推理 中的实际性能。华为将此系统性问题作为其软硬架构创新的核心方向，标 志着其关注点已从单纯硬件或单纯 AI 算法问题，拓展至在自研硬件上更 高效解决 AI 系统工程问题。

华为在大模型层面并行推出了两种创新路径。一方面，Pangu Pro MoE 通 过架构破局，提出分组专家混合（MoGE）架构，旨在通过结构性设计解 决负载不均衡问题。另一方面，Pangu Ultra MoE 则通过系统级优化，以 仿真先行的设计方法来优化模型架构从而更好的适配昇腾硬件，并通过贯 穿训练和推理的协同优化，以充分发挥硬件潜力。

这一软件、硬件协同创新的物理基础，是新一代AI基础设施CloudMatrix。 其核心技术之一是统一总线（UB）网络，通过构建统一寻址的分布式高速 内存池，在工程上降低了跨节点通信的性能差异。这一硬件层面的发展， 不仅为上层 PDC（Prefill-Decode-Caching）分离架构等软件创新提供了物 理前提，也使其能通过大规模专家并行（LEP）和 AIV-Direct 等算子级优 化，利用硬件有效承载通信开销，换取软件层面的高并行与低延迟。