智联汽车专题分析：特斯拉Dojo+英伟达GPU+谷歌TPU+昇腾，趋势是带宽与扩展性！.pdf

智联汽车专题分析：特斯拉Dojo+英伟达GPU+谷歌TPU+昇腾，趋势是带宽与扩展性！特斯拉 Dojo 芯片、华为服务器/AI 能力都是近期产业重要事件。本篇报告分析特斯拉 Dojo/英伟达 GPU/谷歌 TPU/华为昇腾等的异同，并做 AI 产业计算和通信趋势的预测。

Dojo 芯片与架构的特色至少包括存算一体/扩展性强/路由便捷/带宽高。在 IEEE MICRO 2020 上，特斯拉发布 FSD《 Compute Solution for Tesla ’s Full Self-Driving Computer》。在 2022 年 8 月 hotchips 34 大会上，特斯拉发布《The Microarchitecture of Dojo, Tesla’s Exa-Scale Computer》和《Dojo Super-Compute System Scaling for ML Training》。Dojo 至少有存算一体/扩展性强/路由便捷/带宽高四个特色，详见正文。

英伟达 GPU/谷歌 TPU/昇腾 AI/Tesla DSA，从架构解释异同。1）2010 年以来，英伟 达 GPU 主要架构至少包括八类，具备衍生关系。趋势：注重互联/注重带宽和扩展性/对 AI 支持与时俱进（从 Cuda Core 到 Tensor Core，增加对 INT/BF16 等 AI 新趋势的支 持，结构稀疏矩阵支持）。2)根据 TPU 五代架构，趋势：注重互联/注重扩展性/对 AI 支持 与时俱进（如用脉动阵列的方法支持矩阵乘法）。3）根据华为官网和《机器之心》等，华 为昇腾（达芬奇架构）应与谷歌 TPU 有类似之处。4）共同点是扩展性/AI 甚至大模型下 特殊操作，区别是 Dojo 有特殊性（不同处理器设计是“架构向后兼容”，不需要颠覆架构）。

计算部分的未来趋势：1）与时俱进，适应 AI 数据精度/场景特殊运算。2）带宽最大化， 延展性关键化。3）核心数可能减少。正文有详细论述。

通信部分：DIP 和 TTPoE 是 Dojo 的网络核心。Dojo 系统的构架过程，以 node 核心为 最小单元，每 1 个 D1 包含 354 个 nodes、每 1 个 Tile 包含 25 个 D1、每 1 个 Tray 包含 6 个 Tiles，每个机柜包含 2 组 Tray。Dojo Interface Processor（DIP）用于 HBM 内存 扩容、PCIe 扩展、以及对外的网络连接。Tesla Transport Protocol 可以对应于 CXL、 NVLink 等，基于以太网提供 400Gb/s 的核心网络带宽。

通信部分的未来趋势：Dojo 试图打破冯诺依曼约束，借助软件与网络，平衡系统中的时 延、带宽、资源消耗量和传输距离。我们推算 Dojo 的网络设备与器件使用情况，基础 BasePOD 177 个机柜的规模下，假设 fat-tree 的 2 层交换架构组网且全部使用光通信系 统，总共需要 14160×2=28320 个光模块，对应 177 个机柜中的 53100 个 D1 芯片，另 外 Host 系统预计也需要若干光模块。若 Dojo 系统与 Nvidia A100 系统对标，显著差异 是网络带宽从 200Gb 网络升级至 400Gb、SRAM 与 DRAM 容量与带宽提升、引入 15kw 的液冷封装方案，最终整体算力性能显著提升。