2023年AI行业跟踪报告：昇腾万里，力算未来

1、昇腾计算体系

AI技术持续快速发展，数据处理需求指数级增长

AI技术持续快速发展，在图像识别、语音识别、语义理解等诸多特定领域已超过人类能力。随着技术的成熟，计算机视觉、智能分析、机器 学习、智能语音识别等AI技术助力各产业实现智能化转型升级，在未来将进一步创造新的价值。根据IDC预测，2023年中国AI市场支出为 148亿美元，2026年将达到264亿美元，CARG为21.5%。 伴随5G、智慧城市、物联网等领域多样化应用的普及，非结构化数据的生成速度不断加快，处理需求呈指数级增长。而AI算力处理这些数据 的效率远远高于通用算力，从而带动AI算力需求快速增长。根据IDC数据，2019年中国智能算力规模为31.7EFLOPS，2026年将达 1271.4EFLOPS，CARG为69.45%。

AI需求对计算系统提出巨大挑战

要满足AI的巨大需求，让AI成功应用到千行百业，必须具有性能强大且成本合理的软硬件系统和解决方案。计算机系统要满足行业AI场景的 复杂巨大且多样性的计算需求，AI模型的规模和需要学习的数据开始爆炸性增长。从2012年开始的六年中，AI计算的需求增加了30万倍，远 远超过了摩尔定律的增长速度。同时，自动模型结构搜索等新方法的涌现，导致计算需求持续增加。这些都将对AI计算系统的计算性能、通 信性能、可扩展性等全方位提出巨大的压力诉求。

华为为世界算力提供中国方案

华为在技术架构与工程实现上持续创新，为世界提供中国的算力解决方案。昇腾计算是基于华为昇腾系列(Ascend)AI处理器和基础软件构建 Atlas的人工智能计算解决方案，包括Atlas系列模块、板卡、小站、服务器、集群等丰富的产品形态，打造面向“端、边、云”的全场景AI基 础设施方案，覆盖深度学习领域推理和训练全流程。整个昇腾软硬件全栈包括五层，自底而上分为Atlas系列硬件、异构计算架构、AI框架、 应用使能和行业应用。

2、昇腾系列硬件

昇腾AI处理器：AI应用的底座

随着深度学习需求日益扩大，基于神经网络的AI处理器技术创新蓬勃发展。NPU针对矩阵运算进行专门优化设计，解决了传统芯片在神经网 络运算时效率低下的问题。华为于2018年发布昇腾310，于2019年发布昇腾910，均为针对AI的专用芯片，是全球首款覆盖全场景的AI芯片。 在国际上对标英伟达的GPU，国内对标的包括寒武纪、海光等厂商生产的一系列AI芯片产品。

Atlas系列：基于昇腾处理器的多产品形态

Atlas系列是基于昇腾910和昇腾310打造出来的、面向不同应用场景(端边、云)的系列AI硬件产品。包括AI训练集群Atlas900、AI训练服务 器Atlas800、智能小站Atlas500、AI推理与训练卡Atlas300和AI加速模块Atlas200等，覆盖云、边、端全场景，向训练和推理提供强劲算力。 其中Atlas900AI训练集群，算力达到了256PFLOPS。要实现这样的算力，如果采用通用CPU需要6195个机柜，GPU需要208个机柜，而 NPU如昇腾只要128个机柜，这归功于昇腾架构对深度学习业务的优化。除芯片优化之外，华为还增加了系统级优化，如板级液冷、柜级密 闭绝热等，功耗从4万千瓦降到736千瓦。

Atlas800服务器：面向AI提供强劲算力

Atlas800推理服务器基于昇腾推理处理器和鲲鹏处理器平台，采用标准2U服务器形态，集Al推理、存储和网络于一体，可以容纳最大8张AI 推理卡，提供最大704 TOPS INT8推理性能，可用于视频分析、OCR、精准营销、医疗影像分析等推理服务。 Atlas800训练服务器基于昇腾训练处理器和鲲鹏处理器平台，采用标准4U服务器形态，集成8颗昇腾训练处理器，提供2.24 PFLOPS FP16高 算力，可广泛应用于深度学习模型开发和训练，适用于智慧城市、智慧医疗、天文探索、石油勘探等需要大算力的行业领域。

3、昇腾基础软件

异构计算架构：CANN

异构计算架构(CANN)是对标英伟达的CUDA+CUDNN的核心软件层，对上支持多种AI框架，对下服务AI处理器，发挥承上启下的关键作用。 CANN不仅仅是一个简单的软件平台，它还是一个开发体系，包含了编程语言，编译及调试工具和编程模型，创造了基于昇腾系列处理器的 编程框架，是提升昇腾AI处理器计算效率的关键平台，主要包括各种引擎、编译器、执行器、算子库等。

AI计算框架：MindSpore

MindSpore致力于实现开发态友好、运行态高效、全场景按需协同三大目标。MindSpore为华为开发的全场景Al计算框架，主要包括自研 框架MindSpore(昇思)和第三方框架(PyTorch、TensorFlow等)。其中MindSpore完全由华为自主研发，华为对第三方框架做了适配和优化， 让PyTorch和TensorFlow等框架编写的模型也可以高效的跑在昇腾芯片上，帮助AI开发者更简单、更高效的开发和使用AI技术，更好的发挥 AI处理器性能。

昇腾已支持国内外开元开放大模型，实测性能持平业界

深度学习开源框架MindSpore，具有易用性强、性能优异等特点。并在开源计算框架、数据框架和模型格式中支撑主流开源架构，构建生态 基础。在开源开放的生态环境中，开发者可与华为共同优化计算框架，从而应用于更多的场景，挖掘潜在可能性。目前为国内唯一已完成训 练干亿参数大模型的技术路线，训练效率10倍领先其他国产友商。

开发工具链：MindStudio

全流程开发工具链MindStudio为昇腾计算产业提供一套完整的工具链体系。针对算子开发模型训练、模型推理、应用开发、应用部署的所 有全流程的工具链进行了整合。提供全流程开发支撑全流程开发新体验。通过MindStudio能够进行工程管理、编译、调试、运行、性能分析 等全流程开发，提高开发效率。

4、昇腾应用使能

“2+1+X”助力AI计算融入千行百业

“2+1+X”助力AI计算融入千行百业。MindX昇腾应用使能是由2个组件(深度学习组件MindXDL、智能边缘组件MindXEdge、1个模型库 (优选模型库ModelZoo)以及多个行业SDK组成，致力于让行业开发者以最简单的方式开发应用。

MindX DL和MindX Edge组件

MindX DL(昇腾深度学习组件):是支持Atlas训练卡、推理卡的深度学习组件，提供昇腾AI处理器集群调度、昇腾AI处理器性能测试、模型保 护等基础功能，快速使能合作伙伴进行深度学习平台开发。 MindX Edge(昇腾智能边缘组件):提供边缘AI业务容器的全生命周期管理能力，同时提供严格的安全可信保障，为客户提供边云协同的边缘 计算解决方案，使能客户快速构建边缘AI业务。

Model Zoo模型库和行业SDK

Model Zoo模型库：为开发者提供丰富的场景化优选预训练模型，包含计算机视觉、自然语言处理和推荐搜索等多个方向的热门模型及预训 练大模型，支撑开发者快速二次开发。 行业SDK：帮助特定领域的用户快速开发并部署人工智能应用，面向智慧城市、运营商、互联网等行业，基于异腾AI全栈软硬件栈协同优化， 提供极致性能的应用开发，降低用户开发门槛，提升客户应用开发效率。

5、应用落地

昇腾已原生孵化和适配30+基础大模型

中国大模型近1/2选择昇腾，其余选择NV；昇腾已适配和孵化GLM、LLAMA、GPT等30+业界大模型。

昇腾系列AI芯片是各地兴建人工智能计算中心的首选

国家科技部在2019年8月印发了《国家新一代人工智能创新发展试验区建设工作指南》，目标是在2023年底布局建设20个左右试验区，截至 23年3月，已经累计批复了18个人工智能试验区，累计建设或投产了27个人工智能计算中心，有21家披露了算力芯片或整机设备的供应商。 在这21家中，昇腾及其合作伙伴合计中标18家，占有率高达86%。

应用场景：AI计算中心

Al计算中心解决方案根据不同行业及客户需求，提供包括全栈AI计算中心解决方案、云AI计算中心解决方案、轻量化AI计算中心解决方案在 内的三种不同规模的解决方案。 鹏城云脑在鹏城实验室中承担对接国家新一代人工智能发展战略和重大科技工程的创新基础平台,聚焦在新一代人工智能基础研究以及突破信 息处理领域重大科学理论基础问题等领域。鹏城云脑Ⅱ以Atlas900AI集群为底座，结合AI集群软件，可以实现AI算力自由扩展至E级的AI计算 系统，通过多样化的异构计算平台、多源算法平台和多态智能应用，支撑AI重大应用的模型训练及推理，可用于自动驾驶、城市大脑、智慧 医疗、智慧交通、语音识别自然语言处理等应用场景。

应用场景：制造

AI是智能制造规模发展的关键引擎，广大应用场景诸如质量检测、机器人视觉、人机协同、生产安全和厂区巡视，都有普遍应用需求。在半 导体制造过程中，Al的运用实现了检测精度提升。合作伙伴的半导体晶圆质检解决方案通过分析专业图像采集设备获取的晶圆图片，实现晶 圆缺陷检测精确率超过99%。

应用场景：机器人

机器人作为典型的操作型前端设备，在很多领域得以应用。将AI与机器人相结合，使得机器人实现对周边视觉和其他传感数据的实时感知和 分析。机器人的视觉能力可应用于教学巡视、智能服务、物流等诸多方面。 教学机器人合作伙伴完成对于Atlas200加速模块的集成，并与国内某985高校展开合作推动高校提升验证AI算法模型能力。 智能服务小车在新冠疫情期间用于运送口罩、消毒液等防疫物资。小车可自动识别园区中道路两侧做出招手动作的人，停靠在其附近。实现 了无人接触的物资发放，显著减少病毒感染几率。

应用场景：能源

在电力行业，AI可用于提高勘探、调度、管理、维护等流程的效率。特别是在设备状态和周界环境的远程巡检方面，在输电线路、变电站和 配电房多场景的远程巡视和自动分析，实现准确度和效率的提升。石油天然气的运输和使用，亦可通过AI增加运营、维护和管理水平。 基于Atlas200Al加速模块，合作伙伴将AI算力内置到输电可视化装置中，前端智能分析仅回传告警，大幅缓解回传通信的网络压力，降低整 体设备的功耗，并将监控周期从1次/小时缩短到1次/分钟，缩短隐患发现间隔和处置周期。

6、产业生态

软件开源

在开源开放的生态环境中，开发者可与华为共同优化计算框架，从而应用于更多的场景，挖掘潜在可能性。MindSpore企业服务数量5500+ 个，社区开源模型400+，社区下载量451万+。 昇腾开发者社区是昇腾计算产业的门户网站，承担了资源中心、赋能中心和支持中心的角色。 通过众智合作计划，华为支持和鼓励高校、科研机构和伙伴参与到昇腾计算基础软件的众智开发中，基于昇腾平台开发包括框架类算子、基 础库等算子；开发和调优多个主流AI编程框架下的网络模型，持续补足算子和模型，并且不断优化算子和模型的精度与性能，充分发挥昇腾 产业整体的技术优势。

硬件开放

开发者是昇腾计算产业发展壮大最重要的力量，昇腾分层开放软硬件能力，提供基础工具链通过昇腾开发者社区赋能并服务开发者，5年内发 展超过100万AI开发者。通过自有硬件和伙伴硬件相结合的方式为客户提供多样化的算力选择，将Atlas系列硬件开放给合作伙伴，让伙伴基 于Atlas系列硬件进行集成和二次开发，联合打造有竞争力的产品，使能伙伴开发自有品牌的AI硬件和服务器整机产品。

使能伙伴

昇腾万里伙伴计划根据伙伴的技术和市场能力，以及业绩贡献，将伙伴分为注册级、认证级、领先级、优选级，享有不同权益。伙伴加入昇 腾万里伙伴计划后，华为将从学习、构建、上市、销售等各个阶段，对合作伙伴进行全面激励，繁荣昇腾生态。

发展人才

AI人才是未来数字世界和智能社会发展的主力军。为了培养人工智能领域的人才，华为在打造昇腾AI软硬件平台的同时，与高校广泛开展合 作，包括“人才培养、教材/教辅书籍、教学课程、技术合作、科研、大赛、项目孵化”等方面，持续探索人才发展的体系建设和培养模式。

华为持续加码AI产业投资

深耕基础，厚植技术，华为昇腾坚定人工智能产业投入。截至2022年12月，华为昇腾已拥有20家整机合作伙伴，120万+开发者，356万 +MindSpore社区下载量，1000+合作伙伴，2000+解决方案，72家合作智能基座高校以及100+合作科研机构。昇腾计算机产业将以卓越 的技术创新和赋能能力，成为中国人工智能产业的发展的关键推动者。

编辑：520中国