电子行业专题报告：AI 硬件全景图.pdf

上传者：S***
时间：2023/05/30
热度：1004
1人点赞
举报

电子行业专题报告：AI 硬件全景图。CHATGPT 开启 AI 奇点，算力需求大幅提升。在各大厂商相继推出 GPT 大模型，并积极赋能下游应用的背景下，将引发模型训练和推理的算力需求的激增。根据我们的测算，在训练侧，训练一个 GPT-3.5 175B 模型的 NVIDIA A100 需求为 1080 个、AI 服务器需求为 135 台；训练一个万亿参数量 AI 大模型对 A100、AI 服务器的需求分别为 8521 个、1065 台。在推理侧，一个谷歌级应用使用 GPT-3.5 175B 进行推理，对 NVIDIA A100 需求为 72 万个、对 AI 服务器需求为 9 万台；一个谷歌级应用使用万亿参数大模型进行推理，对 NVIDIA A100 需求为 378 万个、对 AI 服务器需求为 47.3 万台。根据测算结果，以 2022 年 AI 服务器出货量 14 万台为基数，训练 100 个 GPT-3.5 175B 模型对 AI 服务器出货量的拉动为 9.6%，10 个使用 GPT-3.5 175B 模型的谷歌级推理应用对全球 AI 服务器出货量的拉动为 643%。

算力需求推动 AI 服务器增长，相关硬件步入黄金时代。相较于普通服务器，AI 服务器内部除了 2 颗 CPU 外，一般还要配备 4/8 颗 GPGPU 以及一系列的相关配套芯片。其中，GPU 是 AI 服务器中处理训练与推理的核心， NVLink + NVSwitch 光芯片、高速接口芯片和 PCB 助力服务器内部实现高速稳定互联，HBM 则逐步成为高端 GPU 标配。相关芯片将受益于 AI 服务器的需求增长，迎来量价齐升好光景，市场规模均有望得到显著扩容。

AIGC 赋能千百行业，智能应用蓄势待发。AIGC 作为新型的内容生产基础设施对既有的内容生成模式可产生革命式影响，一方面，AIGC 有望与安防紧密结合，驱动泛安防产业智能化升级，帮助安防产品实现更高效的数据处理和管理，大幅提升安防系统的反应速度和处理能力。另一方面，AIGC 作为生产力工具开启视听盛宴，打开终端设备成长空间，从视觉领域来看，AIGC 作为生产力工具赋能元宇宙，逐渐实现元宇宙的可扩展性潜力，低成本、高效率地满足 VR/AR 用户海量内容需求；从听觉领域来看，智能音箱是家庭场景交互中心与 IoT 控制中心，AIGC 符合智能音箱用户个性化交互需求，进一步提升用户体验，开启听觉盛宴。