电子行业专题报告：AI 硬件全景图.pdf
- 上传者：浪潮
- 时间：2023/05/30
- 浏览次数：468
- 下载次数：54
- 1人点赞
- 举报
电子行业专题报告：AI 硬件全景图。CHATGPT 开启 AI 奇点，算力需求大幅提升。在各大厂商相继推出 GPT 大模型，并积极赋能下游应用的背景 下，将引发模型训练和推理的算力需求的激增。根据我们的测算，在训练侧，训练一个 GPT-3.5 175B 模型的 NVIDIA A100 需求为 1080 个、AI 服务器需求为 135 台；训练一个万亿参数量 AI 大模型对 A100、AI 服务器 的需求分别为 8521 个、1065 台。在推理侧，一个谷歌级应用使用 GPT-3.5 175B 进行推理，对 NVIDIA A100 需求为 72 万个、对 AI 服务器需求为 9 万台；一个谷歌级应用使用万亿参数大模型进行推理，对 NVIDIA A100 需求为 378 万个、对 AI 服务器需求为 47.3 万台。根据测算结果，以 2022 年 AI 服务器出货量 14 万台为基数， 训练 100 个 GPT-3.5 175B 模型对 AI 服务器出货量的拉动为 9.6%，10 个使用 GPT-3.5 175B 模型的谷歌级推 理应用对全球 AI 服务器出货量的拉动为 643%。
算力需求推动 AI 服务器增长，相关硬件步入黄金时代。相较于普通服务器，AI 服务器内部除了 2 颗 CPU 外， 一般还要配备 4/8 颗 GPGPU 以及一系列的相关配套芯片。其中，GPU 是 AI 服务器中处理训练与推理的核心， NVLink + NVSwitch 光芯片、高速接口芯片和 PCB 助力服务器内部实现高速稳定互联，HBM 则逐步成为高端 GPU 标配。相关芯片将受益于 AI 服务器的需求增长，迎来量价齐升好光景，市场规模均有望得到显著扩容。
AIGC 赋能千百行业，智能应用蓄势待发。AIGC 作为新型的内容生产基础设施对既有的内容生成模式可产生革 命式影响，一方面，AIGC 有望与安防紧密结合，驱动泛安防产业智能化升级，帮助安防产品实现更高效的数据 处理和管理，大幅提升安防系统的反应速度和处理能力。另一方面，AIGC 作为生产力工具开启视听盛宴，打开 终端设备成长空间，从视觉领域来看，AIGC 作为生产力工具赋能元宇宙，逐渐实现元宇宙的可扩展性潜力，低 成本、高效率地满足 VR/AR 用户海量内容需求；从听觉领域来看，智能音箱是家庭场景交互中心与 IoT 控制中 心，AIGC 符合智能音箱用户个性化交互需求，进一步提升用户体验，开启听觉盛宴。
- 相关标签
- 相关专题
- 全部热门
- 本年热门
- 本季热门
- 光芯片行业深度研究：光电子产业国产化的下一站.pdf 107 5积分
- 域控制器行业深度报告：汽车电子电气架构演进下的黄金赛道.pdf 100 5积分
- 电子行业深度研究：向“第三生活空间”迈进，智能化大潮座舱先行.pdf 78 8积分
- 军工电子行业深度研究报告：拥抱军工信息化、智能化大时代.pdf 76 10积分
- 2023年电子行业投资策略：半导体国产替代持续加速，汽车电子迎来新机遇.pdf 74 7积分
- 汽车电子行业专题报告：问界M5销量破万的背后，掘金华为智能车产业链.pdf 65 5积分
- 电子纸行业研究：显示行业另一个千亿赛道.pdf 65 3积分
- 汽车电子行业专题报告：电子电气架构演进，海平面下的冰山.pdf 61 4积分
- 电子烟行业研究报告：解析电子烟全球监管体系，重点关注品牌化出海机会.pdf 55 3积分
- 电子行业专题报告：ChatGPT浪潮之巅，AIGC赋能千行百业.pdf 55 4积分
- 电子行业专题报告：AI 硬件全景图.pdf 54 5积分
- 电子行业华为产业链专题报告：技术创新+自主可控全面布局.pdf 53 3积分
- 电子行业分析报告：AI浪潮奔涌，CPO等光技术持续演进.pdf 49 2积分
- 电子行业CES 2024跟踪报告：AI赋能成主旋律，XR、PC和智能车等方向为创新焦点.pdf 45 5积分
- 电子行业专题报告：AI大模型加速落地，汽车智能化迅速发展.pdf 41 3积分
- 湿电子化学品行业研究：高端产品国产进程有望加速.pdf 41 5积分
- 消费电子行业研究：AI终端时代来临，引领消费电子新浪潮.pdf 40 3积分
- PCB行业专题：乘算力之风，看好电子工业的重要基石再起航.pdf 38 5积分
- 电子行业专题报告：英伟达产业链在A股的映射及投资机会.pdf 37 5积分
- 电子行业2024 CES大会行业专题报告：AI深度赋能，产业创新纷呈.pdf 36 6积分
- 电子行业HBM专题报告：AI的内存瓶颈，高壁垒高增速.pdf 31 5积分
- 电子行业专题报告：PC迎换机+AI潮，AI赋能带动硬件环节量价齐升.pdf 26 4积分
- 电子行业专题报告：AI大模型落地终端，AI PC驱动PC行业新增长.pdf 24 3积分
- 消费电子行业深度跟踪报告：终端需求温和复苏，把握AI融合新品与SmartEV等主线.pdf 18 8积分
- 电子行业专题报告：电子板块多重共振，拐点已至.pdf 17 3积分
- PCB行业专题报告：华为新机强势回归，消费电子PCB有望复苏.pdf 15 3积分
- 电子行业空间计算专题报告：Vision Pro开启空间计算时代.pdf 14 4积分
- 湿电子化学品行业深度报告：AI赋能，湿电子化学品渐入佳境.pdf 13 6积分
- 电子行业专题研究：Gemini 1.5Sora预示AI模型迭代加速，高速通信驱动PCB成长.pdf 13 2积分
- 消费电子行业专题报告：光学为终端竞争焦点，华为回归有望促进行业发展.pdf 12 2积分
