计算机行业专题研究:ChatGPT服务器,深度拆解.pdf
- 上传者:新**
- 时间:2023/02/27
- 热度:1200
- 0人点赞
- 举报
计算机行业专题研究:ChatGPT服务器,深度拆解。ChatGPT 发布之后,引发了全球范围的关注和讨论,百度、阿里、京东等 国内各大厂商相继宣布 GPT 模型开发计划。从 AI 模型应用场景来看,主要 包括推理和训练两类。从实践场景来看,算力需求场景包括预训练、Finetune 及日常运营。以 GPT-3 模型为例,随着模型朝更大体量的方向演进,一次 训练所需的计算量最高达 3640PFlop/s-day, 单 月 运 营 算 力 7034.7 PFlop/s-day,对应成本约 889 万美元。我们认为,在 Transformer 架构加 持下,GPT 模型得以高效地完成大规模参数计算,随着模型持续迭代、参 数体量不断提升,并行计算需求有望进一步释放。
ChatGPT 需要的服务器:AI 训练型服务器+AI 推理型服务器
我们认为,计算架构的变化是推动服务器技术演进的关键变量。从计算场景 来看,随着计算架构从 PC 到云计算,到边缘计算,再到 AI 训练,服务器 需求也在发生相应变化。复盘主流服务器发展历程来看:1)通用服务器: 以单机性能提升为迭代目标;2)云计算服务器:主要为承载大规模数据处 理需求而生,以 IaaS 模式带来服务器商业模式的变革;3)边缘服务器:主 要解决实时性、带宽成本、安全性等问题;4)AI 服务器:专为人工智能训 练设计,包括训练型和推理型,多采用大规模并行计算以提升效率。
ChatGPT 需要的芯片:CPU+GPU、FPGA、ASIC
从产业需求来看,AI 大模型训练需要大算力支持,智能算力需求释放有望带 动 AI 服务器放量。目前国产 AI 服务器厂商主要包括浪潮信息、华为、新华 三等,21H1 国产 AI 服务器厂商占全球市场份额超 35%。拆解 AI 服务器来 看,主要硬件成本来自算力芯片,且以 GPU 为核心。目前海外主流 AI GPU 芯片包括英伟达 H00、A100、V100 等,受美国出口限制政策影响,目前国 内在先进算力方面主要采购英伟达 A800 或更低端版本作为替代方案。考虑 到部分国产 AI GPU 如华为昇腾在 FP16 浮点计算性能上已经实现对英伟达 A100 的加速追赶,未来随着国产生态打磨,AI GPU 国产替代有望加速。
免责声明:本文 / 资料由用户个人上传,平台仅提供信息存储服务,如有侵权请联系删除。
- 相关标签
- 相关专题
- 全部热门
- 本年热门
- 本季热门
- 华为鲲鹏产业体系研究深度报告:鲲鹏展翅,挥下千亿市场.pdf 6897 9积分
- 计算机行业研究及2020年投资策略(103页).pdf 5870 10积分
- 国产计算机基础软硬件行业深度报告:重构中国IT产业生态.pdf 5381 9积分
- 计算机行业深度分析:国产软件大阅兵.pdf 3880 8积分
- 国产操作系统产业分析报告:国魂所系,任重道远.pdf 3677 8积分
- 网络安全服务行业研究报告:网络安全行业的制高点 3650 10积分
- 计算机操作系统的历史演进和未来趋势.pdf 3260 8积分
- 计算机行业专题报告:多模态大模型技术演进及研究框架.pdf 3052 8积分
- 计算机行业2020年度投资策略报告(87页).pdf 2261 6积分
- 2020年计算机行业中期策略:疫情和中美脱钩对行业意味着什么.pdf 2208 8积分
- 计算机行业2025年三季报业绩综述:业绩趋势向好,关注AI+与信创主题.pdf 1373 4积分
- 计算机行业从Circle和Coinbase看稳定币产业链:稳定币+RWA,迈向Finternet的关键.pdf 817 8积分
- 计算机行业“智能驾驶”系列专题报告:域控制器研究框架.pdf 618 7积分
- 计算机行业专题研究:DeepSeek重构算力基建长期价值的认知.pdf 538 6积分
- 计算机行业专题报告:物理AI,AI技术演进新方向,赋能产业智能化升级.pdf 537 6积分
- 计算机行业深度研究报告:字节跳动,深度布局AIGC,竞逐新一轮技术浪潮.pdf 523 6积分
- 计算机行业分析:国产算力迎来GB200时刻,AI交换网络是核心增量.pdf 510 7积分
- 计算机行业深度报告:脑机接口,从概念到落地,开启交互新时代.pdf 502 6积分
- 计算机行业深度研究:软件大革命深度,AI Agent投资宝典.pdf 491 20积分
- 计算机行业“AI+金融”系列专题研究:行业拐点已至,金融是AI应用落地的绝佳“试验田”.pdf 419 5积分
- 计算机行业:NV Rubin新架构&Agent存储最强方向,GPU Native数据库【星环科技】.pdf 389 4积分
- 计算机行业AI应用系列:3D打印百花齐放,国产厂商持续突破.pdf 338 6积分
- 计算机行业:从智谱华章MiniMax IPO看产业机遇,国内AI产业机遇期来临.pdf 302 4积分
- 计算机行业专题研究:千问APP正式接入阿里生态,流量模型AI应用产业格局有望重构.pdf 286 3积分
- 计算机行业:SpaceX如何值万亿美元?.pdf 282 4积分
- 计算机行业AI编程:重塑软件开发新范式,应用生态加速繁荣.pdf 268 4积分
- 计算机行业专题报告:GPU+ASIC渗透加速,液冷市场规模再添增量.pdf 257 5积分
- 计算机行业:AI编程商业化加速,关注本土产业参与方.pdf 254 3积分
- 计算机行业:SpaceX,从“变革”中崛起的“星际先行者”.pdf 245 4积分
- 计算机行业共享出行:迈向高质量发展,Robotaxi开启新篇章.pdf 228 4积分
