计算机行业算力租赁专题研究报告:大模型发展的关键引擎,看好AI算力高景气持续.pdf
- 上传者:小老王
- 时间:2023/10/11
- 浏览次数:747
- 下载次数:56
- 0人点赞
- 举报
计算机行业算力租赁专题研究报告:大模型发展的关键引擎,看好AI算力高景气持续。GPU为驱动AI技术发展以及应用落地的关键引擎,大模型训练、微调、推理催生大量AI算力需求,英伟达 A100与H100供不应求,在此背景下,AI算力租赁需求爆发。我们认为由于下游大模型无论是技术侧还是 应用侧均呈百花齐放发展趋势,而上游AI算力资源作为重要支撑,稀缺性凸显,算力租赁市场需求将持续 旺盛,未来成长空间广阔。1)根据英伟达与微软联合发布的论文,理论情况下用1个月训练出1750亿参数 大模型需要1024张A100,而训练万亿参数GPT-4所需的A100卡可能达到万张量级;2)ChatGPT迎重大更新, 微软Copilot即将全面开放,大模型应用进一步走向实处。我们测算,大模型推理侧GPU需求具备更大的增 长空间,未来每家龙头大模型厂商推理侧A100需求有望达到十万张量级。
大模型训练中的故障与中断问题对GPU集群的质与量提出了更高要求,云厂商的核心竞争力体现在资金、 软硬件、下游客户等多个层面。根据Meta团队训练实践,虽然英伟达GPU具有优异的计算性能,但软、硬 件等故障时常发生,各类任务频繁重启,训练经常中断,持续时间较短,理论上1个月能完成的训练实际 用了3个月。所以云厂商不仅需要打造大规模算力集群以满足客户需求,还需具备强算力运维能力以帮助 客户最大化利用已有的算力资源。我们认为现阶段云厂商的核心竞争力在于AI算力规模,而在未来,云服 务能力将成为各大厂商抢占市场与客户的关键。
- 相关标签
- 相关专题
热门下载
- 全部热门
- 本年热门
- 本季热门
- 华为鲲鹏产业体系研究深度报告:鲲鹏展翅,挥下千亿市场.pdf 174 6积分
- 国产计算机基础软硬件行业深度报告:重构中国IT产业生态.pdf 134 6积分
- 计算机行业研究及2020年投资策略(103页).pdf 112 6积分
- 计算机行业AIGC专题报告:ChatGPT研究框架.pdf 104 6积分
- 计算机行业专题报告:多模态大模型技术演进及研究框架.pdf 99 5积分
- 国产操作系统产业分析报告:国魂所系,任重道远.pdf 98 4积分
- 网络安全服务行业研究报告:网络安全行业的制高点 94 7积分
- 计算机行业深度专题:信创产业发展研究.pdf 94 8积分
- 计算机行业深度分析:国产软件大阅兵.pdf 91 3积分
- 计算机操作系统的历史演进和未来趋势.pdf 77 5积分
- 计算机行业算力租赁专题研究报告:大模型发展的关键引擎,看好AI算力高景气持续.pdf 56 4积分
- 计算机行业算力网络深度报告:全国一体化算力网络建设加速.pdf 54 6积分
- 计算机行业专题报告:信创框架报告.pdf 37 5积分
- 计算机行业算力服务专题报告:从“东数西算”到“东推西训”.pdf 31 4积分
- 计算机行业专题报告:华为算力进展不断.pdf 29 3积分
- 计算机行业算力深度报告:产业链全梳理.pdf 28 4积分
- 计算机行业2023下半年AI算力产业链投资策略:始于光器件,洞察大AI算力架构.pdf 28 4积分
- 计算机行业专题报告:再次强调教育是AI最佳落地场景之一.pdf 26 2积分
- 计算机行业动态:海外模型应用复盘,国内AI奇点已至.pdf 25 8积分
- 计算机行业大模型专题报告:多模态引领新篇章.pdf 23 5积分
- 计算机行业算力深度报告:产业链全梳理.pdf 28 4积分
- 计算机行业深度报告:基于2023年福布斯AI,50应用流量的跟踪研究,海外AI应用发展行至何处?.pdf 22 4积分
- 计算机软件行业专题研究:Sora开启创意领域iPhone时刻,关注全球文生图视频投资机会.pdf 17 2积分
- 计算机行业分析报告:国产AI算力行业报告,浪潮汹涌,势不可挡.pdf 17 2积分
- 计算机行业产业复盘与未来推演:AI应用,追本溯源之后,我们相信什么?.pdf 16 5积分
- 计算机行业专题报告:AI浪潮之下,液冷投资机会全梳理.pdf 15 3积分
- 计算机算力行业专题分析:AI服务器催化HBM需求爆发,核心工艺变化带来供给端增量.pdf 15 3积分
- 计算机行业专题报告:AI浪潮,海外日新月异,国内奋力追赶.pdf 13 2积分
- 计算机软件行业专题研究:XR产业拐点将至,从计算机视角看MR投资机会.pdf 13 4积分
- 2024年计算机行业投资策略:冬渐去、春将来,待看,AI 开花,数据挂果,可控链潮起.pdf 11 4积分