AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf

  • 上传者:敏*
  • 时间:2025/02/06
  • 热度:1254
  • 0人点赞
  • 举报

AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求。DeepSeek发展突飞猛进,领跑开源大模型技术与生态,DeepSeek模型已成为全球现象级模型。DeepSeek(深度求索)公司成立于2023年7月,是一家致力于实现 通用人工智能(AGI)的创新型科技公司。2024年12月,DeepSeek-V3发布,性能对齐海外领军闭源模型。据官方技术论文披露,V3模型的总训练成本为557.6万美元, 对比GPT-4o等模型的训练成本约为1亿美元。2025年1月,DeepSeek-R1发布,性能对标OpenAI-o1正式版。在数学、代码、自然语言推理等任务上,性能比肩 OpenAI-o1正式版。2月1日消息,据彭博社报道,DeepSeek的人工智能助手在140个市场下载次数最多的移动应用程序排行榜上名列前茅。国外大型科技公司如微软、 英伟达、亚马逊等已先后上线部署支持用户访问DeepSeek-R1模型。2月1日,华为云官方发布消息,硅基流动和华为云团队联合首发并上线基于华为云昇腾云服务 的DeepSeekR1/V3推理服务。

DeepSeek通过MLA和DeepSeekMoE实现高效的推理和低成本训练,构建DualPipe算法和混合精度训练优化计算与通信负载;通过(分阶段)强化学习实现性能突破。 多头潜在注意力(MLA)通过低秩联合压缩技术,大幅削减了注意力键(keys)和值(values)的存储空间,显著降低了内存需求。DeepSeekMoE架构采用了更为精细粒度 的专家设置,能够更加灵活且高效地调配资源,进一步提升了整体的运行效率和表现。DeepSeek模型对跨节点的全对全通信机制进行优化,充分利用InfiniBand和 NVLink提供的高带宽。创新性提出了DualPipe算法,通过优化计算与通信的重叠,有效减少了流水线中的空闲时间。采用FP8混合精度训练技术,不仅极大地加快 了训练速度,还大幅降低了GPU内存的消耗。DeepSeek-R1-Zero通过强化学习架构创新实现突破性性能,核心技术创新体现在训练效能优化策略、双维度评价体系、 结构化训练范式三个维度。DeepSeek-R1采用分阶段强化学习架构演进,包括冷启动阶段、面向推理的强化学习、拒绝采样与监督式微调、全场景强化学习等。

AI应用爆发在即,算力需求持续攀升,关注ASIC及服务器产业链。Scaling Law与“涌现”能力是大模型训练遵循的重要法则,随着ChatGPT引领全球AI浪潮, 国内外科技公司纷纷发布AI大模型,截至24年7月,全球AI大模型数量约1328个(其中美国位居第一位,占比44%;中国位居第二位,占比36%),模型的迭代加速、 竞争加剧。同时,AI模型向多模态全方位转变,AI应用百花齐放,企业主动拥抱AI应用市场。因此,模型数量、模型参数、数据总量的持续增长及AI应用需求推动 全球算力爆发式增长。在英伟达GPU随着架构的不断演进及算力的成倍增长,于AI大模型训练中得到广泛运用的同时,为了满足CSP客户更高性能和更好功能的需求, 定制化芯片ASIC的需求持续提升,牧本钟摆从标准化逐渐摆向定制化。与之相应的算力基础设施持续建设和升级,促使国内外云服务商资本开支持续高速增长,带 来AI服务器市场规模大幅提升,预计到26年全球AI服务器出货量将达到237万台,对应2023-2026年CAGR为26%。

1页 / 共42
AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第1页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第2页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第3页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第4页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第5页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第6页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第7页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第8页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第9页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第10页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第11页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第12页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第13页 AI+专题报告:DeepSeek重塑开源大模型生态,AI应用爆发持续推升算力需求.pdf第14页
  • 格式:pdf
  • 大小:4.4M
  • 页数:42
  • 价格: 8积分
下载 获取积分

免责声明:本文 / 资料由用户个人上传,平台仅提供信息存储服务,如有侵权请联系删除。

留下你的观点
  • 相关标签
  • 相关专题
热门下载
  • 全部热门
  • 本年热门
  • 本季热门
分享至