英伟达有哪些业务看点在哪?

英伟达有哪些业务看点在哪?

最佳答案 匿名用户编辑于2024/04/25 09:52

英伟达每隔1-2年提出新的芯片架构以适应计算需求升级。

1.Blackwell GPU架构及B100

英伟达有望在GTC 2024上发布B100 及B200系列。B100将首次采用 Blackwell架构,基于更复杂的多芯片 模块(MCM)设计,与现有采用 Hopper架构的H200系列相比性能有 望翻倍提升,预计使用台积电3nm或 N4P工艺制程,功耗或达1000W,采 用液冷方案, 2024Q2/Q3开始规模生 产。此外,根据英伟达最新官方路线 图及IT之家报道,预计2024-2025年 之间推出GB200,或采取差异化策略 推动客户采购,加大其与B100/B200 之间的配置差距,特别在NVLink和 网络性能方面。

B100预计配套全新组件。此外根据路 线图,英伟达将于2024年底前推出速 度更快、功能更强大的 InfiniBand 和 以太网 NIC 以及交换机,每个端口 的带宽可达 800Gb/s,本次大会上或 将有所透露。

据Barron’s报道,英伟达将于2025年 推出B200 GPU,单张功耗达1000W, 升级后的B200变体可能采用更快版本 的HBM内存,以及更高的内存容量, 升级规格和增强功能。

2.AI推理/边缘计算

GTC2024有望更新以太网架构及产品、ASIC芯片计划等相关信息。英伟达FY2024数据中心业务收入40%来自AI推理,AI在汽车、医 疗和金融服务等垂直领域广泛应用,其正在推出全新Spectrum-X端到端产品进入以太网领域,引入新技术为AI处理提供较传统以太网 高1.6倍的网络性能。根据路透社报道,英伟达正在建立新业务部门,专注为云厂商及其他企业设计定制芯片(ASIC),包括先进的AI 处理器。

本次GTC共有亚马逊、Anthropic、Runway等1000多家参会企业,会上将展示英伟达平台在农业、汽车、云服务等行业的应用,英伟达、 HuggingFace、Zalando、AWS、微软、Cloudflare、谷歌等将参加AI推理相关会议。

生成式AI在影视上的应用将被重点展示。中国游戏厂商腾讯、网易,以及传媒巨头奈飞、皮克斯、迪士尼动画工作室等均将参与游戏/ 传媒娱乐讨论,可能探讨如何利用生成式AI和路径追踪技术创造更加逼真的虚拟人物和世界,辅助游戏开发和影视制作;Runway、腾 讯及Digitrax等有望介绍其文生图、文生视频模型及其他AI应用。其他可能被讨论的应用包括3D内容生成、云端创作游戏等。

2万亿美元可寻址市场(TAM):英伟达预计随着通用AI技术发展,目前1万亿美元数据中心基础设施安装量(可寻址市场,TAM)将 在未来五年翻一番。AI设备有望替换掉所有的传统计算。

3.BlackWell架构演进

英伟达每隔1-2年提出新的芯片架构以适应计算需求升级。2017年提出Volta架构,专注深度学习和AI应用,并引入Tensor Core,2020年 Ampere架构在计算能力、能效和深度学习性能方面大幅提升,采用多个SM和更大的总线宽度,提供更多CUDA Core及更高频率,引入 第三代Tensor Core,具有更高的内存容量和带宽,适用于大规模数据处理和机器学习任务。2022年发布Hopper架构,支持第四代 TensorCore,采用新型流式处理器,每个SM能力更强。

Blackwell:或为英伟达首次采用多chiplet设计的架构,一方面可能简化基于Blackwell架构的GPU硅片层面生产,最大限度提高小型芯 片产量,另一方面,多芯片封装将更加复杂。预计SM和CUDA将采用新结构,光线追踪性能等将进一步优化和加强,RT单元有可能被 PT单元所取代,以实现对Ada Lovelace架构的性能翻倍。Blackwell架构GPU很可能会支持GDDR7内存,相比GDDR6X效率更高,鉴于 第一代 GDDR7 SGRAM IC将具有32GT/s 的传输数据速率,采用这些芯片的384位内存子系统将提供约1536 GB/s 的带宽。与 Hopper/Ada架构不同,Blackwell或将扩展到数据中心和消费级GPU,但消费级场景或将延续单芯片设计,以实现时间可控及低风险。

4.英伟达加快液冷方案布局

英伟达积极与行业伙伴合作创新液冷方案。2022年推出基于直接芯片冷却技术(Direct-to-chip)的A100 800G PCIe液冷GPU,较风冷版 本性能相当,电力节省约30%,单插槽设计节省最多66%的机架空间。

2023年,与Vertiv、BOYD、Durbin、霍尼韦尔等6家行业伙伴合作打造混合液冷创新方案,将芯片直接冷却、泵送两相(P2P)和单相 浸没式冷却集成在带有内置泵和液体-蒸汽分离器的机架歧管中,使用两相冷板冷却芯片,其余具有较低功率密度的服务器组件将浸没 在密封的浸没式箱体内,服务器使用绿色制冷剂分别进行两相冷却和浸没冷却。相较当前无法处理高于400W/cm²功率密度的液冷,混 合冷却支持服务器机架功率高达200kW,是目前的25倍,与风冷相比成本至少降低5%,冷却效率提高20%。

同时与台积电、高力等合作开发AI GPU浸没式液冷系统。2024年3月,Vertiv与英伟达专家团队共同针对GPU型高密数据中心制冷方案进行研发测试并发布实测数据,结果显示冷板液冷和风冷 的创新风液混合制冷方案中大约75%的IT负载可通过冷板液冷技术实现有效冷却, IT负载从100%风冷转型为75%液冷的方案时,服务 器风扇用电量降低最多达到80%,使总体使用效率(TUE)提高15%以上。

参考报告REPORT

英伟达GTC专题分析:新一代GPU、具身智能与AI应用.pdf

英伟达GTC专题分析:新一代GPU、具身智能与AI应用。GTC2024召开在即,关注新一代GPU、具身智能、AI应用三大方向。GTC2024将于当地时间3月18-21日在美国加州圣何塞会议中心及线上举行,预计发布加速计算、生成式AI以及机器人领域突破性成果。建议关注三大方向:1)B100及后续芯片路线。B100预计采用BlackWell全新架构,与H200系列相比性能有望翻倍提升,GB200或于2024-2025年推出,芯片迭代周期缩短至1年,带动配套工艺及组件加速升级。2)具身智能:AgilityRobotics、波士顿动力公司、迪士尼和GoogleDeepMind等公司将参加GTC机器人相...

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

  • 相关问题
  • 最新问题
用户解答榜
分享至