英伟达经营看点有哪些?

英伟达经营看点有哪些?

最佳答案 匿名用户编辑于2024/01/02 14:08

行业解决方案全覆盖,助推行业生态迭代。

1. 人工智能与机器学习技术

AI Foundations 打造面向企业的生成式 AI,MaaS(模型即服务) 帮助企业开发自己的人工智能模型。英伟达AI Foundations 是专为AI打 造的行业解决方案。如今,生成式 AI 正在扩展到全球的企业中,黄仁勋 指出,AI Enterprise 将如 Red Hat 之于 Linux 一般,为英伟达的所有库提 供维护和管理服务,未来它还被整合至全球范围的机器学习操作渠道内。 整体而言,英伟达正在通过一系列云服务套件、预训练的基础模型、尖端框架、优化推理引擎,和 API 一同为生成式 AI提供支持。AI Foundations 通过搭载在 DGX Cloud - AI 超级计算机上的 NeMo、Picasso 和 BioNeMo 云服务发挥潜能,可以提供文本生成、图像生成、聊天机器人、 总结和翻译等生成式 AI 开发服务。

提供 NeMo LLM 服务,致力大型语言模型的开发与维护。英伟达 NeMo LLM 服务令用户可以自定义和使用在多个框架上训练的 LLM, 并可在云上使用 NeMo LLM 服务部署企业级 AI 应用。NeMo LLM 降低 了大模型开发与维护的难度,实现了文本生成、摘要、图像生成、聊天 机器人、编码和翻译等功能。同时 NeMo LLM 将 Megatron 530B 模型作 为一款云 API 公开,作为一种端到端框架,Megatron 530B 可用于部署 最高数万亿参数的 LLM。

打造完整深度学习训练和深度学习推理平台,持续扩大深度学习领 导地位。深度学习领域,从训练平台角度,用户可选择本地工作站、数 据中心、云端作为训练平台,借助 SDK 中的软件和框架库进行深度学习 训练,也可从英伟达 GPU Cloud 免费访问所有所需的深度学习训练软件。 从推理平台角度,用户可借助 TensorRT 平台以及 Triton 推理服务器进行 模型推理和部署,Triton 服务器允许团队通过 TensorFlow、PyTorch、 TensorRT Plan、Caffe、MXNet 或其他自定义框架,在任何基于 GPU 或 CPU 的基础设施上,从本地存储、Google 云端平台或 AWS S3 部署经训 练的模型。

2. 数据中心与云计算解决方案

云计算解决方案优势充分释放,为全球创新者提供巨大算力。英伟 达的云合作伙伴包括阿里云、谷歌云、腾讯云、AWS、IBM Cloud 和 Microsoft Azure 等,用户可以通过云合作伙伴使用英伟达服务。此外, 英伟达基于 BlueField DPU 架构和 Quantum InfiniBand 网络搭建了云原 生超级计算平台。DPU 能够为主机处理器卸载和管理数据中心基础设施, 实现超级计算机的安全与编排;并且云原生超级计算机实现在多租户环 境中的零信任架构,最大程度保障了安全性。同时,英伟达也具备强大 的边缘计算服务,形成“云计算+边缘计算”的服务体系。

cuLitho计算光刻技术软件库引入加速计算,加速半导体行业芯片 设计和制造速度。英伟达cuLitho的推出以及与半导体行业领导者TSMC、 ASML 和 Synopsys 的合作,使晶圆厂能够提高产量、减少碳足迹并为 2 纳米及更高工艺奠定基础。cuLitho 在 GPU 上运行,其性能比当前光刻 技术工艺提高了 40 倍,能够为目前每年消耗数百亿 CPU 小时的大规模 计算工作负载提供加速,仅需 500 个 DGX H100 系统即可完成原本需要 4 万个 CPU 系统才能完成的工作。在短期内,使用 cuLitho 的晶圆厂每 天的光掩模(芯片设计模板)产量可增加 3-5 倍,而耗电量可以比当前 配置降低 9 倍。

3. 汽车行业解决方案

英伟达自研 NVIDIA DRIVE,形成适合自动驾驶汽车的硬件+软件 +架构有机统一。硬件端,DRIVE Hyperion 是用于量产自动驾驶汽车的 平台,具备用于自动驾驶的完整软件栈,以及驾驶员监控和可视化功能。 DRIVE Hyperion 搭载 DRIVE Orin SoC(系统级芯片),可提供每秒 254 万亿次运算的算力负荷。同时,英伟达 2022 年 9 月借助最新 GPU 和 CPU 打造了新一代 SoC 芯片 DRIVE Thor,其可提供 2000 万亿次浮点 运算性能,计划 2025 年 DRIVE Thor 能够得到量产。

DRIVE SDK令开发者高效部署自动驾驶应用程序成为可能,造就 未来出行体验。DRIVE SDK 为开发者提供适应自动驾驶的构建块和算 法堆栈,开发者可以构建和部署包括感知、定位、驾驶员控制和自然语 言处理的一系列应用程序。

DRIVE基础架构包括开发自动驾驶技术全流程所需的数据中心硬 件、软件和工作流。英伟达提供高效节能的 AI 计算加速训练,有助于 AI 收集大量真实行驶数据作为训练集;在 DRIVE Sim 中,可以通过模 拟驾驶在虚拟世界中进行测试,得到各种罕见和危险驾驶情形下的驾驶 数据。目前,英伟达开发的 AI 赋能自动驾驶汽车已经应用至各大主流 汽车制造商,成为自动驾驶汽车开发的首要工具。

4. VR 与游戏产业产品

英伟达 GPU为 VR 头盔和 GeForce Game Ready 驱动提供即插即用的兼容性。VR 成像是否连贯将极大影响头显的使用体验,舒适的 VR 体验要求显示器有效分辨率至少为 4K 且最低刷新率为 90Hz,这就需要 GPU 为其提供支持。GeForce RTX GPU 兼容目前市场上主流 VR 头盔, 通用性较强。从性能上看,GeForce RTX GPU 依托其 DLSS、光线追踪 和 PhysX 三大成像技术为用户模拟如真实世界般的 VR 体验。

全方位覆盖游戏娱乐体验,打造专业游戏环境。目前有超2亿游戏 玩家和创作者使用 GeForce GPU,针对这一客户群体,英伟达打造了一 系列专业游戏服务: GeForce Experience 可以截取并与好友分享截图、视 频和直播;Game Ready 驱动程序可实现一键优化游戏设置;Broadcast App 提供专业化直播服务,如只需点击一个按钮即可消除噪音或添加虚 拟背景;Omniverse Machinima 可以实现对虚拟世界中的角色及其环境进 行操作处理并实现动画化。

参考报告REPORT

英伟达(NVDA.US)研究报告:重塑计算,世界AI的引擎.pdf

英伟达(NVDA.US)研究报告:重塑计算,世界AI的引擎。英伟达以超异构创新构建面向大规模AI计算的系统性竞争优势。英伟达面向AI时代大规模并行计算,进行了全栈系统的优化。英伟达芯片互联通信技术NVLink性能快速迭代,GPU+BluefieldDPU+GraceCPU的结合开创性地实现了芯片系统间的高速通信互联。同时CUDA充当通用平台,引入英伟达软件服务和全生态系统。我们认为,芯片和系统耦合的实现使得英伟达真正实现了超异构创新。GH200超级芯片是英伟达产品与技术的集大成者。我们认为,GH200集合了最先进的GraceHopper架构,并应用第四代TensorCore提升计算性能、进行模...

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

  • 相关问题
  • 最新问题
用户解答榜
分享至