计算机行业：NV Rubin新架构&Agent存储最强方向，GPU Native数据库【星环科技】.pdf
- 上传者：v*****
- 时间：2026/01/09
- 热度：387
- 0人点赞
- 举报
计算机行业：NV Rubin新架构&Agent存储最强方向，GPU Native数据库【星环科技】。存储瓶颈影响AI推理速度。每生成1个Token(一个词)，GPU都要把整个过去的对话历史(即KVCache)从显存里读一遍。随着对话变长，KVCache的体积会线性膨胀。这个"读一遍"的过程极其消耗带宽。我们希望AI可以记住跟它进行的每一次对话，现在的做法是把KVCache放在 HBM里(因为它够快)，但HBM又贵，容量又小，前一代的解决方案是利用NVLink-C2C把 Grace CPU的大内存(LPDDR5X)当成GPU的扩展显存用，这个不够用了，第二个方法是数据溢出后，通过"南北向网络"(North-SouthNetwork)去读取远端的存储服务器，这个问题是太慢了，网络带宽被挤爆，延迟无法接受。
免责声明：本文 / 资料由用户个人上传，平台仅提供信息存储服务，如有侵权请联系删除。
- 相关标签
- 相关专题
热门下载
- 全部热门
- 本年热门
- 本季热门
- 华为鲲鹏产业体系研究深度报告：鲲鹏展翅，挥下千亿市场.pdf 6896 9积分
- 计算机行业研究及2020年投资策略（103页）.pdf 5869 10积分
- 国产计算机基础软硬件行业深度报告：重构中国IT产业生态.pdf 5380 9积分
- 计算机行业深度分析：国产软件大阅兵.pdf 3877 8积分
- 国产操作系统产业分析报告：国魂所系，任重道远.pdf 3675 8积分
- 网络安全服务行业研究报告：网络安全行业的制高点 3649 10积分
- 计算机操作系统的历史演进和未来趋势.pdf 3260 8积分
- 计算机行业专题报告：多模态大模型技术演进及研究框架.pdf 3052 8积分
- 计算机行业2020年度投资策略报告（87页）.pdf 2261 6积分
- 2020年计算机行业中期策略：疫情和中美脱钩对行业意味着什么.pdf 2208 8积分
- 计算机行业2025年三季报业绩综述：业绩趋势向好，关注AI+与信创主题.pdf 1372 4积分
- 计算机行业从Circle和Coinbase看稳定币产业链：稳定币+RWA，迈向Finternet的关键.pdf 816 8积分
- 计算机行业“智能驾驶”系列专题报告：域控制器研究框架.pdf 617 7积分
- 计算机行业专题报告：物理AI，AI技术演进新方向，赋能产业智能化升级.pdf 536 6积分
- 计算机行业专题研究：DeepSeek重构算力基建长期价值的认知.pdf 535 6积分
- 计算机行业深度研究报告：字节跳动，深度布局AIGC，竞逐新一轮技术浪潮.pdf 522 6积分
- 计算机行业分析：国产算力迎来GB200时刻，AI交换网络是核心增量.pdf 510 7积分
- 计算机行业深度报告：脑机接口，从概念到落地，开启交互新时代.pdf 502 6积分
- 计算机行业深度研究：软件大革命深度，AI Agent投资宝典.pdf 490 20积分
- 计算机行业“AI+金融”系列专题研究：行业拐点已至，金融是AI应用落地的绝佳“试验田”.pdf 419 5积分
- 计算机行业：NV Rubin新架构&Agent存储最强方向，GPU Native数据库【星环科技】.pdf 388 4积分
- 计算机行业AI应用系列：3D打印百花齐放，国产厂商持续突破.pdf 337 6积分
- 计算机行业：从智谱华章MiniMax IPO看产业机遇，国内AI产业机遇期来临.pdf 299 4积分
- 计算机行业专题研究：千问APP正式接入阿里生态，流量模型AI应用产业格局有望重构.pdf 284 3积分
- 计算机行业：SpaceX如何值万亿美元？.pdf 280 4积分
- 计算机行业AI编程：重塑软件开发新范式，应用生态加速繁荣.pdf 267 4积分
- 计算机行业专题报告：GPU+ASIC渗透加速，液冷市场规模再添增量.pdf 255 5积分
- 计算机行业：AI编程商业化加速，关注本土产业参与方.pdf 253 3积分
- 计算机行业：SpaceX，从“变革”中崛起的“星际先行者”.pdf 244 4积分
- 计算机行业共享出行：迈向高质量发展，Robotaxi开启新篇章.pdf 226 4积分
