2026年存储行业格局落定,价值归真:从周期波动走向技术溢价

  • 来源:东吴证券
  • 发布时间:2026/02/06
  • 浏览次数:153
  • 举报
相关深度报告REPORTS

存储行业格局落定,价值归真:从周期波动走向技术溢价.pdf

存储行业格局落定,价值归真:从周期波动走向技术溢价。增长逻辑重构:AI带来的不是反弹,而是指数级增长的新需求,存储不再仅仅跟随宏观经济进行简单的库存周期波动,而是成为了AI算力的决定性瓶颈(存力决定算力的效率)。训练端(ScalingLaws驱动):模型参数量呈线性增长(如GPT-3到GPT-4增幅超9倍),直接拉动HBM(容纳参数)和SSD(存Checkpoint)的容量需求呈指数级爆发。推理端(商业化落地驱动):随着RAG(检索增强生成)和超长上下文(LongContext)的应用,KVCache(键值缓存)对显存的占用或持续增加,且用户越多、交互越深,对存储的带宽和容量需求就越大。估值体...

存储需求分级与存储硬件架构

模型适配:数据流转明确硬件分工,全流程拉动存储需求

AI对存储的需求本质上可以分为三部分:容纳参数;存放过程;数据注入。 存储物理分层可以分为四部分:HBM、LPDDR、SSD、柜外SSD&HDD。 容纳参数(存放模型本身权重Weights):HBM。 存放过程数据(KV cache等)。HBM+LPDDR+SSD,KV cache主要存放HBM+LPDDR内,训练过程中的check point会保存至SSD。 数据注入(存放及预热训练需要的原始数据,注入给HBM或LPDDR):SSD+柜外SSD&HDD。

NVIDIA GB200异构存储设计,实现容量与带宽的性能互补

在NVIDIA GB200 NVL72/36中,单个计算托盘 包含2个GB200 Superchips,每个 GB200Superchip包含1个Grace CPU和2个 Blackwell GPU。还构建了“HBM + LPDDR + SSD”的三级存储阶梯,实现了带宽高低搭配与 容量的互补。  HBM3e:每个GPU配备8颗HBM3e(24GB)内 存,单GPU容量达192GB,单计算托盘总容量 768GB。LPDDR5X:每个CPU配备16颗LPDDR5X (32GB),单CPU容量达512GB(480GB可用, 32GB为备用),单计算托盘总容量1024GB。 SSD:每个计算托盘标配4 * 3.84TB E1.S NVMe SSD,可扩展至8个接口,单盘可扩张至7.68TB, 单计算托盘总容量15.36TB/61.44TB(单GPU对 应3.84TB/15.36TB)。

大语言模型的存储需求

transformer架构数据流转频繁——存力决定算力效率

Transformer 数据流转: 模型无法直接理解文字(如 “人之初”),必须经过 Token 化(转数字 ID)和向量 化(Embedding),将离散的 文字转化为计算机可运算的连 续高维向量;通过线性投影,将输入向量转 化为 Query(查询)、Key (键)、Value(值)三个矩阵; 再把大维度的向量拆分成多个 子空间,让模型能同时捕捉句 子的不同特征(如语法结构、 语义关联等); 最后通过计算注意力分数 (Attention Score),衡量词与 词之间的相关性,再加权融合 Context Vector,最终经过 Softmax 输出预测结果(“性 本善”)

大语言模型分训练、推理数据流程——存力决定算力效率

模型训练时:模型由SSD经过PCIe 6.0流向LPDDR5x,由CPU进行Token化,再回传给LPDDR5X,通过C2C互联传给HBM作为参数输入给GPU, GPU训练完成后回传结果给HBM,再写入SSD保存模型或周期性保存checkpoint。

模型推理时:模型由SSD经过PCIe 6.0流向LPDDR5x,用户从网络端发送请求至交换机,由CPU进行Token化传输给LPDDR5X后,通过C2C互联连 接HBM向GPU发送计算请求,GPU计算完成后传回HBM,HBM再传回LPDDR5X,再通过CPU回传给交换机,再将结果给到用户。

容量测算:解构模型显存消耗或推动需求呈指数级增长

AI模型的生命周期主要分为训练(Training)和推理(Inference)两个阶段。这两个阶段对显存有着截然不同的要求。 “16字节法则”混合精度模型训练下显存消耗:静态显存需求:参数(FP16)2Bytes;梯度(FP16) 2Bytes;Adam优化器(FP32)需要维护参数的备份(4B) + 动量(4B) + 方差(4B)=12Bytes;故万亿参数的模型需 要16TB级别显存才可存储其静态存储; 动态显存需求:模型状态也需占用显存空间,包括激活值及临时缓冲区,其中激活值大小与模型规模(层数 L、隐藏层维度 d_model )、序列长度 (S) 和 训练批次 大小 (B) 呈线性正相关。

训练与推理端技术发展拉动存储需求增长

训练端:模型升级驱动 HBM 及 SSD 的容量扩张

大模型在训练阶段对存储的拉动:

更大模型——更大的显存及SSD空间需求。模型参数量的持续扩张是大语言模型发展的主线。这种线性地增长是提升模型能力的核心路径,2020年,GPT-3参数量为1750亿,2023年3月,GPT-4参数量约为1.8万亿。增幅 超9倍。在模型参数增长的背景下,为存放下更多参数,对存储(NAND+DRAM)的需求也持续增长。

MoE架构——更大显存空间需求 。 在MoE架构下通过稀疏激活机制,实现了“大模型的容量,小模型的算力”,但模型需全量存储在显存中,本质上是用存储空间换取训练速度,对显存需求拉动明显。

长上下文——更大的带宽需求。 2020年到2026年GPT-3的上下文长度为2,000 Token,GPT-5.2上下文长度约为40万Token,相差近200倍。更长的上下文长度主要冲击的是显存中的动态部分(激活值),激活值 的大小和上下文长度成正比,对显存空间及带宽提出更高要求。

美光科技(MU.O)战略聚焦数据中心,HBM3E 技术突破

财务方面:美光在2025财年实现了373.8亿美元的营收,同比增长49%,毛利率(39.8%)、净利率(22.8%)大幅改善,且增长势头延续,2026财年Q1,单季营收达到136.4 亿美元,同比增长57%,单季净利润达52.4亿美元。

核心策略:剥离To C业务,专注AI拉动的HBM市场。2025年12月,美光正式宣布将于2026年2月以后停止零售渠道销售,将有限的产能释放出来,转向生产高附加值的HBM 和企业级SSD。将资源集中服务更大、更具战略意义的客户(即云服务商Hyperscalers和OEM巨头),以确立公司在AI供应链的核心地位。

HBM进展及指引:公司核心产品HBM3E 12Hi(36GB)带宽超1.2 TB/s,引脚速度超过9.2 Gb/s。且HBM3E产品已成功进入NVIDIA Blackwell平台(如HGX B200)及AMD Instinct MI350系列,成为AI训练芯片的关键内存供应商 。公司2026年HBM产能已全部售罄,市场需求高度旺盛,供不应求格局持续性强。25年2月,公司通过利用 EUV (极紫外)光刻技术、设计优化和工艺创新,1γ 节点相比前代产品实现了超过 30% 的单晶圆位元产出增长,能够更高效地扩展内存的供应。

编辑:火腿肠
  • 相关标签
  • 相关专题
  • 热门文档
  • 热门文章
  • 本年热门
  • 本季热门
  • 本月热门
  • 本年热门
  • 本季热门
  • 本月热门
分享至