AI推理如何具体改变数据中心存储架构并影响NAND需求？

AI推理应用的快速发展正在根本性地改变数据中心的存储架构，主要体现在对实时存取速度和海量数据处理能力的极高要求上。传统作为海量数据存储基石的Nearline HDD（近线硬盘）由于全球主要制造商近年未规划扩大产线，无法及时满足AI刺激的突发性巨量储存需求，导致交期急剧延长至52周以上，且每GB平均售价因技术换代成本上升而提高，削弱了其核心成本优势。

相比之下，NAND Flash通过3D堆栈技术演进，产能提升速度快，且在性能上具有显著优势。SSD的IOPS是HDD的数百甚至数千倍，延迟为微秒级，远低于HDD的毫秒级。此外，SSD无需马达驱动磁盘，每TB功耗更低，长期来看节省的电费、冷却成本及机柜空间足以抵消较高的初始购置成本。因此，CSP厂商正加速采用大容量QLC SSD以应对海量数据存取，推动NAND在数据中心的应用。

更深层的技术驱动来自KV缓存（Key-Value Cache）。在Agentic AI时代，智能体依赖长期记忆进行推理，KV缓存需保存推理上下文以避免重复计算。随着序列长度增加，KV缓存规模线性增长，需在存储层级间流转。现有的存储层级中，GPU HBM容量有限，系统DRAM和本地SSD成为扩展层。英伟达推出的基于BlueField-4 DPU的推理上下文记忆存储平台，创建了专用上下文记忆层，直接推动单机柜NAND需求从830TB飙升至近2PB。这种架构变革使得NAND不仅是存储介质，更成为影响AI推理效率和成本的关键组件，从而带动服务器NAND需求同比增长逾60%，并在2026年首次超过手机成为NAND最大应用市场。