半导体行业专题报告：HBM高带宽内存，新一代DRAM解决方案.pdf

半导体行业专题报告：HBM高带宽内存，新一代DRAM解决方案。JEDEC定义了三类DRAM标准，以满足各种应用的设计要求，HBM与GDDR属于图形DDR，面向需要极高吞吐量的数据密 集型应用程序，例如图形相关应用程序、数据中心加速和AI。

HBM演进必要性：解决存储墙瓶颈刺激内存高带宽需求。HBM（High Bandwidth Memory，高带宽内存）：一款新型的 CPU/GPU内存芯片，将很多个DDR芯片堆叠在一起后和GPU封装在一起，实现大容量，高位宽的DDR组合阵列。通过增加带 宽，扩展内存容量，让更大的模型，更多的参数留在离核心计算更近的地方，从而减少内存和存储解决方案带来的延迟。

HBM提高有效带宽途径：Pseudo Channel Mode伪通道。HBM2的主要增强功能之一是其伪通道模式，该模式将通道分为 两个单独的子通道，每个子通道分别具有64位I/O，从而为每个存储器的读写访问提供128位预取。

HBM结构：通过TSV将数个DRAM die垂直堆叠。HBM主要是通过硅通孔（Through Silicon Via, 简称“TSV”）技术进行 芯片堆叠，以增加吞吐量并克服单一封装内带宽的限制，将数个DRAM裸片像楼层一样垂直堆叠。较传统封装方式，TSV技术 能够缩减30%体积，并降低50%能耗。

从技术角度看，HBM促使DRAM从传统2D加速走向立体3D，充分利用空间、缩小面积，契合半导体行业小型化、集成化的 发展趋势。HBM突破了内存容量与带宽瓶颈，被视为新一代DRAM解决方案。

HBM技术演进：目前SK海力士为唯一量产新世代HBM3供应商。2022年1月，JEDEC组织正式发布了新一代高带宽内存 HBM3的标准规范，继续在存储密度、带宽、通道、可靠性、能效等各个层面进行扩充升级。

HBM的不足：系统搭配缺乏灵活性（出厂后无法容量扩展），内存容量受限，访问延迟较高。

HBM与其他DDR的替代关系比较分析：HBM+DDR协同发展， HBM负责高带宽小容量，DDR负责稍低带宽大容量。

HBM竞争格局与应用市场：三巨头垄断，受益于AI服务器市场增长。据TrendForce集邦咨询研究显示，2022年三大原厂 HBM市占率分别为SK 海力士（SK hynix）50%、三星（Samsung）约40%、美光（Micron）约10%。新思界预测2025E中 国HBM需求量将超过100万颗。