2024年中国AI芯片与高性能计算产业分析：国产厂商突破HBM与Chiplet技术瓶颈

随着人工智能、大数据和云计算技术的快速发展，AI芯片与高性能计算（HPC）产业正迎来前所未有的增长机遇。深圳市半导体与集成电路产业联盟（SICA）最新发布的《2024年深芯盟国产AI芯片+处理器+存储器厂商调研分析报告》对500家国产IC设计厂商进行了全面统计和分析，特别聚焦于AI芯片、处理器和存储器三大关键技术领域。报告显示，在ChatGPT等大模型技术的推动下，全球算力需求呈现爆发式增长，预计到2025年将达到6.8 ZFLOPS（每秒十万京次的浮点运算）。在这一背景下，国产芯片厂商正通过技术创新积极突破"存储墙"和"功耗墙"等关键瓶颈，特别是在Chiplet先进封装、高带宽存储（HBM）和存算一体等前沿技术领域取得了显著进展。

本报告将深入分析2024年中国AI芯片与高性能计算产业的发展现状，从技术突破、市场竞争、供应链格局等维度展开全面探讨。通过对125家重点企业的详细调研，揭示了国产芯片产业在全球化竞争中的独特发展路径和创新策略。

一、Chiplet技术引领芯片设计新范式，国产厂商加速布局先进封装产业

Chiplet（芯粒）技术正在重塑高性能芯片的设计范式。这种将复杂芯片系统分解为多个独立制造的小芯片单元，再通过先进封装技术集成的方案，有效解决了摩尔定律逼近物理极限后的制程瓶颈。根据SICA报告，设计一款3nm制程芯片的难度相对可控，但制造7nm芯片却让市值千亿的公司花费了4年时间。随着工艺节点向2nm甚至1nm迈进，技术复杂度和成本呈几何级数上升，这使得Chiplet成为高性能计算芯片的必然选择。

在技术实现层面，Chiplet通过模块化设计方法将芯片划分为独立的计算单元、存储单元和I/O接口等功能模块，大幅提升了芯片设计的灵活性和可扩展性。AMD、英特尔和Nvidia等行业巨头已经率先在其产品中采用Chiplet技术，如AMD的Genoa CPU和Instinct MI300 GPU，以及Nvidia的Grace服务器CPU。这些产品通过Chiplet技术实现了不同功能晶粒的高效集成，既降低了设计难度，又加快了研发进程。更重要的是，采用Chiplet模块化设计的芯片良率得到显著提升，成本相比单片集成方案大幅降低。

中国芯片企业正在积极跟进Chiplet技术趋势。报告显示，国内已有数十家企业开始探索Chiplet技术的应用，其中芯砺智能成为全球首家利用Chiplet技术研发车载大算力芯片的初创企业。然而，与国际巨头相比，大部分中小IC设计公司仍处于了解和探索阶段。Chiplet技术的推广面临标准化和兼容性挑战，需要统一的行业标准支持。UCle（Universal Chiplet Interconnect Express）作为由Intel、ARM、AMD、TSMC和三星等巨头联合推出的Chiplet标准，正在加速推进产业化进程。2023年9月，Intel推出首个遵循UCle连接规范的Chiplet测试芯片Pike Creek，标志着该技术正向标准化、规模化方向发展。

在封装技术方面，CoWoS（Chip on Wafer on Substrate）作为台积电主推的2.5D封装方案，已成为支持Chiplet集成的关键技术。该技术通过硅中介层实现芯片间的高密度互联，将原先需要2D平面布局的芯片堆叠起来，极大提升了集成度。据报告显示，英伟达的算力卡芯片采用台积电的CoWoS方案后，单芯片的密度和算力达到之前封装体的4倍之多。台积电的CoWoS技术已发展到第五代，通过2-way lithography stitching approach技术，中介层尺寸可达2500mm²，约为2倍光刻极限尺寸。

国产封装企业也在积极布局先进封装技术。随着芯片性能要求的不断提升，系统级芯片SoC开始显得力不从心，Chiplet技术凭借其灵活性和成本优势正在成为行业新宠。中国封装企业需要加快技术积累，在TSV（硅通孔）、微凸块（Bumping）等关键工艺上实现突破，才能在未来的产业链分工中占据有利位置。

二、高带宽存储技术成为算力竞争焦点，国产HBM产业迎来发展机遇

高带宽存储器（HBM）作为支撑AI训练和大模型推理的关键技术，正成为全球半导体产业竞争的焦点。HBM通过将多个DRAM芯片垂直堆叠，并采用硅通孔（TSV）和微凸块封装技术，实现了远超传统内存的带宽性能。根据SICA报告，HBM可提供最高460GB/s的带宽，是GDDR的4倍多，而功耗仅为GDDR的二分之一。虽然HBM的时钟频率相对较低，但通过增加单次数据传输位数（1024bits，是GDDR5的32倍），实际带宽表现显著优于传统存储方案。

从技术发展历程看，HBM已经历了HBM1、HBM2、HBM2e、HBM3到HBM3e五代技术演进。当前主流量产版本为HBM3的扩展版本，其带宽、层数、容量和I/O速度均有明显提升。报告数据显示，HBM3e的数据传输速率达到8Gbps，相当于1.18TBps，这意味着写满1TB的固态硬盘所需时间不到1秒钟。各大存储厂商在HBM3e性能上展开激烈竞争：SK海力士提供8Gbps速率，美光提供9.2Gbps速率和24GB显存，而三星的HBM3e更为激进，提供高达9.8Gbps的I/O速率，整体传输速率可超过1.2TBps，产品容量达到36GB。

产能方面，HBM市场呈现供不应求的局面。根据TrendForce分析报告，三星和SK海力士正在积极扩充HBM产能，预计将达到每月12-13万片，较之前翻了近3倍。美光虽然规模相对较小，每月产能约为2万片，但对比自身产能翻了近7倍，发展势头迅猛。这种产能扩张反映了市场对高性能存储器的迫切需求，特别是在AI训练和推理应用场景中。

技术创新方面，HBM4作为下一代技术标准正在加速研发。与HBM3相比，HBM4计划将每个堆栈的通道数增加一倍，带宽扩展到2048GB/s，堆叠层数最高可达16层。据三星透露，国际半导体标准组织（JEDEC）已同意将HBM4产品的标准定为775微米（HBM3e为720微米）。然而，随着堆叠层数的增加，工艺复杂度和良率控制成为技术突破的关键挑战，新的键合技术将成为各大厂商研究的重点。

更值得关注的是，光学互联技术可能成为HBM未来的发展方向。在2023OCP全球峰会上，三星提出了在HBM与Logic芯片间采用Optical IO技术进行数据互联的方案。光子链路上的数据传输速度比电子信号更快，功耗更低，这为HBM性能进一步提升提供了可能。报告显示，光学互联技术具有极高的带宽密度和超低的单位比特功耗，有望解决当前HBM面临的数据传输瓶颈。

中国存储企业正在积极布局HBM领域。长江存储、长鑫存储等国内龙头企业已开始相关技术研发，但在制造工艺和量产能力方面与国际先进水平仍有差距。随着国产设备材料的进步和产业链协同效应的增强，中国HBM产业有望在未来3-5年内实现技术突破，为国内AI算力基础设施提供自主可控的高性能存储解决方案。

三、存算一体架构突破冯·诺依曼瓶颈，创新企业引领技术变革

存算一体技术正在成为解决传统计算架构瓶颈的关键路径。随着AI模型规模的不断扩大，传统冯·诺依曼架构中数据在计算单元和存储单元间频繁搬运导致的"存储墙"和"功耗墙"问题日益突出。Intel研究表明，在其7nm制程芯片上，数据搬运功耗高达35pJ/bit，占总功耗的63.7%。与此同时，近二十年GPU性能提升了近10^6倍，而内存和接口性能仅提升100倍左右，存储器性能越来越跟不上计算核心的需求。

存算一体技术通过将计算功能集成到存储单元中，大幅减少了数据搬运需求，从而有效突破了传统架构的瓶颈。这一技术不仅解决了"存储墙"和"功耗墙"问题，还绕过了传统架构的"编译墙"。在存算一体架构中，数据状态都是编译器可以感知的，因此编译效率更高，能够更好地支持复杂AI算法的部署和执行。

从技术路线来看，存算一体可分为近存计算和存内计算两种主要路径。近存计算通过将计算单元和存储单元紧密集成来降低访问延迟，如NVIDIA Blackwell架构GPU采用专门定制的台积电4NP工艺制造，通过10TB/s的片间互联技术连接成统一GPU。Intel Gaudi®3 AI加速器则内置128GB HBM2e内存和96MB SRAM，最大程度上削减了访问延迟。存内计算则更为激进，直接在存储单元内完成计算操作，如知存科技推出的全球首颗大规模量产存内计算芯片WTM2101，已广泛应用于智能语音、健康监测等边缘计算场景。

全球范围内，存算一体技术正处于快速发展阶段。美国的Mythic公司早在2010年就推出了存算一体芯片，中国国内则在2017年左右出现了相关创业团队。经过近7年发展，千芯科技、知存科技、九天睿芯和后摩智能等新势力厂商正在追赶第一梯队。这些企业通过不同的技术路线实现存算一体架构，如后摩智能基于先进的存算一体技术和存储工艺，致力于突破芯片的性能与功耗瓶颈；亿铸科技将新型存储器ReRAM及存算一体计算架构相结合，通过全数字化芯片设计思路实现更高能效比。

从应用场景来看，存算一体技术特别适合AI推理、边缘计算等对能效和实时性要求较高的场景。在AI PC、智能驾驶、智能工业等领域，存算一体芯片能够提供大算力、高能效比的解决方案。随着边缘AI应用的普及，存算一体技术的市场空间将进一步扩大。报告显示，全球现有超过千万个大模型24小时不停运转，对高效能计算架构的需求日益迫切。

中国在存算一体领域具备良好的发展基础。寒武纪、平头哥等企业已在AI芯片领域积累丰富经验，为存算一体技术的研发提供了有力支撑。同时，中国庞大的AI应用市场为存算一体芯片提供了丰富的落地场景。随着技术成熟和生态完善，存算一体有望成为中国芯片产业实现弯道超车的重要机遇。

以上就是关于2024年中国AI芯片与高性能计算产业的分析。通过对技术趋势、市场格局和产业链发展的全面梳理，可以看出国产芯片产业正处在转型升级的关键时期。在AI浪潮的推动下，Chiplet先进封装、高带宽存储和存算一体等前沿技术正在重塑产业格局，为中国企业提供了难得的发展机遇。

从技术层面看，中国企业在部分领域已经达到或接近国际先进水平。如中科院计算所联合多家企业研发的第三代"香山"开源高性能RISC-V处理器内核，性能水平已进入全球第一梯队；在存算一体领域，多家初创企业实现了技术突破和产品量产。但在高端制造工艺、EDA工具、核心IP等基础环节，国内产业仍存在明显短板。

从市场前景看，随着数字化转型深入推进，AI芯片与高性能计算市场需求将持续增长。国产化替代和政策支持将为国内企业提供广阔发展空间。然而，全球技术竞争加剧和供应链不确定性也带来了严峻挑战。中国企业需要加强自主创新，深化产业链协同，才能在激烈的国际竞争中赢得主动权。

未来五年将是中国AI芯片产业发展的黄金期。随着技术积累的加深和应用场景的拓展，国产芯片有望在更多领域实现突破，为全球计算产业发展注入新的活力。

编辑：666知识控