2025年半导体行业研究：端侧大模型近存计算与定制化存储的崛起

随着人工智能技术的飞速发展，大型语言模型（LLMs）在自然语言处理（NLP）领域取得了革命性突破。然而，传统云端部署的模型面临着网络延迟、数据安全和持续联网要求等诸多挑战。为了解决这些问题，端侧AI技术应运而生，将大型语言模型部署在端侧设备上，不仅能够提供更快的响应速度，还能更好地保护用户隐私。与此同时，存算一体技术的成熟为端侧AI大模型的商业化落地提供了坚实的技术基础。本文将深入探讨端侧大模型的发展现状、市场规模、未来趋势以及竞争格局，分析存算一体技术如何推动端侧AI的快速发展。

一、端侧大模型的崛起与市场需求

端侧大模型的崛起是人工智能技术发展的重要趋势。近年来，随着Transformer架构的诞生以及OpenAI的GPT系列、Meta的LLaMA系列等模型的崛起，自然语言处理领域迎来了新的突破。这些模型传统上主要部署在云端服务器上，但云端部署存在诸多限制，如网络延迟、数据安全和持续联网要求等。这些问题促使业界开始探索将大型语言模型部署在端侧设备上的可能性。端侧AI市场的全球规模正以惊人的速度增长，预计从2022年的152亿美元增长到2032年的1436亿美元，这一近十倍的增长不仅反映了市场对边缘AI解决方案的迫切需求，也预示着端侧AI技术将在制造、汽车、消费品等多个行业中发挥越来越重要的作用。

端侧大模型的发展不仅依赖于技术的进步，还受到市场需求的强烈推动。在智能手机、个人电脑等领域，消费者对即时响应和个性化体验的需求不断增加，这促使设备制造商不断优化硬件架构，以支持更强大的AI功能。例如，智能手机SoC已经开始利用NPU（神经网络处理器）改善日常用户体验，赋能出色的影像和音频效果，以及增强的连接和安全性能。然而，随着生成式AI用例需求的不断增加，这些AI用例面临着两大关键挑战：一是功耗和散热受限的终端上难以满足多样化的计算需求；二是AI用例不断演进，功能固定的硬件难以适应。因此，支持处理多样性的异构计算架构成为解决这些问题的关键。

二、存算一体技术：端侧AI的基石

存算一体技术的成熟为端侧AI大模型的商业化落地提供了技术基础。作为一种新的计算架构，存算一体的核心是将存储与计算完全融合，存储器中叠加计算能力，以新的高效运算架构进行二维和三维矩阵计算。结合后摩尔时代先进封装、新型存储器件等技术，存算一体能够有效克服冯·诺依曼架构瓶颈，实现计算能效的数量级提升。存算一体可分为近存计算（PNM）、存内处理（PIM）以及存内计算（CIM）。

近存计算通过将计算单元靠近内存单元，减少数据传输路径，提升访存带宽和效率，适合需要大规模并行处理和优化内存带宽的应用。存内处理将计算单元嵌入存储芯片中，使存储器本身具备一定的计算能力，适合数据密集型任务，能够显著提升数据处理效率和能效比。存内计算则将存储单元和计算单元深度融合，使存储单元直接参与数据处理，适合高并行性计算和定制化硬件优化，能够消除数据访存延迟。在端侧AI大模型的商业化落地中，选择哪种技术取决于具体的应用需求和性能优化目标。

存算一体技术的发展不仅推动了端侧AI的进步，还促进了相关硬件架构的创新。例如，华邦电子开发的创新型CUBE（Customized Ultra Bandwidth Element，定制化超高带宽元件）技术，作为客制化的高宽带存储芯片3D TSV DRAM，专门为边缘AI运算装置所设计的存储架构。CUBE利用3D堆叠技术和异质键合技术，提供高带宽、低功耗、单颗256Mb至8Gb的存储芯片，并可供模组制造商和SoC厂商直接部署。CUBE架构将SoC die置于上方，DRAM die置于下方，省去了SoC中的TSV工艺，降低了SoC die的尺寸与成本。同时，3D DRAM TSV工艺可以将SoC信号引至外部，使它们成为同一颗芯片，进一步缩减了封装尺寸。

三、异构计算架构与先进封装技术：赋能端侧AI

异构计算架构通过将不同功能的芯片（如CPU、GPU、FPGA、DSP等）或不同制程工艺的芯片集成在一起，实现高性能、高能效和多功能的计算系统。这种架构的实现需要先进的封装技术来支持。先进封装技术旨在通过创新的封装架构和工艺，提升芯片性能、降低功耗、减小尺寸，并优化成本。后文参考SiP与先进封装技术，将先进封装分为两大类梳理：基于XY平面延伸的先进封装技术，主要通过RDL进行信号的延伸和互连；基于Z轴延伸的先进封装技术，主要是通过TSV进行信号延伸和互连。

在异构计算架构中，NPU（神经网络处理器）扮演着重要角色。NPU专为AI任务设计，能够高效处理标量、向量和张量数学运算，适用于核心AI工作负载。与通用的CPU和GPU相比，NPU在功耗、性能和面积效率方面具有显著优势。通过降低部分易编程性，NPU能够实现更高的峰值性能和能效，从而运行机器学习所需的大量乘法、加法和其他运算。在端侧AI应用中，NPU能够与CPU、GPU等其他处理器协同工作，实现最佳应用性能、能效和电池续航，赋能全新增强的生成式AI体验。

先进封装技术为异构计算架构的实现提供了关键支持。例如，FOWLP（Fan-out Wafer Level Package）是一种基于XY平面延伸的先进封装技术，通过RDL实现信号延伸和互连。FOWLP能够在芯片面积范围外充分利用RDL做连接，获取更多的引脚数，从而满足高性能计算和AI应用的需求。而基于Z轴延伸的先进封装技术，如TSV（Through Silicon Via），则通过垂直堆叠芯片实现更高的集成度和性能。TSV技术能够显著减少芯片之间的信号传输延迟，提高数据传输速率，降低功耗，是实现高性能计算和AI应用的重要技术手段。

以上就是关于端侧大模型近存计算与定制化存储的分析。随着人工智能技术的不断发展，端侧大模型的应用前景广阔，存算一体技术为其提供了坚实的技术基础，而异构计算架构和先进封装技术则为端侧AI的实现提供了关键支持。未来，随着技术的进一步成熟和市场需求的不断增长，端侧AI将在更多领域发挥重要作用，推动人工智能技术的广泛应用和发展。