电子行业专题：高通等IT龙头布局终端生成式AI，终端AI推理应用有望带动产业链升级.pdf

电子行业专题：高通等IT龙头布局终端生成式AI，终端AI推理应用有望带动产业链升级。高通、苹果、英特尔、Meta、微软、谷歌等龙头企业相继布局终 端生成式 AI： 随着大模型参数规模的迅速增大，参数规模迈入千亿级和万亿级时 代，通用大模型性能优秀，但也带来更大的硬件投入和功耗。近期 Meta、微软、谷歌、苹果、英特尔等科技龙头公司均加快部署生成式 AI，并探索在手机、PC 等终端的应用。高通在《混合 AI 白皮书》中 提出，混合 AI 是 AI 规模化发展的必然趋势，混合 AI 是指终端和云 端协同工作，在适当的场景和时间下分配 AI 计算的工作负载，模型 训练在云端实现；根据模型复杂度，推理工作部分放在终端侧。能够 带来成本、能耗、性能、隐私、安全和个性化优势，助力实现随时随 地的智能计算。混合 AI 市场潜力巨大，有望在未来十年内为高通打 开约 7000 亿美元市场。

高通混合 AI 进展：

高通深耕 AI 研发 15 余年，拥有领先的边缘侧 AI 布局，终端侧 AI 处 理器产品矩阵丰富，以 8550 为代表的高性能产品已广泛应用于多个 终端，但传统 SOC 不适合生成式 AI。高通的混合 AI 工作致力于推进 全栈 AI 策略，助力 AI 生态系统大规模快速商业化，具体工作如下： 一是算法和模型开发，在不牺牲准确度的前提下提高效率。例如：基 于 Q-SRNet 模型的算法、采用 INT4 量化的软件，以及支持 INT4 加速 的第二代骁龙 8 硬件，与 INT8 相比，INT4 性能和能效提高 1.5 倍至 2 倍。二是提升软件和模型效率。高通 AI 软件栈 全面支持主流 AI 框架，比如 TensorFlow、PyTorch、ONNX 等，旨在为开发者实现一次 开发，即可跨高通所有硬件运行 AI 负载。三是硬件加速。高通 AI 引 擎采用异构计算架构，包括 Hexagon 处理器、高通 Adreno GPU 和高 通 Kryo CPU，通过异构计算，开发者和 OEM 厂商可以优化智能手机 和其他边缘侧终端上的 AI 用户体验。高通 SoC 有望持续推陈出新， NPU 性能提高，AI 算力持续升维。据高通官网数据，骁龙 8Gen1 的 AI 算力为 9 INT8 TOPs，骁龙 8Gen2 的 AI 算力相比上一代约提升了 4.35 倍，新一代骁龙 8Gen3 算力有望持续提升。终端有望运行 100 亿及以 上参数的模型。

终端生成式 AI 带来的硬件变化及投资机遇：

混合 AI 或带来硬件终端的变化：1）在功耗允许情况下，终端 SoC 算 力持续提升，端侧软硬件一体框架加速优化；2）模型参数的缓存量 较大，DRAM 配置需根据模型大小同步递增，有望带动存储产业加速从周期底部走出；3）未来的生成式 AI 软件安装包中有可能集成训练 好的模型参数，NAND 配置需相应提高；4）手机、PC 等终端的推理计 算能耗增加，对产品的散热要求提高；5）数据吞吐增加，总线通信 模式或带宽改变。我们认为，近年来消费电子创新乏力，换机周期逐 渐延长，智能手机、PC 的出货量有所放缓，终端生成式 AI 应用有望 为消费电子产业链注入新动能：搭载高端 SoC 的机型渗透率有望持 续提升，DRAM 和 NAND 等存储芯片单机用量增加，通信、散热等环节 持续优化，智能手机和 PC 的换机周期有望缩短；生成式 AI 在自动驾 驶/智能座舱、机器人、XR、AIoT 等领域的应用也有望提速。建议重 点关注手机、PC、自动驾驶/智能座舱、机器人、XR、AIoT 等相关产 业链投资机会。