电子行业专题:高通等IT龙头布局终端生成式AI,终端AI推理应用有望带动产业链升级.pdf
- 上传者:九阳神功
- 时间:2023/08/17
- 浏览次数:307
- 下载次数:18
- 0人点赞
- 举报
电子行业专题:高通等IT龙头布局终端生成式AI,终端AI推理应用有望带动产业链升级。高通、苹果、英特尔、Meta、微软、谷歌等龙头企业相继布局终 端生成式 AI: 随着大模型参数规模的迅速增大,参数规模迈入千亿级和万亿级时 代,通用大模型性能优秀,但也带来更大的硬件投入和功耗。近期 Meta、微软、谷歌、苹果、英特尔等科技龙头公司均加快部署生成式 AI,并探索在手机、PC 等终端的应用。高通在《混合 AI 白皮书》中 提出,混合 AI 是 AI 规模化发展的必然趋势,混合 AI 是指终端和云 端协同工作,在适当的场景和时间下分配 AI 计算的工作负载,模型 训练在云端实现;根据模型复杂度,推理工作部分放在终端侧。能够 带来成本、能耗、性能、隐私、安全和个性化优势,助力实现随时随 地的智能计算。混合 AI 市场潜力巨大,有望在未来十年内为高通打 开约 7000 亿美元市场。
高通混合 AI 进展:
高通深耕 AI 研发 15 余年,拥有领先的边缘侧 AI 布局,终端侧 AI 处 理器产品矩阵丰富,以 8550 为代表的高性能产品已广泛应用于多个 终端,但传统 SOC 不适合生成式 AI。高通的混合 AI 工作致力于推进 全栈 AI 策略,助力 AI 生态系统大规模快速商业化,具体工作如下: 一是算法和模型开发,在不牺牲准确度的前提下提高效率。例如:基 于 Q-SRNet 模型的算法、采用 INT4 量化的软件,以及支持 INT4 加速 的第二代骁龙 8 硬件,与 INT8 相比,INT4 性能和能效提高 1.5 倍至 2 倍。二是提升软件和模型效率。高通 AI 软件栈 全面支持主流 AI 框架,比如 TensorFlow、PyTorch、ONNX 等,旨在为开发者实现一次 开发,即可跨高通所有硬件运行 AI 负载。三是硬件加速。高通 AI 引 擎采用异构计算架构,包括 Hexagon 处理器、高通 Adreno GPU 和高 通 Kryo CPU,通过异构计算,开发者和 OEM 厂商可以优化智能手机 和其他边缘侧终端上的 AI 用户体验。高通 SoC 有望持续推陈出新, NPU 性能提高,AI 算力持续升维。据高通官网数据,骁龙 8Gen1 的 AI 算力为 9 INT8 TOPs,骁龙 8Gen2 的 AI 算力相比上一代约提升了 4.35 倍,新一代骁龙 8Gen3 算力有望持续提升。终端有望运行 100 亿及以 上参数的模型。
终端生成式 AI 带来的硬件变化及投资机遇:
混合 AI 或带来硬件终端的变化:1)在功耗允许情况下,终端 SoC 算 力持续提升,端侧软硬件一体框架加速优化;2)模型参数的缓存量 较大,DRAM 配置需根据模型大小同步递增,有望带动存储产业加速从周期底部走出;3)未来的生成式 AI 软件安装包中有可能集成训练 好的模型参数,NAND 配置需相应提高;4)手机、PC 等终端的推理计 算能耗增加,对产品的散热要求提高;5)数据吞吐增加,总线通信 模式或带宽改变。我们认为,近年来消费电子创新乏力,换机周期逐 渐延长,智能手机、PC 的出货量有所放缓,终端生成式 AI 应用有望 为消费电子产业链注入新动能:搭载高端 SoC 的机型渗透率有望持 续提升,DRAM 和 NAND 等存储芯片单机用量增加,通信、散热等环节 持续优化,智能手机和 PC 的换机周期有望缩短;生成式 AI 在自动驾 驶/智能座舱、机器人、XR、AIoT 等领域的应用也有望提速。建议重 点关注手机、PC、自动驾驶/智能座舱、机器人、XR、AIoT 等相关产 业链投资机会。
- 全部热门
- 本年热门
- 本季热门
- 光芯片行业深度研究:光电子产业国产化的下一站.pdf 108 5积分
- 域控制器行业深度报告:汽车电子电气架构演进下的黄金赛道.pdf 100 5积分
- 电子行业深度研究:向“第三生活空间”迈进,智能化大潮座舱先行.pdf 78 8积分
- 军工电子行业深度研究报告:拥抱军工信息化、智能化大时代.pdf 76 10积分
- 2023年电子行业投资策略:半导体国产替代持续加速,汽车电子迎来新机遇.pdf 74 7积分
- 汽车电子行业专题报告:问界M5销量破万的背后,掘金华为智能车产业链.pdf 65 5积分
- 电子纸行业研究:显示行业另一个千亿赛道.pdf 65 3积分
- 汽车电子行业专题报告:电子电气架构演进,海平面下的冰山.pdf 61 4积分
- 电子烟行业研究报告:解析电子烟全球监管体系,重点关注品牌化出海机会.pdf 56 3积分
- 电子行业专题报告:ChatGPT浪潮之巅,AIGC赋能千行百业.pdf 55 4积分
- 电子行业专题报告:AI 硬件全景图.pdf 55 5积分
- 电子行业华为产业链专题报告:技术创新+自主可控全面布局.pdf 53 3积分
- 电子行业分析报告:AI浪潮奔涌,CPO等光技术持续演进.pdf 50 2积分
- 电子行业CES 2024跟踪报告:AI赋能成主旋律,XR、PC和智能车等方向为创新焦点.pdf 45 5积分
- 电子行业专题报告:AI大模型加速落地,汽车智能化迅速发展.pdf 41 3积分
- 消费电子行业研究:AI终端时代来临,引领消费电子新浪潮.pdf 41 3积分
- 湿电子化学品行业研究:高端产品国产进程有望加速.pdf 41 5积分
- PCB行业专题:乘算力之风,看好电子工业的重要基石再起航.pdf 39 5积分
- 电子行业2024 CES大会行业专题报告:AI深度赋能,产业创新纷呈.pdf 36 6积分
- 电子行业研究报告:人工智能风起云涌,算力芯片需求升温.pdf 35 3积分
- 电子行业HBM专题报告:AI的内存瓶颈,高壁垒高增速.pdf 31 5积分
- 电子行业专题报告:PC迎换机+AI潮,AI赋能带动硬件环节量价齐升.pdf 26 4积分
- 电子行业专题报告:AI大模型落地终端,AI PC驱动PC行业新增长.pdf 25 3积分
- 消费电子行业深度跟踪报告:终端需求温和复苏,把握AI融合新品与SmartEV等主线.pdf 18 8积分
- 电子行业专题报告:电子板块多重共振,拐点已至.pdf 17 3积分
- PCB行业专题报告:华为新机强势回归,消费电子PCB有望复苏.pdf 15 3积分
- 湿电子化学品行业深度报告:AI赋能,湿电子化学品渐入佳境.pdf 15 6积分
- 电子行业空间计算专题报告:Vision Pro开启空间计算时代.pdf 14 4积分
- 电子行业专题研究:Gemini 1.5Sora预示AI模型迭代加速,高速通信驱动PCB成长.pdf 13 2积分
- 3C设备行业研究报告:消费电子行业或迎复苏,关注新技术带来的设备增量.pdf 12 8积分