端侧AI应用进展如何?

端侧AI应用进展如何?

    标签
  • AI
最佳答案 匿名用户编辑于2025/01/22 13:13

从 Chatgpt 引爆 AI 海啸至今,AI 的发展已扩散到各行各业。

1、AI 手机、AI PC 陆续问世,带动相关硬件价值量提升

iOS18.1正式版发布,Apple Intelligence正式上线。北京时间2024年10月29日, 苹果面向用户推送 iOS 18.1、iPadOS 18.1 和 macOS Sequoia 15.1 正式版系统更新,备受关注的 Apple Intelligence 功能正式上线。具体功能包括:写作工具的提升、 Siri 的智能化升级、邮件与消息智能回复、照片应用的新功能以及通话记录与转 录摘要。在 iOS 18.2 开发者测试版中,苹果更是更新了四大 AI 功能:Image Creation、Visual Intelligence、集成 ChatGPT 的 Siri 及 Writing Tools,代表苹果在 智能手机 AI 应用上的进一步深化。同时,库克在采访中表示,相比较去年同期 发布的 iOS 17.1 更新,今年用户下载和安装 iOS 18.1 的速度是其 2 倍。

高通和联发科相继发布新处理器,各大品牌厂积极布局 AI 手机。2024 年 10 月 9 日,联发科发布天玑 9400,搭载联发科全新的第八代 AI 处理器 NPU 890,开启 “端侧视频”和“端侧训练”的新篇章。10 月 22 日,高通发布骁龙 8 至尊版, 在多个关键领域都进行了重大架构升级,在 AI 方面,将终端侧 AI 落地的概念进 一步具象化,尤其是听觉和视觉。国内厂商在 10 月也推出了自己的旗舰 AI 手机: 小米 15、荣耀 Magic7、OPPO Find X8、vivo X200 等。 AI 手机陆续面世,渗透率预计将快速提升。IDC 预测 2024 年 AI 手机出货量为 1.7 亿部,渗透率为 15%,Counterpoint 预计 2027 年 AI 手机出货量超 5.5 亿部, 渗透率达 43%左右,存量规模预计达 12.3 亿部,出货量快速增长,市场空间广 阔。

AI加速落地 PC端侧,AI PC渗透率预计将快速提高。全球硬件龙头持续推出 AI 处理器、AI大模型快速迭代,AI PC出货量预计将快速增长。Canalys预测,2024 年 AI PC 出货量将达到 4400 万台,2025 年有望达到 1.03 亿台。AI 加速落地笔电 端侧,预计将带动笔电行业迎来一波换机潮,笔电行业迎新增长动力。

端侧大模型不断迭代,预计参数将持续提高。目前多家智能机品牌旗下的旗舰机 型均已在端侧落地了大模型,如 vivo X100 的 70 亿蓝心大模型。大模型的参数规 模仍在升级进程中,Counterpoint 预测,本地大模型参数的上限将在 2024 年增长 至 130亿,在 2025年增长至 170亿。大模型参数规模的增长将进一步拓展生成式 AI 手机的能力,同样也会对硬件环节提出更高要求,推动多个硬件环节升级, 如算力规模、内存容量、电池续航与散热等。

2、眼镜有望成为未来端侧 AI Agent 的重要载体

眼镜和耳机有望成为未来端侧 AI 的重要载体。随着端侧 AI 技术越来越成熟,越 来越多的大厂在智能+可穿戴设备上发力。2023 年苹果发布 vision pro,meta 发布 AR 眼镜,字节发布 AI 耳机、各手机厂发布 AI 手机等。我们认为,眼镜和耳机 有望成为端侧 AI重要载体,主要是 1)眼镜可以增强人机交互性,眼镜和耳机作 为“视觉”和“听觉”的外在接触口,具备更强的交互性;2)眼镜和耳机具备便携 性和佩戴基础,眼镜和耳机重量较轻,不会给用户佩戴造成负担;3)价格优势, 相较于其他应用终端,眼镜和耳机价格较为便宜,有望更快打开市场空间。 "Ray-Ban Meta"智能眼镜带动 AI 眼镜热潮。2023年 9 月,Meta 与 Ray-Ban推出 了第二代联名产品智能眼镜 Ray-Ban Meta(价格和第一代一样),其为 AI 眼镜, 可以通过对话唤醒 AI 功能,拥有拍摄、对话、听音乐等功能;并且在 2024 年进 行 AI 更新,搭载的大模型可以进行语音交互、物体识别、文字翻译等功能。 Ray-Ban Meta 仅是 2023 年 Q4 的出货量就超过 30 万副,这几乎赶上了它们第一 代产品的全周期销量。据感光现象引用的 The Verge 数据统计,截止 2024 年 5 月, Ray-Ban Meta 智能眼镜的全球销量已突破 100 万副,预计 2024 年全年出货量有 望超过 150 万副。

Meta发布首款 AR智能眼镜,AI+眼镜市场潜力大。Meta在 2024年 MetaConnect 大会上发布了其首款 AR 眼镜原型机,代号 Orion。该眼镜重量仅 98g,采用镁制 镜框,搭载 7 个摄像头。Orion 支持 AI 语音、手势追踪、眼球追踪以及通过肌电 图腕带(EMG)使用户拥有以神经信号对其进行操控的能力。用户可以戴着眼 镜打开多个 MetaHorizonApp 窗户进行多任务,或者用 MetaAI 对现实世界的事物 进行识别。

AI+眼镜市场正在逐步崛起。随着虚拟现实和增强现实技术的快速发展,AI+眼 镜市场正在逐步崛起。据新浪 VR 引用的 IDC 数据显示,2023 年全球 AR 眼镜销 量为 48 万台,智能眼镜销量为 101 万台。2024 年一季度全球 AR 眼镜出货量为 10 万台,同比增长 56%;智能眼镜出货量为 26 万台,同比增长 217%,AI+眼镜未 来发展市场空间广阔。 AI眼镜产业链目前处于相对早期阶段,如果不带显示功能,SoC芯片和整机价值 量较高,SoC 芯片厂商包括高通、恒玄科技、炬芯科技等,整机品牌主要包括雷 朋、Meta、Snap、华为、魅族、Rokid、XREAL、雷鸟、影目等。整机代工厂包 括立讯精密、歌尔股份、天键股份、佳禾智能、亿道信息、龙旗科技等。

如果带有显示功能,即 AR 眼镜,光机+显示属于新增价值量较高的环节。光机 包括 LCos、Micro OLED、Micro LED 等方案,产业链主要厂商有 JBD、视涯、 索尼、韦尔、华灿光电、舜宇光学科技(海外组覆盖)、歌尔股份、福光股份等; 显示包括 BB 和光波导,产业链主要厂商有 DigiLens、水晶光电、歌尔股份、蓝 特光学、莫界、Lumus、WaveOptics 等。

3、800G 以太网交换机放量,CPO 有望成为封装新趋势

全球龙头公司微软、META、谷歌、苹果、亚马逊等纷纷加大数据中心资本开支, 自 2023Q3 起连续五个季度上行,2024Q3 资本开支总额再创季度历史新高,且各 大 CSP 厂商对未来 Capex 的指引持续乐观。

全球 AI 芯片龙头英伟达业绩持续超预期,彰显了算力高景气的持续性。英伟达 FY25Q3 收入为 351 亿美元,QoQ+17%、YoY+94%,数据中心收入创下 308 亿美 元的纪录,QoQ+17%、YoY+112%。公司预期 FY25Q4 的收入将达 375 亿美元 (上下浮动 2%),持续增长,证明了对 AI 需求的信心。

在数据中心建设当中,交换机和 GPU是 AI算力核心硬件。参考 Meta构建的 24K Infiniband 集群方案,该集群采用了 24,576 块 H100 芯片,若以 4 年生命周期估算 总拥有成本,共需要约 14 亿美元左右的投入,其中 H100 和 Infiniband 交换机为 主要的成本来源,分别需要约 5.99 亿美元和 1.93 亿美元,剔除相关运营成本后 (WACC、托管成本和电力成本)占总建设成本的比重约 66%和 21%。

在 AI 的拉动下,交换机的市场规模持续增长。根据 SDNLAB 援引的 IDC 数据, 2023 年全球以太网交换机规模达到 442 亿美元,同比增长 20.1%,其中 2023 年 数据中心市场的收入同比增长 13.6%,尤其是数据中心领域 200/400 GbE 交换机 的收入在 2023 年全年增长了 68.9%。2024 年以来高速交换机的规模维持高增, 200/400 GbE 交换机市场总收入在 2024Q2 同比增长 104.3%,环比增长 35.7%, 表明数据中心对高速以太网交换机的强烈需求。

随着数据中心建设的逐步深入,交换机迭代升级节奏加快。根据 Arista 援引的 Dell’Oro 报告,交换机高速化趋势持续演绎,800G 交换机有望在 2025 年左右起 快速上量,并在 2026 年成为主流,AI 的加入还会使得 800G 的放量更加提速。同时,1.6T 交换机也将延续 800G 的渗透趋势,在未来几年内逐步推出。 根据 LightCounting 的统计,2023 年 InfiniBand 交换机 ASIC 的销售额增长了 2.3 倍,预计 2024-2029 年的年复合增长率为 25%。以太网方面,由于云数据中心内 计算节点的投资减少,2023 年以太网交换机 ASIC 的销售额基本持平,但这一市 场将在 2024 年恢复增长,之后将稳步增长,预计 2024-2029 年以太网交换机 ASIC 的销售额将以 14%的年复合增长率加速增长。

随着传输速率的要求越来越高,PCB 的损耗会变大,因此需要采用更低损耗的 CCL 板材匹配设备需求,并增加层数。以新华三 400G 交换机为例,其引入多款 Ultra Low Loss 层级板材以满足损耗要求,升级至 800G 甚至 1.6T 后,对材料的 要求只会更高。此外,类比通用服务器的升级,根据联茂的统计,每当通用服务 器迭代一代,PCB 层数均会提升 4-6 层不等,也会带来 PCB 价值量的显著增长。 根据产业链调研,800G 交换机的 PCB 层数在 30 层以上,采用 M8 等级 CCL 材 料,后续向 1.6T 迭代升级,PCB 层数和材料还有望进一步提升。在 AI 需求的拉 动下,以太网交换机相关 PCB 的需求及价值量都有望实现明显提升,我们认为 800G 交换机产业链有望拉动 PCB 行业持续爆发。

此外,由于数据中心和计算任务的复杂性增加,CPO(光电共封装,Co-package optics)技术通过将光学元件和电子元件紧密集成在一个封装内,显著缩短了信 号传输路径,减少了系统功耗,并提升了带宽密度,因此被视为未来数据中心和 高性能计算网络的关键技术。 传统的可插拔光模块与交换芯片用铜线相连,铜线和光模块受到信号衰减、干扰 和功耗限制,难以在更高的数据速率下提供足够的带宽密度,还会引发延迟及功 耗问题。而 CPO 将光学模块直接集成到交换机 ASIC 基板上,减少了电气连接, 有效解决了信号完整性问题。

据 IDTechEx预测,到 2035年,共封装光学(CPO)市场规模将超过 12亿美元, 2025 年~2035 年期间的复合年均增长率(CAGR)将达到 28.9%。随着 CPO 用量 的增加,载板用量也将迎来增长。

参考报告REPORT

电子行业2025年年度策略:AI驱动智能硬件创新浪潮,持续看好算力和自主可控趋势.pdf

电子行业2025年年度策略:AI驱动智能硬件创新浪潮,持续看好算力和自主可控趋势。端侧AI开启轰轰烈烈的硬件创新浪潮,算力需求持续增长:模型能力日趋成熟,AI赋能下,端侧硬件创新浪潮开启,无论是手机、PC等传统终端,还是眼镜、戒指等新形态硬件,都焕发新的活力。苹果硬件基础、软件生态上优势巨大,有望成为AI手机的引领者,安卓厂商通过自研或与大模型厂商合作,有望率先在部分特定场景实现AI功能,另一场“军备竞赛”已悄然而至,从而推动沉寂多年的换机潮。同时,智能眼镜和耳机具备便携性和佩戴基础,可以很好地发挥语音交互功能,成为现阶段AIAgent的主要交互入口,有望迎来爆发。PC...

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

  • 相关问题
  • 最新问题
用户解答榜
分享至