端侧AI优势、应用场景、产业链与市场规模分析

终端侧 AI 具有成本、能耗、可靠性、隐私、安全和个性化优势。

AI 技术发展加速，形成云侧 AI 与端侧 AI 两条路线。自 2022 年 OpenAI 推出建立在 GPT-3.5 和 GPT-4.0 大语言模型上的聊天机器人 ChatGPT 后，AI 技术取得了飞速的发展及应用，深刻改变人们的 生活及工作方式。在 AI 技术的实际应用中，云侧 AI 和端侧 AI 成为了两种重要的部署方式： 1）云侧 AI：依托强大的云端数据中心，集中进行大规模的数据处理和模型训练，凭借其海量的计算资 源和存储能力，能够实现复杂的 AI 任务，如大规模的数据分析、自然语言处理中的复杂语义理解等。 2）端侧 AI：将 AI 算法和模型直接部署在终端设备上，如智能手机、智能穿戴设备等，使终端设备具 备自主的智能处理能力，能够在本地实时响应用户需求，如手机的实时语音识别、图像美化等功能。

终端侧 AI 具有成本、能耗、可靠性、隐私、安全和个性化优势。 成本优势：AI 推理的规模远高于 AI 训练。模型的推理成本将随着日活用户数量及其使用频率的增加而 增加。在云端进行推理的成本极高，这将导致规模化扩展难以持续。将一些运算负载从云端转移到边缘 终端，可以减轻云基础设施的压力并减少开支。 能耗优势：边缘终端能够以很低的能耗运行生成式 AI 模型，尤其是将处理和数据传输相结合时。可靠 性、性能和时延：当生成式 AI 查询对于云的需求达到高峰期时，会产生大量排队等待和高时延，甚至 可能出现拒绝服务的情况。向边缘终端转移计算负载可防止这一现象发生。 隐私、安全和个性化：由于数据处理完全在本地进行，终端侧 AI 有助于保护个人信息，以及企业和工 作场所中的机密信息。以本地和云端分别运行 AI 大模型制作行程安排为例，本地 AI 大模型通过长期学 习用户行为，并利用本地存储的信息，可以给出更贴合用户生活习惯、更准确的建议。相较之下，如果 云端模型需要访问用户本地存储的文件、浏览记录等信息再给出个性化的建议，用户通常较难接受。

端侧 AI 强调本地化运行，应用场景涉及多类端侧：手机、自动驾驶汽车、AR、PC、电视、耳机、音响、 安防设备、智能手表和机器人等。多应用场景提升了端侧 AI 市场的增长潜力。

从 AI 技术在终端产品的落地上，一般经历：单点特定的 AI 增强实现应用层集成 AI→OS 智能化改造实 现系统层融合 AI（原子化控件化的 AI 能力）→以 AI 为中心的全新 OS 并且系统级 AI Agent 出现。 大模型在各个层面改造终端交互体验，预计分为三种形式。最开始增强型 LLM 架构，可以增加单点的 功能体验，比如在翻译/图片处理/语音转换中使用 AI；阶段二主要以工作流形式，比如生成营销文案并 翻译等；最后阶段是针对开放问题的 Agent 形态。这三种形态出现形式有先后，但是最终预计并存以针 对不同特性的场景。 最基础的构建块（增强型 LLM）——工作流——自主的 Agent，复杂性持续提升。同时虽然非 Agent 在 自动化水平上提升有限，但是由于调用的是 LLM，在智能化水平、可处理任务等方面也有巨大的提升。

对于开放式问题 Agent 必不可少，要具备理解复杂的输入、进行推理和规划、可靠地使用工具的能力。 Agent 可用于开放式问题，这些问题难以预测所需的步骤，无法硬编码固定路径。Agent 需要独立规划 和操作，并可能返回用户那里获取更多信息或判断。在执行工作中，Agent 在每一步从环境中获取―真实 情况‖，以评估进展，在遇到响应节点或者障碍的时候暂停以获取人类反馈。人类只需要提出需求+监管 成果，AI 将进行任务的分解、选择工具、监控进度。

端侧 AI 产业链上游为核心技术和硬件提供环节，主要包括 AI 芯片、存储、电源、传感器、通信模块等 硬件，以及操作系统、数据库等基础软件，为整个产业提供坚实的技术支撑和基础构建。 端侧 AI 行业产业链中游为端侧 AI 集成环节，端侧 AI 设备品牌商具备端侧 AI 技术的专业能力，包括模 型优化、硬件适配和系统集成等，提供从底层硬件到上层应用的一体化解决方案，实现端侧 AI 的系统 集成。 端侧 AI 产业链下游为应用环节，主要包括行业解决方案和产品与软件服务，以满足不同客户的需求。

AI 可以改造多种终端，端侧 AI 市场规模 2023-2028 年预计 CAGR 高达 58%，2028 年超过 1.9 万 亿。2023 年全球存量消费终端设备达 228 亿台，其中智能手机占 29.8%、智能家居设备（不含 TV）占 26.3%，PC 和 PAD 占 17.6%。2023 年以前端侧 AI 技术已经在智能安防和车载设备两个重要领域应用， 快速发展但规模不大。从 2023 年开始，随着亿级出货量的 PC 和手机开始 AI 化，两者庞大的市场将在 未来支撑端侧 AI 行业迅速发展，2023 年中国端侧 AI 市场规模不到 2000 亿，预计 2028 年超过 1.9 万 亿，2023-2028 年 CAGR 为 58%。