边缘计算行业专题报告：始于AI，赋能应用.pdf

边缘计算行业专题报告：始于AI，赋能应用。边缘侧是 AI 生态中最重要的组成部分之一。AI 飞轮发展滚滚向前，从今年初 GPT- 3.5 惊艳世界，到 5 月 14 日 OpenAI 正式开启插件功能，我们见证了云端大模型 的快速迭代与演化。当前时点，AI 大模型已经站在了从“玩具”向“工具”快速 演化的关键迭代期。如何让大模型渗透进入各类垂直场景，如何更低成本的使用 大模型，如何让更多场景与用户接触 AI，成为了发展的下一个重点。在 AI 向实际 场景落地时，边缘算力的重要性加速凸显，边缘算力在成本、时延、隐私上具有 天然优势，也可以作为桥梁，预处理海量复杂需求，并将其导向大模型。边缘算 力作为 AI 触及万千场景的血管地位加速明晰。之前，边缘侧设备以部署通信能力 为主，当下，在以高通为代表的边缘巨头推动下，算力、AI 能力等边缘基建正在 加速推动，同时三大运营商的算力网络与边缘资源池体系，也为我国算力梯度分 布奠定了雏形。展望未来，边缘算力将始于 AI 带来的需求提升，同时也将赋能应 用，连接更多用户，加速 AI 发展与迭代。

边缘算力的三大优势。边缘算力，通常指部署在设备本地的算力或者离用户距离 较近的数据中心中的算力。边缘算力相较于云端算力，拥有低成本、低时延、高 隐私三大特性。（1）低成本：当前主流的边缘算力平台主要采用高通主导下的 ARM 架构，相比于英伟达的复杂架构，ARM 架构在小算力时拥有极低的单位成本，是 降低开发与用户成本的必然选择。（2）低时延：边缘算力一般搭载在本地，无需 将数据发送至云端并等待回传的时间，可以满足如自动驾驶，快速对话等对时延 要求高的场景。（3）高隐私：边缘算力依靠设备本身搭载的算力或在用户自有服 务器上的算力进行推理，可以实现数据不出用户管辖范围，对隐私的保护更好。

边缘算力的存在形式。当下边缘算力主要有两种存在模式，一种是设备本身搭载 的算力，这类算力通常依托边缘处理芯片存在，边缘处理芯片包括了手机终端上 的骁龙与苹果 M 平台，面向 IOT 设备的如高通 8155 芯片或者专为 AI 优化的 QCM8550 芯片。通常，大单品采用直采芯片+定制 PCB 的形式进行开发，而中小 厂商与细分垂直领域往往采购模组来满足算力需求。第二种算力存在形式是边缘 资源池，通常由离用户较近的核心城市内的数据中心构成，或者由厂区，道路旁 的小机柜、算力盒子提供算力。

边缘算力赋能万千应用。在生成式 AI 爆发前，边缘算力已经逐渐渗透进了部分商 用场景，如手机云游戏、无人设备驾驶、自动视频识别等。如今随着 MLC-LLM， 谷歌模型体系等软件基建加速，特斯拉机器人为具身智能完成物理基建，在终端 设备上推理生成式模型，甚至让智能设备同物理世界自主交互的条件已经具备， 未来，随着应用加速渗透、预处理模型需求爆发，以及边缘小模型推理，智能设 备物理交互需求爆发。

“云—边”一体，共筑 AI 飞轮模型。“云—边”一体指云计算和边缘计算的有机 结合。此前市场担心小模型对算力需求下降，但我们却认为这正是 AI 应用闭环的 必由之路。类似于交通网络，光有干线是不够的，还需要无数省道、乡村小路通 往千家万户，汇聚而来的流量才能驱动干线不断升级。边缘侧需求的释放将开启 “真 AIOT”时代，或许这才能开启 5G 当初所提万物互联、算网一体的黄金时代。