边缘芯片市场规模、应用场景及企业进展如何？

边缘芯片行业处于爆发边缘。

根据亿欧智库发布的《2022年中国边缘计算产业研究报告》，2021年我国边 缘计算市场规模已经达到427.9亿元，预计2021-2025年中国边缘计算产业市 场规模年复合增速有望达到46.81%。 据德芯半导体援引Gartner统计，2022年中国边缘AI芯片市场规模约为49.9亿 美元，预计到2025年，中国边缘AI芯片市场规模将增长到110.3亿美元，较 2022年增长121%。

随着人工智能向边缘侧的转移，AI行业应用得到了极大扩展。根据德勤的分析， 现在的AI计算已经在制造业、政府、零售、电信、医疗等不同应用场景下获得 应用。很显然，边缘智能在拓展AI边界过程中发挥了重要作用，它能显著提升 AI针对现场多样化业务场景的适应性，从而更好地支撑业务运营，为客户创造 更多的价值。

高通利用边缘侧终端规模化扩展生成式AI: 随着强大的生成式AI模型不断缩小， 以及终端侧处理能力的持续提升，混合AI的潜力将会进一步增长。参数超过10 亿的AI模型已经能够在手机上运行，且性能和精度达到与云端相似的水平。不 久的将来，拥有100亿或更高参数的模型将能够在终端上运行。混合AI策略适 用于几乎所有生成式AI应用和终端领域，包括手机、笔记本电脑、XR头显、 汽车和物联网。这一策略对推动生成式AI规模化扩展，满足全球企业与消费者 需求至关重要。

高通推出第三代骁龙8s移动平台，为更多智能手机带来行业领先的终端侧AI。 它的主要特性包括支持强大的终端侧生成式AI功能、始终感知的ISP、超沉浸 的移动游戏体验、突破性连接能力和无损的高清音频。 高通推出首个支持AI优化的Wi-Fi 7系统FastConnect 7900，重新定义网联体 验。高通FastConnect 7900系统利用AI树立高性能、低时延和低功耗连接新 标杆，是行业首个在单个芯片上集成Wi-Fi、蓝牙和超宽带技术的解决方案， 支持数字钥匙、物品寻找和室内导航等近距离感知应用场景的无缝体验。

2023 年 8 月 ，联发科宣布利用 Meta 新一代开源大语言模型（LLM）Llama 2 以及 联发科先进的 AI 处理器（APU）和完整的 AI 开发平台（NeuroPilot）， 建立完整的终端侧 AI 计算生态，加速智能手机、物联网、汽车、智能家居和 其他边缘设备的 AI 应用开发，为终端设备提供更安全、可靠和差异化的使用 体验。目前，大多数生成式 AI 都依赖云计算，MediaTek 基于 Llama 2 模型 成功实现直接在终端设备上运行生成式 AI 应用。这将为开发者和用户提供独 特优势，包括无缝的使用体验，更强的用户信息安全和可靠性，更低延迟，离 线运算的能力以及更低的运营成本，让每个人都能享受到生成式 AI 带来的便 捷与创新。

联发科宣布与阿里云达成深度合作，双方在天玑9300移动平台上完成通义千问 大模型小尺寸版本的端侧部署，该部署可适配天玑8300移动平台，可实现离线 状态下即时且精准的多轮人机对话问答。天玑 9300 集成 MediaTek 第七 代 AI 处理器 APU 790，APU 790 内置硬件级的生成式 AI 引擎，支持终端运 行 10 亿、70 亿、130 亿、最高可达 330 亿参数的 AI 大语言模型，并支持生 成式 AI 模型端侧“技能扩充”技术 NeuroPilot Fusion，生成式 AI 处理速度 是上一代 AI 处理器的 8 倍，1 秒内可生成图片。此外，MediaTek 的 AI 开发 平台 NeuroPilot 构建了丰富的 AI 生态，已适配全球主流的 AI 大模型，完整 的工具链包含对NeuroPilot Fusion 和 LoRA （低秩自适应）融合技术的支持， 结合 MediaTek AI 系统的强劲算力，助力开发者能更快地完成模型的优化和转 化，显著提升大模型的端侧处理效率，并赋予其更加全面的能力。

苹果发布M系列芯片专属的机器学习框架，风格与PyTorch相似，不过并不基 于任何已有框架实现。 苹果芯片在采用了一些独特的设计，例如统一内存，这些设计在框架中都可以 被利用。MLX框架也参考了不同机器学习框架的优势，包括NumPy、 PyTorch、Jax和ArrayFire等。 官方给出了5类MLX的使用参考案例：Transformer架构语言模型的训练；用 LLaMA或Mistral进行长文本生成；用LoRA进行参数微调；用Stable Diffusion进行图像生成，用Whisper进行语音识别。