生成式AI发展现状及规模化进展如何？

生成式 AI 生态应用快速发展。

生成式 AI 快速发展，应用数量快速增长。根据集微咨询，ChatGPT 自 2022 年 11 月推出后迅速成 为史上用户增长速度最快的消费级应用，其五天注册用户数突破 100 万，两个月注册用户突破 1 亿。 根据高通《高通白皮书 混合 AI》，AI 正迎来大爆发时期，就像此前电视、智能手机、互联网的问 世，而这仅仅是一个开始。 生成式 AI 对计算性能需求日益增长。基础模型的使用推动大量初创公司和大型组织使用文本、图 像、视频、3D、语言和音频创建应用，例如代码生成、文本生成、面向艺术家和设计师的图像生成， 以及对话式聊天机器人。根据 Gartner 预估，2030 年用于训练 AI 的数据将是真实产生数据的 3 倍。 以 ChatGPT 为代表的 AIGC 也将催生人工智能（AI）芯片需求量的爆发式增长，算力及信息传输速 率成为关键技术。计算架构需要不断演进并满足大规模生成式 AI 日益增长的处理和性能需求。

人工智能（AI）芯片根据部署位置和应用场景可以分为云端、边缘端两大类。其中云端可以分为云 端训练芯片和云端推理芯片，边缘端芯片则更为多样化。 云端芯片侧重于高性能和高计算密度。云端应用主要包括云计算数据中心、企业私有云等。云端场 景需要对文字、图像、视频等数据进行深度处理、多维分析，以实现用户的需求功能。云端芯片对 高性能和高计算密度有较高的要求。 边缘端芯片侧重于低功耗和高能效。边缘端应用主要包括各种消费电子、物联网产品、智能家居、 可穿戴设备、自动驾驶汽车等。边缘端主要实现文字、图像、视频的数据采集、初步处理和前端交 互。边缘端芯片对低功耗和高能效有较高的要求。

云端算力逐渐向边缘端迁移。随着人工智能在消费电子、智能家居、可穿戴智能设备、自动驾驶等 领域的发展，边缘端对低延迟、高带宽、隐私性等需求日益增长，云端的推理和训练算力正在逐渐 向边缘端迁移。

混合 AI 是指云端和终端协同工作，在适当的场景和时间下分配 AI 计算的工作负载，以提供更好的 体验，并高效利用资源。在边缘计算场景下，混合 AI 计算以终端为中心，在必要时向云端分流任务。 在以云为中心的场景下，混合 AI 将根据终端的计算能力，尽可能地从云端分担 AI 工作负载。 根据高通《高通白皮书 混合 AI》，混合 AI 具有成本、能耗、可靠性、安全性、个性化的优势。 混合 AI 具有成本优势。随着生成式 AI 的使用量和复杂性持续提升，云端推理对数据中心基础设施 的硬件、带宽、网络传输等要求日益提升。混合 AI 将生成式 AI 的一些处理从云端转移至边缘端， 可以减轻云基础设施的压力并减少开支。 混合 AI 具有能耗优势。和云端相比，边缘终端可以以较低的能耗运行生成式 AI 模型，尤其是将数 据传输和处理相结合时，这一能耗成本差异非常明显。混合 AI 可以帮助云服务提供商降低数据中心 的能耗，实现环境和可持续发展目标。 混合 AI 具有可靠性优势。边缘 AI 可以在云服务器和网络连接拥堵时，提供媲美云端甚至更佳的性 能。

当云侧 AI 的需求达到高峰期时，服务器会产生大量需求排队等待和高时延的情况，甚至可能出 现拒绝服务的情况，边缘 AI 可以在此场景下承担计算负载。 混合 AI 具有隐私保护功能和安全性优势。边缘 AI 的查询和个人信息完全保留在终端上，有助于保 护用户隐私。对于企业和工作场景，保护重要信息是生成式 AI 需要解决的重要问题。混合 AI 可以 确保个人数据和模型参数在边缘终端上的安全。 混合 AI 具有个性化优势。混合 AI 可以根据用户的表情、喜好和个性进行定制，所形成的用户画像 能够从实际行为、价值观、痛点、需求、顾虑和问题等方面来体现一个用户的特点，并且可以随着 时间推移进行学习和演进。 混合 AI 兼具云端和边缘端 AI 的优势，是生成式 AI 规模化的关键。目前生成式 AI 模型的参数动辄 达到数十亿级别，这对大模型的训练和推理都提出了极高的要求。尽管大型生成式 AI 模型每年仅需 要训练几次，但是单个模型的训练均需要消耗大量资源，并且这些模型的推理成本会随着日活用户 数量和使用频率的增加而上升。云端高昂的训练和推理成本导致生成式 AI 的规模化难以拓展。混合 AI 可以凭借其独特的优势解决上述问题，正如传统计算正从大型主机和客户端演变为当前云端和 PC、 智能手机等边缘端相结合的模式。

端侧 AI 已经可以支持数十亿级别参数模型。根据高通数据，截至 2023 年具备 AI 功能的手机、PC 和其他品类的便携终端数量已经达到数十亿台。目前智能终端已经可以支持丰富的生成式 AI 功能， 这些功能的模型参数在 10 亿到 100 亿（INT4 级别，下同）之间。如 Stable Diffusion 等参数超过 10 亿的模型已经可以在手机上运行，且性能和精确度达到和云端处理类似的水平。高通预计未来拥有 100 亿及更多参数的生成式 AI 模型能够在终端上运行。

基于基础模型的生成式 AI 迅速兴起，正在驱动新一轮内容生成、搜索和生产力相关用例的发展，覆 盖包括智能手机、平板、PC、汽车、XR 以及物联网等终端品类。混合 AI 架构将赋能生成式 AI 在 上述这些终端领域并提供全新的用户体验。