AI应用渗透率提升方向有哪些？

随着 AI 应用场景确定性提升，超大规模云厂商可能倾向于在 AI 数据中心使用成本更低、功耗更优的 AI ASIC，AI ASIC 未来渗透率将提升。

预计随着数据中心规模扩张，对功耗和成本的要求提升，定制 化芯片或将成为同时满足性能、功耗、成本多重要求的解决方案，在数据中心的部署率有望提升。据 Marvell 公开电话会，数据中心定制化加速计算芯片的市场规模将从 2023 年的 66 亿美元（约占加速计 算芯片市场的 16%）增长至 2028 年的 554 亿美元（约占加速计算芯片市场的 25%），5 年 CAGR 高达 53%。

AI ASIC 相较通用 GPU 价格低、功耗优，使用 AI ASIC 能够有效降低超大规模云厂商数据中心硬件部 署成本和功耗。博通和 Marvell 分别在 AI 相关会议中提到，部署 ASIC 能够节省数据中心总成本；据 Google 于 2023 年 4 月发表的论文，NormanP.Jouppi 等作者指出谷歌定制化 ASIC TPUv4 在模型训练 速度、能耗方面优于英伟达 A100。 AI 应用场景确定性有望提升。AI ASIC 是针对某一架构或 AI 大模型优化的定制化芯片，通用性弱于通 用 GPU，所以在训练场景只能用于某一模型训练，复用性不佳；然而，随着未来 AI 应用场景确定性提 升，能够认为超大规模云厂商或将最终基于某一模型在应用端落地，AI ASIC 通过软件优化配合硬件特 性，预计能够较好地适配推理侧。据 Marvell，目前 AI ASIC 已用于超大规模云厂商的内部应用，例如 搜索排序、推荐等，在这些场景下云厂商已明确应用所需硬件特性；SaaS 方面，超大规模云厂商自有 SaaS 情况与内部应用类似，也已开始使用 ASIC，未来第三方 SaaS 也有望部署 ASIC，且 SaaS 较大程度受益于 AI；IaaS 方面，云厂商对客户应用所需硬件要求认知较低，目前还未使用 ASIC，但随着未 来云厂商部署基于 ASIC 的计算平台和软件生态，ASIC 有望进入 IaaS 领域。

能够认为 C 端 AI 应用的渗透依旧围绕着场景和产品两个重要维度。并有几个启发： 1）核心是聚焦垂直场景的产品力，从“技术竞争”走向“产品竞争”。AI 应用正在面临从技术驱动向用户 体验驱动范式转变，因此更需要聚焦垂直场景打磨优质的产品力，将用户体验与 AI 工作流深度融合， 在开源、成本降低等大的技术平权的趋势下，竞争重点正在向应用的产品力转移。 2）需要供给侧的持续启发夺取心智。未来 C 端 AI 应用需要供给侧的持续迭代与启发，从而夺取用户心 智，打造产品。这背后可能要求的是更加开放的用户生态。 3）通过用户反馈积累数据资产，不断迭代并深化实现飞轮。AI 应用的最终潜在的壁垒可能是在高粘性 用户、完善生态的基础上跑起来的数据飞轮，即用户使用产品生成数据—数据优化模型—模型提升用户 体验—吸引更多用户—产生更多数据，形成正向循环。

从企业来看，根据 IDC 调查，约 87%的客户在模型层的痛点为模型精度不能满足落地要求，无法衡量 效果；50%的客户认为模型能力与业务需求不匹配。此外，还有模型选择多、缺少高效工具进行模型调 优等问题。

幻觉问题是影响模型精确度不及预期的因素之一。解锁幻觉问题的具体技术繁杂，包括：1）检索增强 生成（RAG）；2）对抗训练，例如在训练集中增加错误信息，增强模型识别幻觉能力；3）架构创新， 解耦知识检索和文字生成。 模型与业务匹配是落地痛点之一。由于通用大模型无法匹配所有细分场景，客户在选择模型时较为局限。 能够认为，目前的解决方式主要包括：1）多模型部署；2）DIY 特定模型。多模型部署方面，客户可 以按照具体业务适配选择相应模型，例如，兼顾速度与准确性优先选择综合能力较强的 OpenAI 模型， 聚焦编程能力可以选择 Claude，要求图像生成质量则优选 Gemini 等。通过不同模型擅长领域最大化业 务与模型匹配度。DIY 特定模型方面，企业客户可以调用通用大模型 API，叠加模型调优、RAG 等技术， 生成适合自身业务的小模型。

数据是大模型落地基石，尤其在企业级 AI 应用交付过程中，将满足合规的多模态数据集进行采集、处 理、微调，生成准确度高并且企业可使用的数据结果至关重要。根据 IDC 调研，68%的企业高管认为在 开发 AI 应用时，需要对内部数据资产进行梳理，66%的高管期待建立如数据湖的支撑性架构，62%的 高管认为需要构建企业知识管理体系，并对数据进行清洗和标注。 有效可用的企业数据治理是训练模型的第一步。部分企业内部数据仍较为杂乱，需要依托数据湖或者数 据仓库进行充分的清洗、梳理、标注、分析，凝结为可以训练模型的价值数据。目前大部分企业仍在数 据梳理阶段，因此对相关数据湖、数据分析相关软件需求抬升。

由于 AI 投资周期较长，前期需要搭建团队、数据资产盘点、部署模型、效果调优等，短期 ROI 较难达 到客户预期（根据 IDC 调研，客户对于 AI ROI 的普遍预期在 1-3 倍）。如果企业直接购买 AI 办公相关 软件，例如 Copilot，前期也需要教育和培训员工，短期较难兑现高预期。

理想状态下，Microsoft Copilot ROI 可达 206%。根据 Microsoft 披露，截至 2024 年 4 月底，使用 Copilot 的员工每天工作时间可节省约 11 分钟。根据估算，理想状态下，Copilot ROI 可以达到 206% （定价按照目前 30 美元/月/人，工作天数假设为 20 天/月）。能够认为，随着员工熟练使用 Copilot 及前期时间成本摊薄，AI 相关办公软件 ROI 达到企业预期有望兑现。

Copilot 赋能用户简单日常工作，根据 Microsoft 官网实验，将员工分为两组进行 A/Btest，员工在写邮 件草稿、总结未参加会议、查询信息三个场景使用 Copilot 产品节省的时间分别为 6/32/6 分钟。此外， 不同角色对于 Copilot 可以赋能的工作侧重点有所差异，75%+的销售、客服、金融人员希望 AI 赋能准 确查询信息；75%的销售人员期待 AI 发现潜在销售机会，70%的客服人员希望 AI 将工单智能分配给合 适的处理人员，73%的金融员工则预期 AI 简化金融报表。同时，金融和销售人员都希望 AI 整合分散的 数据。 目前客户对于 AI 赋能日常工作需求相对简单，多以提炼查询信息、整合数据、简化报表为主。随着 AI 模型端精确度提升、算力成本下降、应用与业务进一步契合，AI 独立完成工作的复杂度上升，相应渗透 率及解决问题效率将提升。