亚马逊深度跟踪报告：生成式AI时代，亚马逊云AWS落后了吗？.pdf

亚马逊深度跟踪报告：生成式AI时代，亚马逊云AWS落后了吗？报告缘起：大语言模型时代，市场质疑亚马逊 AI 能力，以及对 AWS 的可能拖 累。此前亚马逊发布多项生成式 AI 以及 AIGC 相关产品，入局全球大模型竞赛 当中。我们认为，公司作为北美最大的电商与云计算巨头，在应用场景、算力 储备等方面具备深厚积累。虽然公司计划将 AI 产品逐步导入到商品内容生产、 搜索推荐等领域，并有望为公司带来降本增效、增厚公司云计算收入等方面的 正向影响，但市场对公司本身模型能力、商业化能力以及云计算后续的市场竞 争仍存在一定担忧，具体体现在：1）亚马逊在算法层面是否与微软、谷歌等闭 源模型厂商存在显著差距；2）在算力层面，AWS 能否支撑自身 AI 业务的需求 以及是否具备支撑外部企业的 AI 能力；3）与 AI 相关的软硬件堆栈，AWS 自 身的优势与竞争力。

市场需求：企业 AI 需求较 2C 市场存在显著差异，并体现在应用场景、差异化 数据等层面。对企业而言，开源、闭源模型的选择将聚焦在模型自身能力以及 使用成本的平衡上，同时开源与闭源模型之间的差距在企业需求中的体现大概 率将持续收窄，因此后续来看，AI 的需求对云厂商提出了更高的要求。一方面， 云厂商必须要提供性能靠前的多种类模型，以满足企业多样的业务需求；另一 方面，在 AI 产品搭建过程中，需要完整的硬件体系支撑模型的训练、微调、部 署，以及完整的软件栈进行相应处理。在这一趋势下，预计软硬件堆栈能力将 逐步成为云厂商在生成式 AI 时代最为核心的能力。

模型能力：AWS 具备大语言模型的研发能力，并致力于构建更为开放的 AI 生 态。虽然亚马逊对自研模型 Titan 的披露相对较少，但我们可以从亚马逊在语音 以及其他领域大模型的研发情况进行相应参考。以亚马逊在 2022 年发布的 AlexaTM 为例，虽然该模型并没有完全采用其他大型语言模型使用的“仅解码 器架构”（GPT 思路），但 AlexaTM 20B 模型是序列到序列 (seq2seq) 编码 器-解码器架构，同时结合了“师生模型”的思路进行训练。虽然模型的体积、 架构与当前主流的 GPT 式模型存在一定不同，但在小规模数据下，AlexaTM 20B 在多种语言任务上优于拥有数千亿参数的大型模型。在数据能力维度，亚马逊 提供开源了语言数据集 Mintaka、多模态数据集 Alexa Arena 等。生态层面，AWS 与 Hugging Face 合作，推出多种开源模型，对自身模型能力提供补充。

硬件堆栈：自研芯片&硬件，覆盖训练、推理等关键环节。经过早期探索，AWS 底层采用了自研的 Nitro 系统架构，将虚拟化功能从服务器卸载到 Amazon Nitro 专用芯片上，大大降低了物理性能的损耗，并提升了安全机制，优化了网络与 输入输出机制。AI 计算层面，AWS 推出人工智能业务的推理芯片 Inferentia 与 训练芯片 Trainium。AWS 通过在关键计算要素的自研&定制化，实现系统效率 的最优。软件层面，亚马逊提供 Neuron 框架，包括深度学习编译器、编译工具， 这些工具与 TensorFlow 和 PyTorch 等流行框架原生集成。上述硬件为 AWS 进行模型的训练、部署提供完备的硬件堆栈。