2025年分布式推理网络（Distributed Inference Network DIN）技术白皮书.pdf

2025年分布式推理网络（Distributed Inference Network DIN）技术白皮书。2025 年1月20日，深度求索（DeepSeek）公司自主研发的国产 大模型DeepSeek-R1 模型以极低成本实现了与国际顶尖AI模型相当 的性能，凭借出色的性能和易用性快速扩张。随之而来的海量并发用 户访问请求，造成服务器资源迅速耗尽，DeepSeek多次出现网页和 API 无法访问的情况，用户在使用其服务时，频繁收到“服务器繁忙， 请稍后再试”的提示。同时，DeepSeek的火爆出圈也吸引了攻击者 使用多种网络攻击技术和手段持续进行攻击。随着普惠AI推理时代 的到来，需要考虑以AI模型和AI推理为中心构筑互联网，网络也将 面临新的网络流量模式的变化。实现普惠AI和AI推理大规模应用面 临AI推理基础设施能力不足，AI推理网络技术待完善，AI服务网络 安全防护能力待提升等挑战。

中国移动提出面向普惠AI 服务的新型分布式推理网络 （Distributed Inference Network，DIN），融合运营商网络协议可编程 和流量感知调度能力的优势，支撑中心、边缘或边云协同部署等多种 分布式方式的推理架构，挖掘算网一体安全推理、边云协同后训练、 模型分层协同、大小模型协同、训推协同进化、PD分离协同等多种 端边云协同模式，研究推理网络保障技术、推理服务调度技术、推理 安全防护技术等关键技术，解决大模型集中化部署模式下的大规模并 发推理能力不足的问题，构筑多维度安全能力，从而有效应对亿级海 量用户并发推理挑战并实现安全高效的AI推理服务。

未来中国移动在分布式推理网络方面，将联合产业界重点拓展应 用场景，构建融合端、边、网、算的DIN技术体系，解决AI推理在 个人（ToC）、家庭（ToH）及企业（ToB）应用中的成本、效率、安 全与场景适配难题，加速全社会普惠AI时代到来。