人工智能安全用算新范式：2025年存算分离与云边协同技术应用研究

在人工智能技术加速与实体经济深度融合的背景下，企业面临模型训练与推理算力需求爆炸式增长的同时，也面临着数据安全、用算安全和成本控制的多重挑战。根据国际数据公司（IDC）的分析，2025年已有42%的中国企业开始进行大模型初步测试和重点概念验证，而Gartner报告更预测到2030年AI渗透率将达到80%，届时将有1200万家大中小企业使用AI推理。在这一趋势下，如何保障企业数据安全的同时降低用算成本，成为行业发展的关键问题。

基于智能IP广域网（AIWAN）的存算分离与云边协同训推技术方案，正是针对这一痛点提出的创新性解决方案。该方案通过模型拆分学习、精准流控和自动流级调度等核心技术，实现了企业原始数据不出域、安全租用云端算力、降低用算成本的目标。实验室验证表明，该方案在LLAMA2-13B、Qwen2.5vl-32B等大模型100KM和400KM存算拉远场景下，算效劣化低于3%，在200KM云边协同推理场景下，劣化不超过5%，为企业安全用算提供了可靠的技术保障。

一、数据安全与算力成本的双重挑战驱动技术革新

企业在大模型微调训练和推理场景中，通常面临三种算力解决方案：自建算力中心、租赁算力服务器本地使用、网络访问第三方智算资源。然而，这些方式都存在明显局限性。自建算力中心需要大量资本支出和人员投入，一般企业难以承担；租赁算力服务器本地使用虽能保证数据安全，但算力资源有限且成本高昂；网络访问第三方智算资源虽能降低本地算力投入，但数据在传输过程中面临泄露风险。

国家数据局等部门提出的“原始数据不出域、数据可用不可见、数据可控可计量”治理理念，明确了数据需在原始产生域内处理的要求。这意味着企业用于训练的样本数据、模型微调训练数据和推理输出结果都需要在本地完成处理，避免跨域流动中的安全威胁。数据可能泄露的环节包括数据上传、Token传输、云服务器攻击等，这些风险使得许多企业对使用云端算力资源持谨慎态度。

另一方面，算力成本问题同样不容忽视。企业自建、自维智算资源需要大量CAPAX及人员投入，而通过网络租用算力资源，在现有的IP广域网技术架构下，由于网络丢包及智算“大象流”难以得到精细化识别与负载均衡，导致第三方智算资源池计算效率大大下降，同样提高了用算成本。这两种情况都使得企业在推进人工智能应用时面临巨大经济压力。

智能IP广域网技术通过存算分离与云边协同训推方案，有效解决了这些矛盾。该方案包含“存、网、算、控”四个部分，基于SRv6的智能IP广域网构建连接枢纽，采用精准流控、自动流级调度技术实现用户私有存储与远端算力中心之间的高效无损传输，使用数据加密技术保障数据传输安全。这一架构既满足了企业敏感数据园区外“不落盘”的安全需求，又实现了数据样本面跨智能IP广域网拉远、边训边传，有效降低了企业本地部署算力成本。

二、模型拆分学习技术实现安全与效率的平衡

模型拆分学习技术是存算分离与云边协同方案的核心创新之一。该技术通过将大模型按安全等级和处理需求拆分部署，从根本上避免了原始数据泄露的风险。具体而言，企业园区（边侧）部署靠近原始数据输入的前几层以及靠近模型推理结果的后几层作为客户端模型，而智算中心（云侧）部署模型的剩余部分，通常是更深的、计算量更大的层作为服务器端模型。

在大模型训推过程中，数据拥有方仅将原始数据经过模型前几层训推后的中间结果（即隐变量）发送到算力提供方，并未发送原始数据。由于隐变量是高维向量，不可直接读取，进一步保护了数据隐私安全。当前主流大模型主要基于Transformer架构，完整的模型由多个Transformer Block层堆叠组成，其中Transformer层中引入了非线性运算变换，仅获取经过非线性运算后的输出结果，将无法恢复原始输入，因此只传输中间层输出便可更大程度地保护原始数据。

这种技术架构带来了三重价值：数据安全方面，关键数据全程闭环在企业侧，无跨域传输环节，彻底规避了数据拦截、窃取风险，满足等保监管与行业合规要求；模型安全方面，首尾层与中间层物理隔离，远端中心无完整模型，训推过程仅传递过程向量数据，无模型文件或核心参数泄露可能，确保整体模型“0”暴露；算力资源优化配置方面，通过“企业侧保留少量算力+远端租用大算力”的模式，大幅降低企业算力投入。

实测数据显示，因传输数据量精简、网络传输高效，整体算效损失控制在5%以内，实现了“低成本不降算效”，完美契合企业对成本、场地、用电、运维等轻量化诉求。相比现有大模型训推技术方案，模型拆分学习技术实现了企业数据全程不出园区，网络中仅传输计算过程产生的高维向量，远端智算中心处理的也为高维向量，真正实现了“安全与效率、成本与性能”的平衡。

三、精准流控与自动流级调度保障网络传输效率

广域RDMA技术虽提供了高吞吐数据传输能力，但在长距传输场景仍受到丢包、时延、网络带宽稳定性等方面制约，易导致远端存储与计算节点间的数据交互“时断时续”，AI模型训练样本数据拉取频繁卡顿，推理任务响应延迟波动大，极大影响用算效率。针对这一问题，精准流控技术和自动流级调度技术提供了有效的解决方案。

传统流量控制技术基于IEEE802.3定义的以太Pause机制，下游设备通过发Pause帧给上游设备实现流量降速。基于优先级的流量控制技术（PFC）在此基础上进一步增强，基于优先级为不同的业务提供不同服务。然而，该技术存在潜在风险：当端口下某租户拥塞，流量会流控反压，且逐跳扩散，引发全局性灾难，导致租户算效无保证。

精准流控技术结合SRv6技术，在反压报文中除了携带需要进行流量控制的优先级外，还携带了用户流量特征信息。相较于PFC可实现更精细化的流量控制，实现租户间拥塞不扩散。在智能IP广域网中，精准流控技术与SRv6切片功能结合，通过整网路径部署对应的切片，在满足不同业务对网络带宽、时延、抖动等差异化SLA需求的情况下实现逐级反压。

自动流级调度技术则解决了AI大模型训推数据产生的“大象流”导致的网络负载不均衡问题。该技术通过控制器纳管智能IP广域网设备，基于优化算法以网络带宽利用率最大为目标进行路径规划，实现网络运力最大化。基本工作流程包括：整网流量路径信息收集、大象流精准识别、路径&流量信息上送、最优路径计算&策略下发四个环节。

实测验证表明，在使能RDMA无损能力条件下，100KM和400KM存算拉远场景，各模型算效劣化低于3%。基于1Gbps、10Gbps、20Gbps、50Gbps、100Gbps带宽测试有效吞吐在90%以上。基于自动流级调度使得智算业务流和通算业务流整网负载分担均衡，负载分担误差在5%以内。基于精准流控技术的RDMA无损专线业务，租户带宽共享，单租户拥塞故障不会导致其他租户业务受损。

四、云边协同推理实现算力资源优化配置

云边协同推理是存算分离与云边协同训推技术方案的另一个重要应用场景。该场景基于SRv6的智能IP广域网，利用模型拆分学习技术、精准流控和自动流级调度技术，实现“算、网、端”三层协同联动，既保证了企业数据不出域，又减少了企业边侧本地算力部署规模，进一步降低了企业用算成本。

在“算”的层面，采用模型分层部署策略，数据不出域。模型首尾层部署在企业侧，中间层部署在云端，中间交互梯度值、激活值等，保障样本/Prompt数据不出域。在“网”的层面，采用RDMA无损网络，业务SLA有保障。网络对训推参数面RDMA业务流保证高性能传输，训练算效高，推理时延、吞吐有保障。在“端”的层面，实现端侧算网一体可视，极简部署运维。训推算力+RoCE网络一体化，一键部署，开通、运维极简。

实验室验证结果显示，集中式推理NPU芯片算力利用率平均为51.25%，而云边协同推理边侧算力利用率平均为4%，云侧算力利用率在45.88%。实测表明，对比集中式推理部署模式，云边协同推理可将服务器算力资源优化配置，在企业侧（边侧）部署少量算力，在智算中心侧（云侧）部署大量算力，实现大幅降低企业本地算力成本投入。

安全性测试方面，实验室模拟了园区、智能IP广域网络、智算中心环境，设置了集中式推理和云边协同推理的对比实验。结果显示，集中式推理企业推理请求及响应内容全程抓包可获取，网络抓包在显示prompt、model、key等关键信息可见，而协同推理则全以密文方式呈现，抓包内容不可见。这证明了模型拆分学习技术在实施部署层面与理论一致，能够有效保障数据安全。

以上就是关于2025年存算分离与云边协同技术应用的分析。随着AI大模型技术在各行业的持续深入应用，该技术方案有望在更多复杂真实环境中验证其可靠性与稳定性，确保在不同行业、不同业务场景下均能发挥最佳效能。未来，通过推进相关技术的标准化工作，联合产业各方力量共同制定统一的技术标准与规范，将进一步提升技术的通用性与兼容性，促进产业链上下游的协同发展，为我国人工智能产业的高质量发展提供有力支撑。

编辑：666知识控