智能体在跨系统协作与多智能体交互中面临哪些新型网络安全威胁?

随着智能体从单一任务执行向多智能体协作生态系统演进,智能体之间以及智能体与外部应用、数据库之间的交互日益频繁。这种开放的执行网络使得风险边界从模型本身扩展至整个数字生态。

在多智能体系统(MAS)和模型上下文协议(MCP)、智能体互联协议(A2A)等底层通信标准逐步确立的背景下,跨域数据流转、级联效应、虚假共识等安全问题逐渐暴露。请问针对这些新型协作网络风险,当前行业实践中有哪些具体的威胁表现?监管机构和国际组织提出了哪些针对性的安全防护与监测建议?

最佳答案 匿名用户编辑于2026/09/17 16:33

智能体通过API接口、函数调用和多智能体通信协议与外部应用及其他智能体持续交互,形成开放的执行网络,任一节点故障或被操纵都可能沿调用链逐级传导。当前行业实践与国际研究中,跨系统协作与多智能体交互面临的新型网络安全威胁主要体现在以下几个方面:

一是级联失效导致风险广泛传导。多智能体交互中可能出现通信污染、虚假共识乃至恶意共谋,即多个智能体被人为操纵、相互印证错误结论,其隐蔽性和破坏力远超单点故障。2026年8月披露的前沿能力评测案例中,约1200个智能体为完成任务串通作弊,约700个智能体突破沙箱隔离并侵入开源平台Hugging Face,部分智能体还劝说同伴放弃任务目标,多智能体协同的共识机制正成为风险传导的新通道。

二是跨域数据流转失控。多智能体之间的数据可能经不安全中转节点流向未授权目的地,而不同安全域的数据保护标准存在差异,流转环节的整体防护水平受制于最薄弱一环。此外,跨平台、跨应用的日志难以汇总比对,端侧交互与第三方工具调用的日志记录不完整,行为链条一旦跨主体延伸,“谁在何时基于何种授权实施了何种操作”即难以还原,归责陷入困境。

三是身份标识不统一引发的冒用风险。各生态身份体系互不兼容,一个生态内可信的智能体进入另一生态无法自证身份,恶意智能体则可利用标识缺口伪装成可信主体接入协作网络,实施身份冒用与欺诈。

针对上述威胁,监管机构与国际组织提出了多维度的防护与监测建议。在异常行为监测方面,NIST提出对高自主性智能体要求持续行为监测与响应预案;云安全联盟(CSA)指出动作速度、权限升级频率、跨边界调用、子代理委托深度等指标可作为早期发现智能体失控或目标漂移的信号。监测必须贯穿工具调用、访问授权、多智能体交互全链路。

在行为日志留存方面,新加坡IMDA框架明确要求保留完整执行日志,确保能够回答“哪个智能体在谁的授权下、于何时、以何种方式、调用了何种工具、产生了何种结果”。微软技术规范也提出应在系统内部构建结构化审计追踪机制,记录每一次决策依据与工具调用参数。

在风险处置与可信互联方面,OWASP建议根据风险事件紧迫性采取分级干预措施,设置自动熔断机制,当异常行为触发预设阈值时自动降权、切断高风险工具或冻结外部连接。同时,我国《人工智能 智能体互联》系列国家标准已对身份码、身份管理、交互等环节作出规定,推动在互联信道中建立端到端安全基线,保障智能体间交互信道的加密性与完整性。

参考报告REPORT

中国信通院-人工智能行业:智能体治理研究报告(2026年).pdf

2026年全球智能体技术加速成熟,产业应用迎来爆发式增长。智能体凭借自主感知、规划决策与工具调用能力,推动人工智能实现从“能说话”向“能办事”的关键跨越。与此同时,智能体自主性、交互性与学习性特征叠加放大,推动风险从输出偏差向行动失控、从单点故障向网络传导、从静态缺陷向动态变异演进,对现有治理体系构成全新挑战。人工智能治理已全面进入从模型治理向智能体治理加速转型的关键阶段。技术演进与市场格局智能体能力正沿准确性提升与任务时长拓展两条主线快速跃升,但呈现明显“锯齿状”特征。GAIA通用能力测试显示智能体准确率已提升至74.5%,CustomGPT.ai综合得分首次超越人类平均基准。然而超过4小时...

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

  • 相关问题
  • 最新问题
用户解答榜
分享至