企业级智能体规模化落地面临哪些核心安全挑战与应对方案?

随着AI智能体在任务规划、工具调用和数据访问方面的能力不断拓展,其与业务流程的连接日益深入。但在实际落地过程中,智能体自身也成为网络攻击的目标,一旦被恶意操纵,风险将会被进一步放大。

请问当前网络安全企业在智能体安全防护方面推出了哪些具体的解决方案?同时,从AI供应链安全的角度来看,保障智能体安全运行需要重点关注哪些环节?

最佳答案 匿名用户编辑于2026/09/22 08:00

围绕数据调用、权限管控、行为监测等环节,网络安全企业正加快布局智能体安全产品和解决方案。

在具体的企业级解决方案方面,奇安信集团推出了企业级智能体安全解决方案,让多个安全控制点协同工作,由智能体安全平台统一管理,把资产、会话、模型调用、工具调用和网络行为关联起来,最终实现对企业智能体的统一发现、监测、管控、风险分析等。蚂蚁集团则推出了ASL智能体安全可信互联协议,聚焦智能体之间的交互合作,为其提供共同的安全规则:确认彼此身份,通过加密通道交换信息,保护用户指令,并约束每步的操作行为。

在AI供应链安全层面,智能体的安全运行不仅取决于模型自身,更依赖其身后的AI供应链,网络安全防护的范围需要扩大至供应链各环节。AI供应链覆盖数据、模型、软件、算力、平台、工具、服务7类相互依赖的资产,任何一类资产的来源都可能改变最终模型的安全、合规和业务表现。AI供应链安全最终要证明可信依赖能够产生可信结果,需要看见完整链条,绑定可验证证据,随时准备变化与退出。

政策端也在加速推进相关规范。今年5月,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,提出加强供应链安全,制定智能体开发、部署、应用、维护等全周期安全规范,探索建立智能体供应链安全信息共享和预警机制,并提出搭建产业协作平台,协同产业链上下游开展智能体共性技术研发、标准制定、评估认证等工作。数字生态的安全单靠任何一家企业都无法独立完成,必须坚持共建共享,构建立体协同防御体系。

参考报告REPORT

计算机行业跟踪报告:AI安全与企业级治理需求升温.pdf

全球AI大模型能力加速演进的同时,安全风险与治理需求正成为制约其进入高价值商业场景的核心瓶颈。2026年国家网络安全宣传周期间,人工智能对网络攻防及安全治理的影响成为焦点议题,标志着行业重心正从单纯的模型性能比拼向全生命周期安全治理转移。AI安全迈向全生命周期治理近期国内外监管机构和头部厂商的安全部署呈现较强一致性,AI安全正由单点的模型内容治理逐步走向覆盖数据安全、模型安全、身份权限、工具调用、运行时监测和安全评测的全生命周期治理体系。智谱MaaS平台宣布上线“数据内容不留存”机制,降低企业接入模型时的数据隐私顾虑;OpenAI发布模型失配行为报告框架,将安全措施失效等现象纳入持续跟踪与披露...

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

  • 相关问题
  • 最新问题
用户解答榜
分享至