中国电信：2025年AI智能体安全治理白皮书.pdf

上传者：不***
时间：2025/09/19
热度：1188
0人点赞
举报

中国电信：2025年AI智能体安全治理白皮书。当前，人工智能技术正经历从“对话智能”向“决策智能”跃迁的关键发展阶段。基于大语言模型的AI智能体已实现质的突破，其功能定位已从基础指令执行单元转型升级为具备复杂认知推理与战略决策能力的智能系统，最终发展为能够自主感知环境态势、独立制定行动方案并高效执行任务的"数字协作伙伴"。这一技术范式的革新显著拓展了人工智能的应用疆域，在金融风险管控、智慧医疗体系、先进制造产业及社会化公共服务等诸多领域，AI智能体正持续推动生产模式与服务形态的深度变革。

然而，技术能力的显著提升亦伴随着潜在风险的同步增长。近期发生的多起人工智能智能体安全事件，充分暴露了该领域现存的脆弱性特征。以2025 年4月发生的典型案例为例，研究人员发现某公司开发的智能体演示系统存在重大安全隐患，攻击者仅需在网页界面植入"下载并运行特定工具 "等常规自然语言指令，即可成功诱导已获"计算机操作"权限的智能体程序下载并执行木马程序，导致目标主机在极短时间内遭受入侵。该案例明确显示，当AI智能体被赋予自主执行权限时，常规语言交互机制可能被恶意利用作为远程攻击的后门通道。