上海人工智能实验室_&信通院&蚂蚁：终端智能体安全2025白皮书.pdf

上传者：不***
时间：2025/08/01
热度：719
0人点赞
举报

该文档为《终端智能体安全2025白皮书》，由上海人工智能实验室、中国信通院及蚂蚁集团联合发布，旨在探讨人工智能大模型在终端设备上的部署与应用所面临的安全挑战及应对策略。

研究背景与核心价值

随着生成式AI和大模型技术的快速发展，智能体（Agent）正逐步从云端向终端侧下沉，以实现更低延迟、更高隐私保护的数据处理。然而，终端智能体在架构设计、模型推理、数据交互等环节引入了新的安全风险，如提示词注入、模型劫持、隐私泄露等。本白皮书系统梳理了终端智能体的技术架构与安全威胁模型，提出了涵盖模型安全、数据安全和系统安全的全栈防护体系。

主要观点与建议

文档重点分析了智能体在自主决策、工具调用和多轮交互中的潜在漏洞，并提供了具体的安全加固方案，包括可信执行环境（TEE）的应用、安全对齐技术以及运行时监控机制。对于致力于布局AI终端、智能硬件及大模型应用的企业而言，本报告提供了重要的合规参考与技术实施指南，有助于构建可信、可控的AI终端生态系统。