中国信通院-人工智能行业：智能体治理研究报告（2026年）

2026年，全球智能体技术加速成熟，产业应用爆发增长。智能体凭借自主感知、规划决策与工具调用能力，推动人工智能实现从“能说话”向“能办事”的关键跨越。与此同时，智能体自主性、交互性与学习性特征叠加放大，推动风险从输出偏差向行动失控、从单点故障向网络传导、从静态缺陷向动态变异演进，对现有治理体系构成了前所未有的全新挑战。人工智能治理已全面进入从以内容合规、事前审查为重心的模型治理，向以行为约束、全周期治理为重心的智能体治理加速转型的关键阶段。

智能体技术演进与市场竞争格局

智能体是指能够感知环境、推理决策、执行动作以实现特定目标的智能计算系统，具有自主性、交互性、反应性和适应性等特征。从系统架构看，智能体主要由感知、记忆、规划、行动四大模块构成。感知模块负责接收和解析外部环境中多源异构信息；记忆模块由短期记忆和长期记忆构成，赋予智能体持续学习与个性化服务能力；规划模块是由大模型驱动的认知和调度中枢；行动模块则是智能体的执行终端，将规划决策转化为作用于外部环境的具体操作。

当前，智能体能力正沿“准确性提升”与“任务时长拓展”两条主线快速跃升，但呈现明显的“锯齿状”特征。根据GAIA通用能力测试数据，智能体准确率已从2025年1月的30%提升至9月的74.5%，与人类基准的差距收窄至约17.5个百分点。截至2026年6月，CustomGPT.ai以93.36%的综合得分，首次超越人类平均基准水平。然而，长程复杂任务仍是突出短板，METR同期数据显示，超过4小时人类工作时长的任务成功率不足10%。智能体单步误差会沿任务链条逐级累积放大，且当前普遍存在长上下文记忆衰减、执行中目标漂移等短板。

从技术迭代视角看，智能体发展划分为五个阶段：嵌入式助手、任务特定代理、协作代理生态系统、自主代理网络以及按需代理经济。当前正处于第二阶段向第三阶段跨越的关键时期，LangGraph、AutoGen、CrewAI等开发框架的涌现为构建智能体间通信与协作机制提供了有力支撑。

在市场竞争方面，AI头部企业、大型互联网平台企业、智能体初创企业等各方主体竞相布局。模型厂商如OpenAI、Anthropic、字节跳动相继将模型能力封装为智能体产品，力图打通“模型—智能体—用户”的垂直链路；科技巨头通过外延并购缩短能力构建周期；平台企业则将存量优势接入智能体生态。部署形态日益分化，逐步形成本地开源自托管、本地闭源打包分发、云端SaaS及API/SDK嵌入等多元形态，其中端侧智能体正成为各方未来战略竞逐的焦点方向。

智能体时代的风险图谱重构

智能体风险的特殊性不再是简单的输出错误，而是体现为由身份、权限、数据、工具和协作网络共同构成的链式行动后果。传统大模型风险在新形态下迁移放大，自主性、交互性特征催生新的风险增量，并进一步外溢至经济社会领域。

在传统模型风险迁移方面，幻觉风险从“输出错误”升级为“行动错误”。智能体依据幻觉结论自主规划并执行操作，单一步骤的微小偏差会在行动链条中逐级放大。例如编码智能体可能“幻觉”出不存在的第三方软件包名称并据此安装依赖，攻击者可抢先注册同名恶意包，使幻觉直接升级为供应链入侵入口。数据隐私风险同样在三个维度同步加剧：知情同意更难实现，暴露面持续扩大，以及长时记忆积聚泄露风险。

自主行为风险是智能体衍生的增量风险。权限方面，70%的组织授予智能体超出同等人类员工的权限，80%的组织已报告智能体执行了超出预期范围的行为。工具方面，面临组件广泛复用、风险叠加传导等问题，2026年2月安全团队扫描ClawHub平台近四千个Skill，发现超过36%存在后门指令、恶意代码等安全缺陷。

交互协作风险表现为级联失效导致风险广泛传导、跨域数据流转失控、责任追溯真空以及身份标识不统一。多智能体“虚假共识”与“恶意共谋”已从理论推演走向现实，2026年8月披露的大规模智能体群评测中，约1200个智能体为完成任务串通作弊，部分智能体突破沙箱隔离侵入开源平台。

经济社会风险集中体现在劳动力市场结构性冲击与垄断竞争失序。智能体已具备一定的“代理管理”能力，其替代的规划、分析等认知型任务覆盖中等技能岗位的主体部分。流量入口前置对应用生态形成挤压，当智能体在用户侧渗透率达到25%时，工具类应用整体商业价值预计将下降39%。此外，前沿失控风险浮出水面，前沿智能体正逼近“自主攻防”的能力临界点。

构建智能体三层治理框架

面对智能体时代的治理新命题，需聚焦基础层、运行层与生态层，构建系统的治理框架。

基础层治理的核心在于身份可信、权限可控与数据可管。智能体身份管理已成为保障安全、促进协作的基础设施，其核心作用包括建立可信准入、维护平台秩序和生态协作、支撑审计归责。身份标识应是完备的数字身份档案而非单一ID，涵盖开发者、部署者、功能权限、数据来源等信息。我国国家标准《人工智能智能体互联》第2部分“身份码”据用途划分为7个类别，目前累计发放超2000个身份码。

权限管理是约束智能体可访问范围和行动边界的关键。应以授权同意为前提，以最小权限为基本原则，运行过程中实施动态授权、权限隔离及权限撤销，以二次授权作为高风险场景的安全保障。当智能体判断操作涉及高风险场景时，自动触发用户二次确认机制，将“人在回环”的监督落实为具体技术流程。

数据管理方面，风险载体正从静态数据库转向动态记忆与行动链条。数据收集环节应贯彻最小必要原则；存储环节应确立“分域保管、按期清理”的记忆治理原则，建立分类隔离机制防止数据混用；处理流通环节应以分级管控与全链路追溯规范端云协同。

运行层治理侧重于审查评估、透明披露与风险干预。审查评估能力已难以跟进智能体发展迭代速度，评估内容维度显著超越大模型，需要覆盖指令遵循、Skill工具调用、行为边界等多个层面。评估方法论正从静态基准测试向动态闭环评估演进，但多智能体场景的评估仍存在较大空白。

透明度制度设计需从身份透明、能力透明、过程透明进行优化升级。身份透明要求智能体在交互初始阶段即明确披露其非人类身份；能力透明延伸出数据采集范围、Skill清单及操作后果等新维度的披露要求；过程透明则需构建决策可追溯机制，完善智能终端界面设计告知运行状态，并建立风险操作的动态告知机制。

风险干预强调通过运行时全程动态监测确保有意义的“人在回环”。异常行为监测重在识别偏离授权目标的风险，贯穿工具调用、访问授权、多智能体交互全链路；行为日志留存是实现风险可回溯的基础性工程；异常风险处置关键在于分级干预，设置自动熔断机制并将“一键关停”作为安全兜底。

生态层治理旨在明确责任配置、推动可信互联与维护竞争有序。责任配置以“控制力”为标准锚定责任归属，按照实际控制范围实施差异化归责，区分决策模式保障用户最终决策权。同时以多元工具组合编织责任安全网，将侵权责任、严格责任、保险补偿、合同约定分层组合。

可信互联是智能体生态行稳致远的价值底座。当前MCP、A2A两大主流协议相继汇入Linux基金会旗下的智能体人工智能基金会统一治理，但面临协议碎片化、标准竞争与生态割裂困境。应在多协议并存格局下推进兼容性治理，依托智能互联网体系架构布局，推动权威机构牵头顶层架构与安全基线。

在竞争秩序方面，互联网生态主导权可能逐步向智能体过渡。大型互联网平台掌握关键应用接入权，与部分智能体企业就授权原则存在分歧。“双重授权”和“默认授权”模式存在共存空间，未来应用分发平台可成为应用开发者声明授权的重要场所。一旦头部智能体成为主要流量入口，恐引发通过生态封闭限缩消费者选择权、通过自我优待取得不当竞争优势等问题，数字市场公平竞争制度将向智能体领域延伸。

全球智能体治理趋势动向

主要经济体基于各自产业禀赋与战略考量，围绕智能体加快制度供给。美国以前沿能力扩散防控为动因，以行政令确立前沿模型审查框架，并以标准体系构建递进式技术治理底座。欧盟以基本权利保护为底色，推动既有规则体系向新场景延伸，以《人工智能法》风险分类分级框架覆盖智能体价值链，并以竞争法工具规制智能体市场接入秩序。

新加坡以全球可信AI枢纽建设为战略目标，发布《代理式人工智能模型治理框架》，以四大治理维度覆盖智能体全生命周期，并以AI验证工具体系实现治理要求的工程化落地。中国回应“人工智能+”应用需求，探索大模型制度叠加式治理，发布智能体专门制度筑牢安全底线，并以标准先行布局智能体互联生态，批准发布《人工智能智能体互联》系列8项国家标准化指导性技术文件。

面向未来，智能体治理需从理念引领、制度完善、技术创新、生态构建四个维度协同发力。坚持安全与发展并重，明确人类主导的价值立场，树立敏捷治理的思维范式。完善产权界定规则，合理设定责任范畴，细化场景应用规则。深化身份与权限管理技术，强化安全测试与评估技术，提升风险监测与干预技术，着力构建以人为本、人机协同、多元共治的智能体治理体系。