2025年大模型安全行业分析：从网络安全到AI安全的范式迁移

随着人工智能技术的快速发展，大模型正成为推动各行业智能化变革的核心引擎。据IDC预测，到2030年，人工智能将为全球带来22.3万亿美元经济收入。然而，大模型的广泛应用也带来了全新的安全挑战。传统基于规则和特征匹配的防御体系已然失效，我们正在从传统的“网络安全”时代，迈入以“大模型安全”为核心挑战的新阶段。360发布的《大模型安全白皮书》系统性地阐述了大模型安全面临的威胁全景和应对策略，为行业提供了重要的参考框架。

大模型安全风险呈现系统性、全栈式特征，贯穿基础设施、模型层、数据层、智能体层及用户端五大层次。攻击技术持续向高端化演进，同时攻击主体日趋平民化，“自然语言黑客”的出现极大降低了攻击门槛。面对这一全球性挑战，中国开创了“发展与安全并重”的敏捷治理之路，为技术创新与风险防控提供了动态平衡的框架。本文将深入分析大模型安全行业的现状、挑战和发展趋势，为行业参与者提供全面的参考。

一、大模型安全威胁呈现多维复杂态势，传统防御体系面临失效风险

大模型安全风险已形成多维度的复杂体系，超越了传统安全边界。根据2025年国家计算机网络应急技术处理协调中心发布的国内首次针对AI大模型的实网众测检验结果，累计发现各类安全漏洞281个，其中大模型特有漏洞177个，占比超过60%。这充分表明，当前AI大模型产品面临着大量传统安全领域之外的新安全风险。针对大模型的新型攻击手段层出不穷，已从技术层面的单一威胁演变为系统性风险，包括提示注入攻击、敏感信息泄露、供应链组件风险、模型中毒攻击、模型拒绝服务等多样化攻击。

攻击者的平民化趋势尤为值得关注。360集团创始人周鸿祎曾指出，“如今，从前台小文秘也能欺诈后台大模型”，普通人无需技术背景，仅凭简单的提示词就能发动专业级攻击，真正实现了“有手就行”的攻击平民化。这种“全民黑客”现象正使网络犯罪从技术壁垒走向大众化、产业化，给安全防御带来前所未有的挑战。大模型幻觉问题严重影响生成内容可靠性，由于大模型固有的技术特性带来的忠实性和事实性模型幻觉问题，会侵蚀生成内容可靠性基石，进而引发决策失误、信任危机并阻碍其在关键领域的深度应用。

智能体安全风险进一步放大了威胁范围。涵盖了从底层模型到高层行为的多个维度，主要包括记忆篡改、提示词注入、敏感数据泄露、Agent越权与失控风险、工具调用风险，以及智能体仿冒、中间人劫持等多智能体风险，这些风险相互交织，形成了传统安全体系难以应对的复杂威胁矩阵。清晰的网络安全边界正不断消融、趋于模糊，并延伸至大模型的全链路安全，这就要求安全防护必须从被动防御转向主动免疫。

大模型基础设施的安全风险是一个贯穿大模型生命周期的多层次威胁体系。它不仅继承了软件供应链、云服务、身份认证等的安全风险，更因其特有的软件生态系统而引入了全新的、高价值的攻击向量。针对大模型基础设施的攻击已经从理论变为现实，具体可以分为三种类型：针对算力基础设施的攻击、针对开发环境的攻击以及针对在线智能服务的攻击。攻击者正积极地利用不同维度的安全缺陷，发起多起备受瞩目的安全事件并造成了重大的经济损失。

在算力基础设施层面，“ShadowRay”攻击活动是最具代表性的算力基础设施入侵事件之一。攻击者利用了AI分布式框架Ray的一个关键架构缺陷（CVE-2023-48022）——其仪表盘和作业提交API在错误配置下无需身份验证即可公网访问。此次事件的后果极为严重，攻击者在全网扫描并入侵了数千台暴露的服务器，最直接的损失是大规模的计算资源劫持。他们部署了XMRig等加密货币挖矿软件，窃取了企业用于AI训练和推理的昂贵GPU算力（包括A100/H100），造成了巨额的经济损失。

二、中国特色的治理路径为行业发展提供政策保障，安全与发展并重成为核心原则

在国家层面，中国已明确提出“安全与发展并重”的原则，强调人工智能治理应“以人为本、智能向善”，既要防范安全风险，也要促进技术进步与应用。多部门出台了生成式人工智能相关法规，建立了“包容审慎、分类分级”的监管体系。近年来，国家网信办等多部门联合发布了《互联网信息服务算法推荐管理规定》、《信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法规，明确了服务提供者主体责任，在算法推荐、内容合成、模型管理等方面提出规范要求。

其中，《生成式人工智能服务管理暂行办法》建立了“包容审慎、分类分级”的监管体系，要求服务提供者履行安全评估、内容过滤、算法备案、模型备案以及产品登记等责任，并承担包括坚持社会主义核心价值观、防止生成歧视性内容、尊重知识产权、尊重他人合法权益等多项义务。该体系在为技术创新预留充分空间的同时，也充分体现了“发展与安全并重”的治理理念。2025年10月28日，第十四届全国人民代表大会常务委员会第十八次会议通过了关于修改《中华人民共和国网络安全法》的决定，其中第二十条明确提出了“完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展”。

监管部门构建了“事前-事中-事后”的全生命周期监管技术体系，开展大模型治理专项行动。2025年4月30日，中央网信办启动“清朗·整治AI技术滥用”专项行动。第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。

各产业与国家战略的同频共振也为行业发展提供了有力支撑。2025年8月21日，国务院印发《关于深入实施“人工智能+”行动的意见》，在第十四条强调统筹重点领域的发展与安全，体现了国家加快创新与筑牢安全底线的战略考量，既重视技术风险防范，又推动治理机制完善，为各地落实“人工智能+”行动提供了明确指引，确保人工智能发展始终安全可控。各区域和产业迅速响应，因地制宜制定实施方案，推动人工智能发展与安全统筹兼顾。

河北省在《河北省推动“人工智能+”行动计划（2025—2027年）》中提出“一体推进研发攻关、应用迭代和生态培育”，在钢铁、化工、汽车制造等八大产业推动行业大模型应用并建立安全评估机制。国家发改委、能源局联合发布的《关于推进“人工智能+”能源高质量发展的实施意见》也强调，在推动电网、发电等场景智能化的同时，提升能源领域人工智能技术安全应用水平。这些实践表明，中国正在走出一条具有中国特色的大模型安全治理之路。

三、技术创新推动安全防护体系升级，“以模治模”成为行业新范式

面对大模型安全挑战，行业正在从传统安全防护向智能动态防御升级。360提出的“以模治模+平台原生安全”代表了应对新范式的技术必然。它通过专用安全大模型，例如风险检测、幻觉纠正与红蓝对抗模型，对抗通用大模型风险，既具备“外挂式”插件的灵活快速，又兼具“原生式”的深度安全能力，实现了双向赋能的协同防御，构筑起从模型、数据、内容到行为的全链路深度防护体系。

在外挂式安全方面，360大模型卫士算力主机安全系统面向大模型服务器场景打造的轻量化终端级防护软件，精准契合企业在AI规模化部署中对资产安全、运行可靠、合规可控的核心需求。该系统为企业提供覆盖AI资产全生命周期的安全防护，实现从威胁感知到主动防御的一体化解决方案。系统的核心能力聚焦于四大维度：AI资产探测与画像，AI入侵检测与防御、AI漏洞检测与评估以及MCP检测与防御。

在平台原生安全方面，360AI企业知识库作为专为企业AI转型和高效落地智能体而打造的“企业级智能体应用知识中枢”产品，具备“AI知识库+企业级知识管理”双重特性。该产品以“事前定策略、事中保安全、事后可溯源”为核心，构建覆盖知识全生命周期的360°安全管控体系，从权限、分类、存储、审计到管理多维度保障企业知识安全。具体包括精细化权限与分类管控、多场景安全防护、全链路数据安全保护、知识全生命周期管理和全行为日志审计五大核心模块。

智能体构建和运营平台的安全能力同样值得关注。360基于对智能体原生风险与MCP协议安全隐患的深度洞察，打造了“Agent安全防护+MCP安全管控”双核心安全体系，既覆盖智能体从设计到执行的全生命周期风险，又破解MCP协议交互中的安全痛点。在Agent安全防护方面，通过“原生框架嵌入+动态沙箱拦截”的组合策略，实现从根源到过程的全维度防护。在MCP安全管控方面，从运行前风险评估和运行时安全防护两个维度构建完整的安全防护体系。

360大模型幻觉检测与缓解系统是一套致力于提升大模型内容生态可靠性、准确性与安全性的综合解决方案。该系统以检索增强技术、幻觉检测与缓解智能体为核心，构建起人机协作时代下内容生态的可信防线。通过构建动态反馈闭环，能够持续学习优化，持续提升大模型的能力，这种自我完善的机制最终将推动大模型从“概率生成”向“可信、准确推理”演进，重塑人机协作的信任边界。

在产业实践方面，360与北京大学联合研发的TinyR1-32B模型，聚焦开源大模型“安全性不足”的痛点，在安全对齐与推理性能上实现“双突破”。该模型采用创新的ControlToken技术，可根据内容安全检测信号动态切换工作模式，在安全与有用性之间实现自适应平衡。TinyR1-32B仅以DeepSeek-R1-0528约5%的参数量，在安全能力上超越Qwen3-32B 25分、DeepSeek-R1-0528 17分，并在数学、科学、代码等任务中达到后者93%的推理性能。

四、生态共治成为行业共识，开放合作构建可信AI未来

大模型安全的复杂性与全局性，决定了仅靠单一力量的技术或资源难以实现全链路、全场景的大模型安全治理。必须通过标准共建、产学研协同——例如开源安全模型、共建联合平台，以及组建产业联盟等形式，汇聚各方力量，共同打造智能时代可信、向善的安全基底。这既是产业发展的必然要求，也是国家层面的战略需求。

360深度参与了多项生成式人工智能安全国家标准的制定工作，包括《GB/T 45654-2025网络安全技术生成式人工智能服务安全基本要求》、《GB/T 45674-2025网络安全技术生成式人工智能数据标注安全规范》和《GB/T 45652-2025网络安全技术生成式人工智能预训练和优化训练数据安全规范》等，为行业安全合规和技术标准化提供了系统支撑。在人才生态建设方面，360携手国内顶尖高校与科研机构，聚焦大模型推理能力及大模型安全领域，深度开展产学研合作，并建立了覆盖本科至博士后的全方位人才联合培养机制。

联合实践成果显著。360联合中国信息通信研究院等单位共同建设的工信部人工智能大模型公共服务平台在2024年10月正式上线试运行，目前已有注册用户5000余人，累计访问量20万余次。依托平台安全检测能力，累计为100余家企业的大模型提供了模型安全等方面测试工作，支撑7个批次的AI Safety Benchmark大模型安全基准测试工作，挖掘出国内外主流开源大模型，以及部分商用模型的安全风险，有效支撑生成式人工智能安全治理工作。

在2025年9月举办的第22届中国东盟博览会上，360作为安全技术与服务合作方，为展会期间的大模型应用与安全运营提供了全方位支撑。依托模型安全、内容安全与平台管控等成熟能力，360为博览会AI应用场景提供了实时风险监测、智能内容过滤、身份与权限控制等关键安全保障。在为期五天的展会期间，系统累计防护89097次，拦截恶意请求117次、识别攻击行为571次，安全检测准确率超过95%，确保了大型公共活动中AI系统的稳定、安全与合规运行。

未来，构建安全、向善、可信、可控的大模型生态，需要企业、行业组织与用户等多方合力共筑。我们呼吁所有大模型技术与服务提供商将“安全、向善、可信、可控”奉为发展的生命线，践行“以模治模、原生安全”理念，将安全能力深度融入大模型全生命周期。行业用户需要建立常态化的AI安全能力评估与审计机制，在采购或自建大模型应用时，将服务商的安全资质、模型的抗攻击能力、数据的隐私保护方案作为核心考核指标。

以上就是关于2025年大模型安全行业的全面分析。从网络安全到大模型安全的范式迁移正在加速进行，传统安全边界不断消融，新型安全挑战层出不穷。中国特色的治理路径为行业发展提供了重要保障，“发展与安全并重”的原则确保了技术创新与风险防控的动态平衡。技术创新推动安全防护体系升级，“以模治模”成为行业新范式，平台原生安全构筑了坚实的基础。生态共治成为行业共识，开放合作是构建可信AI未来的必由之路。

随着人工智能技术的不断演进和应用场景的持续拓展，大模型安全行业将迎来更大的发展空间和更多的创新机遇。行业参与者需要持续关注技术发展趋势，加强合作创新，共同推动大模型安全生态的完善和发展，为人工智能时代的安全可控奠定坚实基础。

编辑：666知识控