2025年AI安全研究报告：网络安全领域正面临AI驱动的双重威胁

人工智能技术正在以前所未有的速度重塑全球网络安全格局。根据Check Point Research最新发布的《2025年AI安全报告》，AI不仅成为企业网络安全防御的重要工具，同时也被网络犯罪分子广泛利用，形成了"以AI对抗AI"的新型安全态势。这份报告基于对暗网活动、企业AI应用和网络安全威胁的深入分析，揭示了当前AI安全领域最值得关注的三大核心趋势：AI驱动的网络犯罪工具产业化、企业AI应用的安全风险，以及AI赋能的网络安全防御体系。本文将对这些关键发现进行详细解读，帮助读者全面了解AI技术在网络安全领域的双重影响。

一、AI驱动的网络犯罪工具产业化：暗网市场已形成完整产业链

​​网络犯罪领域正在经历一场由AI技术驱动的产业升级​​。报告显示，暗网中已经形成了从AI模型开发、销售到应用的完整产业链。与传统网络犯罪工具相比，这些AI驱动的工具具有更强的自动化能力和规模化潜力，正在改变网络犯罪的生态格局。

在暗网市场上，ChatGPT和OpenAI的API是最受网络犯罪分子欢迎的AI模型，而Google Gemini、Microsoft Copilot和Anthropic Claude等模型也正在快速普及。值得注意的是，阿里巴巴推出的DeepSeek和Qwen等开源模型因其使用限制少、提供免费套餐等特点，正在成为网络犯罪的新宠。如图1所示，暗网论坛上已经出现了大量关于利用DeepSeek进行恶意软件开发的讨论。

更令人担忧的是，网络犯罪分子不再满足于使用主流AI平台，而是开始开发和销售专门为网络犯罪定制的恶意LLM模型。这些"黑暗LLM"模型旨在规避主流AI平台的安全限制，被明确宣传为黑客工具。如图2所示，Onion GPT就是一个典型的暗网AI模型案例，它完全在Tor网络中创建和运行。

其中最臭名昭著的案例是WormGPT，它是通过对ChatGPT进行"越狱"而开发的。如图3所示，WormGPT在Telegram等平台上被宣传为"终极黑客AI"，能够不受道德约束地生成网络钓鱼邮件、编写恶意软件和创建社交工程脚本。该服务甚至提供订阅模式，突显了暗网AI服务的商业化趋势。

新一代的黑暗AI模型如GhostGPT和HackerGPT(图4)已经开始专注于网络犯罪的特定领域。这些模型有些是通过"越狱"主流AI平台获得的，有些则是基于开源模型进行修改。随着主流AI模型的演进，它们的黑暗版本也在同步升级，形成了持续的"猫鼠游戏"。

AI技术的滥用还催生了一类新型网络威胁——伪AI平台。这些平台表面上是提供AI服务，实际上却是为了传播恶意软件、窃取敏感数据或实施金融诈骗。如图5所示的HackerGPTLite就是一个典型案例，它伪装成AI工具，实际上很可能是网络钓鱼网站。类似的还有假冒DeepSeek下载网站，它们分发的是恶意软件而非宣称的AI工具。

二、AI赋能的社交工程攻击：从文本到视频的全方位威胁升级

​​AI技术正在彻底改变社交工程攻击的面貌​​，使其变得更加个性化、规模化和难以识别。报告详细分析了AI在文本、音频和视频三个维度的滥用情况，揭示了当前社交工程攻击的最新发展趋势。

在文本层面，大型语言模型(LLM)显著降低了生成可信网络钓鱼内容的门槛。攻击者现在可以轻松克服语言和文化障碍，生成具有母语水平流畅度和文化适应性的欺骗性内容。报告提到一个典型案例：Check Point Harmony Email&Collaboration系统拦截了一场使用多种文本变体的色情勒索活动，其中每封邮件都经过独特的重新措辞，如"您的时间已所剩无几"或"您的大限将至"等不同表述。

暗网论坛上已经出现了专门用于网络钓鱼和垃圾邮件活动的AI辅助工具。如图6和7所示，GoMailPro这类工具每月收费500美元，集成了ChatGPT来自动生成垃圾邮件和网络钓鱼邮件。其2024年的更新甚至增加了恢复被封锁电子邮件账户的功能，进一步增强了工具的实用性。

更专业的AI工具如GXC Team开发的"Business Invoice Swapper"(图8)能够自动扫描被入侵的电子邮件账户，查找发票或付款指令，然后修改银行信息将资金转移到攻击者控制的账户。这种工具利用AI克服语言障碍、处理海量数据并自动分发欺诈邮件，极大提升了商业电子邮件入侵(BEC)攻击的规模和效率。

在音频层面，AI生成的"深度伪造"语音正在被越来越多地用于复杂的冒充诈骗。利用ElevenLabs等平台或基于RVC算法的开源工具，攻击者只需十分钟的语音样本就能生成高度逼真的音频复制品。报告提到一个典型案例：诈骗者使用实时AI辅助的音频深度伪造技术，成功模仿了意大利国防部长Guido Crosetto的声音，向其富裕的联系人勒索钱财，声称需要资金来释放人质。

暗网论坛上的讨论显示，犯罪组织正在将AI生成的文本和音频整合到综合犯罪电话系统中。如图9所示，这些论坛上已经开始公开招募AI开发人员，为电话诈骗添加AI驱动功能。更先进的AI呼叫系统已经可以作为现成产品购买，主要用于OTP(一次性密码)机器人，它们会拨打潜在受害者的电话，按照预设脚本获取一次性密码，主要目标是金融服务账户。

2025年1月推出的一项服务(图10)展示了这些系统如何无缝处理多种语言并同时管理多个互动，与传统电话诈骗依赖熟练人工操作相比，大大提升了攻击规模。卖家解释说："我们创建了一个语音体系，AI可以根据这个体系引导客户"，强调AI能够脱离脚本处理涉及"任意话题、任意领域、任意语言和任意声音"的突发场景。

在视觉层面，AI生成的图像和视频正在被广泛用于绕过"了解您的客户"(KYC)验证。基础服务提供创建逼真身份的能力，用于欺诈性注册新账户、解锁冻结账户或劫持合法账户。如图12所示，AI生成的简单图像起价70美元，而针对主要KYC提供商(如ONFIDO、SUMSUB和JUMIO)的更专业服务收费更高，甚至要求从被劫持账户中提取一定比例的资金。

如图13所示，这些犯罪服务提供商通常会收到验证链接，并直接完成身份验证过程。价格因地区而异，欧洲和独联体国家的服务约350美元，而涉及伪造文件的美国和加拿大服务可高达500美元。

预先录制的深度伪造视频也被广泛用于欺诈，通常通过替换人脸和音频来展示支持骗局的知名人士。报告提到一个典型案例：在格鲁吉亚第比利斯的一次行动中，使用了以Ben Fogle和Martin Lewis等公众人物为主角的深度伪造视频来宣传欺诈性加密货币投资，导致英国和加拿大的6,000多名受害者被骗，损失达3,500万美元。

更令人担忧的是实时视频操控技术的发展。虽然像OpenAI的Sora这样的高端AI视频生成器仍受限制，但低分辨率的实时换脸工具已经可用并被积极使用。报告提到一个典型案例：2024年初，英国工程公司Arupp损失了2,000万英镑，原因是网络犯罪分子使用深度伪造视频技术在实时视频通话中冒充高级管理人员，说服一名员工将资金转入欺诈账户。

三、企业AI应用的安全挑战：机遇与风险并存

​​企业AI应用的快速普及带来了新的安全挑战​​。根据Check Point的数据，每月至少有51%的企业网络使用AI服务，其中1.25%的提示存在较高的敏感数据泄露风险，另有7.5%的提示包含潜在敏感信息。

全球范围内的企业AI使用情况呈现显著差异(图1)。有趣的是，在企业网络中使用AI服务比例最高的国家中，没有英语国家位居榜首，这可能与对AI驱动产品(如翻译服务)的依赖程度较低有关。

在企业环境中，OpenAI的ChatGPT是目前使用最广泛的AI服务，出现在37%的企业网络中，其次是微软的Copilot(27%)。写作助手服务如Grammarly(25%)、DeepL(18%)和QuillBot(11%)也颇受欢迎，视频与演示工具如Vidyard(21%)和Gamma(8%)同样被广泛采用。

2024年12月以来的使用数据显示，大多数企业环境中的AI服务暴露水平相对稳定(图3)。过去一个月中，除DeepSeek外，大多数服务略有增长，显示出持续的增长和采用趋势。

对DeepSeek的深入分析显示，在其2025年1月底正式发布后，使用量激增，随后逐渐下降，可能与安全和隐私问题有关。这一趋势表明，新AI服务的快速采用使网络和安全管理员面临有效学习和管理的挑战，增加了潜在风险。

企业AI应用主要面临四大风险：首先是影子AI应用程序问题，员工使用未经授权的AI工具可能导致安全漏洞和合规问题；其次是数据丢失风险，AI模型处理的各种数据可能被存储、与第三方共享或安全措施不足；第三是GenAI应用程序中的新兴漏洞，可能引入新的安全弱点；最后是过度代理风险，AI系统可能被恶意操控，导致意外决策或敏感信息暴露。

以上就是关于2025年AI安全领域的全面分析。随着AI技术的快速发展，网络安全格局正在经历深刻变革。一方面，AI为网络防御提供了强大工具；另一方面，网络犯罪分子也在积极利用AI增强攻击能力。企业需要采取全面的AI安全策略，包括加强AI应用的管理和监控、提升员工安全意识、部署专业的AI安全解决方案，以及建立适应AI时代的安全防护体系。只有充分认识AI带来的双重影响，才能在数字化时代构建真正有效的网络安全防御体系。

编辑：666知识控