AI时代深度伪造和合成媒体的安全威胁与对策.pdf

上传者：9*****
时间：2024/12/19
热度：574
0人点赞
举报

AI时代深度伪造和合成媒体的安全威胁与对策。深度伪造和合成媒体技术带来的影响是深远和复杂的，安全牛从正反两面进行了总结。从正面来看，其在多个领域的巨大潜力和价值不容忽视，如个人娱乐、历史教育、亲人缅怀、医疗旅游等；从反面来看，随之而来的消极影响也不容小觑，如虚假宣传、名誉损坏、财产损失、道德伦理和安全威胁等多个角度。

整体来看，美国是最早提出对深度伪造技术进行立法的国家，拥有最多的针对性法律法规；我国在相关政策制定和理论研究等方面也在积极推进中。例如，《网络音视频信息服务管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》等的出台，推进了我国在深度伪造和合成媒体监管侧法规依据的不断完善。

目前国内对现有的深度伪造安全防御技术根据策略不同进行划分有两种类型，即主动式防御（信任类）和被动式防御（检测类）。检测类是当前应对深度伪造负面对抗的主要形式。具体的检测技术有多种，目前基于多模态的检测方法是业内公认的有效手段。

安全牛公开调研收集的深度伪造和合成媒体安全市场相关信息显示，2023 年我国深度伪造和合成媒体安全市场规模达到 1.19 亿元，预计 2024 年同比增长 243%，达到 4.08 亿元。其中，各部委、公检法、传媒集团、银行和运营商是深度伪造和合成媒体安全市场的主要采购客户。从投融资信息角度来看，2020 年是资方看好深度伪造和合成媒体创新厂商的主要时机，在这一年瑞莱智慧、深信科创获得了天使轮投资，中关村科金获得了股权投资。2024 年，获得投融资的两家企业为中科睿鉴和瑞莱智慧，两家企业均为国家队成员。

深度伪造技术领域的重度参与者可以按照研究侧和服务侧两部分进行划分。研究侧包括拥有深度伪造专利认证的金融机构、科研院所和高校；服务侧则涵盖了提供深度伪造和合成媒体安全服务的企业，可分为以网络和数据安全为主营业务的企业，以及以人工智能为核心的企业和满足自我检测需求的互联网企业。目前，这三类服务企业均处于初级阶段。在整体能力上来看，存在各自的优势及问题，融合发展有望是未来的解决之道。