人工智能行业专题报告：AI监管，铸就创新与安全平衡之道.pdf

人工智能行业专题报告：AI监管，铸就创新与安全平衡之道。AI 发展引发新的安全问题：以 ChatGPT 为代表的生成式人工智能正在 重塑数字内容的生产方式和消费模式，显著地影响各行各业变革。今年 以来，大模型技术与 AIGC 快速融合发展，大模型生成的内容能够达到 “以假乱真”的效果。相应地，应用门槛的不断降低，使得“换脸”、“变 声”等手段更容易实现，因 AIGC 滥用带来的虚假信息、偏见歧视乃至 意识渗透等问题无法避免，对个人、机构乃至国家安全都存在较大的风 险。因此对生成式人工智能服务的新监管需求也随着而来。目前。AI 多 带来的新安全问题主要包括 AIGC 内容安全和数据安全问题。

AI 监管：政策与法规先行：考虑到 AI 可能对社会带来的安全问题，安 全标准、法律法规和自我监管是对 AI 进行监管较为重要的基石。政府 层面，亟需出台监管政策对其加以规范，实现监管覆盖全面化，分阶段、 全流程规范 AIGC 相关要素。企业层面，也需要通过被监管以消除社会 对 AI 大模型的不信任。中国政府重视 AI 产业，国内网信办等 7 个部委 发布的《生成式人工智能服务管理暂行办法》将于 2023 年 8 月 15 日起 正式施行，同时《国务院 2023 年度立法工作计划》显示，《人工智能法》 已列入立法计划， AI 监管政策正加速推进。

AI 监管：平衡创新与安全、监管手段多样：AI 监管主要是面向 AIGC 技术的违规应用，应对 AIGC 可能给社会、政治、金融、教育带来的危 害，这是国家安全、社会安全的关键，因此，对于 AI 监管来说，要从 内容安全机制、技术监管手段等层面进行突围。内容安全机制的原理是 通过数据安全控制、算法备案和安全评估、内容安全合规等一系列流程 确保生成内容符合法规和监管要求。技术监管手段的原理是利用 AI 对 抗 AI，通过海量测试数据集，对 AIGC 生成式模型的数据、过程、生成 内容进行全过程的测试、监管。

AI 监管有望催生千亿市场：2030 年我国人工智能核心产业规模将超过 1 万亿元人民币。一般信息化投入中安全占比至少在 5%-10%以上，而 由于 AI 大模型特殊性，AI 安全未来将成为所有参与方必须考虑的问 题，贯穿从数据标注、模型训练和开发、内容生成、应用开发的事前-事 中-事后全过程，投入力度不亚于传统安全投入，因此假设 AI 监管在整 个产业链中的占比按照 5%-10%来测算的话，我们预计到 2030 年国内 AI 大模型的监管市场规模将达到 500-1000 亿元。