全球大模型监管现状如何？

目前，就欧盟、美国及英国而言，其均将大模型作为人工智能的一部分进 行监管，因此，对于境外大模型的监管现状的梳理，需要与整体人工智能监管 现状相结合。

1. 欧盟

(1) 立法现状 2016 年 10 月，欧盟议会法律事务委员会颁布《欧盟机器人民事法律规则》 (European Civil Law Rules in Robotics)13，正式揭开了欧盟人工智能与大模 型合规监管的立法篇章。此后，欧盟陆续颁布了与人工智能和大模型合规监管 密切相关的一系列法案及政策，其中尤以《人工智能法案》(Artificial Intelligence Act)14 最值得注意。目前，《人工智能法案》已经进入最终谈判阶段， 一经通过，其可能成为全球第一部专门针对人工智能进行综合性立法的区域性 法规。总体来看，欧盟针对人工智能与大模型合规监管的政策采取了专项法案 为主、现存法规为辅的结构，以《人工智能法案》作为治理核心，结合可能涉 及的其他相关领域的立法 ( 包括数据及个人信息、市场监管等 )，共同构成了包 括大模型在内的人工智能监管体系。

(a)《人工智能法案》 2021 年 4 月，欧盟发布了《人工智能法案》的提案。2022 年，欧盟委员 会综合各方意见，对《人工智能法案》进行了进一步修正。2023 年 6 月，《人 工智能法案》再次修正，并经欧洲议会投票通过 (“《人工智能法案》”)15。 按照欧盟立法程序，修正法案下一步将正式进入欧盟委员会、议会和成员国三 方谈判协商的程序，并确定最终版本。 《人工智能法案》是欧盟首部有关人工智能的综合性立法，其以人工智能 的概念作为体系原点，以人工智能的风险分级管理作为制度抓手，以人工智能 产业链上的不同责任主体作为规范对象，以对人工智能的合格评估以及问责机 制作为治理工具，从人工监管、隐私、透明度、安全、非歧视、环境友好等方 面全方位监管人工智能的开发和使用，详细规定了人工智能市场中各参与者的 义务，主要内容如下：

(i) 以人工智能 (Artificial Intelligence，“AI”) 概念为体系原点 根据《人工智能法案》，“AI 系统”是指一种以机器为基础的系统，该系 统在设计上具有不同程度的自主性，可以为实现明确或隐含的目标生成如预测、 建议或决策等的输出结果，对物理或虚拟环境造成影响。而“大模型”是指在 广泛的数据上进行规模化训练的人工智能模型，其设计是为了实现输出的通用 性，并能适用各种不同的任务。值得注意的是，较为狭窄、不普遍的、无法适 应广泛任务的预训练模型不属于《人工智能法案》所规制的大模型。

(ii) 以责任主体为规范对象 《人工智能法案》将 AI 系统的责任主体划分为提供方、部署方、进口方、 分销商四种主要角色。其中，“提供方”指开发或拥有已经开发的 AI 系统， 以自己的名义将其投放市场或在欧盟投入服务的自然人或法人；“部署方” 指在欧盟境内在其权限范围内使用 AI 系统的自然人或法人 ( 不包括在个人非 专业活动过程中使用 )，包括使用 AI 系统以提供用户服务的商业机构等；“进 口方”指在欧盟设立或者位于欧盟境内，并将带有欧盟境外自然人或法人名 称或商标的 AI 系统投放到欧盟市场的自然人或法人；“分销商”指供应链中 提供方和进口方之外的在欧盟市场中提供 AI 系统且不改变其系统属性的自然 人或法人。

(iii) 风险分级标准 对于 AI 系统涉及的风险，欧盟主要区分为“不可接受的风险”、“高风险”、 “有限风险”和“最小风险”四类，具体如下： • 存在不可接受风险的AI系统。 存在下列情况的AI系统均可能属于存在“不可接受的风险”的AI系统， 欧盟成员国内将完全禁止该等AI系统投入市场或者交付使用：(1)采用潜 意识技术或有目的的操纵或欺骗技术；(2)利用个人或社会群体的弱点 (例如已知的人格特征或社会经济状况、年龄、身体精神能力)；(3)利用 人的社会行为或人格特征进行社会评分；(4)在公众场所的“实时”(包 括即时和短时延迟)远程生物识别系统。 • 高风险AI系统。 存在下列情况的AI系统均属于存在“高风险”的AI系统，其投放市场及 交付使用均受到严格的管控并需履行评估及备案要求： - AI系统同时满足下述两项条件：(1)属于欧盟统一立法规制范围内的产品的安全组件或为该范围内的产品本身；并且(2)根据欧盟统一立法规 制需要就健康或安全问题经过第三方合格评估方可投放市场或交付使 用； - AI系统同时满足下述两项条件：(1)存在可能损害环境或损害人类健 康、安全、基本权利的重大风险；并且(2)符合分级标准且在规定的领 域内使用，包括生物特征识别AI系统、关键基础设施AI系统、可能决 定人的受教育或职业培训机会的AI系统、作为超大型在线社媒平台16 拟在其用户内容推荐中使用的AI系统等。 • 有限风险AI系统。 不属于存在不可接受的风险或高风险的AI系统，但需要履行一般合规要 求，属于存在“有限风险”的AI系统，主要包括与人类互动的AI系统、 用于情绪识别的AI系统、用于生物特征分类的AI系统以及生成深度合成 内容的AI系统。 • 最小风险AI系统。 在上述三种类型之外的AI系统，均属于存在“最小风险”的AI系统，主 要包括允许自由使用AI的电子游戏、邮件过滤器等。

(iv) 风险分级监管 对于前述不同的风险等级，《人工智能法案》采取了不同程度的监管措施， 具体包括： • 对于存在不可接受风险的AI系统，严厉禁止使用； • 对于高风险AI系统，要求其同时履行：(1)高风险AI系统的特殊合规要 求(“特殊合规要求”)；以及(2)AI系统的一般合规要求(“一般合规要求”)。其中，特殊合规要求主要包括内部合规及外部认证措施： - 内部合规措施须贯穿系统全生命周期，包括：(1)形成风险管理体系； (2)实施数据治理；(3)形成技术文档；(4)自动记录运行日志；(5)保证 透明度；(6)保证人工监督；(7)保证系统的准确性、稳健性和网络安全 性。 - 外部认证措施均应当于上市前完成，包括：(1)根据系统功能不同， 进行自评估或者第三方评估；(2)在欧盟公共高风险AI系统数据库中备 案；(3)使用CE(Conformity European，“CE”)标识。 • 对于有限风险AI系统，履行一般合规要求即可。就一般合规要求而言， 主要为透明度要求，具体要求根据AI系统的不同类型而有所区分： - 针对与人类互动的AI系统，系统使用者需要告知人类其正在与AI系统 进行互动； - 针对情绪识别及生物特征分类AI系统，系统使用者需要告知系统识别 对象上述系统的存在，并且需要就生物识别数据的获取取得系统识别 对象的同意； - 针对生成深度合成内容的AI系统，系统使用者需要对外告知该等内容 是由AI生成或操纵的，而并非真实内容。 • 对于最小风险AI系统，不作强行性干预。

(v) 各类责任主体的义务 总体而言，提供方是 AI 系统的最终负责人，其需履行的义务最为全面，责 任承担亦为最重，部署方需履行风险防范义务，其他参与者需履行以审查义务 为核心的一系列的合规义务，具体如下：提供方的义务主要包括：(1)执行前述所有特殊合规要求；(2)在系统上 标明其名称、注册名称或注册商标，以及其联系信息；(3)确保执行人工 监督的人员精通自动化或者算法偏见的风险；(4)执行数据保护，包括 数据保护影响评估并发布摘要，以及提供输入数据或所使用的数据集的 任何其他相关信息的说明；(5)建立书面质量管理体系；(6)日志及文档 保存；(7)对不当行为采取纠正措施并告知有关机构；(8)提交欧盟合格 声明，并在系统上市后由国家监督机构和国家主管部门保管；(9)境外提 供方应在欧盟境内设置代表(“授权代表”)，以全权履行《人工智能法 案》项下提供方的义务并配合主管机构的工作。 • 部署方的义务主要包括：(1)监督与风险控制；(2)数据保护；(3)履行备 案，作为欧盟公共当局或者欧盟机构、团体(“公共当局”)的部署方或 者属于《数字市场法案》17守门人的部署方，需要在使用系统前在欧盟 公共高风险AI系统数据库中备案，其余高风险AI系统的部署方可自愿备 案；(4)履行高风险AI系统的基本权利影响评估，以确定系统在使用环境 中的影响。部署方为公共当局的，应公布评估的结果摘要，作为上述备 案的一部分。 • 进口方主要义务包括：确保AI系统提供方履行了自评估或第三方评估义 务、形成技术文档义务、授权代表任命义务(如需)，并确保AI系统带有 CE标识，附有所需的说明文件。

(vi) 大模型的特殊合规义务 大模型的提供方在大模型上市前，应确保该模型符合下述要求：(1) 以适当 的方法识别、减少重大风险，并记录剩余的不可缓解的风险；(2) 只纳入经过适 当的大模型数据治理措施的数据集，且须审查数据来源的适当性和可能的偏差 以及缓解措施；(3) 在设计和开发期间进行测试及评估，以在其整个生命周期内 达到适当的性能、可预测性、可解释性、可纠正性、安全性和网络安全水平； (4) 减少能耗及浪费，提高整体效率，具有测量和记录能耗以及可能产生的其他环境影响的能力；(5) 制定技术文件和使用说明；(6) 建立质量管理系统，以记 录对上述义务的遵守；(7) 在欧盟数据库中备案该大模型；(8) 在其大模型投放 市场或投入使用后的 10 年内，将技术文件交由国家主管部门保存。

(b) 数据隐私、算法及知识产权相关法律法规 针对大模型及其所服务的 AI 系统所涉及的数据、个人信息、算法以及知识 产权等领域，欧盟现有的相关规定在各自适用的范围内实际上起到了垂直监管 的作用。该等垂直监管类的主要规定如下： 2018 年 5 月，欧盟委员会的《通用数据保护条例》(General Data Protection Regulation，“GDPR”)18 生效。GDPR 从数据控制者和处理者的责任以 及数据监管等方面重新调整了欧盟个人数据保护策略。另外，GDPR 关于透明度 的原则以及自动化决策有关的规定也为算法设计者设置了相关义务，包括确保 算法训练数据痕迹可查义务以保证算法训练数据真实、对算法部分技术原理进 行阐释义务以保证算法目标服务人群充分了解情况，以及算法的非歧视机制等。 2022 年 10 月，欧盟委员会颁布了《数字服务法案》(Digital Service Act，“DSA”)19，其适用对象为数字服务供应商。DSA 将适用对象划分为管 道服务商、缓存服务商、托管服务商、在线平台及在线搜索引擎，并特别定义 了超大型在线平台 (Very Large Online Platform，“VLOP”) 和超大型在线 搜索引擎 (Very Large Online Search Engines，“VLOSE”)。上述主体各自 承担不同的合规义务，其中 VLOP 及 VLOSE 承担的合规义务最重。DSA 的立 法宗旨为加强网络平台的内容审查义务、非法商家打击义务、信息透明义务 ( 例 如需向消费者明确透传算法推荐及定向广告内容 )，帮助建立透明、安全、可 预测、可信任的网络环境，保护网络平台用户的权益。 2022 年 11 月，欧盟委员会颁布了《数字市场法案》(Digital Market Act， “DMA”)20，引入“守门人”这一概念，对从事在线中介服务 ( 如应用商店 )、在线搜索引擎、社交网络服务、即时通讯服务、视频共享平台服务、虚拟助手、 网页浏览器、云计算服务、操作系统、在线市场和广告服务等服务的符合标准的 大型互联网平台进行反垄断合规监管。DMA 借助行为清单工具，明确列举了守 门人“必须为”和“禁止为”的内容，旨在维护数据开放，保护个人数据、禁止 守门人滥用优势地位进行不正当竞争，确保数字市场的公平竞争和良性发展。

2019 年 3 月，欧盟议会通过了《数字化单一市场版权指令》(Directive on Copyright in the Digital Single Market，“《版权指令》”)21。《版权指 令》规定，基于科学研究与数据分析两种目的，并且作品为合法获取的情形下 的数据挖掘 (Text Data Mining，“TDM”) 具有正当性。显然，大模型的开发 者进行的 TDM 通常并不属于科学研究范畴，而更可能属于以数据分析为目的 的 TDM。《版权指令》第 4 条为大模型在数据训练阶段对版权客体的复制、提 取行为设置了合理使用的例外，该等例外实际上赋予了 TDM 在数据处理阶段 复制、提取数据行为的合法性，且不存在主体限制或使用技术目的限制，换言之， 即使是出于商业性使用目的也同样适用。 总体而言，GDPR 适用于 AI 采集和使用个人数据等场景，DMA 和 DSA 以透明度和公平性为核心，对数字平台服务的提供方分别提出监管要求，《版 权指令》则对大模型训练数据的获取合法性进行了规定。而在《人工智能法案》 即将通过的大背景下，法案中所提及的大模型系统及其所嵌入的 AI 系统的提 供方、部署方、进口方、分销商等角色是否以及如何适用于该等垂直监管类 的规定，《人工智能法案》如何处理与现有的各垂直监管法规的法条竞合、 冲突与协调适用等问题，人工智能的监管部门与其他各垂直监管法规的监管 部门的管辖权如何划分以及与各类组织机构间协调运作，都需要通过实践来 回答。

2. 美国

(1) 立法现状 相较于欧盟的统一协调、垂直跨部门的体系化立法而言，美国对于大模型 及其所服务的 AI 系统的立法总体而言仍呈现较为保守、零散、地区化的态势。 在州一级层面，各州的立法进程相差较大，较为积极的例如伊利诺伊州、加利 福尼亚州、弗吉尼亚州、纽约州等已经通过了相关法案，但侧重点各有不同， 例如主要针对人工智能视频面试 23 及职场自动化决策 24、人工智能产业促进 25 等。在联邦层面，目前为止，美国尚未通过一部完整且专门针对大模型及其所 服务的 AI 系统的法案，而是试图通过调整政府机构的权力，在现有的立法框架 及监管规则内对大模型及人工智能进行规制，但由于政府机构多元，机构之间 的执行程度与政策发展也并不平衡。目前，联邦层面的合规重点主要涉及 AI 安全、算法透明度、反歧视、评估等要求。但随着 ChatGPT、Bard 等生成式人 工智能的井喷式出现，目前一系列与人工智能的联邦立法提案也已经出现在了 国会中。同时，联邦政府机构也在积极制定相关政策，加紧对于 AI 的体系化监管。

(a) 人工智能重点整体性法规政策 2020 年 11 月， 美 国 行 政 管 理 和 预 算 局 (Office of Management and Budget) 颁布了《人工智能应用监管指南》(Guidance for Regulation of Artificial Intelligence Applications)26，反映了美国在人工智能监管方面的核心 立场。该指南并未直接规定人工智能的监管法规，而是为美国政府提供了关于 制定人工智能监管政策的指导方针。该指南主要关注了歧视、国家安全等问题， 并提出了一系列风险评估和管理框架等要求，以提升人工智能的可信度和透明 度，但其对人工智能仍持自由开放的基本态度，旨在确保监管规则不会妨碍人 工智能的发展。

2020 年 12 月，时任美国总统特朗普签署了名为《促进联邦政府使用可信 赖人工智能》(Promoting the Use of Trustworthy Artificial Intelligence in the Federal Government, Executive Order 13960 of December 3, 2020)27 的行政命令，主要规定了联邦政府机构在考虑设计、开发、获取和在政府中使 用人工智能时应遵循的一系列旨在促进公众信心、保护国家价值观并确保人工 智能的合法使用的共同原则，包括：(a) 合法并尊重国家价值观。各机构在设 计、开发、获取和使用人工智能时，应充分尊重国家价值观，并符合宪法及其 他适用的法律和政策，包括涉及隐私、公民权利和公民自由的法律和政策；(b) 目的明确，效率主导。各机构应在风险可控情况下积极设计、开发、获取和使 用有益的人工智能；(c) 准确性与有效性。各机构应确保其对人工智能的训练场 景与应用场景一致，确保人工智能的可靠性；(d) 安全性与稳健性。各机构应 确保其人工智能在面对系统漏洞和其他恶意攻击时的弹性；(e) 可理解性。各机 构应确保其人工智能应用程序的操作和结果能够被相关专家和用户充分理解； (f) 可问责性和可追溯性。各机构应确保在设计、开发、采购和使用人工智能时，明确界定、适当分配各主体的角色和责任。人工智能的设计、开发、获取和使 用应酌情并在切实可行的范围内进行详细记录和追踪；(g) 定期监测。各机构应 根据上述原则定期测试其系统并及时更新补正；(h) 透明。各机构应在实际可 行的范围内，根据适用的法律和政策向适当的利益相关者披露其使用人工智能 的相关信息；(i) 问责。各机构应负责实施和执行适当的保障措施，以确保其人 工智能系统的正常使用和运行，并应监督记录该等保障措施的遵守情况，并应 为所有负责设计、开发、采购和使用人工智能的人员提供适当的培训。

2021 年 1 月，经国会批准，《2020 国家人工智能倡议法案》(National AI Initiative Act of 2020 (DIVISION E, SEC. 5001)) 正式通过 28，其中明确 重申了确保美国在可信人工智能领域的领导地位。该法案的主要目的是确保美 国在人工智能研发方面的领导地位，为社会各部门的人工智能技术整合准备充 足劳动力，协调各联邦机构开展人工智能相关活动，保证信息多渠道流通。 具体而言，该法案将：(1) 通过美国白宫科技政策办公室 (Office of Science and Technology Policy，“OSTP”) 管理的机构间协调委员会，制定人工 智能研究领域的机构间协调战略规划；(2) 成立咨询委员会，该委员会将跟踪 人工智能的科学研究现状，为机构间协调委员会提供信息；(3) 在美国国家科 学基金会 (National Science Foundation，“NSF”) 的协调下，建立人工 智能研究机构网络，该网络将促进学术界、政府部门、私人组织之间的合作， 加快人工智能的研究；(4) 支持美国国家标准技术研究所 (National Institute of Standards and Technology，“NIST”) 研究制定人工智能评价标准，要 求 NIST 创建数据共享的管理框架；(5) 支持 NSF 在人工智能相关领域开展多 种研究，以优化人工智能系统，推进其他领域的科学研究；(6)NSF 将提供奖 学金和培训来支持人工智能及相关领域的教育；(7) 支持能源部 (Department of Energy，“DOE”) 开展人工智能研究，利用 DOE 的基础设施来应对人工 智能挑战、促进技术转移、实现与其他联邦机构间的数据共享及协同合作；(8) 进一步探究人工智能带来的机遇和挑战，探究保持美国在人工智能领域领先地 位所需的计算资源。

2022 年 10 月，OSTP 颁布了《人工智能权利法案蓝图》(Blueprint foran AI Bill of Right)29，主要内容包括前言、指导人工智能的设计、使用和部署 的五项原则 ( 该等五项原则为：技术的安全性和有效性、防止算法歧视、保护 数据隐私、告知及解释义务以及人类参与决策 )、应用说明以及技术指南，该 指南针对五项原则中的每一项均解释了原则的重要性、原则所指引的期望以及 各级政府到各种规模的公司等多种组织为维护原则可以采取的具体的实施步骤、 原则的实践案例。

2023 年 1 月，NIST 正式发布了《人工智能风险管理框架 ( 第一版 )》(AI Risk Management Framework 1.0，“AI RMF 1.0”)30。AI RMF 1.0 是一个 自愿性框架，基于经济合作与发展组织 (Organization for Economic Co-operation and Development) 的 AI 系统分类框架，旨在为设计、开发、部署和 使用 AI 系统提供指南，以增强人工智能的可信度、降低风险，并提供关于如何 在整个人工智能生命周期 ( 包括 AI 的应用背景和数据输入阶段 (AI 设计 )、AI 模型构建阶段 (AI 开发 )、AI 任务执行和输出阶段 (AI 部署 )、AI 操作和监控阶 段 (AI 监控 )) 中管理风险的建议。 2023 年 4 月，美国参众两院共同发布了《确保人工智能安全、可靠、道德 和稳定系统法》( 草案 )(Assuring Safe, Secure, and Ethical Systems for AI Act，“ASSESS AI Act”)(Draft)31。该法案将设立一个人工智能工作组，以 评估联邦政府在 AI 政策和使用方面的现有政策、监管现状、法律空白，并提出 具体建议。具体而言，该人工智能工作组的成员将包括美国司法部长、NIST 和 OSTP 的负责人，以及来自工业界、学术界和非营利组织的代表。该人工智能 工作组将针对保护隐私、公民自由和公民权利的政策，面部识别和生物特征识 别的联邦标准，AI 审计和风险评估的要求等内容提出建议，并且将在成立后的 18 个月内向国会和总统提交最终报告。

2023 年 6 月，美国参众两院共同发布了《国家人工智能委员会法》( 草案 ) (National AI Commission Act)(Draft)32。该法案将设立一个由来自不同领域的 20 名专家组成的委员会，并指示该委员会制定 AI 立法框架，该法案目前正 在国会审议中。该法案本身并不是 AI 的监管框架，而是寻求建立一个国家人工 智能委员会，即一个位于立法部门的独立机构，负责制定 AI 综合监管提案。该 委员会的职责在于确保美国实现与 AI 相关的三个主要目标，包括：减轻与 AI 相关的风险和潜在危害、保护美国在 AI 研发领域的领先地位、建立 AI 保障机制， 确保 AI 系统符合美国价值观。 2023 年 10 月，美国总统拜登签署了《关于安全、可靠和值得信赖的人工 智能的行政命令》(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)33，该命令主要围绕 AI 发展的八项原则展开，并针对每项 原则向特定政府机构及官员提出了详细的要求。

(b) 数据及算法技术合规 2022 年 2 月，美国众议院发布了《2022 年算法问责法案》( 草案 )(Algorithmic Accountability Act of 2022)(Draft)34，要求使用自动化决策系统做出 关键决策的企业研究并报告这些系统对消费者的影响，其内容包括是否会因为 消费者的种族、性别、年龄等生成对消费者有偏见或歧视性的自动决策等。该 法案形成了“评估报告—评估简报—公开信息”三层信息披露机制。此外，联 邦贸易委员会还将建立可公开访问的信息存储库，公开发布关于自动化决策系 统的有限信息。 2022 年 6 月，美国参众两院共同发布了《美国数据隐私和保护法案》( 草 案 )(the American Data Privacy and Protection Act，“ADPPA”)(Draft)35。 ADPPA 规定，使用“覆盖算法”的大数据持有人，如果对个人或群体构成相应 伤害风险，并单独或部分使用“覆盖算法”来收集、处理或传输覆盖数据，则应 当根据 ADPPA 规定的评估标准进行隐私影响评估。ADPPA 将“覆盖算法”定义 为：“使用机器学习、自然语言处理、人工智能技术或其他类似或更复杂的计算 处理技术，并就涵盖数据做出决策或促进人类决策的计算过程”。人工智能大模 型为深度学习模型，需要大规模的数据集，这些数据集很可能涵盖个人信息、数 据与隐私。因此，可能构成使用“覆盖算法”，进而需要根据 ADPPA 规定的评 估标准进行隐私影响评估。另外，ADPPA 还对隐私政策的告知与退出机制、反 偏见等内容做出了规定。ADPPA 规定，企业或代表企业的服务提供商需要告知 个人有“选择退出”的选择，即拒绝企业对其个人数据的收集、处理或传输。

2023 年 2 月，拜登总统签署了《关于通过联邦政府进一步促进种族平等和支 持服务不足社区的行政命令》(Executive Order on Further Advancing Racial Equity and Support for Underserved Communities Through The Federal Government)36，规定人工智能大模型应避免由于大量输入训练数据中存在的对种族、性 别、年龄、文化和残疾等的偏见而导致训练结果输出内容中存在偏见。联邦政府在 设计、开发、获取和使用人工智能和自动化系统时，各机构应在符合适用法律的前 提下，防止、纠正歧视和促进公平，包括保护公众免受算法歧视。

(c) 知识产权保护 在 2020 年 4 月， 美 国 专 利 商 标 局 (United States Patent and Trademark Office) 判定，只有自然人才可以在专利申请中被指定为发明人，而生成 式 AI 系统不可以 37。 2023 年 3 月，美国版权局 (United States Copyright Office) 发布了《版 权登记指南：包含人工智能生成材料的作品》(Copyright Registr ation Guidance: Works Containing Material Generated by Artificial Intelligence)38。 该指南明确，相关法律中使用的“作者”一词不包括非人类；人工智能生成的 内容应该明确地被排除在版权登记之外。版权局强调，人类在多大程度上创造 性地控制了作品的表达，并“实际形成”了作者身份是判断是否可以作为版权 作品作者的关键因素。

 (d) 生成内容合规 2019 年 6 月，美国众议院发布了《深度伪造责任法案》( 草案 )(Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019，“DEEP FAKES AccountabilityAct”)(Draft)39，其中规定，“深度伪造”一词系指任何录像、电影、录音、 电子图像或照片，或者言论或行为的实质上衍生的任何技术表达，该等表达看 似真实地描述了一个人的任何言论或行为，而该人事实上并未从事该等言论或 行为，以及其制作实质上依赖于技术手段，而非他人在身体上或言语上模仿该 人的能力；任何深度伪造制作者必须对其深度伪造记录有显著的披露，任何包 含移动的视觉元素的深度伪造记录应当嵌入数字水印，以清楚地识别该记录是 否包含改变的音频或视觉元素。 2020 年 11 月，美国众议院颁布了《识别生成对抗网络法案》(Identifying Outputs of Generative Adversarial Networks Act，“IOGAN Act”) 40，指 示 NSF 和 NIST 支持对深度伪造的研究。该法案要求 NSF 支持对操纵或合成内 容和信息真实性的研究，支持必要的测量和标准开发研究，以加速技术的开发， 检查生成对抗网络的功能和输出或其他合成或操纵内容的技术。

3. 英国

(1) 立法现状 与美国类似，英国部分现存的不同类型的法律法规已经涵盖了对人工智能 的规定，其中部分重点法律法规如下： (a) 生成内容合规 2023 年 10 月，英国议会颁布了《在线安全法案》(Online Safety Act 2023)42。《在线安全法案》规定了一系列与互联网信息内容相关的安全规定， 赋予英国议会权力来批准哪些信息属于“合法但有害”的内容，要求在线平台 立即采取措施。该法案要求社交媒体平台、搜索引擎以及其他允许用户发布内 容的应用程序和网站，承担保护儿童、打击非法活动，并维护其已声明的条款 与条件的责任。

(b) 数据合规 《数据保护法 2018》(Data Protection Act 2018)43 是主要的英国数据保 护法律之一。英国脱欧后，英国政府将 GDPR 和相关监管要求转化为英国的数 据保护监管体系，即所谓的“英国 GDPR”——虽然有部分调整，但其有关数据 控制者和处理者的权利和义务与欧盟 GDPR 基本相同。2022 年 7 月，《数据保护和数字信息法案》(Data Protection and Digital Information Bill)44 首次 被提交至英国议会讨论，后经撤回修改，于 2023 年 5 月形成《数据保护和数 字信息法案 (2 号 )》(Data Protection and Digital Information (No.2) Bill)45 并再次提交至英国议会讨论，目前处于三读前的报告阶段。其中，针对自动化 决策所涉及的个人数据，法案规定完整或部分基于特殊类别的个人数据的重大 决策不得仅仅基于自动化决策做出，除非符合以下条件之一：(1) 该决策完全基 于数据主体明确同意的个人数据处理；(2) 该决策是为订立或履行数据主体与控 制者之间的合同所必需的，或法律要求或授权的。该法案同时也规定了自动化 决策的保障措施，需由以下措施组成：(1) 向数据主体提供就数据主体作出的决 策的信息；(2) 使数据主体能够就该等决策作出陈述；(3) 使数据主体能够就此 类决策获得控制者的人为干预；(4) 使数据主体能够对该等决策提出异议。法案 还规定了数据最小化原则、个人数据的访问和控制权、风险评估及合规检查等 条款，以帮助企业更好地履行合规义务。

(c) 知识产权保护 2022 年 6 月， 英 国 知 识 产 权 局 (UK Intellectual Property Office， “UKIPO”) 公布了《文本与数据挖掘版权例外改革提案》(Artificial Intelligence and Intellectual Property: copyright and patents: Government response to consultation)46。对于文本和数据挖掘，该提案计划引入一个新 的版权和数据库例外，允许文本和数据挖掘用于任何目的，包括商业目的；版 权所有者仍将拥有保护其内容的保障措施，包括要求合法访问。该提案使得任 何文本和数据挖掘都无需向权利人支付许可费。目前该提案仍在审核之中。 (d) 算法技术合规 2021 年 5 月，英国中央数字与数据办公室、人工智能办公室与内阁办公室 联合发布了《自动决策系统的伦理、透明度与责任框架》(Ethics, Transparency and Accountability Framework for Automated Decision-Making， “ETAF”) 47。ETAF 强调，算法和自动化决策在上线之前应该进行严格的、受 控的和分阶段的测试。在整个原型和测试过程中，需要人类的专业知识和监督 来确保技术上的弹性和安全，以及准确和可靠的系统。测试时，需要考虑自动 化决策系统的准确性、安全性、可靠性、公平性和可解释性。ETAF 规定，企 业必须对算法或自动决策系统做一个平等影响评估，使用高质量和多样化的数 据集，发现和抵制所使用数据中明显的偏见和歧视。ETAF 指出，算法或计算 机系统应该被设计为完全可以负责和可被审计的，算法和自动化的责任和问责 制度应该明确。

3.我国对于大模型的监管现状

1. 立法现状 我国对大模型的监管主要是围绕网络安全、数据安全、个人信息展开，相 关法律法规也以《中华人民共和国网络安全法》、《中华人民共和国数据安全 法》和《中华人民共和国个人信息保护法》为主，同时，《中华人民共和国科 学技术进步法》、《互联网信息服务管理办法》等法律法规亦针对互联网信息 服务层面的合规制定了相关规范。随着产业的发展，我国的监管法律体系从该 等方面不断深化拓展至算法服务、深度合成服务等与大模型密切相关的领域， 《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》 等规定陆续出台。2023 年 8 月 15 日，我国针对生成式人工智能服务领域制定 的首部法律法规《生成式人工智能服务管理暂行办法》(“《AIGC 暂行办法》”) 生效，这是我国在人工智能监管领域不断探索完善的重要成果，明确了提供和 使用生成式人工智能服务的总体要求，并对生成式人工智能服务提出了分类分 级的监管要求，一定程度上标志着我国生成式人工智能服务领域进入强监管和 高合规标准的新阶段。 与此同时，《人脸识别技术应用安全管理规定 ( 试行 )( 征求意见稿 )》49 等 与大模型领域密切相关的法律法规和相关规定正在制定过程中。在大模型的浪 潮下，各机构、行业也积极响应，陆续发布了一系列大模型开发、运营相关的 行业规范，如中国信息通信研究院 (“中国信通院”) 联合产学研各界制定的《可 信大模型标准体系 2.0》、同济大学上海市人工智能社会治理协同创新中心研 究团队编制的《人工智能大模型伦理规范操作指引》、华东师范大学和上海人 工智能实验室联合两院院士、高校校长、知名专家学者共同制定发布的《教育 通用人工智能大模型系列标准》等等。

值得关注的是，《人工智能法》已列入《国务院 2023 年立法工作计划》， 《人工智能法 ( 草案 )》预备提请全国人大常委会审议。可以说，我国正在推动 全国层面的人工智能专门立法。不过，根据流程，《人工智能法 ( 草案 )》将由国务院相关部门起草，然后经国务院常务会议审议并通过，继而才提请立法机 关审议、表决，具体所需时间目前难以预计。

(1) 主要法律法规 (a)《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》 2018 年 11 月 15 日，国家互联网信息办公室联合公安部发布《具有舆论 属性或社会动员能力的互联网信息服务安全评估规定》(“《安全评估规定》”)， 该规定于 2018 年 11 月 30 日起正式施行。《安全评估规定》根据《中华人民 共和国网络安全法》、《互联网信息服务管理办法》、《计算机信息网络国际 联网安全保护管理办法》等有关法律、行政法规制定，明确了国家将加强对具 有舆论属性或社会动员能力的互联网信息服务和相关新技术新应用的安全管理， 规范互联网信息服务活动。根据《安全评估规定》，下述类型的互联网信息服 务提供者需按《安全评估规定》自行进行安全评估：(i) 开办论坛、博客、微博 客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等 信息服务或者附设相应功能；(ii) 开办提供公众舆论表达渠道或者具有发动社会 公众从事特定活动能力的其他互联网信息服务。在此基础上，《安全评估规定》 规定了互联网信息服务提供者应自行进行安全评估的具体情形。除进行自行安 全评估的义务以外，《安全评估规定》还要求前述互联网信息服务提供者应履 行消除安全隐患、形成安全评估报告、提交安全评估报告等各项义务。

(b)《互联网信息服务算法推荐管理规定》 2021 年 12 月 31 日，国家互联网信息办公室、中华人民共和国工业和信 息化部、中华人民共和国公安部和国家市场监督管理总局联合发布《互联网信 息服务算法推荐管理规定》(“《算法推荐管理规定》”)，该规定于 2022 年 3 月 1 日起施行。《算法推荐管理规定》的适用范围是在中华人民共和国境内应 用算法推荐技术提供互联网信息服务的情形。《算法推荐管理规定》确立了算 法分级分类安全管理的制度设计。其中分级分类关注的维度包括算法推荐服务 的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数 据重要程度、对用户行为的干预程度等。此外，《算法推荐管理规定》要求算 法推荐服务提供者建立健全相关制度，例如算法推荐服务提供者应建立健全算 法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和 技术措施。同时，算法推荐服务提供者应承担算法合规义务以及用户权益保护 责任，保护用户的知情权和选择权。 (c)《互联网信息服务深度合成管理规定》 2022 年 11 月 25 日，国家互联网信息办公室、工业和信息化部、公安部 联合发布《互联网信息服务深度合成管理规定》(“《深度合成管理规定》”)， 该规定于 2023 年 1 月 10 日起施行。《深度合成管理规定》是我国第一部针对 深度合成服务治理的专门性部门规章，主要针对应用生成合成类算法的互联网 信息服务进行了规范，明确了生成合成类算法治理的对象和基本原则，强化了 深度合成服务提供者和技术支持者的主体责任，并鼓励相关行业组织通过加强 行业自律推动生成合成类算法的合规发展。《深度合成管理规定》适用于在中 华人民共和国境内应用深度合成技术提供互联网信息服务的情形，深度合成服 务提供者和技术支持者是主要的责任主体，二者均有义务进行算法备案，且均 负有遵守数据和技术管理规范、加强训练数据管理、依法告知生物识别信息被 编辑的个人、加强深度合成相关技术管理、依法开展安全评估等义务。此外， 深度合成服务提供者还需承担信息安全主体责任和内容标识义务等，落实安全 可控的技术保障措施，并制定和公开管理规则。

(d)《生成式人工智能服务管理暂行办法》 2023 年 7 月 10 日，国家网信办、国家发展改革委、教育部、科技部、工 业和信息化部、公安部和广电总局联合发布《生成式人工智能服务管理暂行办 法》，该办法于 2023 年 8 月 15 日起生效。根据《AIGC 暂行办法》规定，任 何利用生成式人工智能技术为中国境内公众提供生成文本、图片、音频、视频 等内容的服务都适用该办法。这意味着，境内外人工智能生成内容 (Artificial Intelligence Generated Content，“AIGC”) 服务提供者，无论其提供的服 务是在模型层还是在应用层，亦无论是直接提供服务或通过 API 接口或其他方 式间接提供服务，倘若其提供服务的对象是中国境内公众，都应当遵守《AIGC 暂行办法》。在监管机制与合规要求方面，《AIGC 暂行办法》对生成式人工智能服务采取了包容审慎和分类分级的监管原则，要求生成式人工智能服务提供 者在内容管理、训练数据、用户权益、安全评估等多个层面承担相应的责任。 (e)《网络安全标准实践指南——人工智能伦理安全风险防范指引》 2021 年 1 月，全国信息安全标准化技术委员会发布《网络安全标准实践指 南——人工智能伦理安全风险防范指引》，将 AI 伦理安全风险总结为以下五大 方面：(1) 失控性风险：AI 的行为与影响超出服务提供者预设、理解和可控的 范围，对社会价值等产生负面影响；(2) 社会性风险：不合理使用 AI 而对社会 价值等方面产生负面影响；(3) 侵权性风险：AI 对人的基本权利，包括人身、隐私、 财产等造成侵害或产生负面影响；(4) 歧视性风险：AI 对人类特定群体具有主 观或客观偏见，影响公平公正、造成权利侵害或负面影响；(5) 责任性风险：AI 相关各方行为失当、责任界定不清，对社会信任、社会价值等方面产生负面影响。

(f)《关于加强科技伦理治理的意见》 2022 年 3 月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治 理的意见》，提出“科技伦理是开展科学研究、技术开发等科技活动需要遵循 的价值理念和行为规范，是促进科技事业健康发展的重要保障”，并明确了以 下五大类科技伦理原则：增进人类福祉、尊重生命权利、坚持公平公正、合理 控制风险和保持公开透明。 (g)《科技伦理审查办法 ( 试行 )》 2023 年 10 月 8 日，科学技术部、教育部、工业和信息化部等多部门联合发 布《科技伦理审查办法 ( 试行 )》(“《科技伦理审查办法》”)，该办法对于几乎 所有科技活动所涉及的科技伦理审查和监管做出了明确的规定，并将于 2023 年 12 月 1 日起正式实施。在审查主体方面，《科技伦理审查办法》明确要求从事 生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域 的，应设立科技伦理 ( 审查 ) 委员会，其他有伦理审查需求的单位可根据实际情 况设立科技伦理 ( 审查 ) 委员会。在审查程序方面，《科技伦理审查办法》将审查程序依据科技活动伦理风险发生的可能性和严重、紧急程度划分为一般、简易 和应急三类。在审查内容及标准方面，《科技伦理审查办法》针对所有科技活动 规定了审查的重点内容和标准，以及针对涉及人类研究参与者以及数据和算法的 科技活动就审查的重点内容和标准进行特殊规定。例如，就涉及数据和算法的科 技活动而言，一方面，要求数据的收集、存储、加工、使用等处理活动以及研究 开发数据新技术等符合国家数据安全和个人信息保护等有关规定，数据安全风险 监测及应急处理方案得当；另一方面，要求算法、模型和系统的设计、实现、应 用等遵守公平、公正、透明、可靠、可控等原则，符合国家有关要求，伦理风险 评估审核和应急处置方案合理，用户权益保护措施全面得当。

(2) 主要行业规范 (a)《新一代人工智能伦理规范》 2021 年 9 月，我国国家新一代人工智能治理专业委员会发布《新一代人 工智能伦理规范》，旨在将伦理道德融入人工智能全生命周期，促进公平、公正、 和谐、安全，避免偏见、歧视、隐私和信息泄露等问题。《新一代人工智能 伦理规范》的适用主体为从事人工智能管理、研发、供应、使用等相关活动 的自然人、法人和其他相关机构。在此基础上，《新一代人工智能伦理规范》 明确了人工智能的基本伦理规范，包括增进人类福祉、促进公平公正、保护 隐私安全、确保可控可信、强化责任担当、提升伦理素养。同时，《新一代 人工智能伦理规范》提出了一系列人工智能应用管理规范、研发规范、供应 规范和使用规范。 (b)《可信大模型标准体系 2.0》50 为进一步促进我国大模型产业发展，中国信通院联合产学研各方于 2022 年 2 月起制定可信大模型标准体系，并于 2023 年 3 月正式发布《可信大模型标准 体系 2.0》。《可信大模型标准体系 2.0》以 Model as a Service(“MaaS”) 服务结果为核心，从模型开发、模型能力、模型运营、模型应用、安全可信共五个方向构建大模型标准体系，以有效助力相关主体快速构建能力全面、应用 广泛、运营便捷、安全可信的基础大模型。

(c)《人工智能大模型伦理规范操作指引》 2023 年 7 月，由同济大学上海市人工智能社会治理协同创新中心研究团队 编制的《人工智能大模型伦理规范操作指引》正式对外发布。《人工智能大模 型伦理规范操作指引》旨在结合中国的具体情况和国际通用的伦理准则，参考 借鉴国家新一代人工智能治理专业委员会颁布的《新一代人工智能伦理规范》 和联合国颁布的《人工智能与数据伦理原则》、《人工智能伦理建议书》，为 中国 AI 企业提供了大模型伦理规范操作指引。《人工智能大模型伦理规范操作 指引》主要包括 AI 大模型全生命周期的技术与伦理要素、大模型的研发与应用 的伦理原则、大模型技术研发的伦理实践指南三部分内容，提出了尊重人的自 主权、保护个人隐私、保障公平公正、提高透明度和可解释性、负责任的创新 等五项大模型伦理原则，以及公平性、透明性、隐私、安全性、责任、人类的 监督与控制、可持续性等七项大模型伦理实践操作建议。 (d)《人工智能法示范法 1.0( 专家建议稿 )》 2023 年上半年以来，中国社会科学院国情调研重大项目《我国人工智能伦 理审查和监管制度建设状况调研》课题组主持人、中国社会科学院法学研究所 网络与信息法研究室副主任周辉组织多方专家团队，经多次调研、讨论、修改， 起草形成《人工智能法示范法 1.0( 专家建议稿 )》(“《人工智能示范法建议稿》”)。

《人工智能示范法建议稿》共分为六章：第一章 ( 总则 ) 阐明人工智能发 展的基本原则，包括治理原则、人类自主原则、安全原则、透明可解释、公平 原则等；第二章 ( 人工智能发展 ) 从基础设施、人才培养、技术创新、体制机 制支持等维度提出相应制度规范，结合产业发展实际，采取有力措施鼓励人工 智能创新，并强调以国家机关的先行先试促进人工智能的推广应用；第三章 ( 人 工智能管理制度 ) 沿用近年来实践证明较为可行的风险分类分级管理方式，对 人工智能技术研发和提供活动作出规定；第四章 ( 人工智能研发者、提供者义务 )明确人工智能研发者、提供者应承担相应合规义务，同时，对人工智能研发者、 提供者进行了区分，依据其不同活动特点分配主体义务，结合本法前述条款设 定的负面清单管理制度，针对负面清单内的人工智能研发、提供活动进一步规 定了相应的义务类型；第五章 ( 综合治理机制 ) 衔接第一章 ( 总则 ) 规定，明确 国家人工智能主管机关职责，提出创新监管、协同监管等机制；第六章 ( 法律 责任 ) 根据人工智能的风险活动，设计相应的法律责任，并明确尽职免责等制度， 为人工智能创新活动提供宽松政策环境。 《人工智能示范法建议稿》提出了负面清单管理等治理制度，并对人工智 能产业链条各主体责任义务分配等核心问题进行了回应。在相应的法律法规尚 未出台之际，《人工智能示范法建议稿》在一定程度上对于人工智能产业链条 中的研发者、提供者、使用者等主体履行相应风险防范、安全保障义务等提供 了可供参考的执行标准。

2. 合规要素 在大模型领域，合规义务主要责任主体为大模型服务提供者，即利用大模 型技术提供服务的组织、个人。结合前述主要法律法规和相关规定、以及部分 相对较有影响力的行业规范性文件，大模型服务提供者可以分为以下两类： • 服务提供方 服务提供方是指提供大模型相关服务的组织、个人。服务提供方通常会 利用大模型相关服务开发面向终端用户的大模型应用场景，比如百度文 心一言网站、抖音快手上面的一些AI特效功能等等。 • 技术支持方 技术支持方是指为大模型相关服务提供技术支持的组织、个人。技术支 持方往往表现为大模型的设计者、开发者和完成者，掌握着大模型背后 的核心算法和运行规则，负责处理数据训练、生成内容标记、模型优化等技术性事项。技术支持方通常会结合服务提供方关于大模型终端运用 的需求，以API等形式提供大模型服务所需的技术支持。

在《深度合成管理规定》中，合规主体分为“深度合成服务提供者”和“深 度合成服务技术支持者”，分别对应上述“服务提供方”和“技术支持方”；而《AIGC 暂行办法》、《算法推荐管理规定》等法律法规和相关规定均未对“生成式人 工智能服务提供者”、“算法推荐服务提供者”基于上述角度进行进一步区分。 尽管如此，该等规定项下，在明确“人工智能服务提供者”、“算法推荐服务 提供者”的具体责任和义务时，同样依据其提供的服务内容及类型规范了不同 的责任和义务。例如，模型训练通常由技术支持方负责，其作为“生成式人工 智能服务提供者”应当确保训练数据的来源合法合规，由于技术支持方并不直 接面对终端用户，所以其仅承担法规项下明确需要参照适用的那些原本针对服 务提供方的要求。而对于面向终端用户的“人工智能服务提供者”，即服务提供方， 由其直接将内容 / 信息向终端用户提供，所以前述内容 / 信息所引致的结果也是 由其直接产生，故其应当在明确并公开其服务的适用人群、场合、用途、指导 使用者科学理性认识和依法使用生成式人工智能技术、采取有效措施防范未成 年人用户过度依赖或者沉迷生成式人工智能服务等方面履行相应的义务。如果 因为服务的提供而产生了违约、侵权等民事责任，服务提供方往往是第一责任人。 此外，根据《AIGC 暂行办法》第 2 条规定，行业组织、企业、教育和科研 机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向 境内公众提供生成式人工智能服务的，不适用《AIGC 暂行办法》的规定。也即， 需要遵守相关大模型合规义务的主体，是指向境内公众提供服务的大模型服务 提供者。若上述主体未向境内公众提供服务的，则不适用《AIGC 暂行办法》。《深 度合成管理规定》虽未将使用者限制在“公众”的语境，但对于标识的目标和 要求，亦限制在了“公众混淆或者误认的”和“向公众提示深度合成情况”范 围。基于前述规定，一个值得探讨的话题是，对于仅面向境内企业而并非公众 提供大模型应用服务的大模型服务提供者是否适用《AIGC 暂行办法》。某种角 度而言，加强大模型监管旨在规范公共层面的数据流通、传播，避免重要、敏 感信息的泄露，以及防止违法、虚假信息和内容在社会层面广泛传播。倘若仅面向特定企业提供服务，且该企业仅在内部使用大模型服务而不会导致大模型 服务成果向公众流通，很有可能并不适用《AIGC 暂行办法》。但是，通过 API 接口等方式“封装”后间接提供服务的，可能仍会被认为属于服务提供方而非 技术支持方，例如，倘若某一大模型服务提供者自研完成大模型开发后，作为 技术支持方向中国境内的另一大模型服务提供者提供大模型技术接口并收取技 术服务费，而后者进而作为服务提供方面向中国境内的消费者提供大模型应用 服务，两者很有可能均需要履行《AIGC 暂行办法》项下的义务。