全球人工智能法规概览

英国在人工智能监管框架和政策举措方面展现了独特的灵活性和前瞻性。

一、欧盟《人工智能法案》及成员国法规

（一）欧盟《人工智能法案》的主要内容及影响

欧盟《人工智能法案》（AI Act）于2021年4月由欧盟委员会提议，并于2023年12月得到 欧洲议会和理事会的批准，于2024年8月正式生效。法案旨在应对人工智能技术在快速发 展中可能带来的潜在风险，如对欧盟公民健康、安全和基本权利的威胁，其通过提供统一的框 架来规范人工智能的开发和部署，在确保技术的安全性和透明度的同时，促进创新并减少企 业的行政和财务负担。 欧盟《人工智能法案》采用了基于风险的分级监管框架，将人工智能系统分为四个风险类 别：不可接受风险、高风险、特定透明度风险和最低风险，意在对人工智能系统的潜在风险程 度实施相应的监管措施。 不可接受风险：包括能够进行社会评分的人工智能系统，类似系统被认为会对人权构成 威胁，因此在欧盟境内被全面禁止。

高风险：包括用于招聘、教育、公共服务等关键领域的人工智能系统。类似系统需要满足 严格的合规要求，包括建立风险管理系统、实施数据治理、准备技术文档和提供用户信息等， 以确保系统的安全性和可靠性。具体来说，高风险人工智能系统的提供商必须进行数据质量 管理，确保数据集的代表性和准确性，同时设计系统以实现人类监督和系统的安全性与鲁棒 性。 特定透明度风险：此类人工智能系统要求提供明确的用户通知，例如聊天机器人需要告 知用户他们正在与人工智能进行互动。 最低风险：如人工智能驱动的游戏和垃圾邮件过滤器，对此类系统没有强制性的监管要 求，企业和开发者可以自由使用，但鼓励他们自愿遵循额外的行为准则，以提高系统质量和用 户信任。 欧盟《人工智能法案》作为全球首部全面规范人工智能技术的法律，预计将在多个层面产 生深远影响。

欧盟内部影响：该法案旨在通过严格的监管框架提高人工智能系统的安全性和公众信 任，从而促进创新和经济增长。企业，尤其是涉及高风险人工智能系统的企业，将需要适应新 的合规要求，这可能会增加运营成本，但也将推动更高标准的技术开发。 全球影响：欧盟《人工智能法案》可能成为其他国家制定人工智能法规的基准。其他国家 如美国、英国等也在密切关注欧盟的这一举措，并评估其适用性和效果。国际企业可能会根据该法案调整其全球人工智能策略，以避免在不同市场之间的合规冲突。该法案可能推动国 际合作与标准化进程，促进全球人工智能治理框架的形成，其不仅有助于解决跨境人工智能 应用的监管问题，还可能推动全球在人工智能伦理、安全和隐私保护等方面达成共识。

（二）欧盟成员国的人工智能相关法规概览

欧盟《人工智能法案》为成员国提供了统一的监管框架，但各成员国也在积极制定和完善 本国的人工智能法规。 德国作为欧盟的经济引擎，在人工智能治理领域走在前列，2018年，德国发布《德国联邦 政府人工智能战略》（The Artificial Intelligence Strategy of the German Federal Government），提出“AI Made in Germany”口号，将人工智能发展提升到国家战略高度。同年成立 的数据伦理委员会在2019年发布了75项人工智能和数据伦理建议，提出数据和算法协同治 理、分级监管等理念。德国还在自动驾驶、著作权等方面完善了相关法律。 法国则于2022年通过《人类为本的人工智能法》（Human-Centric Artificial Intelligence Act），要求对高风险人工智能进行影响评估，禁止社会评分，要求人工智能决策透明化。法国 国家信息与自由委员会（National Commission on Informatics and Liberty，CNIL）在2023年 发布了人工智能系统发展建议，明确了《人工智能法案》与《通用数据保护条例》（GDPR）的关 系。

丹麦则聚焦公共部门人工智能应用，其数据保护局于2023年发布了公共机构开发和使 用人工智能的指南，强调数据保护、公民权利和透明度。 这些成员国的法规总体上与欧盟《人工智能法案》保持一致，都强调基于风险的分级监 管、伦理原则和个人数据保护。同时，各国法规在某些方面对《人工智能法案》进行了补充和 细化。例如，德国提出的5级风险评级制度，法国对人工智能训练数据的知识产权保护，以及 丹麦对公共部门人工智能应用的具体指导。《人工智能法案》允许成员国在某些领域（如国家 安全）制定更严格的规则，这为各国根据自身情况进行调整提供了空间。各国也在建立或完 善本国的人工智能监管机构，如法国国家信息与自由委员会（National Commission on Informatics and Liberty，CNIL）、德国的数据伦理委员会（Datenethikkommission，DEK）等，以 配合欧盟层面的监管框架。 值得注意的是，2023年11月，德国、法国和意大利三国政府联合提出了关于人工智能监 管的建议，主张欧盟相关企业在人工智能应用上作出具有约束力的自愿承诺。这一建议反映 了成员国之间在人工智能监管方面的协调努力，有助于推动欧盟整体监管框架的完善。 总的来说，欧盟成员国在制定本国人工智能法规时，既遵循了欧盟《人工智能法案》的总 体框架，又根据各自国情进行了创新和补充。这种“统一中的多样化”路径有助于在保持监管 一致性的同时，促进人工智能技术和应用的创新发展。

（三）欧盟其他人工智能相关标准与指南

除《人工智能法案》外，欧盟还制定了一系列补充性标准和指南，以构建更全面的人工智 能治理框架。上述举措旨在平衡创新与监管，确保人工智能技术的安全、可靠和负责任发展。《人工智能责任指令》（Artificial Intelligence Liability Directive，AILD），欧盟委员会于 2024 年 9 月提出了适应非合同性民事责任规则以应对人工智能发展的《人工智能责任指 令》。该指令旨在填补现有法律在应对生成式人工智能带来的特定风险（如歧视和侵犯人格 权）方面的空白。AILD与《人工智能法》和修订后的《产品责任指令》（Product Liability Directive，PLD）共同构成欧盟针对人工智能系统的全面义务和责任框架。 AILD的主要特点包括采用《人工智能法》中的关键概念，确保法律连贯性；引入“高影响 人工智能系统”概念，涵盖高风险和附加系统；建立证据披露义务和与过错及因果关系有关的 可反驳推定；对禁止使用的人工智能系统实施严格责任；以及考虑将通用人工智能系统纳入 管辖范围。

《人工智能公约》（EU AI Pact），2024年9月，欧盟委员会公布了《人工智能公约》，该公约 是一项旨在促使企业就人工智能处理和部署发布"自愿承诺"的倡议。目前欧盟委员会公布的 签署方名单覆盖面极广，囊括了电信公司、咨询公司软件公司、银行/支付公司跨国公司、中小 企业和面向消费者的平台，如亚马逊、微软、OpenAI、谷歌等。前述公约鼓励组织提前规划， 以落实《人工智能法》的相关措施。公约围绕两个支柱构建：一是建立《人工智能公约》网络， 鼓励交流最佳实践，提供关于《人工智能法》实施的实用信息；二是鼓励人工智能系统的提供 者和部署者提前采取措施，遵守立法要求和义务。 参与公司承诺至少采取三项核心行动：采用人工智能治理战略，促进组织内部人工智能 的采用；识别和梳理可能被归类为高风险的人工智能系统；在员工中推广人工智能意识和知 识，确保道德和负责地开发人工智能。为进一步完善人工智能治理框架，欧盟正在考虑制定 统一的软件责任法规，以覆盖所有类型的软件，包括人工智能和非人工智能软件。上述法规 可能以条例的形式呈现，以确保所有软件应用程序都能统一适用可反驳推定和证据披露机 制。 以上所说的补充性标准和指南反映了欧盟在人工智能治理方面的全面思考，旨在建立一 个平衡创新、保护消费者权益、确保法律清晰度的监管环境。通过前述措施，欧盟希望在促进 人工智能技术发展的同时，有效管控其潜在风险，为全球人工智能治理提供参考模式。

二、美国人工智能相关标准、规则与法案

（一）美国联邦层面的人工智能立法及展望

美国联邦层面的人工智能法律和规则制定呈现出“软法治理”与“逐步趋硬”的特点。 2021 年，美国通过《2020 年国家人工智能倡议法案》（National Artificial Intelligence Initiative Act of 2020），正式成立国家人工智能倡议办公室，负责实施国家人工智能战略。2022 年，白宫科技政策办公室（Office of Science and Technology Policy，OSTP）出台《人工智能 权利法案蓝图》（Blueprint for an AI Bill of Rights），明确了创建安全有效系统、应对算法歧 视、保护数据隐私等五项关键原则。2023年，国家标准与技术研究所（National Institute of Standards and Technology，NIST）发布《人工智能风险管理框架》（Artificial Intelligenceisk Management Framework，AI RMF），为人工智能创新生态系统的设计、开发和部署提 供指导。上述举措体现了美国政府在推动人工智能发展的同时，也在逐步建立监管框架。

面对生成式人工智能带来的潜在风险，美国政府开始采取更积极的监管态度。2023年7 月，美国政府与七家人工智能巨头达成“自愿承诺”，旨在确保人工智能技术的安全、可靠和透 明发展。10月，拜登总统签署了《关于安全、可靠和可信赖人工智能的行政命令》（Executive Order on Safe，Secure，and Trustworthy Artificial Intelligence），要求多个政府机构制定标 准以防止人工智能被用于设计生物或核武器等威胁，并要求公司在训练强大的基础模型时通 知政府并分享安全测试结果。 在具体法案方面，美国国会也在积极推进。2022年，多位参议员提出了《2022年算法责 任法案》（Algorithmic Accountability Act of 2022，H.R. 6580），旨在提升算法应用的普及性、 精准性及透明度。2023年，国会通过了《内容来源保护和防止编辑和深度伪造媒体完整性法 案》（Content Origin Protection and Integrity from Edited and Deepfaked Media Act，COPIED），以解决人工智能生成内容的“深度伪造”问题。多个委员会还通过了一系列人工智能相 关法案，如《创造人工智能法案》（Creating Resources for Every American To Experiment with Artificial Intelligence Act of 2023，CREATE AI Act of 2023）《国家科学基金会人工智能 教育法案》（National Science Foundation AI Education Act of 2024，NSF AI Education Act of 2024）等。

（二）美国各州人工智能立法动态及特点

美国各州在人工智能立法方面正呈现出积极推进、各有侧重的特点。加利福尼亚州、犹 他州和科罗拉多州等率先出台了相关法案，为其他州乃至联邦层面的人工智能监管提供了宝 贵经验。 2024 年 8 月，加利福尼亚州通过了《前沿人工智能模型安全可靠创新法案》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，SB-1047），成为美国首个 针对大规模人工智能模型进行监管的州。该法案明确针对前沿模型，设置了“严重损害”的责 任红线，要求开发方具备“一键关停”能力，并规定了开源模型的风险责任和第三方审计要求， 体现了加州在人工智能监管方面的前瞻性思维，旨在平衡创新与安全。

紧随其后，犹他州于2024年5月1日正式实施《犹他州人工智能政策法》（Utah Artificial Intelligence Policy Act，UAIPA），成为美国首个颁布专门管理人工智能服务消费者保护法规 的州。该法案的特点在于其全面性，不仅明确定义了关键概念，还区分了受监管主体和非受 监管主体的义务，设立了人工智能政策办公室，并创立了人工智能学习实验室项目。犹他州 的做法展现了一种综合性的监管思路，既注重保护消费者权益，又为人工智能创新预留了空 间。 科罗拉多州则于2024年5月17日签署通过《科罗拉多州人工智能法案》（Colorado Artificial Intelligence Act，SB 24-205），计划于2026年2月1日生效。该法案的重点放在防止 算法歧视上，特别是在就业等关键决策领域。它明确定义了“高风险人工智能系统”，对开发 者和部署者提出了具体的责任和义务，要求进行定期影响评估和风险管理。科罗拉多州的做法体现了对人工智能应用中潜在社会问题的关注，为其他州在处理人工智能公平性问题上提 供了参考。 尽管各州的立法重点有所不同，但它们都体现出了一些共同特点：注重风险管理、强调透 明度、保护消费者权益、平衡创新与监管，以及关注特定高风险应用领域。这些立法反映了各 州对人工智能技术潜在影响的深刻认识，以及在监管框架下促进创新的决心。但同时，各州 在执法机制和具体措施上也存在差异，如犹他州设立专门的人工智能政策办公室，而科罗拉 多州则赋予总检察长新的职能。

（三）美国人工智能标准与行业自律规范

美国在人工智能领域的标准制定和行业自律规范正在快速发展，体现了政府、行业和学 术界的共同努力。这些措施旨在促进人工智能技术的安全、可靠和负责任地发展，同时保持 美国在全球人工智能竞争中的领先地位。 首先，美国国家标准与技术研究院（NIST）于2023年1月发布的人工智能风险管理框架 （AI RMF）是一个重要的里程碑。这个自愿性框架围绕治理、映射、衡量和管理四个核心功能 构建，为各类组织提供了管理人工智能相关风险的综合指南。该框架的灵活性使其适用于不 同规模和行业的组织，体现了美国在人工智能标准制定方面的前瞻性思维。

在特定领域的人工智能应用中，美国联邦航空管理局（FAA）于2024年7月发布的《人工 智能安全保证路线图》（Roadmap for Artificial Intelligence Safety Assurance）是另一份重要 的标准文件，其不仅关注如何确保人工智能在航空领域的安全应用，还探讨了如何利用人工 智能技术提高航空安全。 在网络安全领域，美国土安全部网络安全和基础设施安全局（Cybersecurity and Infrastructure Security Agency，CISA）发布的《降低人工智能风险：关键基础设施所有者和运营 者功能安全和网络安全指南》（Safety and Security Guidelines for Critical Infrastructure Owners and Operators）为保护关键基础设施免受人工智能相关威胁提供了重要指导。指南 强调了组织文化、风险评估和持续监控在管理人工智能风险中的重要性。 在行业自律方面，2023年7月21日，拜登总统与七大科技公司领导人达成的自愿框架是 一个重要的里程碑。这个被称为“7月21日框架”的倡议包括了安全、保障和信任三个方面的 八项承诺。尽管是一个自愿性框架，但它代表了行业领袖们对负责任人工智能发展的承诺， 也体现了政府在推动人工智能自律方面的积极作用。

三、其他主要国家与地区性法规

（一）英国人工智能监管框架与政策举措

英国在人工智能监管框架和政策举措方面展现了独特的灵活性和前瞻性。2023年，英 国政府发布了《促进创新的人工智能监管方式》（AI Regulation：A Pro-Innovation Approach）政策文件，明确将监管目标定位为“提供清晰的、有利于创新的监管环境”。政策强调“按比例监管”的灵活方式，旨在推动英国成为“世界上建立基础人工智能企业的最佳地点之 一”。同时，英国还发布了《建立有效人工智能认证生态系统的路线图》（The Roadmap to an Effective AI Assurance Ecosystem），致力于培育包括影响评估、偏见审计、认证和性能测试 等在内的中立第三方服务体系，力图在全球人工智能认证行业中占据领先地位。

在具体实施层面，英国各相关部门也积极行动。2023 年 4 月，英国信息专员办公室 （ICO）发布了针对人工智能生成内容的开发和使用指南，明确列出了八大重点关注领域，包 括处理个人数据的合法依据、数据保护影响评估以及限制不必要处理等内容。同年3月，英 国政府在《促进创新的人工智能监管方式》（AI Regulation：A Pro-Innovation Approach）中 将问责和管理原则列为五项核心原则之一，这一原则同时也是英国数据监管机关在监管人工 智能使用和生成个人数据方面的重点，体现了英国在保护个人隐私和数据安全方面的能力和 要求。 2023 年11 月23 日，克里斯-霍姆斯勋爵向英国上议院提交的《人工智能（监管）法案》 （Artificial Intelligence（Regulation）Bill）标志着英国人工智能监管框架的进一步完善。该法 案可视为落实《人工智能白皮书》以及实现英国在近期人工智能峰会上发布的《布莱切利宣 言》（The Bletchley Declaration）承诺的重要一步。法案授权国务大臣成立专门的人工智能 管理局，负责协调和实施监管工作。该管理局的职能广泛，包括确保其他监管机构考虑人工 智能因素、进行监管差距分析、监测人工智能相关风险，以及促进与国际监管框架的互操作性 等。这一法案的提出，加上英国于2023年11月1日至2日在布莱切利园主办的首届全球人 工智能安全峰会，充分体现了英国在全球人工智能治理中的领导地位和积极贡献。

（二）新加坡人工智能治理工具与指南

新加坡在人工智能治理领域一直走在全球前列，展现了独特的前瞻性和系统性。2019 年1月，新加坡发布了亚洲首个人工智能模型治理框架（草案）（Model Artificial Intelligence （AI）Governance Framework），并于2020年1月发布了第二版。这个框架围绕两个核心原 则展开：确保人工智能决策的可解释性和透明度，以及坚持以人为本的人工智能应用。同年 11 月，新加坡又发布了《国家人工智能战略》（National Artificial Intelligence Strategy， NAIS），设定了到2030年成为人工智能广泛应用的智慧国家的宏伟目标。这些早期举措为 新加坡在人工智能领域的长远发展奠定了坚实基础。

在实践层面，新加坡政府采取了一系列创新措施。2022年5月，新加坡推出了全球首个 人工智能治理评估框架和工具包——AI Verify，旨在帮助企业对人工智能系统进行自我评 估，验证其性能和可信度。2023 年12 月，新加坡更新了《国家人工智能战略2.0》（National Artificial Intelligence Strategy 2.0，NAIS），进一步明确了未来三到五年的发展方向。2024年 1月，新加坡AI Verify基金会（AIVF）和信息通信媒体发展局（IMDA）共同制定了《生成式人工 智能治理的模型人工智能治理框架草案》（Draft Model AI Governance Framework for Generative AI），专门针对生成式人工智能的治理问题提供指导。这些举措体现了新加坡在 人工智能治理领域的持续创新和与时俱进。

（三）日、韩人工智能法规特点

日本的人工智能法规体系展现出了“软法治理”与国际合作的鲜明特征。2019年发布的 《人工智能以人为本的社会原则》（Social Principles of Human-Centric AI）奠定了日本人工 智能治理的基调，强调以人为本、尊重人权、确保隐私和安全等核心价值。2021年的《人工智 能治理报告》（AI Governance in Japan Ver. 1.0）进一步体现了日本倾向于采用非约束性指 导而非严格法规的治理方式，提倡敏捷治理和多方利益对话。这种灵活的方法旨在适应人工 智能技术的快速发展，同时鼓励企业自主治理。在国际合作方面，日本通过2023年启动的 “广岛人工智能进程”（Hiroshima AI Process）积极推动全球人工智能治理标准的制定，展现 了其在国际人工智能治理中的领导意愿。此外，日本在人工智能版权问题上采取了相对开放 的态度，如2024年1月发布的人工智能与版权指南草案（Draft AI Guidelines for Business） 允许在不需要额外同意的情况下将受版权保护的作品用于人工智能训练，有利于人工智能技 术的创新发展。

相比之下，韩国的人工智能法规体系呈现出更为全面和具体的特点，注重制度化和法律 保障。2020年发布的《改进人工智能法律、制度和监管的路线图》（Roadmap for Improving AI Law，System and Regulation）为韩国建立系统性的人工智能法律框架奠定了基础。 2023年的《数字权利法案》（Digital Bill of Rights）进一步明确了数字时代公民的基本权利，包 括对人工智能决策的解释权和选择退出权，体现了韩国在保护公民数字权利方面的决心。在 具体实践中，韩国通过制定《可信赖人工智能的集体工业标准》（Industrial Standards for Trustworthy AI）和《人工智能服务用户保护法》（AI Service User Protection Act）等措施，对 人工智能系统的全生命周期进行规范，包括风险管理、透明度和问责制等方面。