当前，人工智能治理问题在全球范围内引起了各大国际组织的密切关注。
1.美国从松散碎片式治理逐步趋向体系化治理
美国存在行政监管、立法、司法三条重要的AI 治理线条。在司法层面，美国法院判例在塑造美国 AI 治理规则方面发挥重要作用，但当前除在知识产权领域外，尚未出现大模型相关直接司法诉讼。相比之下，政府监管和国会立法则呈现显著加速治理态势。行政监管方面，拜登政府密切关注大模型风险，各部门监管动作频频。一是拜登政府发布多项政策文件，奠定“重塑人工智能全球领导地位”总基调。2022 年 10 月，发布《人工智能权利法案蓝图》，其中包含五项基本原则，分别为安全有效的系统、算法歧视保护、数据隐私、通知和解释、人工替代方案，反映了拜登政府对私营公司和政府机构鼓励采用人工智能技术的原则设想。2023 年10 月，拜登签署《安全、稳定、可信的人工智能行政令》（以下简称《行政令》），包括了人工智能安全和可信标准、推动创新和竞争、支持劳工、促进公平和公民权利、维护消费者等群体的权益、保护隐私、确保政府负责有效使用人工智能、提升美国在海外的领导力等八个部分。二是白宫开展相关治理行动，并对全球输出相关实践理念。2023 年7月和9月，白宫先后宣布分两批召集谷歌、微软等共十七家AI 头部企业，推动企业作出自愿承诺，包括开发让消费者能够辨别AI 生成内容的方法，聘请独立专家评估工具的安全性，与外部行业分享管控AI 风险的技术经验，允许第三方查找并报告其系统漏洞，报告其技术的局限性，优先研究 AI 在歧视和隐私方面的社会风险，以及发展AI 以解决气候变化和疾病等社会挑战，并将其推行至澳大利亚、英国、尼日利亚等多个国家。美国《行政令》提出扩大多双边合作、开发国际标准等方式，强化人工智能领域国际合作,要求白宫和商务部领导建立强有力的人工智能国际框架，与国际合作伙伴和标准组织加快重要AI 标准的开发和实施。三是各部门多管齐下探索大模型监管。商务部、联邦贸易委员会在各部门中作用尤为突出。商务部下属机构国家电信和信息管理局（NTIA）发布《人工智能问责制政策征求意见稿》，征求公众对“支持发展人工智能审计、评估、认证和其他机制以建立对人工智能系统的信任”的政策的反馈。商务部下属国家标准与技术研究院（NIST）发布《人工智能风险管理框架》，成为美国人工智能治理的事实规则。美国联邦贸易委员会发布《消费者保护指南》，强调委员会积极履行监管生成式人工智能的责任，保护竞争和消费者权益。其中包括了人工智能可能被视为欺骗的示例，以及评估算法公正性的维度。美国消费者金融保护局（CFPB）于9 月发布了贷款人在使用人工智能和其他复杂模型时必须遵守的法律指南。
《行政令》是近期美国人工智能治理的重要行动，美国行政监管出现重大制度突破并日趋体系化。一是风险关注点有所转变。美国对人工智能治理的问题焦点从偏见歧视、数据隐私扩展至更底层的人工智能技术对关键基础设施以及化学、生物、放射性、核和网络安全风险的威胁。二是首次提出硬性监管效力的备案制度。《行政令》援引《国防生产法》，要求开发任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型的公司，在训练模型时就得通知联邦政府，并且必须分享安全测试结果和相关数据。三是广泛动员联邦层面的监管部门出台技术指引。除商务部、联邦贸易委员会外，行政令提及国土安全部、能源部、司法部、卫生与公众服务部等联邦政府机构，被称为全球人工智能治理中“最重量级”的政府行动。《行政令》要求相关部门对数字水印、红队测试等出台指引文件，规范相关技术工具和治理举措。
立法方面，大模型技术浪潮下，美国从州层面立法走向人工智能联邦立法雏形。一是州层面从多角度为人工智能立法提出立法建议。在 2023 年的立法会议上，至少有 25 个州、波多黎各和哥伦比亚特区提出了人工智能法案，15 个州和波多黎各通过了决议或颁布了立法。例如，美国康涅狄格州通过了关于人工智能、自动决策和个人数据隐私的“SB 1103 法案”。路易斯安那州通过决议，要求技术和网络安全联合委员会研究人工智能对运营、采购和政策的影响。二是联邦层面出现多个立法提案。以布卢门撒尔为代表提出的《两党人工智能立法框架》旨在建立严格的 AI 监管蓝图，其中包括设立由独立监督机构管理的许可制度、落实开发者问责制、捍卫国家安全和国际竞争、确保 AI 系统透明度以及保护消费者和儿童权益。以舒默为代表提出的《安全创新立法框架》包含五大核心政策目标，涵盖安全、问责、与民主价值观保持一致、可解释和创新。三是美国频繁召开立法听证会进行立法讨论。在有关《两党人工智能立法框架》的听证会上，有建议要构建与 AI 技术相匹配的监管架构，并设立新的联邦机构来协调 AI 治理工作。在问责方面，有专家建议利用和发挥美国已有的措施实现问责制和确保透明度。还有建议引进“安全刹车”机制，通过实质性禁令来限制权力滥用。在有关该《安全创新立法框架》的闭门简报会上，提到的建议包括建立新的联邦机构监管AI，鼓励AI 人才移民美国等。
2.欧盟继续发挥人工智能治理领域布鲁塞尔效应
欧盟在人工智能治理方面处于领先地位，力图保障本土数字主权与信息安全、提升人工智能规则制定国际话语权，影响全球数字治理规则。 针对 ChatGPT 的滥用问题，《通用数据保护条例》成为欧盟正式通过《人工智能法案》之前的“监管利器”。2023 年3 月31 日，意大利个人数据保护局率先宣布暂停 ChatGPT 在意大利境内提供服务，成为首个禁用 ChatGPT 的欧洲国家。监管机构列出四项违反《欧盟通用数据保护条例》的事由，包括训练数据缺乏合法性基础，提供虚假或错误的用户个人信息，存在数据泄露风险，缺乏用户年龄核查机制等。意大利此次监管行动引发了德国、爱尔兰等其他欧盟国的密切关注。德国、爱尔兰的数据保护机构与意大利个人数据保护局沟通，以了解其行动的依据。爱尔兰数据保护部门负责人表示，监管机构还需要时间制定正确的监管措施，以免仓促实施任何“站不住脚”的禁令。 欧盟希冀通过《人工智能法案》继续发挥布鲁塞尔效应，实质影响全球规则走向。2023 年 6 月 14 日，欧洲议会以压倒性多数投票通过《人工智能法案》，进入欧洲议会、欧盟理事会、欧盟委员会三方谈判的最后立法阶段。 一是确立了基于风险的分级监管制度，根据风险等级提出不同义务要求。法案将人工智能系统的风险等级分为不可接受的风险、高风险、有限风险以及极低风险四类，并根据风险程度的高低配备不同程度的监管手段。
二是将高风险人工智能系统作为监管重点。为此，《草案》针对高风险人工智能系统规定了从入市前到入市后的全生命周期合规要求，并对高风险人工智能系统价值链上的多方参与者规定了不同程度的义务，其中系统提供者需要承担最严格的义务。具体而言，入市前，提供者的义务包括（第 16 条）：①建立和维护风险管理制度的义务，风险管理制度应该涵盖人工智能系统的整个生命周期，并应包含（a）识别和评估已知和可预见的风险、（b）评估上市后风险、（c）采取针对性风险解决措施三个步骤；②数据治理义务，应在满足一定质量标准的数据上进行训练，采取措施缓解可能的数据偏见，使数据具有代表性、准确性和完整性；③制作技术文档的义务，用于主管机构据以评估系统的合规表现；④配备运行日志的义务，系统在设计和开发时应该有自动记录功能（日志），用于持续追踪和监测系统的风险；⑤通过合格评估程序，提供者应确保系统在投放市场或投入使用之前通过相关的合格/符合性评估程序（conformity assessment procedure），由评定机构对人工智能系统是否满足法案第二章所规定的各项要求进行验证。 进入市场时，提供者应当：①将系统在欧盟数据库中注册（第51 条）；②贴上实体/数字形式的欧盟 CE 标志（欧洲共同市场安全标志）；进入市场后，提供者应当履行：①部署后市场风险监测系统（post-market monitoring system）的义务，用于收集、记录和分析系统在整个生命周期内运营性能数据；②采取纠正措施的义务，提供者如果认为或有理由认为系统在投入市场后不合规，应立即采取撤回、失效、召回、通知其他参与者等纠正措施。
三是探索监管工具创新。例如，引入监管沙盒制度，即要求各成员国在 AI 系统开发和上市前的有限时间内建立一个受控的实验和测试环境，使得沙盒参与者能够在获得特定法律条款或合规流程的豁免的情况下使用个人数据来促进人工智能创新，一方面减少企业在技术开发早期的合规成本，另一方面也有利于监管机构给予动态监督和指导，加速监管制度的完善。2022 年 6 月，西班牙政府和欧盟委员会提出了欧盟首个人工智能监管沙盒项目，旨在为中小企业利用人工智能创新创造良好环境，并且为正在快发展中的人工智能找到最佳的监管方式。目前该试点向其他成员国开放，其监管沙盒测试结果将在2023 年下半年西班牙担任欧盟理事会主席国期间公布。
欧盟《人工智能法案》对基础模型治理树立了风向标。一方面，欧盟就生成式人工智能是否应列为高风险作出妥协。2022 年12月，欧盟理事会在提案中加入通用目的人工智能的概念。2023 年2月，相关部门建议没有人类监督的情况下生成复杂文本的AI 系统（例如ChatGPT、Dall-E 等）应被列为“高风险”。2023 年5 月，“欧洲合作观察”调查显示，微软、谷歌等游说将 ChatGPT 等AI 工具排除在高风险 AI 系统监管范围之外。OpenAI 首席执行官SamAltman 巡回欧洲，主张将 ChatGPT 排除在高风险系统之外。2023 年6 月，《草案》将基础模型（包括 AIGC）单列一项，从高风险AI 清单中移除。另一方面，法案草案细化落实基础模型治理，对类似于ChatGPT的基础模型施加了若干义务要求。例如，法案第28b 条要求，一是评估要求，基础模型的提供者应当评估基础模型是否在其生命周期都保持适当的性能、可解释性、可更正性、安全性（c 款）。二是备案要求，基础模型应在进入市场前在欧盟数据库注册（g 款）。三是其他透明度要求。基础模型提供者应加强人工智能生成内容的披露要求、防止模型生成非法内容、发布受版权法保护的训练数据的使用情况摘要、公开训练数据来源等。
3.英国力图以促进创新的监管方法引领全球治理
在国家背景上，英国的 AI 发展实力位居世界前列。英国AI 企业数量占欧洲总数的三分之一，并有 Deepmind 等前沿代表，拥有艾伦·图灵研究所、牛津互联网中心、帝国理工学院等世界领先的高校与研究机构，技术人才优势显著。在战略层面，英国致力于将自身打造为全球人工智能创新中心和发展高地。得益于脱欧后更为广阔的政策空间和立法主动权，英国正在“强硬的欧盟”模式和“较少干涉的美国”模式之间寻求平衡点，为 AI 产业战略配套有利的政策环境。英国以安全为监管落脚点，积极探索促进创新和竞争的人工智能监管方案，在治理路径上体现出有别于欧美的特色。一是从宏观层面阐明促进创新的监管政策方向。2023 年3 月，科学、创新和技术部（DSIT）发布《促进创新的人工智能监管方法》白皮书。治理方法上，初期不采取严格法律责任的人工智能监管框架，而选择支持创新的灵活治理路径，利用现有法律框架实施监管，避免严格繁重的新立法阻碍创新；优先考虑如指南、行业标准等缓和的干预措施；主张敏捷治理，实时评估监管框架执行情况，以高适应性的迭代方式及时改进。治理内容上，不针对特定技术或全行业，而关注人工智能部署中可能产生的结果，特别是已发生、可识别的高风险，采取相称监管措施。监管机构上，保证跨部门一致的监管承诺，降低企业合规负担，（1）依托现有监管机构，在各自专业领域内有效执行监管原则；（2）在政府内部构建新的“中央职能”支持工作并确保协调性和一致性，暂不建立新的专门监管机构；（3）开发跨机构的监管沙盒和测试平台，以支持创新者将尖端产品推向市场。二是率先基于竞争视角，探索基础模型对市场竞争和消费者的影响，创造良好竞争生态。2023年9月，市场和竞争管理局（CMA）发布了《人工智能基础模型初始报告》，确保竞争和消费者保护在基础模型开发和部署中的驱动作用。报告指出，（1）在基础模型开发中，大型科技公司在专有数据、计算能力等方面的优势可能构成市场壁垒，阻碍竞争；（2）在医疗、教育等下游服务市场，应保障用户有效选择和切换的能力、数据的可移植性，限制上下游垂直垄断；（3）基础模型应更符合消费者利益，明确责任主体、提供正确且充分的信息供消费者了解并选择基础模型。基于此，报告提出问责制、可及性、多样性、灵活性、充分选择、公平交易、透明度等确保基础模型市场竞争性的原则，并指出大规模并购、滥用市场支配地位、过度封闭的生态系统、捆绑搭售等反竞争行为可能危及上述原则。三是成立人工智能基础模型工作组，推进安全可靠的人工智能开发。2023 年 4 月，英国政府宣布投入1 亿英镑初始资金建立基础模型工作组,旨在通过强化人工智能基础模型的发展和应用，提升英国战略技术上的全球竞争力。在实施计划上，工作组将汇集政府和行业专家每月直接向英国首相和技术部长报告，在六个月内启动第一批针对公共服务的试点项目，力图将英国打造为基础模型及其经济应用全球领导者和人工智能安全的“全球旗手”。
在国际合作层面，英国试图通过人工智能安全峰会打造全球人工智能监管的地理中心。一是峰会致力于支持国际包容性的前沿人工智能安全科学研究网络，涵盖并补充双边乃至多边合作，为决策和公共利益提供科学参考。在国家层面，各国应重视创新并采取相称的治理和监管方法，根据不同国情和法律框架进行风险分类，制定基于风险的政策；在国际层面，识别共同关注的人工智能安全风险，建立对风险共同的科学理解。二是发布《关于人工智能安全的布莱切利宣言》，促成各国对人工智能的机遇和风险、以及在安全领域采取协作的共识。全球二十八个国家共同的宣言指出，当前迫切需要借助新的全球合作了解和集体管理潜在人工智能风险，以人为中心、以安全的方式设计、开发、部署和使用人工智能。在风险共识上，（1）前沿人工智能的特殊安全风险，使通用模型和基础模型可能造成严重甚至灾难性的伤害，因此加深理解和采取行动尤为紧迫；（2）人工智能产生的许多风险具有国际性，需要通过国际合作解决。三是设立全球首个人工智能安全研究所，负责测试前沿人工智能的安全性，以巩固英国作为人工智能安全世界领导者的地位。英国政府宣布与美国、新加坡、谷歌、DeepMind 等国家和企业合作，设立全球首个人工智能安全研究所。研究所旨在争取世界领导人和主要人工智能公司的集体支持，使英国占领人工智能安全的中心地位。其主要工作是，在新型人工智能发布前后开展涵盖所有风险的测试，以消减人工智能模型潜在的危害。四是制定前沿人工智能模型的安全测试计划，建立对前沿人工智能能力和风险的共同理解。英国联合在人工智能领域领先的国家政府首脑与开发公司代表商定：（1）政府和企业合作开展前沿人工智能安全测试，确保模型部署前后的安全，以应对关键的国家安全和社会风险；（2）各国政府达成共识，投资公共部门的安全测试及其他安全研究，并适时考虑共享评估结果、制定共享标准，为未来人工智能安全方面的国际合作奠定基础。
4.国际组织在大模型治理国际合作中各显其能
当前，人工智能治理问题在全球范围内引起了各大国际组织的密切关注。以联合国、G7 集团、金砖国家为代表的涵盖发达国家与新兴市场等各类型经济体的国际组织，均在通过发布文件、举办会议、磋商合作等方式，积极参与人工智能监管体系与国际合作模式的构建。 一是联合国成为推动人工智能全球监管合作的重要机制。发布系列文件助力全球伦理共识落地。2023 年5 月《生成式人工智能在教育和研究中的应用指南》为人工智能伦理教育应用建立政策框架。6月与欧盟签署协议，预计拨款 400 万欧元帮助部分欠发达国家建立相关法案，落实《教科文组织人工智能伦理建议书》。10 月与欧盟改革总干事和荷兰数字基础设施管理局合作，分析人工智能监管落地设计。支持成立跨国监管与咨询机构。6 月推动成立国际人工智能监管机构，定期审查相关治理工作。10 月成立高级别人工智能咨询机构，呼吁全球性、多学科、多利益相关方对话。健全全球安全风险应对机制。5 月发布《我们的共同议程》政策简报“全球数字契约”，以落实人工智能等新兴技术治理为目标，立足当前全球技术发展和市场应用间的治理差距和潜在红利，强调各国合作确定、减轻风险的必要性。7 月在纽约召开人工智能风险问题会议，首次正式讨论该议题，凸显全球关注的态势。此外，“新和平纲领”针对人工智能治理提出建议，尤其呼吁在 2026 年前完成有法律约束力的国际文书谈判工作，以禁止在没有人类控制或监督的情况下运行致命自主武器系统。
二是 G7 峰会推进构建一致且互操作性的人工智能监管规则。2023 年 5 月，七国集团（G7）领导人在日本广岛举行年度峰会，就包容性人工智能治理和互操作性展开国际讨论，以实现构建值得信赖的人工智能、符合共同民主价值观的共同目标。此前，美国战略与国际问题研究中心（CSIS）发布《在 2023 年G7 峰会推进人工智能治理合作》报告指出，人工智能的突破性发展使其成为当前发达国家有效应对劳动力短缺的重要方式，国际间一致且可互操作的监管框架对其持续进步和高效应用至关重要。为在发达民主经济体中实现一致且可互操作的人工智能监管，报告建议：（1）统一人工智能监管框架的规范和概念，在核心原则、基本术语和关键领域等方面达成共识。（2）合作制定人工智能技术标准，建立互认框架，提升跨司法辖区定义的一致性和协调性。（3）达成良好且道德的人工智能原则共识，构建可互操作、平衡、互认的人工智能监管方案。总体上，G7集团聚焦人工智能技术革新对发达国家经济现状和未来发展的影响，尤其关注人工智能监管格局分散的现实风险和潜在挑战，并以此为基础推进合作。
三是金砖国家在人工智能合作上的优势凸显。以新兴市场和发展中国家为代表的金砖 11 国在人工智能领域具有丰富应用场景、良好产业基础、先进治理经验和广阔合作前景，是国际人工智能治理的重要力量。巴西 2021 年发布人工智能战略，提出人工智能开发和使用原则。南非发布“非洲人工智能蓝图”，积极引领相关战略合作，推进人工智能在农业、医疗保健、教育、金融、能源交通与气候变化领域的应用。沙特阿拉伯 2020 年发布国家数据和人工智能战略，2022年发布《人工智能道德准则》，提出将人工智能伦理融入其系统全开发周期。印度 2015 年发布“数字印度”战略，2018 年《国家人工智能战略》提出由政府推进标准化负责任的人工智能开发，2023年提出以市场为核心发展人工智能。此外，埃及、埃塞尔比亚、俄罗斯等国也通过举办会议、发布战略等方式拓展人工智能技术与治理。当前，应加强金砖国家人工智能治理多边合作机制，分类推进双边合作，更好地发挥其在全球人工智能治理中的积极作用。在合作上，以元首外交引领人工智能合作，形成以元首会晤为引领，以部长级会议为支撑的合作机制；具有深化人工智能合作的良好基础，已在经贸、科技、农业、教育等数十个领域务实合作，形成共同推动制定合作协议、行动计划等多层次合作架构，围绕人工智能也已开展多种合作。
