全球为发展负责任的生成式人工智能付出了哪些努力？

国际组织积极探索人工智能的共识原则与发展 规范。

1.国际组织的努力

2019年5月，经济合作与发展组织（OECD）发布 了第一个政府间关于人工智能治理的原则。2019年6 月，二十国集团（G20）进一步提出了“G20人工智能 原则”，旨在培养公众对人工智能技术的信任和信心， 并充分发挥其潜力，具体内容包含“包容性增长、可持 续发展及福祉”、“以人为本的价值观和公平”、“透明 度和可解释性”、“稳健性、安全性和保障性”和“问责 制”等原则，得到了国际社会的普遍认同。2021年6月，世界卫生组织（WHO）发布了《世界卫生组织卫生健 康领域人工智能伦理与治理指南》，提出了六项原则 和一系列建议以确保人工智能符合所有国家公共利 益，包括：保护人类自主性，增进人类福祉、安全以及 公共利益，确保透明度、可解释性和可理解性，促进 负责任和问责，确保包容性和公平性，提升人工智能 的响应性和可持续性。2021年11月，联合国教科文 组织（UNESCO）通过了全球首个人工智能伦理协议 《人工智能伦理问题建议书》，提出了发展和应用人 工智能应尊重的四大价值，即“尊重、保护和促进人 权、基本自由及人类尊严，促进环境与生态系统的发 展，确保多样性和包容性，构建和平、公正与相互依 存的人类社会”。2023年10月，联合国秘书长宣布组 建高级别人工智能咨询机构，以探讨人工智能带来 的风险和机遇，并为国际社会加强治理提供支持。 　　

国际组织高度关注发展负责任的生成式人工智 能。2023年4月，OECD《人工智能语言模型》在原有的 治理原则基准上，提出了与语言模型等生成式人工智能相关的政策考虑因素。2023年5月，联合国发布了 关于《全球数字契约》的政策简报，其中就人工智能 和其他新兴技术的敏捷治理提出四项目标，即确保 设计和使用的透明、可靠、安全，并在负责任的人类 控制之下，将透明、公平和问责作为人工智能治理的 核心，将国际指导和规范、国家监管框架和技术标准 结合起来形成敏捷治理的框架，监管机构在多方面 协调以确保新兴数字技术与人类价值观相一致。 2023年6月，世界经济论坛（WEF）发布了《关于负责 任的生成式人工智能的建议》，报告面向广泛的利益 攸关方，从负责任地开发和发布生成式人工智能、开 放创新和国际合作、社会进步三个层面提出了三十 条建议，旨在培养负责任和包容性的人工智能开发 和部署流程，从而推动生成式人工智能系统的信任 和透明度持续发展。2023年6月世界互联网大会发 布“AI（爱）公益行动计划”，倡导推广利用AI技术提 升人类福祉。2023年9月，UNESCO《生成式人工智 能在教育和研究中的应用指南》基于以人为中心的 原则，提出了各国规范生成式人工智能在教育应用 的七个关键步骤，包括从数据保护、AI政策、AI伦理、 版权法、生成式人工智能监管等方面制定或调整现 有政策规定，建立在教育研究中使用生成式人工智 能的指导原则，反思生成式人工智能对教育与研究 的长远影响34。

2.主要国家和地区的努力

各国家和地区积极探索人工智能的伦理法治， 在鼓励创新中规范发展。欧盟在2019年发布的《可 信人工智能伦理准则》中，厘定了人类代理和监督、 技术稳健性和安全性、隐私和数据管理、透明度、多 样性、无歧视和公平、环境和社会福祉、问责制等七 项伦理原则35。在即将出台的《人工智能法案》中，欧盟拟采取基于风险的分级规制方法，倡导负责任的 研究与创新。中国在2019年发布《新一代人工智能 治理原则⸺发展负责任的人工智能》，强调和谐友 好、公平公正、包容共享等八项原则，保障人工智能安 全可靠可控。为细化落实该原则，中国于2021年发布 《新一代人工智能伦理规范》，提出了人工智能管理、 研发、供应和使用四个环节的18项具体伦理要求。 2023年10月，中国在第三届“一带一路”国际合作高 峰论坛发布《全球人工智能治理倡议》，并提出“愿同 各国加强交流和对话，共同促进全球人工智能健康有 序安全发展”36。加拿大于2022年6月提出了《人工智 能和数据法案，意图建立负责任的人工智能框架，引 导人工智能创新的正向发展，要求具有高影响力的人 工智能系统遵循人类监督和监控、透明度、公平和公 正、安全、问责制、有效性和稳健性的原则37。美国白宫 科技政策办公室在 2022 年 10 月发布了《人工智能权 利法案蓝图》，提出了系统安全有效、算法歧视保护、 数据隐私、通知和解释以及人的自主选择与退出等五 项原则和相关实践指南38。美国国家标准与技术研究 所在2023年1月推出了《人工智能风险管理框架》及 配套手册，通过框架的治理、映射、测量、管理四个核 心功能，帮助组织机构在实践中应对人工智能系统带 来的风险39。英国科学、创新和技术部在2023 年3月发 布了《一种支持创新的人工智能监管方法》白皮书，以 安全、安保和稳健性，适当的透明度和可解释性，公 平，问责制和治理，竞争和补救等五项原则来指引人 工智能负责任的发展和使用40。

生成式人工智能崭露头角，各国家和地区迅速反 应并审慎指引。ChatGPT等生成式人工智能迅猛发 展，对人工智能系统的构建和部署方式产生极大影 响，引发了更深切的担忧。欧盟即将完成审议的《人工 智能法案》在修订草案中对生成式人工智能施加了透明度义务，要求披露内容是否由人工智能生成、帮助 区分深度伪造图像和真实图像，还要求披露训练数据 的版权等41。美国政府先后在2023年7月、9月两次 召集主要人工智能企业签署自愿承诺，推动人工智 能技术的安全、可靠、可信发展42，并宣布采取包括 对现有生成式人工智能系统进行公开评估在内的 系列行动43。美国总统科技顾问委员会还专门成立 了生成式人工智能工作组，指导安全、公平、负责任 地开发部署相关技术44。2023年6月，英国内阁办公 室在《公务员使用生成式人工智能的指引》中指出 必须要意识到新技术的机会与风险，为英国公务员 使用生成式人工智能划定了一般原则45。中国除了 早先制定的《互联网信息服务算法推荐管理规定》 《互联网信息服务深度合成管理规定》，还于2023 年 8 月 施 行 了《生 成 式 人 工 智 能 服 务 管 理 暂 行 办 法》，坚持发展和安全并重、促进创新和依法治理相 结合的原则，采取有效措施鼓励生成式人工智能创 新发展。加拿大在2023年8月，根据《人工智能和数 据法》的原则制定了生成式人工智能的业务守则要 素，为开发人员、部署人员和运营商提供具体参考46。 随后加拿大发布了《生成式人工智能的使用指南》， 为了维护公众信任并确保联邦机构负责任的使用 生 成 式 人 工 智 能 工 具 ，要 求 联 邦 机 构 遵 循 “FASTER”原则：公平、可追责、安全、透明、受过教 育和相关性，为政府使用生成式人工智能工具提供 了初步指引47。与此同时，法国、日本、韩国、新加坡等 国家也都积极致力于人工智能治理的相关工作。

3.产业界的努力

全球产业界通过设立准则指引、建立伦理委 员会、开发治理工具等方式积极践行负责任的人 工智能。准则指引方面，IBM、微软、谷歌、百度、腾 讯、阿里、商汤、360等推出企业人工智能原则，包 括对社会有益、安全、保护隐私、公平、透明、可解 释、可控、负责任等方面。在产业组织方面，中国人 工智能产业发展联盟发布《人工智能行业自律公 约》，中国信通院发布了《可信人工智能白皮书》， 中国社科院法学所团队在征求产业界意见基础上 面 向 全 球 发 布《 人 工 智 能 示 范 法 1 . 1（ 专 家 建 议 稿）》4 8。治 理 组 织 方 面，I B M、微 软、谷 歌、Lu c i d AI、商汤、阿里、蚂蚁、旷视等多家科技公司设立了 伦理委员会。其中，微软内部有3个机构负责AI伦 理事务，IBM的AI伦理委员会支持公司所有项目团 队执行AI伦理原则，商汤设置伦理风险审核团队 对所有产品实施伦理审查。工具实践落地方面，企 业还积极通过开发多样化伦理治理工具、制定企 业内部行动指南等方式，促进科技伦理治理原则 技术化、工程化。比如，IBM于2018年开发多个人 工智能可信工具，以评估测试人工智能产品在研发 过程中的公平性、鲁棒性、可解释性、可问责、价值 一致性4 9。微 软、谷 歌、3 6 0、京 东、华 为、百 度、腾 讯、蚂蚁、旷视、商汤、印象笔记等企业也在积极开 展相关实践工作。 　　

生成式人工智能浪潮下，企业积极探索应对 新风险的新方案。提升安全性和稳健性方面，思科利用安全、数据泄露和隐私事件响应系统来管理 涉及偏见和歧视的人工智能事件，并向更广泛的 利益相关者报告调查结果和补救步骤50。蚂蚁集团发 布了大模型安全解决方案“蚁鉴2.0”，包括AIGC安 全性和真实性评测、AI鲁棒性和可解释性检测等多 项功能。保护数据隐私方面，GitHub Copilot 为用户 提供使用标准配置文件的选项，无需访问云端API 而存储在本地机器上进行开放，从而保护用户隐私 性。商汤“日日新SenseNova”大模型在设计、编码、 测试、交付等阶段设置了个人信息保护的审核节点， 对个人信息处理情况进行必要的检查51。提升透明度 方面，为了帮助整个行业提高人工智能的透明度， IBM推出了AI FactSheets 360网站，提供关于人工 智能模型重要特征（包括目的、性能、数据集、特征 等）的“情况说明书”组装方法52。提升可解释性方面， OpenAI利用GPT-4对GPT-2的神经网络行为自动化 地撰写解释并对其解释打分，推进模型的可解释性 和可理解性研究。保障公平包容方面，谷 歌 引 入 “LASSI”表征学习方法来验证高维数据的个体公平 性，使得用户数据可以更加公平的方式处理53。确保 价值对齐方面，OpenAI成立超级对齐（Superalignment）团队，希望用四年时间解决人工智能系统与 人类价值一致性问题。辨识生成内容方面，Meta开 源数字水印Stable Signature，将数字水印直接嵌 入到AI自动生成的图片中，极大增强生成式人工智 能安全。抖音提倡平台提供统一的人工智能生成内 容标识能力，帮助创作者打标，方便用户区分54。