AI治理的关键挑战有哪些？

我来概括一下，如果想要了解更多的话，可以前往原报告查看。

多层次的治理

虽然许多国家已经发布了关于人工智能的国家指导方针（Schmitt， 2021），但地方政府在制定、实施和评估政策能力监管框架方面仍 面临各种挑战（Taiihagh，2021）。城市本身是更大领土实体中的参 与者，是更大系统中的独立系统，是全球城市网络中的节点。一个城 市领土的嵌套地理方面反映在多个法域的治理能力和责任的分散上。 不同层次的技术治理涉及在城市领土上运作的各级政府相互依存的行 为体，以及包括公共、私营和社会部门在内的非国家行为体（ Enderlein and al.，2010）。 由此产生的多层次组织构成了真正的挑战，因为这可能意味着地方当 局的能力和资源有限。然而，多层次治理方法可以通过赋予各级治理 在决策中的关键作用，支持城市从这些管辖结构中受益。 国家政府的作用尤其在于巩固各国人工智能治理话语中活跃的具体原 则、政策框架和价值观，并为人工智能创新和发展培育国家生态系统 。虽然城市在存在这些国家指导方针时会参考它们，但城市仍然可以 积极参与确定优先事项，并提出他们对人工智能的兴趣和愿景（联合 国人居署，2021年）。

问责制

人工智能带来了三大问责挑战：政治问责、适应随时间变化以及 自动化系统的责任。总体而言，问责制在很大程度上决定了城市 在发展城市人工智能时如何平衡风险和机遇。这使得问责结构在 人工智能治理中尤为重要。在这里，我们专注于后两个挑战。 在人工智能系统交付或采购后，考虑谁负责是非常重要的。算法系 统会随着时间的推移而变化，它们的影响并不总是可以预测的。人 工智能系统将塑造并受到其部署环境的塑造，随着时间的推移，目 的的改变可能会挑战在人工智能生命周期早期阶段达成的协议。一 个例子是任务蔓延，当技术被有意地重新用于监视实践时，这是一 种相对常见的现象（见第4.2.1节）。 人们对自动化系统的责任也越来越关注。算法在没有透明人类意图的 情况下对世界采取行动，这挑战了我们现有的以人为本的问责框架。 虽然自治系统可能相对独立地运作，但它们仍然由人类参与者设计、 资助和拥有。因此，在设计、资助或在某些情况下使用算法的参与者 之间分配责任非常重要。例如，如果一辆自动驾驶汽车发生碰撞，谁 负责？ 在城市的关键服务中设计和实施算法会转移参与者之间的现有责任 。例如，为公共交通服务创建的公私合作伙伴关系可能依赖于与人 工智能系统交互并处理敏感数据的众多分包商。问责制的挑战是承 认人工智能系统整个生命周期的责任，并建立治理机制，以便在出 现问题时对问题做出反应。

能力有限

有限的容量是全球城市人工智能治理面临的最大挑战之一。虽然专 业人士缺乏人工智能技能可能会因城市的社会经济状况和全球数字 鸿沟而加剧，但这对富人和穷城市来说都是一个挑战。 全球向人工智能的转变刺激了对IT专业人员的需求不断增加。在IT 人才和更多利基AI技能的竞争中，私营部门超越了 政府有能力吸引这些专业人员。值得注意的是，城市缺乏足够的资 金来雇用专业人力资源并在内部推动尖端开发工作。这种有限的能 力使城市处于这样一个位置：适当治理人工智能所需的技术专长几乎总是外包和采购。 此外，负责资助人工智能解决方案的决策者与提供该技术的决策者之 间的技能差距使得系统监控非常困难。通过跨部门合作（中短期）和 地方能力建设（长期），城市可以在以价值观为中心的同时克服这一 限制。这两个杠杆构成了以下治理建议的重要组成部分。