人工智能算法影响评价与审计内涵、共性与差异分析

就制度缘起而言，人工智能算法影响评价的必 要性和重要性在于其将治理重心从结果转向了过程，在淡化追溯直接责任因果链 条的同时，强调治理信息的记录、共享、监督，以此积累治理经验并为算法设计 者、应用者的及时调整提供参考。

1. 算法影响评价的制度内涵

从制度沿袭视角来看，算法影响评价与财政影响评价（Fiscal ImpactAssessment） 4、环境影响评价（Environmental Impact Assessment） 5等具有紧密 关联，其本质上都可被视为在政府决策过程中引入专业知识以辅助决策，提供决 策的科学化和民主化水平。从作用上讲，影响评价制度可能贯穿决策始终，既可 能在决策事前作为项目立项或应用的准入条件，也可以作为决策事后作为项目改 进或评价的结果参考。但无论其作用和方式如何，影响评价从制度内涵上讲，都 可被视为对项目不同方案的社会影响（广泛涉及个人、群体、环境等不同对象） 进行比较，以一定原则（例如最优原则、满意原则、底线原则）为标准选择特定 方案或提出改革建议的过程。

就算法影响评价而言，其分析单位是算法系统的设计与应用过程，而分析对 象则是该过程对社会各个维度（个体、集体或环境）的多类型影响，从而反过来 促使算法设计、应用者调整其行为方式以避免/最小化有害影响。考虑到社会影 响的宽泛性（包含不同主体、不同维度）、关联性（算法影响与其他社会因素的 影响可能互相交织）、动态性（算法影响将伴随社会环境的变迁而变化）等多重 复杂因素特征，算法影响评价的过程往往要求是开放式的、连续性的，即算法影 响评价并不是在一个预先限定好边界的范畴中展开评价，而是需要充分考虑相关 主体、具体场景、环境变迁等本地化知识以形成一个良性互动、持续推进的评价 过程。 在此意义上，算法影响评价是需要被嵌入到算法设计、应用的全生命周期过 程，而这也意味着传统视角下往往被视为私主体自主决策、封闭决策权力范畴的 技术开发、应用过程也需要向利益相关方开放，以使得影响评价的结果能够被及 时吸纳并服务于算法设计、应用决策的调整与修正。此时的利益相关方可以是政 府监管部门、社会第三方乃至是全体公众，而根据开放程度的差异，算法影响评 价在制度实践过程中也将形成不同模式。

2. 算法审计的制度内涵

从制度沿袭来看，算法审计与财务审计、劳动保护审计等已经被各个领域广 泛应用的审计监管实践紧密相关，其目的在于通过技术方法对算法系统是否按照 预期既定要求运行而进行观察、监督，其关键内容包括两部分：确定一个明确的 审计标准或要求，判断算法系统的运行过程与结果是否与这个审计标准或要求保 持一致。简而言之，算法审计的主要目的在于判断算法系统是否按照其所“声称” 的方式在运行。 从这一定义来看，包括算法审计在内的各类型审计制度，其都包含“名义值 （nominal information）”和“实际值（actual information）”这两个部分，而 审计的目的就在于判断实际值是否与名义值保持一致，并在不一致的时候为执行 者的修改与矫正提供参考。因此，算法审计的对象是算法系统本身，而算法审计 的主体同样可以是政府监管部门或者第三方主体，乃至是具有技术能力的社会公 众。算法审计从定义上讲，是一个封闭系统，因其需要在确定的“名义值”指导 下来展开审计，而考虑到“实际值”需要在应用后才能被收集和对比，因此算法 审计往往又体现为事后监督行为而非事前准入条件。

从算法审计的基本内涵来讲，其同样打破了私主体的决策范畴和决策权力边 界，而要求外部主体（监管者或其他相关方）进入至算法设计、应用的全流程。 根据外部主体参与程度的不同，算法审计可以进一步细化为内部审计和外部审计。 从当前的政策实践来看，考虑到私主体可以以商业秘密保护、私有产权保护等名 义拒绝开放，内部审计仍然是更主要的审计方式；但另一方面，在各国算法治理 法律制度建构过程中，我们也越来越多的看到包括监管者审计在内的外部审计影 响力的逐渐提升，各国正在通过制度性立法要求算法设计、应用者开放算法生命 周期过程的相关信息，以使得外部审计成为可能。 同时值得注意的是，尽管算法审计是近年来才成为各国制度建设的重要组成 部分，但在学术界，算法审计已经存在了很长时间。针对搜索引擎算法的偏差歧 视问题、针对社交媒体算法的隐私保护问题、针对犯罪风险评估算法的种族歧视 问题等，已经涌现出了非常丰富的研究文献。从研究方法来看，这些文献大都是 外部审计，其都是在算法设计者、应用者没有开放全过程，而仅将算法视为“黑箱”并通过输入、输出测试来判断、比较其是否按照既定要求运行的外部监管过 程，它们主要扮演了社会公众监督的积极作用。但另一方面，考虑到算法设计、 应用过程的封闭性，这种算法审计的信度、效度始终存疑，而近年来算法审计制 度的改革也是针对此问题的制度性调整，试图将分散的、自下而上的算法审计过 程，上升为体系性的制度改革。

3. 算法影响评价与算法审计的共性与差异

基于以上两小节的分析不难发现，算法影响评价与算法审计既具有共性，也 存在较大差异。 从共性来讲，二者都要求打开私主体的决策权力边界，并将公共性考量融入 到算法设计、应用过程之中。在此意义上，二者都不同于传统的建立在“公-私” 边界划分基础上的监管逻辑，其目的都在于通过对算法设计、应用过程的观察与 监督以发现消极或负面的治理影响，从而反过来要求算法设计、应用过程的调整 与修正，以最小化或规避治理风险。

然而另一方面，二者的区别则更为明显。首先，二者的分析对象存在差异： 算法影响评价的分析对象是受影响者（因变量），而算法系统是产生影响的自变 量；相比之下，算法审计的对象就是算法系统本身，其要评估的是系统“名义值” 与“实际值”的一致性程度。其次，二者的分析过程存在差异：算法影响评价要 求开放性，即影响评价需要在不断对话的持续过程中迭代演化，具有动态性；相 比之下，算法审计需要在明确的“名义值”引导下展开，并因此是封闭性的。第 三，二者的制度局限存在差异：算法影响评价在很大程度上受限于其宽泛而模糊 的分析对象范畴（即因为算法应用范围的广泛性和应用种类的多样性，算法影响 评价所要覆盖的治理目标往往较为多元，且其内涵也较为丰富），并因此可能难 以有效执行；相比之下，算法审计的“名义值”往往是确定的，并因此可以得到 有效执行，但算法设计、应用者也可能按照“名义值”来优化系统进而规避真正 的治理要求，这也构成了“监管规避”的不良后果。 也正是因为二者差异的存在，算法影响评价和算法审计并非相互替代关系， 而是相互补充以最终回应算法治理的新要求和新挑战。