算法审计需求论

【摘要】算法审计是算法治理体系的重要成员， 本文以经典审计理论为基础， 提出算法审计需求的一个理论框架。算法的合约类委托代理关系中存在完备合约， 监管类委托代理关系中算法相关法律法规发挥了类似完备合约的作用， 这两类关系中都不存在算法审计需求。算法的资源类委托代理关系中， 由于激励不相容、 信息不对称、 合约不完备和环境不确定同时存在， 必须建构算法治理体系来应对算法代理问题和次优问题， 算法审计基于审计固有功能对算法责任履行情况实施鉴证， 发现其中存在的代理问题和次优问题， 报告给委托人及其他利益相关者并推动整改， 从而为算法责任的良好履行提供一定的保障。

【关键词】算法委托代理关系；算法代理问题；算法次优问题；算法治理体系；算法审计需求

【中图分类号】F239.44" " " 【文献标识码】A" " " 【文章编号】1004-0994（2024）16-0077-6

一、 引言

算法是为驱动计算机完成各种复杂任务的一系列有序、 明确的步骤或指令， 随着人类社会信息化程度的提高， 特别是人工智能的快速发展， 算法已经深入人们生活及工作的各个方面。根据英国的在线调查， 92%的普通公民在个人生活和工作中， 每天与算法互动数十次（DRCF，2022）。算法的广泛采用为人们的工作和生活带来了便利， 增进了人类福祉， 与此同时也带来算法风险甚至算法危机， 因此， 人类必须建构算法治理体系来应对这些问题， 算法审计是算法治理体系的重要成员。算法审计要真正在应对算法风险甚至算法危机中发挥作用， 必须建构科学的算法审计制度， 而正确认知算法审计各基础性问题， 是科学建构算法审计制度的基础， 在算法审计诸多的基础性问题中， 本文聚焦算法审计需求。

现有文献分析了算法带来的问题及算法治理体系， 也有文献分析了算法审计相对于其他算法治理机制的优势， 一定程度上解释了算法审计的产生原因， 但整体来说， 对于算法审计需求的分析是碎片化的， 并且未能贯通审计逻辑。本文以经典审计理论为基础， 提出算法审计需求的一个理论框架， 以深化人们对算法审计需求的认知， 并为建构和完善算法审计制度提供理论参考。

二、 文献综述

算法审计需求关注的是为什么会有算法审计， 即从理论上阐释算法审计产生的原因。现有文献涉及算法负面问题、 算法治理体系和算法审计的产生原因， 本文分别对上述三个方面进行综述。

1. 算法问题。现有文献几乎一致认为， 算法在给人类社会带来福祉的同时， 也带来一些问题。部分文献研究了算法问题的类型及成因。

关于算法问题的类型， 现有文献存在不同的分类方法。Abeba Birhane等（2024）指出， 人工智能的广泛使用带来的风险包括功能性失败、 性能不确定性、 嵌入式刻板、 法律不相容、 侵犯隐私和模型不可理解。张欣（2019）指出， 算法危机包括算法歧视、 算法合谋、 算法霸权、 算法黑箱、 算法短视等问题。Aragona（2021）将算法问题概括为黑箱问题、 数字社会不公平、 公共机构不透明及责任不清问题。Beckstrom（2022）指出， 在公共服务中使用开发不仔细的算法可能会导致效率低下， 损害大家对当局的信任， 并对公共部门的良好运作产生不利影响。张永忠和张宝山（2022）指出， 算法可能产生算法歧视等异化问题。师文和陈昌凤（2022）指出， 搜索引擎的结果可能反映、 强化现实世界的既有偏见。赵德勇和张子辉（2023）指出， 算法在很大程度上就是一个“黑箱”， 用户在算法权力和算法不透明的情况下， 既被算法所控制、 影响， 又难以发现算法存在的问题， 最终被轻易“杀熟”。徐明华和魏子瑶（2023）指出， 算法暴露出歧视偏见、 价值误导等诸多伦理问题。陈雄燊（2023）认为， 人工智能算法伦理风险包括算法歧视、 算法操纵、 权益侵蚀、 人的主体性地位消解、 算法黑箱和算法失真。付冉冉（2023）将算法风险分为算法黑箱、 算法歧视、 算法霸权、 算法合谋和算法伦理。刘建业（2023）指出， 算法带来了诸多挑战， 包括 “大数据杀熟”问题、 信息茧房问题和算法行政中存在的问题。

不少文献对算法问题的成因进行了讨论。苏宇（2020）认为， 算法风险成因主要包括目标失范、 算法缺陷、 信任危机、 防御薄弱、 监管与责任机制不足等。孙莹（2020）认为， 人工智能算法推荐实际上颠覆了整个行业的底层， 存在某种倾向的价值观， 绝非技术中立， 而是杂糅着社会价值观。徐明华和魏子瑶（2023）将算法问题的成因分为四个方面： 一是算法设计者有意或无意的主观偏见； 二是训练数据的代表性不足； 三是商业逻辑导向之下的算法规则损害了用户权益； 四是模型自主学习混入的机器逻辑会带来诸多未知风险。付冉冉（2023）认为， 算法歧视包括算法设计者的偏见、 先天训练数据的偏见以及技术性算法偏见。王玉凤（2023）认为， 模型算法风险包括模型算法自身缺陷或使用不当带来的风险， 其根源为算法权力的异化。赵德勇和张子辉（2023）认为， “大数据杀熟”的实质是平台过度收集个人信息数据和滥用算法。陈雄燊（2023）认为， 人工智能算法伦理风险产生的原因包括三个方面： 一是主观层面的理性失衡与利益追逐； 二是客观层面的技术缺陷与认知局限； 三是规范层面的规制落后与教育缺位。

2. 算法治理体系。为了应对算法问题， 需要建构算法治理体系， 现有文献对算法治理体系有多种分类。

苏宇（2019）对算法规制的制度工具做了分类， 主要包括软件登记与材料留存、 算法解释、 权益保障设计及安全措施、 算法标准、 技术接口与监管便利条件、 算法责任。沈伟伟（2019）、 张旭（2022）将算法治理区分为两类， 一是以算法透明为代表的事前规制， 二是以算法问责为代表的事后规制。丁晓东（2020）指出， 算法规制主要采取算法公开、 个人数据赋权与反算法歧视这三种方式。苏宇（2020）认为， 算法规制工具主要包括算法标准、 算法审查、 算法解释、 算法查验、 算法认证、 缺陷检测、 风险监测、 违规举报奖励、 算法应用登记等。付冉冉（2023）将算法规制分为两种模式， 一种是个体赋权模式， 另一种是外部问责模式。刘建业（2023）认为， 当前法学领域主要提出两种算法规制路径， 一是权利保护规制路径， 二是义务设置规制路径。

3. 算法审计的产生原因。既然已经建构了应对算法问题的算法治理体系， 那么， 算法审计产生的原因是什么呢？根据现有文献， 主要有两方面的原因， 一是算法治理体系存在缺陷， 二是算法审计具有独特优势。

不少文献分析了算法治理体系存在的缺陷。张旭（2022）认为， 以算法问责为目标的事后规制路径存在滞后性， 难以满足人们通过法律制度调适算法利用带来的种种负面影响的迫切需求。张文魁（2022）指出， 算法规制的最大难点在于算法的不透明性和非人工性， 算法程序不断快速更新， 从而很难进行事前监管， 由于这些行为是通过自动化程序而大规模和隐秘化实施的， 监管部门要搜集足够有力的证据也存在很高的成本。沈艳（2022）指出， 我国算法治理实践仍然面临不少挑战， 缺乏事前的过程性监管， 技术性规范监管较少。刘建业（2023）指出， 当前提出的算法规制路径主要是权利保护规制路径和义务设置规制路径， 但是， 上述两种规制路径面临可行性和可欲性困境， 其根本原因在于上述规制方式缺乏对算法的场景化考虑。

不少文献分析了算法审计的独特优势。庄尚文和陈王薏（2021）认为， 算法审计具有制度优势和技术优势： 从制度上来说， 国家审计具有独立性、 代表性、 专业性、 法定性、 经济性等优势， 这些优势可以使其在规制算法权力时能更好地发挥作用； 从技术上来说， 算法审计突破资源限制、 时空局限和传统方法， 有助于审计人员提高审计效率， 达到高效监管的要求。张欣和宋雨鑫（2022）认为， 与算法透明框架相比， 算法审计制度更为灵活、 包容， 可依据算法系统的透明程度做出因应性调整。王玉凤（2023）认为， 审计作为党和国家监督体系的重要组成部分， 将模型算法纳入审计监督的范围， 可充分发挥审计“治已病”“防未病”的重要功能。陈雄燊（2023）认为， 算法审计相较其他治理路径， 具有现实约束力、 有限透明性以及“强程序， 弱追责”的特点， 从而可以做到以伦理制度化加强现实约束力、 以程序规范化促进结果正当化和以有限透明性平衡商业秘密性。付冉冉（2023）认为， 审计体系成熟且独立， 工作流程完善， 可由审计机构主导进行算法审计审查， 有效回应算法风险产生的社会管理问题。徐明华和魏子瑶（2023）认为， 在算法透明原则不足以解决当下的伦理问题时， 由果溯因的反推检测应运而生， 算法审计由此进入学术视野。张涛（2024）认为， 算法审计作为一种新型的社会技术方法， 可以充分考虑自动化决策在技术、 法律、 伦理等维度的要求， 弥补现有规制路径之不足。

正是由于算法审计具有一些独特的优势， 其已经在各种法律法规、 标准化框架和行业最佳实践指南中成为一种识别和减轻人工智能危害风险的机制（Khoa Lam等，2023）。美国纽约市议会于2021年通过了偏见审计法令， 偏见审计——定义为独立进行的公正评估——是所有招聘和晋升中需要使用的自动化工具①。

4. 简要述评。从逻辑上来说， 需要按“算法问题→算法治理体系→算法审计”的顺序来阐释算法审计需求， 现有文献也涉及上述三个方面， 但是， 未发现有文献按这个逻辑系统阐释算法审计需求， 在分析算法审计的必要性时也未能贯通审计逻辑。因此， 整体来说， 对于算法审计需求的理论分析是碎片化的， 并且未能贯通审计逻辑， 关于算法审计需求， 尚缺乏一个贯通经典审计理论的系统化的理论框架。

三、 理论框架

本文的目的是以经典审计理论为基础， 提出算法审计需求的一个理论框架， 为此， 需要顺序阐释以下三个问题： 算法委托代理关系， 委托代理关系中的代理问题和次优问题及其应对机制， 算法审计在算法治理体系中的定位。

1. 算法委托代理关系。根据经典审计理论， 审计源于资源类委托代理关系（郑石桥，2021）， 所以， 本文先分析与算法相关的委托代理关系（见图1）， 以此作为分析算法审计需求的起点。

图1中共有三种类型的委托代理关系， 分别为资源类委托代理关系、 合约类委托代理关系和监管类委托代理关系。

关系1是资源类委托代理关系。委托人将资源交付代理人， 并明确代理人使用这些资源所要履行的职责， 代理人对委托人承担了最大善意使用资源来履行所要求职责的责任（经管责任）， 这与经典意义上的资源类委托代理关系并无实质性差异。但是， 代理人在履行经管责任时使用了算法， 算法既是代理人履行经管责任的基础， 也是委托人目标得以实现的基础， 因此， 代理人使用的算法也就成为委托人关注的重要事项。

关系2是合约类委托代理关系。代理人是关系的一方， 另一方是代理人履行其经管责任时发生经济活动的对方， 由于代理人是基于算法与对方发生经济活动， 因此， 通常将这种对方称为算法相对人。在这种关系中， 代理人作为经济活动的一方， 是算法的使用者， 算法相对人是算法的接受者。算法相对人较为复杂， 例如， 美团公司的外卖业务中， 外卖员及顾客都是算法相对人， 美团公司则是算法使用者。代理人作为算法使用者与算法相对人之间存在经济活动相关信息的不对称， 也存在算法相关信息的不对称， 根据信息经济学， 这些关系属于委托代理关系（DRCF，2022；汤志伟等，2023）。但是， 算法使用者和算法相对人之间的关系仍然属于合约类委托代理关系， 其原因分析如下： 算法使用者和算法相对人之间会发生经济活动， 通常存在显性或隐性的合约， 但这种合约的履行要依赖算法， 算法作为履行合约的方法， 如果可以事先详细约定， 则会在合约中约定， 由于算法的复杂性和不确定性， 许多情形下是难以事先对算法进行详细约定的。这对于算法相对人来说， 隐含的意思是， 算法使用者提供的算法要符合国家颁布的算法相关法律法规， 如果没有特别约定， 只要算法不违反国家法律法规， 就不算违法行为， 当然也就不是违约行为。只有算法违反国家法律法规时， 算法相对人才可以追究算法使用者的责任， 因此， 与算法相关的国家法律法规就是算法使用者和算法相对人关于算法的合约条款， 算法使用者和算法相对人并没有因为算法而存在合约不完备， 关系2中不存在合约不完备， 二者的关系仍然满足古典合约， 具有完备性。

关系3是算法使用者与算法开发者之间的关系。通常来说， 由于人工智能系统的复杂性， 算法使用者会委托专业机构来设计开发人工智能系统， 因此， 算法使用者与算法开发者是两个独立的主体， 当然， 某些情形下， 算法使用者也可能有能力自行开发人工智能系统（不少互联网公司为这种情形）， 此时， 二者合而为一， 关系3也就消失。当二者分离时， 算法使用者和算法开发者之间在算法方面存在信息不对称， 因此， 二者的关系属于委托代理关系。但是， 其性质是合约类委托代理关系， 并不存在合约不完备， 其原因是： 算法使用者无法详细规定算法开发者所开发的算法细节， 但可以显性或隐性地要求算法开发者开发的算法符合以下要求——不存在违反国家算法相关法律法规的合法性问题， 不存在违反公序良俗的伦理性问题， 不存在不能有效完成任务的效率效果性问题， 如果出现这些问题， 都视同算法开发者违约。当然， 算法使用者也许无法对上述条款进行验收， 但在算法使用过程中一旦出现上述问题， 就可以认定算法开发者违约。在这种情景下， 关系3就不存在合约不完备， 二者的关系仍然是合约类委托代理关系。

关系4是算法使用者与算法营运者之间的关系， 主要是算法使用者将算法的维护、 营运工作全部或部分交由某些专业机构负责。通常来说， 二者在算法营运方面存在信息不对称， 根据信息经济学， 二者的关系属于委托代理关系， 但二者存在完备合约， 因此， 这种关系的性质仍然是合约类委托代理关系。也许算法使用者与算法营运者无法就算法的营运达成详细的具体条款， 但是， 算法使用者可以要求算法营运者对算法的不恰当营运承担责任， 如果算法营运出现问题， 则算法营运者应该承担责任。在这种要求下， 算法使用者与算法营运者之间就存在完备合约了， 二者的关系就是合约类委托代理关系了。

关系5是算法监管部门对算法开发者的监管， 关系6是算法监管部门对算法使用者的监管， 关系7是算法监管部门对算法营运者的监管， 算法开发者、 算法使用者和算法营运者是算法的共同责任人， 政府监管的目的是保障算法相对人的利益。人工智能还处于快速发展中， 虽然会带来一些问题， 但更多的是提升人类完成特定任务的效率效果， 因此， 政府对算法进行监管的基本原则是谦抑， 也就是最低程度干预。很显然， 关系5、 关系6和关系7中， 关系双方在算法方面存在信息不对称， 因此， 这些关系都属于委托代理关系。但是， 其性质是监管类委托代理关系， 算法监管部门要遵守“法无明文不可为”的原则， 只能按法律法规规定的程序及方法对规定的内容进行监管， 对于算法共同责任人， 也只能就其违反算法法律法规的行为进行责任追究。因此， 与算法相关的法律法规事实上发挥了类似完备合约的作用。

关系8是本级政府将算法监管职责授予特定的政府部门（算法监管部门）， 本级政府必须给予该部门充分授权， 并为其提供履行法定职责的资源。因此， 本级政府与算法监管部门的关系是典型的资源类委托代理关系， 算法监管部门的经管责任同样由财务责任和业务责任组成， 其业务责任就是算法监管。

2. 委托代理关系中的代理问题和次优问题及其应对机制。根据经典审计理论， 各类委托代理关系中都有可能出现代理问题和次优问题， 代理问题是因为人的自利而产生的问题， 次优问题是因为人的有限理性而产生的问题（郑石桥，2021）。许多情形下， 代理问题和次优问题相互交织， 难以区分。与算法相关的委托代理关系有三种类型， 一是资源类委托代理关系（关系1、关系8）， 二是合约类委托代理关系（关系2、关系3、关系4）， 三是监管类委托代理关系（关系5、关系6、关系7）。上述三类关系中都有可能出现代理问题和次优问题， 前者是关系一方（代理人）基于自身利益而采取的自利行为， 这种行为通常会对关系对方（委托人）的利益造成负面影响。例如： 算法开发者开发的算法有缺陷， 对算法使用者造成负面影响； 算法营运者职责履行不到位， 造成算法被不当使用， 进而对算法使用者造成负面影响； 算法共同责任者履职不到位， 对算法相对人造成负面影响； 算法监管者未能有效履行其法定的监管职责， 造成算法相对人的合法权益未能得到有效保护。

虽然各类与算法相关的委托代理关系中都有可能出现代理问题和次优问题， 但是， 由于这些关系的性质不同（对算法的权责安排不同）， 应对问题的机制也就不同。

在合约类委托代理关系中， 合约条款（包括隐性条款）是双方行为的规范， 如果一方违背合约条款， 另一方可以通过司法诉讼来解决。例如： 在关系2中， 如果算法使用者使用的算法违反了国家有关法律法规， 在算法相对人看来， 算法使用者的这种行为属于违约行为， 可以通过司法诉讼来解决； 在关系3中， 如果算法开发者开发的算法存在合法性问题、 伦理性问题和效率效果性问题， 则可以视同算法开发者存在违约行为， 算法使用者可以通过司法诉讼来追究责任； 在关系4中， 如果因算法营运者的营运不当， 导致算法的不恰当使用， 则算法使用者可以将这种行为作为违约行为， 通过司法诉讼来解决。总体来说， 合约类委托代理关系中的矛盾， 通过司法诉讼来解决是成本最低的制度安排。算法下合约类委托代理关系中的矛盾也不例外。因此， 这种关系中不存在审计需求。也许在某些情形下需要以算法审计结果为基础来解决司法诉讼问题， 但这并不表明这种关系中存在审计需求， 算法审计结果只是作为司法诉讼的证据。

在监管类委托代理关系中， 相关的法律法规发挥了类似合约条款的作用， 对于被监管方的任何违法违规行为， 监管机构可以通过行政制裁进行处理， 对于监管机构的任何违法违规行为， 被监管方可以通过行政申诉或行政诉讼的方式予以解决。人类历史已经证明， 监管类委托代理关系中的矛盾， 通过行政制裁、 行政申诉和行政诉讼来解决， 是成本最低的制度安排。算法下监管类委托代理关系中的矛盾也不例外。行政制裁、 行政申诉和行政诉讼中， 也许会用到算法审计结果作为证据， 但这并不表明这种关系中存在审计需求。当然， 算法监管部门可以借鉴算法审计的一些方法来履行其监管职责， 甚至直接使用“算法审计”这种词汇， 但从实质上来说， 此时的“算法审计”是算法合法性检查， 并不存在经典审计意义上的算法审计需求。

在资源类委托代理关系中， 激励不相容、 信息不对称、 合约不完备和环境不确定同时存在， 代理人更容易出现代理问题和次优问题。算法的资源类委托代理关系（关系1）中， 算法是代理人履行其经管责任的手段， 委托人对代理人如何履行其经管责任应充分授权， 因此， 与算法相关的主要权力应该在代理人手中， 那么， 代理人能否最大善意地使用委托人对算法的授权来良好地履行其承担的经管责任呢？答案是“不一定”！第一， 委托人和代理人之间存在一定的激励不相容， 因此， 代理人很有可能利用算法权来追求自己的目标， 而不是委托人的目标； 第二， 委托人和代理人之间在算法方面存在信息不对称， 委托人对代理人如何使用算法的许多信息并不了解， 正是这种信息不对称为代理人掩盖其算法方面的代理问题和次优问题提供了条件； 第三， 委托人和代理人在算法方面存在合约不完备， 委托人对代理人使用的算法可以提出一些原则性要求， 但是， 无法细化为可执行的合约条款， 因此， 即使委托人对代理人的某些算法不满意， 也无法将这些行为作为违约行为提起司法诉讼， 这进一步为代理人在算法方面出现代理问题和次优问题提供了条件； 第四， 算法服务于代理人履行经管责任， 但是， 经管责任履行的结果除了受到算法的影响， 还会受到其他许多环境因素的影响， 且这些环境因素本身还具有不确定性， 进而导致它们对经管责任履行结果的影响也具有不确定性， 从而难以根据经管责任履行结果来判断代理人使用的算法之优劣， 这就进一步为代理人在算法方面出现代理问题和次优问题提供了条件。

那么， 如何应对资源类委托代理关系中的代理问题和次优问题呢？人类历史已经证明， 为了应对资源类委托代理关系中的代理问题和次优问题， 行政手段和司法手段并不是最有效的制度安排， 而是必须建构一整套的治理体系（当然，司法手段和行政手段也可以成为该体系中的成员）。算法的资源类委托代理关系（关系1）中， 委托人及利益相关方会推动建立针对代理人在算法方面的代理问题和次优问题的治理机制——算法治理体系。目前， 世界各国都在探索建构本国的算法治理体系， 现有文献将算法治理体系进行了多种分类： 一是将算法治理分为以算法透明为代表的事前规制和以算法问责为代表的事后规制（沈伟伟，2019；张旭，2022）； 二是将算法治理分为算法公开、 个人数据赋权与反算法歧视（丁晓东，2020）； 三是将算法治理分为个体赋权模式和外部问责模式（付冉冉，2023）； 四是将算法治理分为权利保护规制路径和义务设置规制路径（刘建业，2023）。需要说明的是， 现有文献提出的算法治理体系， 其治理范围涵盖图1中所有情形的算法委托代理关系， 并不只是针对资源类委托代理关系（关系1）， 同时， 现有文献主要关注算法的外部治理机制， 对算法的内部治理机制未给予足够关注。算法治理体系的建构是一个内容非常丰富的课题， 也不是本文的研究主题， 这里不展开讨论， 但需强调的是， 对于算法中的资源类委托代理关系（关系1）， 其算法方面代理问题和次优问题的应对需要建构由外部治理和内部治理共同组成的算法治理体系， 算法审计基于审计的固有功能， 在这个治理体系中发挥重要作用。

图1中的关系8是本级政府与其算法监管部门之间的关系， 其性质是资源类委托代理关系。本级政府与算法监管部门之间存在信息不对称、 激励不相容、 合约不完备和环境不确定， 算法监管部门的工作人员有可能出现代理问题， 例如， 在算法监管中不作为或乱作为。同时， 算法监管部门的工作人员是有限理性的， 也可能出现次优问题， 例如， 未能及时有效地发现算法责任主体存在的算法问题。为了应对算法监管部门在履行算法监管职责时可能出现的代理问题和次优问题， 本级政府会推动建构针对这些问题的治理体系， 对算法监管部门实施审计， 是这个治理体系的一种制度安排。

3. 算法审计在算法治理体系中的定位。算法治理体系中为什么会有算法审计呢？前文的文献综述表明， 关于算法审计产生的原因， 现有文献从两个方面进行了分析， 一是算法治理体系存在缺陷， 二是算法审计具有独特优势， 这两个方面的分析结合起来， 对算法审计的产生有一定的解释力。但是， 根据经典审计理论， 审计能够应对代理问题和次优问题的根本原因在于审计的固有功能， 正是因为审计的固有功能， 才使得审计成为应对代理问题和次优问题的治理体系之成员。审计的固有功能是鉴证， 就是用系统方法核实审计事项的真实情况， 然后将这种真实情况与既定标准相比较以发现偏差， 并将审计发现提供给能够采取行动的利益相关者， 推动这些偏差得到整改， 最终促使代理人履行经管责任时的偏差越来越小， 从而其经管责任的履行质量也就越来越好（郑石桥，2021）。

图1所示的资源类算法委托代理关系（关系1）中， 代理人在履行其经管责任时使用了算法， 因此， 代理人对委托人承担了最大善意地使用算法的责任， 这种责任可以称为算法责任②， 内容至少包括： 算法不存在合法性问题、 不存在伦理性问题、 不存在效率效果性问题。但是， 由于激励不相容、 信息不对称、 合约不完备和环境不确定， 代理人不一定能够良好地履行算法责任， 而会出现代理问题和次优问题， 算法审计基于审计固有功能对算法责任履行情况实施鉴证， 发现其中存在的代理问题和次优问题， 报告给委托人及其他利益相关者并推动整改， 从而为算法责任的良好履行提供一定的保障。正是因为算法审计的上述功能， 算法审计制度将技术、 法律和伦理深度融合， 以合理透明度和专业技术保证弥合算法“黑箱”和商业秘密间的制度张力， 为构建事前预警识别机制、 事中风险管控机制和事后责任追溯机制提供了有效决策参考， 成为当下各国算法治理图景中日益引发关注的新兴治理工具（张欣和宋雨鑫，2022）。Raji 等（2020）指出， 审计旨在从系统外部识别相关风险， 并作为已部署模型的问责措施。Beckstrom（2022）指出， 现已提出引入专业的、 有执照的人工智能系统审计员的想法。

算法审计基于审计固有功能发挥上述作用， 进而产生的算法治理效率效果， 是算法审计所特有的， 因此也成为算法审计的优势。同时， 这些作用的效率效果也是许多算法治理机制所没有的， 相对来说， 其他的算法治理机制也就存在缺陷。但是， 算法审计相对于其他的算法治理机制， 同样也存在一些缺陷。例如， 算法审计制度的弹性较大， 如果授权不够， 则权威性可能不够， 如果算法审计结果不能得到有效利用， 则算法审计可能徒有虚名。既然如此， 算法审计作为算法治理体系的成员， 就应该与其他算法治理机制相协同， 既不能超越自身的固有功能去发挥作用， 也不能对属于固有功能范围的事项不作为。

图1所示的关系8中， 本级政府针对其各个部门的治理体系有多种机制， 通常包括制衡机制、 激励机制、 道德机制、 透明机制和监督机制等（郑石桥，2021）， 审计以其固有功能对政府各个部门的经管责任履行情况进行检查， 发现各个部门经管责任履行中存在的问题并督促整改， 因此， 审计成为针对政府各个部门的主要治理机制， 算法监管部门作为本级政府的组成部门， 当然也就成为审计的治理对象之一。特别之处在于， 本级政府建立的审计机关对算法监管部门的经管责任履行情况进行审计时， 其重要内容之一就是检查其算法监管责任履行情况， 通过发现该部门算法监管责任履行中存在的问题并推动整改， 促使该部门更好地履行责任， 从而也为整个社会的算法向善奠定一定的基础。

四、 结论

算法已经深入人们生活及工作的各个方面， 在增进人类福祉的同时， 也带来一些问题， 人类必须建构算法治理体系来应对这些问题。算法审计是算法治理体系的重要成员， 本文以经典审计理论为基础， 提出算法审计需求的一个理论框架。

算法中存在多种关系， 这些关系中都存在信息不对称， 因此， 都属于委托代理关系。这些关系可以分为三种类型： 合约类委托代理关系、 监管类委托代理关系和资源类委托代理关系。不同类型的关系中， 算法权责安排不同， 因此， 应对算法代理问题和次优问题的机制也不同。在算法的合约类委托代理关系中， 由于存在完备合约， 应对算法代理问题和次优问题的主要机制是司法诉讼； 在算法的监管类委托代理关系中， 由于算法相关法律法规发挥了类似完备合约的作用， 应对算法代理问题和次优问题的主要机制是行政制裁、 行政申诉和行政诉讼； 在算法的资源类委托代理关系中， 由于激励不相容、 信息不对称、 合约不完备和环境不确定同时存在， 必须建构算法治理体系来应对算法代理问题和次优问题， 算法审计是算法治理体系的重要成员， 算法审计基于审计固有功能对算法责任履行情况实施鉴证， 发现其中存在的代理问题和次优问题， 报告给委托人及其他利益相关者并推动整改， 从而为算法责任的良好履行提供一定的保障。

【 注 释 】

① The New York City Council， Subchapter 25： Automated Employment Decision Tools， https：//codelibrary.amlegal.com/codes/newyorkcity/latest/NYCadmin/0-0-0-135598。

② 代理人（算法使用者）通过合同，将某些算法责任转移给算法开发者和算法营运者，因此，算法使用者、算法开发者和算法营运者共同成为算法责任人。

【 主 要 参 考 文 献 】

陈雄燊．人工智能伦理风险及其治理——基于算法审计制度的路径［ J］．自然辩证法研究，2023（10）：138 ～ 141．

丁晓东．论算法的法律规制［ J］．中国社会科学，2020（12）：138 ～ 159+203．

付冉冉．大数据时代算法审计构想［ J］．网络安全与数据治理，2023（2）：48 ～ 52．

刘建业．论我国算法审计的法治化建构［ J］．河南财经政法大学学报，2023（3）：14 ～ 23．

沈伟伟．算法透明原则的迷思——算法规制理论的批判［ J］．环球法律评论，2019（6）：20 ～ 39．

沈艳．推行算法审计大有可为［EB/OL］．https：//m.thepaper.cn/baijiahao_19396823，2022-08-10．

师文，陈昌凤．国内主流搜索引擎的算法审计研究［ J］．新闻大学，2022（10）：84 ～ 100+123．

苏宇．论算法规制的价值目标与机制设计［ J］．自然辩证法通讯，2019（10）：8 ～ 15．

苏宇．算法规制的谱系［ J］．中国法学，2020（3）：165 ～ 184．

孙莹．人工智能算法规制的原理与方法［ J］．西南政法大学学报，2020（1）：83 ～ 95．

汤志伟，方錄，韩啸，邓明磊．基于委托代理视角的算法治理问题研究［ J］．情报杂志，2023（7）：170 ～ 177．

王玉凤．模型算法审计：理论内涵、国际经验与审计框架［ J］．审计研究，2023（3）：11 ～ 18．

徐明华，魏子瑶．算法伦理的治理新范式：算法审计的兴起，发展与未来［ J］．当代传播，2023（1）：80 ～ 86．

张涛．通过算法审计规制自动化决策：以社会技术系统理论为视角［ J］．中外法学，2024（1）：261 ～ 279．

张文魁．数字经济中的数据和算法规制［ J］．重庆理工大学学报：社会科学，2022（10）：8 ～ 13．

张欣．从算法危机到算法信任：算法治理的多元方案和本土化路径［ J］．华东政法大学学报，2019（6）：17 ～ 30．

张欣，宋雨鑫．算法审计的制度逻辑和本土化构建［ J］．郑州大学学报：哲学社会科学版，2022（6）：33 ～ 42．

张旭．基于人权标准的算法治理新思路：企业算法合规义务［ J］．人权研究，2022（2）：88 ～ 104．

张永忠，张宝山．算法规制的路径创新：论我国算法审计制度的构建［ J］．电子政务，2022（10）：48 ～ 61．

赵德勇，张子辉．“大数据杀熟”的法律规制——从个人信息保护到算法规制［J］，经济论坛，2023（10）：16 ～ 23．

郑石桥．审计基础理论［M］．北京：中国人民大学出版社，2021．

庄尚文，陈王薏．数字经济时代算法权力问题及其审计规制探讨［ J］．吉林工商学院学报，2021（4）：75 ～ 79．

Abeba Birhane， Ryan Steed， Victor Ojewale， et al.. AI auditing： The broken bus on the road to AI accountability［EB/OL］．https：//arxiv.org/pdf/2401.14462.pdf，2024-01-25．

Aragona B.. Algorithm audit： Why， what， and how？［EB/OL］．http：//doi.org/10.4324/9781003080381，2021-08-02．

Beckstrom J. R.. Auditing machine learning algorithms： A white paper for public auditors［EB/OL］．http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］．https：//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2024-09-23．

Khoa Lam， Benjamin Lange， Borhane B. H.， et al.. A framework for assurance audits of algorithmic systems［EB/OL］．https：//arxiv.org/pdf/2401.14908.pdf，2023-01-26．

Raji I. D.， Smart A.， White R. N.， et al.. Closing the AI accountability gap： Defining an end-to-end framework for internal algorithmic auditing［EB/OL］．https：//arxiv.org/abs/2001.00973，2020-01-03．