算法审计主体论

【摘要】算法审计主体的核心问题是谁来实施算法审计， 本文以经典审计理论为基础， 提出算法审计主体的一个理论框架。算法审计主体由算法审计需求者基于三个原则来选择： 一是独立性原则， 要求算法审计主体独立于算法审计客体； 二是成本效益原则， 当算法审计主体的多种建构方案都可以保持审计主体的独立性时， 要选择成本最低的组织方式； 三是审计质量原则， 要求算法审计主体能够提供满足质量标准的算法审计， 主要通过审计主体的专业胜任能力来保障。基于上述三个原则， 不同的资源类委托代理关系中的算法审计需求者对算法审计主体会做出不同的选择， 可能的算法审计主体包括具有算法审计胜任能力的政府审计机关、内部审计机构和社会审计机构。

【关键词】算法审计；算法审计主体；算法审计独立性；算法审计质量；算法审计成本效益

【中图分类号】F239.44""""" 【文献标识码】A""""" 【文章编号】1004-0994（2024）20-0075-6

【基金项目】国家社会科学基金重大项目“百年审计理论创新研究”（项目编号：21amp;ZD027）

【作者单位】南京审计大学审计科学研究院， 南京 211815

一、 引言

人工智能正成为驱动社会变革的关键技术， 并在重塑我们的工作、 学习和生活方式， 将对经济发展和社会福祉产生深远影响。人工智能的核心是算法， 它决定了机器如何学习、 推理和做出决策。算法通过提高效率、 促进创新和提供个性化服务发挥积极作用， 但同时也可能导致偏见、 隐私侵犯和不平等加剧等负面影响， 因此， 必须建构算法治理体系。算法审计是算法治理体系的重要组成部分， 以审计固有功能在算法治理中发挥独特作用。算法审计要真正发挥作用， 必须建构科学的算法审计制度， 而制度自信要以理论自信为基础， 正确地认知算法审计的各个基础性问题， 是科学地建构算法审计制度的基础。在诸多的算法审计基础性问题中， 本文聚焦算法审计主体即谁来实施算法审计①展开分析。

整体来说， 当前有关算法审计主体的研究还处于碎片化的起步阶段， 贯通经典审计理论的系统化理论框架尚未形成。本文以经典审计理论为基础， 以算法委托代理关系为切入点， 提出算法审计主体的一个理论框架， 以深化人们对算法审计主体的认知， 并为建构和完善算法审计主体相关制度提供理论参考。

二、 文献综述

当前尚未发现有文献专门讨论算法审计主体。一些讨论算法审计的文献涉及算法审计主体， 主要涉及三个方面： 算法审计主体的分类、" 算法审计主体的地位、" 算法审计主体的要求。

（一） 算法审计主体的分类

算法审计主体究竟有哪些类型， 现有文献存在多种观点， 本文将这些观点概括为二主体观、 三主体观和多主体观。

1. 二主体观认为， 算法审计主体有两种类型。不同文献的分类方法不同， 多数文献将算法审计主体分为外部审计和内部审计。沈艳（2022）认为， 算法审计可分为外部审计和内部审计两种； 王玉凤（2023）认为， 算法审计以内部审计与外部审计相结合的方式， 发挥其专业性、 独立性优势； Abeba Birhane等（2024）认为， 有很多可能的审计从业人员参与审计过程， 通常被称为内部审计师和外部审计师。

也有一些文献提出了其他的二主体观。胡坚波（2022）指出， 近年来， 国外由司法部门进行的算法审查和由第三方机构进行的算法审计在算法治理中逐渐发挥重要作用； 王兆毓（2023）认为， 算法审计应当是多元主体的协同共治审计体系， 包括企业内部审计与独立的外部审计； 刘建业（2023）认为， 算法审计主体包括算法审计行政机构和企业内部算法审计。

2. 三主体观就是将算法审计主体分为三种类型。不少文献将算法审计主体分为政府审计机关审计、 内部审计和社会审计。付冉冉（2023）认为， 在公共领域， 算法审计可以由审计部门及相关内部审计部门组织实施， 在其他商业领域， 国家可进行社会审计指导， 推动有资质的社会第三方机构参与商业领域的算法审计。王玉凤（2023）提出： 以政府部门为主要审计对象的国家审计是模型算法审计的重要审计主体； 内部审计是模型算法风险防控非常重要的一道防线； 社会审计更具灵活性， 是前两者的有益补充， 能够有效约束模型算法权力， 形成审计合力。

也有一些文献将算法审计主体分为算法监管机构审计、 内部审计和民间组织审计。张欣和宋雨鑫（2022）认为， 算法审计制度可划分为科技企业开展的内部审计以及由监管机关和第三方开展的外部审计。DRCF（2022）提出， 审计可以由组织内的团队实施， 也可以由独立审计提供商等外部机构实施， 或者由监管机构实施。刘建业（2023）提出， 算法审计主要存在三种实践样态， 即算法自审计（内部审计）、 算法监管审计、 第三方算法审计。张涛（2024）认为， 算法审计背景下， 既可以由自动化决策的实施主体开展内部审计， "也可以由政府监管机构和其他组织实施外部审计。

此外， 还有文献提出了其他的三主体观。张永忠和张宝山（2022）提出， 未来可能的制度选择有三种： 一是将算法审计纳入财务审计的业务之中， 由会计师事务所审计； 二是由公共审计机构审计； 三是将算法审计作为一种全新的民间审计。

3. 多主体观主要是在三主体观的基础上， 将一些参加算法影响评估的机构作为算法审计主体。例如： DRCF（2022）认为， 研究人员对公司的系统进行了各种形式的算法审计， 其中许多侧重于算法偏见、 歧视以及内容或信息的放大。陈雄燊（2023）认为， 算法审计主体分为政府、 企业内部以及民间三方审计组织， 此外， 算法伦理审计的主体还应当包括伦理学教授等伦理专家、 律师等法律工作者以及技术工程师。Abeba Birhane等（2024）发现， 律师事务所、 咨询机构、 公司审计、 新闻业、 民间社会和政府都参与算法影响评估， 因此， 它们都已经成为算法审计主体。

（二） 算法审计主体的地位

算法审计主体有多种， 少量文献涉及不同算法审计主体的地位。庄尚文和陈王薏（2021）提出， 可以建立政府主导的大数据审计监管平台， 对企业进行实时的动态监管。刘建业（2023）认为， 采用完全市场化的算法审计模式恐怕为时尚早， 政府主导的算法审计模式或许是更为合适的选择， 随着算法社会治理的法治化， 政府主导的算法审计模式将逐步让位于市场主导的算法审计模式。

（三） 算法审计主体的要求

关于算法审计主体的要求， 现有文献主要强调其专业性和独立性。张凌寒（2019）提出， 对于算法透明度的评估、 是否有歧视可能以及对可疑结果的回溯， 都需要专业委员会提供咨询意见或者直接执行， 方可保证规制有效性。Beckstrom（2022）提出， 机器学习审计以专门的审计知识和技能为基础， 最高审计机关应培养其审计师的能力。 张永忠和张宝山（2022）提出， 必须考虑算法审计主体从事技术、 合规和风险审查上的主体适格性。马腾飞（2023）提出， 算法合规性判断需要由权威、 独立和专业的第三方审计机构作出。王玉凤（2023）提出， 算法审计机构要发挥其专业性、 独立性优势。张涛（2024）提出， 实施算法审计的主体应当独立于算法系统的设计者、 使用者、 运营者等主体，" 同时具备完成审计工作的专业知识。

（四） 简要评述

上述文献表明， 现有文献对算法审计主体的一些问题已经有一定程度的涉及， 为人们建构算法审计制度奠定了基础。但是， 仍存在以下三方面的问题： 一是脱离算法审计客体来讨论算法审计主体， 很难得出一般性的结论； 二是未区分算法监管和算法审计， 将算法监管机构也作为算法审计主体， 混淆了审计监督和行政监管； 三是未能贯通审计逻辑， 现有文献所提出的算法审计主体并不是基于经典审计理论的学理分析得出的结论。整体来说， 算法审计主体研究还处于碎片化的起步阶段， 贯通经典审计理论的系统化的理论框架尚未形成。

三、 理论框架

本文的研究目的是以经典审计理论为基础， 提出算法审计主体的一个理论框架， 为此， 将依次阐释以下问题： 算法委托代理关系、" 关系1中的算法审计主体、" 关系8中的算法审计主体、" 算法审计主体的几个相关问题的讨论。

（一） 算法委托代理关系

算法的技术复杂性及其解决现实问题的复杂性， 导致算法涉及多种关系主体， 这些关系主体之间都存在一定程度的信息不对称。因此， 根据信息经济学， 这些关系都属于委托代理关系， 基本情况如图1所示。

图1中的关系1是经典意义上的资源类委托代理关系， 委托人将一定的资源交付代理人， 并明确代理人要履行的职责， 代理人对委托人承担了最大善意使用所接受资源来履行所要求职责的责任， 这种责任通常称为“经管责任”。但是， 在人工智能时代， 代理人在履行其承担的经管责任时使用了算法， 履行经管责任过程中涉及的财务活动和业务活动大量依赖算法， 在这种背景下， 算法对代理人经管责任履行情况有决定性影响。因此， 算法责任是经管责任的重要内容， 针对经管责任的审计必须包括对算法责任的审计。

图1中的关系2是代理人在履行经管责任过程中所涉及的经济活动的交易对方， 由于代理人在开展这些活动时使用了算法， 因此代理人就成为算法使用者， 而交易对方就成为算法相对人。代理人作为算法使用者与算法相对人的关系是合约类委托代理关系， 算法相对人如果不同意代理人使用的算法， 可以拒绝交易； 如果实施了交易， 则就视同同意双方对算法的约定； 如果代理人提供的算法与约定的算法不同， 则算法相对人可以通过司法诉讼来解决代理人违约问题。整体来说， 这种关系中的合约是完备的， 并不存在算法审计需求。

图1中的关系3是代理人作为算法使用者与算法开发者的关系。通常来说， 算法使用者可能不具备自行开发算法的技术能力， 因此， 会委托具有专业能力的机构来开发算法（如果具备这种能力，则算法开发者与算法使用者合而为一，关系3消失）， 在双方的合约中对算法会提出一些具体要求。可见， 二者的关系仍然存在完备的合约， 并不存在算法审计需求。但是， 代理人作为算法所有者和使用者有权力对算法开发者开发的算法进行验收。由于这种验收也需要专业能力， 代理人作为算法使用者可能并不具备这种能力， 因此通常是通过算法使用过程中是否出现约定的算法不能出现的问题来进行验收。在这种背景下， 关系1中针对代理人的算法责任审计就延伸到关系3， 算法开发者与算法使用者共同承担算法责任。

图1中的关系4是代理人作为算法使用者与算法营运者的关系。这种关系存在是由于代理人作为算法使用者并不具备营运算法的技术能力（如果具备这种能力， 则算法使用者与算法营运者合而为一，关系4消失）， 因此， 委托专业机构负责营运。双方应该签订完备合约， 对算法营运状况提出具体要求， 约定不能出现的状况， 如果出现， 就视同算法营运者违约。正是由于这种原因， 关系4中并不存在算法审计需求。但是， 由于算法营运者承担了算法营运责任， 因此， 针对关系1中代理人作为算法使用者的算法责任审计也会延伸到算法营运者， 算法营运者也成为算法责任主体之一。

图1中关系5、 关系6和关系7是本级政府设立的算法监管部门对算法开发者、 算法使用者和算法营运者的监督。这种关系是监管类委托代理关系， 算法监管部门要按算法相关法律法规进行监管， 对于其违背法律法规的行为可以通过行政申诉、 行政诉讼等方式来处理。而算法开发者、 算法使用者和算法营运者则必须按算法相关法律法规的要求接受监管， 其违背法律法规的行为可以通过行政制裁来解决。整体来说， 算法相关法律法规发挥了类似完备合约的作用， 并不存在算法审计需求。当然， 并不排除算法监管部门会借助算法审计的技术功能来为其算法监管服务。

图1中关系8是本级政府与其设立的算法监管部门的关系。很显然， 这是典型的资源类委托代理关系， 只是这个政府部门的职责是算法监管， 因此， 算法监管部门对本级政府承担的经管责任包括财务责任与业务责任两部分。财务责任与其他政府部门并无实质性区别， 而业务责任其实就是算法监管责任。本级政府的审计机构在审计算法监管部门时， 算法监管责任履行情况的审计是重要内容。

基于以上分析， 图1中关系1、 关系8中存在算法审计需求， 同时， 图1中关系1针对代理人作为算法使用者的审计会延伸到关系3中的算法开发者和关系4中的算法营运者（郑石桥，2024a、2024b）。本文的研究主题是算法审计主体， 接下来将以上述分析为基础， 阐释不同委托代理关系中的算法审计主体。

（二） 关系1中的算法审计主体

根据经典审计理论， 审计主体是由审计需求者建构的， 建构的原则有三个： 一是独立性原则， 这就要求算法审计主体要独立于算法审计客体； 二是成本效益原则， 当算法审计主体的多种建构方案都可以保持审计主体的独立性时， 要选择成本最低的组织方式； 三是审计质量原则， 要求算法审计主体能够提供能保障质量的算法审计， 这主要通过审计主体的专业胜任能力来保障（郑石桥，2021）。算法审计主体的建构也不例外， 同样需要遵守上述三个原则。接下来， 本文先讨论图1中关系1的算法审计主体。

图1中的关系1是经典意义上的资源类委托代理关系， 代理人在履行其经管责任时使用了算法， 因此在对经管责任的审计中包含着算法责任审计。由于这种关系中存在信息不对称、 激励不相容、 合约不完备和环境不确定， 委托人存在对其代理人经管责任审计的需求。在特殊情形下， 代理人也存在对其自身经管责任进行审计的需求。这两种审计需求中都包括对算法责任履行情况的审计需求。问题的关键是， 由谁来实施算法审计？就委托人的算法审计需求来说， 其可以选择的组织方式有两种： 一是自行建构一个具有算法审计能力的审计机构； 二是从市场上购买算法审计服务。对二者如何选择呢？

自行建构具有算法审计能力的审计机构， 通常是对现有的自建审计机构进行改造， 增加具有算法审计能力的审计人员。此时， 如果审计体制恰当， 也就是不让审计机构受代理人约束， 则能够保障审计独立性。如果这个审计机构真的配备了具有算法审计专业胜任能力的人员， 则审计质量也有保障。所以， 问题的关键在于能否满足成本效益原则的要求。影响审计成本效益的因素较多， 主要的影响因素是审计业务常态化程度和审计业务量大小。越是具有常态化的审计业务， 自行建构审计机构的审计成本越低； 审计业务量越大， 自行建构审计机构的审计成本越低。所以， 当代理人作为一个组织单位规模较大、 使用算法较多时， 算法审计业务就会具有常态化和规模化， 此时， 通常适宜自行建构一个具有算法审计能力的审计机构。

从市场上购买算法审计服务， 就是委托人从市场上具有算法审计能力的专业机构中选择特定的机构来购买算法审计服务。如果代理人不能掌控对这个专业机构的聘用， 这个专业机构的审计独立性就能得到保障； 如果聘用的专业机构具有专业胜任能力， 则算法审计质量也能得到保障。所以， 问题的关键在于能否满足成本效益原则的要求。通常来说， 当代理人作为一个组织单位的规模较小、 使用算法较少时， 算法审计业务就会具有偶然性， 此时， 通常适宜从市场上购买算法审计服务。当然， 即使是委托人自行建构算法审计机构， 如果某些方面的算法审计责任由市场上的专业机构来履行更加具有成本效益性， 则此种算法审计业务也可以外包给市场上的专业机构。

关系1中的代理人在以下特殊情形下也可能有算法审计需求（这里的代理人包括从关系1中延伸而来的算法开发者和算法营运者）， 因此， 也需要选择一定的算法审计主体来实施。

情形之一是代理人及其延伸者与委托人不存在激励不相容， 因此， 算法责任履行中也就不存在代理问题。但是， 代理人及其延伸者仍然是有限理性的， 在算法责任履行中可能出现次优问题， 这也会对代理人及其延伸者的算法责任的履行产生负面影响。为此， 代理人及其延伸者有可能希望通过算法审计来发现算法存在的问题， 便于对这些问题进行整改， 以优化算法责任的履行机制， 此时算法审计的主要作用在于揭示算法次优问题。问题的关键是， 由何种算法审计机构来履行这些审计责任？通常来说， 由于代理人及其延伸者与委托人不存在激励不相容， 代理人会选择委托人所选择的算法审计机构来履行审计责任。如果代理人及其延伸者的算法审计业务规模较大且具有稳定性， 则从成本效益原则来说， 代理人及其延伸者也可以自行建构专门的算法内部审计机构。这种内部审计机构审计的是具体履行算法责任的内部单位： 如果内部审计体制恰当， 则能够保障审计独立性； 同时， 如果配备了恰当的审计人员， 也能保障审计质量。所以， 代理人及其延伸者自行建构具有算法审计能力的内部审计机构是可行的。在现实生活中， 不少的算法使用者、 算法开发者和算法营运者设立的内部审计机构都开展算法内部审计。

情形之二是代理人将算法审计作为信号传递机制， 向有关方面传递算法质量的信号， 让信号接受者相信代理人所使用的算法质量很好， 此时， 算法审计机构的选择要考虑算法信号的接受者。如果是向委托人传递算法信号， 则通常可以选择委托人所选择的算法审计机构； 如果是向委托人之外的利益相关者（例如政府监管部门、 算法相对人）传递算法信号， 基于独立性的考虑， 通常选择从市场上购买算法审计服务， 也就是由社会上的专业机构来实施算法审计并发布算法审计结果， 现实生活中的算法鉴证基本上都是这种情形。

以上所分析的关系1中的算法审计主体选择， 归纳起来如表1所示。

（三） 关系8中的算法审计主体

图1中关系8是本级政府与其设立的算法监管部门的关系。本级政府作为委托人存在对算法监管部门算法监管责任履行情况的审计需求， 特殊情形下， 算法监管部门也存在对其自身算法监管责任履行情况进行审计的需求， 二者都需要选择算法审计主体。

通常来说， 本级政府会设立许多部门， 算法监管部门只是其设立的政府部门之一。为了促使本级政府各部门更好地履行各自的经管责任， 会有专门的审计机关对这些部门进行审计。这种专门的审计机关通常称为政府审计机关， 其审计体制具有多种类型， 例如， 通常所说的立法型审计、 司法型审计、 独立型审计、 行政型审计、 中国特色的审计体制等都属于政府审计机关的审计体制。政府审计机关独立于算法监管部门， 因此， 其对算法监管部门的算法监管责任履行情况进行审计， 能够保持独立性。如果政府审计机关配备了具有算法审计能力的审计人员， 则能够保障算法监管责任审计的审计质量。从成本效益原则来说， 政府审计机关并不只是审计算法监管部门， 其还对本级政府设立的各个部门都进行审计。所以， 审计任务中增加对算法监管部门的审计， 会更加具有成本效益性。整体来说， 本级政府通常会选择本级政府审计机关来审计本级算法监管部门。但是， 在符合成本效益原则的前提下， 本级政府审计机关也可能将算法监管责任审计的某些内容外包给社会上的专业机构， 由其实施算法审计并发布算法审计结果。

关系8中的政府算法监管部门作为本级政府的代理人， 也可能存在对自身算法监管责任履行情况的审计需求。为了满足其审计需求， 也需要选择算法审计主体。关系8中， 存在以下两种情形。

情形之一是算法监管部门与本级政府之间不存在激励不相容时， 算法监管部门将算法监管责任审计作为其算法监管责任履行中次优问题的揭示机制， 此时的审计主体选择有两种具体情况。第一， 选择本级政府审计机关， 因为这是本级政府建构的审计机构， 符合独立性、 成本效益性和审计质量保障原则。第二， 算法监管部门自行设立具有算法监管责任审计能力的内部审计机构。从独立性来说， 这种内部审计机构审计的是算法监管部门具体负责履行算法监管责任的内部单位， 如果内部审计体制恰当， 则能够保障审计独立性； 从审计质量来说， 如果内部审计机构配备了具有算法监管责任审计能力的审计人员， 则也能保障审计质量。关键之处在于算法监管部门内部具体履行算法监管责任的内部单位要达到一定的数量， 这样才能做到算法监管责任内部审计需求具有一定的规模和稳定性， 从而符合成本效益原则。

情形之二是算法监管部门将算法监管责任审计作为信号传递机制。如果是向本级政府传递算法监管责任得到良好履行的信号， 则可能选择本级政府审计机关； 如果是向社会公众传递算法监管责任得到良好履行的信号， 则通常会选择社会上具有算法监管责任审计能力的专业机构。

以上所分析的关系8中的算法审计主体选择， 归纳起来如表2所示。

（四） 算法审计主体的几个相关问题讨论

以上基于算法委托代理关系， 阐释了算法审计主体选择的主要问题。为了深化对算法审计主体的认知， 还有两个相关问题要讨论： 一是算法相对人的权益由谁来保护； 二是算法审计和算法监管部门的算法监管职能是否存在重复。

1. 算法相对人的权益由谁来保护。算法相对人与算法使用者之间存在经济交易， 这种交易中要使用算法， 算法使用者有责任做到恰当的算法透明。如果算法相对人不同意算法者所使用的算法， 则可以终止交易； 如果同意交易， 就意味着同意使用算法使用者提供的算法。所以， 算法相对人不能对算法使用者提出算法审计需求。但是， 如果算法使用者未能做到相关法律法规所要求的算法透明， 则算法使用者存在违规行为， 由算法监管部门来惩罚。同时， 如果算法使用者所使用的算法违反了算法相关法律法规， 则由算法监管部门来惩罚。另外， 如果算法使用者实际使用的算法与其向算法相对人承诺的算法存在差异， 属于算法使用者的违约行为， 算法相对人可以通过司法诉讼来解决。整体来说， 算法监管和司法诉讼是算法相对人的权益保护机制。

2. 算法审计和算法监管部门的算法监管职能是否存在重复。基于以上分析， 现实中存在的一个现象是： 算法使用者、 算法开发者和算法营运者既是算法审计的客体， 也是算法监管的客体。那么， 算法监管部门的算法监管与算法审计是否会存在重复监督？如果是， 为什么要重复监督？很显然， 算法使用者、 算法开发者和算法营运者既要接受算法审计， 也要接受算法监管， 二者存在监督重复。但是， 这种重复是有道理的， 主要有两个方面的原因。

第一， 算法审计是所有权监督， 算法监管是行政权监督， 这两种监督的权力来源不同。从算法审计权来说， 针对关系1中的代理人作为算法使用者的算法审计权是源于委托人为其提供了资源， 而针对关系3中的算法开发者、 关系4中的算法营运者的算法审计权是源于算法开发者和算法营运者与代理人作为算法使用者的关系之延伸。从算法监管权来说， 是源于国家立法机关的明文授权， 这种监管并不以是否提供资源为前提， 其目的是保障社会公众的合法权益不受侵害， 确保算法向善。

第二， 算法监管是由政府部门来实施的， 其遵循谦抑性原则， 也就是最低程度干预， 只有在必不可少的情形下才干预。并且， 法无明文不可为， 对于要干预的事项， 必须事先通过法律法规做出明文规定， 所以， 算法监管强调的是算法的合法性。算法审计是为了保障算法责任者更好地履行算法责任， 因此， 也会关注算法的合法性。但是， 作为所有权监督， 站在资源提供者的角度， 通常会提出更高的要求， 例如， 要求算法具有伦理性、 效率效果性和营运便利性（郑石桥，2024c）。这些维度的算法审计目标就超出了对算法的最低要求， 而推动算法向更高的水平发展， 从而促使代理人更好地基于算法来履行其承担的经管责任。

四、 结论

算法审计真正发挥作用的前提是建构科学的算法审计制度， 而制度自信要以理论自信为基础。本文聚焦算法审计主体， 以经典审计理论为基础， 提出算法审计主体的一个理论框架。由于算法的技术复杂性及其解决现实问题的复杂性， 导致算法委托代理关系有多种类型， 其中存在审计算法需求的是资源类委托代理关系， 合约类及监管类委托代理关系中并不存在算法审计需求。算法审计主体的核心问题是谁来审计， 通常由算法审计需求者根据三个原则来选择： 一是独立性原则， 这就要求算法审计主体独立于算法审计客体； 二是成本效益原则， 当算法审计主体的多种建构方案都可以保持审计主体的独立性时， 要选择成本最低的审计机构； 三是审计质量原则， 要求算法审计主体能够提供所满足质量标准的算法审计， 这主要通过审计主体的专业胜任能力来保障。基于上述三个原则， 不同的资源类委托代理关系中的算法审计需求者对算法审计主体会做出不同的选择。

经典意义上的资源类委托代理关系中（关系1并延伸到关系3和关系4）， 代理人作为算法使用者在履行其经管责任时使用了算法。委托人作为算法审计需求者时： 如果算法审计业务呈现常态化、 规模化， 则会自行构建具有算法审计能力的审计机构； 如果算法审计业务具有偶然性， 则会从市场上购买算法审计服务。代理人在特殊情形下也可能存在算法审计需求： 如果将算法审计作为算法次优问题的揭示机制， 则会选择委托人所选择的算法审计机构或自行建构专门的算法内部审计机构； 如果向委托人传递算法信号， 则会选择委托人所选择的算法审计机构； 如果向社会传递算法信号， 则会从市场上购买算法审计服务。

本级政府与其设立的算法监管部门的关系中（关系8）： 本级政府作为算法监管责任审计需求者时， 会选择本级政府审计机关； 社会上的专业机构更具成本效益性时， 会选择审计业务外包。算法监管部门在特殊情形下也可能存在算法审计需求： 如果将算法审计作为算法次优问题的揭示机制， 则会选择本级政府审计机关或自行建构具有算法监管责任审计能力的内部审计机构； 如果向本级政府传递算法监管责任履行信号， 则会选择本级政府审计机关； 如果向社会传递算法监管责任履行信号， 则会选择从市场上购买算法审计服务。

DOI：10．19641/j．cnki．42-1290/f．2024．20．012

【 主 要 参 考 文 献 】

陈雄燊．人工智能伦理风险及其治理——基于算法审计制度的路径［ J］．自然辩证法研究，2023（10）：138 ～ 141．

付冉冉．大数据时代算法审计构想［ J］．网络安全与数据治理，2023（2）：48" ～ 52．

胡坚波．多措并举推进我国算法治理［ J］．人民论坛·学术前沿，2022（10）：20 ～ 28．

刘建业．论我国算法审计的法治化建构［ J］．河南财经政法大学学报，2023（3）：14 ～ 23．

马腾飞．基于数据主权视角的算法治理：进展、困境与路径［ J］．信息资源管理学报，2023（6）：48 ～ 61．

沈艳．推行算法审计大有可为［EB/OL］．https：//m.thepaper.cn/baijiahao_19396823，2022-08-10．

王玉凤．模型算法审计：理论内涵、国际经验与审计框架［ J］．审计研究，2023（3）：11 ～ 18．

王兆毓．生成式人工智能视阈下算法审计的制度构建与路径创新［ J］．网络安全与数据治理，2023（8）：6 ～ 12．

张凌寒．算法规制的迭代与革新［ J］．法学论坛，2019（2）：16 ～ 26．

张涛．通过算法审计规制自动化决策——以社会技术系统理论为视角［ J］．中外法学，2024（1）：261 ～ 279．

张欣，宋雨鑫．算法审计的制度逻辑和本土化构建［ J］．郑州大学学报：哲学社会科学版，2022（6）：33 ～ 42．

张永忠，张宝山．算法规制的路径创新：论我国算法审计制度的构建［ J］．电子政务，2022（10）：48 ～ 61．

郑石桥．审计基础理论［M］．北京：中国人民大学出版社，2021．

郑石桥．算法审计需求论［ J］．财会月刊，2024a（16）：77 ～ 82．

郑石桥．算法审计客体论［ J］．财会月刊，2024b（17）：81 ～ 85．

郑石桥.算法审计目标论［ J/OL］．财会月刊，1-5［2024c-09-24］．http：//kns.cnki.net/kcms/detail/42.1290.F.20240724.0900.014.html．

庄尚文，陈王薏．数字经济时代算法权力问题及其审计规制探讨［ J］．吉林工商学院学报，2021（4）：75 ～ 79．

Beckstrom J. R.. Auditing machine learning algorithms：A white paper for public auditors［EB/OL］．http：//intosaijournal.org/auditing-machine-learning-algorithms/，2022-06-20．

DRCF. Auditing algorithms： The existing role of regulators and future outlook［EB/OL］．https：//www.gov.uk/government/publications/findings-from-the-drcf-algorithmic-processing-workstream-spring-2022，2022-09-23．

【 注 释 】

① 从逻辑上来说，算法审计主体包括算法审计机构和算法审计人员，本文只关注算法审计机构。

（责任编辑·校对： 李小艳" 黄艳晶）