算法规制的敏捷治理

文／于文轩 刘丽红

人工智能算法在极大促进经济发展和政府管理效率的同时，也在政治、经济和社会等诸方面带来前所未有的巨大风险。[1]在数据是重要生产要素的算法时代，数据要素的所有者、生产者和管理者拥有了新型、隐形的难以控制的权力。这样的新权力形态，对传统政府、市场和社会之间的权力结构和互动模式产生了巨大冲击。在市场和资本的加持下，算法权力进一步激化了社会的不平等和阶层分化，给民主和人文带来巨大风险，其破坏性伤害之大堪称大规模“数字杀伤性武器”。[2]

算法的内在复杂性使得传统以政府行政机关为主体的监管模式举步维艰，作为规制者的政府不得不采用新的监管方式，赋予监管对象一定程度的裁量空间，要求监管对象设定自身的内部管理规范，着重对监管对象自我设定的管理规范进行监管。这种将政府强监管和行业自我规制相结合的“元规制”模式被认为是一种理想的监管模式。[3]尽管“元规制”模式对传统的基于“命令—控制”的科层式监管模式进行了改良，但由于算法黑箱的复杂性和政府行业监管的难度，使得这种模式在监管实践中难以实现政策目标。[4]有研究表明，现有准则规范并不能影响利益相关者在参与人工智能算法和应用过程中的合规行为。[5]日益复杂的算法、数据保护的情境性以及算法运算的实时性极大提高了监管难度，对算法规制需要更加动态的监管哲学、思路和方法。起源于20世纪90年代，为应对日益复杂、迅速变化和日益多元的计算机软件开发环境和需求而发展起来的“敏捷方法”的“敏捷治理”理论框架，为进一步进行算法规制提供了新思路和新方法。因此，本文旨在将“敏捷治理”的框架引入算法治理，为如何更好地进行算法规制提供分析框架与解决方案。

一 敏捷治理：算法规制的新范式

在后现代风险社会，传统政府依靠科层制和专业公务员队伍进行的公共管理活动已经很难满足治理的需要。如何有效应对越来越多的“棘手问题”，是全世界各国政府面临的严重挑战。2020年以来的全球新冠疫情的大流行，是对全世界各国政府解决“棘手问题”能力的一场大考。后疫情时代的政府治理需要超越传统科层制与市场的新的思路和方法。在这个背景下，基于计算机软件工程“敏捷方法”的敏捷治理成为国内外学术界关注的新议题。

计算机软件工程“敏捷方法”被引入公共管理研究领域，起源于《Government Information Quarterly》2018年组织的一个专刊。包括Ines Mergel在内的学者针对英美各国电子政务平台建设实践，将计算机软件开发中的“敏捷方法”引入政府管理活动中，提出了“敏捷政府”和“敏捷创新”的概念。[6]计算机软件工程中的“敏捷方法”突出体现在2001年17名软件开发专家发表的敏捷宣言(Agility Manifesto)里。其背景是随着互联网和软件产业的发展，软件开发的过程越来越复杂，用户对软件的需求越来越多。特别是当政府开始大规模采纳电子政务平台，不断变化的政务电子化的需求，海量的用户和数据，对传统线性计算机软件开发和项目管理模式产生巨大挑战。计算机软件开发领域的专家开始倡导“敏捷方法”以应对这一挑战。2001年的敏捷宣言揭开了全球范围内电子政务领域“敏捷运动”（Agility Movement）的序幕。

敏捷宣言呼吁计算机软件开发要以用户需求为核心，新的软件开发“敏捷方法”指出软件开发的目的是通过持续不断地及早交付有价值的软件使客户满意；软件开发过程要欣然面对需求变化，即使在开发后期也一样；为了客户的竞争优势，敏捷过程要拥抱变化，要经常地交付可运作的软件；业务人员和开发人员必须相互合作，项目中的每一天都不例外；要激发个体的斗志，以他们为核心搭建项目。提供所需的环境和支援，辅以信任，从而达成目标；不论团队内外，传递信息效果最高效率的方式是面对面的交谈；可运作的软件是进度的首要度量标准；敏捷过程倡导可持续开发，责任人、开发人员和用户要能够共同维持步调稳定延续；要坚持不懈地追求技术卓越和良好设计，增强敏捷能力；要以简洁为本，极力减少不必要的工作量；通过自组织的团体发展最好的架构、设计；团队要定期反思如何提高工作成效，并依此调整自身的工作表现。2012年美国会计总署和随后英国国家审计署都要求电子政府平台建设中必须采用敏捷方法，并为敏捷方法的使用和监管提供了指南。

早期研究聚焦敏捷电子政务软件开发和敏捷项目管理，而后续学者侧重探讨如何利用敏捷方法建设敏捷政府和进行政府创新。Ines Mergel等学者认为“敏捷方法”是一种新型治理。笔者曾结合新公共管理理论、创新理论、治理理论发展出了一个包括十大要素的敏捷治理框架，并结合厦门2021年抗击新冠疫情的实践，阐释了这十大要素对于后疫情时代提升政府治理体系和治理能力现代化的重要的理论和实践意义。这十大要素包括：（1）维持稳定性的同时又可以保持组织灵活的灵巧组织的建立；（2）快速动员利益相关方合作的能力；（3）跨部门合作；（4）自我组织能力和组织的培养；（5）复杂性的分解；（6）灵活的基础设施；（7）拥抱变化；（8）充分沟通；（9）信息的开放与共享；（10）容错的组织学习。[7]

敏捷治理的框架为治理算法规制提供了一个新的思路和方法。在传统算法风险规制实践中，保障算法安全、规避算法风险的主要举措是算法标准、算法认证、算法伦理审查、算法事后救济等监管模式。然而算法发展的复杂性和多变性使得不同计算机语言之间的“专业槽”程度不断加深。[8]算法自主深度学习的属性，使得算法设计者可能都无法对自己编写代码进行解读，算法审查主体在特定期限能力有限，不足以对算法应用进行审查。算法风险的范围也不再仅局限于网络环境，业已延伸至线下。算法风险的引发者不再限于算法设计应用开发平台。随着计算机编程语言的扩展与开放源代码活动的兴起，个体也能利用算法知识和代码设计快速搭建自己的算法应用，造成算法风险。因此，随着算法应用的多元化，算法风险呈现分散、多变以及形式多元的特征。[9]传统自上而下的监管方式根本难以预计和防范日益复杂的算法风险。敏捷治理的核心要义就是要针对内外部环境的动态变化和不确定性，通过迭代创新的方式实现对公民诉求的快速响应。相对于以往政府的强监管和行业的自我规制，面对变化莫测的内外部风险因素，将敏捷治理的思维引入算法规制，更易从集中于风险链条的中间节点扩展至整个风险链条的全过程，对算法风险的快速发展和演化展开有效应对。

将敏捷治理引入算法规制并不是对政府强监管和行业自我规制的摒弃，而是对二者的强化与补充。作为规制主体的引导者，政府规制在权威性和执行力方面有着显著优势，但限于专业知识、资源和信息的缺乏，政府规制在实际操作过程中难以应对复杂的现实。[10]行业自我规制一定程度上弥补了政府规制的缺陷，自我规制者拥有比政府更高水平的专业技术知识，自我规制者往往比政府更密切接触被规制对象，更易获取规制信息，这极大地缓解了政府的能力和资源的不足。然而政府和自我规制者并非全能，并且规制作为经济系统的内生变量，一旦政府为企业所俘获，致使“规制合谋”现象发生，算法权力异化所引发的算法风险将成倍损害公共利益。

敏捷治理可以使组织在复杂多变的环境中快速识别社会问题和公众需求，预测其发展趋势和潜在影响，对组织结构和工作流程进行迅速调整，以快速迭代的方式重新设计公共产品和服务，满足公众不断变化的需求。算法规制的敏捷治理可以显著提升政府和企业对算法规制措施迭代创新的能力，这无疑是对政府监管和行业自我规制应对算法风险动态变化力量的强化。此外，敏捷治理重视公民的治理主体地位，将以公民和社会非营利组织等利益相关方引入算法规制，形成政府、市场和社会的战略三角关系，以多元治理主体抗衡动态变化的算法风险。

二 权力与权利：算法规制何以敏捷

传统政府规制情境下，国家和政府代表的公权力和公民代表的私权利相互制衡。然而，算法权力所具有的内在风险与外部的不可控引发了算法极权，公民的基本权利在算法社会中被边缘化，形成一种“弱政府”“强市场”“弱社会”的局面。[11]算法规制中的敏捷治理具有两方面的功能：在权力层面，算法规制的敏捷治理突出公民的治理主体地位，在政府和市场之间划界；在权利层面，通过灵活、迭代的规制方式建立算法风险防御体系，在外部环境变化过程中对算法风险源的发展规律进行预测以制衡算法权力，动态迅速维护公民的合法权益。

（一）面向权力：实现公权力与算法权力的良性互动

算法失控而引发的算法风险分为两种情形：一是技术为人所操控而对社会形成控制；二是技术不为人所控制而配置社会资源。面对这种弥散性、隐蔽性、非均衡权力形态所引发的算法风险，现有规制路径存在着诸多限制，很难分清现有的规制方式是出于公共利益还是资本利益，同时也难以有效防御算法权力失控而引发的风险。[12]权力层面强调以下内容。

1.凸显公民在算法治理中的主体地位。大型互联网科技平台凭借自身技术优势不断扩张自身的算法权力，利益最大化的驱使，让平台更易将自身利益内嵌在算法运行中，借助算法权力形成与消费者的不公平交易，催生“监视资本主义”。而算法黑箱的存在让平台可以用非常隐蔽的形式进行价格歧视，侵犯消费者的合法权益。政府部门因自身权威优势，在算法社会中处于优势地位，当算法嵌入政治权力运行的各个环节来参与社会治理时，如若缺乏相关制约机制，则会引发“算法利维坦”，严重挑战正当程序制度和权力专属原则。[13]

算法权力异化的实质是政府或企业凭借对数据的控制，获得了不被监督和制衡的权力。数据权的真正拥有者（公民）的合法权益被侵蚀，却又无力寻求救济。因此，强化公民在算法社会中的治理主体地位，实现权力的去中心化，无疑是算法时代防范算法权力异化的重要保证。而敏捷治理嵌入算法规制本身就是对算法规制路径的一种改造与创新，通过强化公民自组织能力、利益相关体的合作，来提升社会群体在算法社会中的治理主体地位，将数据控制权归还于民，进而对公权力与算法权力的“共谋”进行制约，形成政府、市场与社会之间的“铁三角”关系，以此来确保数据控制者运用被赋予的裁量权，去实现公共规制目的而非自身的私人利益。[14]

2.强调对算法权力异化的控制。当前人工智能算法已经逐渐形成一套复杂的自主性体系，即算法在没有任何人为干预的情况下，凭借算法自主学习的能力自动地从数据中提取知识，在算法黑箱的“掩藏”下，其结果具有不确定性、不可解释性和不可控性。算法可以直接转变为行为规范，影响甚至决定个人的行为。[15]莱斯格教授提出的“代码即法律”原则充分体现了网络空间的这一特征。而这种算法技术的“僭越”将导致各种社会关系依附于算法数据的分析和设计逻辑，基于理性自治的官僚结构和企业组织将从“人的组织”转向“算法的组织”。算法治理下的所有人，包括使用算法治理的人都将不得不在算法测量、统计、计算中寻求生存。算法治理强化了技术政治的自主性，导致“人的政治”的价值主张所具有的政治自律出现危机。[16]

算法规制的敏捷治理一方面要求政府和企业组织不断根据形势的需要优化结构、制度和流程，强化其对算法权力失控的及时响应和应对能力；另一方面，敏捷治理通过对公民自我组织能力的强化以及功能性自组织的养成，对算法权力失控行为进行监管。社会和公众自我意识的觉醒和自我组织能力的培养和壮大，是避免算法权力异化的最有效途径。

（二）面向权利：迅速响应公民诉求

在算法社会，基于经济发展、社会便利与政治安全的诉求，公民不得不将自己的权利让渡给算法权力。算法规制的敏捷治理要求对公民的利益诉求进行快速的响应。

1.打破算法对用户的“囚禁”。在算法社会中，个性化算法与公民的关联最为紧密。然而，个性化算法为公民带来便利的同时隐藏着众多算法风险。一方面，算法利用用户在互联网中披露的个人数据，通过进一步数据分析和测算判断出用户心理和需求偏好，以此为前提向用户推送“定制”信息，进而左右用户的主观态度和判断，诱导用户的行为。另一方面，算法继承社会偏见导致“算法歧视”。如国外著名网站上的高薪工作更多地向白人推荐，简历筛选过程中，男性求职者的简历分数往往比女性求职者的简历分数高。同时，算法歧视将进一步固化现有社会结构，阻碍阶层的流动。现有的“数据鸿沟”会让贫困者的数据更为稀少，其数据也就难以进入民生保障的数据集，算法在这一数据集的基础上进行决策，易造成本应获得更多民生保障的贫困者无法得到应有的保障。[17]

算法权力的异化导致的“算法歧视”“大数据杀熟”“数据鸿沟”等算法风险严重侵犯了公民的隐私权、自由权、平等权甚至生存权等基本合法权益。与传统规制方式相比，算法规制的敏捷治理要求以公民诉求为中心，通过建设灵活的“数据资源”、跨部门合作、有效沟通等方式及时对算法风险进行规制，对用户的需求迅速做出反馈，打破算法对用户的“囚禁”。

2.预防侵权“耐受”行为。个性化算法还会带来另一个深层风险，那就是在个性化服务的“伺奉”下，个体逐渐失去自主判断与选择权，越来越多地被算法或机器控制。个性化算法所提供的便利服务精准迎合用户的心理需求，加之以往对“技术理性”的惯性认知使其“沉迷”于算法所带来的便利与福祉。在算法的演进过程中，人们对算法的依赖不断加深，并在不知不觉中被算法麻痹，被其控制。在算法时代，大部分系统的运行都必须以用户的信息为载体，这就导致人们在享受智能化便利的时候必须“以隐私换便利”。大部分用户都是“技术盲”，他们并不知道隐私会被如何侵犯以及侵犯到何种程度。用户与算法设计应用者之间存在这种天然的不对等关系，一部分人即使意识到了这种风险却也无可奈何。

无论是用户“被幸福地操纵”，还是被迫以隐私换便利，都是公民产生侵权“耐受”行为的一种体现。[18]算法规制的敏捷治理重要目的就是唤醒公民的主体意识，防止侵权“耐受”行为的发生。尽管以隐私换便利是用户不得已的选择，但用户应该有权利知道，出让的是哪些隐私数据，能获取哪些便利，以及如何提升自我组织能力，进而通过合法渠道去参与算法治理，维护自身合法权益。[19]基于此，政府要注重培养公民的“数据素养”，实现公民对自身数据权的重视和掌控，促使算法设计应用者提升其数据分析能力和水平，引导算法向“善”。

三 算法的敏捷治理

面对算法风险的多样性、动态性，政府必须及时调整算法规制思路，创新算法规制路径以提升规制效力，敏捷治理为算法治理提供了一个新的范式。

（一）规制主体的转变

传统的规制路径主要依赖政府强监管与行业自我规制，但政府和市场受专业知识和自利性的局限，难以有效解决算法风险问题。算法规制的敏捷治理要求规制主体从政府和企业，转向政府、企业与公民以及公民组织的协同共治。

1.跨部门合作。政府监管面临的一个重要挑战是协调与整合。如何建立起跨越部门监管界限的协同监管机制变得越来越重要。[20]一方面，对算法风险的监管需要网信部门、市场监管部门等的协同合作。另一方面，算法风险的监管既是政治问题，也是经济和法律问题。行政和司法系统虽然有着权威性优势，但技术壁垒的存在，使得行政和司法系统在算法黑箱面前往往束手无策。经济系统虽有专业能力，但又很难确保其是否致力于公共利益的实现。要想真正地破解算法难题，必须找到各系统之间的协作方向和具体事项，达成跨部门的合作。[21]在这方面，德国推行的个人数据保护顾问制度颇有启发借鉴意义。在德国，个人数据保护顾问既担任着法律义务，同时也是企业系统的一员。政府作为规制主体的引导者，可通过数据监管机构与个人数据保护顾问这类部门合作来应对算法监管问题，以提升规制效力。个人数据保护顾问的存在也促使行政系统内生自律性，预防政治领域算法权力的异化。

2.快速动员利益相关方。算法行为具有跨学科、跨领域的属性。同时，“算法黑箱”的存在也模糊了公私领域的界限。为保证对算法权力的全方位监督，应支持学术性组织和非营利机构的适当介入，加强第三方监管力量，维护算法公正、透明的运行。目前在德国已经出现了由资深媒体人和技术专家牵头成立的名为“监控算法”的非营利组织，通过审核访问协议的严密性、商定数字管理的道德准则、任命专人监管信息、在线跟踪个人信息再次使用的情况，允许用户不提供个人数据、为数据访问设置时间轴、未经同意不得将数据转卖给第三方等方式防范算法滥用。

3.以公民为代表的公民自组织的养成。传统的算法规制路径忽视了以公民为代表受算法影响的个体或组织的治理主体地位，导致政府—市场—社会关系的失衡。算法规制迫切需要公民自我组织起来牵制或驱动相关主体各负其责。在算法治理的各相关主体之中，受算法影响的公民和非营利组织显然最有意愿和动力对算法中存在的不当问题进行治理。他们或许不理解人工智能算法的设计原理，但会预测算法决策的结果。算法规制的敏捷治理除了强调政府的强监管以及行业自我规制，更强调算法影响的公民、非营利组织等社会个人和组织的自组织能力。美国目前正试图通过提供资金援助的方式，鼓励非公益组织以及个人测试算法运行系统，以期通过测试和执法行为预防或消除算法风险。如果通过验证发现，算法运行过程中的确嵌入了算法歧视、大数据杀熟等行为，那么这些功能性自组织就可以主张歧视和不公，进而要求政府监管机构强制算法设计开发应用者修改算法以确保公平。采用自组织的方式去解决算法规制问题的同时，政府应该加强引导，建立适度的框架模式和边界条件，以便更好地促进“涌现现象”的形成。[22]

（二）规制方式的转变

算法规制的敏捷治理除了要在现有规制主体上发生转变，形成规制多元共治的局面，还要通过迭代创新的规制方式，灵活应对动态变化的算法风险问题。

1.建立强大的反馈机制。算法设计和实际运行的复杂性决定了算法规制问题不可能一蹴而就。算法监管必须在原有监管模式的基础上不断进行迭代创新，才能有效应对新兴技术和未知风险的挑战。因此，算法监管系统应建立强大的反馈机制，便于用户反馈情况，进而发现和把握各种算法规制活动的内在连续性，打破算法运行的自我强化学习循环。此外，算法规制的相关主体也要通过一定的反馈机制，进行持续对话、互动与沟通以实现信息的交流与共享，不断优化、不断容错、纠错以实现算法治理问题的有效解决。

2.分解算法风险的复杂性。算法的实质是一系列通过预先设定的步骤、解决特定问题的计算机程序。[23]它的设计逻辑是将人类解决问题的过程分解为若干步骤，再通过程序设计，将这一过程公式化，借助计算机算法求解复杂问题。[24]有效的算法规制同样需要按照公众的合法诉求对算法风险的复杂性进行分解，将其划分为若干步骤或若干类型，最终实现不同形式的算法风险都有相应的负责主体和监管模式。要针对算法设计应用进行流程划分,以分解风险问题；要注重在数据采集阶段提高数据的可解释性；要避免“脏数据”等粗糙数据,以优化事前防范；要强化对算法运行环节是否内嵌算法设计应用者的偏见或利己主义的审查,以便事中监督；要加强对算法应用服务结果是否侵害公众利益的验证,以便事后救济。此外，针对不同类型、不同级别的算法风险则需要塑造“分级分类监管”的理念。[25]对于事关国家安全、社会秩序、公众利益的算法应用，应按照风险等级进行排序来分解算法风险的复杂性，同时根据不同的算法应用场景，进行相应的规制强度和形式的设计。

3.建设灵活的数据保护“基础设施”。灵活的数据保护“基础设施”是敏捷治理嵌入算法规制的基础。西方国家在数据应用方面走在世界前列，很大程度上是因为政府机构在数据质量、透明性和数据使用规范方面都打下了良好的基础。进入大数据时代，美国政府进一步推进了数据资源的“基础设施”建设。美国联邦贸易委员会技术研究和调查办公室就通过向联邦贸易委员会(FTC)消费者保护调查员和律师提供有关算法透明度的培训和技术专业知识。2018年欧盟也出台《欧盟通用数据保护条例》旨在维护公民或者个人用户的隐私数据，规范企业对用户数据的规范使用。同时，规定第三方机构可以在接受数据主体委托和无须获得数据主体同意两种情况下向数据监管机构提出申诉和行使救济权。[26]

四 结论与展望

随着算法风险的动态变化，及时规制算法权力、规避算法风险以切实保障公民的合法权益，是算法社会中预防算法权力异化的必然要求。政府和市场作为现有算法规制的主体，由于种种原因，难以保证算法治理公共性的实现。算法深度自主学习的属性也导致“技术政治”超越“人的政治”，引发算法失控的风险。算法规制敏捷治理的核心要义，就是凸显以公民为代表的社会群体的治理主体地位，将数据权还政于公民。算法规制的敏捷治理，不仅要求在治理哲学上进行转变，更需要在机构、运作方法和具体规制手段上拥抱快速变化的社会政治经济和技术发展，不断对规制方式进行迭代创新，以应对算法风险的多元性与动态性。算法规制的敏捷治理特别强调公民数据权意识的觉醒和公民自组织体系和能力的培养。政府数据治理体系和治理能力的建设，公民社会自我确权意识的培养、自我组织和保护能力的培养的结合，是规制算法权力、抵制资本对公民数据权益的侵犯和充分有效利用数据要素造福社会的终极武器。