算法时代的社会、政府与治理：变革与挑战

李立　张雨睿

〔摘要〕

当下算法技术已被广泛应用于社会各个领域，给当代社会结构和政府组织带来了巨大变革，进而深刻影响了“国家-社会”关系和社会治理的基本样态。本文首先从国家与社会二分的角度出发，系统梳理了算法对社会结构和政府组织的影响和改变，继而论证算法时代的社会治理特征。对于社会结构而言，算法偏见改变了传统的信息获取和人际交往方式，使公民权呈现序数化特征，重塑了公民、市场与国家间的生产关系和权利关系。对政府组织来说，算法为政府提供了一种效率导向的决策方式，塑造了数据控制的运作流程和组织结构，重新定义了科层官僚的自由裁量权。基于上述变化，算法在“国家-社会”关系的共识基础、双重序数化的价值选择、偏见与透明的问责机制上深刻影响着传统的社会治理模式，为信息时代的中国式现代化道路提供了技术基础。

〔关键词〕

算法；社会结构；政府组织；社会治理；序数化

〔中图分类号〕D082 〔文献标识码〕A 〔文章编号〕2095-8048-（2024）03-0033-12

一、序言

进入21世纪，数字技术成为政府治理面临的最大变量之一。讨论数字技术如何影响政府治理的电子政务、数字政府、数字治理先后成为学界热点话题。早期研究更侧重于描述与归纳数字技术对于政府的影响和政府对此的应对^〔1〕，近年则更多地尝试从理论层面廓清技术的本质和其在组织、政治等基础层面带来的变化，“集中于数据治理、人工智能在公共部门的应用、数字时代的政府组织新形态，以及数字政府建设对公共治理的影响”^〔2〕。

然而，当前关于数字技术对治理影响的研究更多是聚焦到了数字技术中的“数字”一面。数据结构是静态的一种组织数据的方式，如果不通过技术化的“操作方案”处理数据就无法完成人为设定的目标。简单而言，数据结构就如杂乱堆放的“砖头”，如果没有人为设计的“操作方案”，则无法达到其“造房”的目的。在技术实践中，所谓的“操作方案”就是算法。算法是运用数据以解决实际问题的工具，在数据结构基础上进行算法设计从而实现相应的技术目标。因此，“算法”受到学界和实践界的共同关注。在计算机科学领域，学者将算法定义为“解决特定问题的一系列精确定义的指令，这些指令可以以有限的时间和空间在计算机上执行”^〔3〕。这个定义强调了算法的两个重要方面。一方面，算法是一系列指令或操作，这些指令描述了解决问题的步骤和规则。另一方面，算法必须具备确定性，即：对于给定的输入，算法的执行过程和结果是精确定义的。此外，算法的执行时间和空间应该是有限的，这意味着算法应该在合理的时间内完成，并且不会占用过多的计算资源。算法是问题解决的核心，其他计算机技术是实现算法的工具和手段。算法的设计和分析是计算机科学的基础，其他技术则是将算法转化为可执行的代码或程序的具体实现^〔4〕。算法在当代社会有许多应用，比如搜索引擎、机器学习和人工智能、数据挖掘、图像和视频处理、自然语言处理等。

算法与社会、政府之间的关系也日益紧密地联系交织。一方面，我国围绕算法管理发布了一系列法规文件，逐步规范社会层面与市场领域的算法使用。2020年12月，中共中央印发了《法治社会建设实施纲要（2020－2025年）》指出，要完善网络法律制度，“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推薦、深度伪造等新技术应用的规范管理办法”。另一方面，我国也在推动算法技术与社会治理的深度融合。2021年9月，国家互联网信息办公室等九部门联合发布《关于加强互联网信息服务算法综合治理的指导意见》，提出“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”。目前，算法技术已逐渐嵌入我国社会治理的各个方面，从主体结构、理念、方式等方面给社会治理带来新的变革。

总体来说，算法重塑了社会结构与链接方式，同时也取代有形的公共管理者成为公共决策主体，业已成为优化政府权力结构和推动政策过程的重要工具^{〔5〕〔6〕}，甚至催生了公共管理研究的范式革命^〔7〕。可以说，算法是人工智能技术设计、应用的过程中切入数字社会的技术核心^〔8〕。在此背景下，需要将算法置于公共管理研究的重要位置，探究算法对于社会治理实践的改变。要理解这一议题，本文需要从国家与社会二分的角度出发，分别讨论算法对社会结构和政府组织的影响和改变，继而论证算法时代的社会治理特征。同时，根据以上研究进路系统地梳理近年来公共管理领域的算法研究。

二、算法偏见、数字控制和序数权：算法对社会结构的影响

社会治理位于国家与社会关系之间的交汇点上，以社会为治理的对象，探讨算法对社会治理的影响的起点是研究算法会带来何种社会关系的变化。因此，本文需要优先讨论算法对社会结构的影响。概括起来，算法对社会结构的影响主要包括三部分。一是算法作为一种高效率但带有偏见的算法技术的计算和决策方式，改变了传统的信息获取和人际交往方式，进而带来了社会经济活动的变革。二是算法社会的技术拜物教使公民权呈现序数化特征，替代了传统社会之中以政治权利和社会福利主导的公民权主题。三是算法隐蔽的社会建构模式和不透明的特性本身所带来的社会冲击，掩盖了生产政治之中的劳动控制，甚至重塑了公民、市场与国家间的生产关系和权利关系。

高效率但带有偏见的算法技术改变了人们信息获取和人际交往的方式。搜索引擎和推荐算法可以帮助人们快速找到所需的信息，平台算法也可以进行个性化内容推荐。在经济领域，电子商务平台的推荐算法可以改变购物行为和市场结构，广告推荐算法可以提高广告投放的精准度和效果，优化算法可以提高生产和物流效率，掌握算法推荐权的平台企业成为新的巨头。在社会层面，算法改变了社交网络的信息传播方式，可以塑造用户的社交圈子和信息流，影响人们的社交互动和人际关系。就个人而言，算法可能导致信息的过滤，加强极化效应。有学者使用实验和逆向工程方法，揭示平台会通过捕捉和预测用户的偏好，尝试满足和强化个体偏好，在信息语义维度强化了过滤气泡效应。算法虽然带来了信息收集的高效率，但是却因数据集构建、目标制定与特征选取、数据标注形成了算法的偏见。^〔9〕算法的偏见是由其底层技术——机器学习决定的。其一，数据集是机器学习的基础，出于信息采集的便利性，数据收集者往往会倾向获得所谓多数群体的“主流”数据，而对于位于旁支的少数群体的“非主流”数据，则相对忽视。这意味着以此训练的算法可能会对少数群体的社会信息处理和识别缺乏精准性。①其二，工程师作为算法的设计者全过程地参与到了目标设定、模型设计和数据处理的整个系统之中，不恰当的目标设定、数据标签决定了算法学习该数据集的内容导向和模型生成，进而使得算法将对一些特定的目的、标签形成偏见。例如工程师在电商系统中会常见地将品牌设定为关键标签，因而在学习推送规则时算法会识别一些特定属性并构建“有偏见”的模型。其三，算法无法直接对非结构化的数据（图片、视频）进行直接分析，需要人工为数据进行标注实现结构化处理。贴标签者因个人成长生活、种族文化的不同带来的主观性价值判断差异，也是算法偏见的来源之一。更重要的是，算法偏见不仅重塑了社会中的行动者之间的关系，也影响了内容提供者的行动偏好。诸多关于美国社交媒体与极化实证研究也表明，出于博取公众注意力的考量，新闻报道往往会更加极化，这种充斥着激进情绪的报道经由算法被推荐给赞同的人群，会加剧公众的政治极化，削弱民众对包容、宽容和相互尊重等原则的信奉，同时也降低了民众对政治进程的信任^〔10〕。

算法社会的技术拜物教使公民权力呈现序数化特征。“算法”与“社会”两个词之所以能被组合，是因为算法技术已经嵌入当前人类生产生活的结构之中了，构筑起一个完全覆盖、无所不包的全景式控制社会。算法社会和以往社会最大的区别则在于，作为核心技术的算法使得技术支配性地位提升的同时也令技术进一步黑箱化，导致技术难以把握和捉摸，技术具有了支配人类和社会命运的神秘属性。上述变化使得公民的行为规则和权利特征也随之变化。在算法时代到来之前，现代公民权表现为三个方面的权力，即经济权力、政治权力和社会权力，主要体现于公民的人身自由权、选举权、财产权等；而算法社会则希望将决策自动化，排除其中的人类参与的程度以提升效率并维持中立。分类化、排序化的数据是这一决策系统的核心，即算法通过对大量数据的分析对商家和公民各类活动进行排序，形成有序的数据组合，并以此为原则进行决策选择^{〔11〕〔12〕}。进而，凡是在算法社会之中，越来越多的人被卷入到算法制定的序数化关系之中，形成了一套例如征信系统的依托算法的等级制和分类制^〔13〕。

回到算法本身，尽管算法看似技术中立，实则却是拥有极强的隐蔽性、不透明性和规模性的黑箱，以数字控制掩盖了社会的生产关系和权利关系。甚至一些学者认为，算法对现代社会存在破坏性，重塑了社会的权利关系与权力结构，是一种 “数学毁灭性武器”（Weapons of math destruction）^〔14〕。就权力关系而言，算法越来越多地出现在主流媒体和公众话语中，但这并没有改变算法的高技术门槛，由此形成并固化新的权力分配格局。Burrell区分了三种形式的不透明：一是作为有意的公司或国家保密的不透明，二是作为技术文盲（technical illiteracy）的不透明，三是由于机器学习算法的特征以及有效应用它们所需的规模而产生的不透明性。^〔15〕这三种不透明性使得算法难以被监管和约束，算法对于社会的影响也难以衡量，从而可能在一次次用指标来抽象、衡量和计算社会现实时加强某种偏见与歧视。同时，作为技术-社会实践过程，算法需要有人工规则、策略去设计、定义和评估^〔16〕，不透明性使得这一过程逐渐形成可称之为“算法精英”（coding elite）的新职业阶层^〔17〕。这一群体通过对数字化生产手段的技术控制，即“数字控制”，以及从新近被边缘化或无报酬的劳动力身上榨取财富，巩固了自身的社会权力。在数字控制的算法黑箱下，社會分层格局的改变显得更加困难。就生产关系而言，不同于传统资本主义社会的工厂政治，当下平台经济，例如网约车、外卖等，劳动力的分布呈现分散而非集聚特点，强化了劳动力之间的竞争并难以形成集体身份认同^〔18〕，同时序数权也令人们服从于算法设定的秩序^〔19〕。也就是说，平台系统通过算法潜移默化地收集、分析劳动者数据并将数据结果反作用于劳动者，而使不平等的劳动秩序成为可能。同时，生产关系的监管更为困难。由于劳资之间的剥削与被剥削关系变得更为隐蔽，国家对于劳资之间关系的调控和对劳动者的保护变得更艰难。这种变化需要国家通过理解和掌握算法技术，进而揭开算法黑箱从而重塑对市场与社会的控制和管理^〔20〕。

三、效率决策、科层控制和重构自主性：算法对政府组织的影响

政府是社会治理的核心主体与决策者，可看作国家在社会治理过程中的代理人。算法不仅带来了社会新特征，并且在组织层面重构了政府的结构与运作流程，进而影响着政府所主导的社会治理形态。政府组织为实现对社会的有效治理需要处理来自上级部门或社会层面的机构海量数据，算法的使用可以自动化解繁琐的日常任务，对海量数据进行快速分析，并建立模型以提供预测和决策支持。算法还可以帮助政府部门提供更高效和个性化的公共服务。例如，通过自然语言处理和机器学习，政府可以凭借算法技术自主回答公众的问题，提供更快速和准确的服务^〔21〕。从组织学角度来看，算法对政府组织的影响包含三个部分：在政府决策层面，算法为政府提供了一种效率导向的自主决策系统并为政府决策提供参考和导引；在组织结构层面，算法技术使得从传统垂直管理结构转向更加扁平灵活结构，部门合作、政企合作被充分带进科层体系；在官僚主体层面，算法技术重新定义了官僚掌握的自由裁量权（参见表1）。

（一）政府决策：效率还是民主？

决策是行政行为的核心。有关算法的早期研究强调算法对公共决策的影响^{〔22〕〔23〕}，研究主题包括算法如何影响政府决策效率、如何改变政府决策结果以及如何影响民主化进程。由于源起西方的公共行政学自兴起之时就存在着效率和民主两条路径，算法引入后将如何影响公共部门的讨论也不可避免地从此开始。

那么，如何定义算法决策？计算机学界一般认为算法决策指的是一种机器学习和深度学习方法为核心的数据处理导向的自主决策系统^〔24〕。对技术持积极态度的学者认为，算法可以帮助政府部门提高工作效率和自动化程度^〔25〕，算法提供了客观、数据驱动的决策因素，减少主观因素的影响，从而在提升决策的科学性的同时增强决策的公正性和透明度。持消极态度的学者则强调，算法在自动化运作的同时，也可能增多政府内部无用的数字工作，增加工作人员负担而降低效率。更重要的是，算法决策可能会削弱决策民主性，导致偏见与不公正，加剧社会的不平等^〔26〕。

算法在政府决策中提升效率的应用潜力来自两大基本能力，分别是对大数据的高效处理功能和机器学习算法的预测分析能力^〔27〕。大数据的高效处理功能体现为机器学习和深度学习的算法凭借文本挖掘、知识库自动构建、自然语言处理等技术处理含义模糊的非结构化数据（政策本文），并对政策内容进行分类^〔28〕。机器学习算法的预测分析能力体现为算法驱动的高纬数据筛选预测决策，是以非线性和高度交互的预测模型为基础，能够高精度预测高度复杂现象与数据间关系，相对于人脑判断而言，算法决策有着显著优势^〔29〕。基于以上两类基本能力，算法技术由浅至深地参与到政府决策的过程之中，包括议程设定、政策制定、政策执行等方面，充分提升了政府决策的效率。

在议程设定层面，算法将处理公共舆论大数据成为可能，决策者可以通过自然语言处理、文本情感分析等算法洞察社会舆论的动向和变化，并及时进行政策问题界定，协助决策者设定政策议程。也就是说，算法技术有效地强化了国家的“信息能力”，提升了国家对社会信息的“可读性”^〔30〕。在政策制定层面，当前算法决策主要体现为参考性功能，算法决策强大的预测能力可以精准预测政策方案的实施效果，并且算法对于成本收益的预测效果也优于传统的成本收益分析，能够指导政策方案的选择。在政策执行层面，算法技术打通了政策信息上传下达之中因层级架构而形成的信息不对称，消解下级政府的政策执行波动和“上下共谋”行为^〔31〕。然而，算法技術在提升政府决策效率的同时，也影响了政府决策的民主性。一方面，算法技术在收集和处理社会信息上能够对公众对于政策方案的建议提供更为全面和深入的研判，识别不同的政策偏好，进而强化公共决策的民主性^〔32〕。另一方面，如果公共决策中依仗的算法和数据本身具有“偏见”，难免导致政策指定的结果对于被算法忽视的社会群体也是有“偏见”的，从而削弱了公共决策的民主性^〔33〕。

（二）组织结构：分权还是控制？

随着世界上越来越多的政府采纳算法技术并在公共行政实践中呈现出不同的应用形态，公共部门关于算法的科学辩论逐渐从算法本身拓展到组织维度，关注算法对组织结构、组织关系的影响。Meijer 与Wessels指出，算法包括技术、专业知识、信息关系、组织结构、组织政策、监控和评估六大核心特征，公共部门将围绕算法重新安排他们的工作程序，并将此过程称为“算法化”，即：“一个组织围绕使用算法进行行动和决策重新安排其工作程序的过程”，强调“工作程序”而非“组织行为与决策”^〔34〕。

公共部门引入算法将对其组织形态可能产生多方面的影响，包括内部组织结构、部门间关系和外部与企业的关系。在组织层面，算法化的张力在于，算法的应用需求要求公共部门从传统垂直管理结构转向更加扁平和灵活的结构，但是算法作为一种集中、规模化的量化技术，又很可能强化科层控制、标准化和正规化。那么，在算法技术的加持下，政府作为典型科层组织的代表，究竟会变得更加扁平还是集中？政府会在标准化算法的影响下向“组织铁律”趋同还是因算法带来的灵活性而趋异？政府内不同部门之间会在算法的帮助下更容易实现协同，还是会对这一新兴领域进行争夺而加剧割据态势？政府和企业之间、和专业技术人员之间的关系又会如何？

首先，在内部组织结构方面，引入算法可能导致公共部门的内部组织结构发生变化。传统的垂直管理结构可能需要调整为更加扁平和灵活的结构，以适应算法的应用需求^〔35〕。与此相对，也有学者认为，算法的引入可能导致组织的集中化，可能强化对标准化、正规化和集中化的压力^〔36〕，对于算法的一系列实证研究支持了这一观点。但是，也有研究认为，公共部门的算法化过程是不确定的，组织文化会在很大程度上影响公共部门的算法化形态，即使是采纳相似甚至相同的系统，也可能会因组织文化的差异而强化完全相反的组织形式^〔37〕。

其次，在部门间关系维度，算法的引入可能改变不同部门之间的关系和合作方式。协同论观点认为，算法的引入可以加强部门间的协同合作，可以促进政府之间的信息交流和协作，从而使得部门更好地协同解决复杂问题，提升整体绩效^〔38〕。但是，也有研究指出，算法的引入可能重新定义政府部门的权力和职责关系，例如，某些任务和决策可能被算法自动化，导致部门间的职责重组和重新分配；也可能加剧政府部门间的竞争和冲突，政府部门采用不同算法而得出的决策结果可能相互冲突。

最后，在外部关系上，政府部门引入算法可能对其与企业的关系产生影响。政企关系内生于现代数字政府的治理过程中^〔39〕，由于算法的规模性，政府自身很难独立进行算法的构建和运行，相较于传统的信息化和电子政务过程，在公共部门算法化的过程中，企业以前所未有的深度和广度嵌入到政府治理过程之中，政企合作模式也发生变化。政府不再简单地为企业提供优惠政策或资源，而是更多地以项目形式在技术层面与企业开展合作，依托企业的数据和技术来开发和实施算法。换言之，企业也在一定程度上被纳入政府的“项目制”^〔40〕。为有效建立更紧密的合作伙伴关系，除尝试制定合适的合作协议和数据共享政策之外，政府和企业的组织结构与运作方式也发生了变化。平台头部企业呈现出政府事务部门专门化的特征，广泛建立了多种层次的专门化政府事务部门以强化与政府的对接^〔41〕。

（三）科层官僚：照章办事还是自由裁量？

政府的算法化过程对公共部门内部各级工作人员的影响主要体现在工作方式的变革上，并由此衍生出自由裁量权界定，以及是否遵从以往科层权力分配行动等传统问题的新讨论。

传统组织学认为，科层内官僚主要负责处理文件、办理手续和执行政策等事务性工作。而引入算法后，一些重复性和机械性的工作可以通过自动化和智能化的方式完成，使官僚成员能够更专注于复杂的决策和问题解决。官僚成员需要适应新的工作方式，学习和掌握相关的技术和工具，提高数据分析和算法应用的能力。同时，算法的引入将提高官僚成员的决策能力和效率。算法可以通过大数据分析和模型建立，提供决策支持和预测能力，算法本身也越来越多地做出过去由人做出的决策^〔42〕。因此，官僚成员可以利用算法的结果和分析，更准确地制定政策和规划，优化资源分配，提高工作效率和决策的准确性。官僚成员需要具备数据驱动的思维和分析能力，能够理解和应用算法的结果，从而更好地履行职责和使命。

上述过程带来的新问题在于：如果算法可以决策，官僚成员会如何使用算法给予的决策？更进一步，这将如何影响官僚成员，特别是位于基层治理情境之中街头官僚的自由裁量权？社会心理学文献指出，算法看似中立而客观，人们似乎对算法给出的解决方案过于自信^〔43〕，存在无视其他来源的矛盾信息或不再彻底地搜寻更多信息，而盲目遵从自动化系统结论的倾向^〔44〕。为避免这种偏见，近期越来越多讨论尝试使用实验方法来探究官僚成员使用算法时的行为逻辑。Janssen等学者通过实验和调查问卷发现，决策者的经验水平和算法的可解释性对决策者的自由裁量权具有重要影响。具有更高经验水平的决策者在使用人工智能支持决策时更倾向于依赖算法的建议，而较低经验水平的决策者则更倾向于依赖自己的判断。此外，算法的可解释性也对决策者的自由裁量权产生影响。当算法能够提供清晰的解释和理由时，决策者更容易接受算法的建议，从而降低了他们的自由裁量权^〔45〕。Alon-Barkat与Busuioc则提供了相反的证据。他们的实验结果显示，将算法工具引入决策过程并没有取代人类决策者的自由裁量权和判断力；同时，人类建议和算法建议都会带来选择性依从，算法并未加剧此类偏见^〔46〕。

除算法直接给出决策之外，算法也在数据和信息方面改变了官僚成员的工作方式，使得官僚成员所面对的信息与诉求更加文本化、数据化和标准化，其碎片化程度也在加深。L?berg通过溯因分析，发现由于公民的信息被标准化和简化，即基层官僚需要在工作中走“弯路”，来弥补碎片化信息的局限性，提供回应式服务^〔47〕。

总体来看，技术治理的早期研究倾向于认为算法会大幅度削弱官僚成员的自主性。比如，Bovens与Zouridis提出，信息技术的引入会使得具有自由裁量权的街头官僚转变为判断是否接受计算机决策的“屏幕官僚”（screen-level bureaucracy），再进一步转向维护和完善计算机网络的“系统官僚”（system-level bureaucracy）^〔48〕。但随着研究的深入，学者们逐渐意识到算法对于官僚自由裁量权的影响并不完全遵循上述的单一路径，实际情况往往更加复杂且随情景而变，在此方面，仍需要更多探索性的实证研究^〔49〕。

四、算法对社会治理的影响

算法作为新的技术变量，本身既是治理对象，又是治理工具；既已改变了社会联结和运作的方式，也深度嵌入到政府工作的方方面面，使得两者都呈现出新的形态^〔50〕。毫無疑问，算法对社会治理提出了新的要求，使得社会治理呈现出不同的形态。上文之中，我们分别从国家与社会二分的角度出发，分别讨论算法对社会结构和政府组织的影响和改变，在本部分中我们将基于以上分析讨论算法时代的社会治理特征（见图1）。

（一） 共识基础：国家与社会边界的重新界定

算法已经并将进一步形塑新的国家与社会关系，为社会治理提供新的基础。国家与社会关系将决定政府的职权边界和合法性的社会共识，是国家与社会在互动过程中所形成的共识，可简单分为国家层面对社会的读取、动员或控制，以及社会层面的自我联结和集体行动。算法作为新型技术形成了大量未达成共识的技术空间，使得科技巨头与技术专家称为“国家-社会”关系中一个不可忽视的新型主体^〔51〕，相关的各方主体的职责、边界逐渐模糊且尚未达到共识。同时，数据的汇集和算法的应用是跨国的，这使得这一空间内的主体互动和权责界定更为复杂。在更微观的层面上，算法改变了国家与社会获取和解读信息的方式。

对于国家来说，社会变得可读，行动在一定程度上可被预测^〔52〕，这可能强化国家对社会的控制^〔53〕，也为中央提供了更多的地方信息用于层级管理和问责^〔54〕。但是对于社会中的个体而言，尽管算法推荐存在将关注点和偏好相同的人组织起来，但各类商业算法通过个人化推荐和过滤机制，仅呈现符合其兴趣和偏好的信息，可能会导致信息的过滤和筛选，使用户只接触到与其立场相符的观点，从而形成信息的“过滤泡”，限制了用户对多样观点的接触和了解^〔55〕，消解社会共识的达成，社会联结与社会行动变得更加困难。同时，算法定向推荐也更有可能被政治团体使用，影响公民的社会参与和行为偏好^〔56〕。总体来看，由于算法本身对知识、规模和数据有较高的要求，它的广泛应用可能进一步强化国家、科技巨头等强实体的力量，同时使得个人更加原子化。

（二） 价值追求：社会与政府的双重序数化

在国家与社会关系变化的背景下，算法隐含的序数化的价值倾向以隐而不显的方式同时嵌入了社会与政府，成为当代主导的价值追求之一。如上所述，市场出于对利益的追求，会使用多维度数据对公民进行序数化的分类，进而依据此排序为顾客提供差异化的商品、对雇员进行差别化的管理。这一过程实现了市场与社会的序数化，社会中鲜活的个体被抽象化为数据条目，以数量、数值大小为标签进行比较，数量占比大的群体或个体中数值最为突出的方面会占据最多的关注，数据层面的“少数群体”则会被忽视，成为数据盲点。

政府的序数化则体现在，政府的治理成果更多地以数值化的形式呈现并进行排序考核。“目标治理”是我国治理的一大特点，从宏观的五年计划到各具体政策的执行，都倾向于将行政总目标分解形成一套绩效目标和指标体系，并依此进行考核^〔57〕。算法自动化的数据分析与排序无疑强化了政府内部的目标管理过程，越来越多难以量化的、模糊性的治理任务得以通过大量的过程性数据进行数值排序与考核。与此同时，政府的绩效成果也会以数值的形式被定向地推送至公民，公民对于治理绩效的感知、评价可能进一步增强，且这种感知多是基于规范化的数值比较的。需要警惕的是，正如传统的目标管理可能会诱发诸多目标扭曲的博弈策略^〔58〕，算法带来的强考核也可能会强化选择性执行与变通执行，政策执行者可能有意或无意地操纵算法的输入数据、权重设置或结果解释，以符合其特定的政治目标或利益。

（三） 技术问责：透明与安全的权衡

如上所述，算法作为治理工具，使得社会呈现出序数化和高效率的价值追求，但这实际上在一定程度上消解了民主价值。可能问题在于，算法看似吸纳了大量的社会数据，足以代表多数人的民主，但其技术逻辑内部却往往隐藏着一系列偏见，性别、种族、阶层等种种偏见会在程序员看似中立的编码过程中进入到算法系统之中^〔59〕，而政府对算法的使用实际上赋予了算法在部分决策上的自由裁量权。在序数化分类和算法隐含偏见的加持下，社会治理内的不平等可能被进一步加剧。应对不平等的传统问责方案包括机构间相互约束、向公众负责的政治问责和机构内针对政策执行效果的行政问责^{〔60〕〔61〕}。这些问责方式在当下所面临困境在于，算法的不透明性使得其内部的偏见很难被观察到，其实际的过程难以被解读。为了有效应对这一难题，需要基于算法的技术特征重新探索新的问责和监督方案。

公开算法成为对此技术进行问责监督的前提，一些学者主张政府使用算法应该具有高度透明性和公开性。政府应该向公众解释算法的工作原理、数据来源和决策过程，以确保算法的可理解性和可控性，增加公众对于算法决策的信任^〔62〕。但是，如何在透明度和保密度之间进行平衡，仍未有明确答案。某些算法的工作原理和数据可能涉及国家安全、隐私或商业机密等敏感信息，其间的平衡点仍待探寻。比如，若涉及到福利决策的算法被完整公开，那么公民有可能有针对性地进行欺诈或隐瞒^〔63〕。对算法的问责究竟应当由政府来开展严厉强制的监管，还是坚持行业自我监管，抑或是发展可追溯和验证的技术路径^〔64〕，仍待进一步探索。

五、讨论

近年来，越来越多的学者正在重新界定公共行政研究的治理方法和治理形态^{〔65〕〔66〕}。本文重申算法对治理影响的原因在于，當前关于数字技术对治理影响的研究更多是关注“数字”而非“技术”，关注算法技术如何解决实际问题，从而实现相应的技术目标似乎大有裨益。本文首先探讨了算法在当代社会发挥着越来越重要的作用，对社会结构和政府组织产生了深远的影响。对于社会结构而言，算法作为一种高效率但带有偏见的算法技术的计算和决策方式，直接改变了传统的信息获得和人际交往方式，随之而来的技术拜物教使公民权呈现序数化特征，且其不透明的特性掩盖了生产政治之中的劳动控制并形成了新的生产关系。对于政府组织而言，算法提升了政府运作的效率，但挑战了此过程的民主性；改变了传统的部门职责分工，部门、政企合作被充分带进科层体系；重新定义了官僚的自主性和自由裁量权。

随着首部聚焦算法治理的部门规章《互联网信息服务算法推荐管理规定》发布，我国实践已从应用算法转向治理算法。未来为进一步应对算法带来的社会治理变化，仍需在明晰算法技术逻辑与运作模式的基础上，将其纳入社会治理的整体框架之下，以政府为主导动员社会主体参与，形成算法的协同治理模式。首先，在价值层面，应明确社会治理中效率与公平的价值平衡，警惕算法背后隐藏的序数化。其次，通过教育等方式提升各主体的算法能力，明确并公开算法背后的技术逻辑，在安全允许的前提下部分破除算法的不透明与黑箱，是治理与监管算法的基础。最后，由于算法本身涉及提供算法技术的市场企业、使用算法技术的政府与提供数据支撑的社会等多元主体，由政府动员联结进而形成多元主体的协同治理在此过程中更为重要。

目前，已有一定的中英文文献尝试讨论算法的技术特质带来的治理变革，但仍有诸多基本的议题需要探索：在规范层面，算法时代的政府边界如何？政府应当如何平衡算法透明与安全之间的关系？技术应当在何种程度上受到监管？在实践层面，当下序数化的社会有哪些新特征？政府已经在何种程度和哪些方面使用了算法？围绕算法的政企项目合作如何展开，政企关系又走向何方？总体而言，算法既是治理对象，又是治理工具，它既在根本上改变了社会、政府的运作方式和两者间的互动形式，也为未来的治理实践提供了更多可能，更为学术研究提供了新的想象力，亟待更深入、细致的规范和理论研究填补空缺。

〔參考文献〕

〔1〕戴长征，鲍静. 数字政府治理——基于社会形态演变进程的考察〔J〕. 中国行政管理，2017，（9）.

〔2〕高翔，胡亚博. 国外学者论人工智能与数字政府建设〔J〕. 国外理论动态，2023，（2）.

〔3〕Cormen， T. H.， Leiserson， C. E.， Rivest， R. L.， & Stein， C. Introduction to Algorithms （3rd ed.）〔M〕. MIT Press，2009.

〔4〕Knuth， D. E. The Art of Computer Programming （Vol. 3）〔M〕. Reading， MA： Addison-Wesley，1973.

〔5〕高奇琦. 国家数字能力：数字革命中的国家治理能力建设〔J〕. 中国社会科学，2023，（1）.

〔6〕孟天广. 政府数字化转型的要素、机制与路径——兼论“技术赋能”与“技术赋权”的双向驱动〔J〕. 治理研究，2021，（1）.

〔7〕〔20〕郁建兴，高翔，王诗宗等. 数字时代的公共管理研究范式革命〔J〕. 管理世界，2023，（1）.

〔8〕邱泽奇. 算法向善选择背后的权衡与博弈〔J〕. 人民论坛，2021，（Z1）.

〔9〕刘河庆，梁玉成. 透视算法黑箱：数字平台的算法规制与信息推送异质性〔J〕. 社会学研究，2023，（2）.

〔10〕Webster S W， Albertson B. Emotion and politics： Noncognitive psychological biases in public opinion〔J〕. Annual Review of Political Science， 2022， 25： 401-418.

〔11〕Fourcade， M. Ordinalization〔J〕. Sociological Theory， 2016， 34： 175-195.

〔12〕〔17〕〔59〕Burrell， J.， & Fourcade， M. The society of algorithms〔J〕. Annual Review of Sociology， 2021， 47： 213-237.

〔13〕Fourcade M， Healy K. Classification situations： Life-chances in the neoliberal era〔J〕. Accounting， Organizations and Society， 2013， 38（8）： 559-572.

〔14〕Mateen H. Weapons of Math Destruction： How Big Data Increases Inequality and Threatens Democracy〔J〕. Berkeley Journal of Employment and Labor Law， 2018， 39（1）： 285-292.

〔15〕〔63〕Burrell J.How the machine ‘thinks： Understanding opacity in machine learning algorithms〔J〕. Big Data & Society， 2016， 3（1）： 2053951715622512.

〔16〕赵璐. 算法实践的社会建构——以某信息分发平台为例〔J〕. 社会学研究， 2022，（4）.

〔18〕Lei Y W. Delivering solidarity： Platform architecture and collective contention in Chinas platform economy〔J〕. American Sociological Review， 2021， 86（2）： 279-309.

〔19〕陈龙. “数字控制”下的劳动秩序——外卖骑手的劳动控制研究〔J〕. 社会学研究， 2020，（6）.

〔21〕Engstrom D F， Ho D E， Sharkey C M， et al. Government by algorithm： Artificial intelligence in federal administrative agencies〔J〕. NYU School of Law， Public Law Research Paper， 2020 ：20-54.

〔22〕Fink K. Opening the governments black boxes： freedom of information and algorithmic accountability〔J〕. Information， Communication & Society， 2018， 21（10）： 1453-1471.

〔23〕Janssen M， Kuk G. The challenges and limits of big data algorithms in technocratic governance〔J〕. Government Information Quarterly， 2016， 33（3）： 371-377.

〔24〕Zouridis S， Van Eck M， Bovens M. Automated discretion〔J〕. Discretion and the quest for controlled freedom， 2020： 313-329.

〔25〕Ojo A， Mellouli S， Ahmadi Zeleti F. A realist perspective on AI-era public management〔A〕. Proceedings of the 20th Annual International Conference on Digital Government Research〔C〕， 2019： 159-170.

〔26〕于文轩. 大数据之殇：对人文、伦理和民主的挑战〔J〕. 电子政务， 2017， （11）.

〔27〕吴进进， 符阳. 算法决策：人工智能驱动的公共决策及其风险〔J〕. 开放时代， 2021，（5）.

〔28〕Rice D R， Zorn C. Corpus-based dictionaries for sentiment analysis of specialized vocabularies〔J〕. Political Science Research and Methods， 2021， 9（1）： 20-35.

〔29〕Mullainathan S， Spiess J. Machine learning： an applied econometric approach〔J〕. Journal of Economic Perspectives， 2017， 31（2）： 87-106.

〔30〕唐世平， 高岭， 李立等. 国家能力：走出理论荒野〔J〕. 学术月刊， 2022，（11）.

〔31〕何艳玲， 肖芸. 问责总领：模糊性任务的完成与央地关系新内涵〔J〕. 政治学研究， 2021， （3）.

〔32〕Kamateri， E. et al. 2015. Comparative Analysis of Tools and Technologies for Policy Making〔A〕//Janssen， M.， M. A. Wimmer， & A. Deljoo （eds.）.Policy Practice and Digital Science： Integrating Complex Systems， Social Simulation and Public Administration in Policy Research〔C〕. Cham： Springer International Publishing Switzerland， 2015.125-156.

〔33〕Webster S W， Albertson B. Emotion and politics： Noncognitive psychological biases in public opinion〔J〕. Annual Review of Political Science， 2022， 25： 401-418.

〔34〕〔37〕〔49〕Meijer A， Lorenz L， Wessels M. Algorithmization of bureaucratic organizations： Using a practice lens to study how context shapes predictive policing systems〔J〕. Public Administration Review， 2021， 81（5）： 837-846.

〔35〕Kretschmer T， Khashabi P. Digital transformation and organization design： An integrated approach〔J〕. California Management Review， 2020， 62（4）： 86-104.

〔36〕〔48〕Bovens M， Zouridis S.2002.From street‐level to system‐level bureaucracies： how information and communication technology is transforming administrative discretion and constitutional control〔J〕. Public Administration Review， 62（2）： 174-184.

〔38〕Engin Z， Treleaven P. Algorithmic government： Automating public services and supporting civil servants in using data science technologies〔J〕. The Computer Journal， 2019， 62（3）： 448-460.

〔39〕于君博，戴鹏飞. 中國地方政府数字治理的“过程”与“组织”〔J〕. 公共管理学报， 2023，（1）.

〔40〕蔡聪裕. 地方数字政府建设的政企合作实践样态与运行机制——基于广东省“粤省事”平台的扎根理论研究〔J〕. 电子政务， 2023，（11）.

〔41〕黄冬娅，杜楠楠. 平台企业政府事务部门专门化与政企关系发展——基于国家制度环境的分析〔J〕. 社会学研究， 2022， （6）.

〔42〕Hong S， Lee S. Adaptive governance， status quo bias， and political competition： Why the sharing economy is welcome in some cities but not in others〔J〕. Government Information Quarterly， 2018， 35（2）： 283-290.

〔43〕Diesner J. Small decisions with big impact on data analytics〔J〕. Big Data & Society， 2015， 2（2）： 2053951715617185.

〔44〕Cummings M L. Automation and accountability in decision support system interface design〔J/OL〕.DOI：10.21061/jots.v32i1.a.4.

〔45〕Janssen M， Hartog M， Matheus R， et al. Will algorithms blind people？ The effect of explainable AI and decision-makers experience on AI-supported decision-making in government〔J〕. Social Science Computer Review， 2022， 40（2）： 478-493.

〔46〕Alon-Barkat S， Busuioc M. Human–AI interactions in public sector decision making：“automation bias” and “selective adherence” to algorithmic advice〔J〕. Journal of Public Administration Research and Theory， 2023， 33（1）： 153-169.

〔47〕L?berg I B. Assessments of Digital Client Representations： How Frontline Workers Reconstruct Client Narratives from Fragmented Information〔J〕. Journal of Public Administration Research and Theory， 2023， 33（1）： 19-29.

〔50〕梁正，王尚瑞. 人工智能与公共治理实证研究前沿：一项文献综述〔J〕. 公共管理评论， 2023， （3）.

〔51〕Whittaker J P. Tech Giants， Artificial Intelligence and the Future of Journalism〔M〕. Taylor & Francis， 2019.

〔52〕King G， Pan J， Roberts M E. How censorship in China allows government criticism but silences collective expression〔J〕. American political science Review， 2013， 107（2）： 326-343.

〔53〕Stockmann D， Gallagher M E. Remote control： How the media sustain authoritarian rule in China〔J〕. Comparative Political Studies， 2011， 44（4）： 436-467.

〔54〕Qin B， Str?mberg D， Wu Y. Why does China allow freer social media？ Protests versus surveillance and propaganda〔J〕. Journal of Economic Perspectives， 2017， 31（1）： 117-140.

〔55〕Pariser E. The Filter Bubble： What the Internet is Hiding from You〔M〕. Penguin UK， 2011.

〔56〕Bimber， B.， Davis， R. Campaigning Online： The Internet in US Elections〔M〕. Oxford University Press， 2003.

〔57〕王汉生，王一鸽. 目标管理责任制：农村基层政权的实践逻辑〔J〕. 社会学研究， 2009， （2）.

〔58〕马亮. 目标治国、绩效差距与政府行为：研究述评与理论展望〔J〕. 公共管理与政策评论， 2017， （2）.

〔60〕Persson T， Roland G， Tabellini G. Separation of powers and political accountability〔J〕. The Quarterly Journal of Economics， 1997， 112（4）： 1163-1202.

〔61〕梅赐琪，刘志林. 行政问责与政策行为从众：“十一五”节能目标实施进度地区间差异考察〔J〕. 中国人口·资源与环境， 2012， （12）.

〔62〕Grimmelikhuijsen S. Explaining why the computer says no： Algorithmic transparency affects the perceived trustworthiness of automated decision‐making〔J〕. Public Administration Review， 2023， 83（2）： 241-262.

〔64〕Culnan M J. Protecting privacy online： Is self-regulation working？〔J〕. Journal of Public Policy & Marketing， 2000， 19（1）： 20-26.

〔65〕范如國. 公共管理研究基于大数据与社会计算的方法论革命〔J〕. 中国社会科学， 2018， （9）.

〔66〕薛澜，赵静.走向敏捷治理：新兴产业发展与监管模式探究〔J〕.中国行政管理，2019，（8）.

【责任编辑：刘彦武】