专栏导语：算法之于治理：角色、价值与风险

郑跃平

一、算法治理：人工智能时代数字治理的新形态

过去二十年，是技术驱动经济社会发展的二十年，也是技术推动治理不断调适、创新和变革的二十年。学者们持续关注和探讨一个重要议题——技术之于治理究竟意味着什么，又会带来什么？乐观主义、悲观主义、工具论、重塑论、互构论等在相互争论与自我辩护中前行，而技术却沉默不语地持续演变和发展，直至突破并实现自动识别、理解、整合、分析、应用等后，将整个社会拖拽到一个全新的时代——强人工智能时代之中。在惊叹技术迅猛发展之余，全面思考技术与治理的关系也从未如今天这样紧迫。

2000年后，数字治理的演变与发展可以被初步划分为四个阶段，即2000—2010年，由传统互联网技术驱动的电子政务蓬勃发展；2011—2015年，移动互联网技术推动了移动政务兴起；2016—2022年，数字政府在大数据技术支持下不断创新；2023年至今，开启了由人工智能技术驱动的智能政务与治理探索。阶段一和阶段二侧重于将互联网技术作为渠道和平台进行政务服务创新与运行优化；阶段三和阶段四虽都强调将大数据作为理念、工具和资源来改善决策、管理和服务的精准性，但相较于阶段三大数据及其相关技术应用的被动性、选择性等而言，阶段四凸显了作为人工智能核心的算法技术嵌入治理后，政府决策、管理与服务的自动化与智能化。换而言之，算法技术逐步成为治理的重要构成以及政府行政与治理行为的部分替代，这将对传统治理产生系统性影响，既是积极有效的赋能，也是充满不确定性的风险与挑战。

二、算法之于治理：三重角色

作为人工智能时代数字技术的关键构成，算法自身有着鲜明的特点，也会对政府行政与治理构成系统性的影响，这可以结合算法技术之于治理的三重角色来理解。

首先，作为治理的工具。和过往二十多年涌现的数字技术相同，算法技术是改善政府管理运行、服务监管以及综合治理能力的重要手段。精准、大规模、自适应等是其与人类相比的重要优势，近两年公共部门在行政过程中越来越多地应用算法，以期改善治理能力。工具逻辑下的算法治理侧重算法技术辅助下治理的开展，狭义上关注算法对政府行政过程的影响，广义上则进一步关注算法给政府、社会、市场主体之间的互动、协同和治理带来的变化。

其次，作为治理的对象。如何实现政府内部以及经济社会运行中相关算法的科学管理和合理应用，如何对相关问题、风险进行有效的监管与规制等，也是算法治理的重要内容，以确保算法应用的合法性和合理性，维护社会公平与行政伦理。治理算法在角色上强调算法技术是治理的对象，在地位上强调政府的主体性与算法的客体性。

最后，作为治理的环境。技术的演变发展形塑着个体与组织行为，重塑着经济社会运行方式，治理环境随之出现结构性的变化，政府治理也需要不断自我调适来适应算法的新环境，进而带来治理范式的转变(Andrews，2019；Gritsenko &Wood，2022)。

三、算法之于治理：价值与风险

与以往数字技术不同，算法技术根植于数据的大规模、自动化、自主性、迭代式收集与分析，为提升治理能力带来了新的可能性。一方面，延续近年来大数据在政府治理中发挥的作用，算法技术进一步凸显技术理性，提升行政效率并优化资源配置，改善政府决策、管理与服务的精准性、可预测性等(Janssen &Kuk，2016)。另一方面，算法的自动化、自主性等特征彰显着技术运行的独立性，强化了技术应用的主动性，有助于解决传统治理中的决策偏差、执行乏力、权力寻租等问题。换而言之，算法技术的特点与优势驱动着政府治理体系与能力的现代化建设，改善着治理效能和法治水平。

算法技术也带来了一系列风险与不确定性。算法本质上是一套可以不断迭代并具有自适应性的规则。作为权力和资源的分配方式，当前算法的合理性、公平性、透明性等面临许多挑战和质疑(Janssen &Kuk，2016)。同时，算法的构建、更新与迭代多基于历史数据与资料的选择性分析，而数据资料自身的缺陷和价值偏好会让算法形成偏见、偏差与歧视，进一步加剧不平等(Busuioc，2021)。此外，算法技术有更强的独立性和主动性，在特定情形下会成为政府决策者规避风险与责任的方式，同时推动治理主体间关系的结构性转变，给传统官僚体系运行与治理范式带来风险和挑战(Danaher et al.，2017；Andrews，2019).

四、算法治理的初探

步入人工智能时代后，算法技术逐步被广泛应用，在创新治理工具、流程和范式的同时，也带来一系列的风险和挑战，需要学者们从多元视角下给予充分关注与探讨，理解算法治理的理论研究与实践现状，探讨与反思当前面临的问题与挑战，探寻背后的规律与机理以及破解的方向与路径。有鉴于此，本期《公共行政评论》组织了五篇专栏文章，从不同角度和问题切入，尝试多面向地回应这一前沿议题。

《算法行政：文献述评与研究展望》聚焦狭义上的算法治理，关注算法技术对政府行政行为与过程的影响，系统梳理了相关文献，探讨算法行政的缘起与内涵、运行机制、效果评价、影响因素、风险类型与规制等，为后续探讨提供参考。《算法透明何以提升公众的政府信任？》则通过调查实验揭示算法透明对政府信任的影响机理，以期进一步明晰算法透明的公共与治理价值，并为推进算法善治提供实践参考。《志愿服务中算法透明度对感知可信度的影响——服务动机的调节效应》进一步将关注对象从政府行政拓展到社会服务体系中，探讨算法透明度与信任之间的复杂关系，以及个体动机在其间的角色和影响。《自动化行政裁量中算法风险感知的特征与演化研究——基于网络舆情的大数据分析》关注了算法权力扩张、异化、寻租等风险，通过对代表性案例的深入分析探讨了行政裁量中算法权力的边界、新型委托-代理关系引发的风险，并提出了改善算法风险沟通的方向和建议。《如何实现“黑箱”下的算法治理？——平台推荐算法监管的测量实验与策略探索》则基于机器行为学思想，采用实验方法测量算法运行的逻辑与效果，从技术应对视角出发实现“黑箱”下有效的逆向监管，丰富了监管和治理算法的方法与路径。