文/陈文博 杨 姣
随着大数据技术的深入发展、机器学习算法决策的广泛应用,人类社会的结构、功能、制度等各方面,都经历着快速且深刻的变革。算法技术也深刻改变着政府的运作方式与治理模式,政府治理的智能化和数字化水平迅速提高,进入“数字政府”时代。政府在提供公共服务与进行公共事务治理的过程中,引入算法技术进行自动化或半自动化决策,以提高行政效率、节省行政成本,以期实现跨越时空的全方位多层次高质量治理。特别是新冠疫情暴发以来,以健康码及通行码的广泛应用为代表的技术工具,在政府防疫过程中所发挥的巨大作用,彰显了当下算法技术在政府治理中所蕴藏着的巨大潜力。然而,算法技术在行政决策、执法等过程中的不断扩张甚至异化,同时也带来了数字偏见、数字依赖、官员避责、目标模糊、价值偏离等一系列深层次连锁问题,这不仅依附于算法本身的黑箱和不透明特性所产生,更折射出技术发展无法突破和消解存在于制度层面的固有弊端。
目前已有一些学者就算法行政的架构原理、本质特征等基本概念界定进行探究,并对算法行政对法治造成的挑战进行分析,提出相应的法律规制解决方案。[1]现有的研究主要从算法黑箱、算法偏见、算法歧视的概念出发探讨算法可能带来的风险与挑战,并从行政法的角度分析算法风险的法律规制,主要聚焦在技术层面,而对算法行政扩张产生的内在制度路径及治理策略的研究较少,缺乏深入的系统性讨论。因此,本文着重从制度逻辑的角度出发,深入分析数据化智能化背景下,政府运用算法技术进行公共治理过程中所存在的制度性困境,并据此提出切实可行的对策建议。
算法行政这一概念最早由鲁夫罗伊提出,他将治理术引入数字领域,并提出算法治理术(AlgorithmicGovernmentality),即算法行政这一全新概念,意指数字社会中基于算法而产生的全新权力机制形成的一种全新治理模式。[2]在数字社会,国家治理不再仅仅依靠政治和经济手段,而是通过数字技术和算法进行自动化操作和决策,该种规制模式可称为算法行政。[3]算法行政在实践运作中呈现两面性:一方面,算法技术在速度、效率、精准度等方面所具有的优势大大提高了政府行政治理的效率,有助于为公民提供更加精准个性化的公共服务。基于海量数据的信息收集与整合也进一步提高了行政决策的理性度与科学性,使得全方位、全天候、全过程政府成为现实。另一方面,算法行政的扩张也带来了众多潜在的不可预估的风险,如算法技术成为官员转嫁自身责任的保护衣,将本应由政府官员承担的行政责任推脱至机器算法上,形成一套推卸责任的话语体系,即“有组织的不负责任”现象。
算法行政的扩张呈现出涉及范围广、影响程度大、牵扯资源多、触及利益深等表征。一方面,算法行政如今被政府运用到社会生活治理的各个领域,从环境治理到交通管制,从公共服务提供到医疗教育卫生提供,都能够发现新技术赋能所带来的政府治理能力的有效提升。算法权力深入内嵌于政府职能结构中,涉及公民生活的衣食住行等各方面领域,都可以看到算法技术赋能行政的身影。可以说,算法技术因其实用主义的特点在政府部门中得到广泛运用,通过嵌入政府运行机制并成为政府行政运作流程不可或缺的一部分,对公民的利益与权利产生直接有效的影响。多数情况下经算法自动化程序自动生成的决策即为最终定局,造成基层官员自由裁量的空间狭小,公民进行个人权利救济申诉变得困难。
另一方面,在公共行政过程中运用算法技术,需要大量人力物力财力的投入,算法行政本身存在和运营维护的成本就是巨大的。同时,技术本身对政府内部的人员调整、部门整合、职能重组等都提出了新要求,行政部门内部为进行算法行政所发起的变革,必然涉及内部资源的重新分配。因此,算法行政在收集数据、整理数据、运作数据、输出结果全过程中都要把社会相关公共资源纳入进来,并通过最终决策切实影响到各类资源整合。
此外,当前不少地方政府都将技术运用能力,作为衡量地方官员治理能力与治理水平的重要标准,于是,地方上出现了不少大兴电子政府面子工程的现象。同时,目前数字化平台大多由大型科技公司搭建,政府通过与大型互联网私人企业合作外包的方式,来构建政务信息平台,这其中也牵扯到私人部门是否会利用技术之便,入侵公权力以实现企业自身利益的隐患。最后,算法行政的最终目的仍是为公民提供公共服务并进行社会治理,这切实关系到每一位公民的权益。
首先,算法行政的扩张为政府官员逃避责任提供潜在空间。算法的复杂性、灵活性、不可知性等特性对依法行政、行政公开、行政公平、正当程序等行政基本原则造成侵蚀。技术的发展使得权力由官员流向技术,而技术是中立的、理性的、刻板的,只能在一定程度上作为行政决策与政府管理的辅助手段,而无法完全代替行政官员的执法地位。算法行政造成各级官员的职权与责任模糊,为其将责任推托于中立的算法技术提供了可能,以逃避不利于自身的后果。政府希望通过技术治理来实现超然、客观和中立的治理目标,而国家通过技术治理的窗口,看到的不过是自己的背影。[4]
其次,算法行政的扩张对传统行政机制体制提出更高的要求。算法数据的高度流动性、整合性与一体性,对条块分割的传统政府行政结构提出了新的挑战。算法行政下海量的数据信息仍受限于行政组织结构,呈现出分散化、重复性、零碎化的特征,数字治理效能并未得以充分发挥。随着信息技术的深入发展与算法行政的广泛应用,转变政府职能,整合相关机构,建立与算法行政相适应的柔性灵活、统一高效的行政体系十分必要。
再次,算法技术在深层次上可能动摇国家政权的合法性地位。算法技术的运算决策过程是一个黑箱系统,尤其是机器学习的出现使得算法成为不依附于算法设计者的独立个体,其一经产生便成为具有“个体意志”的动态系统,对国家公权力形成了巨大挑战。同时,算法黑箱的不透明特性对公民知情权、救济权等权利的侵蚀,会导致公民对政府的不信任程度逐渐加深,长此以往便会加剧政权的合法性危机。
算法行政的迅速扩张不仅得益于其相对于传统治理工具的比较优势,更有赖于现存行政科层制下以条块分割为主要特征的行政组织结构制度,即制度设计加码算法行政扩张。我们应该透过技术扩张的表象剖析行政体制架构内部的运转逻辑,以弥补科层制的内在缺陷与功能弱势、充分发挥数字治理效能。
在行政发包制的语境中,中央政府与地方政府之间是一种自上而下的委托代理关系。中央政府将行政任务层层发包给地方各级政府,要求其在规定时间内完成相应指标,并以此作为对地方政府的考核依据。权力向下层层发包的过程中存在着目标偏离、治理碎片化等问题,集权与分权的悖论导致形成“一放就乱,一收就死”的上下权力收放恶性循环。
1.中央主导下的目标偏离。我国各级政府在进行智能化数字化转型过程中,天然地具有自上而下的特征。党的十九届四中全会提出,要创新行政管理和服务方式,加快推进全国一体化政务服务平台建设,要建立健全运用互联网、大数据、人工智能等技术手段进行行政管理的制度规则。推进数字政府建设,加强数据有序共享,依法保护个人信息。[5]中央层面大力号召各级政府在进行治理过程中发挥大数据的作用,提高政府治理水平与治理能力。由此可见,中央层面的导向与支持为各级政府数字生产机制的建立提供了充足的外在激励。
尽管顶层设计时确立了政府智能化转型的宏观方向,但由于建设数字政府的目标较宽泛且模糊,在层层发包给下级政府时,难以避免地会出现理解或执行偏差而导致的目标偏离。再加之算法技术的化约性特点,针对某一社会领域的具体问题进行信息收集、数据处理、预测分析过程中的编码、运算、输出,均无法全面准确地对现实问题进行实质性界定,同时算法技术简化处理问题的自然特性也会导致治理目标的偏离。最终的结果是,算法技术的实际运转本质上仍然体现的是政府官员的价值理念与利益偏好。算法作为政府社会治理的工具与资源,归根结底要受制于社会权力结构和代理人自身利益。算法技术应用的关键行为者是人,而自私利益的假设可能是所有政治科学家的共识假设,[6]这就存在既得利益者利用算法技术的隐蔽性,通过算法偏见、有意错误操纵等手段偷换治理目标的可能性,造成政治结构的偏见延伸到算法技术中,最终导致算法行政的异化。
2.地方政府治理的碎片化趋势。中央与地方的委托代理问题是我国行政组织架构中的固有难题。如何在保证中央高度统一的前提下,充分发挥各地方治理的积极性与活力一直以来是个难点。算法技术的应用降低了地方政府治理的边际成本,延伸了管理者的触角和感官,同时提升了决策者的理性能力,但算法决策的自动化与快速性,也压缩了基层政府在执法过程中的自由裁量空间,使得治理呈现出碎片化的特点。
具备丰富且大量经验的基层执法人员让位于自动化的算法决策系统、项目化的治理方式导致碎片化治理的出现。街头官僚陷入庞杂的指标体系与报表核对中,沦为算法技术的仆人。根据人民智库对6077 个干部群众进行的问卷调查,42.03%的受访者身边发生过反复填报相同材料,补台账、应付各种检查、命令、汇报的情况;41.85%的受访者认为,工作微信群和政务办公群成为“晒调研走访里程”“晒摆拍”“晒加班”的“秀场”;40.83%的受访者身边存在每日打卡、“列队”回复、事事留痕的情况。[7]可以说,信息技术的广泛运用非但没给基层行政人员松绑,反而是增添了数字形式主义的负担。
3.上下权力收放的恶性循环。上级政府将治理任务层层发包给下级政府,在监督控制下级政府治理绩效的同时,还要保障下级政府治理积极性的充分发挥。但上级政府所给出的目标大多为指引性的命令与原则,基层政府在实践中仍需要根据实际情况,采取针对性的具体措施进行管理。上级政府在保留剩余控制权的同时,实际赋予下级较大的自由裁量权,但实际中技术的加持并未从本质上实现基层政府治理问题的简化与升级。上级政府制定的数据指标经过层层分解、层层加码,落实到基层后反而在很大程度上加重了基层的工作负担,基层疲于应对各类指标检查,陷入形式主义的漩涡,导致“一放就乱,一收就死”的局面,落入上下权力收放的恶性循环。
政府部门的横向划分形成了治理缝隙,分块管理思维与算法整体逻辑存在对立。同级相同职能部门围绕“晋升锦标赛”而展开的横向激烈竞争,加剧了算法行政的迅速扩张,由此形成部门林立下的横向恶性竞争循环模式。
1.部门林立加剧治理缝隙。随着大数据时代和智能时代的发展,社会问题日趋复杂多样,隐藏的社会风险逐渐加大,行政结构上横向政府职能部门的划分,导致处理综合性社会问题时的跨部门合作困难。行政组织内部各部门的边界与职能十分清晰,但数据的流动与计算需要横向层面更大的整合与协调。算法技术的巨大优势在于能够打破时间和空间的限制,精准、快速、有效地运算特定领域社会问题的相关信息,以得到中立公正的结果。
目前,实际中对于算法技术的应用仍受限于横向行政部门的划分,跨部门的数据平台未能建立,各部门对本领域内的公共服务提供和社会事务治理初步实现智能化转型,但针对综合性复杂性问题,更高层面的整合机构与数据平台仍存在缺失。当前,诸如社会保障、防诈防骗、交通管制等领域均有专门的APP 出台,这种单维部门智能化水平的提高,形成部门林立的数据平台,造成数据整合难度加大,算法跨越空间的协调性和整合性维持在较低水平,未能切实充分发挥算法治理的技术优势。“部门主义”导致其在利用技术手段设计管理操作流程时,形成技术流程再造掩盖下的新型官僚主义,也成为滋生“电子衙门”的温床。[8]
2.绩效评估缺乏统一标准。“晋升锦标赛”理论认为,同级官员为了得到晋升机会彼此间存在强竞争关系,上级政府通过加强正向激励确保地方所拥有的实质控制权能够得到正向使用。而激励官员的目标和政府职能的合理设计之间存在着冲突矛盾。[9]传统行政体制与治理模式下,通过可衡量、客观的竞赛指标,上级政府实现对下级官员的考核。但在大数据时代,同等级职能部门考核指标的弹性与横向对比的难度同时加大。在面临着晋升考核压力的情况下,同等级的职能部门更倾向于寻求竞争而非合作,由此滋生攀比和跟风的倾向。
算法数据表面的技术中立成为地方官员竞争的“有效”手段,官员与地方利益相关人通过结盟以数据注水、数据海洋等弄虚作假的行为,在行政资源有限的前提下尽可能争取上级的支持与认可。同时,在属地管理模式下,地方官员所具备的随意处置权受到上级政府的监督十分有限,为其利用算法的“黑箱”特性进行责任规避提供了便利。在受到质疑和监督时,官员可以轻易地将问题归咎于算法技术,以逃避首长负责制下的行政责任。充分的自由裁量权与有限的上级监督权的不对等,造成地方官员技术主义的倾向。
3.横向竞争加剧恶性循环。传统行政体制下,政府职能细分、部门林立带来的横向割裂问题,使得大量数据在跨部门、跨层级间的流通与整合存在较大难度。此外,同一层级相同职能部门的官员面临着横向对比的晋升压力,在数据联通、资源共享、协同治理等方面的内生合作动力有限,更进一步加大了运用算法技术进行社会公共事务系统性整合治理的难度。在同等信息优势和资源条件下组织之间出现所谓的理性“计算”,使得基层官僚主义具有了一定的组织模仿效应。
在实践中,个别地方政府存在着不考虑本地实际情况或民众现实需求而盲目跟风、互相攀比,投入巨大的财政资金与人力物力进行数字化政府平台的搭建。电子面子工程的出现,导致公共服务精准化及个性化供给缺失,流于算法技术的操作层面,而忽视民主需求的回应度,未能切实利用算法技术的优势纾解科层官僚制的内在缺陷。在既有的行政架构体系下,嵌入算法工具的技术性支持试图在算法行政的竞赛中,以漂亮的指标与数据展现优势实现晋升。这与算法数据的系统性和大数据治理思维相违背,尽管在一定程度上有助于使算法技术在更广泛更基层的政府中得到应用,但从长远发展的角度看是不利于大数据政府的建立与算法行政有序运转的。
在纵向发包和横向竞争的双重压力下,地方政府运用算法技术进行行政治理呈现出非理性化的特征:官员片面依赖算法技术、忽视现实情况广泛收集大量个人数据、算法行政效能的发挥十分有限。
1.片面依赖算法技术。算法的实用主义功用令其备受行政官员青睐,算法权力得以在政府部门内畅通无阻地扩张,通过对政府运作流程的嵌入实现实时干预人的行为,对社会进行引导、干预或者改造。[10]因此,政府容易将算法技术看作包治百病的万能药,而对算法行政产生依赖心理与行为,认为算法是万能的,会公正、迅速、精准解决公民需求,最终实现社会有效治理。近年来各地层出不穷的政务平台、公众号与小程序直接证明了这一点。
2.泛滥收集海量信息。基础数据的不完善将直接影响算法输出的科学性。[11]公民个人信息的收集是进行算法行政的第一步,充分大量有效准确的信息数据库,有助于提高算法技术运转、分析、预测的效率与效能。但若收集方式不当或公民有意隐瞒,政府在收集数据过程中就难免存在缺漏、遗失、不当甚至错误,就容易埋下侵犯公民个人隐私权和个人信息权、做出错误决策结果的隐患。此外,在收集公民个人信息过程中,往往存在着过度过量收集的现象,忽视了信息收集的范围与限度,“重信息收集而轻信息管理保护”的倾向一定程度上造成了对公民隐私权的侵害,进而加剧了算法权力的扩张与公民权利的弱势地位,不利于形成良好的政民关系。
3.数字效能有待激发。目前,算法技术在行政运行过程中的运用,多集中在政府自上而下地提供公共服务或开展行政执法、规制等管理过程中,信息的收集与处理大多是单向的,重于政府如何运用新技术提高治理效能,轻于公民如何运用新技术表达诉求与参与,“权力—权利”格局处于失衡状态,算法技术的潜力还未完全激发出来。此外,在传统理性科层制的政府结构下,纵向发包与横向竞争双重压力的存在,导致以系统与整合优势而突出的算法技术被人为地割裂开来,加重了不同政府与各个部门之间的信息壁垒与数据孤岛,强化了条块分割、权责倒挂、碎片化治理的困境。
算法行政需要依赖特定的制度体系来运行,故不可避免要受到制度的限制与约束。技术在充分嵌入治理的过程中,在很大程度上依赖和受制于制度安排。如果规束权力关系的制度体系和组织结构依然发挥作用,就会对技术治理的效果构成很大的影响甚至是阻碍。[12]因此,需要从制度层面做出调整以适应算法行政的长期发展,真正发挥算法技术的巨大潜力,助推国家治理能力和治理体系的现代化。
各级政府应在行政决策、执行、监督的全过程贯彻落实为人民服务的宗旨,切实倾听民众的内心诉求与现实需要,广泛利用算法技术进行精准化、个性化的公共服务提供,在运用算法权力进行社会治理的过程中,注重公民合法权利的维护与保护,平衡好权力与权利的关系,实现权力从人民中来、运用到人民中去。顶层设计上要加强完善算法行政的相关法律法规,以法律的形式明确算法技术在行政过程中的辅助地位与作用,严格规定不同情况下算法技术的相应介入程度,以防止算法在任何领域下过度扩张的倾向。
另一方面,在进行行政任务与指标层层发包过程中,应明确各层级各部门地方政府与各级官员的职权责任,并以数字化指标分配任务与工作,明确数据治理责任链条的分界点与衔接点。尤其注意理顺业务部门与数据管理部门的权责和协调关系,重点推进建设数字化背景下的新型政府职责体系,推动实现政府职责标准化、程序化、精细化、规范化,切实明确各级政府在算法行政过程中的地位、权力、责任与义务,防止懒政怠政、片面依赖技术的情况。
新形势对政府掌握信息的数量与精度提出了更高的要求,信息的整体性与统一性也对行政体制提出了新要求。因此,建立跨层级、跨地域、跨系统、跨部门的政府服务平台,是十分有必要的,通过压缩纵向治理层级、打破横向部门主义形成扁平化、去中心、柔性灵活的政府机制结构,以实现信息的更高效、更快速、大规模、大范围有序流动,破除数字逻辑与官僚逻辑的内在冲突。
此外,要注意理顺线上线下业务部门的同向关系,在实现线上数据信息平台整合的同时,推动线下相关部门进一步理清职责、业务关系,推动各个部门之间衔接畅通、标准一致、业务协同与体系创新,以数字化手段推进政府职能整合与机构调整。尤其是对于涉及民生的基层服务窗口,其服务场景多、服务对象广、涉及部门杂,上级部门要尽可能简化程序,主动牵头相关部门实现业务整合与协调。
建立数字化的职责体系与问责机制,是应对算法行政下“有组织的避责”及“横向恶性竞争”的有效手段。首先要明确各层级各部门政府职责和业务的数字化情况,统一各省各地域数字治理的评估标准、明晰数字治理的价值遵循、限定信息收集的合理范围,以机构编制工作明确数字化责任和权力。在此基础上,通过数据职责的规定对各级政府、各业务部门的数字化履职情况进行针对性、统一性的分析评估,既关注量化的数据化职责完成情况,更看重算法决策是否真正达到实际中责任的落实、工作的落地、问题的解决,是否有利于人民生活水平与幸福度满意度的提高,做到“重实效、轻留痕”。
此外,有效的问责、高效的监督机制都依赖于真实信息的收集与整理。政府内部应加快条块内部数据的收集录入、整理分析的智能化数字化工作,实现数据管理与使用的高度一致性、有效融合性、顺畅衔接性,解决纵向信息系统数据返还难、横向数据录入重复及数据不足等现实问题。政府内部算法行政信息与数据的高度整合与流通,将大大加强上级政府的监管能力、提高监管效率以防止数据避责现象的发生。
最后,应充分利用智能化平台的优越性,推进算法行政的人本化建设,将民众满意度纳入考核指标体系并加大计算权重比例,在执法全过程中利用大数据、信息技术更好地倾听民众心声、回应人民诉求。利用算法技术赋能政府机构外部力量,进行更为直接的参与式监督,提高第三方监管能力,建立全方位多层次的监督体系。
算法行政的信息流动不是由政府指向群众的单向一维流动,而是多维层面下的双向流动。在充分发挥政府自上而下对公民的治理基础之上,更要激发与培养广大市场主体、社会主体参与算法行政的意识与能力。一要广泛开展政企深度合作,培养一批算法技术、机器学习方面的专业人才,为算法行政的发展培养优质人才储备库,建立全国层面的统一智能数据平台。此外,对政企合作中企业数据收集,算法建立过程进行明确的规定,防止企业私利对公权力的侵蚀。二要向公民开放平台,通过政府流程再造、打破条块限制、优化组织结构为公民真正参与政策全过程提供便利与保障。例如,山西“忻州随手拍”通过人民点菜,政府上菜的模式精准化解决民生诉求,在减少社会隐患和节省群众办事时间方面效果显著。[13]三要处理好政府与市场、政府与社会的关系,加快政府职能转变、职责体系健全、组织结构优化。政府在利用算法技术进行行政干预、命令等措施的同时不能过多干预社会组织的发展,应充分发挥社会力量的积极性、主动性和创造性,实现社会多主体的协同治理。
随着人工智能与公共行政融合程度的不断加深,公共行政越来越走向一种数字化、算法化的智慧形态,冲击了传统依靠技术官僚专业知识的“技能行政”形态,最终可能演变为一种新的公共行政范式——“算法行政”。[14]通过分析算法行政扩张的制度产生逻辑,可以看到技术手段始终受制度架构的限制,无法从根本上打破制度约束,实现系统化整合性的治理效果。大数据可以从技术和流程上提升公共服务的质量和效率,却无法改变基于科层运作的公共服务生产机制。[15]
智能信息时代下我国行政结构的内生性结构缺陷对技术效用的禁锢,亟需通过结构调整来打破纵向和横向制约技术发展的制度性压力。通过明确价值取向、统一治理目标;整合数字平台、发挥治理效能;明晰绩效评估标准、建立问责机制;增加主体赋能、激发参与意识这四条途径充分实现传统政府结构机制的有效变革,释放算法技术的巨大效能,实现国家治理能力和治理体系的现代化。