算法嵌入政府治理:逻辑、风险与规制

周晓丽,姬晓暄

中央民族大学 管理学院, 北京 100081

一、问题提出

近年来,随着新一轮科技革命取得突破性进展,大数据、云计算、人工智能已深刻嵌入社会生活的方方面面。从人脸识别到安全监控,从智能家居到自动驾驶,从人机交互到数字孪生,数字化、智能化的技术手段不断重塑社会样态,驱动人类社会朝着智慧化迈进。其中,算法作为一切智能技术的基础要素发挥着关键性作用。凭借高效的信息处理能力、自主的校准修正能力以及持续的深度学习能力,算法能够以机器语言对海量数据信息加以处理,以预先设定好的策略机制解决现实问题,为整个社会高效有序运行提供逻辑参照。同时,在“算法社会”时代,算法技术也为政府治理提供了更为广泛的思路参考,如何推进算法技术与政府治理场景广泛融合,发挥好算法技术在促进政府决策理性化、公共服务精准化、行政绩效高效化方面的优势成为亟待解决的现实议题。《“十四五”数字经济发展规划》明确提出,要加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系,提高中国数字经济治理水平,走高质量发展道路;《国务院关于加强数字政府建设的指导意见》指出,要主动顺应经济社会数字化转型趋势,充分释放数字化发展红利,建立健全对算法的审核、运用、监督等管理制度和技术措施,以数字化改革助力政府职能转变。可见,在当下如何推进算法技术深度嵌入政府治理,促进政府治理模式优化升级,以期更好地实现公共价值是亟须关注的时代命题。

从广义上说,“算法”是模型、目标、数据、训练数据、应用程序、硬件等一系列要素组成的概念网络,能够将人类语言中的社会规范和法律规则转化为计算机代码[1]。其雏形最早出现在中国周朝时期,商高提出的“勾三股四弦五”定律即为数学算法的初级推演。此后,欧几里得算法、《九章算术》、《周髀算经》等不断推进算法演进,为现代算法设计的形成奠定了理论基础。随着Ada Byron程序设计流程图、图灵计算机的发明,人类社会逐渐步入信息化时代,人们开始探求以计算机语言描述算法程序的可行性路径,尝试通过一套包含算数运算、逻辑运算、关系运算的计算过程高效、理性、客观地解决现实问题。从当前有关算法与社会发展关系的研究成果来看,学界多从技术、规则以及功能三个方面展开研究。从技术角度而言,一方面,“算法积极论者”认为,人类社会应因技术革命发展方向进行结构性演变,算法能够促进信息流彼此联结形成网络系统,实现对各社会事务的标准化和程式化处理,提高社会运转效率和整体效益,丰富和便利社会生活,提升公民对于复杂技术规则的学习与掌握能力,推动社会形成开放多元的思维方式和价值理念。另一方面,“算法消极论者”认为,历史上的所有技术应用都存在异化的风险,算法的纯工具理性可能会限制市场竞争、威胁数据安全,导致社会公正性减损、个体权利湮没等问题,因而需要警惕算法给社会带来的风险。就规则层面而言,算法不仅是构建网络空间的代码和技术,也是对现实世界的制度供给[2]。算法将海量的数据资源放置在预先设定好的程序框架内,经由一套确定的规则转化为现实的问题解决路径,以可视的正式的制度安排引导、推动甚至决定社会事务发展方向,同时算法开发者、测试者、使用者基于个人潜在意识赋予算法的非正式制度安排也在潜移默化中作用于社会生活,形成对现实世界的规则。从功能层面而言,学界已普遍关注算法嵌入社会医疗卫生、金融科技、腐败治理、政务服务、文化传播、信用评价等领域,认为具备自主学习能力的算法已不仅仅是处理社会事务的技术和规则,更是推动社会权力运行的重要机制[3]。掌握核心算法技术的个人或组织能够凭借技术优势把控社会资源,在政治、经济、社会等领域实现对传统权力的虚拟化延伸,逐渐构建起复杂的算法权力网络,对社会进行构建、干预、引导和改造[4]。

关于算法嵌入政府治理,既有研究呈现较明显的“乐观”与“悲观”两极化态势。乐观主义者认为,现阶段面对日益复杂的治理环境,传统政府部门决策可能存在“认知负荷”[5],而算法凭借独有的算力优势能够有效减少政府机构工作人员的投入,降低治理成本[6]的同时,能够对海量信息资源进行转码和解码,通过统一规范的程序产出问题解决方案,有利于提升公共部门决策质量[2];此外,算法嵌入还有利于将碎片化治理转变为整合连接式治理[7],保障公共部门决策的中立性和客观性[8],更好地实现公众个性化公共服务需求,推进社会治理逐步向开放化、透明化与智能化发展[9]。悲观主义者则认为要对算法嵌入政府治理保持警惕,公共部门决策过度依赖算法可能会削弱政府和民众的自主性,侵犯公民隐私权[10],产生算法歧视与算法共谋[11],使得公共秩序被算法支配,最终导致政治正义的解体。因而,要审慎对待算法技术,谨防工具理性对公共价值可能造成的损害。

通过梳理可以发现,既有研究中“乐观”与“悲观”两种研究论调出现的原因在于算法作用于政府治理可能产生的正负外部性间存在的结构性张力。事实上,承认算法对于政府治理的正外部性,即从效率、效益角度强调算法以远胜于人脑的技术优势赋能公共组织,提高公共决策效率,提升公共服务质量,更好实现公共福祉;而承认算法在政府治理中的负外部性,更多是看到了算法的权力内核,强调公共部门要秉持公共性,善用技术权力,以算法驱动公共价值实现,旨在从价值层面强调平等、民主、责任等公共价值对于政府治理的重要意义。可见,无论是作为技术的算法,还是作为权力的算法;无论是从效率角度还是从价值层面来说,算法的正负外部性是一体两面的,统一于公共价值实现。那么,应该如何调节二者间的结构张力,在充分发挥技术效益的同时反制技术滥用,实现公共价值最大化目标?本文尝试从“技术—权力—规则”三个维度搭建研究算法嵌入政府治理的分析框架,探索算法技术赋能政府治理的价值意蕴与运作逻辑,同时聚焦算法权力作用于政府治理可能带来的风险与挑战,细化未来算法嵌入政府治理的实践进路。

二、算法嵌入政府治理:“技术—权力—规则”的解释框架

“算法”最初始的含义即为一种计算机科学技术,通过“逻辑+控制”[10]系统将输入的数据转化为编码程序,经由确定的计算过程形成切实可行的问题解决方案,在实践中以自动化、智能化逻辑辅助决策,此为算法的浅层表征。同时,由于算法具有构建规则、执行规则的能力,在运行过程中的算法不断突破自身技术边界,尝试与诸社会领域加深融合,凭借技术优势逐渐形成了达成目的和获得利益的能力,并不断编织起以技术为核心的权力网络,最终具备了自主分配社会资源的权力。此外,从制度化角度看,随着智能技术不断更新迭代,算法的开发者、测试者赋予算法以运行逻辑,而算法凭借自主学习能力和预测能力不断调适、修正网络空间的制度供给,构建起对技术权力的约束框架,因而算法也作为制度化的规则而存在。基于这一逻辑,作为技术的算法、作为权力的算法以及作为规则的算法统一作用于网络空间,持续性地对整个社会产生影响。因而,以“技术—权力—规则”框架(见图1)分析算法嵌入政府治理具有现实意义。

图1 “技术—权力—规则”解释框架

(一)“技术—权力—规则”的运作逻辑与场景呈现

1.作为技术的算法塑造了智慧化公共决策场景,促进政府治理提质增效

在万物互联的今天,社会公众已然习惯于在互联网平台获取自身渴望关注的社会各领域信息资讯,而在平台上点击阅读、点赞转发、评论褒贬之间,每个人的“数字足迹”已被各种搜索引擎记录,公众通过网络行为反映出的对某一个或某一类社会问题的关注实际上就在向政府传递重要的公共问题数据信息,而算法能够对海量、动态、多元的网络数据行为进行分布式并行信息处理[12],通过清洗、筛选、挖掘各信息要素之间的相关关系,将众多孤立个体的“数字足迹”编织成社会整体的“数字网络”,刻画出社会公众普遍关注的公共议题版图,并通过大数据赋值规则评定每一公共议题重要程度,判别社会公众对美好生活的需求热点,据此积极主动作为,使公共决策更加符合百姓期望。此后,在对初步设计好的公共政策进行科学论证时,也可以基于公民基本信息数据库,利用算法数据画像技术将初步设定的政策动议推送给相关利益群体,并及时收集聚类相关反馈信息,为进一步调整、修正公共政策问题解决方案提供参考依据。与之相适应,在实践中,算法依据不同的计算模型切实为辅助公共决策助益。比如,北大方正技术研究所设计研发的“方正智思舆情监测系统”广泛收集社会公民包括性别年龄、工作经历、教育背景等方面的数据信息,对海量数据进行筛选和归类,按逻辑相关原则将可能具有相似公共服务需求的公民纳入同一服务单元,绘制出服务需求热点动态图谱,持续追踪不同群体的诉求变化,整体把控社会公众需求,使政府行政真正做到想民之所想、办民之所需、行民之所盼。

同时,作为技术的算法不仅能够助力识别公共政策问题,还能够对一些公共政策问题进行辅助回应。算法技术能够根据公共决策需要,对海量数据迅速进行自动追踪、抓取、聚类和整理,通过程序规则将经过处理的数据信息转化为算法程序的底层代码和计算单元,并模拟人脑思维对数据建模生成公共决策的虚拟化样态,在虚拟样态中推演底层代码与计算单元之间的动态演化过程,经过自动化的深度学习进行修正更新,最终形成一套标准化的问题解决程序,为公共部门制定决策提供科学依据。因此,从理论上说,作为技术的算法搭建起了数据信息与政府行政之间的逻辑计算关系,将公共部门决策转化为基于信息资源高效供给的标准化作业程序,有效降低了非结构化公共问题的复杂性和不确定性,提升了政府行政的精准性和高效性。基于此逻辑,在实践中,算法也被广泛寄望于智慧城市、社会保障、基础设施管理等诸多政府治理领域,不断创设出更智慧、更便捷、更高效的公共服务新场景。例如,当前算法技术已嵌入中国各级地方政府的政务网站建设中,从公民登录政务服务平台起,前端算法已经在详细记录用户的个人信息和服务诉求,并通过调取移动设备后台信息不断搜索完善用户的个人信息库。随后,基于政务服务信息数据库,根据预先设定好的规则程序对公民诉求进行自动识别与回应。如遇算法程序难以界定的问题,算法则会归纳判别各类诉求的责任主体并生成任务窗格,再将不同的任务窗格分配给相应的责任部门进行集中处理。由此,算法借助制式化的规则程序实现了海量诉求与政府责任部门相衔接,把公共部门从琐碎的信息分析处理中解放出来,促进公共服务效率提升。

2.算法技术在与政府治理不断加深联结的过程中也逐渐衍生出权力属性

算法以社会各领域大数据的抓取和收集为基础,通过挖掘非结构性数据要素间的联系,以程序化规则探求非结构化问题的决策最优解,以此对公共部门决策行为进行引导和控制。在此基础上,通过强大的自主学习和预测能力,对不同的社会治理场景进行感知和探测,形成更加主动的算法运作逻辑,依附于公共部门掌握的公共权力,不断将权力触角伸向更广阔的社会生活领域。由此,算法已不仅仅代表新技术手段,还逐渐表现出了权力属性。作为权力的算法在加速嵌入政府治理的过程中表现出重要特征。一是技术驱动性。随着人工智能技术的不断发展,算法对公共事务的学习、感知、预测能力不断强化,凭借技术优势辅助政府公共决策并逐渐与政府治权相结合,形成了对社会资源进行调配控制的能力,因而作为权力的算法本质上具有技术驱动性。二是场景虚拟性。算法权力意志实质上是经建构的代码规则和数据秩序的体现,具有很强的虚拟性,在其凭借技术优势进入公共决策场域后,能够主动搭建数字空间与现实场景间交融互构关系,皈依有形的公共权力主体,隐蔽于代码规则和数据秩序之中,因而算法权力具有场景虚拟性。三是动态扩散性。数据资源是算法权力运作的核心,由于数据资源具有高度的动态性、共享性、交互性,能够在不同权力主体间流动和转化,算法权力也因此具备动态性扩散的能力,使得政府治理呈现一定程度的“多元化”结构特征。在实践中,作为权力的算法在政府治理场域也发挥着重要作用,为多元化公共服务场景赋能。比如,在金融科技监管领域,基于算法权力中心的“监管沙盒”已在北京、上海、广东、江苏、浙江等10余个省市应用试点。“监管沙盒”运作的核心是算法程序基于预先收集好的数据信息,在一定测试空间内模拟金融业现实市场环境,通过研究聚合多模态数据与市场风险间的关系,自主划定需要金融监管部门介入的风险管控阈值,允许在真实的市场环境中适当放宽监管规定,企业在一定风险限度内可以自主创新产品、服务和商业模式,缩减对创新的限制和约束。当前,“沙盒监管”已在消费金融、小微信贷、智能风控等领域正式推行,以算法规则和程序更有效地平衡了政府监管与企业创新之间的关系。类似地,杭州市“城市大脑”依托阿里云的“飞天”算法模型,将人、车、房、危化品等治安基础要素与治安风险防控相联结,构建“在线警务”服务系统,发现风险可在5分钟内判别,形成了对城市风险的全局感知、精准处置。可见,作为权力的算法已形成针对不同政务服务场景的感知、预测和决策能力,这使得机械的算法逻辑转变为动态的行为规划,形成了新的权力运行模式。

3.作为规则的算法以程序规范化设计引导、约束公权力行使

算法作为一套数字空间的规则组合,包括正式和非正式的制度供给[13]。正式制度供给意为经算法推导的公共部门自动化决策的逻辑程序完全透明,在逻辑规则的控制下,从数据输入到建立数据联结再到输出公共决策,整个流程都以算法意志为意志、以算法规则为规则,以透明公开的程序实现对人为裁量的替代;非正式制度供给则是指算法设计者在设定算法规则时隐含的个人潜在意志的集合,是社会价值判断与技术工具理性的统一。作为规则的算法在政府治理中具有以下优势:第一,算法明确了数字空间的规则,划定了行政主体权力作用的界限,有助于保证公共决策公正性,减少权力僭越的可能;第二,行政主体的潜在意志、社会的伦理秩序也被包含在算法规则之中,使算法治理在保证工具理性的同时尊重价值理性,在双向平衡中实现治理效能的提升。为此,作为规则的算法在实践中也为规范政府公权力行使助力。在行政监督领域,通过对公务人员的资产申报情况、银行流水明细等数据进行分析,聚合个人政治生活轨迹,测算腐败高发点与风险值,据此对公务人员腐败行为进行识别,把公权力关进算法规则的笼子里,提高对腐败行为的治理效率,维护公共部门公信力。在行政审批领域,深圳市的“秒批”工作方案,利用智能算法模拟人脑结构,通过算法系统自动审核申请对象提交的材料并进行相关信息比对,从而提升审批效率、约束权力运作、保证审批公正性。此外,作为规则的算法还被广泛运用于智慧城市建设、精准扶贫、治安管理等领域,通过预先设定的算法程序精准描绘服务对象的数字画像,规范权力行使。

因此,作为技术的算法、作为权力的算法以及作为规则的算法统一作用于数字空间,在与政府治理不断加深融合的过程中持续性地作用于社会生活,对社会治理的各领域产生积极影响。

(二)算法嵌入政府治理的价值意蕴

1.算法技术推动公共决策更具理性

算法技术通过数据聚合绘制社会热点动态图谱,明确治理对象的精准诉求,精确化识别公共问题,推动公共问题快速进入政府议程,并通过机器算法推演生成理性、科学的决策模型,助力政府决策。因而,作为技术的算法能够推动政府治理更具理性。第一,信息是治理的基础,算法技术提高了对海量信息进行清洗、筛选、聚类的效率,能够快速精准建立数据间的联结,为公共部门科学决策提供依据。第二,从治理过程而言,算法以规范化代码复刻行政决策的程序,生成辅助公共治理主体决策的科学化决策方案,并根据现实情况自动反馈和调试,利于科学制定治理方案,合理分配治理资源,提升政府治理效能。第三,从治理能力看,算法凭借全天候自动化、即时性的工作能力,能够在一定程度上替代传统上需要大量人工才能完成的琐粹而重复的经济技术分析工作,精简政府机构和工作人员,显著降低治理成本,提升治理效率。

2.算法权力促进治理行为更具包容性

随着算法技术与政府治理的联结不断加深,算法逐渐成为一种技术性权力,促进了政府治理行为更具包容性。首先,算法具有多元的信息获取渠道和强大的程序运算能力,能够精准分析治理对象的服务需求和治理环境状况,从源头保证决策依据更具包容性、广泛性,规避传统政府决策因数据信息不足造成的决策失灵问题。其次,算法在广泛抓取社会各领域数据信息时,实际上也在与治理对象进行着潜在互动,通过数据反馈与收集保障社会各主体意志能够被表现和反映,以算法、数据与公共部门进行的对话一定程度上保证了公民平等参与权。再次,在算法服务场景内,基于算法逻辑形成的应用服务能够辐射更广范围的治理对象,使社会各主体能够有机会平等享受更友好、更普惠的公共服务。

3.算法规则推动政府治理更加公平

数字空间的算法技术在与公共部门加深联结的过程中逐渐形成算法权力,影响着公共部门决策,而算法权力通过持续自主学习搭建形成一套程序规范化的设计体系,通过策略规范反制公共部门行政,规范公权力行使,使政府治理更加公平。第一,算法程序明确、规则透明,在实践中公共权力依照算法程序规定的方向运作,公共权力涉及的事务界限也由预先设定好的算法划定,有利于规范权力主体的行政行为,增强公权力运行的公正透明性。第二,算法规则能够突破时间、地点的限制对权力主体行使权力的全过程做追踪记录,使公共部门行为真正“有迹可循”,无形之中强化了对公共主体的监督和约束,保障社会资源合理有效配置,强化决策公平性;此外,如若社会主体对政府决策公平性提出质疑,公共部门也能够因循算法逻辑对决策进行解释,强化政府公信力。第三,依赖算法技术的自动反馈和预测机制,公共部门能够及时发掘潜藏的治理风险,并及时做出理性化决策规避风险,从而降低风险外溢的可能性,保障公共行政效力。第四,算法规则具有包容、透明的属性,有利于多元社会主体在协同治理过程中参与监督和反馈,强化了社会信任机制,密切了社会公众与政府间的联结。

三、算法嵌入政府治理的风险与挑战

算法技术、算法权力以及算法规则统一作用于数字空间,推动公共决策更具理性,促进治理行为更具包容性,促使政府治理更加公平,提升了社会治理整体智慧化、精准化水平。但是,不可否认的是,现阶段算法嵌入中国政府治理仍面临着某些现实风险与挑战。

(一)算法技术黑箱阻滞公共责任认定

从技术层面而言,智能算法发挥作用的前提在于技术逻辑的有效性。算法技术稳定运行首先需要海量大数据作支撑,其次需要强大的数据处理能力作保障,还要整合相关数据信息,依据运算规则在各信息要素间精准建立正确的相关关系,最后结合预先设定的运算法则输出决策结果,以此辅助公共决策。在这一过程中,一方面,算法逻辑虽遵循机器理性,但算法程序毕竟由人设计,程序设计优劣在很大程度上受制于设计者的知识水平,一旦设计者有所疏漏,算法程序运作将发生不可预测的偏差;另一方面,即使设计者知识水平较高,具备算法设计所必须的技能,但社会环境因素也在不断发生动态变化,很难在设计之初全面预测社会问题可能发生的未来变化,因而即使是经过精准测算的算法模型也难与动态变化的社会问题完全适配,导致算法失误[14]。实践中,由于各种因素导致的算法失误已屡见不鲜,比如在美国司法实践中就曾出现法院利用COMPAS算法技术分析当事人的数字画像辅助进行司法判定,结果在对案件回溯的过程中发现算法模型多次给出与事实完全相反的判决依据。当算法模型为公共部门提供了错误的决策判断,公共部门又依据算法指示不假思索地执行时,必定会对社会各领域造成一系列负面影响。对错误决策进行追责毋庸置疑,但关键问题在于,当公共部门决策失误是由算法技术导致时,追责的对象到底是算法设计工程师、提供算法程序的私主体,还是相关的公共部门?回顾算法发挥作用的机制,由于算法技术能够进行主动学习和预测,因而即使是最杰出的算法工程师也只能知道最初设定的算法程序,无法完全清楚从输入数据到产出决策间的程序机制,这就导致了“算法黑箱”[15]。有了“算法黑箱”的存在,当公共部门决策出现失误,公权力主体能够将责任推诿于提供算法的私主体,而私主体又能以“黑箱”作为理由逃避审查、敷衍塞责。如此一来,不断延伸的卸责链条导致问责高高举起又轻轻放下,好似没有任何一方权力主体应该为算法导致的公共决策失误买单。因此,由于“算法黑箱”的客观存在,当政府治理逐渐依赖算法技术,如何对决策选择后果进行责任界定以及如何对决策选择行为追责问责,将成为亟待解决的现实问题。

(二)算法权力削弱政府与民众自主性

从权力层面而言,作为治理权力的算法存在被私人资本俘获的风险,突出表现在以下两个方面。一是在现代算法社会,算法核心技术逻辑仍由商业资本掌握,商业公司以巨额资金投入广纳技术人才,强化数据平台建设,将算法核心技术牢牢掌握在手中,并能够以商业秘密为由拒绝技术公开,隐蔽搭建专属的算法技术生态网络[2],垄断对数据等治理资源的支配能力。由于现阶段主要通过签约外包的方式将算法引入政府治理,而私部门凭借技术优势能够对公共部门的部分监督、审查加以规避,因而随着算法嵌入政府治理的程度不断加深,掌握算法核心技术的逐利性商业机构还会想方设法进一步扩大自主权限,最终使公权力沦为为私人牟利的机器。二是算法所具备的优越的算力优势和自主预测能力使其在多数服务场景下做出的决策都要优于人脑,在治理环境日趋复杂的今天,公共部门为减少决策失误越来越依赖和信任算法给出的自动化决策结果,这也为逐利的商业资本介入公权力运行场域提供了契机。一旦公权力被私部门俘获,政府权力行使的正当性和合法性将被质疑,政府不得不面对信任危机,社会公共利益也存在被商业利益蚕食的风险。此外,倘若公权力被私部门俘获,商业资本将更为狂热地发展算法核心技术优势,以便更进一步延展在社会治理领域内的权力,谋求垄断地位,将有可能造成政府和公众在社会治理中的主体地位逐步被削弱:在算法社会,为实现与社会公众间的持续高效沟通,除传统沟通协商渠道外,公共部门往往也会借助算法应用程序广泛收集并回应民意,在这一过程中公民的普遍意志被转化为数字化的社会要素以一行代码、几串数字的形式直接输入算法模型之中;而算法模型本身在信息获取、数据转化、结果输出任一环节都有可能沉淀着设计者自觉或不自觉的主观意识,这就使得经算法程序投射出的民意数据易出现损耗、膨胀或是收缩,呈现出的结果也可能倾向于对私部门有利的一面,诱使商业资本更进一步利用技术优势延展对社会治理的影响,一定程度上削弱了政府和民众自主性。综上,从算法技术的潜力来看,掌握核心算法的私部门与政府部门分享公权力的可能性客观存在,要在发挥技术潜能的同时对算法权力进行限制和约束,以此确保公共利益切实实现。

(三)算法规则偏好导致治理正义性减损

在理想状态下,作为规则的算法能够对公权力进行约束,将权力关进“代码”的笼子,保障权力公允有序运行,实现政府治理的公平正义。但同样不可忽视的是,虽然依照算法逻辑得出的决策结果能够实现相对公平,但算法规则本身不具备天生的中立性,隐藏着对社会正义性的挑战:在政府决策过程中,算法实质上充当了“信息守门员”的角色,政府依靠智能算法识别抓取公共问题信息流中的关键要素,基于算法程序绘制公共议题版图,以此辅助政府决定问题解决的优先次序。换而言之,大多数公共问题都是经由算法程序分析筛选后以“清单”形式呈现在决策者眼前的,算法在递送相关信息时能够决定哪些利益诉求会得到决策者的优先处理,哪些公共问题只能被放在次要位置解决。在这一过程中,数据选取的指标、数据赋值的原则以及数据清洗的方法等都是人为设定的,如果算法程序被设计者的潜在偏好所裹挟,那么算法决策得出的结果必然带有偏见性、非代表性,辅助形成的公共决策也将带有系统性的歧视。不仅如此,如果算法设计者想要将某种偏好选择不断进行复制,算法在不断学习优化的过程中也已经具备了成熟的技术手段能够对相关政策法律进行规制,这势必会造成对相应数据主体的歧视和伤害,导致治理正义性的减损。比如,美国Northpointe公司基于算法技术设计的犯罪风险评估系统对黑人二次犯罪的风险评分是白人的两倍。然而,在对典型案例进行不断追踪调查后发现,白人群体二次犯罪的概率与黑人几乎不存在差别,算法对公共决策公正性的影响可见一斑。更为严重的是,算法凭借极强的技术理性使得社会逐步衍生出“算法崇拜”[16],人们在进行行动选择时往往倾向于自动化、程序化的算法决策,缺少对算法决策结果的反思意识,导致算法程序内部可能潜藏的偏见很难被发掘,即使在实践中因算法偏见造成了不公正的决策,人们也会为寻求所谓“科学客观”努力为算法“开脱”,而不会向算法溯源。因此,算法技术不具备必然的中立性,设计测算过程中容易夹杂设计者主观偏见,政府在将算法技术纳入治理视域时也要警惕其对社会正义造成的冲击。

四、算法嵌入政府治理的实践进路

(一)推进技术适度透明化,明晰责任关系链条

要解决“算法技术黑箱”导致公私部门形成卸责链条、各方权力主体推诿塞责、决策失误无人买单的现实困境,就要着力打开算法“黑箱”,推进算法技术适度透明化,明晰责任关系链条,使相关主体切实负起责任。

第一,政府部门制定完善相关法律法规,明确要求商业资本向社会公开算法设计理念、数据信息来源、数据筛选机制等内容,同时要求提供算法技术的平台对公众提出的质疑进行及时解释和回应,打破“算法黑箱”,保障算法机制公平正义。在此基础上,为促进商业资本与政府治理更有效协同,政府部门也有义务在要求算法公开的同时保守技术公司商业机密,允许其在豁免公开算法范围内的有限例外。

第二,在算法公开的基础上,建立统一的算法监管机制也十分必要。为进一步规范算法技术在政府治理中的作用路径,公共部门应当设置专业化监管机构负责动态监管商业资本提供的算法设计准则、算法运作模型、算法价值规范等内容,并且在算法形成的结果运用于公共政策之前,积极利用风险监测等技术手段审查其决策正当性、论证充分性和价值适当性。当前,国际上通用的价值敏感设计方法(VSD)能够通过数据代码监测目标算法所遵照的价值准则,并计算对不同价值观念赋值的权重优先级,如若发现目标算法存在价值偏离,能够自动修正或停止不符合基本伦理规范的程序,保障算法决策最大程度符合社会公共价值,从源头预防算法“黑箱”的产生。

第三,要实现对算法技术的有效约束、把控算法运行逻辑,社会组织的力量也应得到重视。社会组织作为第三方机构,超脱于政府部门和商业资本之外,能够对算法运行全流程进行更客观、更细致的监督,对算法的社会影响进行更多维度的审视,打破算法治理中的信息不对称,协助破除算法“黑箱”。

第四,在此基础上更重要的是对算法技术背后所涉及各相关权力主体的责任范围做出明确划定,培育治理主体的责任意识,依法向相关商业算法平台开展追责,倒逼私权力主体明确责任承担内容,切实对算法结果负起责任。具体而言,在算法平台内部要保证责任到人,可设置专岗对数据维护、平台建设、模型运作等各方面的情况进行监测,对算法程序形成的决策样态予以审核,当算法出现异常操作时即刻采取人工干预,强制修改或者暂停相关服务,保障决策权限始终掌握在高素质人才手中;对于商业资本恶意篡改数据信息、恣意套取用户个人信息以及随意更改模型逻辑等行为更要严格追责,以硬性制度手段规范商业资本,保障公共权力正义性的发挥。

第五,就社会心理层面而言,社会各界要进一步强化对算法的正确认识。一方面,应摈弃对算法的盲目欣赏,理性看待算法推送的决策结果,避免过分信任算法而产生的自动化偏见。社会对算法自动化决策的信任度极高,这种信任从本质上说是由于社会对算法技术的“无知”而形成的盲目信任,缺乏对其决策结果的反思意识,导致算法程序内部可能潜藏的风险很难被发掘,影响社会治理效能发挥。另一方面,也不应抱有算法厌恶情绪,而要理性接纳算法,更好地发挥智能技术为政府治理带来的有利影响。算法厌恶一定程度上源于算法技术的不透明性,由于社会大众与算法的接触历史很短,加之算法技术的不完全公开、不完全透明,使得某些情况下即使算法推荐决策优于人类,但人们仍然不愿意接纳算法系统。

因此,在政府治理实践中,迫切需要对算法技术“祛魅”,可以集合科学技术专家、高校科研院所等智库力量,客观讨论算法的价值目标与技术局限,科学评议其可能带来的积极效益与风险后果,以此作为公共部门参考决策的依据,最大程度发挥算法技术对政府治理的积极价值。

(二)规范算法权力运作,坚持人本主义治理理念

在算法嵌入政府治理的实践中,“算法依赖”容易导致政府权力被商业机构俘获,这不仅对政府权力行使的正当性和合法性产生了挑战,也使得公共利益面临被商业利益蚕食的风险。随着新兴技术手段融入社会治理的程度不断深化,对智能技术颠覆“人机关系”的讨论越发引起关注,作为权力的算法在一定程度上已经能够实现对多元社会治理情境的“全景敞视”式监管[8],可能会使得人类在社会治理中的主导地位逐渐弱化,导致技术理性对人类价值的僭越,因此智能化时代如何保证政府和社会公众在社会治理中的主体地位,规范算法权力运作成为需要引起关注的问题。

一是要进一步完善算法权力治理机制,由政府主导建立总体治理框架,明确政府对算法治理的主体责任,从促进算法数据公开透明、算法运作逻辑公正客观、算法作用主体一视同仁等方面建立全流程风险防控机制;同时,综合运用多元化规制工具,比如算法影响评估、算法审计等[11],对算法自动化决策的全流程进行二次分析检视,及时识别和纠正自动化决策产生的漏洞,规避算法技术可能为政府治理带来的风险挑战。此外,纵观中国算法治理实践,公共服务智能化转型所必需的绝大部分核心技术研发主要由商业资本主导,算法模型即使在运行过程中也需要企业提供技术支持以维持治理系统的正常运转,这为商业资本权力恣意扩张提供了空间,更为政府治理的技术安全性带来了隐患。为进一步发挥算法技术在政府治理中的核心优势,保障政府治理的绝对安全,相关部门也要加大对新兴技术的重视程度,统筹调动国内科研院所和各大高校的力量,打造政府内部核心技术智库,打通各部门、各层级之间的数据壁垒,将算法核心技术更多掌握在公权力手中,减少对商业资本的依赖,确保政府数字化、智能化治理的技术安全。

二是从价值理念层面而言,要在算法技术嵌入政府治理的整体性过程中时刻坚持“人类中心主义”的价值准绳,坚持人本主义治理理念。一方面,始终坚持公共管理者在政府治理中的主导地位,不断强化政府治理场域中“人机协同发展”理念。算法价值与人类理性、算法技术与政府治理并不是截然对立的,而是互补的、统一的、协同发展的,算法技术能够推动政府治理提质增效,因而在政府治理中更要发挥技术优势,把机器擅长的交由机器,并适时对其加以约束和规制,在防止技术僭越的同时促进技术自身不断发展完善,这样一来,算法技术与政府治理间也就形成了双向互动,以人类价值理性驱动算法技术理性发展。另一方面,在运用算法技术发展政府治理实践中打造“人机协同、线上线下”的服务模式,避免“一刀切”的数字化转型,针对老年人、残疾人等技术弱势群体也要保留人工服务窗口,以满足不同社会群体多元化的公共服务需求,切实增进人民群众的幸福感和获得感。同时,持续创新数字化公共服务供给模式,充分发挥算法技术对信息聚集的优势,引导社会公众通过自下而上的参与机制充分表达自身需求,并与自上而下的数字技术供给有效结合,及时、主动地公开涉及群众切身利益的服务信息,保障群众知情权并自觉接受群众的监督,增进政府与人民间的信任,促进“数字红利”更充分涌流。总之,公共部门需秉持“以人民为中心”的服务理念规范算法权力运作,提升政府治理的质量与水平。

(三)明确算法规则决策限度,强化治理正义性

由于算法规则本身不具备天生的中立性,在嵌入政府治理的过程中可能隐藏着对社会正义的挑战。为解决这一问题,需要进一步明确算法规则决策限度,细化技术介入政府治理场域的范围和边界,完善算法应用清单制度,明晰在哪些政府服务场域内可以借助算法进行决策、哪些治理场域绝对禁止算法涉足,为保障公权力有序运行构建安全过滤屏障。

一是要明确算法技术应用的相关法律依据,完善政府治理过程中使用大数据、云计算、智能算法等技术的制度和标准体系,明确规定被运用于政府治理的算法技术必须具备清晰的计算逻辑、合理的裁量区间、明确的价值指向以及可预见的决策结果等,以完善的法律法规对技术进行规制。

二是要划定算法规则决策的权限,明确算法技术在政府治理场域的决策限度。可以依据环境的复杂性和不确定性程度对各项治理事务加以区分:当面临高复杂性、高不确定性的公共问题时,可借助智能算法技术辅助公共决策,此时需要在工作人员的全程监督和参与之下,由机器算法自主地对数据进行收集、归纳并建构相应决策模型,通过精准测算产出政策结果。这一过程中算法应用者能够主动监测算法规则运作方向,对算法决策和预设结果加以比对和控制,保证复杂应用场景下既能发挥算法技术决策优势,又能使决策结果不偏离公共价值准则;而当政府面对低复杂性、低不确定性公共事务,比如要对海量数据信息进行清洗、归类和整合时,则由算法自动化决策充分发挥工具价值,提高公共部门整合处理信息的能力,将公务人员从琐碎的简单工作中解脱出来,提升公共行政的效率。

三是要对算法清单进行及时更新和调整,以更好发挥新兴技术手段对政府治理的积极价值。随着智能技术不断更新迭代,智能算法的便捷性、效率性以及安全性都不断得到提升,算法嵌入社会治理也已是大势所趋,当多元化的算法技术模型随着实践发展变得更具理性,算法清单也应随之调整完善,使得更多安全可靠的技术应用方案能够为政府治理赋能,推动公共行政智能化、智慧化发展,同时促进政府、市场和社会协同增效。

五、结语

智能算法作为当下的技术热点正成为国家治理现代化过程中的重要驱动力,推动政府治理朝着智慧化样态不断迈进。作为技术的算法、作为权力的算法以及作为规则的算法统一作用于数字空间,在理想状态下能够实现政府治理的理性、包容性和公平性。然而在实践中,政府在运用算法提升治理效能的同时,也存有公共责任难以划定、政府与民众自主性被削弱、治理正义性减损等风险。要清醒地认识到算法嵌入政府治理既是人工智能技术的扩展,亦是社会治理效能的延伸,不能因为未来可能出现技术负外部性就摒弃算法,而要在智能技术和政府治理的双向互动间寻求平衡,最大程度发挥算法技术优势以期更好地赋能政府治理。因此,需要始终坚持把增进公共福祉作为治理的终极价值,从推进算法技术适度透明化、规范算法权力运作、明确算法规则决策限度等方面寻求推进算法更有效地嵌入治理的实践进路。当然,对算法嵌入政府治理进路的探索不能一劳永逸,随着治理实践的进一步发展,也要提出更具动态性、精细化和系统化的方案,为进一步推动政府治理现代化助力。