算法行政的兴起、风险及其防控

文／翟月荧

技术进步带来的变革，正在改变着这个世界。在推进政府治理体系和治理能力现代化进程中，算法被广泛运用于行政领域，并被作为政府决策的辅助手段。算法与政府治理的深度融合逐渐形成了一种新的治理架构——算法行政。算法行政的高效性、精准性和中立客观性有助于实现政府治理的智能化转型，提升行政决策的科学化水平。人们在享受“技术红利”的同时，也要看到算法行政给政府社会治理带来的冲击和挑战。算法黑箱、算法歧视成为算法行政不可规避的问题，进一步厘清算法行政所带来的风险，找出算法行政风险的防控措施，具有极其重要的现实意义。

一 从技术到权力：算法行政的兴起

算法是一个技术概念，是指导机器完成某一特定工作的一系列指令，而机器学习则是模仿人脑的思维过程，通过对已有数据进行学习建模，而后根据更多的数据对模型进行修正和分析。[1]而算法权力则以一种新型权力的形态呈现。算法嵌入社会权力机构，影响和改变着社会运行和社交方式，成为调配社会资源的一种重要新兴力量，构成“算法权力”。[2]在提供便利的同时，算法也在潜移默化影响着人们的生活方式和日常决策。通过数据共享的方式，实现内在的延伸或扩展，从而系统性地影响社会的方方面面。同时，凭借敏捷地处理海量信息、高效地流转行政事务、持续地深度学习等方面的显著优势，为政府治理提供了更加广泛和多元的应用场景，如治安风险预警、警务资源调配、政府自动化决策等等。

算法为政府治理提供了一个很好的决策实现路径。通过大数据输入，经过特定程序而输出特定的“决策结果”，从理论上讲算法本质上仅仅是一种技术，然而，随着政府、企业、公民个体对算法技术依赖性的增强，算法实际上具备了对指向目标的某种技术上的强制性权力。通过对个体的干预、对社会的引导、对政府决策的影响，一种事实上的权力正逐步形成，即算法权力。“算法权力不是宏观的政治统治权，不涉及暴力和敌对性的权力争夺，而是一种普遍存在于社会运作和个人生活中的‘泛在’的权力关系，表现为对人或主体无处不在的行为引导和可能实施的操纵，因此，算法权力实质上是一种以治理为目标的权力关系。”[3]算法与政府治理的深度融合就形成了一种新的治理架构——算法行政。

（一） 算法行政的建构原理

“伴随着海量数据和高效算力，大数据技术重新界定了国家、社会的互动关系和二元边界，实现了全方位、系统化的国家赋权和社会赋权。”[4]信息技术、数字技术的发展有助于单一、集中式的政府治理模式转型为网络化、平台化的新型治理模式。首先，人们交往方式已经从封闭化、家族化、单一化的传统社会交往形态转变为开阔化、快速化、陌生化的网络交往形态，极大地扩展了个体交往的范围，这对传统的政府治理提出了挑战。其次，随着网络世界信息交流的高速发展，信息的传播范围、速度、内容达到了前所未有的范围。个体接收的信息呈现幂数级增长，这就会出现大量的监管盲区。监管对象的复杂化、多样性对传统监管模式提出了新要求，促使算法行政进入政府治理的视野。

与此同时，算法技术的专业化、高效性使算法以扩展的方式嵌入了政府治理、行政决策之中，形成了“自动收集、自动分析、自动决策”的算法行政体系。算法利用系统的架构优势获得大量的数据和信息，通过强大的算力对数据进行高速计算，得出优于人类计算的数据，进一步增强了人们对算法决策的依赖，增加了算法行政的外延、提高了公权力运行的效率。算法已经被广泛运用于行政领域，并且作为政府决策的一种辅助手段，做出具有行政效力的算法决策。比如，通过算法对交通违规行为的抓取和计算，据此对交通肇事者进行处罚。又如，算法以服务对象的诉求和需要为导向，重新设计、建模，为服务对象或监管主体提供量身定做的应用场景，并将此应用场景进行量化产出，应用于加大规模的监管对象，以极小的成本撬动更大的收益。

（二） 算法行政的演进路径

1.城市治理的技术化浪潮。随着城市治理范围和深度的不断拓展，城市治理失灵呈现出的政策偏差、制度低效、规制失败、服务质量差以及群众不满意等问题提出了治理变革的要求，特别是提出了专业性、精确性、科学性和有效性等方面的要求。由此，城市治理向科学技术尤其是信息技术靠拢，寻找解决社会问题的技术答案。[5]如杭州“城市大脑”通过智能调节红绿灯，车辆通行速度最高提升了11%。“城市大脑”最大的进步在于实现了城市的实时化和智能化资源调度，解决了城市交通、能源、供水等方面的调度问题，让城市运转效率更高。[6]又如在食品安全领域，贵阳观山湖区创新智慧监管平台，监管人员可通过手机客户端、电脑终端及监控中心进行监控，实时执法监管；消费者也可通过手机APP观看餐厨图像，让食品企业接受群众监督，引导公众直接参与。[7]这种协同监管有助于提升监管效能。

2.政府治理的智能化转型。算法行政对于提高行政效率，减轻行政负担具有积极作用。在行政审批等环节运用算法有助于减轻行政人员负担并降低行政时间成本，从而节省人力成本和精简机构设置。如不少地方政府一网通办业务，大幅缩短审批办理时限，审批办理时限比承诺时限平均减少一半。同时算法有助于实现政府治理过程中资源配置的优化，化解“低质低效”“供需不匹配”等难题。算法行政可以通过自身在信息收集、存储以及强大的算力优势，将分散、碎片化的公共资源进行重组和归类，达到减少行政成本、提升治理效果的目的。

同时，算法行政具有高精准度、高匹配性的特点，对治理对象的精准识别和分类是展开有效行政的前提。通过对海量数据进行挖掘、收集、分析，对行为对象模拟“人物画像”，以精准预测其未来行为，进而达到“靶向”治理的效果，提高行政治理的精准度。

此外，公平、公正一直是人们对于公共行政最基本的诉求。算法因其技术属性被人们普遍认为具有“技术中立”的特性，其能够摒弃偏见、复杂的人情关系等人为因素而做出公正的决策，实现行政决策的客观与公正。

二 算法行政的风险样态及成因

传统社会里，涉及到分配和承认的社会正义问题是由国家、市场和社会来解决的。但在数字生活世界里，社会正义很大程度上取决于操持相关算法的人。算法滥用会导致诸多风险的产生：对政府公信力的侵蚀、对公共性的消解、对社会公平的妨害、对个人隐私的侵犯等等。算法风险给正常的政治和社会秩序造成影响，给社会公平公正和民众合法权益带来挑战。

（一）“技术利维坦”对政府公信力的侵蚀

算法行政最初只是一种政府治理的辅助手段，随着智能算法自我学习能力的不断优化，智能算法决策甚至代替了传统的人工决策，从原来的类似于委托代理的关系转化为依靠智能算法直接推荐的合理化决策，我们所接受的决策很可能就是智能算法得出的“最优决策”。然而，尽管有“智能”的加持，却改变不了它的技术属性，算法仍然是一种二进制的计算程序，任何行为、决策都是按照指令代码行事，无法确定程序化决策能呈现什么后果、产生何种影响。如行政主体的边界模糊、行政主体责任人不明确等问题。

另外，如果行政人员臣服于算法的“霸权”之下，困于算法的“枷锁”之中，越来越依赖算法给出的“最优决策”，在公共场域中的“角色”被搁置一边，“公共性”也就无从谈起了，甚至带来主体责任的“漂移”，这会对政府等行政主体的公信力带来沉重的打击，政府的合法性将受到质疑。

（二）算法“权力异化”对公共性的侵蚀

公共行政活动一直致力于追求“公共性”，算法行政理论上是在构建一种脱离于人类主观感情和判断的趋于“绝对”公正的智能社会，然而，因算法内在缺陷而导致的“算法歧视”“算法黑箱”等存在着消解行政公共性的隐忧。

首先，算法的嵌入重构着权力架构。作为一种“技术权力”，背后是运行算法的技术公司。这些新兴算法技术公司正逐步渗透或接管政府的部分公共行政职能，甚至在一定程度上可以代替政府作出决策，客观上具有了一种行政能力，由此衍生的“私权力”存在着侵蚀公权力的隐患。

其次，面对算法“异化”对公共性的裹挟，人类的主体话语权正被通过数据和算力精准推测出的需求所代替，算法行政中行政主体和行政客体之间的交流已经呈现出一种“非现场”式交流，即以一种“人机”“互机”的形式存在，“身体的直接交流让位于通过数字化编码的虚体的中介进行交流。作为身体的影子的虚体正在逐渐凌驾于身体之上，成为控制和支配身体的力量”。[8]算法语境下的公共关系将会陷入一种人与人、人与机器甚至机器与机器之间的新型公共关系，人类将面临公共话语权被挤压的风险。

最后，公众对于公共性的理解可以视为以下两种情况：一是公众对公共生活的参与度，二是行政主体对公众诉求的回应。这两个方面都不应忽视技术所带来的深刻影响。从功能效应来看，算法技术依托其强大的自主学习能力，不断精准推测公众的意图、获取公众的诉求，公众参与逐渐被拥有强大算力的算法所取代；从社会功效来看，算法以其强大的技术优势，使人们陷于“技术依赖”“技术崇拜”，削弱人们对公共政策的参与、表达能力，技术上占有绝对优势的专家客观上垄断了决定公共决策走向的权力，存在沦为技术精英主导的不利趋向。

（三）数据不公正对社会公平的侵蚀

“到目前为止，计算机还完全不理解公平这个概念。程序员不知道该如何为公平编码，他们的老板也很少会要求他们做这件事。”[9]设计者在设计、建模的同时不可避免会将主观因素带入算法当中，主观性较强的算法嵌入具体社会治理时，就容易出现判断的偏差，既损害个体权利，也会对整体社会利益造成侵蚀，加剧原已存在的不公平现象。另外，尽管依据算法“精准画像”来对人群进行“评分”“评级”有其优势，但从本质而言，这种精准评估本质上是一种差别化对待。近年来美国大选多次利用算法来划分人群，竞选者只需关注“摇摆不定”的选民群体即可，那些利用算法推测出的支持者则被忽视。算法将个体固定于特定的模式、框架中，加剧原已存在的社会不平等。

（四）算法越界成为“窥私木马”的风险

算法将碎片化、看似毫无联系的数据进行整合，勾勒出一个个完整的“人物画像”，成为对个体未来行为预测的重要依据，生活在智能时代的人们就如同“透明人”一样被置于治安监控之下；又犹如“数字人”被置于数字世界，人的一切都可数字化，个人隐私在各种智能设备中被重新计算、定义。随着算法与政府治理的深度融合，个人数据的存在范围也随之扩大，个人隐私的边界也随之拓展。政府社会治理依赖于大量数据，才能对社会治理进行有效的架构和优化，个人数据被采集后，受限于政府监管制度的不健全，数据采集技术的滞后等，人们时刻面临着信息泄露的风险。社会治理与数据收集存在着一种特定的关系，数据的冗余会加剧个人隐私泄露风险。著名的Facebook数据泄露事件，涉及五亿多用户个人隐私信息，数据泄露也呈增长态势。

三 算法行政的风险防控路径

要把技术放在制度的笼子里进行规制，让算法在法治轨道上健康有序运行，就必须构建算法安全治理体系。2022年3月1日起正式施行的《互联网信息服务算法推荐管理规定》提出，要建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度。中共中央办公厅、国务院办公厅2022年3月20日印发的《关于加强科技伦理治理的意见》也提出：加强源头治理，注重预防，将科技伦理要求贯穿科学研究、技术开发等科技活动全过程，促进科技活动与科技伦理协调发展、良性互动，实现负责任的创新。具体而言，算法行政的风险防控可从以下三方面推进：

（一）推进算法行政的事前审查评估

一是建立算法分级制度。将算法嵌入到政府治理中时，必须考虑到算法不具备稳定的法律属性，应采用场景式分类，可将算法分为低风险、中风险、高风险。算法行政可定为中风险及以上，将其风险级别定位较低，不当应用算法将会损害公共利益。

二是建立公开透明的算法行政运行机制。算法不透明的运行机制是导致社会治理风险的因素之一，只有建立公开透明的机制才能有效防范算法“黑箱”。首先，要对行政对象进行有限度的公开，内容关系到行政对象财产、健康、安全等利益时，应向行政对象公开，并且行政对象有拒绝算法决策的权利。同时，对于算法得出的错误决策，行政对象可将诉求反馈，使算法行政优化，以提高算法行政的治理效能。其次，建立定时、分级公开制度，政府要定期公开算法的使用范围和领域，哪些政策法规的出台依据了何种算法规则，对不同的行政对象有何影响以及影响的程度，等等。

三是建立安全评估系统。在政府内部设立安全委员会来监督算法在行政过程中的应用，评估算法行政的安全等级，并对算法行政影响社会公正的等级进行评估，以确保投入使用的算法是安全、可靠、公正的。

（二）推进算法行政过程中的权力规制

一是建立国家主导的算法机构。智能时代的来临加深了各行各业对技术的依赖，科技领域已经成为了新的战场，谁掌握了算法、数据，谁就有可能拥有了博弈的核心筹码。政府组织对数据的占有、对算法的使用上起步较晚。对于超级平台来说，因其早期的市场占有积累了大量用户，通过用户消费、社交活动获取了巨量的数据。国家行政平台多以合作的形式呈现，应建立以国家主导的算法研究机构，从研究到应用都由国家自主掌控，从而建立国家在算法领域的领导权，为提高政府决策能力提供条件。

二是建立健全法治与监督制度，筑建依法行政的法治底线。从社会层面来讲，建立健全算法法律体系和监管体系，尤其对于行政对象有重大影响的算法技术，应建立相关行业规范，或经合法程序上升到法律范畴，纳入到国家法治体系。打破因技术发展带来的算法“霸权”或“代码即法律”，在具体应用场景中，行政部门运用算法行政必须有法可依。

三是建立算法行政合理应用领域清单。在人工智能时代的早期，算法行政只是作为一种政府决策的辅助手段，随着技术的进步，人工智能全面涉足国家治理领域将是大势所趋，不论是限制自动化决策的算法参与政府治理还是自由裁量参与政府治理，都应该建立一个算法行政的应用领域清单，既包含适用范围清单，也包含不可使用领域清单，要顺应技术发展趋势进行动态调整，才能有效保证清单的可行性和合理性。

（三）推进算法决策的事后相关规范

一是提高算法的可解释性。不同人群、不同应用场景对AI算法的可解释性期待是不一样的，不应搞一刀切，将一个统一的标准适用于所有情形。在深度学习普遍缺乏可解释性的情况下，透明度就显得尤其重要，需要适当披露AI算法的相关信息，可解释AI便应运而生，成为AI伦理甚至是立法、监管的必选项。可解释AI可以分为全局可解释（使公众理解算法模型本身）和局部可解释（使公众理解算法模型的输出结果）。从2017年的IEEE的《人工智能设计的伦理准则》，到2019年4月欧盟的《可信AI伦理指南》和2020年11月美国的《人工智能应用监管指南》，再到2021年9月中国的《新一代人工智能伦理规范》，以及2021年联合国的《人工智能伦理问题建议书》，都在强调可解释性和透明性的问题。我国的《个人信息保护法》、网信办等九部委出台的《关于加强互联网信息服务算法综合治理的指导意见》、以及《互联网信息服务算法推荐管理规定》等相关立法也开始对人工智能算法应用的透明度和可解释性提出要求。采用了算法模型的公共行政部门，要给予行政相对人知情的权利，和相应的选择权。要明确告知行政客体，他们的哪些信息使用了算法模型，还要给予他们质疑评估结果、检查并纠正错误信息的权利，在可能的情况下也要给予人们管理算法参数的权利。

二是完善算法行政的监管制度。首先，要建立数字治理的监管、协调、问责机构，将目前算法行政的被动、松散、无序的状态引导成为整体性、专业化的智能算法。在机构设置上采用监管部门与技术人员结合的方式，在专业化的情况下引导算法行政的公平性。在对算法行政监管的同时，还应担负起制定相关法规制度、行业标准的责任。其次，建立相关评估机制，对于算法行政、算法决策中的评估进行抽样调查，只有符合评估标准的算法才能运用到政府治理中去，并且对于这些投入使用的算法也要进行定期检查，以保证算法在参与政府决策中的合理性。最后，要运用技术优势，以技术治理技术，以代码规制代码，如充分利用技术的不可篡改性、可追溯性等优势消弭跨部门、跨地域的数字鸿沟、信息孤岛等。