人工智能时代行政裁量自动化的挑战与回应

刘旭行，许双全

（河北大学 法学院，河北 保定 071000）

自动化行政作为近年来推进数字法治政府建设的新模式，具有显著提升行政效率，推进行政管理规范化、体系化等优势。然而行政裁量领域中技术与权力的融合也带来了一些挑战，因此，针对问题痛点回应面临的挑战实为必要。

一、问题的提出

根据《国务院印发新一代人工智能发展规划的通知》（国发〔2017〕35号），要求围绕行政管理、司法管理、环境保护等社会治理，大力促进人工智能技术的应用，推动社会治理现代化。近年来，人工智能技术应用已在智慧政务、智慧法庭、智慧城市等多个领域取得显著成就，特别是应用于司法、行政领域的人工智能系统，推动了治理的现代化。在行政领域，人工智能在推动行政治理智能化、制定行政规则、依托自动化技术建立行政自动化裁量系统等方面，对提高行政效率、优化裁量决策、加强数字化行政法治建设的优势不言而喻，自动化行政应用范围日趋广泛［1］。根据域外高度自动化国家所展现出的优秀经验来看，算法治理做出的决策更准确、合理。可以预见的是，随着我国自动化行政的迅猛发展和广泛应用，行政机关会越来越依赖机器学习算法驱动的数字化管理方式。

近来域外部分学者对自动化行政也开始表示忧思，如2017年《可可问责法》中指出：“行政机关在运用自动化时，可能放弃了自己的专业知识，忽略了裁量、个性化和理由说明。”［2］自动化行政也带来了诸多消极影响，如削弱正当程序保障、违背技术中立等。结合国内现有文献，我国学界对自动化行政裁量的关注，主要集中在三个方面：自动化引入行政治理存在的歧视、安全和隐私等风险会削弱政府的控制能力；人工智能的运用所带来的透明度和信息公开问题；如何有效对自动化行政进行法律规制。总体来看，囿于目前我国行政裁量的自动化水平尚未达到域外部分国家的自动化水平，暴露出的问题也具有片面性。基于此，国内学者对相关问题虽有触及，但仍未展开系统剖析。聚焦当前行政领域正出现的自动化转型对行政裁量的挑战，我国如何应对、防范其对行政裁量的消极影响，是本文需要着重探讨的问题。

二、行政裁量的智能体现：自动化在行政裁量中的应用

“放管服”改革与“互联网+政务”等政策的出台，以人工智能为代表的自动化技术在行政领域的应用愈发多元化，呈现出从服务型到管理型、赋权型活动转变的趋势。尤其在行政裁量领域，自动化裁量开始广泛应用于行政处罚、行政审批与行政评级。

（一）自动化裁量在行政处罚中的应用

行政处罚是行政机关进行行政管理的有效手段，行政处罚的幅度、标准等内容与行政裁量息息相关。行政处罚自动化裁量始于2016年，巴中市在全国率先研发并使用公安行政处罚自动化裁量系统，如交通执法领域所运用的电子警察，以电子监控方式（即非现场执法）改变传统街头执法模式，系统根据预设规则以“秒”的速度对相对人行为作出裁量。相较传统执法模式，“电子警察”的运用不仅提高了行政效率与效能，而且有利于改善执法环境、全面持续维护交通秩序。2017年南京市以“掌上公安局”为依托推出行政案件自动裁量系统；2018年亳州市推出“城管电子执法系统”；2019年有条件的生态环境部门开始研发、利用自动化裁量系统；2021年宁波市鄞州区综合行政执法局自主研发自由裁量处罚判定线上平台等。由此可知，行政处罚机关事前对行政处罚案件中的常见争端类型进行收集、筛选，形成较为完整的信息系统，之后依托自动化平台对行政处罚相关数据进行量化分析，设定不同处罚类型所适用的裁量标准，从而为行政处罚自动化裁量设定细化、可靠的数据库，极大提高了行政处罚裁量结果的精准度。

（二）自动化裁量在行政审批中的应用

在行政审批领域，2018年深圳市发布关于普通高校应届毕业生引进和落户的工作方案，采用“无人干预自动审批”模式。该模式异于现场提交信息材料、人工进行审核等手续，取而代之的是申请人在系统提交材料后，自动审核，若材料完备无误，系统直接发出批准的通知。根据有关资料显示，深圳市政府在行政审批领域实行“秒批”事项，截至2020年已达212项。“秒批”行为本质上为羁束性行为，类似如企业的投资备案手续、异地就医的备案手续以及申领社保津贴等，此种模式下的自动化裁量是预先设定规则，输入个案因素，直接产生既定结果，无赋予选择的可能。自动化行政裁量能极大提升行政效率，促使行政机关更加青睐依托自动化开展行政管理活动。近期广西、安徽等地也开始采用系列措施，自动化裁量技术的运用如火如荼。

（三）自动化在行政评级中的应用

疫情时代，行政机关依托健康码大数据来评判个人的疫情风险等级，根据等级不同采取相异的管理措施，此模式属于自动化裁量在行政评级领域的典型运用。健康码运作原理实质上是依据算法规则自动完成的，其输出结果是通过处理个人信息的方式获取的。整个健康码的申请过程由行政机关主导，行政机关提前将评判标准借助算法化形式进行程式化构造，之后相对人通过在线提交信息的方式发送申请，最终通过系统自动分配不同颜色标识的二维码。整个健康码生成过程是自动完成的，且由行政机关进行主导，其目的是服务于行政。根据健康码的生成机制，行政机关在疫情防控中以健康码的颜色为标准进行分类监管。健康码的应用，使行政机关可以依托大数据进行风险等级研判，自动作出行政裁量，服务于行政，为行政机关的应急决策和行动提供支持。

综上，自动化技术在行政领域的应用不再是某一领域、某一环节或局部的应用，而是以更加开放、全面、必要的态势呈现。行政裁量领域对自动化的应用，优化了资源配置，促进了行政裁量结果的可接受性。数字与法治政府的建设，将会促使自动化在行政裁量领域发挥更多作用，取得更加显著的成果。

三、危机中的行政裁量：自动化对行政裁量的挑战

世界各国电子政务迅猛发展，数字政府建设的进程不断加快，利用自动化裁量系统作出行政决定，是提升行政效率的重要选择。在专注提高效率的同时，需要对裁量过程中的恣意行为进行有效预防。不可否认，自动化裁量在多数情况下优于人类裁量，尤其表现在要求前后一致超过裁量价值的情形下，良好的自动化决策比人类裁量更为有利。在容易受到人性影响的领域，人作为情感的载体极易受到偏见的影响，此时自动化裁量比人类裁量更具优势。正如硬币都有两面，自动化裁量的优势同时也是劣势。由于自动化裁量的确定性，预先设定的规则决定不允许其存在二异性，即自动化裁量系统难以像人类一样针对具体的情形选择最适当的决定［3］。应当指出，行政自动化裁量在一定程度上提升了行政机关的工作效率，推动了行政工作规范化、体系化、制度化的发展。随着自动化行政的应用范围愈加宽泛，对程序正当与个案正义冲击的挑战也逐渐暴露，主要体现在陈述申辩权被压缩、个案正义无法保障、篡夺行政裁量权等几个方面。

（一）陈述申辩权被压缩

正当程序原则作为行政法的基本原则之一，要求行政机关无论作出何种行政行为，尤其是作出对相对人不利的行政行为时，除非存在保密性质，都应当允许相对人说明理由，事先听取陈述申辩，再作出行政裁量决定。从宪法角度看，贯彻正当程序原则是对公民知情权、参与权和平等权的落实。本文所论及自动化裁量的实质是利用计算机技术，将成千上万条的命令输出数亿条指示，在行政领域即以自然语言的方式将相关的法律规范转换为代码，代码通过系统中设定的规则进行裁量，瞬间输出结果的过程。自动化裁量的时间通常是以毫秒计算，效率极高，但整个裁量过程是封闭的，相对人无法直观感受、参与内部决策过程，不能进行陈述申辩［4］。法律赋予当事人享有陈述申辩权，是为了避免行政机关因调查不足、惰怠裁量或是认知偏差而出现错误决定。作为正当程序核心的陈述申辩权，其功能是为确保行政决定最终的正确与理性，但现有的自动化裁量实践，折射出对当事人程序权利的漠视。

诚然，技术与原则的冲突是不容忽视的。“声呐电子眼”的运用，在抓拍违章车辆方面的作用非常显著，但现有智能技术却无法自动区分救护车与普通车辆，甚至无法区分照片与真人，如“董明珠闯红灯照片出现在曝光台电子屏上”，事实真相是“一辆车身喷涂有董明珠大幅头像广告的公交车压在了斑马线上”。单将电子眼拍摄的信息资料输入系统，径直根据系统输出的裁量结果作出处罚决定，虽屏蔽了执法人员的主观因素，但却严重侵害了相对人的程序性权利。“电子警察”在交通执法领域的运用，相较于传统交警执法过程中向违法行为人表明身份、处罚决定前需要听取相对人的陈述申辩、程序选择方面可以选择适用简易程序或普通程序等，非现场执法完全依靠自动化技术直接作出裁量结果，处罚通知未经当事人选择径直以电子送达等，无法兼顾人工执法时的人性化和灵活化特征［5］。

综上，机器自动化裁量关注实体处罚结果，忽视相对人的知情权、参与权等程序性权利的实现；未听取陈述申辩直接作出处罚决定，虽获得效率价值，但却侵害相对人实体权利，背离行政正当程序原则。

（二）个案正义无法保障

首先，自动化行政裁量依托自动化系统，根据预先设定的规则，通过输入特定裁量因子对相关数据进行量化分析，进而作出裁量结果，目的是为了防止“同案不同判”“处罚偏轻畸重”，使行政行为趋向模式化。但许多情况下，机械适用自动化裁量内部规则意味着非正义。有学者提出，自动化裁量无法做到“过罚相当”［6］。囿于目前自动化裁量系统的智能化水平较低，不能实现机器的自主学习，在裁量系统中也没有从轻、减轻、从重或不予处罚等选项，无法量体裁衣式地彰显个案正义的个性化裁量。其次，即使最好的设计也会存在不足，自动化裁量内部系统指令设计是否准确无误？裁量基准以机械化规则预先制定，不需要考虑的相关因素被事先剔除，但无个案具体语境的考量结果是否公正？被量化、算法化的公平是否会违背个案正义，突破行政公正原则的界限？

在成都市金牛区人民法院（2014）金牛行初字第66号案中，原告以107 km/h的速度在高速上驾驶，超过规定时速7%，被处罚款200元，记3分。原告诉称驾驶速度只是略超过规定时速，违章情节轻微，交警不应当对超速20%以下的行为一律顶格处罚，有违个案公正。忽略个案情景的考量，无疑是对行政公正原则的背离，进而导致个案正义受损［7］。无独有偶，“何友庆案（2015）珠中法程（行政）终字第34号”香洲交警大队在听取陈述申辩后，仍以电脑系统设定的处罚无法改变为由，对何某作出顶格处罚的决定。“系统作出的决定无法更改”，这一论断会导致多少个案正义被抹杀。同时，顶格罚款是对行政裁量目的的滥用，违反公平性与比例原则，属于明显不当的行政行为［8］。又如在“套牌”系列案件中，当事人对系统认定的事实提出异议，执法机关听取相对人陈述申辩，但将异议事项的举证责任不当倒置于当事人，要求其承担证明自己没有违法行为的举证责任，却未依据“疑违（法）从无”原则处理。实践中，当事人自证清白往往十分困难，此做法无疑将会导致个案公平无法实现。此外，若行政人员因受制于相关部门规定，要求必须以自动化技术为依托，甚至有些地区以是否使用自动化技术作为衡量其业务能力的标准，以是否采用自动化裁量结果作为判定行政工作人员业绩水平的依据，无疑会促使相关工作人员直接采用自动化裁量结果而忽视个案具体情由。这不仅破坏行政程序，而且严重侵害行政相对人获得案件公正裁量的权利，损害政府公信力。

（三）篡夺行政裁量权

自动化行政裁量若被泛化、肆意使用，极有可能会取代人类决策而嵌入公权力。自动化裁量设计的初衷是为克服人工裁量的不足，避免裁量决定受主观偏好、个人经验以及“人情、关系”等不良现象的影响。借助自动化裁量系统，予以辅助技术工具使用，看表面上有利于将行政人员的主观化倾向抽离，实现客观公正外观，但在实践中行政机关却过度依赖，且热衷于采纳自动化技术做出结果，从而不加审核直接将系统决策结果作为行政决定。有学者将这一情形视为裁量惰怠［9］，即依法有裁量余地却不行使；加之自动化裁量技术所具备的自身优势，使其逐渐突破辅助性定位，实际发挥了裁量决策权的功能。交警非现场执法领域，新《行政处罚法》对电子监控设备收集、固定的资料可以作为证据使用予以立法层面的明确规定，但结合已有的执法实践，执法人员基于各种原因，通常会选择将自动化裁量的结果视为最佳处罚决定，且更加倾向迷信技术所给的答案，忽视自动化技术本身存在设定错误之可能。

尤其是生态环境领域引入自动化，意味着系统需要面对更加复杂的情形作出裁量。人尚且会犯错，何况以代码为基础的人工智能。若未经人员审核直接机械适用，不仅会降低行政机关在该领域的地位，甚至会剥夺行政机关的裁量权［10］。行政机关的裁量权是指在其职责范围内，依据法理或事理进行酌量处理的权利。传统在作出行政处罚时，行政机关在法定的处罚范围、幅度、种类和强度内可以进行自由选择，但在自动化行政处罚裁量系统中，依托系统作出裁量判断，无法有效发挥行政主体的行政裁量权。原因包括两个方面：第一，实践中执法人员的调查权限通常受到严格限定，只能调查与自动化裁量因子相关的事实，违法事实一旦被录入自动化裁量系统，执法人员将无权修改或者撤销；第二，执法人员对自动化裁量系统作出的结果无权进行变更。自动化裁量系统通常是由省级政府或其工作部门进行统一操作，基层执法人员对裁量结果无法变更，即使该执法人员对此裁量结果享有审核权，除非经过严格的程序要求，否则也无变更权限。自动化裁量过程对执法人员的限制，是从调查阶段至裁量决定最终作出，这在一定程度上呈现出架空行政裁量决策权的态势，对行政机关是极大的挑战。

四、应对策略：对行政裁量自动化挑战的回应

自动化行政裁量不仅改变传统裁量权的行使方式，而且在重构裁量权行使规则。面对自动化行政裁量挑战，应当采取有效应对策略。

（一）强化陈述申辩作为自动化裁量的必经程序

行政原则应当被严格贯彻在每一项行政活动中，对任何一项原则的背离都是对相对人权益的极大损害。从域外行政理论的发展历史来看，行政原则不是次要的，只有坚守原则才可能使程序发挥保障行政活动公正、秩序与效率的价值。自动化裁量过程中强化陈述申辩，既是行政正当程序的要求，也是实现个案正义、保障公正的应有之义。

陈述申辩权的实现，一方面，可以借鉴德国自动税收程序中的特殊保护机制［11］，如设定自动化裁量系统时，将相对人的陈述申辩作为裁量因子输入，根据案情差异选择人工介入，根据个案不同，抽离减轻、从轻、免于处罚作为裁量的选择因素，事先进行程序性设计，保障民主正当性；另一方面，有学者提出借鉴域外非现场执法经验，如美国加州设立的包括告知事实、说明理由、申请免责、网上查阅案发现场视频、网上申诉等一整套创新性制度。自动化审核前预先设定一套程序规则与保护机制，若行政机关听取当事人的陈述申辩后，坚持原来的行政决定则需要说明理由。关于行政程序的说明理由制度，有学者提出行政主体可以通过保留解释能力方式，实现对个案的事后监督，即对自动化裁量输入端与输出端进行事后检查［12］，提高自动化裁量技术手段的透明度和可解释性。自动化裁量要兼顾行政机关的裁量权与相对人的基本人权，切实保障陈述申辩权的落实。

（二）框定自动化裁量范围保障个案正义

人工智能的发展意味着传统行政方式需要革新。单纯以人为中心的裁量模式难以适应繁杂的社会治理要求，行政裁量应面向自动化。作为行政裁量领域的新技术，裁量结果的一致性与个案正义性之间的矛盾虽无法避免，但明确自动化裁量范围能在一定程度上调和两者之间的矛盾。依据德国程序法对自动化裁量的规定，仅限于法律法规允许时才可适用，行政机关无裁量或判断选择空间时可适用［13］。我国可以借鉴：对法律保留事项，立法者提供原则性指引，替代预先干预，在行政给付等不涉及重大权益事项上，法律可以对自动化裁量应用予以概括性授权；相反，对于情况复杂、有关人身重大权益事项上，行政机关需要谨慎运用自动化裁量。即自动化裁量在一般案件中可以充分发挥其优势，但在需要个案考量的情节中，传统行政模式依旧不能摒弃，适时的人工介入仍为必要。

综上，为保障个案正义，防止相对人在权利受到损害后无处救济，一方面，可以利用自动化裁量类案推送系统，借鉴北大法宝类案推送，以“标签化”“结构化”方式提升比对精确性，裁量结果相差较大案件实行自动预警机制，面向执法人员精准推送相似案件信息，有效约束和规范行政裁量幅度，确保执法尺度统一［14］；另一方面，以法律保留规定特定情形下人工介入，当裁量因子触动预警机制，相关执法人员需适时转为人工裁量。通过以上规制的运用，实现个案正义。

（三）厘清决策权限分配

自动化裁量缩减了行政主体的裁量空间。电子化形式确定裁量规制，一定程度上有助于行政主体更加理性地处理案件，避免受到“人情”“面子”等因素干扰，但对裁量结果过度依赖反而被其制约，导致行政主体裁量权被架空［15］。自动化行政正在且有可能会在未来取代人工裁量，冲击公权力地位。因此，自动化裁量中，明确权限分配，坚持行政主体的首要地位，确定自动化的辅助功能十分必要。人工智能属于人类的发明成果，各项自动化技术的实质是人类在操控、掌握着算法的规则。囿于技术水平，人工智能暂时无法将人类所独有的同理心、道德感等融入系统，自动化裁量发挥主体作用的仍是行政机关。即使对自动化裁量进行行政分级，但不论何种级别，其辅助地位的性质不容改变。全自动化裁量的税务、“秒批”等事项，在直观上取代人工作出决策，以及半自动化裁量通过数据识别与分析得出初步结论，为行政主体决策提供参考，究其本质，其工具属性价值毋庸置疑。

尽管当前自动化裁量多数以半自动化裁量为主，但是自动化的水平正主动向前跃升。健康码机制虽然从整体上呈现出全自动化倾向，但对其定位仍是辅助功能。究其原因，全自动化裁量的反复使用，涉及范围广泛，一旦出现错误，所带来的后果无法控制，弥补成本非常高。为防止执法人员的裁量权被篡夺，首先，自动化裁量需厘清决策权限分配，执法人员的裁量决策权应处于主导地位，允许其对案件享有补充调查事实、变更自动化裁量结果的权限，避免行政执法人员裁量权被架空；其次，执法人员要根据事实调查结果作出裁量判断，将自动化裁量结果与人工裁量结果一并提交审核；再次，在行政内部人员进行审核阶段，要建立前期执法人员与内部审核人员共同对裁量结果负责的机制。如此，可以一定程度上避免执法人员过度依赖自动化技术、忽略人工介入审核的情况，有效防止前期与后期审核工作人员消极怠惰风险。

（四）建立自动化裁量说明义务规制

从根本上讲，行政裁量的自动化是借助算法规则，构建一个基于历史数据的代码黑箱，对涵盖于执法范围的行为进行判断，执行既定规则作出裁量结果的过程。由于自动化裁量缺失法定程序，往往易因算法或机器错误而产生严重后果，尤其直接以机器裁量结果作为最终决定情形下，保证算法的合法性、算法裁量的可接受性极为关键。美国学者试图通过“技术性正当程序”观念来解决该问题，即借助公开算法规则、系统测试等方式实现机器规则所应具备的透明性与合法性要求。事实上，通过适度公开算法的开发、运行流程以及可被验证的运行记录等回应相对人的质疑，有利于实现算法可透明性要求。但不容忽视的是，由于算法的专业化程度高，即使公开算法规则相关内容，非算法方面的专家通常依旧无法理解，实则并不能有效解决争议。因此，建立自动化裁量算法规则说明义务规制实为必要。

整体来看，增强算法的可理解性需要回归说明理由制度内部，明确义务主体、拓展行政机关说明理由的内容、方式，增强算法的透明性，以此提升裁量结果的可接受度。在说明内容方面，应围绕裁量系统执行既定规则与经由算法辅助裁量判断之间的关系与关联程度予以阐释，并就个案裁量因子的选取与不同裁量因子对结果作出的影响方式与权重作出说明，或就算法裁量的合法性进行有意义阐释。同时也可以引入专家学者出具评估或论证报告，摒弃简单要求公开，借助技术和专家力量提升算法规则的可识别化、可视化水平，使普通公众能够知晓相关算法数据的来龙去脉与有关依据，从而打破算法黑箱和技术垄断。在说明方式上，行政机关既可以在事前以说明理由的方式作出，也可在事后进行补充说明。在说明场景上，无须拘泥于个案场景，应重点回应相对人对算法裁量有异议的部分，或者通过发布算法解释说明书的方式履行一般性说明义务。针对相对人没有异议的部分行政机关无须主动说明，但是应保留对该问题的说明解释能力。在说明主体方面，明确行政机关作为说明理由主体，承担说明义务，算法设计主体负有协助说明义务。综上，在自动化裁量所依托的算法规则尚未实现新一轮跨越的当下，处理好规则与裁量、算法黑箱与透明、权力与权利的关系，围绕关键点对现有法律体系进行补充修正，或可更冷静面对未来挑战。

行政裁量领域引入人工智能契合当下时代背景，是法律与技术结合的又一体现，我们需要对相关挑战保持清醒判断，以防坠入潘多拉魔盒。技术革新易导致权力滥用，每个人在数据时代都有可能遭到被技术捆绑的困境，但采用新技术不能以剥夺公民正当权利为基础，行政机关应当探寻新技术方式，不断增强专业知识，综合衡量行政机关采用的裁量系统与算法是否符合社会期待。面向未来，自动化裁量系统与行政领域的融合所带来的挑战已无法回避，身处人工智能时代，技术的应用与防范是一个未竟的话题，需要我们持续关注。