人工智能参与行政执法的风险与法律规制

邢 超 赵 凯

东北大学文法学院，辽宁 沈阳 110169

作为新一轮科技革命的重要引擎，人工智能越来越成为国家治理能力和治理水平现代化的重要驱动力，在法律与行政领域的应用越来越广泛。由于行政执法的广泛性和普遍性，人工智能在行政领域的应用以智能化执法最为典型。人工智能技术的应用在优化行政执法的同时会产生一系列风险，如何有效规制风险成为行政执法模式顺利转型升级亟待解决的问题。

一、人工智能参与行政执法的技术基础

人工智能之所以区别于其他机器，就是因为它的智能性，它能够完成原本只能由人类完成的工作。人工智能发挥作用离不开三个必备要素：数据、算法和算力。

（一）数据

数据是实现人工智能的首要因素，也是其他要素发挥作用的前提。人工智能本质上是通过对海量数据的深度学习来掌握人类智力活动的规律，从而模拟人类智能进行判断与决策。具体到行政执法领域，就是通过“喂食”海量数据，让人工智能深入学习现行行政法律法规、执法记录、案件裁决等，从而将行政执法活动规律化、模式化，形成统一的技术模型应用于各种具体情况。

（二）算法

算法是人工智能解决问题的直接手段。如果说数据对应输入的过程，产生的结果对应输出的过程，那么算法就是连接输入与输出的技术工具。人工智能算法能够挖掘人脑思维活动的规律来建立类似的神经网络，从而模仿人类处理信息的模式进行深度学习，并在分析数据的过程中根据不同的关键词自动调整算法参数，优化结果输出质量。人工智能算法应用在行政执法中能够让执法人员从大量重复性劳动中解放出来，促进行政执法提质、降本、增效。

（三）算力

算力是人工智能算法实现的决定性因素。人工智能算法模型的应用需要大量计算，算力的局限会导致计算速度、正确率大打折扣，从而限制算法的实际效能。《2020—2021中国人工智能计算力发展评估报告》指出，为了更加实时地分析和处理来自终端设备的海量数据并减轻网络传输的压力，人工智能算力会逐步向边缘渗透［1］。这就为人工智能技术应用于具体的行政执法场景提供了更加坚实的技术基础。

二、人工智能参与行政执法的可能性

行政执法是一种管理性行为，区别于行政立法、行政司法、行政协议等行为。不同的行政执法场景具有相同的逻辑环节，即都包含收集信息、作出决策和检查监督三个基本环节。人工智能参与行政执法也正是在这几个环节中发挥作用。

（一）行政执法信息收集智能化

传统的信息收集主要依靠行政主体主动获取和行政相对人主动申报两种方式，耗时耗力还有时空局限。相比之下，利用人工智能建立自动化的信息收集和处理模型，不仅能够提高信息处理效率和准确度，还能打破信息壁垒，提高信息利用率。例如在行政处罚活动中，可以利用智能摄像头在执法点位自主识别并拍摄违规行为，使交管部门实时获得行政处罚的证据资料。同时，人工智能可以根据违规类型、情节、出现频率、处罚程度等标准对收集到的证据材料进行归纳整理，并建立数据库实现数据共享，从而打破部门之间、行政区划之间的信息壁垒，便利数据资源的调用。

（二）行政执法决策智能化

根据人工智能参与行政执法决策的自主程度，可以将智能化决策分为半自动决策和全自动决策。半自动决策是指人工智能辅助行政执法人员进行决策，多应用于案情比较复杂、涉及利害关系较多的情形。例如在行政处罚的量罚环节，主管机关作出行政处罚决定时可以参考人工智能给出的处罚建议，修改补充或直接采纳并自动生成处罚结果。全自动决策是指人工智能全自动决策而无需人工干预。全自动决策一般应用于简单的行政执法活动，例如在行政审批中，申请人只需登录服务系统提交申请材料并进行身份验证，后台人工智能服务终端便运行预先设计好的算法将获取的信息与数据库存储的法律规范和裁量标准进行比对，几分钟之内就能自动作出决定并通过网络实时送达相对人。

（三）行政执法检查智能化

在行政检查实践中，人工智能技术被广泛应用于数据库构建、风险预测和智能监管系统的构建。以佛山市市场监督管理局的智能化检查实践为例，市场监管与大数据结合形成的数据库为人工智能的应用提供了信息资源；基于人工智能深度学习技术构建的风险研判和预警机制实现了精确化、针对性监管；现场检查与智能识别相结合的移动监管终端系统实现了检查情况实时录入、当即反馈，监管人员只需要在智能匹配的电子化表格中勾选相关指标的检查结果即可，不仅使工作效率和准确率大幅提升，而且节约了时间成本和人力成本。

三、人工智能参与行政执法的风险

（一）合法性风险

行政执法的合法性既包括实体合法也包括程序合法，体现在法律原则上就是依法行政原则和程序正当原则。

1.从实体上看，决策主体由人向机器的转变削弱了行政执法的合法性根基

人工智能对行政执法活动的参与在一定程度上实现了机器对人的替代。只要有足够的数据、预先设计好的算法和足以支持算法运行的算力，人工智能即可脱离人类干预，全自动地分析案情并做出决策。人工智能的这种运作模式使得由其参与而产生的行政处理决定体现出了“机器意志”［2］，而“机器意志”的背后则是人工智能开发者的意志。让人不禁怀疑：人工智能参与行政执法是否架空了行政机关的执法权？到底是行政主体执法还是人工智能技术开发者执法？如何保证“机器意志”完全契合法律意志？

2.从程序上看，人工智能自动决策侵蚀程序正当的法律原则

程序正当要求行政机关在作出涉及行政相对人利益的决定前，必须给予行政相对人陈述、申辩的机会，听取行政相对人的诉求，并且对作出的行政决定说明理由［3］。在智能化的执法模式下，现实可见的行政执法程序转化为高度隐蔽的后台技术程序，最终输出的处理结果是否公平合理则无从得知。在自动化行政执法模式下，行政程序被大大简化，相对人向谁陈述和申辩？听证程序如何启动？听证结果与智能化决策结果不一致该如何抉择？由此可见，人工智能参与行政执法对相对人程序利益的保护存在许多漏洞。

（二）安全性风险

1.人工智能参与行政执法有技术安全风险

首先，数据的真实性、可靠性直接影响人工智能算法的运行结果。如果数据被泄露、篡改，行政执法证据就会失去真实性与准确性。其次，人工智能依赖的算法也存在不稳定性，可能出现失灵或被黑客入侵的情形。一旦算法被篡改，其参与的行政执法环节很可能产生错误的处理结果，导致行政相对人利益受损，行政机关公信力下降。

2.人工智能参与行政执法有社会安全风险

这里的社会安全风险是指人工智能的广泛应用带来的公众隐私泄露风险。在人工智能时代，公众的隐私信息呈高度暴露状态，人工智能极易通过自主学习获取包含个人隐私的数据信息［4］，公民隐私权受到侵害的风险大大提升。人工智能参与行政执法使原本应该由政府部门独立掌握的隐私信息被迫开放给人工智能技术开发公司，因此面临着被不法利用的风险。

（三）公平性风险

1.人工智能运行依赖的原始数据不够中立

人工智能运行的基本模式是对海量数据进行归纳总结，通过构建算法模型来实现自动化决策。因此，基础数据的真实性、客观性、普遍性对于人工智能运行至关重要，直接影响决策结果的内容和质量。数据在收集、存储过程中可能产生瑕疵，原始数据自身的片面性也不容忽视。数据样本的选择缺乏全面性和数据样本存在固有偏见都可能导致原始数据不够中立，进而使人工智能决策缺乏公平性。

2.人工智能参与行政执法缺乏透明性

人工智能在实际应用中的“黑箱效应”不容忽视，算法一旦被设计出来投入使用便产生了天然的封闭性，应用人工智能的行政执法主体无法解释算法自动决策背后的原理，也难以预测可能产生的执法结果，导致行政执法过程的公开透明很难实现。社会公众由于对人工智能的认识不足，很容易对人工智能参与行政执法的公正性产生怀疑，进而加剧行政执法部门与社会公众之间的信任危机。

四、人工智能参与行政执法的风险规制

（一）合法性风险规制

1.明确人工智能在行政执法中的适用范围

行政机关应当明确人工智能参与行政执法的工具属性和辅助地位，坚持“以人为本”的执法理念，避免盲目服从和过度依赖人工智能。人工智能参与行政执法的具体环节、案件类型、参与方式、参与程度都要由行政机关进行前置性把控，把控的标准就是要符合法律规定和法律原则。行政机关应当合理划分案件类型，区分出哪些行政执法行为适合由人工智能自动化完成，哪些行政执法行为需要人工的干预。在具体案件的处理过程中，行政机关可以总结应用人工智能辅助行政执法的实践经验和教训，向立法机关提出完善相关法律法规的建议。

2.保障行政相对人的知情权和自主选择权

行政机关在使用人工智能进行行政执法时应当如实告知行政相对人，并赋予相对人合理怀疑的权利，面对涉及行政相对人利益的事项，行政机关有义务安排专业人员作出解释。在保障行政相对人知情权的基础上，应当视情况赋予相对人自主选择执法方式的权利，即有条件地允许相对人拒绝智能化执法。该自主选择权既包括案件首次处理时要求人工干预的权利，也包括对人工智能参与下的执法结果不满提起行政复议时拒绝人工智能参与的权利。应当注意的是，行政相对人的自主选择权应当由法律法规进行合理限制，明确自主选择权的行使范围和方式，防止行政相对人滥用权利造成行政资源的浪费。

（二）安全性风险规制

1.弥补技术安全漏洞

人工智能开发者应当承担社会责任，加强对人工智能系统的安全检测和风险预警，通过技术创新和算法修复最大程度地弥补人工智能存在的安全漏洞。政府作为人工智能的应用者，也应当加强内部网络的信息安全建设，通过构筑更加牢固的防火墙、完善网络安全监测系统来抵御黑客入侵。针对数据的安全性，行政部门在应用人工智能参与行政执法时不仅要规范数据的收集与储存方式，还要加强数据库的安全建设，尽量把数据安全风险降到最低。

2.重视保护公民隐私权

首先，要严格遵守《民法典》和《个人信息保护法》关于公民隐私保护的规定，在法律允许的范围内合理利用公民个人信息，公开信息收集的方式、目的、用途，由行政机关严格管控信息去向；其次，要着眼于人工智能参与行政执法带来的信息安全风险的特殊性，组织人工智能专家、法律专家、行政机关的执法专业人员开展专题研讨，有针对性地提出公民隐私权保护的建议，为法律法规的完善提供理论支撑。

（三）公平性风险规制

1.扩大数据收集范围，加强数据质量把关

针对由于数据信息遗漏造成的决策偏见，行政执法部门应该深入贯彻落实大数据战略，强化基础信息平台建设。为了提升数据资源的代表性和覆盖面，可以尝试利用人工智能的数据处理能力，收集特定行政执法领域的公众信息。针对数据本身可能隐匿的社会偏见，可以采用算法监测的技术治理手段。

2.完善法律法规，治理人为设置的算法黑箱

人工智能的应用不能完全依靠市场自发调节，应当从制度层面、法律层面予以规制。立法机关应当把人工智能应用领域的信息公开原则通过法律法规明确下来，在保护知识产权和商业隐私的合理范围内，要求人工智能研发机构适当公开算法的设计理念、工作流程，并及时向行政执法部门和社会公众说明算法决策的构建思路。同时应当补偿性地赋予处于信息沟通弱势地位的行政相对人一定的程序权利保障，具体来说就是使行政相对人面临智能执法可能对自身利益造成重大影响时，能够要求执法部门联合人工智能开发机构就智能执法的运行过程、决策依据等信息说明理由。

五、结语

法治不仅仅是要考虑当下，也要考虑未来［5］。随着人工智能在行政执法领域应用的逐步深入，如何论证智能执法的合法性、如何维护技术和隐私的安全性、如何保证机器执法的公平性等一系列风险成为不得不面对的现实议题。对此，我们既不能“因噎废食”又不能轻视风险，而是要加强顶层设计，从制度层面、法律层面为风险防控做出合理规划，并加强多方协作，形成风险治理的合力，以期实现技术发展与社会需求相适应、科技进步与法治建设相协调的良好局面。