人工智能在行政处罚中的应用及法律规制*

魏 琼,徐俊晖

(华东政法大学法律学院，上海 200042)

人工智能(1)人工智能(Artificial Intelligence)，简称AI，是对人的思维的信息过程的模拟。据人工智能是否具有自我思考能力并能否付诸于行动所作的类型划分，可以把人工智能分为弱人工智能、强人工智能和超人工智能。其中，弱人工智能(Artificial Narrow Intelligence，简称 ANI)不真正拥有智能，也不会有自我意识，如 Alpha Go围棋程序；强人工智能(Artificial General Intelligence，简称AGI)，是类似人类级别的人工智能，指在各方面都能和人类比肩的人工智能；超人工智能(Artificial Superintelligence，简称 ASI)则不仅具备人类的某些能力，而且还拥有自我意识和情感等，被认为具有超越人类的能力，即在所有领域及所有认知功能都超越人类，迄今，这种人工智能尚未到来，故在此暂不做探讨。，究其本质而言，是一套由算法和数据结构组成的程序。目前人工智能技术正处于弱人工智能与强人工智能并用的阶段，它作为一种技术赋能在我国行政处罚执法过程中得到了广泛而深入的应用。诸如智能监控、人脸识别、智能辅助办案等网络化、数字化及智能化技术，在行政处罚执法中的运用已经相当普及。行政处罚权与这些新兴技术之间实现了全新的结合，行政机关的行政管理能力和法律执行力因此得到了强化，大大加快了我国智慧处罚的进程，为此，对应用于行政处罚执法中的人工智能进行法律规制，也被提上立法议程。

日前，公布的《中华人民共和国行政处罚法(修订草案二次审议稿)》(以下简称《行政处罚法(修订草案二次审议稿)》)正处于征求意见阶段。其中第39条(2)2020年10月21日公布的《中华人民共和国行政处罚法(修订草案二次审议稿)》第39条：行政机关依照法律、行政法规规定利用电子技术监控设备收集、固定违法事实的，应当经过法制和技术审核，确保电子技术监控设备设置合理、标准合格、标志明显，设置地点应当向社会公布。电子技术监控设备记录违法事实应当真实、清晰、完整、准确。行政机关应当对记录内容进行审核，未经审核的，不得作为证据。行政机关应当及时通知当事人违法事实,并采取适当措施,方便当事人查询、陈述和申辩。系属新增条款，对行政机关利用电子技术监控设备作出了明确规定。电子技术监控设备在行政处罚执法中的主要用途，系作为证据获取的工具之一，用于对相对人违法事实的收集与固定，它尚属于弱人工智能技术的一种运用。这一修订条款表明了电子技术监控设备的合法、合理应用对我国行政处罚执法活动的意义十分重大。但我们认为，此一条款还不足以解决人工智能在行政处罚执法中的法律适用问题，对于人工智能在行政处罚中的应用宜予以更为明确、全面的规范，以引领行政处罚执法的智能化，充分服务于我国法治政府与数字政府建设的大局。

鉴于此，本文基于人工智能与行政处罚的可交互性，拟全面考察人工智能在行政处罚执法活动中的应用及意义，提出对应用于行政处罚中的人工智能进行法律规制的若干设想，以确保其按照正确而科学的方向发展，助推依法行政与人工智能的双向融合，实现行政法治的现代化。

一、人工智能与行政处罚的可交互性

(一)人工智能在行政处罚中应用的可行性

随着计算机、互联网等技术的不断革新，数据、算法和算力业已成为新兴的发展动力和技术支撑，迅速地渗透到公权力运行的各个领域，其中就包括行政管理领域。在行政处罚案件中人工智能从海量的信息收集与分析、图像的感知，到内容的深度学习与决策等，无疑是对行政处罚这一执法过程的模拟，是处罚智能化的最直观表现。而将人工智能应用到行政处罚中的可行性主要体现在以下三点：

首先，就行政处罚的行政行为属性而言，作为最常见也是与民众利益切实相关的行政管理活动，将人工智能应用到行政处罚中符合信息化时代建设法治政府的要求，是实现行政管理智能化的重要举措。在行政处罚中应用人工智能将推动国家治理从智慧治理走向智能治理，提升国家治理的精准化、精细化和现代化，极大地提高社会治理的能力和水平，有效维护社会稳定。

其次，就行政处罚的合法性要求而言，人工智能与行政处罚有着很好的契合度，行政处罚最基本的要求是程序的规范性，而通过人工智能的应用，在对行政相对人进行处罚时，可由人工智能系统来完成，诸如立案、调查、决定及送达等法定程序，极大减少了由人进行程序而产生的一些不规范现象。不仅如此，人工智能对于行政处罚案件的大数据统计分析，也对行政处罚机关开展这类行政执法有重要的指导意义和参考价值，人工智能的应用将会促进《行政处罚法》的有效实施，确保行政处罚更加规范、更加高效，最终实现处罚智能化。

再次，就行政处罚的合理性要求而言，应用人工智能是基于行政处罚执法的现实需要。相比其他行政活动，行政处罚的案件数量较大，重复率高，耗费人工的行政处罚过程势必导致大量行政管理资源的浪费。加之，行政处罚大多属于裁量性活动，其裁量往往面临着对当事人违反行政法律规范的行为是否处罚和如何处罚这两大判断与选择难题。在对当事人涉嫌违法行为的定性、定量等处罚裁量判断和对涉嫌违法行为的处罚种类、处罚幅度的裁量选择上，传统的处罚执法有时很难做出适当的抉择，甚至由此也可能会造成处罚严重不公，将人工智能应用于依法行使行政处罚裁量权过程，就有可能修补行政处罚执法的这些不足。

可以说，人工智能的自身优势和实用价值促使它能够被广泛地应用于行政处罚执法之中，并日渐成为一种执法趋势。

(二)人工智能与行政处罚执法实践的可交互场景

从历史发展看，我国的人工智能发轫于改革开放之初，历经四十多年，人工智能在各个领域获得了突破性发展，积累了宝贵经验。近年，政府及其职能部门一直在积极探索自动化行政，将人工智能应用到行政处罚执法实践中，以提高社会治理能力。

早期的弱人工智能在行政执法中已相当普及，它表现为“自动化”办公抑或是成为电子政务的有机组成部分，这一人工智能解放了作为主体的人的脑力资源。处于这一阶段的人工智能可以自动收集获取某种数据，形成一定的结构化，固化为“视听资料”“电子数据”等行政证据。例如，智慧警务应用电子眼进行证据搜集，环保部门通过对污染源的工况监测、监控分析、视频监控、传感器实时在线监测等实现智慧监管，为后续有可能做出的行政处罚决定搜集视频证据。

在当下，人工智能机器借助于“补强人的决策”这一特征，不断增强客体自主感应主体需求的能力(3)李亚凝.无人机分类与法律规制[J].中国应用法学,2019，(6)：25.，即利用人工智能技术能够对视频数据进行结构化处理，密切联系行政处罚机关的执法需求，采用先进的深度学习、高性能运算及大数据技术，打造一套集视频结构化分析、数据存储、数据应用于一体的数据支撑系统解决对行政相对人的特征识别和快速检索，同时还能实现预警、布控、研判等多种应用，提高行政处罚办案效率。人工智能在视频内容的特征提取、内容理解等方面有着天然优势，从技术层面来说，人工智能可以赋能监控的各个环节：前端摄像机内置深度学习算法，可识别人、车、物等属性信息，实时分析视频内容，并传递到后端AI中心数据库进行存储，数据中心利用强大的计算能力及智能分析能力，对目标进行实时分析，多维碰撞，得出有用有效的线索信息。

比如，在治安管理领域，指纹识别、人脸识别、视网膜识别、虹膜识别、掌纹识别等技术在社区警务可用于辨别寻找行政相对人。又如，在环境管理领域，通过机器视觉等在环保部门用于大气、水、土壤等的生态环境监测，对超标现象进行预警。在其他的行政管理领域，人工智能技术也正在深度介入各种执法活动之中。譬如，海关将人工智能应用于机检查验方式，模拟人在审核图像过程中的智力活动，实现智慧机检，捕捉涉嫌违法的证据；证券交易委员会通过人工智能快速识别可能涉及内幕交易的违法活动等，不一而足。这些“自动化”举措，无疑促进了人工智能和行政处罚执法的进一步融合，并在具体运用之中积累了丰富的经验，为进一步开展智慧政务，实现行政管理的精简高效打下了夯实基础。

如前所述，弱人工智能被运用于各种行政处罚领域，主要是作为辅助工具，用于信息、数据的收集与处理，并促使行政处罚过程电子化、数据化。在行政处罚决定作出的阶段，弱人工智能适合于一些具有重复性、技术性不高的处罚事项上。如违法事实确凿并有法定依据，适用简易程序的处罚决定。这类运用多见于交通执法领域，通过开发机动车违停抓拍处罚提示系统，实现了自动取证及预警功能、多渠道提醒信息即时发布功能、根据违法程度采取不同的柔性执法处理功能，从而提高了社会治理的精准化水平。此外，我国首个环境行政处罚智能办案系统于2019年12月通过专家论证。该系统就运用了弱人工智能，内置了生态环境执法常用的400多个环境违法案由和2万多个环境违法行为数据，将立案、调查取证、告知、合法性审查、决定、执行、结案等执法程序设置成软件操作程序，实现“操作信息化、过程痕迹化”的全过程记录和合法性审查全覆盖。

而强人工智能则因其类似于人类，拥有自主心智、独立意识、机器情感，通过自我调整能对流程进行重新设计、重组，通过高级算法、自然语言处理、机器学习等，实现人机互动。随着我国行政法治科技化程度的日益提升，行政处罚机关借助强人工智能系统自主地作出行政处罚决定，甚至在事前或者事中就启动人工智能系统向行政相对人发出行政指导，告知行政相对人应如何遵守法律，规范自己的行为；告知行政相对人是否存在轻微违法现象，对其进行劝诚与引导。甚至借助于“人机对话”，释明法律法规等相关规则，进行所谓行政约谈，以实现预警与防范相结合。

显见，人工智能在行政处罚中的应用场景及愿景日趋明晰与精细，彰显出人工智能与行政处罚执法活动之间的交互现实与融合的巨大潜力。

二、人工智能在行政处罚中的应用及意义

如何规范行政处罚一直是我国深入推进依法行政，加快建设法治政府的重要课题之一。处罚权限不明晰、处罚证据不确凿、处罚依据不明确、处罚程序不规范及执法人员不遵守程序等，都是当前我国行政处罚实践中亟待解决的问题。而人工智能时代的到来，为行政处罚法的有效实施提供了“润滑剂”，以智慧处罚的全新模式助推行政处罚法治现代化的程度，使得规范行政处罚有了新思路、新方式。人工智能在行政处罚中的具体应用，表现在以下五个方面：

(一)人工智能在行政处罚裁量基准规定中的应用及意义

在我国，有关行政处罚的规范性文件不计其数，特别是现行《行政处罚法》允许下位法可在上位法设定的处罚行为、种类、幅度内作出具体规定，拥有行政处罚规定权的有权机关(通常情况下是各地政府及其职能部门)所制定的行政处罚裁量基准也千差万别，难以统一。例如，对违反垃圾分类行为的当事人进行处罚等这类新事项的裁量基准，因地区不同而形成的处罚规则差异甚大。因此，在细化行政处罚裁量基准之际，这些有权机关有必要导入人工智能，以提高行政处罚裁量基准的精准程度。

在设定行政处罚裁量基准时，人工智能的应用可实现信息检索和听取公众意见的智能化。如通过相关法规检索、类案分析，整合违法行为的性质、情节、社会危害程度和悔过态度，实现情节的类型化和量化、处罚分格化，确保这一处罚裁量基准制定的科学性，并为不同机关行政处罚裁量基准制定提供一个可借鉴的模板。同时，人工智能系统也可以通过对行政处罚裁量基准进行公开，收集、筛选、归并、总结公众意见，甚至可以实时互动、及时反馈这些意见，这能强化相关部门及公众等对该行政处罚裁量基准的监管和评估，进而提升行政处罚裁量基准规定的民主性和公众的参与度。诚如，规则如何制定需要考量其中的“数值”，即通过人工智能可更好地发现其中变量。变量分析越细致，规则制定越科学(4)[日]松尾丰,盐野诚.大智能时代：智能科技如何改变人类的经济、社会与生活[M].陆贝旎译.北京:机械工业出版社,2016：59.。比如，四川省成都市成华区积极推行行政处罚电子化平台建设，建立网上自由裁量标准数据库，细化标准7160条。通过人工智能将处罚环节流程化、裁量标准电子化，该区相关部门执法人员输入违法行为的主要裁量参数，系统自动抽取相关法律法规及自由裁量标准，可为是否处罚以及处罚的种类和幅度提供相关查询。

因此，人工智能在细化行政处罚裁量基准过程中的应用，有助于这一行政处罚裁量基准规定更加合法、合理，也为处罚案件的承办机关及其行政执法人员提供了更具操作性的裁量参考。

(二)人工智能在行政处罚立案中的应用及意义

行政处罚的案源一般来自国家行政机关依职权在日常监管、巡查中的发现，或来自群众举报，受害人投诉等(5)《市场监督管理行政处罚程序暂行规定》(2019年4月1日起施行)第17条：市场监督管理部门对依据监督检查职权或者通过投诉、举报、其他部门移送、上级交办等途径发现的违法行为线索，应当自发现线索或者收到材料之日起十五个工作日内予以核查，由市场监督管理部门负责人决定是否立案；特殊情况下，经市场监督管理部门负责人批准，可以延长十五个工作日。法律、法规、规章另有规定的除外。。人工智能首先被应用于信息、数据的收集与处理，捕获行政处罚案件线索，启动行政处罚的立案程序。具体表现为行政处罚机关在行使职权过程中，通过人工智能流程化地接受和收集信息，由此形成信息系统并由人工智能在纷繁复杂的信息中分析解读相对人的违法行为、评估违法情节，进而触发响应或与其他数字系统(立案系统)进行通信，以此替代传统的通过行政治安巡逻等采集信息的过程。如江西省鹰潭市市场监管局利用智慧管理平台对后厨作业区域进行实时的监控并智能化地分析后厨作业人员的行为规范，该系统将对未戴帽子、口罩进入操作区的不规范行为进行抓拍并在平台上预警，其后台指挥中心可第一时间发现并指派相关人员现场检查，搜寻立案的各种线索。

通过人工智能的引入，对已有的违法情形和行政处罚案例数据进行多维度分析，并对行政处罚争议多发的地点、人群、趋势进行关联分析，预测违反行政法律规范行为发生的概率及分布，有助于选择性地将稀缺行政执法资源(包括执法人数、执法设备、财政拨款等)配置在风险更高的地方。与此同时，针对更有可能发生的违法行为、违法主体加强行政检查，适时依法作出行政处罚，提高行政执法力度，确保“好钢用在刀刃上”(6)宋华琳,孟李冕.人工智能在行政治理中的作用及其法律控制[J].湖南科技大学学报(社会科学版),2018，(6)：85.。如浙江省杭州市于2018年9月发布的城市数据大脑，具备自动发现套牌改装、乱停乱放等110种交通乱象的能力，对其进行规律性分析，判定哪些是堵点、乱点、事故隐患点，以帮助交警部门实现警情处置。

因此，人工智能在行政处罚立案阶段的应用，有助于节约行政执法成本，缩减了行政执法机关对当事人违反行政法律规范行为、情节及事件的响应时间，大大提高了行政执法的效率。

(三)人工智能在行政处罚调查中的应用及意义

传统的行政处罚调查程序也需要信息引擎来确定案件中的违法事实，以此作出行政处罚决定。一般情况下，相对于行政相对人的违法行为而言，对其进行的行政处罚往往具有滞后性。大多数行政处罚机关无法及时发现并制止相对人的违法行为，或是发现违法行为时关键的证据与事实已无法固定考证，使执法人员难以确定违法情节和处罚幅度。在此情况下，行政处罚机关可利用人工智能收集、固定违法行为证据(7)《市场监督管理行政处罚程序暂行规定》(2019年4月1日起施行)第23条：市场监督管理部门可以利用互联网信息系统或者设备收集、固定违法行为证据。用来收集、固定违法行为证据的互联网信息系统或者设备应当符合相关规定，保证所收集、固定电子数据的真实性、完整性。。如前述的我国首个环境行政处罚智能系统，就按照程序自动指引违法证据收集、裁量证据收集。

随着人工智能的研发与革新，越来越多的新兴技术被应用于行政处罚的调查阶段，电子技术监控设备等能够进行全天候监控作业，实时捕获违法、违章信息，使之成为作出行政处罚决定的确凿证据来源。目前，人脸识别、车辆深度识别等作为人工智能最重要的一个应用分支，其高速自动识别能力在行政处罚执法收集并固化证据中得到了更为广泛的应用。以道路交通违章的调查取证为例，一些中大城市打造了智能交通管理网络，以“天眼”为基础，建立电子警察系统、测速卡口系统、非机动车监测系统、前后牌照对比系统、违停系统、礼让行人系统、行人闯红灯系统、违停系统等，在此基础上，应用人工智能对人、车、非机动车等目标进行深度识别和自动化分析，按照技术标准形成车辆违法的电子数据，实时报送交通执法机关，触发行政处罚执法相关程序的依法启动(诸如依法审核这些电子证据、拟定违法车辆进行处理、告知违法者等)。

因此，人工智能在行政处罚调查中的应用，促使行政处罚机关能够全面而高效地收集、固定违法事实，提高了办理行政处罚的调查取证能力，有助于依法全方位查明案件的客观事实，增强相关证据的确凿程度，确保了行政处罚结果的合法性。同时，运用光学字符识别、自然语言处理、要素提取、机器学习等人工智能新技术，实时、精准、全面、科学地对证据进行校验、提示、把关、监督，可及时发现证据中存在的瑕疵和证据之间的矛盾，并及时提示给办案人员，由办案人员决定是否补正或者作出，能有效防范不当执法。

(四)人工智能在行政处罚决定中的应用及意义

效力位阶不同的法律规范性文件，对行政处罚的种类和幅度有不同的规定。拟作出行政处罚决定过程，就是适用这些法律规范性文件的过程。在此过程中，一旦行政处罚机关及其执法人员对当事人违法行为的处罚种类、幅度把握不准，甚至滥用行政处罚权或超越行政处罚权，就可能有违平等原则，作出明显不当(显失公平)的行政处罚。

而人工智能可以通过深度学习对大规模的先例处罚决定进行分类、聚类、分析和关联，在考量行政相对人情况，例如违法成因、动机构成、违法所得、危害后果、认过悔过等因素基础上，建立比对模型，并搜寻正确适用的法律法规依据，对拟处罚案件作出预测。如北大法宝智能行政执法助手能够进行违法裁量智能预测、相似案例推送、裁量依据智能推送、智能案例检索、智能化数据分析等，行政执法人员在平台简单输入违法事实后，该系统可以根据机器识别的违法要素进行智能预测处罚结果。同时，在行政处罚决定作出前，行政处罚机关领导审核签名、行政相对人陈述申辩过程、行政处罚机关决定讨论的信息反馈等，也可以应用人工智能。

因此，人工智能在行政处罚决定中的应用，在一定程度可实现类案类罚，能够避免行政处罚裁量过程中出现恣意妄为的腐败案、人情案等弊端，力保处罚决定的一致性、公平性，使得合法、合理的行政处罚决定更经得起质疑与监督。

(五)人工智能在行政处罚执行中的应用及意义

行政处罚的有效执行是观察法治政府建设成效的显微镜、晴雨表和橱窗口。人工智能可以应用于以下两个方面，即一方面，对行政相对人而言，行政相对人通过人工智能履行行政处罚的法定义务(如缴纳罚款等)、投诉及查看相关法律依据等，维护自己合法权益，避免在行政处罚执行中遭受人为的干扰，这也是高效便民原则的体现，践行了服务型政府的要求。另一方面，对行政处罚机关而言，通过人工智能的信息系统能及时提醒、督促当事人按期执行行政处罚决定，监督被处罚人加强后续整改落实，充分发挥行政处罚惩戒教育作用。特别是对被从业禁止、可能被“三振出局”(8)《中华人民共和国食品安全法》第134条：食品生产经营者在一年内累计三次因违反本法规定受到责令停产停业、吊销许可证以外处罚的，由食品安全监督管理部门责令停产停业，直至吊销许可证。处罚以及逾期不履行罚款义务而需缴付滞纳金的行政相对人，人工智能实时监督这些行政相对人的履行情况，确保行政处罚决定有效执行。此外，人工智能还可以通过嵌入社会信用体系，依法对行政处罚执行结果进行公示，甚至在法定授权范围内对失信主体实行联合惩戒，使其“一处违法、处处受限”，以维护执法权威和法律尊严。

因此，人工智能在行政处罚执行中的应用，为行政处罚决定提供了快捷高效的执行平台，既简化了行政处罚决定执行流程，又加强了在行政处罚执行中对行政执法人员、行政相对人的监督，提升了行政处罚执行的效果。

三、行政处罚中人工智能应用的法律规制

人工智能应用于行政处罚过程能显著提升行政处罚工作的质量与效率，智慧处罚(9)魏琼，徐俊晖.人工智能应用于处罚的风险治理[J].河南财经政法大学学报，2020，(5)：86.势在必行。人工智能算法的“公共性”应用会产生一系列潜在风险，包括算法的不透明风险、算法的“偏见”风险以及算法的“权力异化”风险等(10)孙清白.人工智能算法的“公共性”应用风险及其二元规制[J].行政法学研究，2020，(4)：58.。一般地说，人工智能的法律规制措施包括制定人工智能专门立法、设计人工智能伦理框架(11)马长山.人工智能的社会风险及其法律规制[J].法律科学(西北政法大学学报),2018，(6)：53.，结合法律和技术手段建立对人工智能的风险控制机制(12)吴汉东.人工智能时代的制度安排与法律规制[J].法律科学(西北政法大学学报),2017，(5)：128.。就人工智能应用于行政处罚而言，人工智能在行政处罚中的应用应当遵循怎样的程序，人工智能在何种情况下参与行政处罚，人工智能可以参与行政处罚的哪些领域等，都需要通过法律来明确，以防止人工智能在行政处罚过程中的滥用、错用及怠用。

(一)合理定位人工智能

1.明确人工智能可应用的处罚领域与适用条件

随着人工智能的发展，由人工智能处理复杂的行政处罚活动，绝非空想。但这并不意味着人工智能可以完全取代行政处罚机关及其执法人员。况且，也并非所有行政处罚都适合应用人工智能。特别是在不宜应用人工智能或者人工智能难以胜任的重大、复杂行政处罚案件中，行政处罚机关及其执法人员应用了人工智能，或依赖人工智能为主要执法方式的，就有涉嫌滥用行政处罚权的可能。因此，应用人工智能进行行政处罚时，不可过度依赖它，应将其定位成辅助工具，要求以人类为中心的工作理念、构建人与人工智能的“合作观”，平衡效率与价值之间的冲突(13)姜素红,张可.人工智能辅助地方立法的应用与规制[J].湖南科技大学学报(社会科学版)，2019，(4)：144.。在法律架构中，也应明确人工智能在行政处罚中应用的领域与条件，必要时采用许可制及严格禁止的方式予以规范。许可制意味着经过充分测试或验证的AI程序才可得到正式使用，严格的批准程序是AI有效性的保证；许可制也意味着更广泛对话的可能，实现通过充分的讨论来确定模型的构建，主要是各种变量的权重。

在行政处罚与AI融合方式上，必须得设置“最后看门人”机制，执法人员应当审查AI处理结果的理由及逻辑，形成“AI预处理+执法人员最终决定”的模式。只不过在执法人员介入的程度上应视案件的复杂程度区别对待(14)李晓楠.可信赖AI司法：意义、挑战及治理应对[J].法学论坛，2020，(4)：125.。对于起辅助作用的弱人工智能，比如执法记录仪等，宜将其定位为执法人员的助手，用来处理技术性、辅助性的活动，如执法记录、资料收集、处罚决定文书的制作等。一般情况下，这些经核准投入使用的弱人工智能，被运用于处罚案件调查取证，其条件不受限制。对于有识别、分析、推演等智能功能且其活动对行政相对人权利义务产生或者可能产生实际影响的这类人工智能则宜采用更为严格的许可制以限制其应用，特别是将这类人工智能应用于行政处罚案件哪一环节，须事先有更为严格而明晰的规定。例如，对于道路的交通指导、违法行为能进行识别、分析、证成等这类人工智能，就主要运用于那些违法事实确凿并有明确法定依据而按照简易程序进行或适用快速办理的行政处罚案件(15)《公安机关办理行政案件程序规定》(2019年1月1日施行)第40条：对不适用简易程序，但事实清楚，违法嫌疑人自愿认错认罚，且对违法事实和法律适用没有异议的行政案件，公安机关可以通过简化取证方式和审核审批手续等措施快速办理。。对案情情节复杂或重大违法行为应给予较重处罚的行政处罚案件，人工智能可以被运用于行政处罚案件的调查阶段，但须慎重介入行政处罚案件的决定阶段，甚至不宜介入决定阶段，否则就会很容易出现算法“偏见”或算法“权力异化”。

据此，现行《行政处罚法》修订时，有必要增补关于人工智能应用于行政处罚的适用条件这类条文。从立法例的角度，建议这类条文不妨采用列举的方式，从肯定方面和否定方面来罗列出哪些能应用人工智能，哪些不能应用人工智能的范围，以具体规定明确人工智能在行政处罚中的应用领域与条件。同时，宜规定一个兜底性的适用条款，防止法律的不周严性以及社会情势的变迁性。甚至，一定层级的行政处罚机关也可以制作相应的规程或指南，专门规范人工智能在行政处罚案件中的应用。

在此，建议《行政处罚法》修订时，宜增加以下的内容：行政机关在下列事项中，可以在行政处罚执法中应用人工智能：(一)违法行为的识别分析证成；(二)违法事实确凿并有明确法定依据，可以当场作出行政处罚决定；(三)适用快速办理的行政处罚案件；(四)其他技术性、辅助性执法。对情节复杂或重大违法行为的行政处罚案件，禁止行政机关直接应用人工智能介入行政处罚决定。

2.制定标准化的规范标准

《行政处罚法(修订草案二次审议稿)》第39条的规定要求“应当经过法制和技术审核，确保电子技术监控设备设置合理、标准合格、标志明显”。但我国尚未建立人工智能进入行政处罚领域的行政许可制度。因此，有必要在制度层面建立健全对人工智能的审核认证程序，制定对审核认证前的测试标准与规则等规范标准。由一定层级的立法机关或者行政处罚机关与有关部门联合从标准化入手，制定颁布相关的标准化的规范性文件，在这些规范性文件中细化人工智能应用于行政处罚的技术规范和准入条件，确定规范标准，运用科技与法治相结合来规范人工智能，实现事前监管，以防因人工智能的应用导致处罚违法情形的出现。统一的技术标准也能一定程度上限制算法设计者的编写行为，有助于降低算法的“权力异化”风险。在执法实践中，人工智能的这些技术和产品一旦应用到各个行政执法领域，就有可能会涉及相应行业的准入资格、资质取得，故有必要采取“高准入、严许可”(16)汪庆华.人工智能的法律规制路径：一个框架性的讨论[J].现代法学,2019，(2)：61.进路，实行分类化管理。

进行信息识别和处理的弱人工智能应当保持一定的准确性，并根据不同的行政处罚机关的执法事项设置不同的标准，如环保部门用于检测污染物的人工智能应当进行量化，与构成处罚标准的指标相匹配；市场监管局用于识别违禁物品时，只需要能够识别出其信息，保证与正规物品比对图片的清晰。对处理存在保密信息的行政处罚案件的人工智能也需根据机密性设置不同的安全标准，个人隐私、商业机密、国家秘密的数据安全级别要更高。据此可制作相应的标准化手册，为行政执法人员提供拟行政处罚决定的参照。

值得注意的是，随着AI科技的进步、行政执法的需要及社会的发展，人工智能可能通过不断抓取新的数据或对外界环境的反馈，更新其预测模型。为此，该标准化的规范性文件及其应用手册也须时时更新，不断调整。

(二)坚持正当程序约束

1.公开透明

在抽象体系的交汇口，连接公众与信任关系的当面承诺，通常表现出明白无误的可信任性与诚实性，并伴随着一种“习以为常”或“镇定自若”的态度(17)[英]安东尼·吉登斯,现代性的后果[M].田禾译.南京:译林出版社，2011.73.。故现代社会需要一个公正透明的政府，以增强公众对政府的信赖。行政处罚中应用的人工智能(如算法等)会直接或间接影响行政相对人的利益，所以行政处罚机关要遵循公开原则，做到技术上的透明，包括事先透明和事后透明。在以算法驱动的AI政务系统中，透明度不仅是一种“清晰可见的状态”，更是一种观察和了解甚至参与系统运行的方式(18)Danielle Keats Citron & Frank Pasquale, “The Scored Society: Due Process for Automated redictions”,Wash.L.Rev.,2014,p.25.，强调算法透明度的关键不只在于披露算法的具体内容，还在于向利益相关者披露算法的运作原理和决策生成过程。

事先透明，即在使用人工智能前，应当向全社会公布算法内容，包括公布行政处罚拟决定的算法流程，公开验证算法时所生成的适当记录，开发风险预测和裁量基准算法时考虑的变量与赋权比重(19)R. Brauneis , EP Goodman , “Algorithmic Transparency for the Smart City” ,Social Science Electronic Publishing, 2017, p.2.。据此，对决策程序加以合法性与合理性解释，可通过相应途径、形式(如座谈会、听证会、论证会)听取相对人意见。但在这一过程中不建议完全公开代码和数据，因为完全公开有可能泄露隐私数据甚至危及国家安全，也可能为行政相对人采取行动来规避人工智能治理提供通道(20)Paul B.de Laat , “Big Data and Algorithmic Decision-Making”,Acm Sigcas Computers & Society , 2017 , p.39.。事后透明，即指事前不知决策的过程及程序，但事后通过对人工智能绩效的监测、可解释化的算法等，可以推导出其决策的整个过程。简言之，即公开结果，利用倒推法得知决策过程。

《行政处罚法(修订草案二次审议稿)》第44条(21)《行政处罚法(修订草案二次审议稿)》第45条：行政机关应当依法以文字、音像等形式,对行政处罚的启动、调查取证、审核、决定、送达、执行等进行全过程记录,归档保存。新增规定要求对行政处罚进行全过程记录。可见也应要求对人工智能系统运行过程予以完整记录，如德国相关立法必须安装“黑匣子”(22)德国《道路交通法第八修正案》(2016年)对自动驾驶数据的记录要求，载有高度或全自动化功能的汽车必须根据通用的国际技术标准来记录汽车在某一时刻究竟由驾驶人控制，还是由高度或全自动化功能控制，即“黑匣子”记录功能。。应用人工智能完整记录当事人的行为是一把“双刃剑”。“黑匣子”在信息保留时效内可作为争议解决的证据，便于事后追究行为人的法律责任，在行政处罚案件中亦是如此。而人工智能来了更多的隐私获取性(海量信息、数据的收集和对数据进行知识抽取)，极大地增强了入侵行政相对人隐私的能力，况且这一侵害隐私的行为也极具迷惑性，很可能引发严重的隐私危机(23)郑志峰.人工智能时代的隐私保护[J].法律科学(西北政法大学学报)，2019，(2)：51.。“黑匣子”作为证据使用时的公开透明还可能增加个人数据和隐私被滥用的风险。对此，美国的相关立法规定强化了“隐私权”保护(24)郑戈.人工智能与法律的未来[J].探索与争鸣，2017，(10)：83.。在我国，对《行政处罚法》的修改中，对于应用人工智能的公开程序等也需做类似的规定，以确保其合法、适当。

透明，还意味着问责的可能性。当系统出现误判时，诸如行政处罚中明显考虑了相对人的职业特征，或引用了错误法条时，透明性有助于找出智能系统产生歧视或功能偏差的原因，如识别出AI出现的偏差，究竟是开发人员或使用人员故意导致，还是AI系统深度学习的结果，以实现责任的准确归结(25)李晓楠.可信赖AI司法:意义、挑战及治理应对[J].法学论坛,2020，(4)：124.。

2.说明理由

公权力的运行离不开法定程序乃至正当程序。正当程序蕴含着尊严、平等、秩序、公正和效率基本价值，构成了法治国家的基石(26)章剑生.行政程序正当性之基本价值[J].法治现代化研究，2017，(5)：102.。因此有必要通过说明理由制度在行政处罚决定送达过程中实现程序性权利的价值，保障行政相对人权利(27)宋华琳.英国行政决定说明理由研究[J].行政法学研究，2010，(2)：103.。我国《行政处罚法》规定了说明理由制度(28)《中华人民共和国行政处罚法》第31条第1款：行政机关在作出行政处罚决定之前，应当告知当事人作出行政处罚决定的事实、理由及依据，并告知当事人依法享有的权利。。一旦某一行政处罚案件应用了人工智能，那么它的特殊之处还在于，要求行政处罚机关应向行政相对人就人工智能系统的结果或行为作出解释。为此，在对《行政处罚法》的修改中，建议针对该法第31条增补相关内容的条款，应当对应地增加《行政处罚法(修订草案二次审议稿)》第42条的内容，作为该条的第二款，该款宜明确地规定：对于应用人工智能的行政处罚，在作出行政处罚决定之前，应当告知当事人，并解释人工智能系统的结果或行为。

行政处罚机关及其执法人员向当事人解释的内容，至少包括以下五个方面：第一，解释证明人工智能采集的电子证据的合法性、合理性；第二，解释处罚决定作出所考虑的主要因素，以及各因素的不同权重；第三，解释究竟是哪些因素会改变处罚决定，且哪些因素才是决定性的；第四，解释为什么相似情况可能有不同决定，为什么不同情况可能有相似决定(29)Doshi-Velez F, Kortz M, Budish R ,et al, “Accountability of AI under the Law: The Role of Explanation”,Social Science Electronic Publishing, 2017, p.5.；第五，解释人工智能应用中算法的准确性和科学性。以上这些解释内容一旦出现缺位或者缺项，即意味着该处罚决定说明理由的欠缺，会导致相应行政处罚决定的无效或依法被撤销。

此外，正当程序原则要求在人工智能应用于行政处罚时，行政处罚机关不能既做算法的评分裁判者又做算法的事实参与者(30)何渊. 智能社会的治理与风险行政法的建构与证成[J].东方法学，2019，(1)：76.。行政处罚机关也需要遵循可辩驳原则，在人工智能对行政相对人作出不利的评价之前，必须给其辩驳(陈述、申辩)、要求说明理由及听证的权利，以保障相对人的合法权益。如欧盟《一般数据保护条例》第71条即有规定：“数据主体有权获得人工干预，表达其观点，获得针对自动化决策的解释并提出异议的权利。”

在实践中，如何要求自建大数据平台、人工智能系统的行政处罚机关依法定乃至正当程序应用人工智能，防止其行政处罚权的“暗箱操作”和滥用，这是一个值得重视的问题。在未来，强人工智能在自动化作出行政处罚决定时，宜赋予受罚人依法享有免于自动化行政处罚决定的权利，这也是正当程序的要求之一。

(三)全面监管人工智能

1.建立专门的监督制度

通过明确适用条件、确定规范标准、定期评估测试等，力争实现行政处罚机关对人工智能运用的自我监督。我国现行《行政处罚法》规定了对行政处罚的监督制度(31)《中华人民共和国行政处罚法》第54条第1款：行政机关应当建立健全对行政处罚的监督制度，县级以上人民政府应当加强对行政处罚的监督检查。，故而，从整个法治建设的框架出发，对人工智能应用于行政处罚，也有必要从外部对它进行实时监督，从而形成一个比较完备的专门监督制度，为此，首要之举是设置一个专门的监督机构。

根据我国《宪法》与相关组织法的规定，在国务院部委层面或者省级人民政府建立针对行政执法中人工智能的专门监督机构。该机构的主要法定职责是监管数据、算法等人工智能的应用，规避隐私泄密和网络安全风险，避免因数据不全面、不准确或因算法黑箱导致的行政违法(包括显失公平的行政处罚等情形)。由这一监督机构搭建一个监督平台，形成“政府——平台——大众”的多元互动构架(32)马长山. 智能互联网时代的法律变革[J].法学研究，2018，(4)：36.。该机构可通过平台针对不同的行政处罚机关开设不同的窗口进行专门监督，并发布相适应的标准化规范和指导政策；行政相对人及其他公民、法人也可通过平台向监督机构反映情况和投诉维权，参与纠纷解决。如在环境监管中，企业对自动监测数据进行造假，以至于人工智能受限无法及时发现不法行为，但周边居民较易察觉周边环境质量，故公众可通过平台参与环境行政执法监督，促使环保部门采取措施。

有效的监管不仅在于事前准入的规制以及对违规行为的事后纠正与处罚上，而且需要在事中有效预防及控制风险。应当构建由事前准入及测试、事中实时动态监测、事后风险处置反馈系统组成的智能环路监管机制。可借鉴金融领域的监管措施对行政处罚中应用的人工智能采取“穿透式”监管(33)乔海曙,王鹏,谢姗珊.金融智能化发展：动因、挑战与对策[J].南方金融，2017，(6)：3.。具体做法有二：一是建设基于大数据模型的法律风险实时监测处置平台，对主要执法领域实施及时监控，实现快速响应、自动预警的智慧处置乃至处罚、监管。二是应用“监管沙箱”监管行政处罚，通过专门的监管机构、行政机关及相关当事人与广泛的数据运营商等合作，产生高度自动化和有效的“数据驱动”型监管体系，根据行政违法的特征来确定对行政处罚中的人工智能的监管要求和监管分工，把风险控制在重要领域，以此实现智慧处罚的合法、合理。

2.定期进行评估测试

行政处罚决定关乎行政相对人的切身利益，人工智能的误判极有可能将行政相对人带入“深渊”。算法偏见和算法黑箱，有时也可能严重影响行政处罚的公正。实践中就存在关于人工智能准确性、合法性的争议，如上海电子警察抓拍违法鸣笛行政处罚诉讼案的争议焦点，就在于交警支队提交的电子技术监控设备记录的内容是否具有证明力。行政处罚既是依职权的执法行为，也是负担性行政行为，在行政处罚中哪怕有1%的失误，都有可能侵犯相对人合法权益，引发行政争议。为此，《行政处罚法(修订草案二次审议稿)》对电子技术监控设备记录违法事实提出了清晰准确的要求。与此同时，行政处罚机关及其执法人员在应用人工智能前必须确保其安全准确，不仅需要查看人工智能系统所使用的数据集，还需查看算法中描述变量、相关性和结论的源代码与程序员的注释。同时，应当组织或者委托相关技术机构及其技术人员测试人工智能系统是否违背法律法规及伦理规范、是否准确写入相关规则、是否符合应用的规范标准，测试平台应当能够测试人工智能系统的偏差、偏见和任意性。总的说来，围绕着人工智能行政处罚系统的功能定位，在实践中，诸如白盒测试(诸如代码审查等)，黑盒测试(等价类划分法、正交试验法等)等技术测试手段，均应当在行政处罚过程中得以充分的运用，以期发现人工智能程序使用中可能存在的错误，实现人工智能的鲁棒性(Robust)和安全性。

行政处罚机关应当对人工智能产品和系统的关键性能进行评估，必要时可发布评估报告，来说明人工智能系统蕴涵的安全、歧视和隐私等风险，确保行政处罚过程的安全畅通与和谐(34)沈岿主编.风险规制与行政法新发展[M].北京:法律出版社,2013.193.。在人工智能应用过程中，定期按照规范标准对其进行评估测试，对产生故障的人工智能及时修理或更新替换，满足发展的行政处罚精准度要求和行政管理目标，避免造成行政处罚受阻导致处罚显失公平。这一评估测试的要求，宜成为一项常态化的行政事务活动，故有必要在立法层面上将其固化，使之成为行政处罚机关应履行的一项法定职责。故此，在《行政处罚法(修订草案二次审议稿)》规定“应当经过法制和技术审核”的基础上，我们建议宜增加以下的内容，即“行政机关应用人工智能之前，应当对人工智能进行评估测试，且须经监管部门或者授权的专业机构的认证。在人工智能应用过程中，行政机关对产生故障的人工智能应当及时修理或更新替换。人工智能的监管机构对人工智能在行政处罚中的应用过程负责监督，并对其后果承担法律责任。”

此外，人工智能评估测试报告能够增强其收集的电子数据的证据证明力。如环保部门以人工智能监测的数据作为行政相对人违法行为证据时，应当提供污染源自动监测数据报告、污染源自动监测设备验收合格证、污染源自动监测设备运营维护、校准校验记录。是故，宜将人工智能评估测试报告以及法制和技术审核报告纳入电子数据的范围，将其视为行政证据的重要组成部分。

3.明确法律责任承担

在行政处罚领域，有关人工智能技术的开发和应用极有可能引发行政违法及行政侵权事件。在法律责任的分配上，宜遵循简约化的规则，寻求人工智能问题与《行政处罚法》及《电子商务法》等兼容，特别是在查明人工智能责任时，宜沿用《行政处罚法》的通常规则。比如，在举证责任上，对于这类行政争议，行政相对人在维权过程中要分清究竟是人为操作不当还是人工智能本身缺陷并非易事，诉讼举证则尤为困难，故仍应当由行政处罚机关承担举证责任，该机关必须提供人工智能“黑匣子”。

同时，在明确细化人工智能分类的基础上，对责任的认定与追究也必须区别对待。弱人工智能主要被视为“行政助手”，充当辅助者的角色，无法独立做出活动，它并非独立的行政主体或行为主体，亦不直接与第三人发生法律关系，故其行为仍应归属于该行政处罚机关，由该机关承担相应的责任。这也是基于法的安定性考量。而随着AI功能的不断完善，行政处罚机关的责任可能最终转化为监督责任，即当AI具备独立处理案件的能力时，行政处罚机关可能就仅仅扮演一个监督者的角色。这意味着，当行政处罚机关对AI错误裁判结果造成当事人损害没有过错时，无须承担责任。算法设计人员责任，主要表现若因设计原因导致AI出现偏差，对行政处罚机关形成误导，损害当事人权益的，算法设计人员应当承担责任(35)李晓楠.可信赖AI司法:意义、挑战及治理应对[J].法学论坛，2020，(4)：126.。故此，当强人工智能进行责任规制时，首要之举要理清生产者和程序编纂者的责任大小，再结合使用者的综合习惯进行逻辑演化，划分责任的主次，以落实责任的承担。而针对行政处罚案件因人工智能引起的损害赔偿，也有必要对行政赔偿的工作人员作扩大解释，将其视为“机器公务员”，进入国家赔偿程序，明晰行政赔偿义务机关。据此，我们建议，现行《行政处罚法》修订时宜明确规定“行政机关应用人工智能，对当事人造成损失的，应当依法予以赔偿”。

对于后续追责，可结合前述的许可制度，实现认证程序与责任体系的深度结合。企业可自愿申请监管部门或授权的专业机构的认证程序，在由机关的行政争议引发的行政诉讼及赔偿诉讼中，经过权威认证的人工智能系统的设计者、生产者或销售者仅须承担有限责任，而未经过认证的人工智能系统将会承担严格的连带责任(36)Scherer, M. U. “Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies”, Harvard Journal of Law and Technology, 2016, p.397.。当然，对于人工智能在行政处罚中应用时应承担的具体责任，行政处罚机关可以穿透算法，通过协议与技术提供者进行约定，设定义务，明细责任分配。另外，此种约定条款也可出现在机关间的协议中，由此倘若引发我国行政处罚机关及其上级机关的责任争议，无疑可以借助协议解决机制得以追究责任的最终承担者。如此一来就避免算法黑箱逃避责任，为人工智能在行政处罚中更为广泛的应用及发展保留充分空间。

四、结语

人工智能在行政处罚中所应用的终极目标，就是建成智慧处罚的平台。这种以互联网、大数据、人工智能等多种科技手段进行行政处罚的新型处罚模式，正是我国行政处罚的理论界和执法实务部门都在积极探索、努力想突破的重大课题，推动智慧处罚的创新发展，既是适应大数据时代新发展和社会新需求的必然要求，也是体现国家治理体系和治理能力现代化的重要举措，更是实施处罚体制机制改革、提升处罚管理精细化水平的技术保障。此外，依托大数据的智慧处罚的发展也对以行政处罚为主的传统法律规范体系产生了新的冲击。时至今日，《行政处罚法》作为处罚领域的基本法律制度，在实施了二十多年后即将迎来的第一次大修订，应当以解决问题为导向。此次修法应体现立法的包容度、开放性和前瞻性。为此，在《行政处罚法(修改草案二次审议稿)》征求意见的基础上，我国立法机关宜积极重视在该法中尝试解决有关人工智能应用于行政处罚领域的法律适用问题。特别是在对相关法条的草拟中，有必要增补规范应用人工智能的具体内容，诸如，应用人工智能的条件及应用人工智能的行政处罚机关应履行的法定义务及法律责任等，使人工智能等高科技更好地服务于行政处罚，促进智慧处罚的有序发展。

人工智能时代所引发的法律、伦理、技术的对话刚刚开始，伴随着新技术、高信息化的跨时代发展，还需要不断探索关于自动化决策系统及其风险治理的理论、制度与实践创新，这将是一个系统化的过程，为实现人工智能时代的“良法善治”奠定基础，并推进行政法治的现代化。