问题三：自动化对行政程序带来哪些挑战？

余凌云：技术赋能对非现场执法程序提出挑战

行政正当程序在规范行政权力运行、保障相对人权利等方面的作用，任何行政机关作出影响行政相对人权益的行政行为时必须遵循法定且正当的行政程序，交警非现场执法也不例外。科技辅助、人工决定仍然是当前交警非现场执法的主要特征。

但不可否认，大数据分析、人脸识别、智能预审等新技术应用，已经嵌入调查取证、违法信息通知、罚款缴纳、文书送达等执法程序中。只不过这些技术在助益执法效能提升的同时，也确实给非现场执法程序带来了挑战。具体而言，主要包括三个方面：

第一，行政相对人陈述、申辩易被压缩。交警在利用“行人闯红灯”抓拍装置收集违法行为人的违法事实后，理应听取违法行为人的陈述、申辩，现在却直接省略该环节，将违法行为人的违法事实与相关信息实时同步曝光，违法行为人的陈述、申辩则被压缩，行政正当程序遭到架空。

第二，证据认定流于形式。从执法实践来看，交警在大多数情况下，仅依靠交通技术监控设备或执法设备所记录的图片或视频就实施处罚，尽管这些图片或视频应当满足《道路交通安全违法行为处理程序规定》《道路交通安全违法行为图像取证技术规范》等技术标准，但能否查证属实、做到证据确实充分，值得推敲。在交警非现场执法过程中，交通技术监控记录资料本应当是交警继续调查取证的“开始”，然而在“人工智能预审系统”“自动化辅助决策系统”的帮助下，调查取证环节更多成为人工对图片或视频简单判断的流水线作业。执法人员常年执法积累的取证经验并无用武之地，甚至其判断还会被技术潜移默化地影响，认为技术是正确的，致使证据认定流于形式。

第三，行政机关说明理由面临变动。在非现场执法的后续处罚程序中，执法人员应当向相对人说明处罚的理由，尤其在相对人认为监控设备故障时。只不过以往面对质疑，基于调查职权主义的立场，公安机关一般会给出以下三点理由：（1）监控设备符合国家标准或行业标准；（2）监控设备经国家有关部门认定、检定合格，且被用于执法时处于有效期内；（3）图像符合《道路交通安全违法行为图像取证技术规范》的要求。

在司法实践中，如果相对人没有足以推翻的证据，法院一般尊重公安机关的判断进而认定监控设备运转正常、记录真实。然而，在人脸、声呐等依托数据和算法深度分析的识别技术被用于辅助调查的情况下，上述理由的说服性则大大降低。因为这种识别技术不仅会受到数据完整性和真实性限制，还会受到算法设计、运行与环境的制约。也就是说，无论哪项影响因素发生变化，都可能对识别结果产生影响。那么此时，公安机关如若不能对技术辅助推理的过程说明理由，仍单纯地举证监控设备检定合格且符合国家标准，很显然是苍白无力的。而且算法运行看似客观，其背后却隐藏着难以为外界知晓的数据处理过程，无论是相对人还是公安机关，目前能做到的只是“知其然”，对技术如何得到结论的过程难以“知其所以然”，由此形成了所谓的“算法黑箱”，这无疑又给公安机关的说明理由出了一道难题。

胡敏洁：自动化行政缩减了行政行为的程序环节

在“田志鹏诉陕西省西安市公安局站前分局行政处罚纠纷案”中，田志鹏认为，在交警大厅处理违章时，行政主体没有出具简易程序《处罚决定书》，违反了道路交通安全法的程序规定。法院在审判中认为，田志鹏的违法行为事实清楚，被告适用简易程序符合规定，至于未出具《处罚决定书》，那是因为自助缴纳系统本身可以自行打印且被告在处理大厅公示了违法处理流程，张贴有《法律文书补打流程告知》以及相关操作说明；田志鹏可依据操作说明在处理大厅自助系统打印出《处罚决定书》，但原告未按照上述告知内容打印，因而其主张被告没有明示自助缴费，不向其出具《处罚决定书》等意见，法院不予采纳，其诉讼请求被驳回。

该案从形式上来看，程序被缩减，但实质上转移为另一种形式，即自助打印，而此时原告已缴纳罚款，可视为自行放弃了相应权利。但这里自然提出相关问题：是不是自动化行政所依赖的程序都是简易程序？或者可以缺省必要的程序？此时是否可以将行政主体的义务转化为行政相对人的权利？自动化执法系统会威胁程序性权利，即相对人被通知和进行申辩的机会。为救济相对人的合法权益，任何自动化执法系统都应该有大量的失效保护、冗余备份及相关机制，以确保完成适当的通知且个人可以有效地对自动出具的惩戒提出上诉。

刘东亮：自动化决策的瞬时性危及程序保障

一般来说，计算机程序是由成千上百万条命令行组成的，这些命令行可以输出数亿条指示，最终的输出结果瞬间即告完成。自动化决策的时间往往以毫秒计，这也正是自动化决策的优势之所在。算法的价值全部体现在它的速度上。如果算法不能在毫秒或者微秒级内完成复杂任务，就不能称之为革新的力量。一个能给出正确输出但耗时很长的算法几乎没什么价值。算法设计的精妙之处，即在于如何多快好省地完成预定任务。说到底，智能既是一种实现复杂目标的能力，同时也是一种时间性能力。如果任务时间无限，即使是滴水也能穿石；要想办法用工具迅速穿石，这才称得上是智能。

自动化决策在带来便利和高效的同时，也引发了权利保障问题。智能机器中的算法有无错误？是否存在隐而不彰的歧视和偏见？有没有因算法放弃裁量而导致行政决定不合理？如果存在这些问题，当事人如何寻求救济？尤为重要的是，为保障当事人实体权利的实现并具有其自身内在价值的诸多程序保障如何通过算法设计得以体现？传统的正当程序在新技术条件下究竟还有没有可适用的空间？总之，自动化对行政程序提出一系列挑战。

张凌寒：算法自动化决策与行政正当程序制度产生冲突

从信息论的角度看，行政正当程序本质是行政机关向行政相对人发送信息的工具。无论是行政活动前的行政公开、听证，行政活动中的通知、听取陈述与申辩以及事后的说明理由，目的都是在行政机关与行政相对人之间建立信息沟通机制。行政正当程序的信息发送功能由于算法自动化决策阻碍无法实现。无论是反应型算法压缩行政程序各个环节造成行政正当程序的缺省，还是预测型算法直接作为内部决策规避行政正当程序，最终均导致行政相对人无法接收到行政机关通过行政正当程序发送的信息。具体而言，尤其以行政公开原则、公众参与原则与说明理由规则为甚。

第一，算法不透明遮蔽行政公开原则。算法的采购、设计与运行，甚至算法的存在本身，政府基于各种考虑可公开而不愿公开。私营公司主张公开算法侵害商业秘密，政府官员可能会担心公开披露的算法会被篡改或规避，阻碍行政目的实现。同时，“算法黑箱”造成的公开不能。“算法黑箱”是指在算法决策数据输入、计算和输出的三个环节中，分别面临着三个难题：数据收集由于公共利益豁免知情同意规则而不透明、算法决策过程由于商业秘密保护而不公开、数据分析结果与决策之间转换不公布。

第二，技术垄断架空公众参与原则。行政正当程序中的公众参与原则极为重要，“某种形式的听证”被认为是程序正当性过程最基本的要求，是行政机关提供正当程序的最低限度。然而，算法自动化决策系统由私营公司“技术垄断”，公众的参与权难以得到保障。

第三，“算法黑箱”无法提供理由说明。正当程序中的说明理由制度是指公权力机关在作出决定或者裁决时，应向其他利害关系人说明法律依据和事实状态，及通过相关法律和事实状态进行推理或裁量而作出结论的过程，从而表明理由与最终该决定的内在联系。尤其是行政机关作出不利于行政相对人的行政行为时，除非有法定保密的要求，都必须说明理由。然而，预测型算法作出行政决策的时点是在行政对象作出行为之前，依据是大数据的相关关系而非因果关系，因此无法提供理由说明。