自动化行政对行政程序的挑战及其制度因应

□ 张涛

一、问题的提出

在数字政府建设中，大数据、算法、人工智能等尖端数字技术的广泛使用，虽然可以对政府进行流程再造，实现行政程序“简单、便捷、迅速”的目标，但与此同时，数字技术也可能对基本的假设和确定性提出规范性挑战，如进一步扩大国家内部的数字鸿沟、侵犯个人隐私、技术不透明导致程序不公正、算法偏见加剧社会不公平[1]。对此，我国《法治政府建设实施纲要(2021—2025年)》明确提出“全面建设数字法治政府”，要求“着力实现政府治理信息化与法治化深度融合”。因此，如何推进数字法治政府建设已经成为一项重要课题。

在理论上，学术界将数字法治政府建设问题集中概括为“自动化行政”所引发的各类争议，并提出不同的法律控制措施。例如，有学者提出，可以从自动化行政的主体、权利、程序几个方面综合考虑法律控制要素[2]；还有学者提出，应当对自动化行政进行分级分类，根据不同的等级采取不同的控制措施[3]。总体而言，目前的研究成果主要侧重于自动化行政的整体法律秩序建构，不过，长期以来，程序主义进路在行政法治建设和行政法法典化中一直发挥着重要作用[4]，因此，也有一些学者提出应当建构所谓的“技术性正当程序”[5]或者“算法正当程序”[6]来应对自动化行政提出的挑战。事实上，行政程序有时也被理解为信息和决策过程，在这个过程中，法律解决方案不是简单地通过逻辑推理来(预先)找到或者确立，而是通过信息处理产生具有约束力的决定。这种信息和决策过程的结构与顺序对作为程序终点的行政决定具有决定性影响。一般认为，政府的数字化转型主要包含两层含义：一是内部流程的转型；二是政府与其他社会及政治行为者之间关系的转型(制度转型)[7]。因此，自动化行政在很大程度上是行政程序中特定环节或者所有环节的部分或者完全自动化[3]。

行政法为促进行政行为的问责和保护个人权益提供了重要框架，相关的原则及规则主要以决策是由人而不是由计算机作出的为预设前提。在自动化行政的背景下，这些原则与规则在多大程度上与计算机化的行政决策兼容呢？本文进一步追问的问题是：自动化行政到底对行政程序法治提出了何种挑战，我们又应当对此种挑战作出何种回应？为了回答上述问题，本文的基本论证结构如下：首先，对自动化行政的技术逻辑及实践场景进行阐述；其次，对行政程序的基本要素进行确认，并分析其在自动化行政中遭遇的困境；最后，对现有的法律控制路径进行分析，并将其概括为“数据权利的程序化”和“行政程序的数字化”，由此提出通过自动化行政分级来配置行政程序要素。

二、自动化行政的技术逻辑与实践场景

在讨论社会技术的法律问题时，首先面临的一项挑战是缺乏对核心概念的准确且普遍的定义，诸如大数据、算法、机器学习、人工智能等术语在不同学科领域通常具有不同的含义。因此，为了使研究对象更具针对性，本文首先对自动化行政的技术逻辑进行阐述，主要是对算法自动化决策的一般内容及具体形式进行研究，在此基础上，本文将对自动化行政的实践场景进行阐述，主要是确定算法自动化决策在公共行政中的典型应用实例。

(一)自动化行政的技术逻辑

自动化行政实际上是“自动化决策”(automated-decision making)在行政领域的具体应用。从广义上看，自动化决策是一个计算机化的过程，它使用编码逻辑或者算法来作出(部分)决定或者提出建议[8]。不过，自动化决策系统的处理能力和操作能力独立于或者依赖于人工输入的程度均存在差异，因此决策可以完全或者部分自动化。换言之，自动化过程实际上是一个水平的连续体，并非全有或者全无的二元对立概念[9]。目前，各种不同类型的自动化决策系统正在或者即将广泛用于行政决策中。从自动化程度的角度看，自动化决策系统大致可以分为两类：一类是基于规则的专家系统(rule-based expert system)，一类是基于机器学习的算法系统(machine learning algorithm)[10]。不过，值得强调的是，虽然从形式上可以将自动化决策系统分为这两类，但是二者之间的界限实际上已经越来越模糊，并且在一些具体的应用场景中二者可能是相互融合的。

1.基于规则的专家系统

基于规则的专家系统也称为“生产系统”或者“专家系统”，是最简单的人工智能形式。它使用一组规则来表示知识，这些规则能从已知的事实中推导出新的事实。比如，医疗领域中通过向患者提问、由计算机代替医生看病的系统，便是典型的基于规则的专家系统。基于规则的系统的目标是从人类专家那里获取知识，并将其转换为许多编码规则以应用于数据输入。在基于规则的专家系统中，最基本的规则形式是“if-then规则”，即如果a，则执行x，否则如果b，则执行y。基于规则的专家系统是比较简单的模型，可以适应和应用于大规模的问题，其前提条件是关于问题领域的知识可以用“if-then规则”的形式表达。当然，该领域的范围也不能过于庞大，否则大量的规则将会降低专家系统的效率[11]。

2.基于机器学习的算法系统

与基于规则的专家系统相比，基于机器学习的算法系统不是基于明确的人工编写的规则，而是基于从历史数据中学习的规则。一般认为，机器学习是指“程序根据输入的信息(即数据)自动进行学习，从而掌握识别和预测能力的功能”[12]。机器学习的核心是使用算法来建立量化分析模型，帮助计算机模型从数据中“学习”。它同以人为中心的处理过程不同，它是由计算机学习和发现隐藏在数据中的模式，而不是由人去直接建立模型。一般而言，机器学习中模型建立和模型管理的概念是指能够持续并且重复开展后续的决策流程，而不是高度人工参与的常常基于统计手段的分析。近年来，随着计算能力的进步，机器学习可以用来自动地实现针对大数据的复杂数学计算。在理论上，根据计算机的“学习模式”，将机器学习算法分为四种类型：有监督学习、无监督学习、半监督学习和强化(深度)学习。目前，比较常见的是有监督学习，即模型训练过程有人工干预，目的是识别哪些输出是正确的结果，哪些输出不是。例如，在历史数据集中，标记患有或者未患有特定疾病的患者，运用有监督学习算法的目的是利用这一历史数据信息在新的(未标注过)的数据库中预测哪些患者可能患有此种疾病[13]。

(二)自动化行政的实践场景

长期以来，政府部门一直寻求将各种技术工具用于行政活动中。在推进国家治理体系和治理能力现代化的背景下，国家出台了一系列政策文件，要求将大数据、人工智能等数字技术广泛运用于政府治理中。例如，国务院于2015年印发的《促进大数据发展行动纲要》提出要建立“用数据说话、用数据决策、用数据管理、用数据创新”的管理机制；国务院于2017年印发的《新一代人工智能发展规划》提出“开发适于政府服务与决策的人工智能平台……在复杂社会问题研判、政策评估、风险预警、应急处置等重大战略决策方面推广应用”。在此背景下，各级政府部门进行了一系列冠以“智慧”的政府治理实践探索，比较典型且引发社会广泛关注的有以下几类实践。

1.交警非现场执法

交警非现场执法是自动化决策系统在行政活动中应用最早也是最广的领域。传统的交警执法，主要是由巡逻警察在现场发现违法行为，通过履行法定程序后作出行政处罚决定，其主要体现为“人海战术”“守株待兔”的执法特点。在大数据、算法、人脸识别等技术的帮助下，交警执法由“现场”转为“非现场”，执法人员不需要与违法人员进行接触，就可以通过数字平台(设备)完成违法信息收集、违法事实固定、违法行为通知、行政决定作出及送达、当事人履行行政决定等一系列行为，可以实现全天候、24小时不间断执法。当前，非现场执法已经被广泛运用于治理超速、超重、乱停车、闯红灯、违反限行、不系安全带等道路交通违法行为中，且应用范围还在不断扩大[14]。总体而言，从目前交警非现场执法系统的实际运行情况来看，其主要采用的仍是基于规则的专家系统，尚未达到机器学习的水平[5]。不过，在智慧警务建设背景下，目前有一些地方的公安机关也在探索将机器学习算法运用到警察执法中，部署“预测性警务系统”，对违法犯罪活动发生的地点及参与者进行预测，以便公安机关提前介入，避免违法犯罪活动的发生[15]。

2.自动化公共信用评价

在全面推进社会信用体系建设和加快建立“基于信用的新型监管机制”的背景下，自动化决策系统也被应用于公共信用评价中。公共信用评价是指行政机关、法律法规授权的具有管理公共事务职能的组织根据信用主体的信用信息，运用统计和其他方法，建立信用评价模型，对信用主体在社会和经济活动中遵守法定义务、履行约定义务的状态进行评估，并以分数或者等级的形式表现出来的活动[16]。从各个地方公共信用评价的实践样态看，目前主要是由政府部门委托私营企业、科研机构开发或运营公共信用评价系统，包括个人信用评价系统和企业信用评价系统。尽管目前很少有政府部门向社会公开公共信用评价系统的相关信息(如底层逻辑、数据参数、算法系统等)，但是我们仍然可以从负责信用评价系统开发的私营企业或者科研机构的专利公告中管窥自动化公共信用评价的技术原理。例如，芜湖市的个人社会信用评价系统“乐惠分”，便是由芜湖市发改委信用办联合惠国征信服务股份有限公司开发的。“乐惠分”背后的技术支撑正是该公司所掌握的“基于政务数据和应用的个人社会信用评分方法”这一发明专利。根据该专利的公告信息，该专利采用了线性回归和线性规划的方法，利用政务大数据作为原始参数对个人信用状况建模，通过各维度细分模型确定相关数据权重，最终形成个人社会信用评分[17]。总体而言，在目前的公共信用评价实践中，既有基于规则的专家系统，也有基于机器学习的算法系统，二者通常混合运用。

3.自动化行政审批

在深化“放管服”改革和持续优化营商环境的背景下，自动化决策系统也被广泛应用于行政审批中。传统的行政审批流程大致包括当事人现场递交材料、窗口人员现场审核材料(不予受理或者退补材料)、核准人员审查、作出决定文书、申请人现场领取文书等，存在“办事难、办事慢、多头跑、来回跑”等问题。为了提高行政效能，降低行政相对人的合规成本，一些地方政府部门纷纷进行“秒批”改革，推动行政许可信息网上公开、行政许可网上政务平台建构、行政许可网上申请与审查，以及电子证照制度的引入等[18]。在自动化行政审批中，自动化决策系统发挥了重要作用。以青岛市为例，该市自2019年开始运行“企业设立智能登记系统”，该系统通过创新开发“地址标准化、经营范围标准化”两个子系统，实现企业注册地址的自动关联和经营范围的菜单式填报，通过改造全程电子化外网智能申报、内网系统智能审核两个子系统，采用电脑根据业务规则自动判断审批的方式，推动行政审批由人工审批转向电脑智能审批，实现企业设立登记“零跑腿、零见面和零人工干预”[19]。总体而言，目前在自动化行政审批实践中，主要采用的仍然是基于规则的专家系统。

综上所述，政府部门目前主要依靠预先编程的基于规则的自动化决策系统，因为完全“自主的”自动化决策系统的成本仍然比较高，并且在技术方面尚待进一步完善。然而，随着技术的不断发展和迭代，我们可以预期机器学习算法(或从数据模式中学习的算法)将用于政府部门做出更多的定性评估、建议和指导，甚至可能是评估性行政决定。

三、自动化行政对行政程序提出的挑战

从控权论的角度看，行政法的主要功能是管理由代表行政机关的公务员作出的行政决定。随着时间的推移，行政法已经形成一个庞大的原则及制度库，其中许多原则及制度在不同的司法管辖区获得认可，以管理行政决定的出台过程。如今，先进的自动化决策系统有望补充甚至取代以人为中心的决策，这就提出了它们与既定公法原则及制度的兼容性问题。如前所述，自动化行政在很大程度上是行政程序的部分或者完全自动化，因此，自动化行政首先便对既定行政程序原则及规则提出了挑战，甚至可能影响公民程序性基本权利的保障。

(一)行政程序在传统行政法中的经典界定

在行政法学理论中，从程序机制所架构的政府与公众之间的互动关系，以及程序规范所触及的政府决策形式与层次的功能性观点出发，至少可以将与行政程序法有关的程序要素的规定归纳为以下三大取向：透明化、参与化与论辩化。其中，透明化取向的规定是一切程序规定的基础，没有透明化作为基础，参与化的规定恐怕就无法发挥功能，更不用说论辩化。同样，参与化的规定也是论辩化的基础，如果没有达到某种程度的参与，就很难进行实质意义上的论辩[20]。这三种程序取向之间具有明显的层次性，不仅对行政机关遵守行政程序规定有帮助，而且也有助于司法系统审查程序是否正当。

1.行政程序的透明化取向

一般认为，具有透明化取向的程序机制主要有以下两项：(1)信息公开(卷宗阅览)。行政信息是行政机关在行使职权过程中所形成的各种“记录”。信息公开要求行政机关根据职权或者行政相对人请求，将行政信息向行政相对人或者社会公开展示，并允许查阅、摘抄和复制。信息公开的重要功能在于彰显行政决定的基础结构，使公民得以预先规划其未来与政府互动的行事准则。(2)告知/通知。告知程序是以通知或者公告等形式，将程序之开始及过程让程序当事人知悉，目的是使受告知者能够从容思考准备，知悉其义务之内容及法律效果，避免突袭进而符合可预测性的依法行政原则。

2.行政程序的参与化取向

一般认为，具有参与化取向的程序机制主要有以下两项：(1)陈述意见。陈述意见程序的主要功能在于保障公民权利，兼顾行政效率与强化公民对政府的信任，因此，对于陈述意见的程序要求主要呈现为高度任意性或者非要式性，换言之，不论言词陈述还是书面陈述均可。(2)公告与评论。公告与评论程序在许多国家的行政程序法中均有规定，它要求行政机关必须将草拟的行政规定通过法定形式进行公告，内容包括规定拟定的方式、时间、地点、授权依据和有关规定的要点及争议。公告之后紧接着是评论程序，行政机关必须给予利害关系人参与行政规定制定程序的机会，参与方式主要以书面形式提出资料、观点或者意见。

3.行政程序的论辩化取向

一般认为，具有论辩化取向的程序机制主要有以下两项：(1)听证。听证是行政法中非常重要的一项程序机制，它具有严格性、要式性和准司法性等特征。一般对于听证程序的触动事由、时间、参与者、程序进行方式、当事人的权利及其效果等内容均有较为细致的程序设计要求，这也使得行政程序法具备“提前司法救济”的功能。(2)说明理由。说明理由要求行政机关在作出对行政相对人合法利益产生不利影响的行政行为时，除法律有特别规定外，必须向行政相对人说明该行政行为的事实依据、法律依据以及进行自由裁量时所考虑的政策、公益等因素[21]2422。

(二)行政程序在自动化行政中的现实困境

不可否认的是，自动化决策系统在公共行政中的应用确实可以提高政府决策的一致性、准确性、成本效益和及时性，这也是自动化行政得以广泛扩张的重要原因。正如德国学者卢曼所言：“自动化将改变系统中可以捕捉到的复杂性的潜力，并彻底改变解决复杂性的方式。”[22]但与此同时，自动化行政也可能对行政程序的基本要素构成挑战，削弱行政程序在保护公民合法权益和控制行政权力行使方面的的作用。

1.自动化行政对信息公开程序提出挑战

就政府信息公开而言，有两个因素至关重要：一是信息公开的前提。一般认为，政府信息具有公物属性，政府只是暂时的“持有者”或者“保管者”，社会公众才是信息的“所有权者”，这是政府信息公开的重要法理基础[23]114。二是信息公开的质量。一般认为，政府信息应当通过便捷、经济的途径以可理解的方式公开。然而，在自动化行政中，自动化决策系统的应用可能破坏上述两个因素的基础：一方面，行政活动中使用的自动化决策系统大多由政府部门委托私营企业或者科研机构研发或者运营，而这些技术供应商通常以“商业秘密”为由拒绝向行政相对人或者社会公众披露有关自动化决策系统的信息，尤其是理论界极力倡导的“源代码公开”[24]；另一方面，在自动化行政中，应当公开的信息内容已经转变为自动化决策系统相关的技术参数、底层逻辑、代码规则等信息，即使这些信息能够完全公开，非专业的行政相对人或者社会公众也难以真正理解这些信息的确切意涵，造成所谓的“无知的不透明”[25]。

2.自动化行政对告知程序提出挑战

告知程序的充分性取决于它能否让受影响的个人了解将要决定的问题，支持政府立场的证据，以及机构的决策过程。在自动化行政中，自动化决策系统从以下两个方面对告知程序提出挑战：一方面，一些自动化系统在技术设计之时便没有考虑告知程序的基本要求。例如，在公共信用评价中，一些个人被评价为“严重失信人”，并被列入各类“黑名单”，但是却并未收到关于信用评价决定的通知；在交警非现场执法中，一些监控设备并未匹配有效的告知程序，导致个人在同一地点连续受到行政处罚却并未收到任何通知，“杜宝良案”便是典型例子(1)在北京卖菜的安徽来京司机杜宝良，在每天必经的北京市西城区真武庙头条西口被“电子眼”拍下闯禁行105次，被罚款10500元。此前，从未有交管部门告知他有违法行为。。另一方面，即使自动化决策系统提供了告知程序，告知的内容也是不充分的。无论是基于规则的专家系统还是基于机器学习的算法系统，其所生成的决策结果不仅伴随着规则转化为代码的过程，还包含复杂的数据分析和程序运算，这些过程很难被充分且有效地体现在告知内容上。

3.自动化行政对陈述意见程序提出挑战

在行政法理论中，禁止过度形式主义原则要求行政程序保持适度的灵活性，行政机关在作出行政决定时应当充分考虑个案的特殊情况，而陈述意见程序正是行政相对人表达自身特殊性的重要保证。在自动化行政中，自动化决策系统所依据的规则、参数、运算逻辑等均由技术人员事先进行了严格的确定性预设，这种“模式化或者标准化”将不可避免地忽视个案的特殊性，钳制行政相对人的意见表达。正如美国学者卡里·科里安尼斯(Cary Coglianese)等所指出的，“与当今数字时代的其他计算策略一样，机器学习可以快速且自动地支持算法产生结果，以缩短或越过人类的审议和决策”[26]。事实上，法律决定不应当主要基于统一的特征，而应当基于那些使案件具有独特性的特殊特征，只有这样的个体化才能最终表明有关的法律后果在多大程度上是合理的。自动化行政可能通过算法强化形式主义倾向，破坏陈述意见程序，最终可能导致“非个人化”，将个人排除在“循环”之外，从而破坏法律理念的核心，即在个案中寻求正义。

4.自动化行政对公告与评论程序提出挑战

公告与评论是美国《行政程序法》中一项非常重要的程序，在我国行政领域主要体现为行政立法“公开征求意见”与社会公众“提出意见或者建议”。行政机关在制定旨在实施、解释或者规定法律或者政策的普遍适用性规则时，通常需要向社会公开征求意见，并且说明制定或者修订规则的主要理由及考虑因素；利害关系人或者其他社会公众针对行政机关公布的“征求意见稿”，可以书面提出自己的观点和建议。在自动化行政中，法律或者政策要求在被转化为技术代码时，本身就涉及对法律或者政策的解释与执行，由此形成的指引自动化决策系统的新规则理应属于“公告与评论”的对象。然而，通过代码制定“新规则”却难以满足公告与评论程序的要求：一方面，由私人供应商开发的自动化决策系统，源代码都是专有的和封闭的，公众没有机会审查嵌入源代码的新规则；另一方面，在没有公告规则变化的情况下，公众缺乏应对这种变化所需的信息，无法对其看不到的规则提供反馈[27]。

5.自动化行政对听证程序提出挑战

听证程序源于“对当事人不利的决定必须听取他的意见”这一自然正义原则，目前已经成为各国行政程序法一项共同的程序机制。广义上的“听证程序”包括上文论及的“陈述意见”，泛指“听取利害关系人意见的程序”，而狭义上的听证特指行政机关以“听证会”的形式听取当事人意见的程序[21]2443。本文此处论及的听证程序主要指狭义上的听证。在实践中，听证程序并非适用于所有的行政决定，其本质上是一个利益衡量的结果。例如，美国联邦最高法院在Mathews v. Eldridge案中指出，是否实施听证程序，需要权衡个人利益的价值、额外程序的成本、政府主张的利益等因素(2)Mathews v. Eldridge, 424 U.S. 319 (U.S.Va. 1976).；根据我国《行政处罚法》第63条的规定，听证程序主要适用于比较重大的行政处罚决定。在自动化行政中，听证程序可能主要涉及由技术专家来破译和解释代码及其运行，而这可能改变现有的利益衡量格局。一方面，行政机关可能认为，上述专家证词的成本可能超过所涉及的个人利益和决策错误的风险，因而对此类听证要求采取消极态度；另一方面，现有听证程序中所涉及的利益衡量具有明显的个案特征，其可能会忽视自动化决策系统中“一次性技术修复”所带来的“类案效应”，进而夸大引入听证程序的成本[27]。

6.自动化行政对说明理由程序提出挑战

说明理由不仅是一项重要的程序机制，亦是法治的基本要求，法治不仅是规则之治，其本质更是理由之治。对于行政机关而言，理由是对武断决定的一种制约；对于行政相对人而言，理由能使其了解是否可以对该决定提出异议，如果可以，根据是什么，即使决定是不利的，行政相对人也可能被理由所说服，接受该决定是对裁量权的合理且无偏见的行使。说明理由的一个重要功能还在于揭示行为事实、法律规定等因素与行政决定结果之间的因果关系。然而，在自动化行政中，自动化决策系统可能对说明理由造成破坏：一方面，随着机器学习算法的广泛运用，自动化决策结果通常不依赖于人类事先指定每个变量如何被记入预测的规则；另一方面，自动化决策系统的“黑箱”性质，其分析结果不是直观上可以解释的，也不能支持传统上为政府行为提供理由的那种因果解释，因为相关性是其核心逻辑[26]。

四、自动化行政的现有控制路径：权利程序化和程序数字化

针对行政程序在自动化行政中面临的挑战，理论界和实务界均进行了积极探索，提出了不同的解决方案，其中，最具代表性的有以下两种方法：一种是通过个人数据权利的程序化，以数据权利来制约自动化行政；另一种是通过行政程序的数字化，对行政程序本身进行数字化转型来制约自动化行政。

(一)数据权利的程序化：以数据权利制约自动化行政

数字信息被称为是现代技术的“基因代码”，众多新兴技术的发展都有赖于数字信息的使用，其中也包括个人数据。因此，个人数据保护权在数字时代也越发受到重视。在我国，关于个人数据保护权的权利性质，理论上还存有争议，有一般民事权利路径，也有基本权利主张，而《民法典》和《个人信息保护法》也未对这一问题作出明确回应。尽管如此，理论界对将个人数据保护权作为一项受法律保护的权利基本上已经达成共识。在欧盟，个人数据保护权作为一项基本权利出现在《欧盟基本权利宪章》第8条，并且欧盟《一般数据保护条例》第1条也对个人数据保护权的基本权利地位进行了确认[28]。从长远来看，随着社会的数字化转型不断推进，个人数据对个人身份、生存将变得越来越重要，因此，赋予个人数据保护权的基本权利地位或许将成为一种必然趋势。

在自动化行政中，数据处理是自动化决策系统的核心，在很多情况下，主要体现为个人数据处理。因此，从功能主义的角度看，个人数据保护权也成为制约自动化行政的一种工具。在我国《个人信息保护法》和欧盟《一般数据保护条例》中，个人数据保护权及其附属权利也是适用于私营部门和公共部门的，不过，与其他诸如平等权、生存权、教育权等基本权利相比，个人数据保护权却具有明显的程序属性[29]。个人数据保护权中的程序主义倾向源于基本权利本身所具有的程序要求。在理论上，一般认为，每项基本权利都包括程序内容，在实践时皆有“程序保障”的需求，这是基本权利功能的客观面向[23]101。不过，在个人数据保护权中，这种程序性要求更为明显和突出，已经从客观面向转为主观公权利面向，如有关透明度、可获得性和比例性等要求，已经成为协调不同利益及权利不可或缺的条件和方法。我国《个人信息保护法》和欧盟《一般数据保护条例》均将“告知-同意”作为合法处理个人数据的首要条件，同时赋予个人数据主体知情权、决定权、查阅权、复制权、更正权、删除权等附属权利。这些权利与上文论及的行政程序基本要素极为相似，可以概括为是个人数据权利的程序化[30]，通过发挥基本权利的防御功能，可以对自动化行政进行规范。

(二)行政程序的数字化：以程序变革制约自动化行政

长期以来，行政法理论主要强调司法审查对行政决定结果的控制，而忽视行政程序在确保行政决定的合法性和正确性方面的关键作用。随着行政法理论与实践的发展，人们逐渐意识到行政程序本身不能成为目的，其内在价值可以来自于实质性决策的改进(工具性功能)，但也可以独立于结果。来自于决策外部的功能，在一定程度上是非工具性的，比如通过行政程序中的主体地位来强调人的尊严，通过扩展的参与权来加强公民的公共精神以及对公共事务的共同责任意识。因此，程序正义和程序控制也逐渐受到行政法理论与实践的重视。王万华指出，“行政程序作为来自外部的、规范行政权行使过程的规范机制，具有防止行政权滥用的消极控权功能和助推行政权积极行使的公共意志形成功能，中国未来的法治政府建设重心应当转向行政程序机制的完善”[31]。在自动化行政中，通过行政程序来控制自动化决策系统的应用也受到理论和实践的重视。

在理论上，最具代表性的解决思路是“技术性正当程序”或者“程序性数据正当程序”的提出，即通过行政程序的数字化转型，以此来应对自动化行政提出的程序挑战。“技术性正当程序”这一概念最早是由美国学者丹尼尔·西特伦(Danielle Citron)于2008年提出的。西特伦认为，为了使正当程序的应用更好地适应自动化决策系统，需要进行几项变革：首先，与其对每个自动化决策系统进行交叉检查，不如对使用这些系统作出行政决定的政府人员进行关于自动化偏见和谬误的额外教育，这可以帮助他们更公平地审查输出结果；其次，行政机关应当详细解释在作出行政决定的过程中对自动化决策系统的依赖程度，包括任何计算机生成的事实或者法律结论；最后，行政机关应当定期测试其使用的自动化决策系统是否存在偏见和其他错误[27]。受到西特伦的启发，美国学者凯特·克劳福德(Kate Crawford)等提出了“程序性数据正当程序”，其核心是对既有正当程序要素的内容进行变革：首先是告知，要求应当向受自动化决策系统影响的人披露自动化决策系统的类型、输入数据的来源等信息；其次是听证的机会，应当由中立的数据裁决者对自动化决策系统的数据输入、算法逻辑等进行例行审查；最后是公正裁决者与司法审查，应当由中立的数据裁决者处理投诉，并调查可能导致决定不公的各类指控[32]。受国外学者的启发，刘东亮也对技术性正当程序进行了阐述，认为原有的正当程序要素可以通过新的要求继续在自动化决策系统中适用，具体包括排除偏见(即算法的公开、透明和一致性)、说明理由(即算法的可解释性)、听取意见(即允许质疑、事后听证、专业审计等)[5]。

实践中，一些国家(地区)新近出台的有关自动化行政的立法或者政策也深受理论发展的影响，体现了通过行政程序数字化来控制自动化行政的思路。例如，加拿大于2019年制定了《自动化决策指令》(DirectiveonAutomatedDecision-Making)，目的是要求政府在使用自动化决策系统时贯彻核心的行政法原则(如透明度、问责制、合法性和和程序公正性)，以确保依法作出更有效、准确、一致和可解释的行政决定。该指令重点对算法影响评估、透明度(主要包括在作出决定前提供通知、在作出决定后提供解释、获取组件、发布源代码、记录决定等内容)、质量保证(主要包括测试与监测结果、数据质量、同行审查、员工培训、安全问题、确保人工干预等)等内容进行了规定。新西兰于2020年制定了《算法宪章》(AlgorithmCharterforAotearoaNewZealand)，该宪章一方面肯定了算法在公共行政中的价值，另一方面要求政府机构在使用算法系统时作出以下几个方面的承诺：(1)透明度，具体包括用通俗易懂的语言编写算法文件，提供有关数据和程序的信息等；(2)合作关系，应当在算法的开发和使用中嵌入少数族群的观点；(3)以人为本，与受算法决策影响的个人、群体进行协商；(4)数据，应当确保数据符合目的；(5)通过同行审查确保隐私、伦理保障；(6)保留人为干预，负责对算法决策信息的查询、投诉与解释。

五、超越现有控制路径：以自动化分级来配置行政程序要素

无论是数据权利的程序化还是行政程序的数字化，基本上都是从普遍适用性的角度出发，对自动化行政应当遵守的权利保护或者程序保障进行整体设计。不过，这种一般性的解决方案在具体执行时仍然存在诸多不确定性，原因在于：一方面，人类与自动化决策系统在自动化行政中的互动可以采取非常不同的形式，自动化决策系统可以接管很大一部分行政行为，也可以仅仅用来生成信息，为了对自动化行政的程序保障进行合法评估，需要进一步区分人类和自动化决策系统在行政过程中的互动范围。另一方面，行政程序(正当程序)本身并不是一个固定公式，不同程序要素所需的密度取决于个别案件的情况，并通过权衡所有的情况和利害关系来确定。正如美国联邦最高法院在Morrissey v. Brewer案中所指出的，“正当程序是灵活的，需要根据具体情况来确定所要求的程序保护，但这并不意味着法官可以将其适用于任何关系；一旦确定应采取某种程序，它的灵活性就在它的范围之内，必须有一种基本认识，即并非所有需要程序保障的情形都需要同样的程序”(3)Morrissey v. Brewer, 408 U.S. 471 (U.S.Iowa, 1972).。职是之故，本文在上述两种控制路径的基础上，从更为实用的角度出发，提出第三种控制思路，即对行政决定的自动化程度进行分级，根据不同的等级匹配相应的程序要素，既回应行政程序的现实困境，也发挥自动化行政的优势。

(一)自动化行政的分级构造

表1 自动化行政的分级构造

如前所述，关于自动化行政中自动化决策系统的类型，大致可以分为基于规则的专家系统和基于机器学习的算法系统。不过，对于自动化行政的分级，目前理论界与实务界有不同的主张。理论上，马颜昕以自动驾驶领域的分级标准为参考，认为根据人类与人工智能系统的分工、适用的不同场景这两个标准，可以将自动化行政分为五级：零级(无自动化行政)、一级(自动化辅助行政)、二级(部分自动化行政)、三级(无裁量能力的完全自动化行政)和四级(有裁量能力的完全自动化行政)[3]。德国学者阿里安·伯杰(Ariane Berger)根据行政决定的自动化潜力(automationspotenzial)将其分为以下几类：一是具有复杂事实的行政决定，二是具有复杂决策标准的行政决定，三是具有较多实质内容的行政决定，四是具有较少实质内容的行政决定[33]。

实践中，上文论及的加拿大《自动化决策指令》根据自动化行政决定对个人、群体或者社会的影响，将自动化行政分为四级：Ⅰ级(行政决定通常会导致可逆转的、短暂的影响)、Ⅱ级(行政决定通常会导致可能是可逆转和短期的影响)、Ⅲ级(行政决定通常会导致难以逆转并且是持续的影响)和Ⅳ级(行政决定通常会导致不可逆转并且是永久性的影响)。结合已有的理论与实践经验，本文主要以自动化行政中人类与自动化决策系统的互动范围作为标准，对自动化行政的自动化程度进行划分，即在行政活动中行政决定的哪一部分被分配给人类或者自动化决策系统，如表1所示[34]。

(二)自动化行政的程序要素配置

如前所述，行政程序(正当程序)本身并非一个僵化的、一刀切的万能公式，其本身具有极强的灵活性。对于“何种程度的程序设计才是正当的”这一问题，理论上一直存有争议，即使是在正当程序理论与实践均比较丰富的美国亦是如此。为了回应社会问题，理论界与实务界提出了一些解决方案。实践中，美国联邦最高法院在Mathews v. Eldridge案中提出了著名的“马修斯平衡测试”，即在确定正当程序的“具体要求”时必须考虑三个要素：(1)将受到官方行为影响的私人利益；(2)通过所使用的程序错误地剥夺这种利益的风险，以及额外的或者替代的程序性保障措施的可能价值；(3)政府的利益，包括所涉及的职能以及额外的或者替代的程序性要求带来的财政和行政负担(4)Mathews v. Eldridge, 424 U.S. 319 (U.S.Va. 1976).。在理论上，美国学者马丁·瑞斯(Martin H. Redish)等主张采取一种以价值为导向的正当程序观念，并提出正当程序应当具备七项恒久价值：(1)准确性；(2)公平的表象；(3)平等性；(4)可预测性、透明度和合理性；(5)参与；(6)披露；(7)隐私与尊严。在瑞斯等看来，一个灵活的正当程序模式更多的是建立在价值的基础之上，而不是建立在具体程序的基础之上，这样才更有可能经久不衰[35]。

结合上述理论与实践经验，笔者认为，在自动化行政中，行政程序(正当程序)的程序设计应当以行政决定的自动化程度为基础，将一些体现或者有助于实现恒久价值的程序要素作为强制性最低要求，同时引入类似于“马修斯平衡测试”的机制，将一些程序要素作为可变要求。换言之，并非对所有领域和场景中的自动化行政要求统一的程序要素。

第一，最低程序要求。为了确保能够公平、准确地作出行政决定，自动化行政必须在程序设计过程中具有最低程度的灵活性，要为人为干预提供保障[34]。在理论上，作为对机器学习工具超越甚至消灭人类能动性的回应，学者们提出了一种新型的权利，即所谓的人为决定权(right to a human decision)[36]。这样一种主张也被一些国家(地区)的立法所采纳，并不同程度地体现在法律条文中。欧盟《一般数据保护条例》第22条第1款规定：“若自动化决策(包括数据画像)会对数据主体产生法律效力或对其造成类似的重大影响，数据主体有权不受上述决策的限制”，这一权利同时适用于私人和公共实体，创造了一种普遍适用于自动化决策的选择退出机制(opt-out)。我国《个人信息保护法》第24条第3款借鉴了欧盟的立法经验，也做出类似的规定，不过其适用对象主要是利用个人信息进行自动化决策的商业主体。笔者认为，在设计自动化行政程序时，必须为不可预见的情况留有余地，需要考虑行政机关与行政相对人之间必要的互动。在大规模行政管理领域，其中的程序设计通常过度的形式化和标准化，即便如此，在进行程序设计时也应当满足上述要求。如果不能满足这些要求，那么在部署某种自动化决策系统时，就必须降低其自动化程度，以便能够保证通过人为干预，使行政程序能够必要地适应个别案件。对于政府部门而言，可以从理念、技术和规则三个维度确保自动化行政中的人为干预机制：在理念上，行政机关及其工作人员应当坚持组织架构扁平化和以用户为中心；在技术上，需要在自动化决策系统设计之初就为人为干预保留通道；在规则上，要确立人为干预的优先效力及配套制度，并确保司法权的终局性介入[37]。

第二，可变程序要求。除灵活性和人为干预是自动化行政必须具备的最低程序要求外，还有一些程序要素或者机制是可变的，本文主要以告知、陈述意见、信息公开、说明理由这四个程序要素来进行具体说明。首先，如果在自动化行政中行政相对人自己申请行政决定或者能够预见到行政决定的做出，则可以在一定程度上免除事先告知的要求。在这种情况下，事后提供有关使用自动化决策系统的信息就可以满足告知要求。其次，根据事实的复杂性和争议性、程序当事人受影响程度、法律适用问题的复杂性和争议性以及行政机关的自由裁量范围，可以确定是否将陈述意见和信息公开程序推迟到行政决定做出以后，即异议或者申诉程序。最后，在自动化行政中，说明理由所需的密度可以取决于个别案件的情况，并通过权衡所有情况和利害关系来确定。行政机关不必详细处理所有当事方的意见，也不必驳斥每个观点。如果行政机关的理由说明能够涵盖对行政决定至关重要的所有论据，那就足够了。这包括对行政决定所依据的事实和法律评估。如果一项行政决定对当事人的权利义务有重大影响，如果要评估复杂或者极具争议性的法律或者事实问题，如果行政机关拥有很大的自由裁量权，或者在适用法律时偏离一贯的做法，那么，理由说明就必须特别详细[34]。

六、结语

尽管当前政府部门对自动化决策系统的使用尚处于早期发展阶段，并且主要集中于基于规则的专家系统，但从长远来看，更多技术先进且复杂的自动化决策系统(如基于机器学习的算法系统)广泛融入公共行政或将成为一种必然趋势。当我们在热情赞扬自动化决策系统为公共行政带来的高效、便捷、一致性等优势时，也应当就自动化决策系统对行政程序法治提出的挑战保持谨慎[34]。行政机关在自动化行政中应当坚持守正创新，一方面，应当始终坚持行政程序法治的基本价值；另一方面，应当通过新的机制与方法增强行政程序的适应性。如此，才能不断推进数字法治政府建设。