人工智能算法司法应用的发展隐忧及完善路径

王玉薇,高 鹏

(东北林业大学 文法学院,哈尔滨 150040)

一、引言

随着人工智能算法的迭代革新,人类开始迈进“万物数字化,一切可计算”的新时代。[1]人工智能算法在智慧司法信息化建设中的作用和影响也逐渐增加。《人民法院信息化建设五年发展规划(2016—2020)》与随后的《国家信息化发展战略纲要》均强调,要加快法院系统信息化建设,努力建设“智慧法院”以促进司法公平正义。截至目前,智慧司法建设处于3.0版本到4.0版本的变革阶段,智慧审判、智慧执行、司法大数据等众多智慧司法系统落地部署。2022年,最高人民法院发布了《最高人民法院关于规范和加强人工智能司法应用的意见》,并明确提出“到2025年,基本建成较为完备的司法人工智能技术应用体系,为司法为民、公正司法提供全方位智能辅助支持”“到2030年,建成具有规则引导和应用示范效应的司法人工智能技术应用和理论体系,为司法为民、公正司法提供全流程高水平智能辅助支持”。[2]为此,人工智能算法如何在司法领域深度应用,其面临的隐忧如何排解以及路径如何构建已成为亟须解决的时代课题。

目前,学界对人工智能算法司法应用进行了一定的探讨,消极说、积极说、强化说、弱化说、法律形式主义说、法律实际主义说、二元说、替代说、辅助说等理论众说纷纭、莫衷一是。就算法裁判而言,有学者认为,现有人工智能的司法应用在于“追求效率而非绝对精确性,追求裁判相关性而非因果性”[3],而“算法裁判对实现司法公正的增益远超当下司法改革的体制性成效”[4],但由于“封闭黑箱或训练样本依赖算法裁判将产生天然歧视”[5]。从算法推理来看,算法推理“不仅是对演绎逻辑的外在模仿,更是对法官内在结构的经验分析[6],它需要“遵循三段论机械的演绎推理与封闭体系”的形式主义推理理论[7],但却遭受到法律实际主义推理的反对。对算法量刑而言,现有研究大都把算法量刑“作为法官裁判的辅助工具”[8],但却对“法官量刑产生实质性的指引乃至约束”[9],从而有利于实现“同案同判”的量刑规范化目标。

基于此,本文拟在描绘人工智能算法司法应用实践图景的基础上,重点分析其带来的三点隐忧,最后有针对性地提出完善路径,进而为规范和加强人工智能司法应用贡献智慧和力量。

二、人工智能算法司法应用的实践图景

司法人工智能的应用最早是从对电脑量刑系统的研究起步的,进而逐步实现从传统司法向智慧司法的结构性升级。尤其是随着大数据、区块链、生成式人工智能的高速发展,人工智能算法已与司法工作深度融合,其在裁判领域、推理领域、量刑领域的应用也如火如荼。但司法信息技术的应用必须设定人文“止境”,防止智慧司法的“造神”倾向[10],唯有这样才能探求到中国“智慧司法”自主建设的成功道路。

(一)算法裁判层面

近年来,随着“智慧法院”建设的全方位、全流程推进,人工智能算法裁判得到了广泛应用。算法裁判指“人工智能可以代替法官直接做出裁判”[11]“机器能代替法官独立完成某些司法决策”[12],其理论基础为连接主义,又称仿生学派,其原理为神经网络与神经网络间的连接机制与学习算法,代表应用有语音识别、图像识别、自动驾驶。同时,算法裁判还具有新型性、抽象性及智能性等新特征。之所以说它具有新型性是因为其主要是通过计算机算法模仿法官进行推理和裁判的思维,进而实现计算机对案件的审理。而说它具有抽象性是源于“计算机根据预设的规则通过计算机程序模拟和归纳法律论辩”[13],这一过程的实现都是在计算机算法的机械操作下自主完成的。智能性在于依据计算机编程来创设和操控裁判程序、裁判推理、裁判论证和裁判结果,进而促使裁判程序标准化、裁判推理自动化、裁判论证精细化和裁判结果可预测化。

算法裁判运用的理念是为“司法为民和公正司法”目标的实现提供高水平智能辅助支持,将法官从事务性工作当中解放出来,为法官办案提供全方位、全流程的支持和服务。这样的智能辅助支持多以程序性辅助为主,不涉及实质判断,主要应用于规范庭审裁判行为、提高审执效率,而无直接和独立审判的权限与能力。这也是目前学界和实务对智能裁判的一般定位。实践中,司法机关借助自动生成裁判文书技术自动生成裁判文书、借助电子卷宗升级技术随案同步生成电子卷宗,智能辅助法官办案和优化审判流程,方便法官高效协同办案。河北法院应用智能系统辅助法官制作255.49万份裁判文书,能够减轻法官30%以上的案头事务性工作。根据有关数据统计,截至2022年,全国支持裁判文书自动生成的法院占法院总数的98.8%,支持裁判文书自动纠错的法院占法院总数的99.5%,审判智能化水平实现跨越式发展。[14]北京市高级人民法院的“睿法官”系统依托知识图谱、自然语言理解技术(NLP)、实体识别技术实现法律逻辑与法律知识的挖掘,可以实现为案情“画像”,为后续分析类案历史裁判规律、推送知识辅助打下基础。

此外,“由于大数据与深度学习技术,算法进一步演化为本体化的算法”[15],算法一旦实现本体化,就可以基于特定的知识图谱等技术实现全要素、全流程的智能审判。例如,浙江省高院研发的“凤凰金融智审”系统可以实现对金融类案件和民间借贷案件的全过程智能化审判。[16]再如,广州互联网法院部署“数字法官助理”——第二代RPA流程机器人,基于知识图谱技术定向研发ZHI系统,实现知识产权纠纷全要素智能审判。[17]

(二)算法推理层面

相较于传统的司法推理,人工智能算法推理是通过大数据挖掘、机器深度学习、自然语言处理等技术,将传统法律推理中的大前提和小前提通过计算机算法转译成计算机可以识别的数字代码和计算机程序,进而使机器法律推理从理论变为现实。即只要人工智能算法程序员能够将法律推理规则编辑成一套算法程序,并且将相关司法参数输入,算法就能作出确定的推理结论。例如,JUDITH律师推理系统可以模拟形式法律推理的演绎推理结构,并可将推理规则转化为计算机可以识别的语言,进而使机器推理得以推广。同时在英国,自2001年以来通过引入一种名为Oasys(罪犯评估系统)的风险评估工作,缓刑官通过输入罪犯的讯问材料,计算机得出罪犯是否能被缓刑的结论。[18]在瑞典,OxRec开始用于估计罪犯出狱后再次暴力犯罪的风险,利用与累犯相关的三个主要风险因素:社会人口学、犯罪史和临床,进而开发出多层次累犯评估模式。[19]

当下,人工智能算法推理逐渐发展为以规则推理为主,判例推理(Case-Based Reasoning)为辅的混合模式。混合式的人工智能算法推理要求算法推理过程严格执行三段论演绎,涵摄于封闭的法律规范体系的同时,也允许在推理过程中依据既有判例理解法律概念与法律术语,从而突破纯粹的机械演绎,对部分个案作出合乎法律条文本身含义的最优解释。混合式算法推理的理论支撑来自类比推理理论。类比推理理论强调“从已知的特殊推断未知的特殊,待认知的对象不是在其内部及其本身,而是在关系中被获知的,是一种从在一些特征上一致向在未知的其他特征上一致的推理”[20]。因此,混合式的人工智能算法推理在一定程度上是对纯粹基于规则的推理模式的逻辑补强。

实践中,混合式的人工智能算法推理基于法律规范,通过大数据挖掘、机器深度学习、知识图谱等技术,依据特定的推理规则,将证据、案件事实等法律事实要件置于现行法秩序下分析,并通过辅助性、经验性的司法判例比对,在保证推理过程一致性、稳定性的同时,更加科学、客观地输出推理裁判结果。具体应用中,北京的“睿法官”系统依托北京三级法院统一的审判信息资源库与法律知识图谱,可以对案件材料进行构成要件、要素的解构推理,并提炼出影响案件定罪量刑的各类因素,实现法律逻辑与法律知识的动态关联,为法官定罪量刑提供实质知识辅助。(1)参见2018全国政法智能化建设智慧法院十大创新案例(一)北京市高级人民法院——“睿法官”系统,载于法安网,https://www.faanw.com/zhihuifayuan/58.html,最后访问日期:2023年9月20日。再如上海高院研发的“206”辅助办案系统运用深度神经网络模型、图文识别(OCR)技术、自然语言理解(NLP)等技术,基于对1.5万余份卷宗材料,即经验案例的学习,并通过搭建具体罪名的证据模型,可对司法要素自动定位、抽取、比对,从而实现对各类证据的全链条检验推理,及时筛查各类不符合证据标准或者存在瑕疵的证据。

(三)算法量刑层面

进入数字时代,人工智能算法对司法量刑工作的提质升级产生了较为深刻的影响。算法量刑是一种辅助法官进行刑罚裁量的新兴技术手段,其运作机理是在大数据、云计算、区块链等技术的支持下形成知识图谱,通过提取法律文书的事实要素,实现类案识别和模型建构,借助深度学习等方法形成量刑算法,在此基础上实现量刑预测和偏离度测算。[21]具体而言,算法量刑可以做到以下几点:

其一,算法量刑可以实现融合检索推送。[22]算法量刑系统通过收录大量法律数据供其深度学习,然后根据量刑需要对类案信息进行检索,实现类案事实和关联法律条文的融合推送,拓宽法官认知范围,提高量刑结果的科学性。

其二,算法量刑可以促进“同案同判”的实现。算法量刑系统通过对案件关键信息进行提取并构建数据模型,对影响定罪量刑的各类因素进行全面分析,实时监控量刑结果并对其进行偏离度测算和预警,提高量刑结果的确定性。

其三,算法量刑可以为法官提供量刑参考。算法量刑系统通过深度学习法官的审判经验,结合内置的司法大数据系统输出量刑建议,从而为法官量刑提供规范化的裁判尺度。[22]由此可见,算法量刑系统可以为法官量刑提供较为全面的数据支持,在一定程度上限制了法官的自由裁量权,推动了量刑活动的科学化和规范化。

实践中,2022 年, 全国支持自动提取刑事案件法定和酌定量刑情节的法院, 占法院总数的91.7%,全国支持案由、情节等多维度质效统计分析的法院, 占法院总数的91.6% 。北京、江西、青海、安徽、广东等 20个省份的辖区法院已经普遍具备了上述两项功能。[14]海南省高院自主研发的智能辅助办案系统,对于常规案件,该系统可以自动识别相关要素并模仿法官审理案件的过程,同时还可以对过往的量刑数据进行分析进而生成法律文书。(2)参见海南法院步入“智时代”,载于海南省人民政府网,https://www.hainan.gov.cn/hainan/5309/201807/d30dab4a44e044f58fd80e8279142eb6.shtml,最后访问日期:2023年8月3日。与此同时,湖北省检察机关研发的智能量刑辅助系统将其数据库中的各类案件信息进行整合归纳,并将这些数据融入到其程序设计当中,基于一般的案件审理程序和规范,对案件进行智能化分析,同时还可以将同类既判案件作为参照,调整量刑结果。(3)参见智能量刑辅助系统——让认罪认罚从宽“看得见”“落得实”,载于中华人民共和国最高人民检察院官网,https://www.spp.gov.cn/spp/llyj/202008/t20200822_477552.shtml,最后访问日期:2023年9月25日。可见,人工智能辅助量刑系统在我国已经有了较为持续的发展和深入的应用,势必将为智慧法院的现代化建设提供新的发展机遇。

三、人工智能算法司法应用的发展隐忧

在当前的智慧司法实践中,人工智能算法对司法的影响不在于算法裁判对法官裁判和法院独立审判的威胁,也不在于算法黑箱、算法霸权对实质正义和审判中心主义的冲击,而是人工算法技术的不断迭代更新进一步解构司法本质和规律。因此,我们应直面其发展隐忧,促进智慧司法高质量建设和高质量发展。

(一)算法裁判易影响司法自主

在当今社会,司法权的独立运行是实现司法自主的关键。为了保证司法权独立运行和人民群众在每一起司法案件中都能感受到公平正义,司法权还是应该专属于司法机关。司法自主表现为法官独立裁判和法院独立审判两个方面。然而,人工智能算法介入司法裁判以后,司法自主将面临重大挑战。

首先,算法裁判威胁法官独立裁判。传统的司法裁判主要是法官根据法律规定和法律条文背后的价值与理念来进行裁判。在这种裁判模式下,法官能够凭借其丰富的审判经验和价值判断对隐藏在法律条文背后的法治精神和法治理念进行深入挖掘,从而全方位、体系化和动态化地对全案作出最优裁判。而算法裁判依靠的是程序化的算法规则,是一种僵硬的裁判模式,其核心是依赖于机器代码来定义和计算人们需要遵守的规则和违反规则的结果[23],并不具备人类法官所具有的价值判断功能。因此,这种缺少价值判断的算法裁判对法官独立裁判构成了重大威胁。大规模取代法官劳动力的智能算法系统的出现,无疑会导致法官丧失独立思考的能力,使其成为算法的“奴隶”。[24]从长远来来看,“人类一旦把决策交给了算法,就会形成一个算法统治的世界”[25],深刻地威胁法官独立裁判的地位。

其次,算法裁判威胁法院独立审判。我国《宪法》规定,“人民法院依照法律规定独立行使审判权,不受行政机关、社会团体和个人的干涉。”宪法的这一规定明确了法院在审判活动中的独立地位。诚然,整个算法的运作流程由于商业机密或者知识产权保护等原因通常不会对外公开,“用户们无法看清其中的规则,无法提出不同的意见,也不能参与决策过程,只能接受最终的结果”[26],由此导致算法黑箱的产生。在黑箱中,算法控制者可以凭借技术优势将个人意志强行嵌入到算法当中,从而使得整个司法过程存在被科技公司或者技术人员操控的风险。更严重的是,法院对算法的依赖还可能造成科技公司和司法机关工作人员的合谋。司法机关工作人员和科技公司为了获取高额利益,就可能相互勾结,影响法院独立开展审判工作,进而影响司法自主。智慧法院实质上将导致程序员、软件工程师、技术公司与法官共同作出决定的局面,最终人工智能可能会取代法官。[27]从司法权力而言,算法、信息化、大数据的出现极大地稀释了原本独属于法院的裁判权。

最后,算法裁判技术解构司法逻辑。从字面表达来看,算法裁判主要指人工智能算法依托人工智能技术模拟人类法官所进行的裁判。但其能模仿到什么程度,最终取决于算法技术的客观发展。算法裁判的核心在于数据主义的技术本位逻辑。在技术逻辑的指令下,人工智能算法可以实现对历史上已生效判决中的法律规定与案件事实等大小前提的抓取和智能分析,由此从大量历史判决的相似案例中获得机器模仿出来的比较精确性结论。可见,算法裁判的基本逻辑起点是大量历史上的已判决的司法大数据,关心的是海量司法大数据中的相关性演绎,而非单独个体的因果责任链条。这与传统的司法责任认定逻辑背道而驰。传统的线下司法诉讼均反映当下个案的特殊情形或新情况,依据法官法律职业能力及办案经验,凭借反复的演绎推理和逻辑论证,动态及时地作出最优判决,体现司法对胜诉权益的积极维护。然而,由于智慧司法建设对人工智能技术的过度依赖,极易形成以数据为中心的“数据主义司法观”,算法和大数据的出现更是极大地解构了原本专属于法院的审判权,弱化司法亲历性、自主性、能动性,司法固有属性和法官主体地位正慢慢被解构和削弱。一方面,由于技术知识资源明显分配不衡,算法裁判呈现出严重的“数据鸿沟”现象,并导致算法控制者与普通个体之间新的不平等关系产生,甚至加剧阶级固化;另一方面,由于算法裁判系统中存在算法黑箱和信息茧房现象,利用司法大数据就可以直接对法官之前已判决案件提前进行类案总结分析和计算胜诉概率,大大限制了当事人的实质性参与权、充分知情权和有效抗辩权,与传统司法逻辑严重背离。

(二)算法推理易影响实质正义

在大数据时代,算法推理的应用不仅挑战实体正义保障法治的根本追求,而且冲击着公正、参与、公开等程序正义的本质追求。例如,算法推理在收集、处理、应用、数据过程中可能会因数据来源甄别错误等原因“从而导致数据本身所蕴含的不平等被原封不动地转移到大数据的计算结果之中,进而导致基于算法的大数据不平等和不正义”[28]。

首先,法律数据低质化影响实质正义。进入数字时代,实质正义的实现越来越依赖于高质量的法律数据。算法想要对特定案件进行实质推理,仅仅根据法律规范和法律原则是很难实现的,这一过程需要大量司法案例作为训练数据来供算法进行学习并据此完成数据模型建构。遗憾的是,现阶段的法律数据仍是一种低质化的法律数据。[29]这种低质化主要表现为法律数据不全面和不客观。

一方面,全面的数据样本是算法推理能够充分发挥其作用的前提,但我国目前显然不具备这种条件。法律数据不全面表现为以下两点:其一,法律数据来源单一。其二,法律数据内容不全面。如果没有全面的法律数据样本作为支持,算法就无法应对纷繁复杂的法律案件。

另一方面,法律数据是否客观真实也会对算法推理的实质结果产生影响。裁判文书记录的内容除了法律条文以外,还有法官事实认定的过程和法律适用的过程。法律条文的客观性毋庸置疑,但是事实认定和法律适用的结果可能会因为司法人员的法律技术差异、个人性格特点或者社会因素干扰等原因而有所不同。在司法实践中最典型的表现就是“同案不同判”。针对同一案件不同的法官、不同的法院可能会持有不同的观点,裁判文书的内容也自然不同。特别是疑难案件,裁判结果的推理更是法律理念、社会伦理和核心价值的急切关照。因此,法律数据必不可少的会掺杂一些人的主观性价值判断和选择,算法据此推理出的结果不可避免地具有不确定性、片面性、差异性,更无法做到对每一个案件作出准确和现实回应,进而影响实质正义的实现。

其次,算法歧视影响实质正义。在数字社会,实质正义的实现需要更加关注数字弱势群体的全方位保护和数字资源的公正平等分配。但在算法推理的应用过程中,却产生了诸如算法歧视和算法霸权这类问题,深层次地影响到了实质正义的实现。众所周知,“算法并非技术中立,它无法将人类社会固有的某些偏见与歧视完全排除在外”[30]。算法歧视的表现主要有两个方面:其一,采集的数据自身存在偏见。例如,作为算法数据主要来源的裁判文书网公布的裁判文书,法官的个人价值选择和价值判断会在裁判文书中体现得淋漓尽致,这其中就可能包含法官个人的主观偏见和价值倾向。例如,女性法官对于强奸案件相比于男性法官会持有更强硬的态度。其二,算法的运算逻辑本身也存在歧视,这种歧视主要来源于算法研发人员。例如,对于犯罪嫌疑人的危险性评估,如果算法的研发人员有种族歧视,那么他设计的算法很有可能会给黑人设定更高的犯罪危险系数。由此可见,算法歧视极易导致算法推理的结论偏离正常价值轨道,容易对某些数字弱势群体的数字权益造成重大损害,这与数字正义的本质和精神相悖。

最后,算法霸权易影响实质正义。随着算法的迭代演进,特别是深度学习算法技术的高速发展,具有深度自主学习与决策能力的智能算法与人类法官的行为已然脱离并超出了工具化属性,直接辅助甚至取代法官作出自动司法决策,进而成为新的独立决策者,加剧数字人权与数字社会新的不公平风险,进而消解实质正义制度和司法权力独立及专属本质。表面上,算法可能是一种自我运行的计算系统或程式性规则,实则算法以处理海量法律大数据的机器优势嵌入传统的“公权力—私权利”权力二元结构运行,最终可能反客为主,直至替代人类法官,亦甚至操控整个司法权力运作。一方面,算法技术形成的新型权力生态和数字资源分配方式使各个主体对算法产生过度依赖;另一方面,算法霸权的出现直接作用甚至影响司法系统内多方权力的平等互动和有效沟通,严重的直接替代司法权力机构自动作出机器决策,可能会侵害数字能力悬殊的双方当事人的平等诉讼机会与程序实质公平,最终使得诉权不均衡的态势被逐渐放大,并终将损害数字弱势一方的数字权益和数字权利,导致公正审判权难以实现。理由恰是,传统的线下诉讼均反映人类群体的集体正义,而智慧司法建设后,法官的自主决策权则让渡给算法,司法场域中的权力布局不再是单一的司法公权力主导,而是“司法+技术”的叠加权力,当事人存在被双重权力侵害的风险。[31]从本质看,迭代演进的算法衍生的算法霸权冲击的不仅是对抗性程序正义以及协商性程序正义,更是对传统制度性正义体系及制度内核的全方位挑战。

(三)算法量刑冲击审判中心主义

如前所述,算法量刑主要是指“在大数据、云计算的技术支撑下构建法律图谱,通过提取法律文书要素,进行类案识别和模型训练,用机器学习等人工智能方法形成量刑算法,在此基础上实现量刑预测和偏离度测算”[32]。具体操作是“通过大数据操作,将‘法定刑、基准刑、宣告刑’三个维度的数据准确标注,抽取案情中影响量刑结果的法定量刑情节、酌定量刑情节和影响量刑的历史因素,建立量刑预测模型”[33],进而实现对案件的智能定罪和智能量刑。然而,算法量刑在以“同案同判”的技术裁判路径推动传统司法量刑结构性转向的同时[34],也冲击了“庭审的方式认定案件事实并在此基础上决定被告人的定罪量刑”[35]的审判中心主义,具体表现在以下三个方面:

首先,算法量刑挑战庭审实质化的运行。刑事庭审实质化就是要确保“证据举证在法庭、证据质证在法庭、证据认证在法庭、案件事实查明在法庭、诉辩意见发表在法庭、裁判理由形成在法庭”[36]。但人工智能算法量刑的应用却对庭审实质化的有效运行构成挑战。一方面,算法量刑以网络在线的方式依靠智能量刑模型对既往类案进行智能量刑预测,这就使得传统“面对面的对话式”法庭辩论、法庭质证、法庭陈述制度在实体上丧失了保留的必要;另一方面,在技术依赖主义的不特定风险下,算法量刑预测可能取得超越“参考”性质的量刑决策权重,甚至演化为法官量刑审判的规范标准,如果法官不予采纳算法量刑参考时必须出具正当理由,这将大大限缩法官的自由裁量权,严重的将架空法官法庭居中裁判的主体性地位和权威 。

其次,算法量刑易破坏辩审双方的互动平衡。控辩审三方在司法量刑中形成的对抗式诉讼结构,是审判中心主义的精神实质。然而,算法量刑“却在整体上改变了传统的诉讼角色之间的地位与关系”[37],使得审方难以居中客观裁判的辩审双方互动失衡。进一步来说,辩审双方互动平衡的关键在于辩方能否实现有效辩护与审方能否有效回应,但由于智能算法量刑模型难以动态理解法律规范的本身含义和立法目的,难以穷尽案件法定、酌定情节的全部内容,难以向外界公布智能算法量刑的运作机理,辩方就更难就智能算法量刑预测结论进行有效辩护和说明理由。更深层的是,算法量刑遵循的是以数据、代码为智力支持的“经验验证式”量刑逻辑,“分析的对象并非待审案件,而是既有类案的判决规律”[32],这使得辩方基于待审案件的辩护意见很难在算法量刑中获得针对性、及时性和实质性回应,进而与“有效辩护”原则和诉讼正当程序相违背,难以实现程序正义的同时,有重蹈“职权主义诉讼结构”覆辙之虞。

最后,算法量刑易减损审判权专属原则的功能。审判权专属原则是审判中心主义的应有之义,其核心以职权特定化的形式防止法外行权,进而保证审判权的独立运行。但随人工智能算法介入司法量刑,审判权的属性与配置结构都发生了重大变化,并在一定程度上减损了审判权专属原则。一方面,在算法量刑的程式运行下,各类法律规范、案件事实、审判要件都将数字化和要素化,那么法官在审判中行使的证据审查、事实认定、法律适用、自由裁量等权力就沦落为智能算法对法律数据的计算分析结果。这实则使法官的审判权让渡给了智能算法,不仅会使审判权的专属性和权威性下降,还会使审判权的行使变得更加被动,更与司法的本质和规律相悖。另一方面,由于技术壁垒的存在,审判机关无法独立开发、掌握人工智能量刑算法,因此出现了审判权的“外溢”现象。详细来说,尽管在算法量刑的实际运行过程中,法律大数据分析规则、量刑知识图谱构建、自由裁量细分等条件都可按审判机关的预先要求设置,但在技术服务合同中仍很难囊括价值排序、法条转化等详尽内容,技术公司实则掌握了算法量刑决策的具体细节。[16]算法后台的运行维护,数据集的选择、预清洗等工作都依赖于外部技术公司的操作,而往往算法量刑的实质公正性和最优性往往取决于法律与案件中细节性规定和选择。例如,在量刑算法模型的调整中,即便是微小的代码替换都可能反映为定罪和量刑结果的巨大误差。

四、人工智能算法司法应用的完善路径

如上所述,人工智能算法的司法应用表现出诸多发展隐忧,但我们也应保持更加理性和积极的态度,正确和谨慎地对待人工智能算法司法应用的效率价值和合理定位。为此,我们应坚持实践导向,不断完善和构建人工智能算法司法应用的理论体系和美好蓝图。

(一)明确算法裁判的辅助性地位

首先,明确算法裁判的范围。如前所述,随着算法的迭代升级,其在提升智能化辅助水平的同时,也潜藏着影响法官独立裁判和法院独立审判的风险。2022年,《最高人民法院关于规范和加强人工智能司法应用的意见》明确规定了“辅助审判原则”,该原则为算法裁判的辅助性地位指明了方向、提供了规范引导。具体而言,算法裁判可以应用到以下几种类型的案件中。 其一,算法裁判可以应用于那些事实清楚,证据充分,认罪认罚的简单案件。对此,我们可以采取一种繁简分流的案件预处理方式,根据其复杂程度将案件进行分类,并将不同复杂程度的案件分配给法官和人工智能算法分别进行处理,对于比较复杂的案件,则必须由法官负责审理。其二,算法裁判可广泛应用于一些非诉讼事务。如文书写作、合同审查、类案收集等。其三,算法裁判应多适用于民商事案件,在刑事案件和行政案件中应当谨慎适用。理由恰是,民商类案件的数据信息比较丰富,且更加准确客观,贴合现阶段算法的发展现状。对于刑事案件和行政案件,为了保障案件当事人的合法权益,应当谨慎适用算法。

其次,明确算法裁判的责任归属。自算法参与到司法实践中以来,案件裁判的责任归属问题一直备受争议。由于技术水平的限制,现阶段应用于司法领域的算法总体上仍处于发展的初级阶段,大多从事一些基础性、机械性的工作。因此,司法实践仅仅赋予了其客体地位。如果想要算法独立承担司法责任,则必须承认算法的主体地位,这在目前显然是难以成立的。为了保障法官在审理案件时能始终坚持公平公正、独立自主的司法理念,就必须明确在有算法参与的案件当中,应当由法官承担案件判决结果的主要责任,算法的设计者或者算法研发公司承担次要责任,并且这种责任承担的比例应当随着算法技术的升级而作出调整。此外,法院对于算法的研发工作主要依赖于科技公司派遣的技术人员。为了防止司法工作者和技术人员之间存在利益勾连,影响法院独立审判,二者之间的接触必须遵循严格的程序,明确双方的权利义务关系。

(二)建立算法推理可修正的技术正当程序

如前所述,算法推理在数据运用层面和算法运行层面都面临着许多问题。数据的低质化、算法歧视和算法霸权等问题减损了算法推理在司法领域的运用效果。因此,有必要建立算法推理可修正的技术正当程序。可修正的技术正当程序作为对数字技术融入司法推理程序的过程和结果进行衡量的基本标准可以包括“排出歧视和霸权”“实质有效参与”“程序对等互动”“问责合理有效”四项基本要素,旨在对算法推理过程中的共同体参与、机器深度学习及算法推理系统的合理解释与规制提供参考性框架,这就需要做到:

首先,建立可修正的数据处理程序。如上所述,我国当下的法律数据存在不充分、不客观的情况。为了应对这种数据困境,建议做到以下三点:其一,完善全国性司法系统内部的法律大数据检索程序。其所收录的数据除了裁判文书上体现的裁判结果、量刑结果等客观数据,还应该包含案件的推理过程、证据参考等案件推理信息。这种数据库的建立既可以保证不宜公开案件的隐私性,又可以促进各地区法院互联互通,加强各地区法律数据库信息的共建共享,避免算法推理信息割据局面的发生。其二,建立自动化数据预处理程序。数据预处理程序可以在一定工作周期内通过对错误数据、失效数据进行筛查,对问题数据进行校准,并重新上传数据库。其三,建立规范化数据处理程序。以刑事案件算法推理为例,规范化数据处理程序应当对“法定刑、基准刑、宣告刑”三个维度的数据准确标注,如何抽取案情中影响量刑结果的法定量刑情节、酌定量刑情节和影响量刑的历史因素,量刑预测模型如何构建设置具体的程序标准和原则,以保证算法推理结果的全面和正确。

其次,建立完备的算法监督程序。第一,对算法的设计、研发、运行的各个过程要设定严格的监督程序;第二,对算法本身的伦理性要设定严格的监督程序。为此,可以成立专门的算法监督机构和专业委员会,委员会的成员可以由法律、伦理以及人工智能等领域的专家担任。具体来说,算法审查委员会应当定期对其辖区的司法机关所使用的算法系统进行抽查,对算法系统的使用情况进行深入分析和全面追踪,及时发现其中可能蕴含的算法安全隐患并妥善处理,不因技术介入、数据瑕疵或模型偏差影响推理过程和推理结果,保障算法推理的合理性和正当性。

(三)构建人机协同的算法量刑新模式

如前所述,算法量刑的出现,在一定程度上冲击了审判中心主义。为避免算法量刑的过度扩张,主张构建以法官为主导的人机协同的算法量刑新模式。“人机协同”的核心是“人”主导“机”的协同关系,人机协同的运作要以“人”的有效性、实质性参与为前提,以“人”“机”协同、优势互补为关键,最大化实现技术赋能,促进审方、辩方与算法三方等各类诉讼参与人共享数字红利,为智慧司法的高质量建设提供可行性的理论框架。 具体建议如下:

首先,确立“以审判人员为中心”的人机协作理念,并坚持人工智能辅助审判原则。在提供算法自动化量刑决策背景下,可以采用“谁作出决定,谁拥有作出此类决定权力”的方式确定责任归属。理由恰是,算法量刑的本质依然是法官主导量刑决策,只有法院依法行使审判权、法律解释权,才能确保判决的公信力、权威性和可执行性,唯有这样才能避免算法量刑的机器偏差和对法官量刑主体性的威胁,进而防止审判权“外溢”现象的蔓延。因此,量刑工作必须坚持“以审判员为中心”的协作理念,充分发挥法官在量刑工作中的主体性作用,规避算法系统可能带来的机械化偏差。此外,建议加强算法量刑的直接言词性。具体方法是,对于算法庭前自动校验的证据,法官仍需要在庭审中就其进行公开举证、质证辩论并进行实质性的二次审查。由于直接言词环节的缺失,不经算法与法官双重审查的证据,不得成为量刑依据输入算法参数。对于算法类型化的量刑参考,法官不得直接适用,应当调动对个案的内心确信,增添人类的价值判断、利益考量等理性说理因素,在弥补算法量刑“价值判断失效”的同时避免其作为庭外因素干涉量刑公正。

其次,提高辩方在算法量刑中的影响权重。在人机协同量刑问题上,应当将相关决策权重释放给各级司法机关,由相关机关根据实际情况,不断调整两者决策权重。同时,对于算法量刑的选择应当交予当事人。“当事人若不同意在司法程序使用算法量刑,司法机关必须予以尊重”[38]。人机协同的算法量刑新模式不应排除辩方在其中的重要作用,而这也是审判中心主义的必然要求。对此,建议以技术赋权形式提高辩方在算法量刑中的影响权重,进而达成与审方的互动平衡,如赋予辩方自由选择权、知情权、参与权、技术回溯权等为内容的权利群,以避免算法量刑在审方主导下形成 “入罪化”的路径依赖。

最后,明确法官与算法的合理分工范围。目前,算法量刑的具体适用规则没有统一规定,我国各地区对相关设备的使用边界也没有一个明确的界定。建议将算法辅助量刑的边界设定在“事实清楚”“权利义务关系明确”“证据充分”三个方面,但此类设定仍然不充分。例如,刑事诉讼法、民事诉讼法以及行政诉讼法及其司法解释中,关于简易和速裁程序、独任审判庭制度的设定可以暂时用作确定算法辅助量刑使用边界。此外,为确保审判权专属法官,数据筛选、证据预先审查、审判要件排列组合等量刑程序性事项可由算法自动进行,并在其中设置随时的人工介入权,预留法官决策空间以避免程序性的微小偏差传导至末端的量刑结果,涉及价值判断、利益考量的法律解释、量刑说理等量刑实体性事项则只能由法官进行。人机协同的算法量刑新模式的本质就是通过法官智慧和机器智能的有机结合,消解审判中心主义与算法量刑的矛盾,从而为量刑工作提质增效。

五、结语

基于人工智能算法正加速应用于智慧司法实践的各个层面。本文以人工智能算法与司法实践现象为材料,从科技、法律、伦理等多重视角,分析了人工智能算法司法应用的图谱及隐忧,丰富了智慧司法应用理论的研究成果。

诚然,智慧司法的运作是算法大规模的替代或辅助法官进行裁判、推理及量刑的过程。这种应用不仅助推司法质效的大幅度提升,限制法官自由裁量的空间,还直接重塑了司法理念、司法正义以及司法本质。但由于人工智能算法的复杂性和隐蔽性共存,威胁了司法自主、实质正义和审判中心主义。其深层根源除了算法司法过程的不可还原性和封闭性导致的黑箱效应和算法霸权,算法与数据作为算法司法生态的关键要素也威胁法官独立裁判和法院独立审判,甚至解构司法本质和属性。

为了实现人工智能算法技术理性与智慧司法的目的理性契合,需要做到以下三点:首先,需要明确算法裁判的辅助性地位。那些事实清楚证据确实充分认罪认罚的简单案件、一些常规非诉讼事务案件和金融经济纠纷类民商事案件应纳入算法裁判的范围。在有算法参与的案件当中,应当由法官承担案件判决结果的主要责任,算法的设计者或者算法研发公司承担次要责任,并且这种责任承担的比例应当随着算法技术的升级而做出调整。其次,建立算法推理可修正的技术规范程序;这就需要建立可修正的数据处理程序。为此可建立全国性司法系统内部的法律案例数据库、自动化数据预处理程序和规范化数据处理程序。此外,应建立完备的算法监督程序,算法审查专业委员会需承担算法审查工作,委员会的成员可以由法律、伦理以及人工智能等领域的专家担任,进而保障算法推理的合理性和正当性。最后,构建人机协同的算法量刑新模式。人机协同的算法量刑新模式的本质就是法官智慧和机器智能的有机结合,二者相辅相成,相互制约。事实上,本文对人工智能算法司法应用的研究和理解还处于初级阶段,数字技术对智慧司法实践的革命性影响还需要我们不断地去探析、深挖和高度提炼。无论是可修正的技术规范程序的构成要素以及具体内涵,还是人机协同的算法量刑模式的具体操作,值得探讨的空间很大。智慧司法理论界和实务界在不断向技术理性靠近的道路上,仍需坚持“人”主导“机”的协同关系和人类社会人本主义的自我意识,共同提升人工智能算法司法应用的实践品质和理论品格。