量刑辅助系统在我国的发展契机及风险防范

冯雨音 陈妍萍 高 达

广东警官学院，广东 广州 510405

近年来，人工智能开发在诸多领域取得突破性进展。当人工智能的身影开始在我国司法领域活跃时，为我国的司法领域带来许多新的发展契机。其中，量刑领域的发展契机值得关注，因为定罪量刑是刑事诉讼中对司法公信力极具影响的环节之一。因此，本文将在结合国内外司法人工智能运用情况的基础上，用理性、审慎的眼光对人工智能在量刑领域的发展前景进行分析。

一、刑事司法领域人工智能运用概述

（一）国内概述

随着“建设世界科技强国”战略的推进，我国的智慧法院建设活动在国家政策支持和国家机关的助力下有序开展，司法人工智能的研发是我国智慧法院建设的重要环节之一。在技术人员和司法机关的共同努力下，已有多种人工智能系统在我国司法领域投入使用。目前已在我国投入使用的司法人工智能主要涉及以下方面：

1.信息数据化。信息数据化即运用智能转化系统，将卷宗等纸质化信息，转化为易于存储、复制、传输的数据化信息，存储进司法机关的数据库中。已运用于最高人民法院和多家地方法院的、由上海高院与K公司合作开发的“206”智慧法院庭审系统就搭载了该功能［1］。

2.证据标准化。“206”智慧法院庭审系统在开发时也贯彻落实了“统一证据标准”的理念——该系统属于我国司法机关以人工智能为手段实现对刑事案件证据的统一校验的一次尝试［2］。

3.办案线上化。广州市白云区法院在其公众号中所述的以“云法讼宝”微法院、两个一站式为主要成果的智慧法院子系统，就基本达到了“全业务网上办理，全流程依法公开，全方位智能服务”的要求，并且实现了“一站通办、一号通办、一网通办”［3］。

4.量刑公正化。要想刑事诉讼法保障人权的目的得以实现，首先要保证量刑公正。最高人民检察院以及贵州、海南的检察机关于2020年上线运行的全国检察机关统一业务应用系统2.0版中的量刑辅助系统就属于该方面［4］。

（二）国外概述

以欧美为例，在美国的司法领域投入使用的人工智能如下：美国联邦法院的“案件管理和电子案件档案系统”以及威斯康星等州的法院COMPAS系统等。而根据欧洲司法效率委员会2016年的报告可知，欧洲已有多家法院安装了用于管理案件的人工智能系统［5］。

二、人工智能在量刑领域的发展契机与优势

目前，人工智能在量刑领域运用的典型代表为量刑辅助系统。所谓量刑辅助系统，即当一个案件事实认定清楚、罪名确定之后，能够通过对已知的案件信息进行逻辑推理并提出量刑建议的人工智能系统。以下是该类系统的发展契机及优势：

（一）司法机关办案压力日益增长

随着基层普法的工作的不断推进和公安机关侦查水平的不断提升，法院需要处理的案件也越来越多。以广州为例，调查显示，2015年广州全市法院受理案件数突破30万件，而到2016年，前三个季度全市法院受理案件总数已经达到2015年全年水平［6］。办案压力过大会影响司法工作人员的判案水平甚至是身体健康。同时，案件堆积也会导致部分案件的最佳审理时间因此错失。由此看来，研发司法人工智能以减轻司法工作人员的工作压力已势在必行。在这样的背景下，量刑辅助系统能够拥有较好的发展环境。

（二）人工智能可助力提高量刑精确度

目前，司法机关量刑能力培养与提升的速度仍较慢，而司法人工智能可以作为其提速的“助推器”［7］。为提高量刑精确度，在2017年《最高人民法院司法责任制实施意见（试行）》的指导下，最高院以及地方各省高院都在积极发展包含类案推送功能的智能化办案系统，例如北京高院的“睿法官”办案系统，江苏高院的“同案不同判预警平台”［8］。但依靠类案推送功能划定的量刑范围仍较为宽泛，因此需要量刑辅助系统运用其强大的数据分析能力划定更精确的量刑范围，帮助司法机关工作人员更好地积累量刑经验。

三、人工智能在量刑领域运用的风险分析

我国量刑辅助系统的发展道路看似风平浪静，实则潜藏着不少风险。针对潜在风险的分析如下：

（一）司法数据缺陷影响运算结果

目前人工智能与法律结合研究的重点放在专家逻辑模型系统之上。该类系统较为常见的运算方式是通过数学逻辑方法来实现人工智能，这一点与法律工作者的思维方式有一定相似性——两者都可以通过使用三段论推理模型对案件进行分析并量刑［9］。人工智能在独立运算前，需要对大量数据进行学习，然而我国的司法数据库中的部分案件的处理过程或结果存在瑕疵，这些瑕疵会对人工智能运算时的逻辑产生一定影响，其对适用法条的选择可能会因此出现偏差。且由于司法数据中与伦理等常识有关的数据较少，这会导致人工智能容易在与常识有关的问题上产生错误判断。

（二）司法辅助活动影响现有司法体系

我国刑事诉讼的审判程序采用的是混合式模式，法官居于审判中心地位，负责对犯罪嫌疑人进行定罪量刑，最终产生的判决属于法官及陪审员的智力劳动成果。而一旦量刑辅助系统加入审判环节，其对量刑提出的建议，会对法官的最终判决产生一定影响。这会使法官的审判中心地位产生动摇——法官的最终判决将在一定程度上包含人工智能算法运算的结果，而不再是纯粹的人类智力劳动成果。而且，一旦人工智能参与审判的案件产生了错案问题，由于我国现有的错案问责体系不够完善，将产生人工智能问责问题。

（三）“算法黑箱”影响司法公信力

目前，由于我国同时精通法律和计算机的人才仍较少，司法人工智能大多是司法机关与科技公司合作进行开发。对于科技公司来说，它所参与研制的人工智能的算法属于其商业机密，一般不会向大众公开，这会导致公众难以了解算法的真正意图，从而对算法的公正性与合理性产生怀疑。当时卢米斯上诉初审法院将COMPAS系统的评估报告作为量刑依据的行为侵犯其合法权利的理由就与“算法黑箱”有关。由于COMPAS报告提供的数据较为宽泛且不愿公开用于制作报告的算法，卢米斯据此认为法院对COMPAS系统的使用侵犯了他获得个性化判决的权利［10］。

四、防范风险的措施

（一）对司法数据进行筛选

我国司法数据量多而质不高的问题可以采用对司法数据库中的案件进行筛选的方法解决。笔者认为，会使案件存在瑕疵的主要影响因素如下：时代背景、社会舆论、主观色彩。对此，可以研发一款多功能数据筛选系统，让其先用时间检索功能对数据库中受时代背景影响的案件进行筛除，再通过排除个案和挑出典例的方式对剩余案件进行二轮筛选。排除个案即将法院的数据库中的案件依照案情相似度进行分类后，将与量刑平均值差距过大的案件剔除。其中，量刑平均值最好是通过比对全国各地类案的量刑后得出的，这样所得出来的量刑平均值可以排除一些地域性影响因素。挑出典例则是将案件中比较典型的挑选出来作为判例，使人工智能能够根据典型案例中所体现出来的法的普遍性原则对其他类似案例进行量刑。

（二）对错案问责机制进行完善

完善错案问责机制需要明确的主要问题是责任归属问题。由于根据结果主义的算法问责的观点，人工智能的算法具有复杂性，进行事后问责时无需考虑算法的具体运算方式，且对人工智能进行惩罚没有太大意义，所以责任应由人工智能的实际控制者于事后承担［11］。当审判结果错误是由事实认定错误造成时，责任归属于法官，因为用于量刑的证据一般是经过法官的审核才会输入量刑辅助系统之中。而当审判结果错误由法律适用错误造成时，笔者认为，若法官在判决时参考了人工智能的量刑建议，责任应同时归属于法官和人工智能实际控制者。因为量刑辅助系统在提出量刑建议时必定会给出其适用的法律，此时法官负有审查法律适用情况的义务，若最终判决的法律适用有误，则说明法官未尽其义务，需要为此担责。

（三）对算法进行部分公开

从总体上看，“算法黑箱”产生的原因有二：一是出于维护商业利益的目的，人工智能的实际控制者及设计者不愿将算法公开；二是由于人工智能算法具有复杂性，即使对算法进行公开，其意图仍难以捉摸。为此，可以采取公开必要部分的方式使算法变得相对透明，无需公布算法源代码——这是由于一方面算法的源代码较为复杂，且其设计者会不断对其进行更新升级，部分算法甚至无法溯源，难以进行公开；另一方面，公开源代码时一般会使用较多绝大部分人难以理解的专业术语，即使公开也对公众的权利保护没有太大意义［12］。只公开必要部分的方式既能维护科技公司的商业秘密，也能提高司法人工智能的公信力。科技公司在公开这部分算法的同时还需要对其功能进行介绍，以便公众及监督机关进行监督。

（四）对量刑辅助系统的运用进行限制

要想保障法官的审判中心地位，必须保证法官尽到对量刑辅助系统运算结果的准确性、可适用性的“把关”义务，即保证法官将审查与下达最终判决的权利牢牢把握手中。在审理案情复杂或涉及较多法益的刑事案件时，法官应亲自综合多方因素进行量刑［13］。同理，一些需要结合常识判断的案件也需如此，不然容易产生更多像“天津大妈非法持枪案”这样的争议案件。此外，由于认罪认罚案件一般案情较为简单，涉及的法益较少，且“以审判为中心”的诉讼制度改革所统领性下的制度安排包括认罪认罚从宽，两者可相辅相成［14］，所以可以将量刑辅助系统的运用范围限制在认罪认罚的案件内，协助法官划定量刑范围。

（五）对常识进行选择性补充

将已固化的伦理规范作为数据的一部分，可以在一定程度上弥补人工智能的常识缺陷。伦理可看作道德哲学对行为目的、原则规范、价值取向进行研究后形成的具有普遍适用性的行为标准，这种符合道德的行为规范，对人与他人、社会以及国家的关系具有调节作用［15］，对量刑来说有一定的参考价值。另外，由于语言具有不确定性，法条也因此具有不确定性。一些词语在不同的法条中的含义范围是会出现扩大或缩小的，例如“胁迫”一词，在抢劫罪中的指是以暴力相威胁，而在强奸罪中其含义范围扩大，将以非暴力相胁迫也纳入其含义范围［16］。这类词语的含义范围只有结合常识才能正确理解。这个问题可以通过给人工智能搭载已经开始在国内的研究中出现的自然语义识别技术（NLP）［17］的方式加以解决。

五、结语

对量刑辅助系统带来的风险进行防范不仅需要完善司法数据，也需要对我国刑事司法领域的多项机制进行调整与完善。由此看来，量刑辅助系统的出现在带来机遇和风险的同时，也推动了我国司法模式改进的探索。因此，量刑辅助系统可以视为我国司法改革中不可缺少的量变环节之一，是司法改革创新的动力源泉。