基于人工智能技术介入司法行政领域存在的风险及防范

倪 斌

（河南司法警官职业学院,河南 郑州 450000）

人工智能的概念最早出现在1956年的美国达特茅斯会议上，在产业变革与科技革命高速推进的过程中，人工智能浪潮席卷全球，我国在此背景下开始应用人工智能推动各领域的发展。人工智能符合时代未来发展趋势，对我国各领域的发展有重要的推动作用。司法领域在新时期也开始应用人工智能，并且人工智能在司法领域的影响力逐渐变大。最高人民法院将信息化建设与司法改革作为未来发展的重要任务，智慧法院正在如火如荼地建设中，成为人民法院完善机构体系、创新工作机制的重要内容。

1 人工智能司法实践的相关概述

1.1 人工智能司法实践现状

进入21世纪，新一轮产业变革和科技革命的推进，将人们带入到信息时代中，在此背景下，人工智能技术出现并开始应用于司法领域。学者们对人工智能极为重视，展开了人工智能信息透明化、实践应用举措等方面的研究。我国大力推进人工智能技术发展，但是当下由于技术水平与发展阶段的限制，且人工智能实践应用方面相关的资料也非常匮乏，导致司法领域应用人工智能存在不少的问题。

我国人民法院十分关注人工智能在司法领域的发展，最高人民法院在2016年就提出“智慧法院”，这是出于时代发展的考量，随后我国智慧法院的建设将司法工作朝着科学化、智能化的方向引领。比如，北京法院应用“睿法官”（智能辅助系统）获取与案件相关的信息与法律法规，在系统的辅助下可以在短时间内收集资料、梳理案件内容并整理与之相关的法律关系，该系统同时拥有提供裁判建议、提炼争议焦点、生成裁判文书的功能，相关功能为法官审理案件提供了便利条件，缩短了工作所用的时间[1]。

1.2 人工智能司法实践前景

人工智能系统应用于司法领域，可以提高司法工作的执行效率。与传统司法活动方式相比，人工智能系统可以快速收集信息、整理信息、分析信息，强大的信息检索功能可以降低法官在资料检索工作中的操作难度，让法官可以将精力集中在案件审理上，从而大幅度提升办案效率。我国法院对于人工智能技术态度积极，应用水平也处于世界领先地位，例如上海的“刑事案件智能辅助办案系统”（简称“206系统”）、北京的“睿法官”、江苏的“法务云”、河北的“智审”、重庆的“法治云”等，其功能涉及单一证据校验、逮捕条件审查、全案证据审查判断、社会危险性评估、类案推送、量刑辅助、语音识别及智能转换等内容，为法院应对海量案件提供了技术路径[2]。

2 人工智能介入司法实践的现实问题

2.1 威胁法官审判主体地位

司法领域中，人工智能的应用可成为法官审判案件的有力辅助。依托人工智能，使用案件检索系统和法律法规数据库查询与案件相关的文献和资料，可降低工作负荷，提高工作效率[3]。然而人工智能运用于司法裁判也存在一定的风险，人工智能依托程序进行案件审判，程序的编写者可能会对系统运行产生一定的影响，从而导致法官使用人工智能系统形成双重审判主体。人工智能程序的编写可能由多主体进行，在此种情况下将会增加审判主体的定位难度，与此同时会出现审判活动裁判权力边界不清与司法问责制度落实不到位的情况[4]。

人工智能审判案件主要是通过程序算法得出结果，分析案件数据并依据法律法规要求建立推理模型，预测案件的审判结果，法官通过参考人工智能程序预测的案件结果，可以有效减轻自身的工作量。长此以往，可能会削弱法官在案件审判中的作用，审判实践参与度降低可能会一定程度影响法官专业能力的提升，这也就与人工智能介入司法领域的初衷相悖。

2.2 人工智能技术存在短板

人工智能技术应用到司法领域中，可以有效提高相关工作人员的工作效率。司法实践与人工智能技术的接触与融合是一个渐变的过程，需要在这个过程中不断提高两者的结合程度，并提高相关系统的完整性。我国人工智能技术受到国家的重视，各领域人员也积极地开展技术研发工作，但是人工智能技术仍存在滞后性、机械性与不完整性的问题，这些问题在司法实践中表现得比较明显[5]。

人工智能利用程序收集案件数据，并在程序运作下分析案件，最后预测案件裁判结果。案件判断过程中，一方面依靠完善的系统程序，另一方面凭借对法律规则与法律概念的精确掌握，在相关条件下将案件内容与法律法规转变为机器语言。对于法律法规与法律概念的理解，不同法官有不同的看法，所以同一个法律条文，可以出现多种理解与解释，将其转变为计算机语言后，计算机需要结合素材提出合理的解释。人工智能的应用需要在公平正义与法律法规的指引下，对素材进行分析，如果仅凭借简单的技术分析，使用相关结果作出的判决难以令人信服。当下人工智能在实际应用过程中，因其滞后性与机械性，无法取得良好的工作成效。

另一方面，法官长期审理案件形成的分析思维与裁判经验等，是人工智能在案件审判方面难以比拟的。法官在案件审判期间如果单纯参照法律法规，难免会对案件分析不全面，但是凭借多年工作积累的经验，以及对案件信息的把握，可以在自由裁量权下进行判断。法官在法律刚性方面的不足，可以凭借自身的理性思维与判断经验弥补，从而有机统一“理、法、情”，在相应方式下让审判带有温度。

2.3 算法独裁干预司法公正

算法运行离不开大数据，在数据的支持下凭借人工智能系统可以给出审判结果。但是经过深入的研究，发现算法审判究其根源就是对数据处理得到的结果。人工智能系统运行中，可以清楚显示数据输入与结果输出，但是对于系统运算的过程并未呈现，在此种模式下会衍生出算法独裁与黑箱问题。在审判活动中，使用算法结果考量案件，必须满足一个前提条件——让当事人信服算法结果，因为系统预算过程没有公开，很难找到合理解释消除当事人的疑虑。

大部分公众对人工智能的认知程度较低，利用算法决策考量不足，并且没有关注算法监管方面的工作。随着智慧法院建设的推进，人工智能将会在未来成为案件审理的主要工具，诸如征信规则、保险规则、法律规则等写入算法，如果编程人员不清楚相关规则的含义，就没有办法提高算法运行的合理性。在规则算法化、数据化的过程中，还会引发很多不可靠、不公平的问题，法律的公平性、正义性会受到影响[6]。

2.4 侵害个人信息与隐私权

人工智能在信息技术高速发展的背景下被广泛应用，虽然其出现为大众提供了很多便利，但同时也带来了隐私安全与个人信息防护方面的问题。人工智能的应用需要以大量数据为基础，开发利用人工智能系统势必会涉及大量个人信息。一旦人工智能系统遭到黑客攻击或遭遇其他问题，系统中的个人信息会处于危险境地，对用户财产与个人安全造成巨大的威胁，一旦大众的个人信息泄露、隐私被公开，将会激发公众的抵触情绪。

在人工智能系统应用期间，系统一方面会提供司法服务，另一方面会收集诉讼相关人员的个人信息，所以系统中含有诉讼参与者的信息，其隐私安全与个人信息保护工作必须予以高度重视。另外，公权力部门在信息化建设期间，推出网上办理业务的服务，相关服务对智能化技术有较高的要求，因此相关部门会联合高新技术企业共同研发智能化信息系统。此类企业在获得资质后，可以收集大量数据，而此种方式应用于司法领域较为不妥，因为公民个人信息会在未经本人同意的情况下被企业收集与处理。

3 人工智能介入司法实践的发展路径

3.1 准确定位人工智能

人工智能应用到司法实践中首先必须准确定位。人工智能只是一种辅助性的工具，在案件审理过程中，法官应该占主导地位，人工智能不能替代法官。在司法实践中，大部分案件具有复杂的人际关系且事实曲折，审理案件需要结合常识、法律法规进行分析，最后妥善地处理。案件审理工作包括很多环节且较为复杂，法官的分析思维和工作经验对案件审理结果具有巨大的作用。人工智能系统虽然拥有强大的检索能力、深度的学习能力，但是不具有人类的情感，程序得出的结果有时很难让人信服[7]。

人工智能的发展与数据化的出现，初衷是通过技术手段替代重复劳动，将人力从简单的工作中解放出来。人工智能应用到司法领域中，推动智慧法院建设，是希望建立现代化的审判体系，将人工智能作为法官工作的辅助性工具，而不是让人工智能替代法官。在案件审理期间，法官需要结合掌握的信息，依托相关法律法规进行独立的判断，所需的数据主要由人工智能系统收集、整理、分析。在人工智能技术的辅助下，司法活动可以高效地进行，让司法公平、公正的特性良好地展现出来。

3.2 深化人工智能技术

人工智能应用到司法领域中，基于复杂的社会条件与技术发展水平不足的状况，需要在系统设计时，保证程序的公平公正。人工智能程序编制前，需要在公平正义理念下设计好基础算法程序并完善程序内容，提高程序在司法实践中的透明性、公开性与可问责性等特性，使其能够在必要情境下被合理使用。人工智能是辅助案件审理的工具，但不能过度依赖人工智能系统，否则就可能演变为将法律维持社会关系与秩序的功能变相地转交给技术人员、数据与企业。人工智能系统在司法领域中应用，需要接受公众的监督，法学家、技术人员也需要密切关注人工智能系统。政府需要在人工智能系统的应用中，逐步完善程序规则，约束算法设计者的行为，引导人工智能在司法领域朝着正确的方向发展[8]。

3.3 有序推动人工智能在司法裁判中的发展

人工智能系统在司法领域中的应用尚处于发展阶段，提高技术的应用效果需要漫长的时间，需要不断完善系统内容。人工智能系统是法院开展审判工作的附属工具，在应用中受到社会发展条件影响，需要考虑到社会公众对人工智能系统的接受程度，掌握人工智能技术的发展情况。法院应用人工智能技术，将其作为辅助案件审理的工具，不能出现喧宾夺主，占据法官审判主导地位的情况。使用人工智能技术需要考虑全面，明确其对传统就业结构、制度机制、治理理念造成的影响，在智慧法院建设中思考相关问题的解决方法。

3.4 开展个人信息与隐私权的保护工作

人工智能系统建立在海量的数据上，法院使用人工智能系统涉及个人隐私方面的问题。数据保护工作异常重要，一旦处理不好，将会直接危及公民财产与人身安全。因此，应该重视公民隐私与个人信息的保护工作，同时选择科学的工作方法。确定数据信息的采集范围，采集公民的信息需要告知对方，保障公民的知情权。法院收集公民的信息是为审判工作的开展提供便利条件，但对个人信息的收集必须有度，确定人工智能系统在案件处理方面的需要，在此前提下界定法院个人信息数据收集的行为与界限。另外，当事人需要清楚法院收集信息的使用范围。

法院开展人工智能系统建设、维护工作时，必须履行审判组织应该承担的职责，与技术企业合作必须规范其行为，一旦技术企业利用技术侵害公众个人信息，需按照要求严惩。法院与技术企业在人工智能系统应用方面，需明确系统服务司法审判的大前提，在此基础上合作，规范技术企业的行为，防止其利用技术优势窃取、违规利用个人信息，将当事人置于危险境地。

4 结语

人工智能技术应用于司法行政领域尚不成熟，在开展智慧法院建设、引入并使用人工智能系统的过程中，需要高度重视技术合作对象的选取工作，应该加大审查工作的力度，保证数据安全、可靠。要合理应用人工智能系统，在保证公民个人信息、隐私权不受侵害的同时，为案件审理工作的进行提供便利条件。