人工智能时代的犯罪防控

孙 笛

（中南财经政法大学博士后流动站 湖北 武汉 430073）

2017年7月20日，国务院发布了《新一代人工智能发展规划》，对人工智能时代的法律、伦理和社会问题研究提出了新的要求。由于学术界对人工智能还没有统一的定义，因此，本文涉及的人工智能主要包括计算机视觉、自然语言理解与交流、认知与推理、机器人学、博弈与伦理、机器学习这6大领域[1]。犯罪防控可划分为宏观、中观和微观3个层面：社会越轨行为是广义犯罪防控的对象，即在宏观层面上，社会中所有“越轨”或“失范”行为都属于犯罪防控的范畴，理论界所指“社会控制”及实践中的社会治安防控、社会管理综合治理正是其应有之意；中观层面的犯罪防控特指对符合刑法犯罪构成的行为进行刑事追诉的过程，侦查机关、检察机关、审判机关及法律服务等主体进行的与刑事追诉有关的活动均应纳入其中；微观层面的犯罪防控针对具体的犯罪行为及对行为实施后有关证据的收集和固定，现场勘验、物证鉴定、犯罪地理画像、测谎等都属于此层面犯罪防控的对象。

1 人工智能的科技红利：对犯罪现象的消解和犯罪行为的防控

1.1 社会治理的智能化

社会治理智能化既是人工智能发展的目标之一，也为完善我国立体化社会治安防控体系提供前提保障与技术支持。依据国务院对人工智能的发展规划，社会治理智能化包括智能政务、智慧法庭、智慧城市、智能交通和智能环保5个方面。政务的智能化主要体现在以下几个方面：首先，政务大厅安排集取号、查询及初步指引功能于一体的实体机器人来减轻人力压力并提高指引的准确度和政务效率；其次，基于人脸识别技术的应用可以使办事验证环节的验证手段多样化，避免大量不必要的证明材料及异地当事人远程审批的实现，提升服务效率及群众满意度；最后，通过人工智能系统运行在线政务可以根据具体用户偏好使内容推荐个性化，多种渠道平台的在线客服能够提供全天候的即时服务，信息处理系统可以有效识别审批流程的冗余或可替换环节，辅助决策系统数据筛选质量的提高能够为决策者提供更加客观和多样的决策选择[2]。

智慧法庭、智慧城市、智能交通和智能环保的目标同样也是通过人工智能技术的介入提高工作效率及专业化服务水平。目前，我国在图像识别、文字语音识别领域达到国际领先水平，自动指纹识别系统、视频监控已广泛应用于城市治安防控体系，提高了犯罪线索搜集和筛选的效率。人脸识别系统基于区域特征分析算法，利用图像识别技术实时提取人像特征点，通过生物统计学原理进行分析建模，应用于出入管理、辨识、监视、认证和智能报警等多个方面，已在国内多个公安系统内及机场、火车站应用①长春机场使用人脸识别系统一个月内有效拦截4人违法使用证件；沈阳地铁站人脸识别系统在11天内抓获3名网上追逃人员；上海地铁站启用人脸识别系统一个月预警800余次，有效盘查652次，协助公安部门抓获嫌疑人286名。。人工智能在教育、医疗、养老、环境保护、安防、公共服务等领域的广泛应用均极大程度地提高了公共服务精准化及均等化水平，全面提升了人民生活品质。人工智能技术对基础设施和社会安全运行等重大态势的准确感知、预测、预警，对群体认知及心理变化及时把握和主动决策反应，将显著提高社会治理的能力和水平，对有效维护社会稳定具有不可替代的作用。社会稳定程度越高，社会中的“越轨”或“失范”现象就越少，社会治安状况就越好，社会控制的水平就越高。

1.2 刑事追诉过程的智能化

刑事追诉过程包括立案、侦查、审查起诉、审判和执行5个阶段。因此，刑事追诉过程的智能化涵盖人工智能应用于侦查机关、检察机关、审判机关及法律服务者所做出的一切与刑事追诉活动有关的行为。对侦查机关而言，人工智能的应用主要集中在智能化信息检索技术和图像识别系统、侦查专家系统和侦查智能机器人领域。同传统信息检索技术相比，智能化信息检索技术在信息检索速度、信息整合广度、信息处理深度3个方面得到更进一步的优化，它和图像识别系统关联能够迅速准确的检索到符合目标条件的犯罪嫌疑人。侦查专家系统的本质是机器学习，以包含专家级别广度和深度的数据为基础，利用专家的知识和方法进行推理判断，模拟决策过程。侦查智能机器人特指具备获取信息和证据功能的排爆或战斗机器人[3]，应用在侦查活动中能够降低人员伤亡、提高侦查效率。警用无人机、排爆机器人、警用平衡车、水下机器人等智能机器人已经在我国公安工作中得到应用。在打击恐怖主义及严重犯罪活动中，排爆机器人、战斗机器人和具备监听监视功能的机器人将会发挥巨大的作用。

检察智能化以高清卷宗数据自动抓取系统和精准量刑建议系统为代表，服务于公诉和批捕业务，能够精准抓取定案关键信息，在最大程度上辅助办案人员处理案件②浙江某检察院自主研发的数据自动抓取系统和精准量刑建议系统上线3个月以来，通过办案辅助功能辅助办案204件，量刑建议准确率超过90%，一次性文书生成篇幅超过80%。。我国1996年人民法院开启了与信息技术融合之路，2016年最高法提出“智慧法院”，体现了科技与司法体系的全面融合。智慧法院的智能化重点体现在两个方面：法院应用系统的智能化和法院建设的智能化[4]。前者以案件信息在线查询、法律文本检索、在线立案、送达、缴费、执行等系统为代表；后者包括远程审判、语音识别代替庭审笔录、自动化生成文书及区块链留痕等智能系统的应用。智慧法院一方面将法官和书记员等主体从重复劳动中解放出来，大幅度提高工作效率，另一方面可以有效提高司法可得性与法律援助的效率。

在律师服务领域，人工智能在智能法律检索、法律文件自动化、案件预测、咨询服务等方面发挥积极的作用。智能化和自动化的法律检索向律师呈现与检索相关的最有价值的结果③世界首个机器人律师ROSS基于大数据平台，通过自然语言处理和机器学习技术识别检索结果并评估价值，最终形成专业的回答。类似的还有知识产权法律工作自动化领域的TrademarkNow。，而非所有的未经筛选的检索结果。同样，智能法律咨询系统向咨询者提供经过初步分析和判断后最有价值的回答。法律文件自动化包括文件审阅（电子取证和合同分析）与文件生成两部分，为法律服务提高效率、降低成本并改善流程。基于大数据和机器学习的案件预测技术④Lex Machina 公司的服务系统从大量案例的原始数据中自动分析法官的办案趋势、对家律师的诉讼策略、案子的时间进程等。不但可以节约当事人诉讼成本，而且能够进行同案同判以实现司法公正。人工智能应用于刑事追诉过程的结果是追诉程序效率的提高、诉讼成本的降低、司法服务均等化水平的提升及律师行业市场透明度与消费者知情权的确保。对犯罪行为的有效追诉是犯罪防控在中观层面的应有之意。

1.3 犯罪分析的智能化

一直以来，刑事科学技术在犯罪分析领域发挥重要作用①广义的刑事科学技术包括案件在调查、侦查及刑事追诉过程中使用的一切科学技术手段和方法，狭义的刑事科学技术包括物证分析（现场勘查、痕迹分析、文件物证检验、毒品毒物检验等）、法医鉴定（尸检、临床试验）、犯罪心理分析（测谎、犯罪侧写）及精神病学鉴定等。本文取狭义概念。，人工智能为犯罪分析提供了更为强大的科学技术支持。

1.3.1 识别技术

我国已经研发出的人脸识别人工智能测谎仪，包括人脸识别、语音识别、语义识别、形态识别、生理探测、智能决策和控制6大模块[5]。结合生物探测技术与语音识别技术，根据神经和生理的外在反应实现毫秒级微表情的捕捉、反推心理活动的发展变化，对个体情绪、内心倾向进行精准分析。与传统测谎仪相比，人工智能测谎仪进行的检测具有非接触性，监测手段的隐蔽可以有效降低被测个体的警惕性，为侦查讯问有效辨别谎言及讯问策略的制定提供了更为客观和积极的辅助作用。

1.3.2 增强现实技术（AR）在犯罪分析中的应用

增强现实技术将虚拟信息和现实信息同时显示（两者互为补充和叠加），通过实时计算摄影机影像角度位置使显示器中虚拟世界和现实世界的叠加呈现动态匹配与实时互动。在犯罪现场勘验中使用AR技术，可以将对犯罪现场的扫描转化为数字信息并进行检索处理；裸眼画面中投放数字信息可实现虚拟与现实的实时对接；AR技术可以即时将扫描获取的指纹、枪弹痕、血迹、笔迹等痕迹与相应数据库进行比对，并将比对结果呈现给技术人员[6]。在犯罪现场重建中，AR技术可以通过三维模型模拟犯罪过程与行为，从而进行推理分析，避免传统通过文字、图片和录像为主的重建方法导致的结果与现实情况出现的偏差。

1.3.3 机器人在犯罪分析中的应用

机器人是由仿生元件组成并具备运动特性的机电设备，它具有操作物体及感知周围环境的能力[7]。在试验和安全监控与自动控制方面，智能机器人一方面起到补充人力的作用，协助技术人员执行危险任务，尤其在一些人力难以到达或危险的场所进行犯罪现场勘查和现场重建工作，另一方面能够协助进行远程司法鉴定[8]，降低鉴定成本，提高效率。

1.3.4 人工智能的应用使监测某一类型犯罪行为成为可能

英特尔通过AML Advisor解释数据中间的关联性[9]，帮助分析师和调查者在保险公司和银行的数据中了解新兴趋势，提升决策判断能力。同时，透明度较高的智能系统符合监管标准与要求，预警系统可以有效打击金融犯罪。人工智能应用于犯罪信息分类、检索、鉴别、利用，在具体案件分析（数据挖掘技术）、决策、代为实施侦查行为等方面为犯罪分析提供了强有力的科学技术保障。

2 人工智能的科技风险：对社会公平的影响和法治原则的冲突

2.1 人工智能或引发社会不公

第一，人工智能导致一定范围内的大量失业。2016年物理学家史蒂芬·霍金认为“工厂的自动化已经让众多传统制造业工人失业，人工智能的兴起很有可能会让失业潮波及中产阶级，最后只给人类留下护理、创造和监管等工作”[10]。有学者将人工智能的威胁分为近期威胁、中期威胁和远期威胁3个层次，并认为大批失业是近期主要的威胁[11]。每次工业革命必将伴随大量工作岗位的消失及一定时期内的失业大潮，科技革命虽然会造成既有工作岗位被取代，但也会制造出足够多的新的就业机会，失业现象会逐渐得到消解。即使失业率会逐渐被消解，失业率在一定时期内、一定领域内还是会有所提高。失业率和犯罪率存在正相关关系，这意味着失业率的提高会导致犯罪率一定程度的提高，这是人工智能带给犯罪研究的挑战之一。

第二，人工智能引发的歧视现象不容忽视。人工智能决策中机器歧视屡见不鲜，机器歧视导致种族歧视、性别歧视、消费歧视等问题的出现。例如，有图片识别软件将黑人标记为大猩猩[12]；在某智能搜索服务中分别输入黑人和白人的名字，前者更容易出现含有犯罪暗示的广告；某犯罪风险评估软件算法系统歧视黑人，导致黑人被赋予高犯罪风险几率②非营利组织ProPublic研究发现，Northpointe公司开发的COMPAS犯罪风险评估算法带有歧视黑人的风险。。性别歧视现象也存在于人工智能系统应用领域，如智能广告服务中男性比女性更容易看到高薪招聘信息[13]。除此之外，智能购物推荐系统和比价服务亦会出现针对消费者的歧视现象。社会中歧视现象与犯罪率呈正相关关系，歧视现象增多导致犯罪率提高。

第三，人工智能使贫富分化差距进一步加大。人工智能需要大量资本投入，而资本的本质在于盈利，人工智能的研究和应用方向不可避免的会以加速度涌向利润高的领域。“贫困不会产生犯罪，但是因贫困而不满却会产生犯罪，在富裕国家相对剥夺的人比在贫困的真正被剥夺的人更有可能因贫困而不满。”[14]相对贫困比绝对贫困更容易导致犯罪成为犯罪学的重要结论之一。理论上而言，“社会贫富分化差距越大，社会底层成员的相对剥夺感越强。相对剥夺感增强与感受者犯罪存在正相关关系”[15]。因此，人工智能一定程度上会加剧贫富分化的差距。贫富差距唯一的指标是国际公认的“基尼系数”，基尼系数与犯罪率呈正相关关系。近年来，我国基尼系数呈上升趋势，人工智能的发展和应用加剧了贫富分化的差距，从犯罪控制的角度而言，控制贫富差距势在必行。

失业、歧视、贫富分化现象属于犯罪原因中社会因素的范畴，共同指向社会不公。社会不公是导致犯罪发生的社会致罪因素，不公平现象出现的越多，公民的社会公平感知度就越低。社会公平与犯罪率呈负相关关系，人工智能对社会公平的消极影响必然会导致宏观层面上犯罪率的上升。

2.2 人工智能或导致犯罪机会增加

借助化学反应方程式，有学者将犯罪行为产生的原因和过程用动态形式表示为具有犯罪人格的犯罪主体和社会环境相互作用，在犯罪机会的催化下，产生犯罪行为[16]。对社会公平的影响属于人工智能对社会环境产生的消极作用，人工智能对犯罪机会的影响体现在犯罪时空因素和制度因素两部分。

时空因素指实施具体犯罪行为的时间和空间。和传统犯罪相比，利用人工智能进行犯罪时，在时间和空间上受到的限制较少，表现为犯罪行为发生的随机性、犯罪过程快、犯罪后果呈裂变式。犯罪的发生随机性意味着判断犯罪的行为和状态是模糊的。从受害者角度而言，犯罪过程快降低了被害感知度，且无法进行及时止损。犯罪后果呈裂变式指利用人工智能进行的犯罪行为，其后果对法益的侵害呈指数级增长，危害范围广①恶意软件Blackshades为犯罪分子提供的黑客技术使犯罪分子即使不懂任何黑客技术也可以在足不出户的情况下，点击鼠标实现攻击，即让目标计算机感染勒索软件并对目标进行音频及视频的监控。。在人工智能发展到拥有自我感知之前，已有犯罪种类基本能够涵盖社会法益受到侵害的所有领域。因此，现有某一类型犯罪现象的增多及新犯罪手段的出现是人工智能带给犯罪行为的主要影响。

制度因素指规制犯罪行为的法律（包括宪法和各种具体法律）、法规、规章等由国家强制力保证实施的一系列规范的总称。立法作为对社会活动的一种回应，具有天然的滞后性，人工智能的应用应当在智能系统安全标准及权责归属、监管措施等一系列规范设立和完善的框架内运行。制度设立的欠缺易导致监管不力，阻碍了问责机制的运行。犯罪行为发生的时间、空间限制度低，加上制度建设的滞后，都会降低犯罪成本从而加大犯罪机会②百度安全实验室的一款人工智能系统“小灰灰”在十几分钟内破解了儿童智能手机网络，这意味着儿童智能手机的作用从帮助家长转变为帮助犯罪分子。目前，儿童智能手机网络安全系数较低，这会降低犯罪成本，从而出现更多的犯罪机会。。

2.3 人工智能或与法治原则相悖

公平、公正、公开是最基本的法治原则。在犯罪追诉和犯罪分析中，人工智能的固有属性和发展特征会导致其与基本的法治原则出现矛盾和冲突。

第一，数据缺陷和算法歧视与公平性原则的矛盾。一方面，人工智能系统的模型构建依赖大数据平台，对数据的收集、筛选和选取至关重要。大数据特指2000年后由于信息交换、信息存储、信息处理3方面能力大幅增长而产生的数据[17]。由于数据提供者的角色、动机、专业程度不同，信息噪音和对精准度的影响导致数据源具有不确定性。数据源的不确定性导致数据客观性的偏离和价值密度的稀释。另一方面，算法偏见是人工智能的固有属性，“自我实现的歧视性反馈循环”会反复巩固这种偏见[18]。数据偏离客观性和算法偏见的共同作用最终会导致基于算法和数据做出的智能司法决策存在偏见。从审判意见到案情预测，司法偏见的直接后果是司法不公，这和法治原则的公平性相矛盾。

第二，算法和数据的封闭性（不公开）会造成“黑箱操作”。出于对利益的追求、知识产权的保护及数据公开引发的一系列社会问题，智能决策系统的所有者一般不公开决策所依据的数据和算法。当应用于刑事司法和犯罪分析的智能决策出现问题需要对其进行追溯分析时，算法和决策的所有者可以以商业机密为由拒绝公开。刑事追诉过程中，在审判机关适用案例规则的情况下，公开性是案例规则适用及转化的必要条件，应用人工智能决策的“黑箱操作”具有使规则调整和转化脱离审判机关控制的危险。此外，由于目前并不存在统一的涉及人工智能系统质量和安全的行业标准，行业自律和问责机制均缺乏制度保障，智能决策过程的不透明与法治原则的公开性产生冲突。

第三，对于犯罪追诉而言，法官对案件进行裁判所依据的除了现行法律外，还包括刑事政策、改革实验、地方规范等非正式制度及“隐性经验”。智能决策系统基于数据和算法进行的“模式识别”由于无法拥有人类的“隐性经验”和对不同位阶规范价值选择的综合判断力，对案件进行裁判时无法识别案例如何适用以符合宽严相济的刑事政策、检控政策、改革试点和地域的差异，因此智能决策系统做出的司法决策必定有其片面性，严重者可能导致所做裁判不公。同时，由于人工智能各领域、各研究机构相对独立，研发者各自拥有的数据和算法也处于相对独立、各自保密状态。大企业对信息一定程度的垄断造成信息壁垒，加上算法偏见和数据，一旦智能决策出现问题，则很难通过其他途径获得算法和数据信息模拟决策的生成，无法对责任主体追究相应的责任。违背了罪责刑相适应原则，不符合法治原则公正性的要求。

理想状态下，对犯罪的预防和控制需要法治化和科学化兼顾，两者应当是辩证统一的关系。但人工智能自身固有的特征或发展中客观存在的现象导致科学化和法治化产生冲突。对犯罪防控而言，同样重要。

3 人工智能时代的犯罪防控应对

3.1 限制人工智能研发和应用的领域

为了预防人工智能不恰当的应用引发新的社会问题甚至犯罪，应为人工智能的研发和应用设置边界。在社会治理层面，应当鼓励发展提供基本服务的人工智能，限制发展增强型人工智能，禁止发展超级智能。政府和行业利益相关者应当决定哪些决策和操作是人工智能系统的禁区，并制定规则和标准来确保人类对这些决策的有效控制并为造成的损害分配法律责任。

基于司法大数据存在的局限、模式识别能力的有限性、司法活动的规律和司法判断的特点，人工智能在犯罪追诉和分析领域的应用亦应有所限制。犯罪追诉和犯罪分析领域最终的决策主体还是人，人工智能作为辅助决策系统“在类型化案件中，有可能形成统一的智能化算法；在不那么规格化的案件中，至少可以做到法律依据提醒、政策比较和类案参考”[19]。具体而言，案例规则及调整和非正式制度（包括刑事政策、改革实验、地方规范）应成为智能决策系统的禁区[20]。

3.2 消减人工智能系统的偏差

在数据方面，对数据的收集、筛选及研判水平的提高是消减人工智能系统偏差的基础。大数据时代，数据具有体量大、速度快、种类多和价值密度低的特点，数据风险随之增大。算法以系统输入的数据为前提条件，数据收集的范围、质量及价值密度影响算法的生成、运行和结果。因此，辨别不同数据源、筛选价值密度高的有效数据、剔除无用数据和旧数据是提高数据客观水平路径的选择。在数据准备方面，应当立足各领域专业职能，经过数据挖掘、数据整合、数据分析等环节来实现专业数据准备，如政务智能决策系统的数据只能由相关政府部门提供，犯罪追诉和分析的数据只能由司法机关和行政机关提供来确保数据的精准性。在算法方面，算法技术的提升是人工智能客观水平提高的关键，如犯罪追诉领域智能决策系统可以在投入实际应用前，通过训练对规则的提炼和既有经验的归纳来研发类型化案件裁判的最优算法。

此外，打破信息壁垒，使算法和代码的公开化能够逐步改善人工智能系统。信息开放既可以保证数据的流动，又可以在社会各层面实现更大价值。

3.3 构建人工智能法律问责和监管体系

3.3.1 构建人工智能问责机制

应当制定人工智能统一的质量标准或安全标准，制定人工智能产品研发设计人员的道德规范和行为守则，明确人工智能研发禁区。通过立法的形式建立与人工智能应用有关的民事和刑事责任的确认、信息安全利用等方面的追诉和问责制度。构建人工智能复杂场景下突发事件的解决方案，针对机器人异化和安全监管等问题提出制度性解决方案。

3.3.2 通过构建立体化监管模式使人工智能监管体系公开透明

立体化监管模式要求从智能产品的开发（包括数据使用和算法设计）到成果应用进行全方位监管。智能系统中嵌入的规则和逻辑必须对监管人员开放，并接受风险评估和严格测试。同时，系统应当将用于决策的事实和法律生成审计数据，服从第三方审核。此外，必须允许当事人、律师和法院可以合理地获取政府和其他国家机关采用智能系统产生和使用的所有数据信息，公众应当对制定或支持这类系统决策的投资主体有知情权。

3.4 犯罪防控与人工智能的深度融合

深度融合既包括在犯罪防控中借助人工智能系统实现研究的高效性和科学性，也包括在人工智能有可能引发或涉及犯罪行为时，犯罪研究者加入研发团队，就专业问题与技术人员进行研判并共同进行决策。关于前者，犯罪研究人员在应用人工智能系统进行犯罪分析时，应当了解智能系统的数据来源范围，算法的基本原理及对智能决策的自我判断，一旦智能系统决策有所偏差，应当相应地对智能决策系统提出改进和完善的建议。

在社会治理层面，犯罪研究者主要介入和治安管理有关的领域，在犯罪追诉和犯罪分析层面，需要犯罪研究者的全面介入。这就对犯罪研究主体提出了更高的要求：必须拥有一定的人工智能理论知识。跨学科领域人才主要通过培训、教育及有关配套措施制度完成。

人工智能时代已经到来，和实务界面对人工智能所表现出的实现人工智能与司法实务对接的热情与速度相比，理论界秉持的是相对“审慎而乐观”的态度。对于犯罪防控而言，从多维角度出发，对犯罪发生规律和犯罪防控方法进行深度分析，才能使犯罪防控拥有人工智能这一科技红利并能更好地解决人工智能时代衍生的一系列社会风险。