人工智能时代的社会治安综合治理及其行为边界

□秦 飞，孙 蓓

(上海公安学院，上海 200137 )

人工智能的出现不仅给传统工业、商业注入了新的活力，也逐渐改变了人们的生活方式，改变了社会治安综合治理的模式。人工智能对于大数据高效、精准、科学的处理能力不仅让人折服，还让许多过去困扰社会多年的治安难题迎刃而解。人工智能时代给社会治安综合治理带来巨大红利的同时，也需要让社会去面对一些新问题，如数据安全、人工智能应用范围、社会公众隐私及权利保护等，既事关人工智能时代的社会治安综合治理合法、有序开展，也事关社会公众的根本权益，不容忽视。

一、人工智能时代的社会治安综合治理概述

近年来，国际上提出了智慧城市(Smart City)的概念，即指利用各种信息技术或创新概念，将城市的系统和服务打通、集成，以提升资源运用的效率，优化城市管理和服务，改善市民生活质量。智慧城市是把人工智能技术充分运用在城市的各行各业基于知识社会下一代创新的城市信息化高级形态，实现信息化、工业化与城镇化深度融合，有助于缓解“大城市病”，提高城镇化质量，实现精细化和动态管理，并提升城市管理成效和改善市民生活质量。

改革开放以来，随着我国经济的高速发展，从东部沿海到西部内陆地区，大大小小的城市大多会遭遇到空气污染、交通拥堵、资源短缺、人口流动加速等各种城市化过程中常见的问题。随着城市化进程的推进，越来越多的人口涌入城市将会带来更多的挑战，如不进行精准、有效地规划和管理，城市化的高速发展会导致各种社会问题凸显。因此，城市的建设与治理需要以大数据、物联网、云计算、人工智能等技术为支撑，以智慧化解决思路为导向，从根本上变革城市的运行与管理模式，使得城市的治理更加智能化、科学化。以上海为例：上海公安机关以智慧公安建设为牵引，全面推进社会面智能安防建设，有力推动了公安工作重心从应急处置向风险管控转变，确保了社会治安持续稳定；截止2019年6月，上海全市共建成智能安防社区3300余个、智能楼宇400余幢、智能安防场所30余处，规模效应逐步显现，实现了发案率大幅下降、破案率大幅上升的良好局面。以社会面感知设备采集数据为支撑，上海公安机关开发了280余个应用系统、390余个应用模型投入应用，共协助破案1.1万余起，抓获违法犯罪嫌疑人1.3万余人。期间，报警类“110”下发数、违法犯罪接报数同比分别下降18.7%和10.9%；电信网络诈骗接报数同比下降4.1%，破案数、抓获人数同比上升36%和53%；交通事故数、死亡人数、受伤人数同比下降8.5%、13.3%和2.4%。[1]

随着人工智能技术在城市治安综合治理中的广泛应用：一方面，互联网、信息和通信技术、大数据分析、人工智能等技术的出现为社会治安综合治理的创新提供了有力的物质与技术支撑；另一方面，大数据和人工智能实现了将碎片化和隐性化的社会问题深度挖掘与整合，实现社会治安综合治理中问题发现与解决的模型化和可预测化，从而人工智能时代的社会治安综合治理模式就此来临。

二、人工智能时代社会治安综合治理的特征

与以往的社会治安综合治理模式相比较，人工智能时代的社会治安综合治理具有感知泛在、数据共享、多维研判、全时保障、经济高效五个方面的特征。

(一)人工智能时代实现社会治安综合治理的感知泛在

感知泛在是对人工智能时代实现社会治安综合治理数据收集最为直观的认知。一方面，人工智能时代的数据不再仅局限于是传统意义上数字或文字符号，而是包括由文字、数字、声音、图像等各种数据组成，人脸识别、声纹识别、体步态识别等生物识别技术的广泛应用，使得数据构成呈多样化发展趋势。另一方面，人工智能时代社会治安综合治理数据的来源同样呈现多样化的发展途径，互联网、信息和通信技术的普及使得数据记录与收集正成为每一位普通人生活的一部分。例如，网上购物与支付、自媒体与社交软件的蓬勃发展都使得每个人在生活中无时无刻不产生各种数据。又如，社区安全防范模式的变化，社区安防与技防设备的广泛应用，使得社区居民在公共场合的活动信息与轨迹很难不被记录。虽然对这些数据的感知并非是由某个部门或单位刻意去收集的，但它实际上足以改变我们的生活与社会治安综合治理未来的发展态势。

(二)人工智能时代实现社会治安综合治理的数据共享

社会治安综合治理需要综合运用经济、行政、法律、文化、教育等多种手段，通过加强打击、防范、教育、管理、建设、矫治等多方面的工作，实现从根本上维护社会治安稳定，化解不安定因素。因此，社会治安综合治理需要的数据来源更为广泛，需要借助人工智能对不同类型、不同渠道的海量数据进行综合分析。例如，就市中心道路交通拥堵治理而言，通常的道路交通状况、车辆通行情况等信息很难彻底解决城市道路交通拥堵问题，周边停车场空置率、商务楼上下班时间、学生上下学高峰值、医院就诊情况等大量数据都应当纳入到市中心道路交通拥堵治理的考虑范畴之中。这几年在市中心道路交通拥堵治理中实施的公共与商业停车资源共享，错峰上下班等治理方法都需要由大量的数据进行分析后得出结论。因此，人工智能时代社会治安综合治理对于数据的应用，不再是某个单位或部门的独享，而是在一定范围内实现了数据共享。

(三)人工智能时代实现社会治安综合治理的多维研判

许多传统研究项目致力于以地理条件去研究社会治安综合治理模式，例如:“上海地区……综合治理研究”“城市……综合治理研究”等等。然而，由于大量数据在空间、时间等不同维度上的不均匀分布，所以准确描述社会治安综合治理模式具有相当大的难度。正如美国学者帕拉格·康纳所述:“地理条件或许是我们可观察到的最基本形态，但要想理解人类发展的前因后果，还需要对人口、政治、生态和技术进行全方面综合考量。”[2]

数据之中蕴藏着社会发展的规律，随着人工智能在社会治理模式研究中的发展与应用，能够为社会治安综合治理提供更加科学、准确、快捷的研究依据。例如：人工智能对于犯罪数据的快速处理能力，能够协助警方比以往更快地发现犯罪规律，从而实施有效的预防和打击犯罪策略；人工智能对于城市交通大数据的处理能力，能够更加科学、准确地为人们提供出行参考线路，助力缓解城市交通拥堵压力；人工智能对于商户、消费、出行等生活数据的统计分析，较之以往则能够更加快捷、科学、准确地计算出社区人口流动、人员结构、生活习惯等重要信息，有助于改变传统的社区管理模式。

(四)人工智能时代实现社会治安综合治理的全时保障

人工智能时代的社会治安综合治理受工作日时间制约的影响越来越小。

一是数据采集与分析的全时化。数据采集与分析摆脱了传统的人工采集与分析模式，可通过各种现代化的仪器与设备自行进行采集，并借助云计算及人工智能强大的计算与分析能力迅速完成数据分析，做到社会治安综合治理数据掌控的全时化。

二是服务保障的全时化。手机APP、互联网等现代化通信设备的广泛应用，实现了网上预约、网上申请、网上提交、网上审核等一系列的网上办事途径服务保障的全时化。例如，近年来上海建成了政务“一网通办”总门户，对面向群众和企业的所有线上线下服务事项，整合现有人员身份管理、社会保障、车辆管理、驾驶员管理等碎片化、条线化的政务服务事项前端受理功能，全面推进线上线下政务服务流程再造、数据共享、业务协同，形成一网受理、协同办理、综合管理为一体的政务服务体系。[3]

三是措施落实的全时化。社会治安综合治理的举措实施由以往主要依靠人工实施与监督落实，逐步向由人工智能与人工相结合的实施与监督方式转型发展。例如，职能电子手环的应用正在逐渐改变对社区矫治人员的措施落实与监督方式，一方面使得对社区矫正人员的监督更加精准，另一方面还能实现在24小时内对社区矫正人员的违规行为随时记录并及时进行处理。

(五)人工智能时代实现社会治安综合治理的经济高效

经济高效是人工智能时代社会治安综合治理的一大显著特征。随着传感器种类的增多及社交网络、智能设备等的流行，数据类型也变得更加复杂，以云计算为代表的技术创新衬托下，这些原本很难收集和使用的数据开始容易被利用起来，通过各行各业的不断创新，大数据正逐步为人类创造更多的价值。[4]人工智能的优势就是在于其强大的数据处理能力，能够对不同类型的数据进行汇总与处理，并根据模型计算出不同种可能性。一是从处理数据的速度而言，远高于以往单纯以人力开展数据处理的速度，能够更好地节约社会治安综合治理的时间成本；二是从数据处理的准确度而言，差错率远低于人力统计方法，只要人工智能设备能够正常运行，一般数据处理差错率几乎能够降至为零，更好地减少误差成本；三是数据模型的出现能够进一步提高人工智能对于常见社会治安问题数据的处理能力，对经常性出现社会治安问题迅速做出预测、预判与处置建议，能够更好地提高研判效率。

三、人工智能在社会治安综合治理应用中的行为边界问题

人工智能使得社会治安综合治理呈现跨越式的发展模式，同时社会治安综合治理也必须建立在依法治理的基础上，对人工智能在社会治安综合治理中的行为边界问题的关注，显得尤为重要。

(一)人工智能时代在社会治安治理过程中制定行为边界的重要性

社会治安综合治理必须是在国家法律法规框架下开展。针对社会治安综合治理工作，国务院制定了《关于加强社会治安综合治理的决定》，把社会治安综合治理的有关问题用法律形式固定下来。从以往大量新闻媒体报道中可以了解到，联合执法、联合检查等专项举措是以往社会治安综合治理的主要具体方法，并明确了这是一项系统性的治理工程。

一方面，人工智能时代的社会治安综合治理需要由法律法规予以支撑与保障，社会治安须要依法开展综合治理，规范治理行为，确保人工智能在社会治安综合治理中依法发挥作用。另一方面，人工智能时代的社会治安综合治理行为边界也同样需要法律予以规制，人工智能的强大能力有目共睹，当人工智能所涉及到的个人隐私、数据安全、权益保障等问题时，对其行为边界的制定是确保权力不被滥用的重要途径之一。

(二)人工智能时代的社会治安综合治理中发展与制约的动态关系

人工智能时代最大的特点是不同机构之间的数据沟通变得更加高效、便捷，借助互联网及通信技术，网上办事、网上办案等手段愈加成熟，人工智能对于大数据的研判更加科学、高效。社会治安综合治理正由以往各部门联合开展专项治理向实现人工智能管理的跨越式升级发展。一方面，人工智能能够满足对于社会治安综合治理的发展需求，人工智能所带来的便捷不言而喻，深入人心，社会公众对于社会治安综合治理的心理期待也越来越高。例如，近期，一段上海高架桥上“拉链式”交替通行的视频，引起大量网友点赞，称其为“教科书式交替通行”。[5]以上海城市高架道路实施的交替通行而言，以往以民警人工执法的低效模式根本无法有效实施该项制度，而现在通过加装高清探头的电子警察自动抓拍，教科书式交替通行正成为人工智能时代道路交通整治的范本，案例中法律与人工智能完美融合，将困扰城市的交通拥堵变为教科书式通行典范。

人工智能在治安综合治理发展中的作用不可否认，但必须适当考虑对这些技术的规范应用，从而使技术被利用或滥用的风险最小化，保护个人隐私和权利。

(三)数据问题始终是人工智能在社会治安治理应用中的焦点问题

从技术上而言，与人工智能技术在各领域中的应用原理相类似，人工智能技术在社会治安综合治理中的应用原理主要是：由计算平台、数据资源、算法模型、智能应用等部分有机集成，具有感知融合、存储记忆、分析研判、辅助决策等智能化特征，通过运用大数据、人工智能、深度学习等技术实现与社会治安综合治理业务的深度融合，统筹调度各种数据、计算、存储及模型等资源，能够为决策提供态势感知、预警预测、动态管控、扁平指挥及综合保障等智能服务支撑。在人工智能时代下的社会治安综合治理过程中，数据好比是生产资料，人工智能技术就像是生产机器，而行为边界就像是生产制度，最终完成的产品则是社会综合治理成果。

从法律上而言，立法一般总滞后于新技术的发展与应用，这也容易引发社会公众对于数据采集、数据安全、数据应用等多方面的担忧。2019年7月，杭州野生动物世界引进人脸识别技术，应用于年卡使用者入园检票程序中，目的是提高入园效率，而浙江理工大学某副教授因不愿使用人脸识别入园向杭州市富阳区人民法院提起诉讼，被网民称之为“中国人脸识别第一案”。[6]该案例反映出，近年来社会公众对于人工智能技术应用的关注度正逐年升高，其中潜在的数据风险问题更是大多数矛盾的焦点所在。

四、关于对人工智能时代治安综合治理行为边界的思考

基于大数据是人工智能技术应用基础，研究社会治安综合治理过程中与人工智能有关的行为边界问题，主要聚焦于社会治安综合治理过程中的数据采集、数据共享、数据安全、数据应用四个方面。

(一)人工智能时代社会治安综合治理数据采集的行为边界

通常数据的产生存在三种途径：第一类是由政府部门或政府委托授权采集的数据，这类数据涉及人口信息、物业信息、社保信息等与政府对社会公共管理密切相关的基本数据；第二类是相关企业或事业单位采集的数据，这类数据的采集一般会先以授权或协议方式征得当事人的认可，如当事人要使用企业开发的APP之前，首先会与企业在网上签署授权协议或同意书，之后才有权使用这款APP；第三类是社会公众在日常生活中产生的数据，这一类数据的产生具有所谓“无意识”的特征，即当事人在日常生活与交流中不知不觉产生的数据，过去这一部分数据由于数量巨大，难以统计分析而被人所忽视，而人工智能时代云计算、数据挖掘、智能分析等技术的发展，对这类数据的分析能力得到跨越式提升，此类数据的价值逐步得到社会的重视。

对数据采集的规范，即“数据由谁来采集”， 或者说“谁有权采集数据”。第一类由政府部门或政府委托授权采集的数据，在开展数据采集之前会由国家制定相应法律法规予以规定，并且涉及基本公共管理与民生保障等社会公众根本利益，一般争议不大。例如，近期上海市在公共数据管理和互联网政务服务方面采取了一系列改革举措，制定了《上海市公共数据和一网通办管理办法》，规定：按照法定程序采集公共数据，被采集人应当配合；采集法律法规未作规定的数据，应当取得被采集人同意；在被采集人权益保护方面，明确了采集、共享和开放公共数据，不得损害被采集人的合法权益；公共管理和服务机构应当切实采取措施，防止被采集人信息泄露；规定当被采集人认为数据存在错误、遗漏等情形时的异议处理机制。第二类企业或事业单位通过签署授权协议书或同意书方式采集的数据，也符合现行法律法规。例如，企业收集客户的海量信息，利用这些信息来预测趋势，并制定更好的销售和营销策略，一般企业会在使用这些信息之前与客户进行签约，经客户同意企业取得对这些信息的使用权。第三类当事人在日常生活中产生的数据，过去由于不被人所重视而缺乏相应法律规制，“无意识”产生的数据不代表“无主之地”。一方面，只要在日常生活中产生的“无意识”数据有其使用价值，就会有人对这类数据产生兴趣，存在寻机采集并使用这些数据的可能。另一方面，这类数据的采集缺乏法律规制，就会对社会公众隐私造成安全隐患。

因此，当下人工智能时代社会治安综合治理数据采集的法律规制重点，应当放在那些人们在日常活动中所产生的“无意识”数据采集的规制上，即谁有权收集这些数据，限定这些数据的使用范围，确保这些“无意识”产生的数据在社会活动中不被滥用或非法使用。

(二)人工智能时代社会治安综合治理数据共享的行为边界

在人工智能时代，数据共享是实现社会治安综合治理跨越式升级发展的基本条件。为加快推动政务信息系统互联和公共数据共享，增强政府公信力，提高行政效率，提升服务水平，依据相关法律法规和《国务院关于印发促进大数据发展行动纲要的通知》,政府制定了《政务信息资源共享管理暂行办法》，这一规定的出台主要目的是为更好地实现政府服务功能，能够对社会治安综合治理起到一定的积极意义。人工智能时代社会治安综合治理数据共享的法律规制焦点主要集中在由谁有权来分享数据。一方面，人工智能支撑下的社会治安综合治理需要打破不同机构之间的数据壁垒，实现社会治安综合治理的数据共享优势。另一方面，并非所有的数据都可以实现共享，在社会治安综合治理与公民隐私权保护之间始终存在着一些不同的观点，所以在数据共享过程中也不得不重视数据共享权责边界问题的思考。

社会治安综合治理过程中数据共享边界的思考，可基于几方面的逻辑起点：一是从我国对社会治安综合治理发展的历史沿革与现状特点分析，公安机关在社会治安综合治理过程中无疑承担起了主要职责，并发挥了较其他部门更多的作用；二是从对数据管理的能力而言，能够最终承担起数据共享责任的牵头部门必然是具备最强数据管理能力的部门；三是从我国传统公众认知而言，刑事犯罪是最为严重的社会治安问题，治安案件则处于其次，其他可能会影响社会治安的社会问题则更次之，这也是影响我国社会公众对数据共享认知的重要因素。

因此，在社会治安综合治理过程中有必要建立层级数据共享制度，对于不同层级的数据根据用途限定不同的共享层级权限，规范各部门对于数据的使用权限。

(三)人工智能时代社会治安综合治理数据安全的行为边界

人工智能时代，数据安全性始终是一个不可忽视的话题。以刑事犯罪为例，犯罪团伙越了解受害人的、财产状况、旅行习惯、安全措施和落点等情况，就越容易对其实施犯罪，如近年来在我国频发的电信诈骗、网络诈骗案，掌握受害人数据信息的诈骗团伙作案成功率较之盲目随机开展电信诈骗、网络诈骗的团伙成功率更高。在以往制定的法律条文中，如《刑法》《治安管理处罚法》中对于数据安全责任的处罚主要针对个人，而对于政府或单位数据安全的管理责任则还有许多尚待完善之处。

人工智能时代的数据安全通常存在两方面的风险：一方面，不合法或者不规范使用的风险；另一方面，数据库被侵入、失窃、删除或被篡改的风险。前者的风险来自数据管理方的主观违规或违法责任，而后者的风险源自外界对于数据库的窥视与非法侵入，属于管理风险责任。无论是哪一种风险，对社会公众都存在相当大的安全风险隐患，因此对于社会治安综合治理中的数据安全权责也应当予以规制。2017年，《网络安全法》的制定对于我国网络空间的数据安全管理有着非常重要的规制作用，其中有一条明确要求单位制定网络空间的内部安全管理制度和操作规程。2019年10月，上海市教委根据《网络安全法》与《教育部机关及直属事业单位教育数据管理办法》，出台了相应的管理实施细则，明确以“谁建设、谁维护，谁使用、谁负责”的原则建立数据分类分级安全保护、风险评估、日常监控等管理制度。

因此，对于社会治安综合治理中的数据安全规制，主要应当明确由谁来承担数据管理安全风险责任，依据《网络安全法》通过明确数据管理安全风险责任的方式，对照人工智能的发展特点与数据安全需要，制定更为详细的管理制度和操作规程，从而强化数据建设、使用、维护方的安全风险责任意识，提升数据安全管理水平。

(四)人工智能时代社会治安综合治理数据应用的行为边界

对于数据的应用限制，就是在西方发达国家也存在着不同的法律规定特点：在欧盟和加拿大，政府已经确立了隐私是公民的人权，直接控制企业和政府对个人数据的使用；以色列、瑞士和日本，都有数据保护制度，这种制度基于隐私作为人权的一部分受到保护而建立；而美国联邦政府则只保护某些特定类别的个人信息，不主张把引导企业和政府如何使用个人信息的能力作为一项人权。[7]

相较于西方发达国家，我国对在社会综合治理中通过人工智能开展数据应用的认知也有着独特的发展历史与认知背景。一是我国对人工智能在社会治安治理中所发挥的积极作用认知更为深刻，许多城市、尤其是特大型城市都相继推出了“智慧城市”发展计划，通过人工智能完善城市管理，解决城市化发展中的难点问题已经成为一种共识。二是社会公众对于人工智能在社会治安综合治理中所发挥的作用总体有着认同态度，大数据应用对于缓解城市交通拥堵、规范人口管理、精简办事流程、及时处置各类治安、刑事案件等都得到社会公众的支持与认同。三是不少学者也对人工智能在社会治安综合治理中的发展提出了自己的忧虑与建议。如，学者刘洪华在《论人工智能的法律地位》中对人工智能的法律地位限制问题提出了自己的观点；学者何哲在《人工智能会形成新的专制吗？—人类政治的历史与未来》，对过度依赖人工智能而形成新的专制提出忧虑；学者赵艳红在《人工智能在刑事证明标准判断中的运用问题探讨》一文中，对于人工智能在刑事案件中的证明标准提出了自己的观点。

基于人工智能时代飞速发展的特点，法律条文的制定或完善速度往往总会慢于人工智能技术的发展速度，当一些问题或风险出现时，一些政府根据技术发展特点制定的规范则更容易成为人工智能时代的“规制补丁”。 此外，保障公民的知情权也是一项不容忽视的问题，让公民知晓有哪些与自己有关的数据会被收集，以及限定在什么范围内被使用，对于监督社会治安综合治理数据的规范应用也会起到积极的作用。在符合法律框架的前提下，依据人工智能与大数据在治安综合治理过程中的通用服务功能、研判分析功能与治安治理功能这三种不同的应用途径，分类完善“数据使用的权限”“数据使用的流程”“数据使用的边界”“数据使用的责任”四个方面的规则，最终实现数据应用的合法、合理、合规与权责统一。