智慧社会的治理难题及其消解

摘要：智慧社會的到来，不仅带给人们生活上的福利与进步，同时，也带来了高风险社会，人工智能带来的规制挑战、算法决策过程的突出难题、基层执法司法智能化的难度与风险等，就成为基层社会治理所面临的时代问题。因此，亟需确立智慧社会治理的新理念、新思维，按照双重空间的生产生活方式、智慧社会的生活逻辑，推动现代性法律体系向智慧性法律体系的转型升级，进而探索智慧治理的新机制、新策略，塑造智慧社会的新型基层治理秩序。

关键词：智慧社会;大数据;人工智能;社会治理;法治秩序

作者简介：马长山，华东政法大学教授、博士生导师（上海  201620）

基金项目：研究阐释党的十九大精神国家社科基金专项课题 “新时代共建共治共享的社会治理法治化机制研究”（18VSJ033）

DOI编码：10.19667/j.cnki.cn23-1070/c.2019.05.011

当今正在发生的信息革命，堪称人类有史以来最深刻的技术革命，它引发了生产和生活关系的重大而深刻的变革。“历史已经向我们表明重大的技术变迁会导致社会和经济的范式转换。”1目前，世界各国对互联网、大数据、人工智能等新技术发展带来的重大机遇和风险都予以高度重视和积极应对，我国近年也先后发布了《国家信息化发展战略纲要》（2016.7）、《“十三五”国家信息化规划》（2016.12）、《新一代人工智能发展规划》（2017.7）、《推进互联网协议第六版（IPv6）规模部署行动计划》（2017.11）等指导性文件，进行积极的战略部署和创新发展的升级换代，中共十九大又提出了智慧社会建设的总体发展战略，这样，我们必将迎来一个日新月异的智慧发展时代。然而，智慧社会在带给人们生活进步与福利的同时，已经变成了一个高风险的社会，并产生了很多亟需认真对待和切实解决的治理问题。

一、基于数据和代码的秩序风险

工业革命和现代化进程，无疑曾给人类带来了丰裕生活和空前繁荣，然而，它毕竟仍是在物理空间里来从事物质文明和精神文明产品的生产的，因而，只是拓展了人类在物理空间中的活动能力和创造水平，其最基本的生产要素自然是劳动者和生产资料，具体表现为劳动、资本、土地和企业家才能等。而进入智能互联网时代之后，形成了物理（现实）/电子（虚拟）的双重空间，它深刻地改变了以往的生产方式和生活方式。“产品与服务、分销体系、定价方法以及广告与促销模式均从原本集群、聚合式的商业权力体系中剥离出来，放弃满足各类需求的经济结构，转而向小型、分化、具体及定制平台进行一对一式运营”，1并开始全面向去中心化的分布式升级，形成了以信息（包括知识和数据）为资源、以网络为基础平台的全新经济形态。从生产、交换到消费，整个链条中的自动化生产、市场分析、营销策略和大众消费，都高度依赖信息流动、数据挖掘和智能算法，这就促发了数据流动与共享，编织出跨越企业边界的全新资源网络、生态网络和价值网络，打造了智能化、场景化的商业环境。基于此，掌握了数据，就意味着掌握了资本和财富;掌握了算法（Algorithm），就意味着掌握了话语权和规制权。就是说，数据和算法已成为每一个人都参与生产的，明显不同于自然资源的新的社会资源和生产要素，2在一定条件下甚至还成为一种智慧发展时代的全新生产力和生产关系，使得工商业时代以来的生产生活方式和社会价值观发生了深刻改变，同时也带来了全新的秩序风险。

首先，对世界认知方法的改变。在大数据、云计算时代，人们不再依赖于随机采样，而是能够进行大量信息采集和全样本的数据分析;人们对同一问题也不再苛求单一的精确度和因果关系，而是更多地关注相关关系和接受多个可能的答案。这样，一方面，很多旧有的习惯将被颠覆，很多旧有的制度将面临挑战;3另一方面，大数据分析必然“会引导实践的方向，是从属于建构需要的”，4而每个问题可能都不会只有一个答案，为此，人们必须能够接受混乱和不确定性。5这样，人们的价值判断和正义观会受到重大冲击，进而对国家治理体系和社会治理秩序都会产生深刻的影响。

其次，数据对生活的量化和解析。在互联网、大数据、云计算、区块链、人工智能等交融发展的推动下，社会生产和日常生活获得智慧化的巨大进步，生产效率和生活质量均获得了极大提高。人们会认为，有足够数据就可了解生活，一切皆可量化。然而，它也会产生一些令人担忧的问题。有学者就指出，如果大数据所获得的信息是片面的或者漫无边际的、支离破碎的，那么它们就没有多少意义，根本不可能直接用于任何量化的分析。搞不好还可能会发生现实生活被裁剪、社会情景被忽视、主体建构被抹煞、生活意义被取消的情况，因此，必须对数据和信息加以界定、 定义、分类和赋值，给信息赋予特定的人类意义，进而把不同的定义转换为可计算的数值。6这样，才能避免数据量化和解析对生活本质的侵蚀，更好地发挥其智慧治理的作用和价值。

再次，日常生活的建模化。智能互联网的优势就在于场景定制和程序建模，从而形成一套算法来提供智能化的产品和服务。它既包括提供某一类产品或服务的通用性建模，也包括针对特定对象来“量身定制”的个性化建模。由于企业能够通过互联网平台来直接“面对”市场和消费者，使得产品生产和服务从原来的标准化、规模化，逐步转型为“以人为中心”的个性化、定制化，形成了以消费为主导、去中介化、彰显服务的新商业模式和生活方式。然而，它在根本上仍是一种智能建模方式，仍是通过采集信息、数据分析、设计算法来归纳不同人的具体适用模式，进而个性化地“推荐”给特定消费者。事实上，无论是通用性建模，还是个性化建模，都难免隐藏着算法和商业价值的诱导甚至主导，犹如商家曾人为创造出来的“双十一购物狂欢节”，实质上是以消费为主导的方式来主导消费。更重要的是，自动驾驶、智能产品设计、智能医疗方案、智能合约、智能裁判等等，其建模化无一不是以建构主义为主导的过程。人们日渐依赖各种算法，甚至都可以用AI来开发AI，那么，人们享受自动化的便捷舒适其实是“只能被动接受结果”，1而获得个性化服务的背后，则是商业建模和算法对消费者的塑造。于是，让人们感到焦虑的是，“一旦权力从人类手中交给算法，人文主义的议题就可能惨遭淘汰。只要我们放弃了以人为中心的世界观，而秉持以数据为中心的世界观，人类的健康和幸福看来也不再那么重要”。2可见，日常生活走向建模化，在人们的生活方式中注入了更多的技术理性，进而出现了“沦落为单纯的数字人类，而非人类”的社会风险。3这无疑是智慧发展时代的社会治理所面临的一个重要挑战，需要予以积极应对。

二、人工智能帶来的规制挑战

智能互联网作为全面升级的新一代互联网模式，有效地将智能融入到互联网中，“所有的信息资源都能够被智能的计算机软件实体所识别和处理，并且这些软件实体能够自治地、主动地在网络中漫游，具有很好的适应性和可靠性，能够代替用户完成各种工作，并为用户提供丰富的服务”，4从而，实现了经济结构、经营业务、商业模式和基本理念上的全面革新。正因如此，“智能互联网将彻底改造所有传统行业，AI是核心驱动力”，5人们甚至开始预测高度不确定、高度奇异性的“奇点”来临时间和社会状态。6但无论如何，它确实凭借众多颠覆性创新深刻地塑造着当今的智慧社会，也会带来一定的法律问题和治理问题。

其一，人机交互关系的复杂性。人工智能技术的飞速进步，又开启了人机共处的新世界，尽管目前“人类和机器还不能很好地相处，然而他们将越来越多地分享同一个世界”，从而“正在破坏我们赖以建立此前世界的那些确定性”。7为此，智能机器人是不是“人”的问题就日显突出。2017年10月沙特授予一名“女性”人工智能机器人以“公民”身份，就立刻引起全球关注且争议颇多，然而，鉴于智能机器人自主意识方面的技术飞跃和它在商业活动及社会文化生活中扮演越来越重要的角色，“在不久的将来，会继续延用产品安全法去处理人工自主体问题”。8而随着人工智能的飞速发展，人机共处、人机合作将越来越多地成为生活常态，人机交互场景也随之成为社会关系和社会治理的一个新面向。基于此，“从一个角度来看，我们创造的机器人貌似只是机器而已;而从另一个角度看，它们似乎是复杂而具有适应性的实体，甚至可能对我们在道德关心的问题有着或多或少的敏感性”。而“大规模取代人类劳动力的智能机器的出现，无疑将会引发人类身份认知的危机”。1因此，人们尝试着采取自上而下和自下而上的方式来塑造AMAs（人工道德智能体）的道德判断，“通过模拟持不同伦理观点的主体之间的互动，去补充科幻中猜测性的思想实验，用可检验的社会和认知模式补充哲学也将成为可能”。 2更为重要的是，人工智能一旦成为“人”，机器人（电子人）权利义务、法律责任与自然人的权利义务和法律责任如何分配和负担，则无疑是个重大难题，民事、刑事上都是如此。可见，人工智能机器人能否具有“人”的主体地位，是一个十分复杂且关乎人类命运的重大问题，至少目前还不能匆忙让它成为一个法律上的“人”;但它又不能简单等同于过去的死的机器，而是“活”的智能体，会产生拟人化的社会关系和伦理问题。这样，对人工智能机器人就不能简单加以判断和处置，否则，将会给社会治理秩序带来巨大的风险和挑战，只能通过探索智慧发展时代的新规则、新策略来加以应对。

其二，人工智能发展对现有制度框架的突破。人工智能的快速发展，并不仅仅是对人工的简单替代，而会对当下的社会伦理、规范制度、国家治理和社会秩序带来十分明显的难题和挑战。在民事领域，“在民事主体法、著作权法、侵权责任法、人格权法、交通法、劳动法等诸多方面与现有法律制度形成冲突，凸显法律制度产品供给的缺陷”;3在刑事领域，人们常常会习惯性地沿用传统物理空间的刑事法律思维来对待网络空间发生的案件，大众点评百度案按不正当竞争处理、《刑七》将盗窃游戏装备案按非法获取计算机系统数据罪处理，两高司法解释关于网络诽谤和寻衅滋事的“扩展性”处理，这就难免会出现很多理论上说不清、实践中又很尴尬的问题;在行政和司法领域，智慧政务、智慧司法、智慧检务的应用场景日益增多，人工智能辅助决策甚至人工智能独立决策的情况会日渐普遍，这就形成了人类理性与技术理性、人类决策与机器判断、计算逻辑与法律逻辑的交互结果，现有制度设定的权利义务关系、规则程序、责任归属、救济方式等等都会面临严峻考验。

其三，人工智能发展也会增加犯罪控制的压力。信息科技无疑促进了社会进步、增加了社会财富，但同时也给一些高智商违法犯罪活动提供了条件和可乘之机。在当今信息时代，出现了一大批网络技术、数字技术和人工智能技术领域的全新犯罪类型，如网络诈骗、网络金融犯罪、盗窃信息数据、网络诽谤、网络贩毒甚至恐怖活动等等，而人工智能技术的交融应用则使这些犯罪更加智能化，甚至出现了被国际社会所禁止的“杀人机器人”。这不仅增加了犯罪的多样性、复杂性和技术性，也由于“集复杂性与紧密性于一体的系统更容易成为那些间谍、犯罪分子以及追求极大破坏性的极端分子的选择目标”，4严重地威胁着人们的生命财产安全和社会秩序。很多犯罪集团十分庞杂，难以找到和区分主犯、从犯、帮助犯;很多犯罪活动难以找到犯罪证据，一时不能侦破;很多犯罪穿越虚实双重空间，打破了物理空间的级别管辖和地域管辖;等等。这些无疑给智慧社会治理中的犯罪控制和规制秩序带来了全新挑战。因此，亟需转换思维方式、强化治理机制和规制体系来积极应对，进而塑造智慧社会的治理秩序。

三、算法决策过程中的突出困境

随着智慧社会的到来，算法在社会生活中的作用和影响越来越大。“算法决定了信息增长的秩序，同时它贯穿了经济系统的所有组成部分和流程，支撑并控制系统中各种经济活动以及所形成的各种经济关系，决定了经济系统的秩序。” 1于是人们看到，从开车到股票交易、再到公司人员配置等一些列重大决策权，正在“从人手中转移到算法手中”。2为此，一些理想主义者则乐观地断言，“过去的人文主义呼吁着：‘聆听自己内心的声音！而现在的数据主义则呼吁：‘聆听算法的意见！”3这样，智慧社会治理的很多决策，将转移到算法手中，算法甚至凭借自动化决策的发展趋势而日渐占据主角地位。然而，一旦算法成为社会治理过程中价值和利益天平上的砝码，那么，问题就不再是数据的简单计算和生活的简单建模。事实上，恰恰出现了一些非常值得人们警醒的重要问题和突出困境。

一是算法黑箱问题。它“是指一种晦涩难懂的技术，人们在运用这种技术时无须任何了解，只要输入数据，就能得到结果。其需求分析（解决什么问题）——设计算法（人怎么做）——编写程序（计算机怎么做）——调试维护（做得更好）——发布运行（实际应用）的整个技术操作过程并不透明，这其中必然会包含着“不稳定、不公平和不劳而获的因素”，4此时，保持算法的合理性、公正性和预先承诺自然十分关键，否则，算法偏见或者歧视就很容易被掩盖。如亚马逊和淘宝等电商网站上“猜你喜欢”等推荐栏和各种优惠券，都是通过个性化的算法来确定用户的消费能力高低并推荐的，低消费能力的用户，看到的基本都是底端打折的产品推荐;消费者要么“进入”要么抬脚“走人”。可见，设计者在“撰写这些剧本”时就可能带有某种意图而“想为自己的设计赋予特定的职能”。5这意味着，信息科学技术在带给人类进步福祉的同时，也难免会产生一定的困扰和问题，算法黑箱不仅容易侵蚀消费者权利、危及社会诚信与公平，也给智慧社会的治理秩序带来一定的阻力和风险。

二是算法错误。我们知道，算法是指对某个或某些问题解决方案的步骤描述，代表着用系统方法来描述解决问题的策略机制。由于其计算过程系“取某个值或值的集合作为输入并产生某个值或值的集合作为输出”，6因此，相同的任务（应用）可以运用不同的算法来完成，但却因其正确性、容错性和效率性的不同而存在优劣之别，算法错误也就在所难免。也就是说，我们编写算法并把它输入机器，等待它引发的自动动作（比如购买股市的股票），人们很容易相信并被动地接受这些计算结果，但其“危险在于没有人能确保该算法设计准确，尤其是当它与众多算法交互时”。7在公共事务上，随着人脸识别、犯罪预测系统、人工智能司法辅助系统等的快速发展，日益升级的自动化系统也已经由简单的行政管理工具变成了主要的“决策者”，算法做出判断的正确率大幅提高，执行各项规则时的严厉程度也远非人类所能比，但“一旦它们做出了错误的决定，其造成的后果就很有可能是骇人听闻的”。8尽管人类对此有事后矫正的渠道和方式，然而事实表明，“机器在学习过程中可能会重新建立起我们当前已经修正的隐含在数据中的偏见”。9在这种情况下，就会带来严重的不公平对待、非正义、甚至是严重的不良后果，因此，如何规制算法、控制算法错误、防范算法风险，就成为实现算法正义的重要内容，也是推进智慧社会治理的重要动力和支撑。

三是算法自主。人类决策具有千百年积淀下来的道德基础，而算法决策则是一种基于计算过程而实现的输入/输出关系，一旦算法主宰就会严重侵蚀人的主体性。而随着人工智能的进一步发展，深达几百层的人工神经网络在发现模式、做出结论方面的能力已经超过了人类。“我们想要了解的客体或现象，必须依靠机器得出的结果。然而，对于机器怎么建模、如何求解的过程，则是人们无从得知、也无法理解和解释的。”此时，“你只需要给泛型算法提供输入数据，然后它就会根据那些数据建立自己的逻辑”。1这样，就出现了算法自主或者算法的异化现象，也正是“由于无法了解我们所创造的一切，因此我们很难留意到道德问题，也很难保证所有操作都符合道德标准”。2当人工智能广泛应用于公共决策、经济分析、司法判断、智慧服务等领域时，就会給社会治理带来严重的问题和挑战，甚至还可能有失控的风险。因此，如何让算法遵循“善法”，保持“善法”的主体性和目的性，3就成为维护算法正义、促进智慧社会基层治理的重要方面。

四、执法司法智能化的瓶颈制约

随着人工智能的快速发展，世界各国都在利用人工智能来加速产业升级和治理能力现代化，以获得信息革命时代的竞争优势。我国也已经适时启动了智慧社会、智慧司法建设进程，因此，执法司法的智能化将是一个必然趋势。从目前来看，主要体现在两方面的技术进展：一方面是通过智能系统来辅助司法。如法院和检察院等司法机关推广适用数据化的证据标准，通过大数据、人工智能的深度应用，把统一的证据标准镶嵌到办案程序之中，促进同案同判和司法公正;另一方面是实现法律的代码转换。其实，近年来很多信息化、自动化的高新技术已经不断地应用到司法执法领域（如电子交警、办案系统等）之中。

然而，随着智能互联网的进一步发展，从中央到地方、从中枢到基层的司法执法过程与机制，将逐渐由信息化、自动化升级为智能化。尤其是通过规则的代码转换和算法建模，使其由法律的“外在”控制转变为技术的“内在”控制，实现司法执法过程的智能判断、规则适用执行和裁量处理。于是，立足于以往单一物理空间和人力执法司法的法律思维与法律方法，必然难以适应司法执法智能化的新形势、新要求和新任务，亟需进行适时的深度变革，以满足双重空间、人机混同条件下司法执法智能化的客观需要。这就会涉及如何用数量、概率和逻辑来表达和定义善、恶、权利、义务、公正等伦理范畴，通过这种代码转换使人的伦理变成程序化的机器伦理。4例如自动驾驶技术的发展，就需要“我们必须将社会行为嵌入到这些汽车当中”，进行双重意义的编码——“我们必须将意图写入法律，同时写入控制机器的软件”。5当然，它难免会有失片面与偏颇，因此，“在人工智能日益代替人类进行各种决策的时代，设计出验证、证实、知情同意、 透明性、可责性、救济、责任等方面的机制，对于削弱或者避免机器歧视、确保公平正义，是至关重要的”。6与此相应，计量法学也开始逐步走向计算法律学，致力于探索法律规则代码化的形式表达与推理。这无疑会推进法律思维和法律方法的革命性变革，“就像活字印刷术要求一个修订版的人类一样，计算机也会提出这样的要求”。7但另一方面，在从工商业社会向智慧社会转型的过程中，基层社会却充盈着传统、现代性和后现代性的诸多问题甚至冲突，将社会规则转化为代码规制、将社会伦理嵌入进智能系统的瓶颈明显增多，通过执法司法智能化来回应基层社会治理的难度和风险大大增加，智慧社会基层治理所面临的挑战也更为严峻。因此，应继续创新体制机制来予以有效应对。

五、消解问题之本：探索智慧治理的新机制、新策略

无疑，法律自古就发挥着规范秩序和控制风险的重要作用，但从没有像今天这样面临众多的挑战和风险。2017年7月20日国务院发布的《新一代人工智能发展规划》就明确指出，“人工智能发展的不确定性也带来新挑战。人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。”因此，需要“制定促进人工智能发展的法律法规和伦理规范，开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等”。这无疑代表了智慧社会的发展要求与基本方向，基于此，我们需要在法律体系的变革重塑和推进智慧社会治理的进程中，通过代码规制、算法审计、规范标准等方式，嵌入体系化、制度化的风险控制机制。

首先，确立智慧社会治理的新理念、新思维。人类社会有史以来，一直生活在自然给定的物理空间中，但信息革命的到来，让人类在物理空间外开辟了广阔无垠的电子空间，从此进入了双重空间（物理/电子、现实/虚拟）的生活时代，人们的生产生活、社会行为和日常交往都是在虚实同构的场景中展开的，智慧生活和智慧治理也变得日益基层化、普遍化、日常化。这样，就亟需跳出传统单一物理空间的思维习惯，确立双重空间与智慧治理的新理念和新思维，按照双重空间的生产生活、行为逻辑，融入和加持建模、算法、代码等方式来设计规制方案，应对智慧社会基层治理的难题与挑战，从而构建有效的智慧治理秩序。与此同时，也要充分认识智慧社会的高风险属性，积极探索智慧治理的风险评估机制，努力抑制“一切皆可计算”所带来的技术理性控制与人文精神流失，守住“以人为本”的价值底线。只有这样，才能更好地推进智慧社会的治理秩序，实现新时代的“数字正义”。

其次，探索智慧社会的基层治理体制与机制。面对人工智能带来的规制挑战、算法决策的突出困境以及执法司法智能化的诸多问题，我们固然不能消极回避和等待，但更不能试图沿用工商业时代的惯常方式，“简单粗暴”地把这些挑战和问题“拉回”“锁定”在物理空间的规制框架内。1目前，各地的基层治理网格化就明显带有这种倾向，一些地方不是致力于探索顺应智慧时代发展的基层治理新机制，而是借用全新的技术手段来打造“维稳”和“控制”的网格布局，它所实现的只是传统治理方式的信息化、自动化和智能化，而不是反映智慧社会诉求和生活逻辑的制度创新，因而，偏离了智慧社会治理的自身目标，长此以往必将会加大社会风险，甚至产生危机。因此，亟需扭转这种倾向，切实按照双重空间的生产生活方式、社会关系和行为逻辑，来改造现有的法律规制体系，推动立足工商业时代的现代性法律体系向立足信息时代的智慧性法律体系的转型升级。比如，新浪微博诉脉脉不正当竞争案就昭示，对数据采取何种法律保护方式成为解决案件的关键，而以新型的数据财产（权利保护）进路取代以往的法益保护（商业秘密）、行为保护（不正当竞争）进路才更为有效。2更重要的是，我們应加快构建一体融合的法律体系，围绕人工智能的法律规制、算法决策的风险防控、执法司法智能化的难题瓶颈等等，来积极探索智慧社会的治理新机制。这无疑是一个长期的、复杂的、艰难的探索过程，需要全社会的共同努力，从而建立起智慧化的基层治理秩序。

再次，探索适应智慧社会发展要求的规制策略。面对网络化、数字化和智能化的快速交融发展，人们对目不暇接的技术进步和新业态“破窗”一时难以迅速反应，政府监管部门也更多地关注它们所产生的风险后果，尝试出台新政策、新法规来加以控制和防范。然而，这仍然是一种传统规制策略，仍是一种立足物理空间规则立场的外在的规制，没有进入新业态的运行逻辑内部，规制的是代码和算法的后果，而不是代码和算法过程的本身。这就难以有效应对人工智能挑战、算法决策困境和执法司法智能化难题。因此，需要实现智慧时代的法律规制转向，通过代码法律化，把行业的代码技术规则上升为法律化规则，实现“技术法律化”;同时，通过法律代码化，把法律规则转换成代码，并以代码来规制代码，实现“法律技术化”。这样，就形成了双向构建的规制策略，从而为塑造智慧社会的新型基层治理秩序奠定坚实基础、提供有力保障。

[责任编辑 李宏弢]

Governance Problems in Intelligent Society and Their Resolution

MA Chang-shan

Abstract：  The arrival of smart society not only brings people welfare and progress in life， but also brings high-risk society， in which the regulation challenge brought by artificial intelligence， the prominent problem of algorithm decision-making process， the difficulty and risk of grassroots law enforcement and judicial intelligentization have become the Times problems faced by grassroots social governance. Therefore， establishing new concept and thinking wisdom of social governance is in urgent need. According to production way of life and life logic of smart society in dual space， promote the transformation from the modern legal system to intellectual legal system， and then explore the new mechanisms and strategies of smart governance and finally create a new social order of grassroots governance in smart society.

Key words：  smart society， big data， artificial intelligence， social governance， rule of law order