智慧治理的时代面向与挑战

2020-03-13 08:20苗梅华
国家检察官学院学报 2020年1期
关键词:人工智能智慧算法

苗梅华

当今信息革命把人类带进了网络化、数字化、智能化的全新时代,国家治理、社会治理和法治秩序都面临着前所未有的颠覆与重建的复杂境遇。如何适应这场深刻的信息革命,通过变革创新来推进社会治理的升级转型,重建社会秩序,就成为世界各国都需亟待解决的重大课题。党的十九大报告正式提出了“智慧社会”建设的全新理念,网格化治理也在各地基层社会如火如荼地推广开来,中国已经进入了智慧治理新时代。然而,智慧治理绝不仅仅是新兴技术的社会应用,而是一个应对信息革命、推动人类向智慧生活进行总体性转型升级的宏伟工程,其中一些突出的新型挑战,需要我们审慎对待和着力解决。

一、智慧治理的时代面向

当今的信息革命,开启了人类的智慧治理新时代,形成了全新的社会特征。首先,超越物理时空的要素整合。信息革命在两个方面实现了前所未有的实质性飞跃,一个是在现实物理空间之外,创造出无限延展的网络虚拟空间;另一个是在人类的先天智慧之外,创造出具有替代性、甚至超越性的人工智能。这就不仅会对生产关系和生活方式产生深刻的影响,也会重塑人们的价值观念、思维方式和行为方式,进而促动了社会治理方式的革命性变革。一方面,物理时空出现破碎化。在互联网出现以前,人类的行为都发生在现实(物理)空间的单一平面上,而如今,人们可以随时网络购物、移动支付等等,无时无刻不生活在物理现实-电子虚拟的双重空间中,原来的物理时空限制被打破,近程与远程相交织、现实与虚拟要素相混杂,呈现出各种时空要素的扁平化、破碎化、流动化的态势。这不仅给社会治理带来了鲜活的时代动力,也带来了前所未有的压力。另一方面,大量的超物理时空要素可以在智慧治理中得以处理和整合。“所有的信息资源都能够被智能的计算机软件实体所识别和处理,并且这些软件实体能够自治地、主动地在网络中漫游,具有很好的适应性和可靠性,能够代替用户完成各种工作,并为用户提供丰富的服务。”①史忠植等:《智能互联网》,《计算机科学》2003 年第9 期。正因如此,“智能互联网将彻底改造所有传统行业,AI 是核心区动力”。②张彪:《智能互联网将颠覆所有传统行业》,《计算机与网络》2016 年第23 期。但可以清楚看到的是,随着人工智能的迅速发展及其在社会治理中的广泛应用,对这些超越物理时空的扁平化、破碎化、流动化要素可以进行全场景联网、可视化监测、大数据分析和网格化处理,从而实现各种要素的汇集、整合和管控,成为智慧治理新方式、新途径、新机制的深层支撑。这两方面的巨大变革,使得社会生活逻辑突破了单一物理空间的人、财、物关系构架,而融入了电子空间的数据信息要素和虚拟关系,③参见马长山:《智能互联网时代的法律变革》,《法学研究》2018 年第4 期;马长山:《面向智慧社会的法学转型》,《中国大学教学》2018 年第9 期。社会治理的理念原则、运行机制、秩序构造也必然因此发生重大转型。

其次,平台经济时代的技术赋权。自近代以来,公权力一直是国家以公益为由来进入社会、并力图塑造社会的一个经常性的制度化规制活动。尽管它需要反映社会发展需要和公众诉求以促成“共有的国家认同的形成”,④[美]德里克 ·W ·布林克霍夫:《冲突后社会的治理:重建脆弱国家》,赵俊等译,民主与建设出版社2015年版,第41 页。也不乏民间力量的回应反思和构建参与。但国家构建毕竟是主导的。然而,随着信息革命的到来,传统的工商业经济模式逐渐被颠覆,形成了“要么加入平台、要么被平台消灭”的平台经济时代。诸如淘宝、滴滴、百度、微信、抖音等等新业态、新模式,凭借新技术平台开辟了前所未有的利益空间和运营“飞地”,并根据自身特定的商业要素、构造和运行方式的需要,在“飞地”中进行技术化的自我赋权,来酝酿、设计、生产“无中生有”的民间“非正式”规则,从而“使混沌中产生秩序”。⑤[美]凯文 ·凯利:《失控——全人类的最终命运和结局》,张行舟等译,电子工业出版社2016 年版,第727页。技术赋权、多元构建的治理生态便出现了。对此,国家连续出台鼓励和支持“互联 网+”“智慧政务”“智慧司法”等多项战略举措,平台经济中的技术赋权、规则生产和民间治理呈现加速发展之势,进而成为智慧治理的核心动力之一,形成官民互动、双向构建的共建共治共享格局。

再次,代码规制的秩序导向。随着网络化、数字化和智能化的进一步融合发展,智慧社会也将越来越发达、越来越成熟,它对传统秩序构造的颠覆与重建也必将越来越深刻。进言之,以往工商业时代的秩序构造主要依托法律、道德、习惯等规则来支撑,而在当今智能互联网时代,日常生活日渐自动化、智能化,使得很多人脑决策开始让位于机器决策,而机器决策主要是通过大数据和建模算法,最终经由编程代码的指令来完成的。“软件代码常常可以更高效地组织各方行动”⑥[美]伊森 ·凯什、[以色列]奥娜 ·拉比诺维奇 ·艾尼:《数字正义——当纠纷解决遇见互联网科技》,赵蕾等译,法律出版社2019 年版,第24 页。,而代码也就成为“立法者”,变成了一种可以规划秩序的权力,因此,有学者就宣称“代码就是法律”。在智慧治理过程中,“他们决定互联网的缺省设置应当是什么;隐私是否被保护;所允许的匿名程度;所保证的连接范围。他们是设置互联网性质之人。他们对当前互联网代码的可变和空白之处所做出的选择,决定了互联网的面貌。”⑦[美]劳伦斯·莱斯格:《代码2.0:网络空间中法律》,李旭等译,清华大学出版社2009 年版,第89 页。这必然会带有代码设计者的价值偏好,社会公众也容易受到权益侵犯。于是,人们才呼吁,“开源代码的斗争不亚于争取民主的斗争,不亚于反对国家权力可能被滥用的斗争。”⑧[英]詹姆斯·柯兰等:《互联网的误读》,何道宽译,中国人民大学出版社2014 年版,第122 页。对代码的法律控制,也就成为在智慧治理中嵌入善治的一个必然选择。

上述要素整合、技术赋权和代码规制的深度变革,无疑反映了智慧治理的发展规律和时代面向,给全面深化改革和法治发展带来了重大机遇,但也蕴含着一定的挑战和风险,需要审慎应对和化解。

二、智慧治理面临的新型挑战

在人类发展史上,社会治理一直是个涉及多元利益、多种诉求的系统化的复杂难题。而当下智慧治理不仅具有一般治理的问题,还因其嵌入了网络化、数字化、智能化的各种因素,而面临着很多全新的挑战。

(一)数据和算法的建模塑造

工业革命和现代化进程无疑曾给人类带来了丰裕生活和空前繁荣,然而,它毕竟仍是在物理空间里来从事物质文明和精神文明产品的生产的,因而只是拓展了人类在物理空间中的活动能力和创造水平,其最基本的生产要素自然是劳动者和生产资料,具体表现为劳动、资本、土地和企业家才能等。而进入互联网时代之后,双重空间深刻地改变了以往的生产方式和生活方式。“产品与服务、分销体系、定价方法以及广告与促销模式均从原本集群、聚合式的商业权力体系中剥离出来,放弃满足各类需求的经济结构,转而向小型、分化、具体及定制平台进行一对一式运营”。⑨[澳]史蒂夫 ·萨马蒂诺:《碎片化时代:重新定义互联网+商业新常态》,念昕译,中国人民大学出版社2015 年版,第4 页。从生产、交换到消费整个链条中的自动化生产、市场分析、营销策略和大众消费,都高度依赖信息流动、数据挖掘和智能算法,这就促发了数据流动与共享,编织出跨越企业边界的全新资源网络、生态网络和价值网络,打造了智能化、场景化的商业环境。“在其中,算法决定了信息增长的秩序,同时它贯穿了经济系统的所有组成部分和流程,支撑并控制系统中各种经济活动以及所形成的各种经济关系,决定了经济系统的秩序。”⑩徐恪等:《算法统治世界——智能经济的隐形秩序》,清华大学出版社2017 年版,前言,第18 页。于是人们看到,人类的很多重大决策正在“从人手中转移到算法手中”。⑪[美]克里斯托弗·斯坦纳:《算法帝国》,李筱莹译,人民邮电出版社2017 年版,第197 页。数据和算法已成为当今数字时代的重要资源和生产要素,在一定条件下甚至还成为一种全新的生产力和生产关系。

然而,自动驾驶、智能产品设计、智能医疗方案、智能合约、智能裁判等等,其建模化无一不是以建构主义为主导的过程。人们日渐依赖各种算法,甚至都可以用AI 来开发AI,那么,人们享受自动化的便捷舒适其实是“只能被动接受结果”,⑫[美]皮埃罗 ·斯加鲁菲:《智能的本质——人工智能与机器人领域的64 个大问题》,任莉等译,人民邮电出版社2017 年版,第169 页。所有这些便捷化、个性化服务的背后,都是在融和跨越物理时空的各种要素、以技术赋权和代码规制方式——“我们塑造了工具,而之后,这些工具又塑造了我们。”⑬[美]约翰·马尔科夫:《人工智能简史》,郭雪译,浙江人民出版社2017 年版,中文版序,第Ⅶ页。一方面,人们享受着智能互联网所带来的巨大福利,生活得越来越舒适、越来越个性、越来越自动化;但另一方面,人们却在潜移默化中日益流失传统人性的东西,思维和行动也越来数据化、虚拟化,并受到智能建模的深刻雕塑,人们“正在以机械装置的形式来表现自己”,⑭[美]George F.Luger:《人工智能——复杂问题求解的结构和策略》,郭茂祖等译,机械工业出版社2017 年版,第469 页。从而使传统的生产生活方式和社会价值面临着深刻改变甚至颠覆。

(二)自由与控制的同步增长

在互联网兴起之初,人们觉得发现了一个奇异的乌托邦世界,当初的网络自由主义者曾经宣称:“我们正在建设的全球社会空间,将独立于你们想对我们进行的专制统治”“你们的财产、表达、身份、活动和条件的法律概念不适合我们。这些概念建立在物质基础上,而我们这里没有什么物质”,⑮[英]安德鲁 ·查德威克:《互联网政治学:国家、公民与新传播技术》,任孟山译,华夏出版社2010 年版,第42 页。因此,“最终解放我们的是技术,而不是法律和制度。”⑯[美]弥尔顿 ·L ·穆勒:《网络与国家——互联网治理的全球政治学》,周程等译,上海交通大学出版社2015 年版,第3 页。这无疑带有天真的技术决定论倾向,而客观事实是,“自计算机产生起,技术改变的核心问题是权力的转移。”⑰[美]马克·格雷厄姆、威廉 ·H·达顿:《另一个地球:互联网+社会》,胡泳等译,电子工业出版社2015年版,导论,第XXVI 页,第XXXIV 页。一方面,各种新业态、新模式的纷纷涌现和自我赋权;另一方面,随着智能互联网的深度发展并日益走向赛博新经济,数字技术提供了强大的信息数据跟踪、抓取、挖掘、计算和监控能力,智能互联网是自由的技术、还是控制工具?抑或是二者的某种状态?智能互联网发展态势表明的恰恰是自由与控制的同步增长,既带来了一个“无处不在的计算”的智能化、精准化、便利化时代,也在全球范围内形成着一张“无法逃脱的监视网”,⑱同前注[13],前言,第ⅪⅤ页,第166 页。甚至还会有演变成“监控国家”和“黑箱社会”的某种风险,⑲参见[美]弗兰克 ·帕斯奎尔:《黑箱社会——控制金钱和信息的数据法则》,赵亚男译,电子工业出版社2015 年版,第259 页。这些都是智慧治理变革所要面对的重大问题。日渐清晰的是,“人们用失去隐私、丧失个人生活和失去批判精神的代价换取可预测性、安全性,以及人类寿命的延长。”⑳[法]马尔克 ·杜甘、克里斯托夫 ·拉贝:《赤裸裸的人——大数据、隐私与窥视》,杜燕译,上海科学技术出版社2017 年版,第144 页。期间,自由与控制的同步增长将是智慧治理秩序演进的明确方向,自我赋权与国家规制、社会大众与精英群体、社会自主与政府监管等面临着深刻的博弈、变革与挑战。

(三)去中心化与再中心化的内在张力

在“互联网+”“智慧社会建设”“大众创新、万众创业”等国家发展战略的支撑下,一方面形成了要么是高度面向数据的行业、要么是被大数据重塑的行业之势,[美]托马斯·达文波特:《数据化转型》,盛杨灿译,浙江人民出版社2018 年版,第9 页。构造了网络化、扁平化、分享化的新型经济生态。此时,“碎片化还是一场运动,在这场运动中,我们的社会将变得更加平等,更加人性化,每个人都重新拥有了知情和参与的权利。无论从经济上还是从社会上来看,几乎所有的东西都被民主化,变得更好。”[澳]史蒂夫 ·萨马蒂诺:《碎片化时代:重新定义互联网+商业新常态》,念昕译,中国人民大学出版社2015 年版,第296 页。这就导致了去中心化的发展趋势,形成了“以我为中心”的社会——“个人主义、新型的从属关系及社群”。[德]克劳斯·施瓦布:《第四次工业革命——转型的力量》,李菁译,中信出版社2016 年版,第96 页。从未来发展看,大数据、人工智能会越来越塑造出一个“微粒社会”和“微粒人”,并形成个别化、单体化、危及平等的“差异革命”,知识、技能和经济机会在人与机器之间重新分配的“智能革命”,导致被重新分类、评价、比较、甚至被看透的“控制革命”,平等、自由、公正和民主原则都将遭遇重大挑战,传统权利义务关系构架和制度体系将会在“解析——解体”的过程中被不断重构。[德]克里斯多夫 ·库克里克:《微粒社会——数字化时代的社会模式》,黄昆等译,中信出版社2018 年版,前言,第VII-VIII 页。

然而,另一面的事实则是,“网络需要大量的关键性的参与者来产生利益,当行动者们为了实现一个更大网络的利益而会聚到同一个网络时,他们倾向于证明‘赢者通吃’的竞争方式。这种会聚一旦开始,惯性或锁定效应就会介入,从而赋予现已创建的网络以相当大的权力。”同前注[16],第58 页。因此,赢者通吃仍在不断推陈出新、触角延伸甚广,涉足的领域多到难以统计,塑造以为数众多的软硬件生态圈串联而成的复合式、庞大“多环状生态圈”,陈威如、余卓轩:《平台战略——正在席卷全球的商业模式革命》,中信出版社2013 年版,第220 页。形成“覆盖”式扩张发展。于是,平台商业模式就在去中心化的同时,实现了再中心化。这种去中心化(甚至微粒化)与再中心化的内在张力,无疑会给智慧治理带来诸如权利保护、权力控制、自由平等、风险责任等问题,需要予以积极应对。

(四)法律变革中的规制难题

智慧治理无疑离不开法律规制,也会面临很多危机和挑战。“在民事主体法、著作权法、侵权责任法、人格权法、交通法、劳动法等诸多方面与现有法律制度形成冲突,凸显法律制度产品供给的缺陷。”吴汉东:《人工智能时代的制度安排与法律规制》,《法律科学》2017 年第5 期。同样,大众点评百度案按不正当竞争处理、《刑七》将盗窃游戏装备案按非法获取计算机系统数据罪处理,两高司法解释关于网络诽谤和寻衅滋事的“扩展性”处理等等,这种智能互联网导致既有法律难以应对的例子很多很多,这就给智慧治理带来很大的压力和挑战。参见马长山:《智能互联网时代的法律变革》,《法学研究》2018 年第4 期。

另一方面,一些重大法律问题反映出全新的法律关系和利益诉求,涌动着法律变革创新的动力。如新浪微博诉脉脉不正当竞争案也昭示,对数据采取何种法律保护方式成为解决案件的关键,而以新型的数据财产(权利保护)进路取代以往的法益保护(商业秘密)、行为保护(不正当竞争)进路才更为有效。参见许可:《数据保护的三重进路——评新浪微博诉脉脉不正当竞争案》,《上海大学学报》(社会科学版)2017 年第6 期。同时,智能互联网带来的可预测性、可解释性、因果关系等等难题和困境,对新的法律规则的需求也将变得越来越迫切。司晓、曹建峰:《论人工智能的民事责任:以自动驾驶汽车和智能机器人为切入点》,《法律科学》2017 年第5 期。这意味着,促进现有法律体系变革和转型升级,就成为智慧治理创新的内在要求。

(五)智慧发展中的风险规制

在数字时代,智能化的建模和算法逐渐成为决策客观性、效率性、可靠性的象征,于是,人类便进入了一切皆可计算、皆可预测的时代,算法“定义和管控着整个经济运行过程,形成了当下的赛博新经济,并推动赛博新经济朝着赛博智能经济的方向发展。”同前注[10],第323 页。这样,数字智慧化、高效便捷化、个性场景化将逐渐成为社会生产和生活的常态。然而,“数字化世界密集性和复杂性的背后,风险将如影随形”,它“更容易看到一些微小的疏漏以让人无法预料的序列连续发生,就有可能变成更大的、更具破坏性的大事故”。而且,这些“集复杂性与紧密性于一体的系统更容易成为那些间谍、犯罪分子以及追求极大破坏性的极端分子的选择目标。”[美]埃里克 ·布莱恩约弗森、安德鲁 ·麦卡菲:《第二次机器革命——数字化技术如何改变我们的经济与社会》,蒋永军译,中信出版社2016 年版,第340-341 页。其实,还有更复杂的风险问题均不可小觑:

一是基于数据、代码和算法而形成的价值观念和决策机制,彰显着客观性、准确性、效率性,“定义我们道德生活的无法量化的部分变得可以量化了,拥有了这样的技术,从我们的决策中获取最大的效用变得太有诱惑力以至无法拒绝。”[英]乔治 ·扎卡达基斯:《人类的终极命运——从旧石器时代到人工智能的未来》,陈朝译,中信出版社2017 年版,第298-299 页。但同时,人类的主体价值和人文精神也面临着巨大冲击。一旦这些自动化系统由简单的行政管理工具变成了主要的“决策者”,特别是“用算法来处理人类特有的一些活动,有可能使这些活动丧失最根本的人性”,那么,“如何在算法时代保持人性?”[美]卢克·多梅尔:《算法时代:新经济的新引擎》,胡小锐等译,中信出版社2016 年版,第223 页。日常生活走向建模化,将对人们的生活方式产生颠覆性的影响。因此,如何在数据、代码和算法中嵌入人文价值和道德判断,保持其正当性与和合理性就成为一项紧迫的时代任务。

二是数据鸿沟、算法黑箱等必然会加剧社会分化,导致一些商业平台存在着较为普遍的“大数据杀熟”现象,翟冬冬:《大数据杀熟:最懂你的人伤你最深》,《科技日报》2018 年2 月28 日。甚至还会造成“蝴蝶效应”般的灾难。[德]罗纳德 ·巴赫曼、吉多 ·肯珀等:《大数据时代下半场——数据治理、驱动与变现》,刘志则等译,北京联合出版公司2017 年版,第203 页。这样,“人类生命及人类体验神圣不可侵犯”等启蒙时期的自由、平等、人权、公平等信念,将会遭到严重的侵蚀,[以色列]尤瓦尔·赫拉利:《未来简史》,林俊宏译,电子工业出版社2017 年版,第294 页、第315 页。这就呼唤确立智慧治理时代的新型正义观和价值观。王天一:《人工智能革命——历史、当下与未来》,北京时代华文书局2017 年版,第184 页。

三是面对数据、代码和算法等新领域、新问题,如何通过有效的规制来保证其正当性、合理性、客观性,防止出现过度的极化结构则十分重要。事实上,代码“正成为政治角逐的一个至关重要的焦点。应由谁来编写那些构筑我们日常生活的软件?”同前注[7]。同样重要的是,“对于关乎个体权益的自动化决策系统、算法和人工智能,考虑到算法和代码,而非规则,日益决定各种决策工作的结果,人们需要提前构建技术公平规则,通过设计保障公平之实现,并且需要技术正当程序,来加强自动化决策系统中的透明性、可责性以及被写进代码中的规则的准确性。”曹建峰:《人工智能:机器歧视及应对之策》,《信息安全与通信保密》2016 年第12 期。

上述这些问题无疑会制造出更多的社会风险,使得“外部风险所占的主要地位转变成了被制造出来的风险占主要地位”,[英]安东尼 ·吉登斯:《失控的世界:风险社会的肇始》,周红云编译,载薛晓源、周战超主编:《全球化与风险社会》,社会科学文献出版社2005 年版,第50 页。并成为当今社会最根本的冲突之一。因此,需要在法律体系的变革与重塑中,通过代码规制、算法审计、规范标准等方式,嵌入体系化、制度化的风险控制机制,这无疑是智慧治理所要担起的重要任务和使命之一。

三、探索共建共治共享的应对机制

当下迅猛袭来的信息技术革命,“在改变我们许多基本的生活和思考方式的同时,大数据早已在推动我们去重新思考最基本的准则,包括怎样鼓励其增长以及怎样遏制其潜在威胁。然而,不同于印刷革命,我们没有几个世纪的时间去慢慢适应,我们也许只有几年时间。”[英]维克托 ·迈尔-舍恩伯格、肯尼斯 ·库克耶:《大数据时代:生活、工作与思维的大变革》,盛杨燕等译,浙江人民出版社2013 年版,第219 页。世界各国对智能互联网发展带来的重大机遇和风险都予以高度重视和积极应对,我国近年也先后发布了《国家信息化发展战略纲要》(2016.7)、《“十三五”国家信息化规划》(2016.12)、《新一代人工智能发展规划》(2017.7)、《推进互联网协议第六版(IPv6)规模部署行动计划》(2017.11)等指导性文件,同时,中共十九大还提出了打造共建共治共享社会治理格局的战略要求。这样,社会治理就正在从和谐秩序转向共享秩序、从层级治理转向场景治理、从国家构建转向多元塑造,马长山:《智慧时代的社会组织制度创新》,《学习与探索》2019 年第8 期。因此,探索共建共治共享的应对机制,塑造智慧治理秩序就成为当务之急。

其一,确立包容性、法治化的智慧治理原则。智慧治理的超越物理时空的要素整合、技术赋权和代码规制导向,是当今信息革命和共享经济发展的必然要求,带有鲜明的去中心化、多元化、包容发展的趋向。而党的十九大也适时提出了“共建共治共享”的战略要求,这就需要确立包容性、法治化的治理原则,探索官民共建、多元共治、各方共享的规制方式,来应对算法建模塑造、自由和控制、去中心化和再中心化、法律规制难题、智慧发展风险等问题。因此,“在新时代政府和社会关系构建过程中,应以人民为中心,以用户创新、大众创新、开放创新、共享创新为特征,创建政府为龙头的共创、赋能、开放治理平台,并以此为基础实现政府、市场、社会多方协同的公共价值塑造,最终实现政府治理和公共服务的精细化、智能化和社会化、专业化。”傅昌波:《全面推进智慧治理 开创善治新时代》,《国家行政学院学报》2018 年第2 期。这样才能既能保障信息技术变革力量的积极性和创造性,又能确保其符合共享经济发展的规律和要求,使智慧发展所带来的进步成果也能够为社会所共享,并与政府一道来共同应对技术变革风险,促进新时代的智慧治理创新。

其二,探索技术赋权、多元构建、共享发展的智慧治理机制。事实表明,“网络发展了共享价值观与规范并界定了行动的专属舞台。”[英]斯托克:《转变中的地方治理》,常晶等译,吉林出版集团有限公司2015 年版,第191 页。而在全面深化改革、贯彻“三个清单”制度,推进智慧社会建设战略背景下,“通过包括人工智能在内的信息技术赋能社会,形成智慧自治是逻辑的必然。”同前注[44]。因此,面对网络化、数字化、智慧化的各种新业态、新模式,政府应该更多地认同它们自主化的技术赋权,包容吸纳平台治理中的代码规制,探索不同业态之间的纠纷解决机制;其次,亟需运用网格化治理的新技术、新平台,来拓展基层民众在双重空间中的公共参与途径和形式,建立智慧治理的民主参与机制,并予以法治化保障;马长山:《智能互联网时代的法律变革》,《法学研究》2018 年第4 期;马长山:《智慧社会的基层网格治理法治化》,《清华法学》2019 年第2 期。另一方面,政府对危及公共秩序的价值偏好予以规制引导和矫正,从而形成尊重技术赋权、多方参与、多元构建的秩序生态,藉此来化解算法建模塑造、自由和控制、去中心化和再中心化、数据鸿沟、算法黑箱和算法歧视,打造政府管制与社会自主、公权力与私权利、公共利益与私人偏好之间的良性互动关系。当然,在政府吸纳、矫正“众创式”制度变革、推进智慧治理的公共决策过程中,应该采取开门立法、多元协商方式来有序进行,而不可关门设计或者权力擅定。这样,才能更好地体现共建共治共享的智慧治理要求。

其三,通过新型立法来加强有效规制。对这场波澜壮阔、创新升级的信息技术革命,各国都在逐步加强制度规制,如欧盟《通用数据保护条例》(GDPR)、法国《数字共和国》、德国《联邦数据保护法》、英国《2017 年数据保护法案(草案)》、加拿大《个人信息保护法案》等。而我国也已颁布了《网络安全法》,先后发布了《新一代人工智能发展规划》、《智能制造发展规划(2016-2020 年)》等战略规划,明确指出要“制定促进人工智能发展的法律法规和伦理规范,开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究,建立追溯和问责制度,明确人工智能法律主体以及相关权利、义务和责任等”。国务院:《新一代人工智能发展规划》,http://www.sohu.com/a/158994676_466840,最后访问日期:2019 年8月7 日。而未来的信息立法和人工智能立法,应该立足网络化、数字化、智能化的发展规律和利益诉求,“它的制定或生成需要法律人和程序员、人工智能专家的合作,以便使算法进入法律,法律进入算法,从而使人工智能的基础操作系统符合人类的伦理和法律。”郑戈:《人工智能与法律的未来》,《探索与争鸣》2017 年第10 期。这样,才能更好地应对算法建模、自由和控制、去中心化和再中心化、数据鸿沟、算法黑箱、算法歧视等各种风险和难题,实现共建共享发展和有效规制,塑造良善的智慧治理秩序。

其四,构建技术伦理规范和风险控制机制。客观地看,新兴技术发展带来的分权与赋权功能的不断强化,必然会动了别人的“奶酪”,产生一定的社会不公;同时,技术发展对人机关系、生命伦理、社会伦理的改造和颠覆也会带来一定的不测和风险。面对这一问题,仅仅靠法律是不够的,“其思维体系缺乏卓越的叙述手法,因此既无法提供道德支柱,也缺乏强有力的社会机制,以管制技术产生的‘信息洪水’。”[美]Neil Postman:《技术垄断——文明向技术投降》,蔡金栋等译,机械工业出版社2013 年版,第74 页。因此,建立与之相适应的技术伦理规范和风险控制则显得尤为关键。西方一些发达国家已开始构建新兴科技开发与应用的行业伦理规则,如2017 年美国计算机协会下属美国公共政策委员会就曾发布文件,阐述了关于算法透明和可责性的七条原则,搜狐网:《2017 年全球人工智能政策十大热点》,https://www.sohu.com/a/215184272_465915,最后访问日期:2018 年2 月9 日。很多科学家也“都有意选择了‘以人为本’的设计。”同前注[13],第338 页。

对当下中国而言,在倡导智慧社会建设、迎接算法主导时代的同时,也要为算法设置道德准则。《新一代人工智能发展规划》就指出:“人工智能发展的不确定性带来新挑战。人工智能是影响面广的颠覆性技术,可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题,将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。在大力发展人工智能的同时,必须高度重视可能带来的安全风险挑战,加强前瞻预防与约束引导,最大限度降低风险,确保人工智能安全、可靠、可控发展。”同前注[48]。最近,《国家科技伦理委员会组建方案》已经中央全面深化改革委员会第九次会议审议通过,这无疑是一个重大的举措。从而使得技术创新和智慧发展能够尊重他人权利、承担社会责任、遵守共建共治共享原则,从而为智慧社会建设奠定伦理基础、设定内在规约机制,进而化解社会矛盾、防范社会风险,更好地打造新时代的智慧治理秩序。

猜你喜欢
人工智能智慧算法
基于MapReduce的改进Eclat算法
Travellng thg World Full—time for Rree
2019:人工智能
进位加法的两种算法
人工智能与就业
数读人工智能
下一幕,人工智能!
一种改进的整周模糊度去相关算法
有智慧的羊
智慧派