数字秩序的“阿喀琉斯之踵”：当代数据治理的迷思与困境

庞金友

(中国政法大学 政治与公共管理学院，北京 102249)

人类正在大步迈进一个以互联网+、大数据、人工智能、云计算为表征的数字狂飙时代。随着数字技术在现代政治和公共管理领域开发和应用的速度、广度及深度不断攀升，“基于数据的治理”渐成大势所趋。这一结构性变革的好处显而易见：高效、便捷、透明、公正、绿色、环保……但值得注意的是，它也在冲击、挑战甚至瓦解传统的社会制度和大众文化，激发、催生并型构出新兴的政治样态和治理结构。在这样的背景下，在充分肯定数据治理重要性、合理性和正当性的同时，人们也需要认真思考：数据治理是21世纪的万能钥匙吗？它真的可以无往而不利、轻松破解所有治理困境与难题吗？换言之，在数据治理日显其重、高歌猛进的新时代，究竟又该如何冷静分析数据治理的内在缺陷，客观评价数据治理的当前困境，全面预判数据治理的可能风险呢？

一、当数据无处不在：数字安全的现实困境

数据是数据治理的基石。当今时代，得数据者得天下[1]294。数据虽然不是万能的，但没有数据是万万不行的。虽然数据本身是中性的，既不黑暗也不血腥，但它所代表的却很难说不黑暗不血腥。数据正在全天候、无间隙、不间断地记录着每一个现代人：衣食住行，言谈举止，悲欢恶喜，所思所想……数据既是对被记录者的立体解析，也是其内心活动的数字素描；数据既可以真实记录已经发生的，也可能预测将要发生的[2]255-256。

既然数据如此重要，那么人们自然会担心：这些关乎每个人的数据究竟掌握在谁的手中？它是否被合法依规使用，是否被别有用心者用作他途？身处数字虚拟化了的现实世界个体又应该如何保护自己的隐私和秘密？这就涉及数字安全的问题。“无论是数据的获取与整合，数据的隔离与存储，数据的分析与解释，安全问题都贯穿于数据治理的始终”[3]。一个国家或地区，数字技术越发达，面临的数字安全困境越严重。

第一，数据安全问题。随着政府、企业和社会组织的运行与决策越来越依赖大规模的数据收集、分析、整理和使用，人们所熟悉的传统社会变得越来越透明化、赤裸化和公开化。对于掌握数字技术的个人和机构来说，数据面前人人平等，只要数据足够，整个网络世界中的个人和机构完全呈现一种裸奔状态。此时所谓的数据安全，像极了“皇帝新衣”的童话。在日常生活的各个领域，人们越来越依赖智能数字产品，如机动车的自动导航和自动驾驶、手机的语音助手、地图导航、免密支付功能等等，在服务与被服务、辅助与被辅助关系模式的表象之下，是海量的个人信息和数据的流通与交互。如果用户的信息发生流失和泄露，或者被他人窃取、盗买、篡改和利用，就会引发数据安全危机。

无论是数据的收集环节，还是保存环节，抑或使用环节，都存在风险。2007年上半年，“熊猫烧香”病毒爆发，让人们首次认识到个人数据私下交易的黑幕。可这仅仅是数据安全巨大黑幕的冰山一角。2016年9月22日，全球互联网巨头雅虎证实至少5亿用户账户信息遭人窃取。2016年12月，雅虎再次发布声明，宣布在2013年8月未经授权的第三方窃取了超过10亿用户的帐户信息，包括用户姓名、电子邮箱、电话号码、出生日期和部分登录密码。出于自身利益和高额利润的考虑，一些商家片面强调新兴智能产品的性能、优点，却对这些新设备和新技术对个人数据的动态获取避而不谈。当前一些应用APP在为人们提供免费、便利生活服务的同时，也会自动记录、收集个人的数据信息，从而给下一步的精准推送和智能营销提供素材。这些都对数据安全构成了潜在的威胁。

第二，隐私安全问题。大数据的收集与整理必然需要个人生活、工作和交往的细节及信息，也势必会形成对个人隐私的威胁。正如艾瑞斯所说：“隐私问题部分来说不是大数据分析的问题，它是数字化过程的阴暗面。”[4]174确保信息数据和个人隐私的安全，这直接影响每个公民的合法权益，间接影响公众对政府的信任和认可。日趋数字化的时代，大规模的智能机器在互联网上没日没夜、一刻不停地搜集、整理着包括姓名、性别、电话、邮箱、住址、位置等个人数据。这些海量信息的全面追踪，经过简单的分析、归纳，不仅可以勾勒出个人的个性特点、脾气秉性、饮食习惯、购物倾向、颜色偏好等普通特征，甚至可以挖掘各种个人癖好、行踪轨迹、交往范围、性取向等私密信息。换句话说，在大数据面前，个人很难保护自己的隐私。正如芒福德所担忧的：“个人的一切，包括行为活动、往来交谈甚至连梦幻、思想，都难逃这神眼跟踪。一己生命的一切迹象都被记录到计算机数据库，接受通盘监控和管理。换言之，不只是侵犯了隐私权，简直彻底破坏了个人的自治状态，其实就等于毁灭人类灵魂。”[5]318

第三，数据垄断问题。当前数字安全的最大威胁来自数字巨头。数据是数字时代取之不尽的资源，是人人渴望的财富。有资源就有争夺，有争夺就可能形成垄断。拥有更多用户、控制更多数据、制造和使用更多智能学习机器的超级公司在数字时代逐渐占据主导乃至统治地位。这些超级数字巨头掌控无穷无尽的数据，占据无以匹敌的优势，拥有“上帝般的力量”[6]120-127。于是，拥有无与伦比的规模经济、强大的品牌效应和使用惯性、对高端人才的吸引、高昂的转换成本和独特的用户锁定、先进的大数据和机器学习等优势及特色的数字巨无霸、数字巨头和数字帝国慢慢登上历史舞台。

当竞争格局解体，垄断成为常态，即使外表再光鲜，形态再炫酷，意图再隐晦，数字巨头的行为逻辑却越来越简单粗暴、清晰明了。首先，逐利优先。没有哪个互联网企业不是逐利的，没有哪个数字巨头不受资本驱动，没有哪个社交平台将追求公益作为终极目标。其次，合规合法。数字巨头的竞争优势并不在于它们能够超然于法律之上或左右司法，相反，它们真正的优势恰恰在于在现有法律的框架下，依法合规地获取大量用户的准确数据。这些数据有助于它们更好地了解这些用户，并不断改进它们的产品和服务，即使将一些数字巨头分拆开来，它们利用已有及以后不断获取的数据，又能迅速做大，形成新的垄断。再次，垄断排他。数字巨头一直奉行垄断性、霸权性与反竞争性理念。巨头们普遍遵循这样的潜规则：我们可以便捷、廉价甚至免费提供产品和服务，但用户必须放弃一部分权利以对接我们的服务，保障我们的运行。对于用户来说，这是一个避无可避的霸王条款，只能在两个简单选项中做艰难选择：一是接受，接受数字巨头们提供的产品和服务，同意让渡自己的部分权利；二是拒绝，拒绝放弃自己的权利，也意味着拒绝数字巨头的所有产品和服务。显然，这是一项无法拒绝、无处协商的霸王条款。

由此看来，数据治理的深化与普及，必须以数字安全为基础。甚至可以说，如何捍卫数据安全、保护个人隐私、防范数据垄断，比如何推进数据治理更为紧要和迫切。

二、当数据遭遇鸿沟：数字不平等的多重陷阱

数据治理的前提条件是拥有真实、有效、全面的数据。如果数据是虚假、无效、部分的，就会造成数据的不足与缺失；而基于缺失数据的治理，必然导致决策的失灵与治理的无效。在一些贫困和欠发达地区，网络无法覆盖，数据很难收集和整理。此时所谓的数据往往只是部分样本，而不是全样本，更不是“大数据”。依此数据做出的决策，既不能照顾到那些边缘群体的偏好和需求，更不能确保决策的科学性、规范性和有效性，这就容易造成社会不公。正如有学者提到的：“大数据大大地威胁到了我们的隐私和自由，这都是大数据带来的新威胁。但是与此同时，它也加剧了一个旧威胁：过于依赖数据，而数据远远没有我们所想的那么可靠。”[7]208

这就涉及数字鸿沟问题。所谓“数字鸿沟”，是指在数字化进程中，不同国家、地区、行业、企业、社区之间，由于对信息、网络技术的拥有程度、应用程度以及创新能力的差别而造成的信息落差及贫富进一步分化的趋势。一般来说，评估数字鸿沟的核心指标是：互联网的普及程度；数字技能与信息素养的发展水平；获取与生产知识的方式。就中国的互联网普及程度来看，近年来中国的数字化进程加快，但即便如此，2022年2月28日国家统计局公布的《2021年国民经济和社会发展统计公报》数据显示，互联网上网人数为10.32亿人，其中手机上网人数10.29亿人；互联网普及率为73.0%，其中农村地区互联网普及率仅为57.6%[8]。这就意味着仍有大量人口不能上网，还有27%的人口未能普及互联网，我们的数字化进程任务仍很艰巨。

数字鸿沟正在不可避免地形成一种数字不平等，并进而引发更深层次的社会不平等。这种新型不平等的逻辑是这样的：

首先，数据不均衡导致数字鸿沟。受各种条件和环境的影响，不同地区、不同群体、不同领域间数据的生产、传播和应用的程度与水平存在较大的不对等和不均衡，有时甚至是天壤之别。其次，数字鸿沟引发数字不平等。虽然在法律和权利面前，人与人之间是平等的，但在信息技术面前，数字平等一时还无法实现：并不是所有人都能享受移动网络，轻松惬意地用电脑开会、炒股，用手机定餐、约车。一些人在繁华的都市里不知不觉成了“数字难民”，面对眼花缭乱的智能产品手足无措；而在那些网络覆盖不到、连智能手机都未普及的地区，又何谈数字技术的使用？再次，数字不平等加剧经济不平等。很显然，数字技能强、信息素养高的个人、群体和地区将拥有更高效的生产能力、更强大的竞争能力和更直接的赢利能力。最后，经济不平等恶化社会不平等。经济不平等会制造一大批富有的家庭，他们占据别人没有的资本，拥有更强的市场竞争能力和创业潜力；与此同时，经济不平等也会制造一大批贫困的家庭，他们无法接受教育，无法获得就业机会，甚至无法获得诸如医疗保健等重要的公共服务。更令人担忧的是，“有钱且高知的公民，比起他们那些贫穷且受教育程度低的同胞公民，总是更积极地参与公共事务，也有更丰富的政治知识和公民技艺，同时也更多地参与到几乎各种形式的政治和公民活动”[9]263。而社会不平等反过来又会进一步加剧数字不平等和经济不平等，如此一来，一个社会就将陷入不平等的恶性循环之中难以摆脱。

新技术革命尤其是信息沟通技术与社会不平等的彼此强化、共生互构，正在引起越来越多人们的关注。数字技术通过拓展信息获取渠道、革新互动模式、重塑身份认同，从根本上彻底改变了当前的社会关系和社会结构；被改变的社会关系和社会结构反过来又加强了数字技术开发和应用的不对等性和不均衡性。具体表现为：首先，数字不平等使社会分层由线下向网络空间延伸。若将数字不平等作为因变量考虑，会发现现有社会阶层差异会延伸和再现于数字空间中，互联网并没有像乐观者设想的那样消弭差异，而是在一定程度上以数字参与的形式复制了现存各个群体的差异。其次，数字不平等使技术资本不断强化线下不平等。若将技术资本作为自变量，会发现它以马太效应的方式加强了线下不平等，数字弱势群体往往在现实中也难获利。再次，数字不平等使技术资本持续重塑线下不平等。在特定条件下，弱势人群反而能够通过使用互联网来增强线下社会资本，重构社会不平等结构。

由此看来，无论是研究者还是决策者，无论何时何地，只要涉及“基于数据的治理”的相关事务，都应该首先想一想：此时的数据是否覆盖全部地区、全部层级和全部群体？此时的决策是否会对数字技术发达地区或落后地区有所偏向？此时的福利是否会导致部分群体因数字技能欠缺而无法享受？……

三、当数据成为权力：数字利维坦的可能趋势

370年前，“始于自由、终于专制”的霍布斯为后人描画了一只残暴邪恶的恐怖海怪，用以指代强大无比的现代国家和至高无上的专制君权。自此，“利维坦”以自由之死敌和自由人的梦魇的形象流传至今。未曾想，四个世纪后，这只怪兽借科技力量再度降临于世，而且战力升级，更为强大，不仅能够参透人心，洞察一切，更能精准锁定，智能操控。“数字利维坦”重新成为现代人心头挥之不去的阴影。如果不加约束，任何一个掌控数字技术的个人或机构都可能成为一头这样的超级怪兽。

数字的赋权性加剧了新技术革命对传统社会、经济和政治的结构性冲击与颠覆性挑战。其中最为根本的是，这种新型数字权力使传统权力结构发生重大改组，这种重组分别在体制内和体制外同时展开：体制内，政府越来越依赖以数据治理国家和社会，数字威权和技术专制的趋势日渐成熟；体制外，巨型数字公司通过掌控数据、垄断技术建立起相对独立于政府权力的“科技帝国”。

第一，超级权力迅速崛起。数字时代需要长期的技术积累、巨量的资金投入和优秀的人才储备，这些条件只有少数确有实力的科技巨头公司才能满足。“资本的逐利性和技术对资金的依赖性导致了在这一波热潮中，既有的科技公司对人工智能有了明显增加的资金投入，而独角兽公司的快速成长也与海量的资金投入密切相关”[10]。这些科技巨头凭借雄厚的人力、物力和财力迅速形成技术垄断，逐步占领科技市场，从而形成无所不在的强大影响力。在此基础上，科技巨头还寻求与公共权力的合作与共享，以提供技术支撑、公共服务和公益产品等形式慢慢渗入政府体制，进而影响公共权力的运行与效果。于是，一个外在于传统体制的超级权力迅速崛起。

第二，国家权威遭遇挑战。相比财力雄厚、职能单一、目标明确的数字巨头公司，政府在数据采集、算法研发、人才储备、资金投入、技术应用等方面往往相对滞后。随着数据治理在国家治理体系中的广泛普及，国家治理体系的完善和国家治理能力的现代化将越来越依赖大数据、新型算法以及掌握和操纵这些技术的巨型科技公司。这一局面可能造成三个直接后果：一是数据治理越普及，政府对数据以及掌握数据的数字巨头的依赖性越强；二是政府的依赖性越强，授予数字巨头的数字权力越大，数字巨头的行动能力越强；三是数字巨头的能力越强，获取数据的规模越大，处理数据的速度越快，给政府提供的服务越多、效率越高，政府的依赖性就越强[11]。这一闭合循环内含权力和依赖的此消彼长，终将改变政府与科技巨头的力量对比和权力结构。

表面上看，现代政府仍居于权力结构的中心。但获得超级权力的数字巨头已悄然建构出一个又一个力量强大、边界模糊的权力漩涡，进而形成多中心、去中心甚至无中心的权力格局。传统国家与政府的权力范围和行动能力将被慢慢削弱。“伴随着新技术带来的竞争加剧、权力下放和再分配，政府现有的形态将不得不发生改变，其以执行政策为核心的职能将逐步弱化”[12]71。如果任其发展，不久的将来，政府权力的空心化、政府权威的塌陷化不会再耸人听闻。由此来看，沃林当年所担心的“国家公司化”与“公司国家化”趋势绝非杞人忧天。

第三，国际秩序面临重塑。现如今，数字巨头的角色和地位不断攀升。“权力关系的现实已经改变。算法组成的政体正在和国家政府相竞争。审查和监控好比数据货币化一样，从政府转移到数字跨国企业”[13]357。它们在民族国家内大展身手，在世界政治舞台上动作频频。凭借资本、信息和技术上的绝对优势，数字巨头在资源获取、商品开发、社会动员、规则制定等领域拥有越来越大的影响力和话语权，有时甚至可以左右一些贫弱国家的政局和命运。它不断将触角延伸到世界更多的角落，共同参与全球治理，共同建构国际秩序。人们突然发现：在国与国对抗和竞争的传统场域中平空增加了一众厉害角色，数字巨头开始与主权国家正面对决，公司首脑与国家领袖平起平坐。2021年2月18日，澳大利亚政府要求脸书新闻内容付费，脸书公司旋即重拳回击，屏蔽了澳方新闻媒体在该平台的全部信息。此举使澳方内外交困，不得不于5天后妥协。数字巨头令主权国家放下身段屈服，这让全世界看清了一个事实：脸书不再只是一个跨国数字企业，俨然已成为一个强大的政治行为体，具备了与主权国家讨价还价的资格和实力。在可以想见的未来，“这些跨国企业也将与主权国家一道，成为国际体系的重要参与者，国际关系的主体日益呈现出多元化的趋势”[14]。

当公共权力越来越依赖各种数字平台、终端、系统和机器时，以数据至上、智能主导为特征的数字权力就会被赋予实实在在的影响力和决定力。在巨大的高度集权、强悍无比、无所不能的“数字利维坦”面前，那些提供了基础数据的普通民众则价值尽失，要么沦为无足轻重的数据奴隶，要么成为可有可无的虚拟存在。

四、当数据反对数据：算法规则的内在矛盾

算法规则是数据治理的核心技术。作为一种不能明示的规则，它具有较强的隐蔽性。对于这只在数字时代引导一切的“看不见的手”，人们能感受到它的存在，却看不清它在哪里，更不知它如何借助数据和信息去组织、规划和推动人们行动。数字巨头们更是深知隐蔽算法的紧要性，动辄豪掷数十亿美元去量身订制特定的算法模型，并竭尽所能隐藏这种模型运算的结果甚至否认算法模型的存在，或者美其名曰“商业机密”和“知识产权”[15]19。

算法规则本身具有内在的矛盾性。一是逐私利还是谋公利。算法研发首先是一种企业行为，追求资本的最大化为其内在冲动，但算法一旦作用于公共领域，关涉到公共事务，就应具有公共性和正当性。二是倚偏好还是重平等。在算法技术出现之前，互联网中的信息对于每个人都是公平、对等的，算法出现后，数字世界的规则发生变化，呈现在每个人面前的信息会依据性别、年龄、民族、喜好、信用、薪酬等筛选甄别，而每个普遍的信息接受者对此要么一无所知，要么无能为力。三是技术至上还是人类中心。究其本质，算法只是一种技术形式，终极目标是服务人类主体。但在算法所赋予的权力框架内，人的存在由数据赋值，人的意义由数据来界定，作为数字系统中被提取、评估、计算、预测的客体，人已沦为算法操纵、控制的对象，其主体地位岌岌可危。而另一方面，“对科技公司来说，代码就是力量”[16]117。算法规则的这种内在矛盾性决定了其可能的风险性。算法权力逐私利、重偏好、追求技术至上，往往容易形成以数据信息为中心的新型权力，一旦脱离监管或无法合理控制，势必损害平等价值、公共利益和基本道德，引发诸多社会后果，例如：在看似没有恶意的程序设计中，“却带着设计者或开发人员的偏见，或者采用的数据是带有偏见的，会酿成各种社会问题”[17]。

第一，算法歧视的出现。算法规则在本质上是解决问题的一系列指令，“是用系统的方法处理问题的一种策略机制”[18]，究其本质就是依据人工给定的规则，只不过经由智能机器自动操作完成而已。这些人工制定、授权的规则往往存在性别、种族、职业、收入等方面的倾向性，一些弱势群体、边缘群体和少数族群往往被排斥在规则范围之外，这种算法歧视更为隐蔽、更不易为人们察觉，具有较强的误导性和破坏性。某种程度上，歧视是算法规则无法避免的，“歧视在很多情况下都是算法的副产品，是算法的一个难以预料的、无意识的属性，而非编程人员有意识的选择，更增加了识别问题根源或者解释问题的难度”[19]243。一旦某个算法模型产生了歧视，这种歧视可能会被不断巩固、强化和放大。因为算法决策会形成一个“歧视性反馈循环”，一旦启用不准确、有偏见的数据去设计算法，然后再用这种算法得出的运行结果来反馈，原有的偏见会再度扩大、加强。按这个逻辑，算法完全可以基于偏见而创造一种充满歧视的现实。

第二，病毒式传播的泛滥。社会平台一直在探索如何通过社交网络传播，让信息快速接触大量受众，就像病毒传播一样迅猛而高速。社交平台想追求的是：人们飞速点击，甚至没有完全意识到自己为什么被某篇文章吸引而不是另一篇；人们往往会被认知偏见、非理性力量和半清醒状态下的决定所动摇。要诱惑读者点击，有时需要操纵一下，有时需要不易察觉地说服。最典型的做法就是像一些平台网站那样并不生产原创内容，而只是从网络中抓取视频和照片，然后安一个对广大读者具有诱惑力的醒目标题，赋予其魔性的传播元素，从而实现病毒式传播。病毒式传播的典型做法就是利用人们的好奇心理，明明白白地调戏读者，给出的信息刚好挑逗读者欲罢不能；同时，重点针对“工作中+无聊”群体制定快餐式阅读方案。

第三，过滤气泡的幻觉。智能算法提供给读者的信息，其实是读者自己渴望阅读并愿意分享的内容。换句话说，在算法规则的精准推送下，人们只会不断强化自己早已深陷其中的信念和偏见；智能算法成功屏蔽了那些可能激怒读者的对立信息和观点。于是，人们就看到了这样一幅极不真实的和谐画面：自由派面前泛滥着自由派的观点，素食者得到的素食主义宣传无穷无尽，极端右翼分子面前总是站着极端右翼人群。从表面看，人们能够上网搜索很多信息，然而，人们的智慧却没有随着信息量的增加而提升，甚至有越来越愚蠢的倾向[20]131-133。脸书、推特小心翼翼地守护着人们的思想领地，试图让人们避免遭受持异议者的冒犯或冲击。孰不知，若无这些庇佑，人们可能会见识更多精彩纷呈的意见，可能领略宽容他人、理解异见甚至被征服、被改变的独特魅力。

第四，蜂群思维的虚构。社交平台上的话语争夺与议程控制，最终导致蜂群思维流行，从而一步步推向或混乱或专断的两大极端状态。蜂群思维意味着没有强制的中心控制。它的神奇在于，看似没有一只蜜蜂被控制，但却有一只看不见的手，一只从大量愚钝的成员背后伸出的手，控制着整个蜂群。当人们不再迷恋作者、屈从于各种社交媒体上的众说纷纭时，蜂群思维就会出现。实际上，脸书、推特等社交平台创造着不同的蜂群思维——每个蜂巢里都有一个蜂后，每个蜂后都掌控着蜂巢的生态系统，团结大众，惩处异己。这种蜂群思维让人丧失区分事实和虚假的能力，人们只会在虚构的认同中不自觉地党同伐异[21]211-212。从这个意义来说，脸书貌似达成了共识，但却是一种虚构的共识，并非真实存在。这种共识没有让这个世界融为一体，反而更加四分五裂，进而引发马克·里拉所批判的“伪政治”[22]90-100。

第五，自由表达的危机。自由化表达，多样性呈现，畅所欲言，这是言论自由的表现，也是思想自由的实质。这就要求平台设置、渠道管控和信息治理倡行宽容、多元、协商原则。而一旦选择平台的产品和服务，基于智能算法的社交平台就可以合理利用规则，提取、收集和应用用户的信息及隐私，过滤和屏蔽某些特定的正常信息、某些特定的合法链接，结果只能是：“平台巨头肆意侵害用户的隐私权和全面信息知悉权，剥夺用户的信息自由选择权，信息被精准推送、话语权被封杀、观点被引导等成为常态，对用户形成信息茧房、信息孤岛。”[23]金融巨头索罗斯在达沃斯论坛上告诫世人：数字巨头正在劝诱人们放弃自主权，而一旦放弃，就要费很大劲才能坚持和捍卫密尔所说的“心灵自由”。一旦失去，成长于数字时代的人们可能将再难重获它。

当代欧美各国的政治现实表明，传统政治对媒体的批判集中在国家试图通过控制媒体来影响意识形态，但当下的情形是，社交平台正在逐渐取代国家和政府的部分传统功能，成为影响和控制意识形态的中坚力量。科技公司正在削弱独立思考的可能，这原本是人类独有的无价之宝。通过数据积累，数字巨头描绘出我们的思想，并在无形中引导大众行为，借以增加它们的经济利益。于是乎，“手机是我们记忆的延伸；我们把基本的心智功能外包给了算法；我们把自己的秘密拱手交给服务器，任凭计算机前去挖掘”[24]7。

五、当数据拥有智慧：AI治理的潜在风险

自动化、智能化是数据治理未来发展的方向。无论是利益的提取和综合，还是权力的操纵与运作，抑或决策的酝酿与输出，所有政治行为都在互联网、大数据和智能算法的加持下以数字形式即时呈现并精准表达。随着人工智能不断渗透和介入政治领域，势必引发治理体系的变革、权力结构的重组、民主形式的更迭以及统治秩序的重构，这些新发展和新变化我们将其称为“AI政治”。可以说，当数据开始拥有智慧，当治理变得越来越智能，数据治理也就升级进入AI治理的新时代了。

在AI治理发展的不同阶段，人工智能会以何种方式渗透、介入和影响政治，人类对人工智能的理解会发生何种变化，人类与人工智能的力量对比和关系模式又将如何，这些问题都是人工智能时代无法回避的核心议题。按上述标准，我们不妨这样对AI治理做如下的逻辑推演：第一，在AI治理的初始阶段。这一阶段，人工智能以弱人工智能为主，仅能介入生产和生活领域，人类将其视为提供便利、舒适、效率和幸福的工具，发展水平和发展方向由人类决定，人类主宰一切。“在弱人工智能阶段，机器人几乎没有机会反抗人类的权力统治”[25]。第二，在AI治理的发展阶段。这一阶段，人工智能不断进步、升级，人类对其依赖性增强，随着人工智能介入政治领域的程度越来越深，围绕人工智能逐渐形成了体制内和体制外两大超级权力，人类依然主宰世界，但与人工智能的力量对比已有所变化。第三，在AI治理的成熟阶段。这一阶段，弱人工智能达到顶峰，人对人工智能的依赖性不断上升，随着生产、生活各领域中人的角色与功能被人工智能逐渐代替，人成为最有闲的无用之人。在政治领域，人被数字虚拟化，算法民主取代代议民主。人与人工智能的实力对比发生根本性扭转。第四，在AI治理的高级阶段。这一阶段，强人工智能不断突破，终于成功突破奇点，人工智能拥有了自主思维和独立意识，后人类时代来临，人面临或被淘汰或与机器并存的两难困境。人类主宰的时代消失不见，机器统治时代随之到来。

在AI治理的逻辑推演下，实际上暗含着一种相对悲观的人机关系模式预判。最初，人只是借助人工智能技术介入、影响和参与政治。此时人是主体，人工智能只是一种技术辅助手段。从人工智能出现到当下，人类一直处于这个阶段。随着人类对人工智能的认可度提高以及人工智能技术与能力的不断提升，人工智能终于突破“奇点”，成为拥有独立意识、自我观念和自主学习与进步的智能类人生物。此时人与“智能人”不分主辅，平等并存，和谐共处。只要想象一下你身边的人群中站着一半左右的机器人索菲亚，就能理解这个阶段意味着什么。随着智能技术的继续突破、智能机器人的迅猛升级，人类相对于智能机器的短板和弱势不断凸显，人类最终将面临一个艰难选择：要么，自动退出历史舞台，拱手让出整个世界的所有权，沦为机器的辅助工具，人类命运交由机器主宰；要么选择接受器官移植，从而与机器融为一体，此时的人与机器已经一致无二：人是机器，机器也是人。如此一来，“机器统治”的时代可能宣告到来[26]93-96。

六、结论

技术永远是一把双刃剑。它能带来和平，也能引发战争；它能推动进步，也能导向困顿。作为数字时代的技术变革，“基于数据的治理”自然是好的，其优势与特色毋庸置疑。但无论是数据治理的当前现状，还是数据治理的未来趋势，都不是完美无暇、无懈可击的。

当代政治与公共管理越是“言必称数据”，就越要对建基于数据之上的数字秩序怀抱质疑与戒备之心。当数据无所不在后，一边是数据垄断与数字巨头的喧嚣尘上，一边却是信息荒岛与数字难民的触目惊心；当数据成为新型权力后，一边是传统政治权威的逐渐式微，一边却是新兴超级权力的强势崛起；当数据拥有智慧后，一边是算法规则的威力渐显与明争暗斗，一边却是人工智能的悄然勃兴与迅猛发展。数字技术为人类打开了一扇门。人们在享受数据治理巨大红利的同时，也不得不遭遇并解决一系列诸如数字安全、数字不平等、数字威权、算法矛盾、人工智能等新矛盾和新问题。

如果这些问题解决得好，未来自然一片坦途，繁华无限；倘若处理不当，就可能误入歧途，灾难无穷。总而言之，对于数字时代的治理秩序，无论是审慎的乐观，还是冷静的反思，都不是盲目排斥，更不是刻意拒绝。只有了解当下，才能放眼未来；只有预知风险，才能持续发展。