“算法权力”的异议与证成

□谭九生 范晓韵

（湘潭大学公共管理学院，湖南湘潭411105）

算法作为人工智能的核心技术，其具有的自主学习、辅助决策、配置社会资源等工具性作用早已引起各界的高度关注。自从斯科特·拉什（Scott Lash）提出“通过算法获得权力”的观点之后①2007年英国学者斯科特·拉什（Scott Lash）在其研究中指出，无处不在的媒体社会意味着权力越来越多地存在于算法中。参见Lash S.，“Power after Hegemony：Cultural Studies in Mutation，”The ory，Cul ture&Soc ie ty 24，No.3（2007 b）：71.，对于算法嵌入权力运行系统、算法支配社会行动、算法权力规制等方面的研究引起了国内外学者的关注，并取得了一些研究成果。如有研究者指出，算法权力同时具备技术特征和资本特性，算法权力的应用不仅会引起国家与社会关系的变革，还会引发资本与国家关系的重塑，需要加强国家和国际层面对于算法权力的规制[1]；另有观点认为，算法凭借机器优势、架构优势和嵌入优势产生了算法权力，但缺乏有效规制的算法权力呈现出异化的表征，导致公权力运行失范、公民权利受损等问题，需要从限权与赋权两个方面对异化的算法权力进行法律规制等[2]。这些成果为进一步深化算法权力研究奠定了基础。然而学界并没有对算法为何是权力、是何种性质的权力、其表现形式怎样等基础性问题做出系统性论述，仅是将其作为一个规范性概念来论证各自需要解决的问题。这很容易导致立论基础不清晰、学术对话概念口径不统一、理论建构不严谨等问题。因此，本文尝试在梳理“算法即权力”的争议基础上，遵循政治哲学中有关“权力”的核心特征标准，经知识迁移，通过对算法权力的释义与证成，梳理算法权力的表现形式，归纳算法权力的生成基础，以澄清目前学界对此概念使用较为混乱的问题。

一、算法权力成立与否的争论

算法是权力吗？就目前而言，学界对此看法不一，产生分歧的根源在于学者们对算法的概念存在不同认知和理解。

（一）“算法不是权力”之理解

以奈兰（Neyland）和莫勒斯（Möllers）为代表的一些学者不认同“算法权力”概念，更质疑“算法权力”的生成基础，认为权力的产生并不完全归因于算法本身。他们认为算法的核心是“如果……那么”（“If…Then…”）的结构规则，规则被设计为按照某种方式运行[3]。据此，可以基本判定他们是基于本体论视角来认识算法的，算法本体论即回答算法本身是什么，或算法本源的问题。他们在这个意义上所塑造的算法本身，是以数学结构为基础，以计算机代码为载体的程序、指令或规则。同时，奈兰和莫勒斯遵循法国当代哲学家拉图尔（La⁃tour）的权力观，认为权力应该如同任何人工制品一般，是一种需要产生和实现的结果，而不是固有的或已经给定的，也不是事件的原因。他们依照这个逻辑进一步探索算法与权力形式之间的联系，认为权力不是算法的主体特征，不能将“权力”仅仅归功于作为单个实体的算法。另外，他们认为算法本身会对社会产生影响，简单地将算法的社会影响力等同于算法权力是创造了一条从算法规则飞跃到算法输出的捷径，事实上其间忽略了构成结构规则所需的条件，也忽略了算法系统的情境特征。换句话说，算法要通过成功运行这样的规则产生社会力量，需要具备多种条件（If）和结果（Then）[3]。在奈兰和莫勒斯之外，还有一些学者持类似观点，例如，罗布·基钦（Rob Kitchin）围绕公众难以知道算法是如何对其自身行使权力的这一问题，批判性地思考了算法的本质，认为算法不能被理解为一种技术的、客观的、公正的知识形式或操作方式，“‘算法’是更广泛的设备中的一个元素”[4]，它不能孤立地工作。大卫·比尔（David Beer）在对算法的社会权力研究中指出，“将某一特定算法视为其社会生态之外的单独研究项目很可能是错误的，算法不应该被理解为存在于这些社会过程之外的对象”[5]，需要超越作为一种技术和物质而存在的算法本身来探索算法的权力（作为社会权力），算法的概念（即算法本身）只是它们潜在力量的一个重要特征。整体上，不认同“算法权力”概念的学者们实质上是不主张作为单个实体的算法本身拥有某些形式的权力。

（二）“算法是权力”之理解

另一种观点认为，算法是一种权力。帕斯奎尔（Pasquale）提出的“权力越来越多地通过算法来表达”这一观点，开启了一系列关于算法在权力部署或表达中的作用的问题[6]。比尔指出了算法权力的生成原因，一方面，算法的功能部署了算法权力，即算法的权力在于它们做出选择、分类、整理、排序和排名的能力；另一方面，算法权力的一种方式与真理的产生有关，算法进行的实质性干预、随机性干预或两者的结合所产生和维护的某些真理提供了算法权力[5]。同样，国内也不乏该观点的支持者，如周辉认为包括政府公权力和平台企业私权力在内的算法权力是在算法、互联网、大数据应用“三位一体”的算法社会中产生的[7]；陈鹏认为算法权力是一种新型的权力形态，是算法技术平台的研发者和控制者凭借自身的技术优势而生成的对政府、社会组织、公民等对象的影响力和控制力[1]。的确，算法的工具性功能可以使其演化为一种资源、商品、财产甚至是一种社会建构力量，如果不认为算法是一种权力，那么算法具有的事实上的影响力和支配力又应该如何解释呢？奈兰和莫勒斯给出了他们的答案——与其认为算法拥有权力，不如认为权力来自于“算法关联”（algorith⁃mic association）[3]，即算法的权力应该在算法规则运行所需的条件和结果中实现，算法规则的条件和结果只有通过一系列人员、资源、流程和特定情境之间相对不稳定的关联与结合才能形成。罗布·基钦提出的“算法的完整社会技术集合”也表达了这一层意思[4]。可以发现，他们是基于联系的视角来看待产生社会影响和社会力量的算法的，起码不能脱离算法开发、部署和运行的条件来探究算法，在这个意义上，也可以认为作为“社会技术集合”的算法是一种权力。

（三）争论焦点与本研究主张

算法是权力或不是权力的观点对峙，其原因乃是各学者对于算法的不同认知和理解。主张“算法不是权力”的学者是基于本体论的视角看待算法，认为算法是建立在抽象数学模型基础上的计算机代码链；主张“算法是权力”的学者则是基于系统的观点看待算法，认为算法是社会技术集合中的一个元素或算法运行系统的一部分。

蒙福特（Montfort）等人指出，代码（code）不是纯粹的抽象和数学，它具有重要的社会、政治和审美维度”，编程“不是一种枯燥的技术练习，而是对审美、材料和形式品质的探索[8]。基于此，罗布·基钦（Rob Kitchin）认为“创建一种算法是通过试错、游戏、协作、讨论和谈判等过程在上下文中展开的”，算法“需要被理解为关系型的、偶然性的、上下文相关的，在其社会技术集合的更广泛的上下文中被框定”[4]。从国家治理的角度，本研究认为算法不是纯粹的数学结构和计算机代码，它具有重要的社会性，内在地由各种资本、法律制度、技术标准、使用协议，以及使其实施的硬件和基础设施实质性地构成和塑造。因此，本文倾向于从系统的观点看待算法，把算法视为在实践过程中将基础资源要素、技术要素和外在力量要素紧密关联的算法系统。

二、算法是权力：基于支配力的证成

权力的本质是一种支配力，本文将从支配力的视角出发，证成“算法是权力”。

（一）权力的本质是支配力

权力存在于一定的社会关系之中，只有当主体凭借其拥有的资源对受体发生强制影响，即通过支配受体以实现主体自身意志时，才构成权力。很明显，在权力关系中，强制性是最为本质的特点，这意味着权力主体和权力受体之间的权势是不相称的，权力的运行以主体的命令和受体的服从为条件。简言之，权力关系是支配与服从的关系。由此可见，权力的本质是一种支配力，正如马克斯·韦伯所指出的，“‘支配’乃是共同体行动（Gemeinschaftshandeln）中最重要的环节之一”[9]。另有学者认同此见解，认为支配是权力的主要特征、权力的支配功能是“整个社会结构体系稳定运作的必需”[10]。

权力主体之所以能够对对方行使支配力，在于其拥有的物质资源、精神资源等。如政府等公权力机构代表国家，并凭借国家机器等统治资源形成的对社会主体的强制力；私人资本凭借资金、产业等经济资源产生的对劳动者的支配力；非政府组织凭借信息、社会舆论等社会资源产生的对政府和市场主体的社会压力，等等。不过，基于权力主体和权力受体的不同，支配力存在大小和软硬的区别。权力主体是国家政治机构时，行使的就是国家权力，相对于社会主体，国家拥有较大较硬的支配力；权力主体是社会组织、社会群体或公民个人时，就被称为社会权力，它们对政府机构和其他社会主体的支配力一般属于软权力。

（二）拥有支配力的算法是权力

算法技术能够为政治体系巩固权力，为企业获取丰厚利润，为社会公民扩大政治参与，其强大的工具性价值使政府、市场以及社会行动者均对算法这一前沿技术表现出强烈的需要，可见算法技术在国家治理体系中举足轻重。实际上，算法的所有者凭借他们所掌握的巨大技术优势，在各个领域广泛且持续地行使着支配力，在微观层面上引导、支配着人的认知模式和行为方式，在宏观层面上控制着社会运行方式。因此本文认为，拥有支配力的算法是权力，具体而言，算法权力是一种社会权力，是一定的社会主体凭借其对所拥有算法系统资源的控制，而形成的一种对国家和社会的支配力。当算法权力作为一种积极的建设性权力时，能够对国家和社会治理起推动作用，而当算法权力作为一种消极的破坏性权力时，将产生一系列负效应。以下行文讨论算法在政治领域和市场经济领域所拥有支配力的具体表征。

算法在政治领域的支配力。一个国家的政府作为主要的政治行为者，掌握着具有强制约束性的政治权力。“政治权力一经形成，就会成为支配性的能动力量”[11]，且具有内在的扩张延展性。理论上，技术具有的工具性作用能够满足权力确立、巩固和扩张的需要，新技术的发展能够不断地为政治权力的扩展趋向提供基础，并尽可能地扩大权力支配功能的作用范围。这意味着算法技术和政治的结合实现了政治权力的再生产，提高了支配力行使的效率。其一，算法配置社会资源。有学者指出，执政党和官僚体制在国家支配形式中的主从地位虽未发生实质性的改变，但官僚体制对于执政党行使权力的合法性诉求的支持使其获得了前所未有的扩展[12]，政府在这一扩展中拥有了强大的组织能力以及资源配置能力。随着算法社会的到来，官僚制支配形式在演变中有了新的表现，政府代表着代码规则和数据秩序，通过算法来辅助或替代自身作出决策，进而实质性地调配各种社会资源。其二，算法支配公民行为。公民对社会行为规范的遵守是政治行为者获得合法性权力的基础，即政治权力意志通过社会行为规范来表达。这一权力支配形式在算法社会因技术的演进而产生了一些变化，政治权力意志的表达由传统行为规范的话语秩序转向了社会行为规范的数据秩序，“公民的社会认知与行为在微观中受到算法权力的引导、建构与规训”[13]。例如，算法技术可以决定信息传播的内容、信息流动的方向与速度、营造拟态信息环境，政治权力可以通过运用遍及社会的算法技术来传播主流价值观念、巩固公民认知模式，进而形成公民自觉的服从行为，只是这一过程相对于传统的传播模式而言，通常是高效且隐蔽的。

算法在市场经济领域的支配力。韦伯指出，在大多数情况下，支配是以各种不同的方式利用经济权力来建立和保持的，“为求保持支配而使用经济手段的模式，反过来又对支配结构产生了决定性的影响”[14]。在市场经济领域，互联网公司和算法平台企业凭借庞大的私人资本、巨大的技术优势以及排他的平台资源，形成并主导了一个个算法生态。换句话说，算法技术和市场经济力量的结合，使互联网公司和算法平台企业获得了隐蔽的支配性权力。其一，私人资本对公权力的支配力。算法技术对资本和市场的过度依赖是促使私人资本对公权力产生支配力的根源，对于国家和政府而言，这一支配力将激发出极大的社会经济进步潜力。但若以智慧城市治理和发展为分析场域来阐释该支配行为，智慧城市发展的最强烈倡导者是大企业，例如IBM、微软、英特尔等，事实上，这些掌握核心算法技术和算法平台的技术公司占据了智慧城市运行的指挥中心：他们一方面将城市视为一个巨大的潜在市场，大力推动自己的算法技术以参与智慧城市建设进程；另一方面将创造一种使城市受制于特定技术平台和供应商的技术锁定，形成自身的垄断地位，进而能够通过与政府博弈、寻求放松监管，以提高资本效率、获得更多的权力。这也就意味着公共权力被技术公司的私人资本所支配将成为一种难以避免的结果。其二，算法平台对使用者的支配力。对于任何算法平台的构建者而言，他们可以凭借具有排他性的平台资源对使用者发挥“支配性”影响。例如，使用者在进入算法平台之前需要同意用户协议，平台创建者可能会将一些条件和要求强加给潜在的算法用户，如果那些潜在用户需要使用该算法，为自身的利益考虑，也就必须服从这些条件和要求。再如，购物网站使用推荐算法精准调控消费者的消费行为，推荐算法通过挖掘、分析消费者在互联网上产生的“留痕”数据，能够了解个人的消费习惯、预测其消费行为，进而以精准投放商业广告等方式调控消费者的消费行为。此外，算法平台的服务提供者也会受到平台规则和要求的约束，他们往往不得不服从算法平台所提出的规则。例如，百度（全球最大的中文搜索引擎）曾要求众多医疗健康平台与其签订排他性补充协议，这些医疗健康平台需保证医疗健康信息只能出现在自身平台和百度平台上。换句话说，所有提供在百度平台上的医疗健康信息不可以提供给任何第三方平台，许多中小规模的医健平台为了不失去百度带来的巨大用户流量，不得不签订该补充协议。

（三）算法权力的特征

算法拥有的强大支配力使其通常与公权力或私权力结合在一起，在此基础上，算法权力有别于传统理论意义上的公权力①在传统理论中，权力、公权力、国家公权力等概念经常被混同，而实际上，公权力有多种二次划分方法，根据公共领域界分可以将公权力划分为国家公权力、社会公权力以及国际公权力三种。这里的传统理论意义上的公权力等同于国家公权力。，主要表现出以下三个特征：

一是算法权力具有弥散性。算法权力作为一种“知识型权力”，与自上而下行使的公权力不同，在实际运作中呈现出网络化结构，是一种“无处不在的微观权力”[15]253，具有极大的弥散性。这里的弥散指的是一种弥漫状态，算法权力的弥散特指算法权力到处弥漫、无处不在。传统意义上的公权力与算法权力之间的区别可以采用迈克尔·曼（Michael Mann）的权力类型划分方式来加以解释，他将权力划分为权威性（authoritative）权力和弥散性（diffused）权力[16]10。权威性权力贯彻的是集团或制度的意志力，基于命令方式而具有深入性；而弥散性权力体现的是权力主体本能的、无意识的想法，包含的是理解和非明确控制，基于漫散方式而具有广泛性。基于此，算法权力的弥散性主要体现在两个方面。其一，权力主体的弥散。算法技术与私人资本、政治力量交织在一起，形成了一张覆盖整个社会空间的权力网络，那么很多主体都有掌握算法的可能，也就意味着这些主体都有行使算法权力的可能。换句话说，在算法权力的运行实践中，权力主体多元而不确定。首先，国家政治机构是掌握着算法权力的公权力主体，他们凭借具有强制力的国家权力、庞大的国家资本以及更占优势的公共大数据资源，能够将算法纳入公共治理体系之中，充分发挥算法技术的工具性作用，进而与算法技术联袂实现其治理目标，进一步强化公权力主体对权力对象的支配力；其次，互联网企业和网络平台公司等是掌握算法权力的私权力主体，他们作为庞大私人资本和强大算法技术的占有者以及网络平台和算法系统架构的提供者，对经济社会各方面具有一定的算法支配力，即他们拥有算法私权力；最后，其他社会机构也有可能是掌握算法权力的主体，实际上，算法权力行使的轨迹已经扩展到了日常生活和实践的各个领域，不仅存在于政治机构和公司企业，学校、医院等机构之中也普遍存在。例如，2009年美国华盛顿学区使用了一个名叫IMPACT的教师评估算法，其评估结果直接影响教师的去留①2009年，华盛顿特区为了对教育质量不佳的学校进行改革，教育部门采用IMPACT教师评估算法对教师的各项教学效果进行评估，通过开除在评分最低限度之下的教师来优化教师系统。参见凯西·奥尼尔：《算法霸权》，马青玲译，中信出版社，2018，第20页。。其二，权力对象的弥散。福柯认为“知识型权力”遍布现代社会的方方面面，每个人都有使用权力的能力，反过来看，这也意味着任何一个人都有可能是权力行使的对象。正如福柯所指出的，“每个人都可能是双重身份，既是权力的帮凶，也是被权力压迫的人”[15]256。因此，在算法权力弥散于整个社会的情境下，算法公权力、算法私权力以及其他机构掌握的算法权力都在不断地对其他对象施以影响和控制，人人都有可能是算法权力的对象。

二是算法权力具有隐蔽性。传统意义上的公权力贯彻的是国家的意志力，包含明确的命令和下意识的服从，对于权力对象而言，这种权力是直接的、强制的，甚至是建立在暴力惩罚之上的。但随着现代化进程的推进，互联网技术、大数据技术、机器学习算法技术等的发展使得权力的实现方式发生了一些变化，即“从实体向符号，从沉重向轻灵，从有形向无形”变化②这些变化不仅仅存在于权力领域，现代社会自我运行的各个领域都改变了发展形态，这也正是鲍曼所提出的“流动的现代性”。参见齐格蒙特·鲍曼：《流动的现代性》，欧阳景根译，中国人民大学出版社，2018。。换句话说，权力越来越强调的不是强制和直接，而是理解和自然开诚。同时，权力在现代技术的作用下实现了“隐身”，或者说信息的符号化、数字化使权力看不见了[17]，但权力的隐身并不意味着权力的消失，而是指权力本身以及权力的行使不能被权力对象意识到。基于此，本文认为算法权力具有隐蔽性，算法权力的隐蔽性特征是互联网技术、大数据技术和算法技术发展的综合产物。这里值得一提的是，算法权力与公权力不是割裂或对立的，部分算法权力的生成离不开公权力的嵌入，因此在这个意义上也可以将算法公权力看作是隐蔽的公权力。算法权力的隐蔽性主要体现在权力主体与权力目的两个方面。其一，权力主体的隐蔽。首先，算法权力作为一种无处不在的弥散性权力，权力主体弥漫于整个算法社会，要想找到某一特定权力的掌控者，是一件非常困难的事情；其次，技术的飞跃发展极大地改变了人的生存和生活方式，我们日益以一种“数字化生存”的方式生活在一个“微粒社会”之中③美国学者尼古拉·尼葛洛庞帝在《数字化生存》一书中描绘了因信息革命带来的人类生活方式的改变，“数字化生存”指的是在后信息时代人们生活的数字化和人的个人化；德国学者克里斯多夫·库克里克在《微粒社会》一书中呈现了数字化时代的社会模式，“微粒社会”指的是人、制度、社会关系等都被高度解析和解体的一种新型社会。分别参见尼古拉·尼葛洛庞帝：《数字化生存》，胡泳、范海燕译，电子工业出版社，2017；克里斯托夫·库克里克：《微粒社会》，黄昆、夏柯译，中信出版社，2017。，人类本身及其所有的行为都可以被高度解析为各种精细的数据，进而成为进入各种算法输入端的原材料。通过算法技术发挥支配力的权力主体往往被隐藏在数据和计算机代码之后，他们无需亲自出现在真实情境中来直接发布命令，只需要掌握算法的编写技术、运行规则或所有权，就可以以隐蔽的身份行使算法权力。其二，权力目的的隐蔽。由于算法技术本身具有高度的专业性和复杂性，加之算法技术在应用过程中主要受到大型互联网公司和算法平台企业的掌控，导致了“算法黑箱”的产生。从理论上而言，“黑箱”的存在使大部分人无法了解算法的含义、运行规则以及运作目标；从实际上来看，“黑箱”的存在让算法带来的技术影响和技术支配关系得以掩藏，并且是隐藏在自然的、基于共同利益的，抑或是合格合法的外衣之下。因此，无论是出于维护算法安全、保护算法机密的需要，还是出于操纵获利、避免被追责等目的，权力主体一开始都能够在“算法黑箱”的掩护下被隐藏起来。

三是算法权力具有非均衡性。政府机构代表国家是行使国家公权力的唯一主体，社会组织和团体是行使社会公权力的主体。换言之，传统意义上公权力的主体具有单一性，而算法权力在该方面有别于公权力。基于上文的分析，可以明确算法权力的主体具有多元性，主要包括政府、企业和其他掌握算法的社会机构。权力主体多元就意味着权力主体存在异质性，也就意味着这里隐含了一个更深层次的问题，即算法权力在多元主体之间的分配问题。人工智能是一个新的领域，它所依托的算法是一种前沿技术，政府、企业和其他社会力量在这个领域内竞逐权力，试图通过掌握算法技术来实现自己的意愿。由于新兴技术是保持经济增长的重要因素，经济绩效又是政治合法性的重要基础，所以国家领导人和政治精英出于内在需求将表现出对算法技术的重视，进而投入大量资本以推动算法技术的发展。很明显，政府在算法发展的基础设施建设、资金投入以及政策扶持等方面发挥了领导作用，在这个意义上而言，政府似乎掌握了绝对的算法权力，相对于强势的算法公权力而言，其他主体掌握的算法权力完全处于弱势，形成算法权力极不均衡的格局。实际上，一旦政府将算法技术平台这样开源开放的基础设施建立起来，“它们就可以被视为是公共产品”，那么，在一定意义上可以认为，算法公权力的行使将使所有的行为者受益，然而“从这些基础设施中产生的益处，其分配是相当分散化的。”[18]也就意味着算法公权力将造成算法权力的再分配，这些基础建设和政策为其他主体获得算法权力提供了机会，政府并不能一直是算法权力的绝对掌控者。实际上，一个“算法社会”的形成不仅使政府受益，也使企业、社会机构等行为主体受益，尤其是为企业家们提供了大量的机遇和机会，互联网领域涌现出一批如谷歌、微软、腾讯、百度、阿里等科技巨头公司的事实即是佐证。不同的科技公司和企业广泛地开发和使用算法来为自己的经济活动服务，凭借广阔市场和排他性技术逐渐获得并持续扩大算法私权力，甚至产生了技术公司抗议政府的行为。例如，2015年美国商品期货交易委员会（CFTC，Com⁃modity Futures Trading Commission）为了帮助监管部门理解某些交易算法的原理、诊断存在问题的交易活动以及监管交易算法，制定了一项无须进行传唤即可访问交易公司算法源代码的规则。然而这一决定激起了公愤，金融业的交易公司一致认为源代码是其制定交易策略的独门绝技，不愿意与无法充分保守秘密的机构共享自己独有的资源[19]6。此外，学校、医院等社会机构作为算法技术的“使用”行为主体，也能够通过使用具有公共产品性质的算法平台或向企业购买算法模型等方式，对机构对象行使一定的算法权力。但相较于政府和企业，这些社会机构占有和使用算法技术的能力较弱，因此他们所掌控的算法权力也是有限的。显然，算法权力在多元主体之间的分配不均衡。

三、算法权力的生成基础

技术集合的支撑，包含有物力资本、人力资本的私人资本的嵌入，以及公权力的嵌入，共同使算法具有了社会支配力和权力属性。

（一）技术集合支撑算法产生巨大的社会支配力

上文关于算法权力的探讨，明确了产生权力的算法是作为社会技术集合的一部分而存在的。实际上，在算法参与实践的过程中，作为计算机代码链的算法与人、物、资源、技术、资本和政治力量等因素紧密结合在一起，伴随着各因素的支撑和嵌入，算法嵌入权力运行系统、支配社会行动等行为和现象将不断显现和增强。因此，明确辨分与算法紧密结合的各种要素，是探索算法权力生成基础的关键性问题。

算法权力的生成基础之一是技术集合的支撑。一个基础的数学模型或一条简单的计算机代码链就可以被看作是最基本的算法，能够帮助使用者解决某些特定的问题，但产生的效果在广延性、综合性和强度等方面较为有限，然而只有在互联网技术、大数据技术以及深度学习技术等的支撑下，算法才可以产生巨大的社会支配力。这与霍桑纳格在《算法时代》中展开的生动描述相映成趣，他指出过去算法像是一份食谱，使用者通过它能且只能做出一道菜，而现在算法却像一位大厨，它能够在大数据的环境中不断推陈出新[19]29。实际上，算法是由设计者们编写和构建的，他们的主要工作是将人类自然语言编为代码，在此基础上设置参数变量，并将它们和某个结果联系起来，进而构建算法模型，但由于自然语言中的词义和语法规则相当复杂，如果仅仅依靠少数程序员教机器学习自然语言，就只能形成食谱般的算法。但互联网技术的发明使算法的语言能力实现了飞跃，人们在互联网平台上工作、社交和购物所敲打的字母为机器提供了学习自然语言的途径，这意味着全世界的人们在无意间为算法模型建立了庞大的训练数据库，而经过海量数据训练的算法实现了进阶，能够自行挖掘数据、自行创建因果统计模型，成为独立于程序员而具有创新能力的“大厨”。可以发现的是，互联网技术、大数据技术以及其他技术之间的衔接与集成造就了性能更先进、功能更强大的智能算法，其中互联网是营造大数据环境的关键性技术，在此基础上的全量数据投喂将使算法模型逐渐获得深度学习的能力。可以预见，在技术集合支撑下的算法能够作为控制数据以及代替决策的强大工具，对使用者行使持续而有力的支配力。

（二）私人资本嵌入算法权力

算法权力的生成基础之二是私人资本的嵌入。迈克尔·曼认为经济是社会权力的来源之一，经济的生产、分配、交换和消费关系通常结合有高水准的深入而广泛的权力[16]30。资本作为一个经济概念，本质上是一种社会关系，在现象上表现为一定数量的经济财富，社会主体可以凭借其拥有的经济财富对其他社会主体发挥支配性影响。实际上，算法技术的研发与应用离不开物力资本、人力资本等的巨大投入，可以说算法技术伴随着资本力量的嵌入得到了极大的发展，同时算法技术也赋予并增强了私人资本拥有者的支配力，即算法权力。就物力资本而言，基于资本生成的算法权力表现为对市场的独占性支配，具有市场主导地位的企业对其他企业和消费者带来了诸多支配性影响。由于特定算法的设计和运行依托于科技企业，这意味着这些企业占据了一定的优势，而算法技术的自动分析能力、数字产品的非竞争性特征等促进了数字市场的集中化，进一步为他们带来了市场垄断地位。在很多应用领域，任何科技巨头都可以基于其独占性地位发挥支配性影响，一方面，他们为了创造和获取持续的利益，不断兼并和收购其他小型科技公司，形成了“多寡头垄断”的局面。如谷歌收购DoubleClick、脸书收购What⁃sApp、微软收购领英等。另一方面，他们可能会凭借垄断地位将一些条件和要求强加给潜在的算法用户，而那些潜在用户为了使用该算法提供的服务，也就必须服从这些条件和要求，甚至有时不得不过度提供个人信息以及接受软件捆绑协议。而算法用户对使用条件和要求的同意，无异于他们对算法权力的服从。

另外，就人力资本而言，相比传统企业，算法中蕴含的人力资本会更深刻地嵌入社会权力。科技企业处于人力资本占比高、产品变化更新快、市场容量巨大的行业，使一些不具有垄断优势、处于竞争环境中的中小型互联网公司，往往由于算法设计人才的关键作用，而在实际中也可能会拥有与大型互联网公司同样的地位，因为他们也可以在看似不强加给算法用户任何服从“义务”的情况下，将某种行为方式强加给他们。因此，算法中的人力资本在一定程度上分享和抵消了物力资本的作用，但却给中小型互联网公司更多嵌入算法权力的机会，也增强了整个私人资本的嵌入程度。总之，可以预见，即使没有任何形式上的命令权，那些具有实际支配性影响的科技企业，也可以借助物力和人力资本优势来行使广泛的算法权力甚至是算法霸权。

（三）公权力的嵌入使算法技术有了权力属性

算法权力的生成基础之三是公权力的嵌入。政治与技术是目的与手段或目的与途径的关系[20]，步入现代化社会以来，技术一直是政权合理化的外在标志，也是掌权者用以解释和辩护的工具，换句话说，技术以及技术化现象通常被用来证明政治制度的正当性和合理性。以19世纪中后期兴起的官僚制为例，原则上用来协调一系列技术工作的官僚制，其本质是一套旨在服务社会制度的技术手段。用韦伯的话来说，官僚制一直是“官僚机器控制者头等重要的权力工具”，一经存在就不可能被摈弃或取代，这是因为它效率原则至上的隐性假设加之特有的非人格性质，使其获得了在客观上不可或缺的地位；而统治者在“面对官僚制内行的优势”时，也显示出了主观上的倚赖[14]1360。换言之，政治对技术的需要以及技术具有的回应政治发展需要的能力，是公权力嵌入技术发展的首要原因，工具性的技术与公权力结合在一起，进而使技术也具有了一定的权力属性。这也意味着在算法社会中，公权力在与算法技术交织的过程中实现了再生产，催生了一种与传统公权力非常类似的技术支配力，即算法权力。实际上，相对于互联网公司所掌握的来自用户使用电脑和手机而产生的浏览数据，公权力还掌握着更高数量级的数据，如人类本身的数据、环境数据、各种人类劳动过程数据等[21]。可以预见，当公权力嵌入算法时，算法就作为维护和巩固公权力的一种技术工具和手段，能够在服务社会、维护社会秩序等方面发挥出强大的力量。

四、算法权力的表现形式

“权力”是一个典型的多维度概念，面对众多学者言人人殊的权力概念界定，本文倾向于采用丹尼斯·朗（Dennis H.Wrong）提出的权力概念。他将权力定义为“某些人对他人产生预期效果的能力”，进而“把武力、操纵、说服和权威区分为不同的权力形式”[22]28，其中权威又分为强制性权威、诱导性权威、合法权威、合格权威以及个人权威五类。本文通过分析算法权力概念及其生成基础，把算法权力的形式限定于作为操纵的算法权力形式、作为合格权威的算法权力形式以及作为合法权威的算法权力形式。没有泛化至所有权力形式的原因是，根据丹尼斯·朗的观点，武力的行使通常是通过刑罚使他人的肉体、思想或情绪遭受损害，从而限制他人行动和自由；说服是他人根据自己的目标和价值观，对权力主体提出的论据、意见或劝告进行评估之后选择接受，从而使权力主体取得预期效果的一个过程。五类权威形式之中的强制性权威是建立在武力威胁之上的；诱导性权威是建立在物质奖励或服务之上的；个人权威是建立在爱情、尊敬、友谊或存在倾向于统治与屈从的心理素质等基础之上的。然而具有隐蔽性的算法权力与只能以显明方式存在的武力和说服截然不同；算法权力作为一种技术权力，也与武力威胁、物质诱导以及心理因素大相径庭。

（一）作为操纵的算法权力形式

如果A意图对B施加影响，但A未将该意图告诉B或者B不知道A将影响他的意图，一旦B在事实上做到了A的意愿或者说A的意图成功了，那么这就构成了操纵，人们所熟知的大多数商业广告都涉及这种操纵方式。从这个意义上来说，操纵似乎是一切算法权力形式中最常见且最令人生畏的形式，这是因为“算法黑箱”的存在为作为操纵的算法权力形式创造了产生的场域。“算法黑箱”的本质是技术黑箱，一种作为知识的人工制造品，结合“算法黑箱”的形成原因①“算法黑箱”的形成原因主要包括，算法技术的高度复杂性和专业性、要求算法公开的相关法律政策较为匮乏、公众算法素养的限制、技术公司公开算法动力不足，以及出于算法安全维护的需要五个方面。参见谭九生、范晓韵：《算法“黑箱”的成因、风险及其治理》，《湖南科技大学学报（社会科学版）》，2020年第6期。来看，知道的“部分人”实际上指的是极少数专业人士，而不一定知道的“另一部分人”具体包括由于受到算法素养限制而无法理解复杂算法结构及其运作逻辑的社会公众，也包括出于维护算法安全或保护商业机密等需要而尽可能被蒙在鼓里的使用者。算法的“黑箱”特征和操纵特性在算法权力的操纵形式上实现了紧密结合，同时由于“算法黑箱”涉及的技术不可解释的问题以及技术掌控者不愿解释的问题，导致了算法使用者不理解以及被隐瞒的现象，那么在这种情况下的算法设计者以及掌控者为了完成一项任务或达到一个具体目标而建立和维护的权力（例如算法的使用条件或协议），在形式上都等同于操纵。

接下来本文从权力对象不理解以及权力对象被隐瞒两个方面，来进一步说明算法权力主体是如何对权力对象行使操纵的。第一，权力对象不理解。算法本身作为一种具有高度复杂性和专业性的前沿技术，只有极少数专业人士能理解。从形式来说，算法是以计算机代码链而非能被常人理解的自然语言呈现的；从结构来说，算法包括技术基础层、技术程序层以及技术结果层三部分；从输入端来说，算法往往涉及数量庞大且杂乱无章的训练数据；从运行过程来说，算法模型的运行完全由算法独立完成，且算法具有的深度学习能力能够帮助其自动修改、扩展和完善程序模型，使其在相当短的时间内实现多次版本迭代，换言之，算法在独立于创建者工作的过程中被重写了；从实际应用来说，算法几乎总是以算法系统的形式存在的，也就是说任意软件通常都是由数十乃至上百种算法交织而成的算法系统所创建的，这些算法系统实际上由许多具有不同目标任务的人在不同的时间制作、维护和修改，特别是还有一些外包至世界各地的大型算法系统，其中嵌入了更为复杂的社会关系。由此可见，算法是一种存在技术门槛的知识，是大部分公众难以理解的对象。因此，在绝大部分算法使用者无法了解算法及其设计意图的情况下，算法设计者与掌控者能够非常轻易地实现他们的意图。

第二，权力对象被隐瞒。权力对象被隐瞒算法，原因有二：一是算法设计者不愿解释，二是算法设计者不能解释。受算法结果影响的使用者如政府部门，通常想要知道这一特定算法是否有效，那么他们就需要知道该算法的设计者与掌控者要实现什么目的。但从技术公司的角度而言，利润才是实效和真理的象征，他们投入大量的资本设计开发算法，吸收庞大的用户数据训练算法模型，微调算法运行结果等，其根本目的在于看到热钱的流入、获得投入的反馈，而不是通过揭示算法信息和设计意图来证明算法的有效性。在这个意义上，控制算法的技术公司缺乏公开披露算法信息以及解释算法设计意图的动力，他们担心一旦算法模型参数等信息因公开解释而被泄露，极有可能被同领域的竞争者恶意复制或修改，因此，出于防止核心技术泄露和维护公司利益的考虑，他们将算法视为需要严格保护的公司机密，有的公司甚至会因为这个问题与政府部门进行博弈。此外，算法设计者故意隐瞒设计意图还有另一个目的，算法模型实际上是将设计者的想法和拥有的信息转化为一个具象化的计算机操作程序，可见其实质就是将丰富的信息简化为代码，因而算法模型无可避免地会忽略某些复杂因素或是遗漏部分重要信息，导致的结果是，算法的“意外缺陷”①“意外缺陷”指的是在预期的正面结果之外产生的未预期到的负面结果。总会产生。因此，设计算法的技术员或技术公司可能会因为程序漏洞、方法不当、结果有误等问题而面临法律追责。但是如果人们无法了解算法的运行逻辑和具体运作方式，那么就意味着人们没有条件找到算法系统的漏洞，也就难以对算法运行结果质疑或抗议。以上是算法设计者不愿解释算法原理和设计意图的情形，除此之外，还存在法律、社会因素导致算法设计者不能解释的情形，主要涉及犯罪风险评估算法等警用系统采用的算法模型。以基于LSI-R量表②LSI-R量表（Level of Service Inventory-Revised），即分类监管量表（修订版），是一个在西方国家广泛应用的犯罪危险性评估工具。的再犯评估算法为例，LSI-R量表实际上是一份纳入了犯罪历史、就学/就业、经济状况、家庭/婚姻、居住环境、休闲/娱乐、同辈群体、酒精/毒品、情感/精神、态度/倾向共十个方面风险因素的调查问卷，算法设计者利用大量罪犯填写的问卷信息设计一种评估罪犯再犯率的算法模型。这里可以尝试着提一个问题，如果作为算法模型参与者的罪犯知道自己将要被该算法模型评估，或者说知道该算法模型的设计意图是什么，那么该算法模型仍将有效吗？填写这些调查问卷的罪犯如果知道目的是什么，他们多多少少会弄虚作假，将答案往模范市民方向靠近。因此，这些接受调查的罪犯需要被尽可能地隐瞒，算法设计者需要竭尽所能隐藏算法模型的存在以及运算结果。即使这些算法模型的设计初衷是良性的，但隐瞒还是会给人一种被操纵的感觉。

（二）作为权威的算法权力形式

作为权威的算法权力形式包括以下两类：

其一是作为合格权威的算法权力形式。合格权威是一种权威关系，其中对象服从权威的指令是出于信任权威有卓越的才能或专门知识去决定何种行动能最好地服务于对象的利益与目标[22]60。本文从两个方面对该概念进行分析，以进一步理解算法合格权威的内涵。第一，合格权威的生成基础。合格权威又可以被称为专家权威，合格权威拥有者发布命令依赖的是自身具备的专门知识或技能，这意味着权力对象遵从指令不是被迫的，也不是义务性质的，而是基于对权力拥有者卓越的才能或专门知识的信任。算法是一种专门的知识和技能。算法的核心是一套告诉计算机该执行什么的清晰指令，它用一系列计算机能理解的语言来表达人的思想、模仿人的决策方式，其背后隐含的是一定的数学知识和计算机基础知识。自17世纪后期德国学者莱布尼茨发现任何认知思维和逻辑都可以被简化为二进制表达式以来，后人逐渐可以将人类的逻辑思维分解为一长串无限延伸的二元判定，形成一种数学演算推论器以解决争议。基于此，现在的算法设计者可以将理论转化成算法，他们也可以将自己想象的东西通过编写计算机代码构建成型。因此，在数学意义上，也可以将算法看作是数学知识的应用，算法是由一长串连续的二元决策构成的决策树，在起点接收输入信息、输入值而后进入数学模型或函数中运行，所得到的输出值在下一个节点作为新的输入值参与运行，这样，最初的输入信息通过沿着决策树层层迭代运行的方式，最终在端点得出输出信息。正如《算法帝国》所述：“正是高斯函数、布尔逻辑等数学理论成就了今天的算法世界”[23]。第二，合格权威的目的。合格权威行使的目的是服务于权威对象的利益和目标，即合格权威拥有者能够用专门知识或技能为权威对象提供他们所需的服务，专家咨询便是一个常见的例子。从这个意义上来说，合格权威应该是一切算法权力形式中最基本的形式，这是因为算法实质上是某些特定知识的应用，是一种用来帮助解决问题的技术，算法的知识性质及其解决问题的能力在算法的合格权威形式上实现了紧密结合。实际上，我们今天已经生活在算法时代，算法无处不在，我们在使用计算机的很多时候都有可能涉及算法，例如使用搜索引擎时搜索结果的显示、邮箱里垃圾邮件的过滤、登录淘宝等网站时某些商品的推荐等。算法不仅存在于计算机承载的网络空间，还存在于我们每天的生活之中，例如我们一早开车去上班，车载导航将为我们选择规避拥堵的最佳路线；工作时，一些文字处理软件为我们提供查找语法和拼写错误的服务；在休息时间听到的是音乐软件根据我们喜好推荐的歌曲等。这里值得一提的是，算法并不是一项完美的技术，但智能算法的重要意义在于它极大地解放了人力，为人们减少了需要做的大部分选择。因此这里需要暂时忽略数据获取对于人们隐私的侵犯、设计者的主观性与偏见、算法运行的不透明性等问题，也暂时不关注由算法模型主导的现实层面在实践活动中产生的系列后果，重点关注的是算法的设计初衷及其预期效果。正如有学者所指出的，新技术的发明与使用本质上是要反映人的意志，要为人类的社会生活与政治理想服务[24]。

其二是作为合法权威的算法权力形式。有学者指出，权威在某个层面上可以分为事实权威和合法权威，其中事实权威是描述性概念，指的是权威拥有者能够实际有效地运用权力影响权力对象的命运及抉择；而合法权威是规范性概念，指的是建立在权力对象对权威尊重和认同基础上的正当性统治，而尊重和认同的产生又是基于掌权者为权力对象服务这一前提[25]。换言之，合法权威是一种建立在掌权者拥有命令控制权利，同时权力对象也负有遵从义务基础之上的权力关系，具有天然的强制性。从理论上而言，算法不满足合法权威形式的条件，因为算法本身不具备合法权威拥有的天然强制性，算法设计者对算法使用者并无约束控制的权力。然而在实际中，算法凭借其机器优势能够嵌入社会权力运行系统的各个环节，在公权力领域被高度依赖的算法甚至可以代替决策者做出具有法律效力的算法决策，可见算法是一种事实上的合法权威。简言之，算法权力是一种事实权威，但它在满足某些条件的前提下可以转变为合法权威。那么，作为一种事实权威的算法如何才能成为合法权威？第一，发挥“二阶理由的作用”[25]。技术体系所共同拥有的巨大自然力和社会力使其能够回应公权力发展的某种需求，公权力嵌入算法技术是一种必然结果，因此，算法技术实际上是有权力维度和意义的，并且是与公权力有关的。纵观历史发展，我们有理由认为公权力具有合法性，即公权力对其权力对象拥有合法权威，那么在这个意义上，我们也就有“二阶理由”认为被公权力内嵌的算法是一种合法的权威。换言之，算法技术之所以能成为合法意义上的权力工具，原因在于政治家和行政官员掌控了算法，他们可以凭借公权力控制和支配算法技术，将算法纳入公权力的体系之中，为维护和巩固公权力服务。第二，源于算法合格权威形式的转变。拉兹（Joseph Raz）的服务型权威观实质上设定了合法权威的标准，他指出在合法权威拥有者为权力对象提供“服务”的基础上，其向权力对象发布的命令必须符合“正确理由”这一要求，即相较于按照自己的方式行事，权力对象服从于该命令能够做得更好[26]。在这个意义上，来源于专门知识和技能且为对象利益计的合格权威能够更可靠、更成功地指向“正确理由”，换言之，知识的优越性有助于事实权威转变为合法权威，这也就意味着算法合格权威形式在某些情况下可以转变为算法合法权威形式。例如，在算法合格权威拥有者担任某种职业角色的情况下，他们拥有的算法知识和技能通过得到政府、社会或组织的承认，得以在实际上拥有较大的控制力和自主权，即他们能够凭借这种公认的合格权威来实现对组织内部对象合法的约束和控制。第三，算法建立的普适性准则。在某个意义上来说，算法能否成为一种合法权威形式依赖于它是否得到了普遍的遵从，因此，除了公权力的嵌入以及它本身具有的知识优越性以外，算法还可以因为有能力解决某些具体的社会公共问题而拥有合法权威。例如，新冠肺炎疫情的有效防控依赖于社会合作与全球合作，在信息数字化和经济全球化的当下，健康码等算法技术的普遍应用使全面落实疫情防控和全面复工复产成为可能。可见，当算法模型得到规模化应用时，不断发展的算法将在各行各业以及生活的方方面面快速建立起普适性准则，进而能够“产生一种非常类似于法律的权威性影响”[27]。

结语

罗伯特（Robert）和约瑟夫（Joseph）指出权力来源于非对称相互依赖[28]。公权力出于维护和巩固自身基础的天然需求而嵌入算法，私人资本为了获得更多的利润而投资、研发以掌控算法技术；反过来，算法技术在公权力和私人资本的支持下得到了飞速发展，不断提升自身回应公权力与私人资本需求的能力。因此，在某种意义上，算法技术实际与公权力掌控者、私人资本保持了一种“共赢”的关系，这也是产生算法权力的重要基础。既然算法是权力，那就有被滥用的可能性，也就有规制该权力的必要性。算法在不同的使用场景下会形成不同的算法权力形式，如算法操纵、算法合格权威、算法合法权威等。梳理算法权力的多种形式，厘清算法权力理解的异议与生成基础，有助于在认识上和在现实中更有针对性地规制算法权力、约束算法权力主体、维护权力对象的利益。