算法社会的技术内涵、演化过程与治理创新

贾 开

（电子科技大学 公共管理学院,四川 成都 611731）

1 问题提出与文献回顾

算法正在成为数字时代的“哲学王”。越来越多的人类事务被置于算法的影响与控制之下，个体层面的衣食住行、组织层面的管理调度、社会层面的生产分配，无一不在数字化转型的进程中被嵌入算法建构的技术环境。算法环境俨然成为与自然环境、社会环境具有同等意义的人类生产生活新空间，并可能推动人类社会进入算法社会的新阶段[1]。算法社会可以被视为法国社会学家雅克-埃吕尔(Jacques Ellul)笔下“技术化社会”(Technological Society)在当前的具体体现。“技术化社会”概念聚焦技术作为工具的影响范围不断扩大的进程和状态。从初始仅作为人类肢体的延伸，到进入组织而成为商业活动和政府行政的手段，再到进一步泛化以潜移默化地影响人类行为，“处处渗透着技术且以技术为工具”的技术化社会得以形成[1]。算法作为技术的一种类型，其初始概念是指在有限资源内完成既定目标的方法或步骤[2]73。但受益于计算机、互联网、人工智能、区块链等一系列数字技术的发展应用，算法的影响力日益增加，在成为人类生产生活活动基本规则的同时，也重新建构了人类社会的权力关系，并最终推动人类社会进入算法社会的新阶段。

沿袭技术化社会的理论建构，算法社会可被视为算法作为人类生产生活活动重要规则的社会形态。与数字化社会、智能化社会等概念强调数字技术提升社会运行效率的工具主义取向不同，算法社会更强调数字技术嵌入人类社会并与之相互影响而形成的新体系。与其他技术化社会不同，算法的独特属性使得算法社会的内在运行逻辑更为复杂、影响也更为深远。一方面，技术乐观主义者往往赞颂算法在提升社会治理能力和效率方面的作用，认为算法能够将人类从机械化工作中解放出来，并围绕“数据主义”[3]368、“算法规制”[4]289-300的相关论述勾勒出算法社会的“乌托邦”场景；另一方面，算法的大规模应用同样引发了诸多质疑和警惕，“答案主义”[5]、“监控资本主义”[6]8从不同视角批判了算法应用的潜藏风险，算法歧视、算法“黑箱”、算法“回音壁”则更为具体地揭示了其风险内涵。

埃吕尔在论述技术化社会时曾指出，技术将逐渐摆脱依附于人和组织的影响而成为独立领域，并认为技术化社会终将“排挤人类创造力并控制人类社会”[7]7。算法社会是否同样遵循这一趋势，如果是，我们该如何解释算法推动社会进步的技术乐观主义态度；如果不是，我们又该如何面对新的治理风险的不断涌现，进而通过治理体系改革以引导技术发展应用的未来方向。上述实践问题最终又可归结为算法社会背景下如何描述与解释算法影响人类社会内在机制的理论问题。具体而言，算法的发展演化规律是什么，其将如何影响人类生产生活活动，这种影响与历史上的其他技术是否存在差别，其影响效力又是否存在边界。对于此类问题，已有研究更多体现了局部领域的探索，而非整体性理论框架的建构。

一方面，部分研究更多关注算法应用结果之于人类生产生活的影响，将算法视为外生技术力量而考虑其改变人类社会权力结构的作用，前述围绕算法歧视、算法“回音壁”等应用风险的研究便是代表。即使是聚焦算法“黑箱”“看不见的手”[8]等算法形成及应用过程研究，也仍然停留于技术外生性这一视角，强调算法影响的独特性或对其监管的复杂性。导致上述局限的原因可归结于传统技术哲学研究纲领的缺失，其过多关注技术应用结果(技术价值论)，却忽视技术内在属性(技术本体论)及其演化过程(技术认识论)的分析[9]。在数字技术加速创新应用的背景下，算法的普及应用已不能简单理解为技术产品的结果正义问题，而应被视为内生于人类社会数字化转型进程的重要组成部分，并在与环境相互嵌入、相互影响的过程中不断发展、演化。另一方面，即使部分研究同样认识到了技术内生性的复杂现实，但往往将算法视为嵌入社会经济系统之中并受后者约束的技术形态，进而认为算法本身的发展及其影响都只不过是不同社会经济力量的博弈结果。劳伦斯-莱辛格(Lawrence Lessig)提出的“代码即法律”[10]1论断，便是此类思路的代表性观点。其承认算法作为规则的约束力作用，进而强调平台作为规则制定者的重要角色，并因此要求政府约束乃至限制平台制定、应用算法的权力。这一研究思路虽然看到了算法嵌入社会经济系统的复杂性，但认为算法的发展与影响完全决定于不同社会经济力量的博弈结果而不具有特殊性，忽略了数字时代由于算法的出现和普及而不同于历史上任何其他时代的新规律与新特征[11]。

已有研究的上述两方面思路事实上都未将算法本身作为研究对象，因而难以深入算法形成、演化过程的内部以揭示算法概念及其影响的丰富内涵。一方面，它将算法视为理性客观的技术模型，并因此忽略算法本身仍然可能具有的多样性，以及这种多样性受到环境因素影响而发展演化的复杂性；另一方面，它将算法视为社会经济因素的博弈产物，并因此忽略算法在开放性、迭代性、规范性等方面的主体属性，以及这种主体性影响人类生产生活机制的特殊性。正是基于已有研究的不足，本文试图以解构算法的概念内涵为起点，既承认算法的独特性和主体性，又承认算法与人类社会相互影响的多重性与复杂性，并在此基础上揭示算法社会的基本特征与运行规律。首先，回到算法的技术本源，从公理化数学思想和计算化数学思想对比分析的基础上，界定算法的概念内涵，以廓清围绕算法的不实“想象”，并打开理解算法社会运行规律的理论空间。其次，聚焦算法技术路径选择的多样性和算法的内生社会效应，以体现人类社会对于算法形成、发展、演化过程的影响。再次，讨论算法影响人类社会的机制与限度，具体体现为生命政治、代码治理术、可计算社会三个方面。最后，基于技术政治、影响机制两方面的理论建构，进一步探讨推进算法治理创新的价值和意义。不同于聚焦具体算法风险的应对性措施，算法社会的理论建构有助于我们从整体上理解并推动算法治理创新的顶层框架建设。

2 算法概念的技术内涵

算法的普及性及其难以捉摸的“黑箱”性使得所有针对算法的讨论最终都可能滑向其他对象，从而模糊算法作为技术政治学分析对象的边界与内涵[8]。已有研究分析视角的局限性，事实上也反映了对于算法概念理解的不全面与不完整。不过作为一种技术现象，自然科学视角的总结仍然有可能概括算法的一般性特征，并以此为基础延伸至相关社会科学议题的考察。本部分将基于算法研究历史的回顾，从“公理化”与“计算化”两种数学思想的对话争论中对算法概念的技术内涵作出界定。

2.1 公理化与计算化数学思想分野下的算法界定

唐纳德-克努特(Donald E.Knuth)曾指出，“计算机科学就是算法的科学”[2]73。作为现代计算机理论基础的图灵机模型因此也被视为算法的代名词。不过值得注意的是，“图灵机”的最初设计目的并非为了制造计算机，而是为了解决数学领域的“可计算性”判定问题，这也正是阿兰-图灵(Alan M.Turing)提出“可计算问题等同于图灵可计算”命题的原因所在[12]37。随后，哥德尔(Kurt F.G觟del)、波斯特(Emil L.Post)、邱奇(Alonzo Church)等人提出的用于解决可计算问题的数学模型被证明与“图灵机”在计算能力上是等效的，从而进一步强化了数学领域的可计算判定问题与计算机领域的算法问题的等效性[13]267。正因为此，作为技术的“算法”与作为科学的数学思想便紧密联系在一起。

从数学发展史来看，公理化思想和计算化思想构成了数学发展的两大传统，而这也成为影响算法演化的两条路径。公理化思想体现了继承于古希腊欧几里得流派的西方现代数学传统，其旨在围绕推理论证建立形式化的完备数学体系；计算化思想则体现了以中国传统数学为代表的东方数学传统，其往往从具体问题入手，并将数学论证转换成计算形式，重点在于找到合适的计算方法以求解问题。吴文俊就指出，“从问题出发、面向应用的中国传统数学注重求解的计算方法，而西方数学沿袭公理化的思想更注重建立在因果演绎基础上的定理证明”[2]73。

不同的数学思想影响了算法理念的演化进程。在数学公理化视角下，算法被认为是抽象的状态机器，其核心任务是对不同计算状态进行控制、转换并最终基于输入形成满足特定要求的输出。在此种界定下，“算法”是不考虑执行过程的独立存在，“图灵机”以及“图灵测试”正是此思想的典型代表。在不考虑具体计算方式(也即忽略“人是如何计算”)的情况下，阿兰-图灵仅聚焦机器可以实现并可被观察到的行为结果来作为判定“可计算性”(也即“算法”)的基础[13]265。只要确定初始状态，算法就会按照既定规则开始计算并向其他状态转换，直至遇到例外情况而中断或者达到既定条件而终止，在此过程中不受其他因素(包括人)的干扰和影响。

算法的公理化定义虽然有助于在形式上建构并论证计算机科学(也即算法科学)理论，但仍然忽视了数学思想本身的多样性并低估了现实生活的复杂性；相比之下，计算化思想则为理解算法的多样性和动态性提供了更丰富的支持。从观点主张来看，计算化思想往往强调“计算方法”与“问题”的相互影响关系[14]。一方面，“计算方法”是在不断解决“问题”过程中逐渐总结出的一般规律或流程，构成了解决“问题”的基本单元；另一方面，不断涌现的“问题”的解决依赖于对于已知的不同“计算方法”的组合。

2.2 计算化数学思想定义下的算法特征及其影响

基于计算化数学思想的思路，我们可将“算法”的特征概括为以下三个方面。首先，“算法”不再是公理论证过程中的唯一解或最优解，针对特定问题往往存在不同的计算方法及其组合。虽然公理化视角并没有明确排除算法的多样性，但其将算法视为状态机器的观点仍然限定了这种可能性，因为初始状态和输入将决定后续状态的变化及最终的输出结果。相比之下，计算化思想则对算法设计持有更大的开放性，其并不先验地将算法抽离于实际问题，而是基于具体问题及其解决方案总结出不同的计算过程，更加强调在输入与输出之间存在着较为丰富的解决方案组合。其次，“算法”不再是一个绝对抽象的数学概念，而是根植于问题环境并强调与环境的动态适应性。类似于公理化思想的一般性概括，虽然计算化思想也要求针对不同解决方案进行共性总结，但其更加强调结合特定问题环境而对已知方案的重新组合，以体现出对于环境的适应性和权变性。同时，不同环境的复杂性也是丰富计算方法组合的源泉和基础，而公理化思想下的抽象概念则难以发现算法演化的原因和动力。再次，“算法”不再是相对于执行过程中其他因素的独立存在，而是需要考虑包括硬件、软件在内的系统概念。相比于公理化思想对于算法执行过程的忽略[2]68，计算化思想注意到了算法作为系统概念的层次性和复杂性。事实上，计算机体系是由计算机硬件(例如处理器和存储设备)、软件平台(例如编程语言和操作系统)、数据交互接口(例如输入输出界面)组成的多层次复杂结构，算法仅仅作为其中一个环节而与其他因素共同作用才能产生结果[15]。正因为此，其他因素的发展变化同样影响算法的动态演化，而执行过程的资源约束也将影响算法性能的体现及其创新步伐。

公理化思想和计算化思想构成了从技术层面理解算法的两条路径，其影响延伸至社会科学领域并成为不同理论的思想基础。公理化视角直接影响了“技术决定论”的判断：乐观主义者对于算法效率、客观、中立价值的追捧，悲观主义者对于算法“无所不能”的假设，都可追溯至公理化思想将算法抽离于现实环境而作为独立理性存在的界定。但不足之处在于，对于算法的孤立认识忽略了其背后所隐藏的丰富内涵，而计算化思想还原了算法的完整概念，在认识到算法具有多样性的基础上将环境、系统因素纳入分析框架，从而能够以辩证视角全面理解算法的演化过程及其影响结果。对此，吴文俊曾指出，“中国的传统数学就是算法型的数学，是适应信息时代的计算机数学”[2]74。

基于上述回顾与分析，本文从计算化思想出发，将算法定义为“针对特定问题而形成的数字化解决方案的集合，其在与环境、系统的交互过程中实现既定目标并不断演化，从而维持与相关因素的动态平衡”。基于此定义，算法的三方面重要属性得以显现，即多样性、动态性和系统性，但我们对于算法的理解还不能停留于此，概念层面的界定虽有助于明确所讨论对象的范畴，但不能把握其演化的规律。只有将静态层面的概念界定与动态层面的演化分析结合起来，才能最终勾勒出“算法”作为被研究对象的完整内涵。

3 算法演化的社会过程

算法演化的社会过程研究聚焦人类社会对于算法形成、发展、演化过程的影响分析，以解释算法内嵌于人类社会环境的关联性。需要指出的是，这一问题并非人类社会发展到数字时代之后才引发的新问题，20世纪初学者们围绕不同技术类型的讨论便集中体现了对此的思考。刘易斯-芒福德(Lewis Mumford)曾指出，“人类史上存在两种技术，一种是威权型的，另一种是民主型的。前者以系统为中心，功能强大但却不稳定；后者以人为中心，灵活持久但功能相对弱小”[16]。与此类似，丹尼士-海耶斯(Denis Hayes)更具体地区分了核技术和太阳能技术的社会属性差异，认为核技术的使用和普及必然会导致威权社会的形成，而分布式太阳能技术则与更加平等、自由的包容型社会相契合[17]159。芒福德和海耶斯的观点都不能简单视为对于技术应用结果的差异化总结，而是观察到了技术作为主体的不同政治属性。相比之下，技术哲学家兰登-维纳(Langdon Winner)更为系统地构建了理论框架，指出了技术作为主体与其他政治进程发生关联的两个维度。

在维纳看来，技术的政治性体现在两个方面：技术路线多样性的选择与技术的内生社会效应[18]。一方面，维纳强调技术具有多条演化路径，而具体技术路径的选择则体现了不同社会因素的博弈和妥协。需要指出的是，与强调技术演化完全决定于社会因素的研究视角不同，技术多样性的选择更加强调技术本身属性作为特定因素参与选择过程的主体性。另一方面，维纳指出每一种技术内在地要求与特定社会系统相匹配，其更适应特定环境而不适应其他环境，并因此体现出与特定社会因素相结合的倾向性。维纳提出的分析框架更多针对具有实体呈现且较为稳定的硬件技术，建筑、道路以及计算机都属此类。但对于往往没有实体呈现且多变的“算法”而言，其是否同样适用于维纳的分析框架仍然值得进一步分析。

3.1 算法多样性选择

算法多样性选择的内涵是指针对特定问题的算法往往具有多样性，最终“胜出”(占主流)的算法模型是技术因素与非技术因素(社会因素)互动演化的结果。国际象棋算法的发展历史便是典型例证[19]。国际象棋算法在相当长时间内都是人工智能领域研究的核心和焦点议题，研究者往往认为象棋算法的突破即象征着通过计算机模拟实现了人类智能。亚历山大-科诺罗德(Alexander Kronrod)曾将国际象棋比作人工智能研究的“果蝇”，赫伯特-西蒙(Herbert A.Simon)又进一步将此比喻延伸至认知科学领域，由此可见国际象棋算法的重要性。就具体实现而言，克劳德-香农(Claude E.Shannon)提出了两条路径：A路径通过“蛮力”计算方式穷尽所有策略以寻找最优解，而B路径则强调以启发式逻辑识别对弈局势以聚焦最有可能获胜的特定策略展开分析。两条路径的差异反映了人工智能研究历史上的核心争论：人工智能研究的目的究竟是在结果层面重复人类行为，还是在过程中也模仿人类的思维模式?A路径无疑是前者的体现，而B路径则遵循了后者的精神。从随后的发展历程来看，A路径取得了成功而B路径却逐渐淡出人们视野，导致这一结果的原因并不能简单归结为算法效率的高低，而是包括算法在内的多重因素共同作用的结果。技术发展史的研究指出，美国和苏联的“冷战”竞争[20]XXVIII以及20世纪70年代各研究组为争取日益减少的人工智能研究资助的竞争[21]108，都直接导致了国际象棋算法研究过程中“比赛”文化的盛行。而A路径能够充分利用计算机硬件性能提升的发展红利及其模块化结构易于调试组合的技术特征，更加适应“比赛”压力下的成果突破与展示。换言之，A路径在技术层面的功能特性与当时的社会需求共同决定了国际象棋算法的演化结果，但这一结果不一定是“最优选择”。虽然A路径能够有效吸引公众对于人工智能研究的关注，但过于迎合比赛规则反而影响了人工智能基础研究的进展，聚焦于特定比赛目标的研究导向使得A路径算法很难被应用于其他领域[22]。正因为此，当1997年IBM“深蓝”战胜卡斯帕罗夫之后，国际象棋便逐渐失去了其在人工智能领域的光环并逐渐为人所淡忘。国际象棋算法的演化过程并非特例，其清楚揭示了算法多样性选择过程的社会性，算法技术属性与社会因素的相互影响共同决定了不同算法模型的竞争结果。

3.2 算法的内生社会效应

相比于算法多样性的选择，算法的内生社会效应更为隐蔽并富有争议。在将技术视为中立、客观的习惯性思维下，芒福德和海耶斯的论断都显得极为反常与特别。维纳进一步将这种内生社会效应总结为两个方面：技术运行要求特定社会系统的建立以作为前提条件，以及技术虽不能作为前提条件但更适合在特定社会系统下运行。换言之，技术作为主体具有“内生性”。虽然相比于建筑、核能源、工业机械等技术而言，算法的易变性可能使人认为其“内生性”并不明显，但互联网的发展史证明并非如此。从技术构成来看，互联网实质上是一个多层次的算法协议以形成互联互通的网络结构，其特点在于扁平化和开放性。具体而言，互联网允许任意两个节点的直接通信，绕开了必须通过第三方转接的集中式结构，而毫无门槛的开放性决定了终端创新成为互联网生命力的不竭源泉。基于这两方面技术属性，自20世纪末开始，研究者们纷纷强调互联网独立于国家的自主性，并试图通过维护互联网的扁平化和开放性以促成人类社会公共空间的繁荣发展，以维基百科、开源软件等为代表的案例也的确证明了互联网具有这样的潜力。但经过20余年的发展，我们最终发现作为人类社会公共财富的互联网被以平台公司形式存在的商业巨头所垄断，在充分利用互联网底层算法协议开放性的基础上，平台公司在上层应用建立了新的“集权点”，并通过更好地协调人类活动攫取了大量商业利益[23]。尽管已有研究从技术创新、法律制度等方面对平台崛起的原因作出了一定解释，但朱莉-科昂(Julie Cohen)更为直接地指出，与开放互联网相伴随的误用、滥用问题需要第三方参与治理以形成规范秩序，而不同个体的终端创新也需要第三方协调以形成集体效应，它们都使得平台的崛起与普及成为必然[24]。换言之，扁平化、开放式的互联网多层次算法设计并非如早期研究者们认为的那样，必将带来人类社会公共空间的繁荣——虽然其具备这样的潜力[25]——而是“内生”地更适应平台公司作为主要组织模式的“信息资本主义”体制[26]。由此，我们便再次回到了维纳关于技术内生效应的分析思路。在维纳看来，核技术因其潜在安全风险极为巨大，因而要求由严格的威权控制体系而非协商式的民主议事模式来约束，由此体现了核技术的内生性。虽然迥异于核技术，但互联网的发展历程仍然表明，扁平化、开放式的互联网协议算法同样更有利于平台组织形式的发展，而非自组织、分散式的“无政府”模式。

算法多样性的选择及其内生社会效应共同揭示了算法发展演化过程的政治性。同时，其也与算法的“计算化”定义一起构成了理解算法政治的两个维度。在此基础上，接下来的问题便是跳出对于算法本身的内部分析，解释其影响人类社会的具体机制，而这又可细分出为何产生影响、如何产生影响、影响有多大等三个问题。

4 算法影响社会的主要机制

算法影响社会的机制聚焦算法应用结果影响人类生产生活的方式、途径与过程。当前，算法应用结果的社会影响已经受到了普遍关注，围绕算法歧视、算法操纵、算法霸权、算法“回音壁”效应等现象的讨论都是其中的典型案例，它们在从不同视角呈现人们对算法应用反思的同时，也暗含着人类对正在进入的“算法社会”的警惕与不安。然而，针对具体问题的分析虽然有助于应对具体风险，但不能对“算法社会”的整体现象作出一般性的总结与判断，也难以将“算法”与其他社会机制联系起来，并在宏观层面体现其产生影响的复杂过程。鉴于此，本部分将跳出具体议题领域的分析，从算法“进入”并影响人类社会的三个连续性问题入手解释其社会机制，即算法为什么能产生影响、算法如何产生影响、算法的影响程度有多大。笔者认为，这三个问题又分别与生命政治、代码治理术、可计算社会三方面研究紧密相关。

4.1 生命政治与算法规范性力量的源泉

算法社会的时代意义在于算法成为影响人类生产生活的基本规则，也即具有了规范性力量。但这种规范性力量源自何处、具备何种特点、与其他规范性力量有何联系与差别，便成为亟待解释的理论问题。在米歇尔-福柯(Michel Foucault)的理论框架下，规范性力量可被划分为两种类型，即主权权力与生命权力。前者来源于君主，其通过“使人死、让人活”的消极性方式体现权力关系；后者则源自现代民族国家，其通过“使人活、让人死”的建构性方式从总体上调节人口生命活动[27]35-36。算法对于人类社会的影响，无疑更接近生命权力的范畴，并因而体现出生命政治的特征。

自1976年确立“生命政治”概念的基本内涵之后，福柯对此概念的分析被认为包含了三方面内容[28]。首先，在圣保罗讲座以及《必须保卫社会》中，福柯勾勒出了“政治权力管理人口”的二元结构。不同于主权权力下的惩罚机制，生命政治此时体现为国家为了特定目的而促进个体生命活动的良好运转并将其“规训”为集体性力量的过程。其次，福柯在1977—1978年以《安全、领土与人口》为主题的法兰西学院讲座中，进一步引入“治理术”和“安全机制”两个概念。不同于规训机制下国家积极地干涉和调控个体行为，“安全机制”的逻辑转而将个体自由视为前提，并通过着眼于整体人口的“治理术”以渗透或维系权力关系[29]7-11。规训机制和安全机制由此共同构成了生命政治体现规范性力量的两种方式。但福柯的分析并未止步于此，而是进一步将生命政治与自由主义的思想发展脉络联系在一起，解释了生命政治的规范性力量实现自我生产的过程与原理。福柯指出，在自由主义思想下，市场原则被移植至生命领域，人类一切生命活动都被视为自我投资、生产、竞争的“企业家”行为而自动运行，政治活动的作用则在于引导、干预这一自发行为；在不同自由主义思想下，这种引导、干预作用也有所不同，其既可以体现为“守夜人”，也可能成为“炉边政治”，二者将最终导致人类生命活动行为的不同结果[30]425-427。由此，福柯完成了生命政治理论框架的建构，并为其在不同领域的应用留下了开放空间。算法作为规范性力量的原因与特点，也因此可以从算法作为规训工具、安全机制以及规范性力量的自我生产过程等三个层面得到解释。

第一，算法可以作为规训工具提升国家直接干涉和调控个体行为的能力。以生物识别算法为例，其不仅大幅扩展了国家监控个体的范围，同时也深化了个体可被监控的维度与细节，二者共同催生了“监控资本主义”的形成。第二，算法的隐蔽性和无处不在同样使其可以作为安全机制的重要载体，在并不直接干涉个人行为自由的同时仍然能够施加影响。以智能推送算法为例，无论是广告推送还是内容资讯推送，用户都在自主选择的“外衣”下事实上接受着其他权力的影响。第三，算法作为规范性力量的自我生产过程将因其所处环境的不同而呈现出差异化特点。如果沿袭自由主义的理念，算法应用将追求对于人类活动乃至人类本身的数字化替代，并在此基础上实现商品化转换，任何生命活动都可在算法作用下转化为可被交易、增值的数字资本并循环使用。但秩序自由主义对于市场脆弱性的强调以及要求国家适度干涉的理念，将会把算法定位为人类活动的辅助而赋能于人，并通过脑力劳动的机械化将人类解放出来以从事更有意义的生命活动，而在人类不断开拓未知领域的过程中算法也不断演化发展[2]66。未来究竟朝向何种方向发展仍然取决于社会制度的选择，而这也正是阿西莫格鲁(Daron Acemoglu)提出“我们需要何种人工智能”问题的真实含义[31]。

上述三个层面的解释回答了算法作为规范性力量的原因，以及这种规范性力量自我生产的动力源泉。但正如福柯笔下的生命权力需要通过社会医疗系统等“治理术”才能发挥其影响类似，算法同样需要找到其作为规范性力量对其他主体产生影响的载体，而在数字时代这便集中体现为“代码”。

4.2 代码治理术与算法规范性影响的载体

算法将如何产生规范性影响?沿袭生命政治视角的理论分析，对此问题的回答将聚焦在“治理术”的相关研究方面。就概念内涵而言，“治理术”可以被宽泛理解为影响人类行为的技术或流程，围绕其不同类别、产生来源、实践差异、执行过程以及在不同领域的具体体现构成了“治理术”研究的主要内容[32]82。根据治理目的的不同，“治理术”大致可划分为两个类别：第一，在国家理性的思想影响下，“治理术”的设计与应用都指向提升国家权力的单一目标，无论是“惩罚”还是“规训”，都将个体行为视为可被控制或影响的对象而加以约束，进而服务于国家权力；第二，在自由主义的思想启发下，“治理术”的影响对象从生命个体转变为“人口”集体，在认识到人口的发展、变迁、演化具有其自发规律的前提下，“治理术”旨在发现这一规律并维系其治理目标[33]。就前者而言，“治理术”强调人们“做什么”与“不做什么”，在此基础上对个体行为作出“符合规范”与“不符合规范”的两种分类，并分别施以不同权力影响；就后者而言，“治理术”更多将个体视为自我负责的“企业家”，每个人的生活历程就像企业发展一样需要自我投资与管理，而“治理术”的作用既体现为探索整体性的“人口”行为规律以施加影响，又体现为调节国家行为以在不同程度上维系这一行为规律的“自发性”[34]116。

“治理术”的理论探讨同样有助于理解算法作为规范性力量影响他者的机制与过程。算法的实现具有多种形式，中国算盘、古巴比伦代数表都是历史上的典型代表。相较之下，直到计算机、互联网的发明与应用之后，算法作为规范性力量的影响才得以完全显现，而此时的实现形式则是可被计算机处理的数字符号——代码。算法从数学概念到计算机可执行代码的转化，带来了三点重要变革。其一，代码的开源生产范式为算法实现提供了取之不竭的知识来源，奠定了算法在人类社会中普及应用的基础[35]321-330；其二，代码的模块化属性使得算法设计、应用过程的组合创新成为常态，其在降低创新成本的同时也带来了累进式创新的指数级增长[36]5；其三，大数据时代的到来以及机器学习技术的成熟使得代码实现了不依赖于人类知识的自动化生产过程，进一步提升了算法理解人类社会并做出智慧决策的能力[37]。正是基于这三点变革，代码才具备了扮演算法“治理术”的功能。

一方面，惩罚和规训机制下的“治理术”在功能上主要体现为针对不同个体作出“区分”并相应“匹配”允许或不允许该个体特定行为的不同要求。环境的异质性决定了人类社会往往需要设计不同的“治理术”以满足不同治理需求，医院、学校、监狱都是性质迥异的技术系统。但作为算法在数字环境下的具体实现方式，代码将异质性的治理需求转换为同质化的数字符号加以处理，此时的治理差异主要体现为代码模块的不同组合，由此不仅使得代码能够更加容易通过数字符号的分析实现“区分”与“匹配”，同时也有利于在更大范围、更多场景发挥代码作为惩罚或规训机制的功能。另一方面，安全机制下的“治理术”事实上要求治理者能够“发现”人口的自发规律(也即“知识发现”)并加以“引导”。一直以来，知识发现都属于人类智慧的专利，但建立在大数据与机器学习基础上的人工智能算法代码，同样可以实现对于人类行为自发规律的总结和提炼，并能够将所总结出来的规律反过来应用于对于个体行为的引导。更为重要的是，代码治理术的这种“发现”与“引导”功能，比传统治理术的效率更高、速度更快、匹配更精准，并因而产生更为广泛和深远的影响。

需要指出的是，将代码作为“治理术”的功能划分为惩罚、规训、安全等不同类别，并不意味着不同功能独立运作，在现实治理中往往体现了不同功能的混合，并在动态演化中体现出以某种功能为主的基本特征。以外卖调度算法为例，基于大量外卖员送货时间和路线的分析，算法可以总结出最佳路线和预估时间，这一过程体现了代码作为安全机制的“治理术”对于外卖员群体行动规律的发现。但要求外卖员个体按照算法推荐的路线和时间完成送货任务则体现了惩罚和规训机制的强制性约束。伴随着越来越多的外卖员按照算法要求送货，代码将随之动态调整并越来越精确地掌握外卖员群体的行为规律，从而更严格、全面地控制外卖员行为。在此案例中，代码最终演化为以惩罚和规训机制为主的“治理术”特征。但不同场景下的算法影响并不必然走向惩罚或规训。在内容资讯推荐算法案例下，尽管同样存在着对于用户观看偏好的一般规律总结，以及基于精准推送而试图影响用户的约束过程，但用户偏好本身的不确定性和动态性决定了代码不可能像控制外卖员行为那样控制用户的阅读行为。在此案例下，安全机制仍然是代码作为“治理术”的主要特征。

4.3 可计算社会与算法规范性力量的限度

生命政治对于算法作为规范性力量来源的解释，以及代码治理术作为算法规范性力量实施载体的说明，都有助于理解算法影响人类社会的具体机制。但第三个问题还在于，这种影响的范围有多大、程度有多深。换言之，算法作为规范性力量的影响究竟是颠覆式的还是适度的，围绕这一问题的分析与可计算社会的争论紧密相关。

可计算社会争论的核心议题在于，人类社会是否可以化约为可计算的要素与结构，进而按照理性原则实现资源配置的最优化。这一“乌托邦”式的畅想曾经被认为受限于技术发展水平难以实现，但伴随着信息技术的快速发展，计算性能的指数级增长又重新将该问题拉回到了争论的中心。根据讨论对象和层次的不同，可计算社会的争论可概括为针对人类个体和人类社会集体两个层面。

一方面，“人”是否可被计算化。赫伯特-西蒙在其1996年出版的《人工科学》一书中指出，“尽管不同于自然现象服从于自然法则而具有一种‘必然性’，人工现象由于易被环境改变而具有‘权变性’，但人工现象不会完全适应环境仍然反映了其同样具有凌驾权变性之上的必然性”[38]XV-XVI。人工现象的这种必然性(或者说相对于外部环境的独立性)可以通过“消极的隔离、反应性的负反馈、预测性的适应”等多种方式得以实现[37]8，而这也证明了“人工科学”是可能的。与之争锋相对，反对者则对此持强烈怀疑态度，不仅强调感情、意识乃至精神作为人类独有而机器不能拥有的特殊品质，同时更以自然科学本身仍然存在不可计算的局限性否定了其试图计算更为复杂的人类行为的可能性。罗杰-彭罗斯(Roger Penrose)早在1989年出版的《皇帝新脑》一书中就指出，哥德尔不可能定理证明了数学意义上的不可计算性，物理学领域量子世界的不可测量性同样影响了对其客观存在性的质疑，而生物学上人脑神经元活动的不确定性和整体性(非局域性)则决定了通过数字信号的开关模拟人脑信号传递方式的不准确性。上述领域围绕不可计算性的讨论最终都与人类本身的意识(或精神)是否可以通过人工智能的方式得以实现紧密相连，而数学、物理学、生物学领域的否定回答最终也使得彭罗斯得出了“人类意识(或精神)不可被计算”的结论[39]467-494。围绕“人”的可计算性争论虽然看似聚焦于人工智能能否实现的技术问题，但其实质上反映的是如何理解和分析影响人类行为的方法论问题。西蒙对于“人工科学”的追求体现了试图以“科学”的经验研究探索人类行为规律的努力；而彭罗斯对此的反驳则体现了对于“意识(精神)”的不同认识，进而要求承认不可计算性、不确定性的必然存在。在西蒙的理论视阈下，算法对于人类社会的影响是颠覆式的，受益于不断突破的技术极限，我们最终能以算法实现对于人类行为的全面认识、测量与影响；但在彭罗斯的分析框架中，算法的影响是有限的，人类意识(或精神)的不可计算性决定了算法不可能将人类置于全面“驯化”的境地。需要指出的是，尽管近年来人工智能技术快速发展，但围绕“人”的可计算性争论仍然未取得明显进展，这也凸显了该问题的挑战性[40]。

另一方面，人类社会集体层面的可计算性讨论主要聚焦人类创造的诸多社会机制能否被算法替代的问题，其中价格机制的可替代性问题便是典型代表。杰拉德-柯亨(Gerald A.Cohen)曾指出，“阻碍社会主义美好理念成为现实的关键问题在于我们并不知道如何设计一套机制以使之运行”[41]57，但信息技术的发展似乎提供了可能。维克托-舍恩伯格(Viktor M.Sch觟nberger)在《大数据时代》与《重塑资本主义》两本书中，热情洋溢地推崇了大数据与智能算法的结合所带来的颠覆式变革。在舍恩伯格看来，传统经济形态下，交易双方会考虑所有交易信息并最终作出以“价格”形式体现出来的理性决策，但由于人类处理信息能力的不足以及可获得交易信息量的限制，“价格”仅仅反映了被极度压缩和简化后的交易信息，因此传统经济只能实现次优结果。相比之下，大数据对于交易背景、细节等诸多信息的还原以及智能算法处理海量信息的能力都使得借助信息技术可以实现更为全面、理性的交易决策，进而取代价格机制成为新时代的象征[42]10-24。但诸多学者围绕信息经济学的丰富研究证明，“价格”只体现了交易过程的截面信息而不是所有交易信息的汇总和简化，价格机制得以正常运行的背后是缘于制度因素的共识(例如交易双方都是追求利益最大化的理性经济人理念共识)，以及交易发生前基于其他机制(例如通过广告)的信息交换过程[43]117-119。从这一视角来看，大数据与智能算法至多只能影响交易信息的交换过程，从而提升价格机制的运行效率，难以涵盖制度背景等其他因素，因此不能成为价格机制的代替者。

基于个体和集体两个层面围绕可计算社会的争论可知，算法将在多大程度上影响人类社会仍然是个未解之题。算法既可能代替现有机制并因而带来颠覆式影响，也可能作为现有机制的补充而产生渐进式影响。对此问题的开放性探索虽然还没有定论，但至少就当前的技术发展水平和阶段而言，其仍然提醒我们需要注意算法社会的变革限度与边界。事实上也正因为此，我们才会在算法普及应用的同时不得不面对多类型的治理风险，而如何应对治理挑战以引导数字社会转型朝着有利于维系社会公共价值的方向发展，则是算法社会研究的最终指向。

5 算法社会的治理创新

算法作为一种技术现象正在伴随其应用的普及而逐渐引发人们对其治理意涵的关注，围绕算法歧视[44]、算法操纵[45]、“算法黑箱”[46]、算法“回音壁”[47]等议题的讨论日益成为焦点，但针对具体议题的分析只能勾勒出局部画面，相应提出的政策建议可能陷入“头痛医头、脚痛医脚”的局限，进而忽略了算法治理的整体性与关联性，这也反过来彰显了理解“算法社会”转型并形成系统性治理应对方案的重要性和迫切性。

就理论价值而言，算法社会概念的提出与分析将激励更多研究从算法生命周期的视角来探讨算法的社会影响及治理应对。算法生命周期可被理解为包含算法的形成、发展、应用、演变、衰退在内的全过程视角，每一个阶段都可能涉及权力关系的调整及利益相关者的行为变迁，且每一个阶段都将同时体现为技术与非技术因素的相互影响，它们共同构成了算法社会的内涵与特征。由此，算法社会分析将不再局限于围绕算法应用具体问题或影响的讨论，而是延展为体现算法自身独立性和主体性并与其他因素相互影响以演化发展的社会变革进程。这一视角的转化将直接有益于算法治理实践的创新探索。结合本文论述逻辑，整体性治理实践改革方案应重视以下三个方面。

5.1 以系统环境联动推进算法治理

计算化思想启发下对于算法概念的重新定义，为算法社会的分析打开了理论空间，进而启示算法治理创新要具备开放性、系统性思维。仅仅认识到算法技术的复杂性(例如“算法黑箱”)并限制其应用范围(例如限制人工智能算法在公共决策领域的应用)，或者试图深入技术研发细节而提出微观治理要求(例如透明性和可解释性要求)，既可能束缚技术创新，也可能达不到安全治理目标。计算化思想则有助于突破算法监管的此种困境。一方面，计算化定义打破了算法绝对理性的迷雾，认识到算法并非针对特定问题的唯一解或最优解，其本身的多样性以及伴随环境变化的动态性为算法监管提供了多元化工具与路径，鼓励监管者以更加开放的视野发现不同场景下算法治理问题的多元解；另一方面，将算法视为与环境因素紧密联系的系统论视角，有助于监管者通过影响关联因素(例如算法赖以生存的硬件平台、数据交换接口等)达到监管目标，从而避免陷入算法内部复杂技术细节的考量。

5.2 以技术路线创新推进算法治理

算法演化的社会过程分析深入算法发展演化的内部揭示了“算法黑箱”，既有助于进一步破除算法作为绝对理性的迷雾，同时也为治理政策的导入打开了空间。一方面，算法演化过程的多种可能性表明，监管者可以在理解不同算法技术发展路径的基础上，有针对性地调整社会环境因素以促进特定技术路径的发展，并同时约束其他技术。以国际象棋算法的发展为例，在认识到A路径无益于人工智能的理论研究并难以应用于其他领域的情况下，监管者事实上可以弱化“比赛”文化的激励并通过有针对性、有选择性的公众教育以支持B路径的发展。就当前算法技术而言，我们同样存在着基于大数据统计的机器学习和基于因果推理的机器学习等不同路径，前者因为互联网时代海量数据的可得性而在近年来快速发展，但其存在性能瓶颈而不能成为通用人工智能的基础，监管者同样可以通过强化数据隐私保护以提升数据使用的门槛和成本，从而弱化前者并激励基于因果推理的机器学习研究。另一方面，算法的内生效应提醒监管者应充分重视算法的“非中立性”，进而要求监管者顺应或者调整算法影响过程以确保社会公共价值的维系。事实上，当前以机器学习为代表的人工智能算法由于极度依赖海量数据资源和计算资源，其更适应甚至要求资源密集型的产业模式而非低门槛的开放创新模式，由此带来的可能结果便是强化寡头平台在人工智能时代的权力集中，甚至阻碍边缘创新以及技术发展成果的普惠共享。如果认识到这一点，决策者的任务便不仅仅是鼓励人工智能技术的发展与应用，而是需要更具体地聚焦人工智能算法技术的发展路径与业态选择。需要注意的是，传统监管理论往往强调抑制政府对于技术发展路径的干预，并通过市场机制推动技术的自我演化，但如果考虑到算法演化过程可能存在的社会分化结果，政府的适当干预不仅有利于公共利益的维系，同时也将有利于技术的可持续发展。

5.3 以人为本推进算法治理

算法影响的社会机制分析聚焦算法应用结果的规范性影响，而其潜在主线可被理解为针对算法应用的结果是替代人类还是辅助人类的社会选择的反思。一方面，无论是生命政治视野下的思想主张，或者是作为规训工具的代码治理术，以及将人类个体及集体行为视为可被计算化的对象，其实质都反映了通过算法替代人类自主行为进而更有效管理社会的政治理念，此时“人类自主行为”往往被视为导致偏离“秩序”的因素而需要得到合理控制；另一方面，秩序自由主义、作为安全机制体现的代码治理术以及坚持人类社会不能化约为可计算对象的观点，则又集中体现了算法应该辅助人类并促进更多自主行为的社会诉求。算法应用结果的这种分化差异并无绝对意义上的好坏、优劣之分，二者都将同时呈现出积极影响和消极影响两个方面的结果。对于替代人类的理念而言，安保领域的人脸识别算法、生产流水线上的自动化机械设备都是算法带来的正面变革，而算法歧视、算法操纵则又同时体现为潜藏风险。对于辅助人类的理念而言，智能推送有效提升了人类的信息处理能力，但“算法黑箱”、算法“回音壁”等现象又同时意味着人类面临异化的潜在挑战。对于监管者而言，其不仅需聚焦具体算法应用的正面或负面结果，同时还应意识到在不同的算法应用结果背后还反映了不同的社会价值理念。在某些情况下，后者可能更为重要。因为针对具体的算法应用问题终归能找到合适的治理之策，但只有意识到算法应用结果背后的这种价值差异，才可能从整体上理解不同算法治理案例之间的关联性，以及这种关联性所反映的价值理念和社会体系偏好，从而作出应该适应还是调整这种偏好的政治决策，而这也正是算法社会研究要提醒和推动我们探索的根本问题所在。

6 结语

算法技术的迭代创新与快速应用正在加速推动算法社会的到来，但我们对于这个“新社会”的运行规律仍然知之甚少。当前围绕算法在不同场景下应用而引发治理风险的理论讨论和政策改革，尽管有利于回应治理需求，但并不能构成对于算法社会的整体解释，相关研究的不足和需求主要体现在两个方面。

一方面，需要回到技术本源的探讨，挖掘当前时代背景下，“算法”相比于传统“技术”研究的新特征及其推动社会演化的新规律。尽管社会科学的讨论并不致力于回答科学技术问题，但对于算法社会这样一个缘起于科学技术创新而引发社会变革的现象解释，仍然有必要回到技术本源以避免“技术决定论”或“社会决定论”的潜在影响。就此而言，本文在公理化与计算化数学思想分野基础上对“算法”概念的界定，还仅仅是起点。计算机科学史上围绕计算机、机器智能、控制论、人工智能等关键概念的争论，将为此提供更为丰富的土壤，而这也再一次要求跨学科领域的知识对话与融合。另一方面，算法社会转型背景下，算法对于人类生产生活的影响早已超越工具层面的效率提升或工作替代，对其影响机制的揭示将成为未来研究的关键焦点。此时，重要的便不仅仅是技术逻辑，还有业态逻辑。算法只有融入特定业态环境之下，才会体现出其对于人类社会所关心的价值理念的影响，以及其产生影响的载体、方式与途径。本文从生命政治、技术治理术等政治学概念所给出的部分解释仍然只是视角之一，将算法影响嵌入平台组织、数字劳动、知识经济等理论研究脉络之中，将同样是值得期待的新方向。总之，算法技术创新与应用背景下的社会转型已经拉开了序幕，对其内在规律的解释既需要继承技术政治传统理论的讨论，也需要在学科交叉融合中寻找新的理论窗口。唯有如此才可能最终对算法社会背景下的治理体系创新提供坚实的理论基础与实践启示。