自主性视角下技术利维坦问题的需求侧和供给侧分析

郭子涵

一、技术利维坦问题与自主性视角下的技术监管

(一)利维坦与国家监管

利维坦本是十七世纪著名的唯物主义哲学家和政治思想家托马斯·霍布斯(以下简称霍布斯)在其经典著作《利维坦》中提出的政治思想，即将国家比作《圣经》中拥有巨大力量的巨兽“利维坦”，从而阐述其国家的起源和本质、主权学说以及政体等理论。在霍布斯看来，由于自然状态中的高度不安全性，即“在没有一个共同权力使大家慑服的时候，人们便处在所谓的战争状态下……这种战争是每一个人对每个人的战争”[1]94-95，人类便以订立社会契约的方式从自然状态走入政治社会。契约的订立赋予了国家一系列职能，其中最重要的职能是“为人民求得安全”[1]260。而在马克思主义看来，国家本质上是一种“从社会中产生但又自居于社会之上并且日益同社会相异化的力量”[2]，国家的重要职能就是对社会冲突的控制，只有在这种秩序中，一切的人类活动才能有序展开。因此，可以说，无论是为了安全还是为了秩序，国家都必须负起照看社会的职责。国家既要实现政治统治，也要实现社会职能，政治统治和社会职能是相辅相成的，“国家和这种职位都要履行以维护社会公共利益、处理社会公共事务为主要任务的社会职能”[3]，因此对技术的监管与控制也是国家职能的应有之义。

(二)技术利维坦的概念

技术利维坦问题或数字利维坦问题是近代以来随着科学技术的发展逐渐出现的一种技术侵害假说。在这种假说中，技术具有的自主性是引发技术侵害的重要原因。然而，什么是技术利维坦？什么意义上的技术利维坦才是问题？技术利维坦的主体是技术还是国家？这些问题当前还不具有一个统一的说法。笔者以为，学界对技术利维坦的理解实际上涉及了两个方向的主题：其一是指技术使国家获得了新的政治控制手段，从而产生了国家利维坦进化为技术利维坦的问题，技术“极易被国家俘获用于社会控制和政治权力再生产，技术手段从而成为社会治理的重要工具”[4]；其二是指技术由于智能化而具有了自主性，脱离了人类的控制，从而产生了技术自身成为利维坦的问题。“相信技术以某种方式摆脱了控制，独立于人的指导而沿着自身进程前行”[5]10“人们逐渐成为算法的附庸，臣服于算法程序监控之下”[6]。

虽然两种技术利维坦都是关于技术侵害的重要角度，但是学者们却相对忽视了另一种技术利维坦，即科学技术的供给主体科技公司以技术作为借口获得了自主性，采取了违背公共利益的策略、行为，侵害公共利益。这种角度的技术利维坦问题实际上是算法权力问题。从这种侵害公共利益的风险形式入手，掌握算法的企业和组织利用技术优势，把控社会的信息及资源，引导政府的决策，形成了一种非国家力量的“准公权力”[7]。科学技术本身具有了自主性的技术利维坦问题主要涉及对先进技术的监管，而科技公司具有了自主性的技术利维坦问题则更多聚焦于对科技公司的监管。

(三)技术进步与自主性危机

人类历史上发生了四次工业革命，都极大地推动了生产力的发展，而技术进步则是工业革命的主要成果。但是前三次的工业革命主要都是生产力的发展问题，没有涉及人类的自主性危机问题。然而，随着第四次工业革命的推进，“全世界进入颠覆性变革新阶段。”[8]人工智能、大数据的广泛应用，技术越来越智能化，人们对技术的依赖日渐加深，技术自主性以及建立在技术自主性基础上的技术利维坦问题日渐成为一种理论关切。第四次工业革命具有智能化的特殊性质，对技术利维坦的形成有着直接的推动作用。这是因为智能化体现为机器具有相当程度的自我学习能力以及高于人类智能的倾向。

人类自主性面临危机。从某种程度来说，这些负的外部性效应有着类似“失控”的风险。未来的人工智能不断强化，“那些由我们制造出来的东西将会具备学习、适应、自我治愈，甚至是进化的能力”[9]，人们可能向我们自己的造物低头。在这样的技术利维坦的风险下，人们的自由很可能失去。显然，如果技术发展赋予相应主体自主性，那么拥有自主性的技术或科技公司就是国家应重点关注的监管对象。因此，正确认识技术利维坦带来的风险并合理应对就有着十分重要的意义。

二、技术利维坦问题的需求侧分析

人们对技术的需要是技术利维坦问题产生的基础，但需要技术利维坦本身的原因则在于以技术监管技术的趋势。

(一)技术智能化对人类自主性的影响

人类对技术的控制存在弱化的倾向。由于技术原本是完全在人类控制之下的工具，因此历史上长期没有兴起有关技术利维坦的担心，工具是忠诚的，它没有自由意志。“对自己制造出的东西，人类还加以控制。这是常识。”[5]21在过去很长的时期内，我们不仅能够控制和运用已有工具，而且还会发明和创造新工具，推动科学技术的不断发展。然而，考虑到人类自主性的问题，如今两方面原因使得人们对技术的控制能力减弱了。

一方面，如前文所述，第四次工业革命中的人工智能技术拥有了“智能”，这是前所未有的事情。在第四次工业革命之前人类对技术的控制是有自由意志的人对无自由意志的物的控制，而在此之后人对技术的控制却可能是有自由意志的人对同样有自由意志的物的控制。当有自由意志的人对同样有自由意志的物进行控制时，这种控制是不稳固的，因为只有当人的自由意志高于物的自由意志才能实现控制，而当人的自由意志低于物的自由意志时，人可能反过来被物所控制。因此，人工智能对人存在僭越的可能。另一方面，随着社会分工的不断发展，公众对技术的了解已经越来越少。因此，在技术知识掌握的意义上，“我们了解、判断或控制技术工具的能力衰退了，失控显而易见。”[5]25我们需要技术而又不够了解技术，这就为技术的自主性提供了前提条件。

(二)技术智能化对政治民主的积极影响

在社会治理的过程中，利益相关方的共同参与对于治理实践有着巨大的促进作用。这种利益相关方共同参与的治理实践就是“协商政治”，“协商政治有效运作的动力来自不断扩大、不断制度化的多元与多向的参与”[10]，因此在协商政治中，社会利益相关方的积极参与是基本动力。在一国政治发展中，应该推动参与“合力”的形成[11]。在我国的社会治理实践中，坚持党的领导与公民的积极参与能够为这种合力的形成提供动力。因此，在坚持党的领导的根本前提下，政治制度和政治安排要尽可能为公众参与提供便利。

技术智能化对政治民主有着正反两个方面的影响。技术既能在政治参与意义上促进民主，也能在算法支配下操控民主。技术智能化对政治民主的积极意义主要体现在两方面：一是扩大政治参与的数量和范围，二是提高政治参与的质量和水平。人们可以通过网络实现更广泛的政治参与，而不用像原来一样受限于因时间成本和空间有限而产生的代议制民主，也就是说直接民主越来越成为可能。互联网等科学技术可以在政治参与中发挥桥梁与纽带的作用，使分散的人们普遍联系起来。在提高民主以及政治参与质量方面，“民主制度可以通过技术改进来保证合理而智慧的公共选择，从而把偏好加总的民主转变为知识加权的民主。”[12]也就是说，借助技术，民主将可能不仅在形式上得到增进，也将在实质上更符合人们的切身利益，增进“理性选择”，这将是一种可能的“智慧民主”。这种智慧民主在克服人性缺点上有其独特的优势。显然，在理想状况下，更好的民主不仅仅是可欲的，更是可能的，技术在实现这类追求的过程中有着重要的促进作用。但是，智能化技术存在操纵民主的可能性，其负面影响将在技术利维坦的供给侧详尽论述。

(三)技术监管催生对技术利维坦的需求

由于智能化是第四次工业革命的重要特征，而这种技术的智能化对应了人的自主性的下降，这表现为人们在政治参与和社会治理过程中自主性也在下降，因此在政治生活和社会治理的过程中，避免智能化等技术对国家和社会的不利影响成为重要的现实问题，而这就催生了对技术进行监管的需求。

随着机器学习的不断进步，哪怕是技术的开发者也不知道技术何以得出的答案，因此技术的自我学习就成了一个黑箱。“算法的目的和意图是什么，包括编辑的目标；谁开发和控制这些算法；谁对这些内容负责；最终产品在发表前是否有人类编辑阅览。”[13]在这个黑箱中，技术自我学习、演化。甚至当人类试图理解其得出的答案时，技术由于自我学习更新或更改了答案。这就导致人类对于智能化技术得出的结论的理解永远赶不上其得出结论并在新的学习中对结论进行更改的脚步。如何应对这种监管难题？答案就在于技术。显然，人工方式已经赶不上机器的自我学习速度了，只有通过研发对应技术来进行技术监管才能实现对智能化技术的监管。这种监管技术只有掌握先进科学技术的科技公司才有条件生产，因此对技术监管的需要就成为对技术利维坦的需要。同时，政府想要真正实现对科技公司的监管就需要将自身技术化，以此来适应这种监管技术的发展。“推动技术工具与科层组织的深度融合与双重再造。”[14]国家技术化后，对科技公司的监管就更加充分，在此基础上探索以技术监管技术的模式。虽然用技术监管技术无法在逻辑上彻底解决智能化技术的监管难题，却是一种具有可行性的应对方式，有助于缓解智能化技术监管问题的困境。

三、技术利维坦问题的供给侧分析

从供给侧来说，科技公司是智能技术的供给主体，因此对科技公司的监管应当成为技术监管的重要内容之一，这主要由两方面原因导致的：一方面，技术智能化本身就是重大的监管难题；另一方面，技术的智能化搭配大数据技术的应用产生了对人们参与社会治理的不利影响，也就是说对智能化技术的监管以及明确技术开发者的意图是技术监管的关键。

(一)技术智能化对科技公司自主性的影响

技术智能化提高了科技公司的自主性。首先，由于科技公司集中于创新领域，而在这些领域监管和制度可能不够健全，这就给科技公司带来了自主性。与此同时，由于科技公司往往在自我利益最大化的动机下行事，因此这种自主性是带有风险的。科技公司固然有创新的动力，却也有违背公共利益而为自身利益服务的动力。

其次，对先进科技的掌握使其获得较为重要的地位。智能化的先进技术很多是由科技公司提供的，在特定领域中，这种对技术的理解更深入的优势就成了其话语权的优势。“技术创新水平高的企业在国家标准制定中的话语权更大。”[15]技术能力越强，科技公司就在行业标准制定等方面拥有更大的话语权，因此其自主性由于这种地位也相应提高了。

再次，科技公司在政府鼓励创新的条件下具有了更高的自主性。在转型时期，中国政府的定位更多表现为“政府在一些职能领域的退出，或一些职能的削弱正是市场和社会成长的一个必然结果”[16]。由于改革开放以来始终强调市场的积极作用，中国政府在一些领域的职能有所收缩，以此来给市场中的主体创造一个相对宽松的政策环境。在这样的宏观政策背景下，科技公司作为社会主义市场经济主体中的一员，拥有了相当程度的自主性。

最后，科技公司有着雄厚的物质基础，这也加强了其自身的自主性。由于科技公司往往掌握大量先进的科学技术，其通过先进技术应用于经济领域获得了巨额的收益、利润。因此，其物质力量基础较为雄厚，经济基础的改善使其自主性得到了显著提升。

(二)技术智能化对政治民主的消极影响

从先进技术的供给侧来看，科技公司及其算法权力对于政治民主可能有着不利的影响。这是因为，科技公司的利益并不必然与公共利益相一致，其利益最大化的动机下可能对公众产生特定的影响，这种影响在较弱的时候表现为“助推”，在较强的时候表现为“操纵”。助推是一种功能，这种功能利用人们的认知局限、偏见和习惯影响人们的判断、选择和行为[17]。显然，无论是算法本身还是科技公司，即使其算法权力没有达到彻底控制公众的地步，也有很大可能对公众进行助推从而达到其自身目的。

科技公司研发的算法往往为其自身利益尤其是经济利益服务，这就对公众的自主性产生了侵害。人工智能技术的进步背后是算法的进步，而算法进步的背后是高等数学等基础理论的发展和突破。“算法的核心就是按照设定程序运行以期获得理想结果的一套指令。”[18]如果沿着算法的道路走得太远，会有诸多的问题出现，例如，算法甚至可以使公众在由自己的意志编织起来的“信息茧房”中背离事实，削弱其理性判断力，从而实现对公众的意识操纵[19]。

从“数据”到“大数据”，不仅仅是数量上的差别，更是数据质量的提升[20]。由于大数据的真正优势不仅在于数据的规模大，更在于对多元数据类型的汇聚和处理方式。同样的数据在经过算法这种特定的排列组合后，能够产生与先前完全不同的作用。因此，在人工智能、大数据的干预下，人们的选择很可能远不是自由状态下的选择，而是一种受控状态下的选择。罗伯特·达尔(以下简称达尔)在《论民主》中提出的民主过程的五条标准中就包括了“充分的知情权”和“对议程的最终控制”两项。达尔认为“如果违背了任何一个条件，成员将不再是政治上平等的”[21]。但是在技术干预的条件下，无论是充分的知情权还是对议程的最终控制都受到不同程度的影响。大数据选择性的推送影响着人们的知情权，同时由于算法的影响，人们对最终议程的控制也只是停留在了名义上，技术的分析结论是最终的、更可靠的决策依据。

(三)技术供给催生对技术利维坦的监管

在技术供给侧，科技公司是重要主体。然而，“当平台以算法为掩护，拥有了制定游戏规则的权限时，权力的结构必然发生变化。我们不应该再把机器算法预设为中立的技术手段，应对其保持警惕性。”[22]算法不是中立的，算法反映了技术开发人员、科技公司的偏好，这种状况就使得对技术利维坦的监管变为对科技公司的监管。

事实上，第四次工业革命后的世界是一个技术无处不在的世界，人们想要拥有绝对的自主性事实上是不可能的。因此，自主性的重点应当为人类自主性，即用国家利维坦驯化技术利维坦的方式为人类整体保有自主性。国家利维坦想要对技术利维坦进行控制，就必然要用技术化的手段进行监管，科技公司就在参与技术监管的意义上成为治理技术利维坦的重要手段。因此，国家的监管目标也就不再是虚无飘渺的技术，而将监管的重点放在了科技公司。政府监管科技公司，科技公司监管技术，这样就形成了一种可操作的模式，构建了对技术的间接监管。除了明确监管对象以外，国家还需要提升自身的监管能力。在人工智能时代尚未完全展现其“狰容”之前，创新社会治理机制、完善社会保障体系，这可能是平衡技术创新与社会风险的最佳途径[23]。显然，新技术不断发展，使得国家不仅要明确科技公司的重要责任地位，而且监管体制也要相应进步才能真正实现对技术的监管。

四、控制和监管技术利维坦的可能途径

技术监管涉及两方面的问题：其一是对技术本身进行监管，这表现在技术利维坦的需求侧上，用技术监管技术，技术监管需要特定的监管技术，而先进的监管技术往往需要依靠第三方科技公司，因此用技术监管技术的同时，对科技公司的监管也是应有之义。其二是对科技公司的监管。科技公司在经济利益驱动下可能做出背离公共利益的行为，科技公司借助算法黑箱的借口使得自身逃避追责。

(一)坚持人本主义与对公民的赋权

人本主义和技术对人的赋能是为了保证公民的自主性。科学技术不是为了替代人，而是为了服务人，因此技术要在赋能的意义上推动人的自主能力的发展。技术一方面要发挥其连接公众的作用，为公众参与提供便利途径；另一方面法律层面要给公众赋予特定权利，使得公众参与对技术的治理和监管常态化、制度化。

技术要在促进公民参与社会治理的意义上增加使用，而非在自动化决策的意义上彻底代替公众进行判断。“心智与道德的能力，跟体力一样，只有运用才能得到增强……如果某项意见尚未为一个人的理性所信服就予以采纳，那么他的理性非但不会因此有所增强，甚至还有可能被削弱。”[24]由于人类自身的认知能力必须在不断的锻炼中才能得到增强，因此减少人类自己的判断就意味着人的判断和认知能力的下降。因此，当涉及社会重大问题时，要明确人工介入，而非完全依靠自动化决策。

在对技术风险的治理中，民众的监督有着十分重要的意义。由于技术的广泛性以及持续运用于社会治理的过程，因此只有对民众进行赋权，让民众参与到监管的过程中，才能实现对基础的常态化监管。“个人享有数据权利、增强数据获取与分析的能力，既可增加与算法权力博弈的资本，也可对抗算法权力的侵害。”[25]公民有权利和义务自发监督技术应用的情况，并且及时向有关政府部门反映问题，进行公民层面的监督。对民众基本的数字权利的保障，有助于对技术进行常态化监管。

(二)引入第三方监管实现合作治理

在技术自主性方面的监管问题上，用技术监管技术是技术利维坦问题的需求侧的逻辑结论。从科学技术的需求侧来说，科技可能扩大政治参与并促进政治民主和社会治理，因此要支持科学技术的健康正常发展。但是，新技术发展可能导致算法操纵问题。因此当算法渗透和影响社会治理时，国家就要对技术发展的方向进行干预，修正出了问题的技术发展领域。这时候就面临如何监管技术的难题。由于智能化技术本身难以监管，需要有先进的监管技术进行监管，因此就需要在监管部门和第三方监管两个方面提升监管能力。

国家监管部门要提升自身的技术化水平，从而对技术进行有效的监管。由于我国已经在数字政府层面有着大量的资金投入和技术建设，因此具有一定的基础。接下来的重点在建立专门、专业的监管部门，优化技术手段，不断提升自身处理复杂问题的能力。第三方监管在技术监管上有着十分重要的意义。在合作治理的前提下，第三方科技公司或组织有着专业的团队和技术参与技术监管，有助于提早发现技术或算法存在的问题并与政府共同应对技术监管难题。在以上两方面作用的合力之下，可以说是“技术责任制度专任化”[26]，通过更高的专业水平来应对可能的技术风险。

(三)技术审查与对科技公司的监管

从供给侧角度来说，技术供给的主体是科技公司，因此对科技公司及其技术的算法进行监管具有重要意义。多数学者在分析技术利维坦问题时，将抽象的而不是具体的技术作为控制的对象进行讨论，从而在一定程度上忽视了技术的载体，而监管的主要对象应为物质载体。我们不是在真空中进行讨论，而是在物质实体的基础上讨论，对技术利维坦的监管就可以体现在政治管理的意义上，对相应的企业主体进行监管以及对具体技术背后的算法意图进行监管。

如果科技公司出现了明显的垄断化或者科技利益集团具有过度的自主性而侵害了公民的权利，阻碍了社会治理，政府的监管就要及时介入，因此，这种监管是一种事后监管。出现特定社会问题后要通过对科技公司进行追责来实现监管，这种监管方式有助于科技公司明白自身负有的监管义务，有助于督促其进行自查自纠，提早将技术风险与隐患处理掉，因此是一种不可或缺的监管思路。

还有对自动化决策的意图进行审查。由于技术的背后是算法，而算法的本质是一套指令，只要是实现特定目标的指令就必然具有特定的价值观前提。因此，对算法进行审查，科技公司和技术开发者有义务将算法意图进行明确的解释，从而对可能侵犯公共利益的算法进行直接监管和控制。因此，这种监管方式是一种事前监管，有助于在前提的意义上遏制技术风险，实现对技术的有效监管。