权力技术化的法律应对

人工智能时代，权力主体通过借助算法等技术作出具有法律效力的决策，呈现出权力技术化趋势。权力技术化指的是将算法技术引入权力运行体系，使得权力运行能够借助算法来实现，促进权力实现技术化，并将权力隐藏在算法之后。法律应当通过强有力的规范体系来规制权力技术化带来的不利后果。

一、权力技术化的表现特征

权力技术化的程度是随着技术发展而不断发展的。权力技术化的表现特征与技术发展程度密切相关。

（一）高度技术性

智能技术作为权力运行的辅助，其对权力主体提出了较高的技术要求。例如，智能化行政执法可能包括数据收集、数据整理、违法行为智能识别、自动作出处罚等方面。行政执法作为行政机关重要的职能，也是其行使公权力的外在表现。当智能化执法作为行政机关行使职权的重要媒介之时，智能技术逻辑改变了传统行政执法的具体形态，使得行使执法权的主体更加需要专业的技术。

（二）极度隐蔽性

在权力技术化趋势中，数字技术运行作为权力实现的外在样态，而权力暗含其中。权力严重缺乏透明度，这可能导致权力黑箱。虽然行政自由裁量、法官的自由心证在某种程度上也是黑箱，但其作为人类决策并不神秘，普通民众容易理解。然而，权力技术化是在垄断数据资源与专业技术知识的基础之上的，相关决策激励难以为公众所理解，通过借助技术屏障达成了技术化统治。例如，在新冠疫情期间，一些地方存在乱赋红码、随意进行轨迹追踪的违法现象。在表征上，一些地方为了防治疫情而进行赋红码和个人轨迹追踪。然而，其背后隐藏着权力的滥用且难以被公众理解与监督。在技术高度发达的时代，某些权力往往隐藏在智能技术之后，难以让公众知晓与监督，具有高度隐蔽性特征。

（三）容易扩张性

权力有了技术的加持，变得更加强势与隐蔽，能够轻易渗透到公众当中。例如，在智能行政执法当中，其背后权力对公众日常生活的控制与掌握往往超出了行政执法本该局限的场景，通过大数据的收集与分析极易造成对公众隐私权益的侵害。权力对公众日常生活的渗透越来越全面，可以随意对某个主体施加影响。数字时代，权力可以借助智能技术对公众的实时全方位监控与控制。

二、权力技术化的社会风险

若拥有智能技术的公权力得不到有效限制，可能产生一系列社会风险。

（一）极易对公民基本权利造成侵害

数字时代，公民的隐私权和政治权利极易被侵害。一是侵害公民隐私权。公民的大量数据信息被泄露与收集，这导致公民成为“透明人”。公民在数字技术侵权面前又显得无能为力，这背后隐藏着权力通过数字技术对公民隐私权利的侵害。二是侵害公民政治权利。权力可能通过数字技术实现对民意的操控。权力可以通过数字技术了解选民的政治倾向和民意，引导民意的发展，操纵民众的政治意愿。

（二）导致权力滥用

权力得到数字技术的加持，极易被滥用。一是技术中立掩盖权力的非中立性。数字技术能够为拥有权力者提供一个理性的理由，使得作出的决策表面上符合客观公正。在权力技术化背景下，技术中立成为权力非中立性的遮掩幕布。在作出决策之时，被权力控制的数字技术就带有某种偏向色彩，这种偏向则是权力的重要特征，只不过被中立的数字技术所掩盖。二是自由裁量权的偏离。法律设置自由裁量权的初衷是为了实现实质正义。自由裁量权的存在可能导致权力的滥用。人工智能技术的引入有利于行政自由裁量权的规范化与合理化行使。同时，人工智能技术的机械化可能导致设置自由裁量权初衷偏离。算法成为通过自由裁量权实现法律实质正义的唯一方式。

三、权力技术化的法律应对路径

（一）明确数字技术引入权力体系的正当性检验机制

法律应当明确数字技术应用于权力体系的场景与边界，增强对数字技术的可控性，限制权力技术化带来的负面影响。法律确立技术引入权力体系的预审程序，这是检验公众参与程度的重要指标。权力主体应当将数字技术相关情况充分告知公众，并充分听取意见。通过技术预审，可以在数字技术进入权力体系之前进行风险预测与评估。

（二）建立权力技术化的问责机制

问责机制要求技术化改造的权力通过规范的方式行使，否则应当承担相应法律责任。一是明确被问责的主体。通过界定权力技术化程度、涉及主体多少、所涉公共利益类型等因素，确定被问责的主体。二是明确问责标准。通过数字技术而作出行政决策，应当避免歧视、不公平、侵权等情况发生。法律应当明确数字技术嵌入权力的管控措施，并建立识别与纠正有害结果的机制。

（三）配置个人权利对抗权力技术化

规制技术化的权力，不仅应对权力进行合理限制，也应配置权利以对抗权力的滥用。法律通过赋予个人一定的权利，以增加其与权力对抗资本，进而免于权力技术化的侵害。一是赋予个人数据权利路径。法律应当明确个人数据权益的范围，使权力者与个人协商方可获得所需要的数据。二是保证个人权益侵害得到救济的权利。法律应当明确个人拥有获得算法解释的权利、修改数据的权利、退出算法决策的权利等，并可以通过诉讼等途径来保护这些权利。

基金项目：2022年国家社会科学基金项目“圣经犹太律法与先秦儒家礼法比较研究”（22BZJ004）。

【作者单位：1.山东社会科学院法学研究所■ 逯达1 ；2.山东大学法学院（威海）■ 逯 达 2 】