算法正义构建的法律基础、困境及立法路径

摘 要：近年来，算法决策的异化导致算法黑箱、算法歧视等算法失范现象频发，我国现行算法治理面临法律价值缺位、责任主体不明、监管效果不佳等困境。为治理算法乱象，加速我国产业“数智化”升级进程，应从法律层面对算法决策的异化进行规制，算法立法有助于构建逻辑性、完整性、系统性的数字法律制度体系，利于实现算法正义。算法正义根植于平等权、自由权、程序正义等法律基础，实现算法正义有利于推动实质公平正义。我国算法正义的立法构建需要确立算法公平正义原则，建立健全算法立法体系，最大限度促进算法的公开化、透明化；明确算法异化归责形式，对平台数据权力进行法律规制，构建相应的责任追究机制；设立动态算法监管机构，实现算法技术、社会规范、法律规范等层面的多元化的全过程监管。

关键词：算法正义；算法立法；法律基础；算法治理

中图分类号：D922 文献标志码：A 文章编号：1673-291X（2024）13-0141-04

数字时代，算法俨然成为数据处理的核心。我国产业“数智化”转型进程加快、数实融合新业态模式扩张也得益于算法技术的快速发展。算法的本质是一种技术手段，算法权力异化产生算法黑箱、算法歧视等不合理现象，将会带来一系列社会问题：搜索引擎桎梏、新闻推荐失真、人脸识别隐忧、自动驾驶责任分配不明等。如不规制其发展，算法失范将对算法正义产生强烈的冲击。为确保算法正义的实现，应从法律层面对算法决策异化进行规制。当前，我国算法治理存在法律价值缺位、责任主体不明、监管效果不佳等问题。现有研究多从监管角度出发，立法层面规制算法异化的研究较少，本文拟从立法的角度研究治理算法乱象。为改善数字生态环境，依法治理算法乱象，我国于2022年3月1日正式施行《互联网信息服务算法推荐管理规定》（以下简称《算法管理规定》），但仍无法有效回应算法失范现象。实现算法正义的法律构建有助于开发利用数据的最大价值并助推公共事业的发展。本文将立足我国算法正义现存问题，从立法的角度完善算法治理体系，加速推动算法正义。

一、算法正义的界定及法律基础

（一）算法正义的界定及相关概念辨析

“算法”一词，最先出现在数学领域，最早记录于我国的《九章算术》。随着技术的进步和科技的发展，算法被广泛应用于计算机领域。在狭义上，算法是以一定值或者值的集合为输入、产生某个值或值的集合为输出的计算步骤而编写的一个序列[1]。在广义上，算法被定义为“一种有限、确定、有效的并适合用计算机程序来实现的解决问题的方法”。本文认为，算法是解决某一类问题的方法、程序。算法决策可解释为：算法系统通过对用户过往的数据分析，预测用户将来可能发生的行为，实为机器模拟人的思维，自主学习并产生一定结果的虚拟思维系统。算法决策具有复杂性、隐匿性、结果不可预测等典型特征。有权力则必有异化，算法决策的异化阻碍了算法正义的实现。算法的公正问题也成为人工智能领域的最为核心的伦理问题，常被称作“算法偏见”或“算法歧视”[2]。算法歧视的根源在于算法决策过程的不透明性、复杂性。

“正义”在法律领域常被解释为执行正义，即通过TlkEZoO9Bzv/+ug3uTNqzQ==法律手段调整社会群体之间的关系。罗尔斯认为“正义是社会制度的首要价值”。为构建公平、透明、可信的算法系统，算法正义的概念被相关学者提出。算法正义的实现体现在算法程序运行的全过程，每个环节都要求参与平等。算法正义的实现离不开数据公正、算法透明，其中数据公正是实现算法正义的基本原则。数据公正要求算法决策的结果符合多数人的利益，不存在不公和歧视等偏见现象。算法决策的异化直接影响算法正义的实现，实现算法正义必然要求规避算法决策的异化。正是基于大数据和算法嵌入社会生活过程中而诱发诸多不正义。其中，以算法黑箱和算法歧视为典型，算法决策的公开透明是数字正义实现的外在表征。算法正义是关于如何确保人工智能和算法模型的使用是公平的，以及在算法运行过程中如何减少甚至杜绝对特定群体的歧视而导致的不公正的结果。这需要考虑到算法设计和开发过程中的偏见如何消除，以及算法如何使用数据来进行更公正的决策。算法正义更多强调算法设计、应用过程中应遵循的理性道德原则和价值期待，既涵盖实体和程序，也包括过程和结果。

（二）法律基础

算法决策的异化导致算法歧视、算法黑箱等不合理现象频发，算法决策结果的精准性基于对海量数据的收集和分析，而数据资源往往关乎用户的人身和财产权益，甚至隐私信息。为防止算法权力异化，实现算法正义迫在眉睫。算法正义的法律基础源于人权法中的平等权、人格权等基本权利，反歧视法中的自由、正义等法的基本价值以及程序正义。

人权法层面：算法正义的法律依据在于尊重人类的基本权利，保障公民尊严。算法决策开发者的主体是人，算法决策开发者的客体也是人，二者同等享有人格表达权、参与权、人格尊严权。规制算法歧视首先需要保障平等权，算法开发者在算法决策过程中拥有技术优势，为保障公民的人格尊严权，用户有权请求算法决策者对所利用的数据的来源、使用目的、数据用途及应用范围等重要信息作出合理的说明和解释。

反歧视法层面：歧视表现为区别对待，而平等要求相同情况同等对待，因而消除歧视在于消除区别对待[3]。算法正义的价值基础在于尊重用户意思自治，实现算法决策设计者和算法决策使用者之间的平等地位，合理分配两个不同群体之间的权利和义务。它旨在要求算法决策开发者履行算法决策告知义务和解释义务，最大限度增进算法透明度，进而推进算法正义的实现。

责任法层面：算法正义的立法构建基于程序正义，正当程序的宗旨在于保障公民权利平等、约束权力、有效解决纠纷、维护法律权威、理性引导公民[3]。正当程序要求各方自由平等且实质性地参与，用户有权对算法决策过程提出异议，能够实质性地影响决策结果。正当程序要求公开，算法决策过程也应当公开、透明化，从而有效减少算法黑箱现象。

二、我国算法正义法律构建的困境

数字时代，算法技术被广泛应用于社会生活的各领域。毋庸置疑，算法技术的普及促进了科技的发展和社会的进步，但不可否认算法异化不同程度侵害了公民的隐私权和自由权。学界普遍认为，算法决策权的滥用对算法正义的实现具有实质性的威胁。算法立法空白、侵权责任主体不明、社会监管效果不佳等因素阻碍了算法正义的实现。

（一）算法立法空白

数据、算法、信息三者有机结合，构成数字化智能网络社会。随着科学技术的两面性中负面现象频现，为保障数字社会的平稳发展，我国相继出台《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》。关于算法技术带来的风险，仍无相应法律对其规制，目前算法治理乏力，算法立法极具争议。我国算法立法仍面临诸多困境，主要面临以下难题，难点一：算法规制的立法模式定位不明确。算法规制的立法模式颇具争议，算法规制是否并入网络安全法、数据法、个人信息保护法，亦或成立算法专项立法。难点二：算法规制的立法属性定位不清晰。算法本身是一种技术手段，是否应定位于技术规制。但算法开发的目的是为社会服务，是否应定位于社会规制。难点三：“算法伦理”要求与合法权益保护存在矛盾。“算法伦理”要求公开、透明，而知识产权保护则侧重于技术的保密性。算法的公平公正的目的是为保障公共利益，而公民的自由权和隐私权则重在强调私人权利。为保障公共利益，在进行公共决策时，不可避免会侵犯到个人私益。

（二）法律价值缺位

算法决策异化导致算法失范现象频发。算法技术的滥用，与我国法律所倡导的平等、公平、正义、自由、秩序、正义等价值产生强烈冲突。算法歧视现象严重违背了公平正义原则。算法过度检索个人信息，造成个人隐私泄露，严重侵害了公民的隐私权。算法过度采集用户数据信息，大数据“杀熟”严重损害了公民的平等权。平台利用算法合谋技术实施垄断行为，剥夺了其他平台的公平竞争机会，打破了市场公平经营秩序。算法是基于人的设计，算法开发者的主观意愿难免带有个人偏见，这种偏见极有可能被嵌入算法决策系统，加之算法决策过程的不透明化，给算法权力异化增加了更多不稳定因素。虽无法对算法过程进行法律规制，但可对算法开发者的行为进行法律约束。

（三）责任主体不明

随着算法应用的普及，算法异化的风险也不断增加，但基于算法的隐秘性和复杂性，算法责任主体的划分成为学界争议的焦点。算法侵权带来一系列难题，即如何认定责任主体，如何证明主观过错，如何厘清决策行为与损害结果的因果关系，如何实现侵权救济等成为当前亟待解决的难题。例如，在自动驾驶汽车领域，自动驾驶汽车与人类驾驶的机动车发生碰撞，应当如何划分责任，是自动驾驶汽车制造商，还是自动驾驶汽车算法开发者，抑或是车主本人？事故发生后，应如何划分责任大小，如何确定侵权主体，如何处置侵权责任方，这些都是自动驾驶汽车发展需要面对和解决的现实问题。目前，对于算法责任主体的认定存在很大争议，算法责任主体多元化增加了算法责任主体认定的难度。对于算法失范现象，在算法系统开发者、算法系统售卖商、算法平台应用方、算法监管部门等不同主体间应该如何划分责任，目前未有明确的法规法条或者法律原则对其规制。

（四）监管效果不佳

数字时代，人工智能、大数据、区块链等数字技术的发展均基于算法技术的应用。算法决策过程的不透明和复杂性导致算法黑箱现象频发。在社交平台软件应用中，多数平台为迎合用户喜好利用算法技术搜集、分析用户数据，对用户过往行为进行画像，进而精准推送个性化内容。平台本身拥有海量用户数据信息，平台对自家数据资源进行分析并利用，似乎合理合规，但这一过程是否存在过度挖掘，是否侵犯用户隐私，却无法监管。在消费型软件应用中，部分消费群体经历过大数据“杀熟”，有些因新老用户身份不同遭遇差别对待，有些因使用手机品牌不同呈现不同价格，有些因日常消费水平差异推送不同价位产品。由于算法黑箱的隐秘性，算法决策是否构成价格歧视无从监管，迫切需要补充制定算法透明制度[4]。传统的举报等算法治理模式亟待创新，加之算法技术集复杂性、隐秘性、专业性于一体，普通用户群体很难识别自身是否成为了算法异化的受害者，即使后知后觉身陷“信息茧房”，也难以论证何种权利何时受到侵害，更无申诉和救济途径。

三、我国算法正义的立法构建

算法作为数字法学的核心，对算法进行有效的规制，有助于构建逻辑性、完整性、系统性的数字法律制度体系，也可实现对网络空间有效的数字治理。算法赋予数字价值，数字赋予算法意义。若能有效规制算法，必然有助于实现数字正义，算法正义的实现需要法律框架的约束。

（一）确立算法公平正义原则

算法规制的立法原则，是以利益衡量、个案调和、价值平衡，引导算法规制正当程序的确立[5]。公平正义原则是法律价值的最高目标，发挥价值理性的作用，有助于算法正义的实现。公平正义原则要求各主体合理分配权利、义务，用户自身应同算法决策者拥有同等权利。通过立法的方式，推进算法合规，促进算法正义的实现。首先，算法决策开发者应保障算法使用者的知情同意权，若用户决策权受到限制，造成隐私泄露，算法决策开发者应承担相应的民事责任或受到行政处罚。其次，算法解释是算法治理的核心，应根据不同的场景设置可视化的解释，禁止语义歧视或跳过关键解读，及时回应用户异议。最后，相关部门应积极推进算法公开，在不涉及商业秘密的前提下，将算法决策的过程和结果透明化、公开化。基于公开原则，算法设计者应明确告知用户群体可能采集用户哪些信息，并由用户自身决定是否接受。

（二）建立健全算法立法体系

纵观世界数字经济前沿地区关于算法的规制，大多已对算法进行单独立法，如美国《算法问责法》、欧盟《算法问责及透明度监管框架》、新西兰的《新西兰算法章程》。此外，算法、数据、信息三者在立法目标、调整对象、权利内容等方面均存在差异，并不适合并入数据安全法或个人信息保护法。技术具有中立性，算法立法的本质不是针对算法技术本身，而是规制算法决策权，防范算法权力带来的异化风险，算法规制的立法应该属于社会规制。算法规制应从部门规制层面上升到法律约束层面，可系统化、全面化治理算法异化现象。算法立法应侧重于规制算法应用，设置专门条款，重点规制算法搜索、算法推荐和算法决策三方面。其一，在规制算法搜索方面，严禁过度搜索、隐匿搜索，以防用户隐私泄露。其二，在规制算法推荐方面，严格管控算法输出，建立算法推荐审核及监督机制，对算法推荐内容进行专业审查，严禁传播有违公序良俗或违法信息。其三，在规制算法决策行为方面，探索“公+私”公共决策模式，当涉及私权利主体权益时，严禁“一刀切”式决策方式，对决策过程进行全过程监管。

（三）立法明确算法异化归责形式

平台具有算法决策权，可能存在算法滥用风险，故应当对平台数据权力进行法律规制，构建相应的责任追究机制。第一，落实算法主体责任。算法决策设计者应当尊重用户隐私权、不过度开发；尊重用户自由权，建立完善的用户自主选择机制。算法决策提供者，不得利用算法从事违法行为，不得兜售用户隐私数据。第二，应建立第三方审查机构，一旦发现平台存在算法乱象，应给予用户申诉权，并及时处罚违法违规行为。第三，建立奖惩机制，鼓励用户积极维护自身合法权益，对算法违规平台给予通报、批评，并控制其流量，限期改正。限期未改者可加大罚款力度，甚至取缔该平台的使用。第四，加强设定数字平台算法侵害的行政处罚法律责任[6]。数字平台兼具公共性，个人不易察觉算法侵权行为，行政执法机关更具专业性，设置行政法律责任，利于维护公共利益。

司法救济是弥补受害人损失的重要一环，当公民算法权利受到侵害时，应提供多元的权利救济方案，可立法建立如下机制：其一，专门的算法侵权咨询机制，专业解答算法侵权相关事件，利用算法侵权咨询平台为公众答疑解惑。其二，专门的算法司法审查机制，专门处理算法诉讼，利用算法审计进行司法裁决。其三，专门算法公益诉讼机制，专门处理公共领域内的算法纠纷案件，利用公益诉讼解决算法纠纷。通过上述途径，充分体现以人为本、依法治国的精神，依法治理算法异化乱象，推进算法正义的实现。

（四）立法设立动态算法监管机构

算法的隐秘性和复杂性，不仅给算法公开带来一定难度，也对法律有效监督形成挑战。为有效防范算法异化，应从算法产生到应用的全过程建立系统性、多维性的算法合规审查制度。算法协同治理是健全算法监督保障机制的有效机制，从技术层面、社会规范层面到法律层面建立起一整套协同治理机制，各监管机构协同协作。在算法技术层面，应当制定行业标准和行业准则，定期进行算法安全风险评估，监测算法安全生命周期。在社会规范层面，应当畅通公民监督渠道，设置有效的投诉平台，制定标准的处理流程，及时解决问题并给予反馈。在法律规范层面，应当对算法技术从业者和企业定期开展审查，核查算法从业者的备案情况，评估算法技术风险，强化企业风险责任意识，建立算法管理机构，提升算法治理水平，构建算法异化追责体系。

四、结束语

在新兴科技革命的推动下，人类开始迈进“万物数字化、一切可计算”的新时代。数字社会的发展需要算法正义助力，人工智能的发展需要算法正义驱动，算法失范现象亦需要算法正义规制。完善算法治理成为当前数字发展的重要议题，实现算法正义的核心就在于消解分享与控制这一悖论，确立并遵循数字时代的公平正义原则。本文借鉴国外在算法治理方面的经验，提出应重点规制算法搜索、算法推荐和算法决策三方面。为破除算法黑箱难题，应最大程度将算法决策过程透明化、公开化。发扬以人为本的精神，构建严格的责任追究机制、设立多元的权利救济方案，可依法治理算法异化乱象。设立动态的算法监管机构，保障算法技术的合法性、正当性，严格约束算法技术从业者，定期审查从业者的备案情况，提升算法治理水平，推进算法正义的实现。

参考文献：

[1] 金梦.立法伦理与算法正义：算法主体行为的法律规制[J].政法论坛，2021，39（1）：29-40.

[2] 孟令宇.从算法偏见到算法歧视：算法歧视的责任问题探究[J].东北大学学报（社会科学版），2022，24（1）.

[3]  赵精武，陆睿.从公示到透明：算法公平的风险挑战与治理路径[J].暨南学报（哲学社会科学版），2023，45（9）：69-82.

[4] 郭春镇，勇琪.算法的程序正义[J].中国政法大学学报，2023（1）：164-180.

[5] 张恩典.算法透明度的理论反思与制度建构[J].华中科技大学学报（社会科学版），2023，37（6）：29-40.

[6] 黄锫.数字平台算法侵害的行政法律责任论纲[J].比较法研究，2023（6）：184-198.

The Legal Basis， Dilemma and Legislative Path of Algorithmic Justice Construction

JIANG Dongli

（School of Law， Shandong University of Technology， Zibo 255000， China）

Abstract： In recent years， the alienation of algorithmic decision-making has led to the frequent occurrence of algorithmic anomie such as algorithmic black box and algorithmic discrimination， and there are problems in the current governance of algorithms in China， such as the lack of legal value， the unclear responsible entity， and the poor regulatory effect. In order to govern the chaos of algorithms in accordance with the law and accelerate the upgrading process of “digital intelligence” in China’s industry， algorithm legislation is conducive to the construction of a logical， complete， and systematic digital legal system， which is conducive to the realization of algorithmic justice. Algorithmic justice is rooted in legal foundations such as the right to equality， the right to freedom， and procedural justice， and the realization of algorithmic justice is conducive to promoting substantive fairness and justice. The legislative construction of algorithmic justice in China needs to establish the principle of algorithmic fairness and justice， establish and improve the algorithm legislative system， and promote the openness and transparency of algorithms to the greatest extent; clarify the form of attribution of responsibility for algorithmic alienation， carry out legal regulation of platform data power， and build corresponding accountability mechanisms; and establish dynamic algorithm regulatory agencies to realize diversified whole-process supervision at the levels of algorithm technology， social norms， and legal norms.

Key words： Algorithmic justice; Algorithmic legislation; Legal basis; Algorithmic governance

[责任编辑 刘 瑶]