算法歧视消费者的侵权责任与救济研究

李文志

摘 要：随着信息技术的快速发展，算法的应用越来越广泛。然而，算法技术的应用在带来便利的同时也产生了算法歧视，主要表现为算法价格歧视、算法推送歧视、算法就业歧视与算法性别歧视等。基于此，本文分析了算法歧视的成因，研究了算法歧视消费者的相关侵权行为与后果，并提出了有针对性的侵权责任救济路径，旨在对算法歧视进行规制，从而保护消费者的合法权益。

关键词：算法歧视；侵权责任；救济路径

随着数字经济的发展，算法作为一种数据运算与数据分析技术，已被广泛应用于消费、金融、医疗等领域，给人们的生活带来了诸多便利。然而，近年来社会上出现了一些算法歧视现象，损害了消费者的合法权益，引发了各界的广泛关注。基于此，加强对算法歧视消费者的侵权责任与救济的研究具有重要的现实意义。

一、算法歧视的成因

在算法应用领域内，算法歧视体现在人们的出行、购物、食宿等方方面面。算法歧视的成因可归结为以下几点。

（一）开发人员的主观意识

开发人员的主观意识是算法歧视问题产生的根源。虽然算法自身不会歧视消费者，但算法开发者可能在开发算法时有意或无意地嵌入主观意识，导致算法歧视问题出现。此外，由于算法运行的动力来自对海量数据的处理，因此，如果开发者将带有主观意识的数据上传至网络，算法系统就会自动处理这类数据，并输出歧视性的结论。

（二）算法的不透明性与不可解释性

通常，人们在应用算法时只是简单地输入指令，而不清楚算法是如何处理这些指令并输出结果的。因此，算法处理指令输入与结果输出的过程具有不透明性、不可解释性，从而导致算法歧视问题出现。

二、算法歧视消费者的侵权行为与后果

（一）侵权行为

1.算法价格歧视消费者

算法价格歧视是指经营者以算法技术为依托，根据消费者的消费水平、习惯及偏好等因素定制个性化的消费画像，并对不同消费者实施差异定价，以实现利润最大化，即所谓的“大数据杀熟”。算法价格歧视行为通常表现在超过平均收费标准收取额外费用和给予低于正常标准的报酬或奖励两方面。这种行为不仅会导致社会不公平和资源分配不合理，还会妨碍市场公平竞争，给消费者带来损失。此外，经营者根据个人历史购买记录来设定差异化的价格，严重侵犯了消费者的隐私权。

2.算法推送歧视消费者

算法推送歧视是指电商平台收集和利用消费者的个人信息，并向其推送个性化的内容。然而，这种“千人千面”的个性化推荐在提高供需匹配效率的同时，也可能会不公平地对待某些用户，例如：对特定群体的信息推送不精确；基于用户的性别、年龄、地域等进行差异化的内容推送。这种歧视性推送不仅会影响用户获取信息和做出决策，还容易扰乱市场竞争秩序。例如，当消费者使用短视频软件时，算法会记录消费者的浏览过程、浏览内容、观看时长、点赞及评论情况等，并利用这些数据绘制消费者画像，演算出消费者的喜好，并在后续视频中优先推送符合其喜好的内容。甚至同一条视频下的评论也会被差别对待，算法会优先展示符合消费者个人价值观的评论。

3.算法就业歧视与算法性别歧视

算法就业歧视是指当招聘方使用算法来筛选求职者时，可能会出现由算法决策而导致的对特定群体的不公正对待现象。也就是说，在用人单位利用算法对应聘者进行筛选的过程中，由于算法本身可能会存在偏见或错误，因此，某些应聘者会被不公平地排除或受到不公正待遇。算法性别歧视是一种基于性别的歧视，可能会在算法的开发、训练或使用过程中发生。算法性别歧视并非算法和性别歧视的简单堆叠，而是一种新的歧视和偏见，其主要表现为对某一性别群体的不公平对待。这种歧视行为会损害社会公平正义，固化性别歧视观念，扩大性别数字鸿沟。

算法就业歧视与算法性别歧视密切相关，虽然二者在社会生活中引起的争议不如算法价格歧视与算法推送歧视广泛，但损害后果不容小觑。相比较而言，算法价格歧视与算法推送歧视消费者的侵权行为主要是对消费者权益的短效损害，从侵害时间与效果上看不具有持续性。而算法就业歧视与算法性别歧视的侵权行为，可能会使被侵权人失去工作机会，其损害结果具有一定的持续性，甚至可能会改变被侵权人的人生轨迹。例如，澳大利亚的某算法招聘系统承诺为雇主节省时间和成本，提高招聘质量，并致力于消除招聘过程中的主观性和人为偏见。然而，人工智能专家将该招聘系统描述为给雇主颁发的“歧视许可证”。其原因在于该系统不重视对“消费者”——算法软件使用相对人的权益保护，并实施了更加隐蔽的歧视侵权行为。在这种情况下，智能招聘系统不但不会消除歧视，而且可能会延续和加剧歧视，并对社会和消费者造成重大损害。

（二）算法歧视消费者的后果

算法歧视消费者的侵权行为会导致法益侵害、消费者剩余减少、信息茧房等多种损害后果。

1.法益侵害

当消费者在电商平台购买商品或服务时，平台算法会根据其喜好与消费习惯绘制个人画像，并计算和推送其能接受的最高价位。因此，消费者无法公平地获得同一商品的其他报价，其公平交易权被严重侵害。另外，算法还会在消费者不知情的情况下，收集个人信息与消费习惯。目前，主流观点认为，算法未经消费者许可擅自收集其个人喜好、消费习惯和聊天记录，侵犯了消费者的知情权和隐私权。

2.消费者剩余减少

消费者剩余是指消费者愿意为某种商品或服务支付的最高价格与该商品或服务的实际市场价格之间的差额。它代表了消费者通过购买行为所获得的满足感，这种满足感来源于他们最终支付的价格低于其愿意支付的最高价格。消费者剩余概念与一级价格歧视概念紧密相关。一级价格歧视又称为完全价格歧视，它是一种定价策略。在该策略下，对于每一单位产品，卖方都会按照消费者所愿意支付的最高价格出售。也就是说，在完全价格歧视的情况下，网络平台可以准确了解每个消费者对产品的支付意愿，并据此为不同消费者制定不同的价格，从而最大限度地压榨消费者剩余，获取巨额利润。

3.出现“信息茧房”现象

算法推送技术会精准推送消费者感兴趣的内容，自动为消费者屏蔽其他信息，使消费者陷入“信息茧房”，难以接收到其他多方面信息，从而严重损害了消费者的利益。

（三）算法歧视消费者行为的过错原则

过错原则是指以过错作为归责的构成要件和归责的最终要件，同时以过错作为确定行为人责任范围的重要依据；无过错原则是指在损害发生后，既不考虑加害人的过失，也不考虑受害人的过失的一种法定责任形式，其目的在于补偿受害人的损失。对于算法歧视消费者行为是适用过错原则还是无过错原则，学者们持有不同观点。

站在消费者一方的学者往往持过错原则观点。他们认为在强大的资本面前，消费者往往处于弱势地位，其合法权益应当受到保护。他们还建议，算法开发者与使用者应承担更高的注意义务，以减少算法歧视。另外，当面对算法黑箱、算法自动化决策等问题时，消费者无法论证其过错，容易引发举证不能，导致自身合法权益受到侵害。[1]

持无过错原则观点的学者认为，在算法歧视广泛存在的前提下，如果算法歧视消费者行为采用过错原则，那么不仅会产生大量的侵权诉讼，还会加重算法开发者与使用者的注意义务，对社会经济发展产生负面影响。[2]因此，他们认为算法歧视消费者行为适用无过错原则。还有学者认为，现阶段的侵权之诉，还未达到必须施行无过错原则的程度，过错原则足以澄清事实真相，得出令人信服的结果。[3]

三、算法歧视消费者的侵权责任救济路径

针对算法歧视消费者的侵权责任救济路径，笔者建议相关部门应从算法歧视标准认定与立法的角度为侵权责任救济提供事前帮助；设立适用我国本土的算法解释权，为侵权责任救济提供事中帮助；明确相关法律边界，为侵权责任救济提供事后帮助。

（一）明确算法歧视消费者的认定标准

随着算法技术的快速发展，算法歧视消费者行为的认定标准也应不断更新，否则将无法给合法权益受到侵害的消费者提供合理救济。明确哪些行为构成歧视消费者、哪些行为应被规制，以及如何界定歧视消费者的标准等，对研究侵权责任救济路径至关重要。例如，在基于算法的招聘中，体力劳动强度大的岗位往往对男性要求较低而对女性要求较高，虽然这属于性别差别对待，但这不能被认定为算法就业歧视与算法性别歧视。因此，当出现疑似对消费者差别对待的情况时，我们不能以传统的歧视标准来判断该行为是否属于算法歧视。由此可见，明确算法歧视消费者的认定标准对后续的侵权责任救济路径研究起着关键作用。

（二）设立算法解释权

赋予消费者算法解释权能够在一定程度上减少算法歧视行为。我国可以借鉴欧盟经验设立算法解释权。欧盟在《通用数据保护条例》（以下简称“GDPR”）中多次体现了算法解释权，如算法控制者的“事前解释义务”、算法自动化决策的“事后解释权”，以及与算法解释权配套的算法异议权等。可以说，GDPR对算法歧视消费者问题做出了较为合理的规定。此外，《中华人民共和国个人信息保护法》第四十八条规定，个人有权要求个人信息处理者对其个人信息处理规则进行解释说明。简而言之，赋予消费者算法解释权对减轻消费者的举证责任，制约算法黑箱、算法自动化决策具有积极作用。

（三）完善相关法律边界

有学者认为，针对算法歧视消费者的侵权行为，算法开发者与使用者不能为了逃避责任而将侵权行为归咎于事先已获得知情权与同意权、算法黑箱或算法自动化决策等。他们建议突破技术中立原则，运用“红旗原则”。[4]“红旗原则”是“避风港原则”的例外适用，它是指如果侵权事实显而易见，像红旗一样飘扬，算法的开发者与使用者就不能视而不见，或以不知道侵权为理由来推脱责任。因此，笔者建议相关部门可从以下两个方面提出完善方案：一方面，判断算法自动化决策的结果，初步认定开发者与使用者是否需要承担法律责任；另一方面，对算法进行第三方技术审查，并结合侵权责任原则，确定责任归属。只有做好以上两方面工作，相关部门才可以明确并完善相关法律边界。

四、结语

综上所述，为减少算法歧视行为，相关部门应加快人工智能与算法应用领域的专项立法工作，以规范智能算法的应用。同时，相关部门可以通过明确算法歧视消费者的认定标准、设立算法解释权、完善相关法律边界等策略，明确算法歧视消费者的侵权责任救济路径，以保护消费者合法权益，促进数字经济健康发展。

参考文献：

[1] 李丹.论算法歧视消费者的侵权责任认定——基于司法裁判的实证考察[J].当代法学，2023，37（06）：75-85.

[2] 袁文全.算法歧视的侵权责任治理[J].兰州大学学报（社会科学版），2023，51（02）：89-99.

[3] 孟勤国.治理算法歧视侵害消费者权益的关键问题——以大数据杀熟为视角[J].法律适用，2023（03）：37-47.

[4] 陈兵.平台算法规制的多维思考：从个案侵权裁判到算法综合治理[J].兰州学刊，2023（03）：91-94.

（作者单位：青岛科技大学法学院）