大数据时代算法价格歧视的法律规制

●毛 钰 邱诗钰 湛凯敏 陈远茵 刘可佳 宋 敏

随着现代信息技术飞速发展迈向大数据时代，人们收集、掌握并加以利用的数据规模呈几何数级增长，智能算法成为处理、利用数据资产的最优解。从商品个性化推荐到动态化定价、从定向招聘到公司决策，算法技术的发展深化了市场竞争，为民众带来诸多便利[1]，但是与此同时，基于算法系统固有的不透明性，缺乏问责机制、监测制度以及正当程序约束，为歧视和操纵创造了机会[2]。

近年来，关于“算法歧视”“算法偏见”的社会问题频频出现，其中算法价格歧视作为算法歧视的典型表现，无论是对个人权益、行业发展还是市场秩序都存在不可忽视的负面影响，亟需从法律的层面进行规制。本文将在了解算法价格歧视的运作原理，打破“算法黑箱”的基础上，分析我国对于算法价格歧视的三条现有路径的不足之处，并围绕“风险预防—运作防范—事后救济”全过程，在法律设立、完善方面进行规制，以提高算法透明度，落实消费者权益保护，建立健全市场监管制度。

一、算法价格歧视的概念及运作原理

（一）算法价格歧视的概念

算法价格歧视是指经营者在预设算法时将消费者的地理位置信息、消费行为习惯、历史浏览记录和其他个人数据嵌入算法编程要件，在进行多维度综合判断的基础上，基于相同产品或者服务，针对不同消费者制定不同价格的行为，经济学中称之为“一级价格歧视”。价格歧视一向被认为是一种垄断价格且能对消费者造成效用损失的行为，其本身不是一个新问题[3]，但是在互联网、大数据、人工智能快速发展的今天，价格歧视又有了新的机制，形成了新的特点。在大数据背景下，依托算法进行的价格歧视变得更具隐蔽性和普遍性[4]，这不仅使用户更难发现这一现象，使取证变得更加困难。此外，也对国家的市场监管带来了挑战。因此，探索算法价格歧视的法律规制是十分必要的。

（二）算法价格歧视的运作原理

从计算机科学角度进行分析，算法价格歧视主要体现为以下五条路径：

2.商家针对多次浏览类似商品，或者多次消费类似商品的用户制定不同的价格。商家使用协同过滤算法，基于用户历史行为数据发掘用户的喜好偏向，预测并推荐用户可能喜好的产品，将同类偏好产品的价格进行排序，对其中价格偏高的商品优先进行推荐。该算法分为基于用户的协调过滤算法和基于物品的协同过滤算法。

3.商家根据用户相对于商品购买点的距离远近制定不同的价格。商家通过GPS获取用户位置信息，使用最短路算法计算出用户所在点与商品购买点之间的距离，根据距离的大小差距制定不同的价格。

4.商家针对在一定时间内频繁购买同一商品的用户制定更高的价格。商家利用算法将当前时间减去一定时间获得的一个数值作为左区间，当前时间作为右区间，将该用户在这一时间区间内的所有订单数据提取出来，统计相同商品的所有订单量。判断这个数量是否大于某一数值，若大于，则将该种商品的价格针对该用户进行一定程度的上涨。

5.商家根据不同用户消费水平的不同，制定不同的价格。商家利用算法将当前时间减去一定时间获得的一个数值作为左区间，当前时间作为右区间，对该用户在这个时间区间内的所有订单的消费额进行求和，根据这个数值的不同，制定不同的价格。

我们可以归纳出算法价格歧视共同会经历的三个阶段，分别是收集信息、处理信息以及价格歧视。“信息”主要指消费者的个人信息，其中可以分为个人属性信息和个人行为信息。个人属性信息指的是能够刻画出消费者形象的信息，例如，性别、年龄、职业、住址、消费偏好等；个人行为信息是消费者的行为偏好信息，例如，购物频率、搜索偏好、信用等信息[5]。信息处理者在获取了消费者的这些信息后，再用协同过滤算法、分类算法等对用户进行“画像”，把用户分为“三六九等”后，最后实施价格歧视，由此整个算法价格歧视的过程也就结束了。

二、算法价格歧视的规制路径分析

（一）从个人信息保护角度进行规制

算法价格歧视的运行主要分为三个部分，收集信息、处理信息以及价格歧视，无论运行至哪一部分，“信息”都是其作用的基础。而在现实生活中，经营者存在着对消费者个人信息进行私自收集、滥用或泄露的行为。现行法律对个人信息保护已经有所规定，但在实施中存在一些问题：

1.“告知—同意”规则被架空，个人信息易被泄露。“告知—同意”规则指的是信息处理者获取个人信息要得到用户的同意，且要告知用户其获取信息的用途。经营者为了使其行为符合“告知—同意”规则的要求，会让消费者在使用前签订《用户服务协议》，不过通常情况下《用户服务协议》为点击合同。大多消费者对于《用户服务协议》通常是直接点击同意，因为只有同意协议才能使用平台服务。又因大多消费者本身法律知识有限，且合同字数常常多达千字乃至万字，消费者们没有耐心审阅合同，在此情况下很可能会忽视《用户服务协议》中的“漏洞条款”，例如在隐私条款中规定可将获得的用户信息许可给第三方平台。这相当于让用户放弃了对自己个人信息的保护，也是对“告知—同意”规则的架空，使个人信息泄露的可能性大大增强[6]，从而使消费者更容易受到来自不同商家的算法价格歧视的威胁。

我的这篇文章将要提到的十六首钢琴曲，以及李树化的其他许多音乐作品，都是他在杭州“国立”艺术院工作期间完成的，这些作品都是艺术院的重要学术成果，也是艺术院的骄傲，是杭州音乐史上的光荣。

2.算法运行不透明，个人信息易被过度收集。算法的运行规律掌握在算法制造者和运行者手中。算法究竟如何运行，对信息的处理有无过度使用，用户并不知晓。对于经营者处理信息的限度问题，《民法典》和《个人信息保护法》都规定了最小限度原则，即处理个人信息要具有明确合理的目的，且与目的直接相关，采取对个人利益影响最小的方法，但如何判断目的的相关性和是否对个人利益影响最小则没有规定。经营者具有夸大处理信息目的借此获取更多的个人信息的可能性，例如导航应用平台的使用，原本仅需要收集定位信息，但在实际使用中还要求获取用户通讯信息。

（二）从公平定价角度进行规制

正如前文对于算法价格歧视原理的分析，其过程不仅包括个人信息数据的收集，更包括对于这些信息的处理和运用。因此，在立法上不仅需从个人信息保障角度来规范经营者的信息收集行为，更需要对经营者在算法的选择、设计以及将算法应用于对消费者的价格歧视行为进行规制。

1.《价格法》主体不适格。我国立法机关在上个世纪末期就注意到了市场中存在价格歧视的现象，并进行了相关的立法活动。例如，《价格法》第十四条第五款规定：“禁止经营者在提供相同商品或者服务时对具有同等交易条件的其他经营者实行价格歧视。”但是此法实施时间为1998年，鉴于科学技术水平的限制，当时并没有算法价格歧视现象的出现，显然该法出台并不是为了规制这一现象。事实上这一条款是为了禁止经营者之间的不正当价格行为（即一个经营者在向两个及以上具有同等交易条件的其他经营者供货时采取不同价格的行为），而算法价格歧视是经营者对数个消费者的价格歧视，规范的主体不同，因此，《价格法》不能适用于算法价格歧视现象。

2.《消费者权益保护法》公平交易原则效用式微。《消费者权益保护法》第十条第一款规定：“消费者享有公平交易的权利。”算法价格歧视是经营者对同一商品或服务，针对不同的消费者实施不同定价，这本身就是一种不公平，违反了《消费者权益保护法》的公平交易精神。但是实际上消费者想基于消法为自己提供救济存在较大难度，因为“公平正义条款”作为一个原则性规定，其概念比较模糊，且消费者对于“公平”与否存在着较大的证明难度，难以直接运用于司法实践。

3.最新立法对“差别待遇”条款有待解释。仅从价格歧视这一层面立法已经不能很好地规制商家日益精进的“算法定价技术”。事实上，价格上的差异是价格歧视的外在表现，随着法学界越来越关注算法技术的进步对于当下社会生活的影响，立法者也将目光投向了“算法”这一更为深刻揭示价格歧视本质的概念。例如，2021年8月20日全国人大常委会通过了《个人信息保护法》，立法者在其中就引入了“自动化决策”这一表述，来刻画利用计算机技术处理个人信息并进行决策的活动，并规定自动化决策不得导致个人在交易价格上遭受不合理的差别待遇。而我国对于算法价格歧视的最新规定——《互联网信息服务算法推荐管理规定》（下称《规定》）则进一步细分了算法的推荐服务的不同类型，并在《个人信息保护法》和《消费者权益保护法》的基础上，规定算法推荐服务提供者不得根据消费者的交易偏好、习惯等特征，利用算法在交易价格上实施不合理的差别待遇行为，可以视为对《个人信息保护法》在算法层面的进一步规定。但是无论是《个人信息保护法》还是《规定》，对于什么是“差别待遇”，以及怎样的差别待遇是“不合理”的都未做出详细规定，为消费者的取证和司法机关的适用仍然造成了一定困难。

（三）从反垄断角度进行规制

平台经营者利用算法实施价格歧视行为，可能构成《反垄断法》所规定的“利用市场支配地位实施差别待遇”的行为。占据市场支配地位的企业平台掌握先天数据优势，占领定价高地，将引发少数经营者滥用算法排挤竞争对手的行为[7]。平台间通过代码即时互动、交换个人数据等方式，达成固定价格、分割市场、限制销量的目的，以此形成垄断。算法价格歧视使得市场偏离以供需关系定价，最终将引发不正当竞争，严重扰乱市场经济秩序。基于以上分析，作为明令禁止经营者利用算法对消费者实施价格歧视行为的法律，利用《反垄断法》规制算法价格歧视是一个很好的选择。但是《反垄断法》在实际实施的过程中也存在一些困难：

1.《反垄断法》的适用主体范围过窄。上述条文中关于禁止实施算法价格歧视行为的主体，仅限于具有市场支配地位的经营者，据此规定，不具有市场支配地位的平台经营者利用算法实施的价格歧视行为不受《反垄断法》的限制，这使法律对价格歧视的规制范围变得十分狭窄。平台经营者利用算法实施价格歧视的前提是其能够获得大量用户数据和信息，以此进行差别定价。然而，在当前信息技术高速发展的环境下，利用算法实施价格歧视行为并不以平台经营者具有市场支配地位为前提。由于目前个人信息保护制度的不完善，平台经营者甚至无需自己收集消费者信息，借助网络、中介机构等媒介，不具有市场支配地位的平台经营者也可以轻易获取大量消费者的个人信息[8]。

2.算法价格歧视行为取证难度大。算法价格歧视作为一种大数据时代下的产物，其具有一定的特殊性，对于取证者的技术有一定的要求。而作为被差别定价的对象，消费者往往难以意识到平台经营者正在对其实施差别待遇，即使发现了这一行为，消费者常常难以举证[9]。同时，不仅是消费者，在实践中反垄断执法机构也存在取证难的问题。执法人员不仅需要法律知识，还需要具有一定的经济学和计算机科学知识，对平台经营者利用算法实施价格歧视的行为进行分析，综合判断平台经营者的行为。然而实践中具备足够知识储备的执法人员较少，导致反垄断机构面对平台经营者的算法价格歧视行为，也存在取证难的问题。

3.利用《反垄断法》进行个人诉讼效果不佳。《反垄断法》中没有对诉讼主体进行规定，根据《民事诉讼法》，诉讼当事人是与案件有法律上直接利害关系的公民、法人和其他组织。而在算法价格歧视的案件中，这类主体往往是消费者。但是这些消费者往往分布较为分散，个人的损失量也较小，面对程序复杂、成本较高、耗时较长的诉讼程序，消费者提起诉讼的意愿不高；而且在遭受同一经营者的差别对待的消费者中，由于彼此互不相识，联合起诉的可能性也不大。

三、算法价格歧视法律规制

（一）风险预防

1.算法公开。因为“算法黑箱”的存在，用户不知道算法的具体流程、步骤以及计算方式，只能知道他们的输入所对应的输出（如使用打车软件在选定目的地后弹出价格）。因此，打破“算法黑箱”对于算法的透明化以及对于算法价格歧视的预防具有重大意义。为此，我们需要公开算法，使用户能够像“白盒测试”一样，了解算法“背后的秘密”，降低被其价格歧视的可能性。例如欧盟于2018年5月25日出台的《通用数据保护条例》（General Data Protection Regulation，简称GDPR）就规定当数据控制者实施自动化决策时，应当向用户公开算法逻辑并提示有可能对用户造成的后果。近年来，我国也在算法主动公开方面做出了许多有益的尝试，但鉴于算法的复杂性，为了更好地预防算法价格歧视现象，商家不仅仅应当公开代码，更应当以便于用户理解的方式，解释其价格生成的算法决策原理，并明确告知其对消费者的利益影响；如没有告知且利用算法进行价格歧视，应当受到处罚。

2.个人数据赋权。个人数据赋权是指提高个人对于自身数据的控制，其与算法公开密不可分。因为算法公开保障了消费者对于算法的知情权，在此基础上，如果使“告知—同意”机制落在实处，消费者就能更好地做出有关其个人信息的决策，增强其对个人数据的控制权，从而从源头上预防算法价格歧视。例如在《用户服务协议》中，以醒目的方式（如字体加粗、标红）对与用户利益有重大关联的数据信息条款、算法解释说明条款进行着重提醒，或设置用户需阅读满一定时间后，才能进行下一步的操作。这样的方式虽在一定程度上降低了用户体验，但是却可以从源头上降低用户受到算法价格歧视的风险，从长远的角度来看，这样更有利于建立用户与平台间的信任。

3.完善立法。（1）将消费者保护引入《价格法》的不正当价格行为条款。随着经济社会不断发展，不正当价格行为不再仅仅局限于经营者之间，《价格法》应当与时俱进，将商家对于消费者的算法价格歧视行为也列入不正当价格行为条款。（2）完善《个人信息保护法》和《互联网信息服务算法推荐管理规定》有关“差别待遇”的认定标准。明确“差别待遇”和价格因价值规律上下浮动的边界，并详细拆分其证明标准，使“差别待遇”条款更容易被司法实践所接受。（3）修改《反垄断法》的算法价格歧视行为主体范围。其范围不应仅限于具有市场支配地位的经营者，也应包括利用算法价格歧视扰乱市场秩序，进行不正当竞争的中小企业。

（二）运作规范

1.算法运行需遵守公平性、保护性和非歧视性原则。（1）公平性原则。平台经营者在使用算法时，应当遵守市场交易规则，给予每一位消费者公平合理的待遇。不能利用算法赋予自己特权，也不应当利用算法为消费者打上不合理的标签，同时应当避免不公平的偏见，对每一个消费者平等开放平台信息。（2）保护性原则。平台应承诺妥善处理消费者的个人信息，对收集的信息进行充分保护，不随意使用消费者的个人信息或者将个人信息出售给他人。（3）非歧视性原则。算法在运行过程中不得具有歧视性或者偏向性。算法应当以为人们的生活带来便利为目的，而非为了使经营者获得更高的经济利益。基于此，算法的设计者应当平等地对待消费者，不得设置带有歧视性的算法。

2.加强市场监管，规范经营者在商业活动中的行为。与线下的交易活动相比，网络交易活动具有复杂性、多样性的特点，为有效实现对网络交易市场的监管，应当建立完备的监管机制。面对网络交易活动的特殊性，应当由多部门配合，共同实现对平台经营者市场交易行为的监管。（1）改进算法的监管机制。市场监管部门作为监管经营者的交易活动的主要部门，在对网络交易活动的监管过程中，应当充分发挥其监管职能，对平台经营者的行为进行管理和监督；同时设立大数据管理机构以及大数据监管平台，整合数据并对数据经济的发展进行管理和引导，弥补市场监管部门在人才、技术上的不足。（2）创新监管方式，加强监管力度。面对大数据对市场监管提出的新要求，市场监管部门应当创新监管模式，加强相关部门之间的沟通与配合，发挥各部门在平台算法的识别、审查、分析和监督过程中的作用，加强对网络交易平台的关注，明确交易活动中大数据和算法的合理使用边界，引导平台经营者合理使用算法，规范其网络交易行为。（3）注意算法的风险控制。如美国的《算法问责法（草案）》于2019年进入参众两院的立法程序，其中就规定了要求大型互联网企业评估其自动化决策行为并消除该行为对用户的负面影响，我国的市场监管部门也应当按时审查我国企业的算法风险评估报告，督促企业整改非法的算法歧视行为。

3.经营者自律。平台经营者利用算法实施价格歧视，其目的在于榨取更多的消费者剩余，据此，在明确算法运行原则、加强市场监管之外，还应当从经营者本身入手，加强对经营者约束，促使经营者提高社会责任感，使大数据企业间形成良性竞争。（1）发挥行业协会组织在规范本行业经营活动中的作用。行业协会应当结合自身对行业内具体情况的认识，根据本行业的特点，有针对性地提出对经营者的要求，并制定本行业的算法使用规范，约束其在交易活动中使用算法的程度和边界。同时，行业协会作为政府与企业间的桥梁和纽带，可以向政府传达企业的共同需求，并与政府共同实现对行业内经营者的监督和管理。（2）发挥大型企业的带头作用。大型企业的行为在一定程度上可以影响行业中的其他经营者，激励其他经营者实施相同的行为。因此，大型企业应当重视自身的影响力，自觉承担社会责任，带头学习和遵守法律法规和行业规范中规定的算法使用准则，从而影响行业的中小企业和其他经营者，促进整个行业共同实现正确使用算法的目标，从源头阻止算法价格歧视现象的出现。

（三）事后救济

1.完善消费者用户“删除权”的范围。我国《个人信息保护法》规定了消费者用户具有删除权，在一定程度上可以保护个人信息以及规制个人信息的滥用，减少算法价格歧视现象。但我国“删除权”对删除信息范围的规定不包括已进行处理或公开并扩散的数据信息，例如链接、副本和复制件，这会造成相关的风险隐患[6]。而且没有对信息处理者何时删除信息进行规定，这有可能导致经营者拖延时间，不删除用户信息。而欧盟GDPR对删除的范围规定更加详细，其规定了可删除已被信息处理者公开的个人信息数据，以及与个人信息有关的任何数据，包括链接、副本和复制件。以及规定了数据主体有权要求控制者毫不延迟地进行数据删除，数据控制者不得对删除数据进行拖延。对此，我们可以参考欧盟GDPR对删除权、被遗忘权的规定，完善我国消费者用户删除权的内容范围，更好地保障消费者权益。

2.构建有效且完善的救济体系。我国《民事诉讼法》第五十八条第一款规定了公益诉讼条款，侵害社会公共利益，法律规定机关和相关组织可以向人民法院提起诉讼。此外，最高人民法院发布的《关于审理消费民事公益诉讼案件适用法律若干问题的解释》中规定：“对于消费类民事诉讼案件，消费者协会可以向法院提起公益诉讼，维护社会公共利益。”算法价格歧视现象是对社会公共利益的侵害，代表公共利益的相关组织，如消费者委员会，可以向法院提起公益诉讼，向滥用算法的运行者追究民事责任。这有利于解决消费者个人诉讼维权难成本高的问题[10]。

3.加大对算法价格歧视经营者的惩罚力度。互联网的商业利益巨大，相比于巨大的财产利益，若违法运行算法所需的惩罚经济成本太低，则无法阻挡经营者进行算法价格歧视。我国《电子商务法》第77条规定，违反规定提供个性化搜索结果的电子商务经营者，最高罚款是50万元。50万元的罚款数额无法阻挡经营者继续进行算法价格歧视。《个人信息保护法》增加了惩罚力度，其第66条规定，违反规定处理个人信息，可罚100万以下罚款；情节严重，可没收违法所得以及处5000万元以下或者上一年度营业额5%以下罚款，可吊销营业执照。对于实施算法价格歧视的经营者的惩罚力度，可以依照《个人信息保护法》的惩罚力度，只有惩罚力度增强，规制力度加大，经营者才会有所顾忌。

四、结论

面对日新月异的智能算法发展，法律规制为技术创造与运用更完备、完美地服务人们的生存、发展利益提供保障，对于经济社会的健康发展有着深远的现实意义。对算法价格歧视进行法律规制不应当仅仅关注“价格歧视”本身，更应当透过现象看本质，打破“算法黑箱”，从算法运行的各环节对算法价格歧视行为进行规制。为此，我们应当构造算法价格歧视的全环节、全方位的法律规制制度，完善我国相关立法、执法、司法、守法、监督规定，规范算法适用的界限，以求在保护用户合法权益的前提下，使算法的潜在价值得到充分发挥。这不仅是符合市场竞争的现实需求，也符合法律维持社会稳定，维护人们合法权益的价值目标。