大数据背景下“算法杀熟”的法律规制

黄 毅 宋 子 寅

“算法杀熟”是大数据背景下一种典型的价格歧视行为，其以电子商务平台为基本场域，以交互频次高、价格敏感度低的平台用户为侵害对象，通过数据画像进行歧视性定价，在攫取消费者剩余的同时侵害消费者的知情权与平等交易权。“算法杀熟”是一种新问题，难以简单归入传统法律体系予以调整。随着《个人信息保护法》的出台以及国家互联网信息办公室等四部委联合发布《互联网信息服务算法推荐管理规定》等规范性文件的实施，我国对算法监管已初见成效，但仍存在预防机制缺失、算法解释机制不健全、相关救济机制不明晰等问题。本文采用成本—效益分析(cost-benefit analysis)方法，在谨慎把握权利保护与技术创新、消费者正当利益与商家经营自由相平衡的基础上，探究规制“算法杀熟”的法律路径。

一、“算法杀熟”的产生与危害

“算法杀熟”是价格歧视在数据算法加持下的异化表现。为把握其行为特性，对其设定合理的规制框架，需要分析其产生的机理，厘清其具体危害，进而划定规制的边界。

1.“算法杀熟”的产生

“算法杀熟”主要发生于电子商务领域，其实施主体是利用互联网技术为商品或服务的供给侧与需求侧提供聚合化链接机会的经营者——电子商务平台。电子商务平台在延续传统商务平台撮合交易的基本功能之外，利用其庞大的用户体量及用户的高交互频次，拓展平台的信息聚合能力，通过整理用户使用平台所产生的电子痕迹，与其他数据库对撞共享，得出可供分析利用的数据集，继而利用算法从数据集中挖掘数据价值，评估、预测用户的消费偏好与消费能力，完成对消费主体的数据画像，使消费主体在平台视角下呈现出标签化、量级化的数字人格。同时，平台摆脱了“单纯通道”(mere conduit)的束缚，不再局限于作为用户的媒介，而是在商品展示、商品定价、交易规则制定等方面扮演积极的角色。平台掌握、甄别消费主体的购买意愿及保留价格的能力，具备商业自主定价的权能，由此具备实施“算法杀熟”的基础条件。

市场具有自发的逐利性。电子商务平台获得收入的一般模式是，向商品或服务的卖方收取定额的平台使用费或参与卖方分成，并基于用户流量而获得广告费用。电子商务平台服务的高度同质化及平台用户的多属行为，“导致平台企业面对平台卖家采用了完全竞争市场的均衡定价，即均衡价格等于平台服务零边际成本”。如果平台追求企业利益最大化，其就会转向消费端获取剩余价值，通过控制商品定价，设置歧视性价格。电子商务平台作为独立经营、自负盈亏的市场主体，具有追求利益最大化的本性和通过算法定价攫取消费者剩余的资源基础，在此情势下，必然产生“算法杀熟”现象。

2.“算法杀熟”的具体危害

“算法杀熟”较之传统的价格歧视，除了实施手段高度技术化，还有三方面特点。第一，涉及范围广。数字化的虚拟性带来网络空间的跨时空性，人们不再需要以身体的实际嵌入作为交易的前提，只需注意力在场即可实现交易目的，交易模式从卖家与买家“点对点”发展为电商平台与消费者“点对面”。平台无须与作为交易对象的消费者提前熟识，就能通过换取其他平台的数据库等方式判断某一新用户的消费能力，价格歧视的影响空间由此拓宽。第二，隐蔽性强。数字化交易中消费者在物理空间上相互分隔，缺乏进行现实交流、比价的机会。以往的价格歧视缺少智能化的定价模型和便捷化的改价机制，集中表现为直接定价差异，即不同消费者报价不同。平台将数据算法引进交易市场后，折扣、优惠、返现各不相同的间接定价差异得以凸显。第三，准确度高。目前，“算法杀熟”多表现为根据消费者需求弹性不同而分类定价的三级价格歧视。随着数据画像技术的发展，平台可以提高消费者标签化的分类度及预测支付意愿的精准度，“算法杀熟”将逐渐走向按消费者支付意愿的上限定价，从而完全攫取消费者剩余的一级价格歧视。

平台合理运用数据算法技术，有助于挖掘消费者需求，提供更加个性化的服务，进而提升自身市场竞争力。但是，平台所提供的定制化服务与已经形成的个性化数据会产生较强的锁定效应，加大用户在不同平台系统间切换、转移的成本，使用户难以摆脱被歧视的困境。“当伦理困境不再处于矛盾状态时，这个决策就因为机器算法而具有唯一性，其结果一旦被法律所采纳，对于被牺牲的一方来说会在法律的框架下被‘合法’地歧视。”“算法杀熟”较之传统价格歧视更具危害性，必须施以必要的法律规制，使定价算法朝着正确的方向发展。

二、“算法杀熟”的相关规制检视

伴随着社会各界对“算法杀熟”的广泛关注，相关规范性文件陆续出台。然而，我国针对“算法杀熟”的规范体系仍处于基础架构阶段，内容覆盖并不全面且缺少一些必要的机制。

1.“算法杀熟”的规制状况

近年来，我国已有一些法律、行政法规对“算法杀熟”进行规制。2020年文化和旅游部发布的《在线旅游经营服务管理暂行规定》第15条规定，“在线旅游经营者不得滥用大数据分析等技术手段，基于旅游者消费记录、旅游偏好等设置不公平的交易条件，侵犯旅游者合法权益”。该规定旨在遏制旅游平台的“算法杀熟”行为。2021年国务院反垄断委员会发布的《关于平台经济领域的反垄断指南》，从维护市场竞争秩序方面对“算法杀熟”进行限制。在大数据背景下，“算法杀熟”会阻止平台经济市场上的新进入者并妨碍创新，鉴于此，该指南第17条限制具有市场支配地位的平台组织对同等条件的交易相对人实施差别待遇。我国《个人信息保护法》从个人信息保护的角度对“算法杀熟”进行规制，其中第24条第1款要求“个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇”，第66条明确了违反该条款的法律责任，第69条设置了有利于消费者的举证责任倒置规则。国家互联网信息办公室等四部门发布的《互联网信息服务算法推荐管理规定》自2022年3月1日起施行，从算法管理层面细化了《个人信息保护法》关于“算法杀熟”的规定。其中第21条规定：“算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。”该规定通过推进针对算法推荐服务的综合治理，遏制“算法杀熟”行为。

2.“算法杀熟”的规制困境

“算法杀熟”带来的风险是人工智能时代数据算法高度技术化风险的一种表现。算法既是风险的成因，也是规制风险的主要手段。我国现行法律规范中对“算法杀熟”已有初步的监管模式，但相关内容的原则性较强，缺乏一些必要的机制。

(1)消费者福利调控之困：缺乏事前的政府监管机制。“算法杀熟”与以往反不正当竞争法重点关注的排他性价格歧视不同，其直接指向终端消费者，造成的损害主要存在于经营者与终端消费者之间。在“算法杀熟”的影响下，每个消费者以趋近于其保留价格的消费意愿购得产品，平台通过定价杀熟使消费者剩余向生产者剩余转移。不能单纯依靠平台之间的自然竞争来维护消费者获得福利的秩序，还需通过政府部门“看得见的手”对算法定价加以引导与合理规制。对于数据算法的监管，《互联网信息服务算法推荐管理规定》第23条建立了分级分类安全管理制度，根据算法推荐服务的内容类别、用户规模等对算法推荐服务的提供者实施分级分类管理；第28条要求网信部门会同电信、公安等有关部门依法开展安全评估。这种监管针对算法的安全性而非算法的合理性，并不能将“算法杀熟”行为纳入监管范围。“算法杀熟”被发现时往往已造成极大的损害，因而应由政府部门建立事前监管机制予以调控。

(2)消费者信息知情之困：缺乏事中的算法解释机制。网络平台经济的一个显著特征是消费信息不对称加剧，消费者缺乏对商品或服务定价因素的了解。在传统消费模式下，关于价格的消费信息不对称主要源于商品或服务的技术专业性及地域障碍，消费者缺乏对商品本身和市场整体的了解。随着平台经济的兴起，产生了新的信息鸿沟——算法定价导致消费者难以验证平台产品价格的合理性。平台与消费者作为市场核心主体，能够获得的信息数量、质量、范围不同，导致信息地位不平等。消费者处于信息弱势地位，无法基于充足、准确的信息作出意思表示，平台则利用自身信息优势转嫁成本。这种消费信息的不对称，源于定价算法的不透明性。算法不透明性的原因有三方面：其一，算法可能作为商业秘密被纳入法律保护范围，产生法定的不透明；其二，算法本身的“专业槽”使得其内在机理和运作过程很难被理解，产生技术的不透明；其三，算法的开发使用者有限地公开数据输入与结果输出的处理路径及对应关系，产生披露的不透明。算法作为技术工具涉及平台进行商业角逐的核心竞争力，其运算模型的生成与设置通常处于秘密状态。消费者对平台商品或服务的价格形成机制难以了解，将影响消费决策的质量，甚至引起消费环境恶化。针对算法透明度不高的问题，我国《个人信息保护法》第48条规定了信息个体要求个人信息处理者对其信息处理规则进行解释说明的权利，《互联网信息服务算法推荐管理规定》第16条设置了算法推荐服务提供者对算法推荐服务的基本原理、目的意图及主要运行机制的告知义务。前者属于被动说明，后者属于主动公开。不过，这两个条款都没有具体要求说明与公开的明确度。如果说明与公开的信息十分模糊，难以为消费者理解，仍然无法消除消费信息不对称。因此，应当设立事中的算法解释机制，将消费者的知情权落到实处。

(3)消费者平等维权之困：缺乏事后的侵权救济机制。“算法杀熟”带来交易上的不平等。这既源于平台追求市场扩张、占有消费者财富的经营目的，又源于平台缺乏成本依据的差别定价模式。算法的设计和使用内含着设计者与使用者的个人价值观念与期待偏好，在平台的利益取向与消费者的利益取向并不一致甚至背道而驰的情况下，算法在客观上会帮助平台实施差别定价，造成“算法杀熟”，侵犯消费者的平等交易权。对此，应当赋予消费者寻求事后救济的权利。我国《个人信息保护法》第69条规定的举证责任倒置规则有利于对消费者进行倾斜保护，但消费者作为个人面对平台企业仍显势单力薄，还需要第三方主体协助、社会问责等救济机制。“算法杀熟”的危害主要表现为平台资本的逐利性对消费者权利保护造成不利影响。为改变消费者权利保护不足的状况，有必要通过法律手段对平台行为进行规制，确保定价算法的合理性。

三、“算法杀熟”的法律规制路径优化

数据算法有其独特的价值，相关法律规制应既能避免算法被滥用，又能保证合理的规制限度以增进社会福祉。笔者认为，合理的规制路径应当是：采用成本—效益分析方法把控规制的限度，综合研判算法对经济运行效率及社会发展的影响、对经营者商业运营与创新能力的影响、对社会公共利益及消费者合法权益的影响等方面情况，避免应对科技风险所采取措施的成本过高。具体而言，应当设立政府监管机制、算法解释机制与侵权救济机制，使之作用于平台经济中算法运行的不同阶段并予以全程监管，鼓励多元主体参与解决算法的合理性问题，最终实现对“算法杀熟”的合理规制。

1.构建政府监管机制，实现消费者福利与生产者福利的平衡

目前，我国对“算法杀熟”采取多部门联合监管的规制方式，“这表面上体现了对相关问题的重视，但有时却可能恰恰暴露了没有哪一个部门能够真正对该问题负责”。因此，需明确一个具体的监管部门，将规制措施统一于一个法律制度框架内。为此，可采取两种思路：一是依据现有行政规制体系，将防范算法风险的职责划归行政职能与此最相符合的部门或机构；二是突破现有行政规制体系，设立一个新的行政部门，专门负责防范算法风险。从目前的相关实践来看，可采取前一种思路，由商务部电子商务和信息化司具体负责算法风险的防范。从长远来看，随着数据算法技术的进一步发展，其所带来的技术风险会更多显现，有必要设立一个具有前瞻性、针对性的专门部门或机构，以纾解技术风险的张力、弥补规制体系的不足。该部门的主要职责是：为数据算法制定行为准则；确保个人数据与匿名数据的安全性；设定算法设计与操作的标准。

政府监管的重点在于合理利用调控手段，从社会整体视角对各方权益进行平衡保护。价格是市场经济的核心要素，规制“算法杀熟”应从价格角度展开。在监管工具方面，应采取动态的价格管理方式，为算法定价提供行动指引。在环境建设方面，灵活运用“控制—命令”型施压机制与“激励—诱导”型促进机制，给予外部压力时不忽略供给侧和需求侧刺激，发掘算法设计与控制者的内生动力，推动商业模式与技术模式合理化。在监管能力方面，可采取吸收化模式，在监管制度设计中注意发挥技术手段对平台的监督功能，以降低监管成本、合理配置执法资源并提高行政效率。“反观人类技术的发展规律，当立法设计更加主动、动态地响应技术发展时，技术创新和应用才有可能带来更为积极的整体社会效用。”政府监管不会减损技术发展的自主性，反之，通过协调顶层设计、统合监管部门与监管政策、合理配置调控手段，能够在鼓励技术创新的同时弱化甚至消除技术异化对消费者福利的影响。在定价算法的政府监管方面，也是如此。

2.构建算法解释机制，实现保护消费者知情权与平台创新动力的平衡

应当设定合理的公开方式，将算法的透明度提升至合理的范围内，确保算法的运行过程与运行结果可信可责，从而弥合技术鸿沟、保障消费者知情权。在构建信息披露机制时，要确保有关主体权责平衡、解释标准科学合理。为促进信息从优势方向劣势方流动，有学者提出赋予用户算法解释权，以矫正其信息劣势地位。但是，这一权利配置并不能有效制约算法的隐蔽性，“算法监管措施与算法责任的配置主要解决的是算法监管的便利性及可得性问题”。让平台承担算法解释责任并由行业组织予以监督，可以消除算法不可解释之隐忧。第一，基于平台解释的便利性，将解释义务分配给平台具有合理性。平台无论是作为算法的设计者与使用者，还是单纯作为算法的使用者，其输入数据、配比权重并导出结果，较之其他主体，具备解释算法决策过程与决策结果的便利性。第二，将算法监管职责划归行业组织，符合行业自律的要求。较之普通用户和政府部门，平台行业组织拥有充分的算法技术知识，能够结合产业信息，辨识平台披露算法的充分性与完整度；其设立行业标准无须遵循严格的法律程序，可以在发挥灵活性优势的同时设计较高的行业行为标准，以强化行规约束。政府部门无须事必躬亲，也无须过多赋权消费者，只需发挥行业自律、技术标准等规制机制的作用，鼓励平台与行业组织自我建构算法解释机制。这符合社会效益优先的理念，也符合简政放权的要求。

为防范算法解释流于形式，需要为不同的算法内容设置不同的价值项。根据功能定位的不同，可将算法内容分为算法架构信息与算法权重信息，前者包含建模工具、预定义模型、模型设计原理、决策树类别、运行逻辑等算法系统架构的基础信息；后者包含特定决策规则、功能加权、价值定义标准、关键变量值等使算法作出具体的自动化决策的价值信息。针对前者，需采取可判断性标准进行解释，披露内容仅需达到技术人员可基于此实现算法安全认证及故障诊断修复的解释程度；针对后者，需采取可理解性标准进行解释，披露内容需达到平台用户与政府部门可基于此判断用户数据信息类别与决策结果之间逻辑权重关系的解释程度。算法解释是实现消费者知情权与平台商业利益的结合点，政府应鼓励平台行业建设自治性监督管理机构，促进行业内部形成统一的算法规范，“切实赋予主体知晓并理解算法运行逻辑的权利，进而为公众践行正当程序权利提供行动基础”。

3.构建侵权救济机制，实现消费者平等交易与平台自主定价的平衡

为弥补政府监管在数据算法场景下的效用不足，需引入多元社会主体，形成社会规制体系。社会监管主体主要包括消费群体和第三方组织。作为消费者的用户是“算法杀熟”的直接侵害对象，也是直接对抗或排斥“算法杀熟”的重要力量，较之其他主体具有更大的纠偏动力。但是，由于平台经济对用户的区隔、算法定价的高频变更以及“算法杀熟”极具隐蔽性，消费者很难在特定交易中识别“算法杀熟”。引入学术组织、媒体等第三方作为算法识别的外部力量，可以弥补消费者自我识别的能力不足。

在救济方式上，依据我国《个人信息保护法》第69条规定的“根据实际情况确定赔偿数额”，可以构建以市场价为基础的用户利益损失计算标准，促进平台方积极赔付。同时，畅通用户申诉渠道，由消费者协会对用户的投诉内容进行整理核实，突破传统的“权利保护—司法救济”方式，在算法造成显著损害前介入规制，并赋予消费者对算法程序质疑的权利。第三方组织可以建立自主评估结果公示平台，通过专业人员验证电子商务经营者进行算法披露的真实性与可信度，建立失信平台黑名单，强化社会监督的作用。当平台运营受到社会化监管时，不仅能增强算法结果的透明度与可责性，还可使定价算法在整个运行周期内都受到监管评估。

四、结语

“社会的进步离不开先进技术的开拓者，更离不开基本价值的守望者。”在保障社会安全、维护公共秩序、增进人民福祉的前提下进行技术创新，是网络经济发展的应有之义。我们应以发展的眼光和理性的态度看待数据算法的效应。作为一项先进技术，算法有助于提供个性化的购物建议，降低检索与交易成本，促进消费增长，但也可能导致利益失衡。应当针对数据算法的特性，设计具有谦抑性的法律制度，使算法技术回归其本来目的——使我们的生活更美好。为此，应当构建政府监管调控机制、算法解释机制、侵权救济机制相协调的系统的规制体系。其中，政府实施强制与激励双重监管，平台增强算法的透明度与可解释性，社会力量进行事前事后监管。政府为平台自我约束提供柔性环境，为社会监管提供规范依据，形成多元共治体系，有效应对算法定价带来的风险。

①消费者剩余是指，消费者消费一定数量的某种商品愿意支付的最高价格与这些商品的实际市场价格之间的差额。②参见汪旭晖、张其林：《平台型网络市场“平台—政府”双元管理范式研究——基于阿里巴巴集团的案例分析》，《中国工业经济》2015年第3期。③徐琳：《人工智能推算技术中的平等权问题之探讨》，《法学评论》2019年第3期。④消费信息不对称是指，生产经营者对商品拥有比消费者更多的知识和信息，包括产品的质量、原料构成、性能、制作方法、用途、生产成本等，由此形成一种在信息占有上卖方具有优势、买方则处于劣势的不均衡状态。参见刘大洪、廖建求、刘建新：《消费信息不对称的法律规制》，《法学论坛》2003年第4期。⑤李洪雷：《论互联网的规制体制——在政府规制与自我规制之间》，《环球法律评论》2014年第1期。⑥⑨张欣：《算法解释权与算法治理路径研究》，《中外法学》2019年第6期。⑦参见张凌寒：《商业自动化决策的算法解释权研究》，《法律科学(西北政法大学学报)》2018年第3期。⑧苏宇：《算法规制的谱系》，《中国法学》2020年第3期。⑩[德]马克斯·韦伯：《论经济与社会中的法律》，张乃根译，中国大百科全书出版社，1998年，第63页。