蔡志莹
(香港中文大学 政治系,香港 510630)
自农业经济、工业经济后,我国迎来了新的重要经济形态——数字经济,数字经济以数据作载体,推动了经济结构的转变。随着技术水平不断提升,以数据为基础的算法在社会各领域中广泛使用,数据算法在打破时空阻隔促进经济繁荣发展的同时也带来了数据泄露、滥用等现象,其中比较常见的是算法价格歧视。算法价格歧视是数字经济新产物。2018年3月以来,网约车、在线旅游等服务平台都相继爆出滥用APP用户消费信息进行差异化定价,被指责为“大数据杀熟”,具体表现为使用平台的老用户比新用户价格高,会员比普通用户价格高。[1]商家通过收集消费者个人信息、消费喜好、消费价格等数据进行分析与设定,并对消费者精准定价,以“千人千价”的方式尽可能多地攫取消费者剩余,从而使商家能实现利益最大化,这种方式在经济学中是称作“价格歧视”,通俗称作“大数据杀熟”。事实上,价格歧视有三种表现形式,一级价格歧视可以理解为根据人进行定价,不同人不同价格;二级价格歧视根据数量进行定价,购买商品数量越多价格越便宜;三级价格歧视根据人群进行定价,学生、老人、特定职业等群体给予优惠政策。算法价格歧视就是数字经济时代的一级价格歧视。[2]
算法价格歧视行为涉嫌侵犯消费者隐私权、公平交易权,严重的甚至会涉嫌构成诈骗罪。当具有市场支配地位的经营者实行差别定价时,还会涉嫌构成垄断行为。有学者基于维护消费者利益的目的,主张此类剥削型滥用行为应被纳入反垄断法的规制范围内。[3]有学者从经济学和博弈论角度出发,其认为大数据杀熟是经济学完全价格歧视行为的表象,体现了新制度经济学中买卖双方对信息产权的诉求,消费者应主动利用市场提供的机会为自身争取权益。[4]也有学者认为大数据杀熟本质上应定性为价格欺诈行为,应通过立法明确价格欺诈行为的内涵及其构成要件,以消除法条竞合之乱象。[5]不难发现,价格歧视行为存在规制的必要性,但学者们的看法比较侧重于某一方面,缺乏部门法衔接思维以及监管层面的考量。而且,现行法律中《中华人民共和国消费者权益保护法》(以下简称《消费者权益保护法》)、《中华人民共和国价格法》(以下简称《价格法》)、《中华人民共和国反垄断法》(以下简称《反垄断法》)均有法律条文对算法价格歧视进行规制,但上述条文较为原则与模糊,无法为规制算法价格歧视提供有效指引。基于此,本文拟梳理算法价格歧视的技术逻辑与危害,剖析各部门法规制算法价格歧视的困境,从而构建可行的因应之策,以期对维护市场秩序以及消费者权益有所裨益。
人工智能时代下,大数据已然成为一项新兴、核心、高价值的资产。在交易消费领域,大数据与算法的结合使精准营销和个性化服务成为可能的同时也为经营者侵蚀消费者福利提供了机会,算法价格歧视便是这一问题的真实写照。
算法价格歧视是平台通过收集、整合消费者个人信息进行差别定价的行为,包括有价格歧视、性别歧视、种族歧视等,其中按照行为机制,利用算法技术实施价格定价的行为可以分为信息采集、信息推送、个性化定价三个阶段。[6]信息采集主要是收集消费者个人信息数据,在数字经济时代之下经营者平台可以在消费者授权之下获取支付意愿、地理位置、资产状况、兴趣爱好、价格敏感程度等信息,而且平台可以通过后台追踪收集同一个电子设备或者同一个账户在不同APP平台的登录信息、浏览记录,使得数据的获取具有实时性和多元性,通过平台的数据采集为后续的推送、定价提供计算基础。信息推送是在对消费者个人信息采集基础之上,进行信息识别计算分析出消费者的偏好后向目标群体推送不同价格的产品或者同一产品的不同组合搭配。例如:网购平台的首页界面是根据用户购买记录或浏览记录推送类似产品,如果用户对推送产品不满,可以自行对该产品选择“不感兴趣”“不想看这类产品”“已经买了”等选择,用户的选择为平台提供了再次数据采集的机会。平台通过多次信息收集逐渐完善数据库,从而提高推送的精准度。个性化定价则是针对目标群体推送后进行不同的价格呈现,给予价格敏感度低的用户高价、价格敏感度高的用户低价;给予消费水平高的用户高价,消费水平低的用户低价。据北京市消费者协会进行互联网大数据杀熟问卷调查结果显示,有85.38%被调查者认为大数据杀熟体现在同一时间不同用户购买相同商品或服务的价格不同,并且82.37%被调查者人认为大数据杀熟现象非常普遍并且都曾经有过“被杀熟”的经历。[7]
在传统交易场景中,由于经营者对消费者的数据采集面比较窄,通常以线下消费方式为主,经营者商品服务定价主要依据成本定价和市场供求状况。而在数字经济时代,伴随着消费者线上消费的转型,经营者不仅拥有海量的数据库,还有后台的算法技术支撑。大数据、算法等数字技术的广泛应用,算法价格歧视使经营者可以将潜在的消费者群体在个体“微粒”层面上进行解构、分析和预测,即每个个体都被匹配了差异性价格。[8]相较于传统杀熟,数字经济时代下的价格歧视准确度更高、隐蔽性更强、涉及面更广、规制难度更大。[9]随着技术以及数字经济的发展,数据和算法成为经营者能否在市场竞争中脱颖而出的关键一环。
数字经济之下,数据成为重要资源之一,定价算法的出现将经营者与消费者之间的关系逐渐转变为数据与数据之间的关系,其危害性也逐渐显露。[10]
1.违背价格适用的平等性。2022年北京市消费者协会调查报告显示,有84.64%消费者认为大数据杀熟会透支消费者信任,降低企业信誉,导致消费者成为交易过程中的被支配者。[7]比如:在网购平台交易中买卖双方都是以自愿平等原则进行,形式上是公平的,但实质过程中可能存在不公平,卖家给买家呈现的价格是利用信息优势进行一系列数据计算分析所得出的最大利润成交价,本质上违背了社会公众关于“明码标价”的常识性定义,不应当认定为“明码标价”。[11]原因在于《价格法》中要求明码标价是需要注明商品的品名、产地、规格、等级、计价单位、价格或者服务的项目、收费标准等有关情况,社会上消费者认知的明码标价是公平公开标注商品价格,不因人而异。平台算法定价在不同手机设备、对应人群、登录账户都设定了不同的呈现价格,既违反了价格法中明码标价的要求,也违背了价格适用对象的平等性,形成了不公平的差别对待。
2.个人信息滥用风险。不当的数据收集一方面会加剧信息不对称状况,另一方面会导致个人信息遭到滥用。平台通过对消费者的行踪、生理特征、婚姻状况等隐私数据的收集,并对消费者进行群体划分,逐渐由个体隐私层面向集体隐私层面渗透。[12]在平台获得海量消费者个人信息进行使用过程中不可避免地侵害消费者的合法权益,导致信息泄露、信息滥用、信息共享等情况发生。典型表现是是商家在获取消费者手机号码后,未经消费者授权向其手机发送商品广告信息,甚至严重困扰消费者生活工作;又或者擅自把手机号码等信息共享给其他商家,侵犯了消费者隐私权,存在违反《个人信息保护法》的可能。
3.攫取消费者剩余。算法价格歧视同样存在攫取消费者剩余价值的可能。市场上每一位消费者的消费观价值观都存在不同,比如:同一部手机,A可以接受的最高价位是5000元购买,B是4000元,若手机售价4500,则A购买手机后剩余500元,B可能会放弃购买,此时商家利润收入为4500元。但在算法价格歧视之下,商家可以通过数据计算,给A呈现价格是5000元,B呈现价格是4000元,则此时A和B剩余为0,商家利润收入为8000元,此时商家不仅可以实现利润最大化,还可以最大程度攫取消费者剩余,长期来看这种方式会在无形中改变了消费者的消费习惯,看似优惠的交易之下其实是增加了消费者的支出,致使消费者利益受损。
4.破坏公平竞争市场。价格歧视行为带来危害后果之一是破坏了公平竞争市场,公平的竞争市场才有助于推动创新,创新能带来高质量的经营水平,从而带动经济高质量地发展,其中价格机制是影响市场机制的关键性因素,处于核心地位。[13]经营者拥有自主定价权,但经营者拥有该权利并不意味着定价不受法律的约束,价格本质应由有供求关系决定。实际上,在算法、网络数据、平台技术交织下差异定价、价格歧视拥有各式各样的表现形式,准确认定存在价格歧视的行为面临着很大挑战,法律认定、实际操作中都有待深入探索。
不难发现,“价格”由供求关系到数据算法决定的转向使得经营者不断攫取消费者剩余,实现了自身的利益最大化,甚至扰乱市场秩序,加剧垄断,对其进行规制迫在眉睫。
如前所述,算法价格歧视的个体损害因为消费者基数的影响而被无限放大,这就意味着对其法律规范与行政监管亟待回应。遗憾的是,当前我国《反垄断法》《价格法》《消费者权益保护法》《中华人民共和国民法典》等部门法无法妥善应对算法价格歧视,具体表现在行为违法性认定困难、法律责任模糊、监管机制缺失等方面。
新修订《反垄断法》针对数据滥用、算法技术进行了限制,增加第九条规定经营者不得利用数据和算法、技术、资本优势以及平台规则等从事本法禁止的垄断行为;第二十二条规定具有市场支配地位的经营者不得利用数据和算法、技术以及平台规则等从事前款规定的滥用市场支配地位的行为。随着现代数字科技发展衍生出利用数据、算法、技术等方式进行垄断,反垄断法也在法律层面上针对数据领域垄断行为进行限制。算法价格歧视与差别待遇行为关系密切,但两者存在本质区别。
首先,《反垄断法》第三条规定的垄断行为针对的是经营者,第二十二条第六款规定“没有正当理由,对条件相同的交易相对人在交易价格等交易条件上实行差别待遇。”该“交易相对人”是否包含“消费者群体”国内学者存在不同见解。[14]一方面,反垄断法设立的初衷是规制经营者之间的不正当垄断行为,因此,交易相对人范围不包含消费者群体。另一方面,《反垄断法》第一条明确了制定本法为了维护消费者利益,消费者保护是围绕的目的,交易相对人范围应当包含经营者和消费者。价格歧视、不公平定价、算法垄断等行为其涉及的主体既可能是经营者,也有可能是消费者,实际中也还是需要结合具体行为和案情进行分析。其次,在《反垄断法》第二十二条第二款明确了实行价格歧视的经营者需要具有市场支配地位,因此若引用该条款进行控诉还需证明经营者符合具有市场支配地位,指控经营者实施差别待遇行为的前提是该经营者具有市场支配地位。一方面,自动化定价往往发生在生活消费领域,中小型企业与商家占绝大部分比例,无论参考市场份额还是其他市场要素,上述经营者均不具备市场支配地位,因而无法被认定为差别待遇。另一方面,如何界定“市场支配地位”难度也很大,互联网的环境容量以及消费者信息不对称使得界定互联网中的“相关市场”和认定“市场份额”显得更加艰巨,很难清晰判断互联网公司的相关市场以及市场份额。[15]在不同市场认定企业市场份额也有所不同,而目前很多数字平台巨头在诸多领域处于强势地位,比如美团在市场中占领的份额不仅有外卖市场,还有酒店市场,在认定市场份额中单独计算还是分开计算都会影响最终市场支配地位的认定。[16]再有,《反垄断法》第二十二条第六款规定,差别待遇的前提是经营者无“无正当理由”,但在法条中没有对“无正当理由”进行解释,导致认定过程难度陡增。而且,面对消费者的指控,经营者往往以定价算法测试、优惠活动、程序错误以及商业秘密等理由进行抗辩,尤其是以涉及商业秘密为由进行抗辩屡试不爽,普通消费者的权益依旧得不到有效保障。因此,依据《反垄断法》认定算法价格歧视的难度较大,适用主体、市场地位认定、理由认定都存在明显的争议和困境。
在个人信息保护层面上,我国于2021年11月颁布《个人信息保护法》,将个人信息安全问题通过专门的立法进行保护。其中第二十四条规定个人信息处理者利用个人信息进行自动化决策,应当保证决策的透明度和结果公平、公正,不得对个人在交易价格等交易条件上实行不合理的差别待遇。该条款对通过自动化决策方式进行价格歧视做出规定,从个人信息层面上提供保护路径,通过对个人信息处理者活动的约束来解决杀熟问题。此外,第六十六条明确了违反规定的,将对违法应用程序、直接负责的主管人员和其他直接负责人员进行处罚,以及第六十九条设置了过错推定、举证责任倒置规则,但该法在约束价格歧视上也存在不足,比如在二十四条中约束行为限定在“自动化决策”,所谓自动化决策是通过计算机程序进行决策的方式,人工决策进行价格歧视是否属于规制的范围存在争议。若“人工决策”不属于规范的对象,平台明面上采取人工决策方式,暗地里采取自动化决策方式,给认定违法行为增添了难度,以及该法规定应当保证自动化决策的透明度,但没有明确信息透明的适用范围,经营者同样可以以商业秘密保护为由逃避责任。
在技术层面上,我国对个人信息保护领域偏向于静态的存储保护,对个人信息流通过程中的保护存在漏洞。在数字经济时代,数据需要在无形世界中进行交换、流动才能实现其价值;并且在智能技术的支持下,数据流动速度非常快。上述情形给个人信息处理者的认定带来了很大的挑战,即便《个人信息保护法》的出台对个人信息处理者行为进行了限制,但像黑客入侵、内部员工买卖客户个人信息的现象仍然常见。公安部2022年发布的2021年侵犯公民个人信息犯罪十大典型案例中,有通过暗网操作出售个人信息谋取不法利益、利用空壳公司与电信运营商签订合同非法获取数据、诱骗电商平台点击木马链接、技术支撑下突破公司验证机制非法获取、非法搭建虚假网站、利用快递公司整理包裹偷拍快递单等非法方式窃取公民个人信息进行牟利。[17]不法分子或者平台窃取个人信息方式非常多样且变化莫测,对普通公民而言是防不胜防,也正是因为有太多个人信息遭到泄露才给商家提供了精准推送、价格歧视的机会。
算法技术高深且具有隐蔽性和复杂性,行为认定难度大,消费者举证成本高。对于消费者而言适用《消费者权益保护法》分析大数据价格歧视行为认定问题更为贴切。[18]《消费者权益保护法》第十条规定“消费者享有公平交易的权利”,即消费者在交易中有权获得价格合理的公平交易条件,算法价格歧视给予不同消费者不同价格是违背了公平交易条件,但消费者作为弱势一方在信息不对称情况之下难以去判断和证明消费的价格是否合理公平。一方面,消费者需要主观去判定价格是否合理,但碍于消费者价格鉴定能力有限,难以衡量价格尺度,甚至对于经济收入水平较高消费者,其在消费过程中对价格敏感度较低,难以察觉价格是否合理公平。另一方面,消费者需要结合客观与其他消费主体进行对比才能得出价格是否合理,然而,绝大部分消费者不会关注别人的价格,也没有太多时间、条件去关注。通常认定价格歧视行为需要同时满足商品相同、消费者条件相同、价格不同,但在算法背景下的交易活动中,要清晰判定出“相同产品”“相同条件”成本极高。[19]综上,《消费者权益保护法》是维护消费者权利的核心法律,但其在规制算法价格歧视方面仍存在不敷适用之处。
监管机关对算法价格歧视的有效监管问题同样存在不足。首先,法律层面《互联网信息服务算法推荐管理规定》第八条规定算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等,但实际监管中如何能保证算法推荐服务者进行了定期审核以及审核的深度、广度值得考量。其次,算法技术具有长期性,经过长期数据收集整合而来,而算法过程复杂且技术逐渐提升,对于监管一方来说在技术层面也是一个挑战。再者,算法作为一种技术手段本身具有合理性,算法技术日益成熟直接改变了企业经营方式和消费者消费方式,合理的算法技术可以提高企业的经营效率,不会损害消费者权益也不扰乱市场正常竞争,这就要求监管过程中需要明确区分合理算法行为与不合理算法行为以及避免经营者以合理算法行为掩盖不正当经营行为。可见,算法技术复杂性决定了算法机制监管难度大,监管难度的增加导致价格歧视的法律认定困难重重。
上述法律困境是数字经济时代体系带来的挑战和机遇,积极应对能有效规制算法价格歧视行为,需要在法律表达和行政监管两个层面形成合力。如此,方能实现对算法价格歧视的有效治理。
《电子商务法》顺应了电商行业快速发展过程出现的法律问题,出发点是为了规范电子商务行为,对《电子商务法》相关条文的检视与完善有助于促进电子商务健康发展。算法行为涉及方方面面,绝非单独一个法律可以解决,现行的法律法规规范中有相关法条是对算法价格歧视进行规制,《消费者权益保护法》《反垄断法》《价格法》条文表达存在模糊、主体不适用等困境。随着经济和技术的发展,现有的法律法规规章确实不足以规范价格歧视,法律本身有滞后性,法律的发展难以跟上技术的调整,适当调整法律规定将有利于提高对价格歧视的规制。算法价格歧视行为属于互联网电商行业的经济行为,适用的场所比较贴合,可以作为认定数据算法价格歧视的参考法律。
《电子商务法》第十八条描述了数据杀熟的行为,但在具体适用中存在模糊性和争议性,主要存在争议该条第一款“价格”是否属于该条款中“搜索结果”的范围,消费者在使用平台过程中通过搜索,目的是想找到相关的产品、服务,其中也应当包括价格,产品质量和价格是消费者重点关注对象,从消费者角度出发“价格”应当属于“搜索结果”范围。另外,以购物平台为例,在搜索栏输入关键词后可以在“筛选栏”进行设置,设置包括了发货地、是否包邮、价格区间,可以看出“价格”是关键因素之一,从平台角度来看“价格”也应当属于“搜索结果”范围。法律解释的最终目的是探究法律在法秩序的标准意义,通过法律解释明确消费者的搜索结果包含商品的价格,价格歧视行为就可以归入《电子商务法》第十八条规制范围内,将为规制算法价格歧视行为提供最优法律解决路径,提高司法效率。[20]
妥善处理消费纠纷才能更好地维护消费者合法权益,在我国现行法律制度下适用举证责任倒置主要有特殊侵权诉讼和劳动争议诉讼两大类,考虑到这类案件原告作为被害方地位处于弱势地位,存在举证困难的处境,被害方诉讼请求难以实现,如果严格按照原告方承担举证责任可能会引起裁判结果与正义相抵触,将有悖于实现公平正义的问题,因此有了举证责任调整的必要性。
算法价格歧视行为背后是平台算法技术和数据整合的驱动,在平台和消费者互动中,平台掌握了主动权,消费者处于被动一方,双方处于非平衡的地位,算法价格歧视主要利用了平台与消费者之间不对称的信息壁垒,若适用“谁主张谁举证”举证原则,将由消费者承担举证责任,而重要的算法技术和数据信息均在平台方手上,消费者需要面对举证难、维权成本高的现实问题,一旦平台以新用户优惠、平台实行促销活动、产品存在差异性等进行抗辩,将置消费者于无力反驳的处境。若适用举证责任倒置,消费者仅需对价格歧视受到的损害承担举证责任,平台对是否存在价格歧视行为、因果关系、主观意图是否故意承担举证责任,将有利于增加消费者维权意识,打击价格歧视行为。为了鼓励消费者积极维权,降低维权成本,需要解决消费者和平台地位失衡的困境,对消费者和平台举证责任进行调整具有重要现实意义。
在算法价格歧视案件中,应当根据案件实际情况重新分配举证责任,考虑平台掌握了算法技术和数据信息,参考《消费者权益保护法》第二十三条规定,应当要求平台对用户数据信息和定价依据负有一定期限的保存义务,在该期限内将由平台承担举证责任。此外,参考《个人信息保护法》第六十九条规定,平台对消费者造成损害的,平台不能证明自己没有过错的,将承担损害赔偿等侵权责任,采用过错推定原则在实践中可以减轻消费者对违法行为的证据收集难度和举证难度。
算法自动化决策运用诱发了价格歧视行为,关键在于算法自动化决策透明度缺失导致算法决策难以追责。2021年11月1日生效的《个人信息保护法》第二十四条第三款正式提出个人算法解释权,赋予个人要求个人信息处理者解释的权利,旨在提高算法透明度,对规制算法价格歧视行为有积极作用,但在适用上存在模糊性。第一,根据《个人信息保护法》第二十四条第三款规定,个人算法解释权适用前提是“自动化决策方式做出的决定”,模糊点在于算法解释权能否适用于人工决策方式做出的决定。欧盟最早创设算法解释权,其明确限定该权利适用须由自动化决策做出。如果在算法过程中出现了人工干预的决策行为,原则上不适用该条款,或者同时出现算法决策和人工决策行为,则难以认定是否属于算法决策。第二,算法解释权的解释主体是在平台一方,作为算法技术的控制者一方面会以涉及商业秘密或个人信息保护为由拒绝解释;另一方面,其作为解释主体可能会做出有利于己方的解释,最终会让算法解释失去本身的意义。因此,对算法解释权进行完善可以从适用范围和解释范围入手。
首先,放宽算法解释权的适用范围。算法解释权设立的初衷为了提高可追责性,随着算法技术的发展,其涉及的范围越来越广,使用的算法技术越来越高超,在决策方式不应仅限定在自动决策,只要对决策进行了干预并造成了实质性影响,即便是人工手段,也应纳入算法解释权的适用范围内。其次,给予平台解释保留权。提高算法技术的透明性不需要平台做到完全的透明,而是适当的透明,算法解释权设立是为了保障个人的知情权,个人信息控制者只需要对涉及定价的关键信息进行解释。例如:呈现给消费者的价格是如何计算的、优惠折扣是从何而来,在涉及核心算法技术上给予平台解释保留权。算法解释权作为一种新兴权利形态,可以通过解释来提高算法透明性,最终达到规制算法权力的目的。[21]
算法技术日益提高和普及,日后必将会影响到生活中的各个方面,完善算法审查委员会监管具有很大的必要性。算法审查委员会不同于一般的相关部门审查,其具有比较高的技术性,并且需要结合现行的监管规则判断是否合规合法。因此,首要的算法委员会成员需要具有复合背景的专业人员组成,既熟知计算机算法技术,也需要法律、代码编程等专业人员,全面的人才组合可以帮助委员会对算法行为开展高水平的指导调查。
要完善算法审查的标准和流程,确立事前、事中、事后的审查流程。事前监管以平台自我审查为主,审查委员会为辅,主要是为了督促平台自律行为,以现行的法律法规要求、行业要求、平台要求进行自我检测;算法审查委员在事前可根据数据模型、计算机编程、算法方式的特点制定相关的行业准则,除了定期要求平台开展自我督促活动,还应定期抽查平台算法方式的测评,一旦发现有漏洞或者不合规的地方,要求平台及时整改并根据问题严重程度决定是否进行通报。除此之外,算法委员会还可定期公布不合规的平台和算法技术,以供消费者参考防止权益受损。事中监管则要求平台委员会对平台正在进行的算法方式进行实时的追踪监管,监管平台搜集的数据是否过度、搜集的数据是否有超出使用范围、一旦发现滥用算法技术损害消费者权益的要及时阻断避免损害扩大,保证平台在法律法规范围内正常使用数据,为消费者保驾护航。事后监管则可由相关部门赋予算法委员会相关的执法权,对不合规、不合法的平台给予相应的行政处罚。数字经济时代,互联网平台数量越来越大,算法技术普及率高,赋予算法委员会相关执法权有利于提高行政执法效率,快速打击不合规平台。同时,事后监管还要求算法委员会对权益受害的消费者进行处理,处理一波不合规的平台,势必会有一波权益受损的消费者,除了打击平台之外,算法委员会还应及时告知消费者执法情况,为消费者开具平台不合规告知书等相关证明材料以供消费者举证所用。完善算法委员会监管既可以提供专业的监管工作,又能保证执法的独立性,有利于保障消费者权益,营造健康互联网环境,打击不良算法行为。
数字经济时代改变了我们的生活方式,带来高科技的优势同时也显露了一些弊端。数据的使用影响着用户个人隐私、公平、权益等法律问题,算法的普及催生了很多商业机会。如何平衡好电子商务的发展和消费者的保护是需要监管部门、平台、消费者共同努力,法律存在滞后性,需要顺应社会时代的发展,放宽适用主体、重新分配举证责任、清晰解释法律条文可以更好地发挥法律的规范指导作用,引领市场竞争趋向良好发展,化解经营者和消费者主体之间的矛盾,保证在数字经济时代之下市场经济活动能在法律制度框架内有序正常的发展。