基于算法个性化技术逻辑特征的损害剖析

段屹甲

一、问题的提出：算法个性化技术崛起的法律挑战

自互联网发明以来，人们的社会生活愈发离不开网络，随着大数据时代的到来，算法逐渐成为法律规制的对象。海量的数据为算法个性化技术提供了信息基础，互联网的发展为算法个性化技术提供了科技支持，算法技术在为社会经济带来促进效果的同时，也因其自身的结果隐蔽性等特征饱受争议。痛斥“大数据杀熟”“信息茧房”的呼声四起。算法个性化技术在不知不觉中造成了对消费者利益的损害，而且这一技术采用自动化的机器决策，消费者通常处于不知情状态。故算法个性化技术在各个不同商业场景之下被予以使用的同时，对社会的损害也不可忽视，算法个性化技术正在挑战社会的一些基本规则。

算法因其不透明性和风险系统性引起了学界的关切，对于算法的规制路径为何？算法的技术逻辑和技术特征为何？算法个性化技术的应用形式有哪些？算法个性化技术带来的损害为何？类似问题皆因算法技术未受到更加具体规制，成为当下尖锐的课题。本文拟从算法个性化技术的商业应用场景切入，对算法个性化技术的技术特征与逻辑予以描绘，将其对消费者与竞争秩序的损害予以分析，从社会层面予以思考，应以何种姿态来应对算法个性化技术带来的规制挑战，以期增强算法个性化技术的正向效应，谨防算法权力的不当蔓延。

二、算法个性化技术逻辑和技术特征

算法个性化技术的技术逻辑体现在购物类、内容类、媒介类和生活类等场景下的商业应用当中，从流程上看，算法个性化技术包括三个流程：

第一步，收集用户信息，获取用户数据。如今各大软件在初次使用时，都会与用户签订诸如“隐私协议”一类的条款，以此来保证自己获取用户信息的畅通无阻，在获得了用户的“同意”后，算法将会开始收集用户信息，作为后续个性化技术应用的数据基础。第二步，构建用户画像，打上个性标签。在收集用户信息后，个性化技术会将用户的特点予以标注，为其“量身定制”一个用户画像，至此，用户在技术后台内已成为一串“代码”，算法通过将用户喜好、兴趣进行标注，为接下来的内容推送打下技术基础。第三步，推送定制信息，实施算法推荐。在为用户打上标签以后，用户在算法程序中就是一个十分明了的代码或是数字，算法技术可以通过将用户代码与信息、商品或是服务进行匹配，将用户最为感兴趣的信息或是商品推送给用户，以此来促成交易或吸引用户注意力。

算法个性化技术的特征表现为：（1）庞大数据性。算法是依仗大数据而运行的，而大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合。大数据需要新处理模式才能成为具有更强决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。算法和大数据互相依存，如若缺少算法，庞大的数据量将无法被分析；缺少大数据，算法就失去了数据来源，失去了运行基础，也没有了发展空间。算法执行的结果依赖于初始数据，不同的初始数据将会推导出不同的结果。如果数据量过小，容易导致算法运行结果缺乏说服力，可能导致无法执行。而且简单的算法模型往往更容易获取大量数据，其最终表现将超越仅掌握了少量数据的复杂算法。（2）高度可行性。算法想要正常运转，在逻辑和数据上必须是通彻的。实际上，算法只是一种编程的思想，纵观历史，直至21世纪，算法方才发展至现在的规模，只因其需要具备两个条件：其一，特定的技术条件和社会环境；其二，海量的数据。算法并不能独自发挥作用，而是需要结合其他各类程序以及数据才能发挥其功效，算法必须在运行方式上是通顺的，并且要适应现有的技术条件，拥有和现有技术匹配的运行机制，再加上其物化的表现——硬件设施，以及海量的数据基础，才能够发挥其作用。（3）时间有穷性。算法以其精准和迅速著称，其运行过程必须是极为迅速的，相较于人工运算机制而言，算法最根本的优势就是显著的高效率运作机制，倘若算法运行机制反应缓慢，其也就失去了算法本身的意义。（4）结果隐蔽性。从千人一面到千人千面，通过算法为消费者勾勒画像，精确掌握消费者喜好，是阿里巴巴、亚马逊等现代零售巨头成功的关键。

三、算法个性化技术的法律风险：消费者损害与竞争秩序破坏

1.损害消费者利益

作为支撑平台经济快速增长的应用技术，个性化技术被视为一种强有力的工具，同时，个性化技术能够解决工业社会定价难以最优的难题，因此为平台普遍采用。与此同时，其也因侵犯消费者权利、减少消费者福利和显著增加数字平台的跨界扩张速度而备受争议。具体而言，个性化技术给消费者带来的损害主要有以下表现：

第一，侵犯消费者的公平交易权。从经济理性而言，个性化定价能为经营者增加财富、实现利益最大化，同时，大数据价格歧视行为使所有消费者都获得了其经济承受范围内的最高限度购买价格。例如，某产品原先针对的是消费能力在1000 元以上的消费者，在实行个性化定价后，消费能力在500 ～800 元的消费者也能在自身承受的最高价格800 元左右购买该产品，这导致原本只针对高消费群体的经营者也开始涉足低消费市场，其所针对的消费群体范围得到了扩张，使得以消费等级划分的市场规划失去了意义，经营者之间的市场竞争更加激烈。这种价格歧视虽然拉动了消费，刺激了生产，增加了市场活力，但却也导致消费者剩余被“榨干”，削弱了消费者进行其他消费活动的可能性，进而导致消费者福利的下降。

第二，侵犯消费者个人信息安全。对消费者个人数据的收集与分析是算法进行个性化技术商业应用的前提条件，收集和分析的个人数据越复杂越庞大，算法个性化分析就越精确。经营者趋于逐利本性，为了达到更加精细化的算法分析效果，通常会采集消费者允许范围之外的个人数据，例如，手机型号、通话记录等，算法根据私密信息为消费者构建更为精确的用户画像，经营者借此向消费者推送个性化广告，私密信息成为经营者提升消费吸引力的工具，这明显超出了数据收集的合理范围，存在侵犯消费者个人隐私的严重风险隐患。

第三，侵犯消费者的知情权。算法个性化技术具有结果隐蔽性，在其收集数据、运算数据以及得出结果的过程之中，消费者无法得知经营者所使用的算法运行机制以及算法收集了哪方面的数据，消费者处于信息劣势一方，对经营者的行为往往是不知情的。算法在消费者使用程序之时就通过技术手段获取消费者的个人信息，从而对消费者进行画像定制，针对其个体采取独一无二的个性化技术，以此来促成交易或是掌握更多数据信息，这一行为显然侵犯了消费者的知情权。

2.破坏竞争秩序

伴随着平台规模的扩大，超级平台时代正在到来，反竞争的隐忧日益凸显，算法给平台带来了更为便利的扩张条件。全球市值前五的位置长期处于苹果、谷歌、微软、亚马逊和脸书等超级平台的掌握之下；在中国，阿里巴巴和腾讯的市值相继突破4000 亿美元，加上市值已突破500亿美元的百度、京东、滴滴等平台，中国将全面迈入超级网络平台主导的新阶段，2019年贵士移动（Questmobile）报告显示，百度、阿里、腾讯三家巨头公司的渗透率分别为89.4%、95.5%、97.8%，远远超过其他公司，成为国内的流量“黑洞”。超级平台通过“代理人垄断”等方式，踏足每一个其所能触碰到的领域，技术的进步和数字通信的实现，为平台迅速扩张达成了前提条件，给整个竞争秩序带来了不利影响。然而平台的消极影响与少数超级平台市场集中度提高密切相关，多边市场的规模效应和网络效应会构造出相应的市场壁垒，加速形成“赢者通吃”的市场形态。为实现平台利益的稳固化，保持平台独占性，超级平台近年来出现的不规范竞争行为引发了国家市场监管难题。

赢家通吃。互联网平台属于信息社会新兴的产物，其与传统的实体经济产业不同的一点是，刚刚踏入此行业的新兴企业往往可能因其独特的经营理念和过人的技术应用而吸引极高的流量，但其同时也面临着大型平台所带来的风险。大型平台通常有着雄厚的资金底蕴，可以通过平台资金补贴来降低整个市场的利润，打压新兴企业，提高行业进入壁垒，逼迫小型企业退出市场或被兼并。

劣币驱逐良币。进驻平台的商家往往对平台有着极强的依赖性，商家往往不具备与平台平等谈判的地位，只能接受平台给出的条件。“平台二选一”广为人知，平台禁止经营者在竞争对手平台上从事经营活动，如果驻平台商家能够自由选择平台从事销售，就可以拥有更多用户群体，给平台施压，促使平台给予更好的优待以挽留商家，促进互联网平台间的竞争。随着平台垄断能力不断扩大，平台对于商家的操控能力会逐渐变强，支付更高价格的商家会获得更靠前的排名和更高的曝光度，一方面，这进一步压缩了商家的利润空间，使商家逐步沦为平台的赚钱工具，另一方面，部分商家为了保证自己的利润空间，会将成本转移到消费者身上或降低商品或服务的质量，从而出现“劣币驱逐良币”的现象。

四、结语

本文以算法个性化技术的商业应用场景为基础，剖析了该技术对消费者以及竞争秩序的损害，研究表明：（1）算法个性化技术以海量数据和高超技术作为基础，对消费者和社会造成的影响是隐性不为人知的，算法技术一旦产生风险，将会是系统性且不可颠覆的。（2）算法个性化技术促进效率的同时，对消费者的损害集中在知情权、公平交易权、自主选择权上，而消费者往往是不自知的，这将会导致算法在某种程度上会对消费者产生“支配效果”的决定性影响，进而有改变社会结构的风险。

新兴事物的发展总是一波三折，作为二十一世纪最为核心的“算法”，其必然经历复杂的发展路径，对待算法个性化这一技术，我们应当怀揣审慎与包容的态度，在对其予以必要规制的同时鼓励其健康发展，以期算法技术能够引领社会主义市场经济的发展。