基于外卖平台的算法控制与对抗问题研究

(安庆师范大学,安徽安庆 246133)

0 绪论

想要探讨算法的“控制与对抗”问题,首先要考虑到,人作为生命个体,是交织在社会生产和控制中的物质存在,同时是具有自我意识和反抗精神的生命个体[1]。“控制与对抗”这一话题贯穿人类文明发展史,到了算法时代,“控制与对抗”变的更加隐性和复杂化。算法的控制属性被技术的先进与相对科学所包裹,伪装成一个中立的存在,面对来势汹汹的算法革命,人的对抗具有无意识、偏退让和曲线式的特点,更直观的说,所谓对抗只不过是在算法漏洞中的妥协共存。

1 外卖平台的算法控制

数字经济时代,算法从“幕后”转移至“前台”,成为联结平台、生产者、消费者的中介。对于需要输出实体食物和提供送餐上门服务的外卖平台来说,商家如何将外卖送至顾客手中是不可忽视的一环。因此,资本强行介入并创造了一个新的群体—骑手,并用经济利益拉拢,用算法去控制。而对需要依靠平台和算法的骑手们而言,作为资本产物的算法天生就带有剥削属性,而这种剥削和控制,在骑手身上运用到极致。

算法对骑手的控制是存在一定逻辑的,会根据骑手个体所处状态调整控制方式。在骑手收到配送订单前,算法会收集顾客的画像和位置等状态信息,并寻找附近骑手的信息与之匹配。外卖平台中时效性是考量服务的一个关键指标,这些前期的信息收集会直接影响整个送餐流程[1]。因此,从接单-取餐-配送-完成,骑手的每一步操作都要在规定的时间内完成,并且接受算法的监督和提醒,并且算法还会将骑手实时状态传递给顾客,顾客可以通过软件实时掌控外卖的走向[2]。这就产生了一个很奇怪的现象,作为工具的算法成为了行为的指挥者,而作为主体的骑手却沦落成算法的执行工具,人的主观能动性在此时转化为“跑得再快一点”的斯德哥尔摩效应式的算法规训。

算法在人类行为的不同阶段有着不同的表征,因此需要定位和定量分析,定位是指算法处于什么位置,定量是指在该位置算法最合适的参与度是多少。

2 定位与定量

2.1 第一阶段:信息收集与整合

在这个阶段算法进行单纯的收集和整合信息,完全遵循准确的代码逻辑,例如气象信息的收集处理;工商业领域的信息收集(生产要素、消费者需求、市场导向等);社会调查领域的信息收集(人口普查、户籍信息数字化等)等。

从算法在信息收集和整合的合法性出发,算法投放者如何使用用户个人信息;是否能够保护用户隐私数据不被泄露和滥用;信息整合的过程是否公平等,都是需要关注的问题。合法性问题在这一阶段是主要矛盾,是潜在的、由实践延伸出来的、很难去界定的,其产生危害的时机也不在这一阶段。在这一阶段算法有产生风险的因,但是产生的果在其他阶段,例如抖音推荐算法在后台收集作品信息并标签化,与相同标签的用户匹配,然后推送给用户[3],这其中带来的信息的碎片化、受众注意力受控、选择权缺失等问题,其实是在第一阶段完成后才显现出来的。换句话说,第一阶段只存在于系统后台,是独立的、仅有算法的场景,没有与实际的人相联结。

2.2 第二阶段:判断与决策

在第二阶段,是对第一阶段收集整合出来的信息进行处理的过程,包括判断正确性、可行性等多方面因素,提供指挥实践的决策支持[4]。算法参与判断与决策的实体案例比比皆是,如司法领域的概率建模和算法裁决、医疗领域的智能诊疗等。在这个阶段,算法与人的实践仅一墙之隔,算法判断决策后,人就会根据决策内容进行实践来现实化算法决策。由于算法的技术正确的特点,判断与决策的逻辑性毋庸质疑,唯一需要考虑的是,在这个过程中算法的考量是否人性化,以及逻辑正确与人性化之间的平衡问题。

此时算法针对的是信息的判断与决策,这就开始波及到人的决策权,当涉及权力之争时,就需要万般谨慎了。算法天然带有“技术正确”的逻辑话语,所以在判断与决策时不可否认的比人类更加理性和正确,但是算法终究是机器语言,没有人性思维。因此需要在算法的编写中加入感性思维,同时要避免算法与某一个人或某一群人封闭接触。在敞开系统的同时,还要加入一个独立于系统之外的看门人来监督算法决策过程,在对算法决策有异议的情况下,这个看门人可以作为公诉方在合法途径下提出申诉。欧盟《通用数据保护条例》第71条规定:“数据主体有权获得人工干预,表达其观点,获得针对自动化决策的解释并提出异议的权利。”[5]这里的请求人工干预的主体必须是独立的看门人,由他替当事人提出异议,这个看门人的现实身份可能是学者,老师,律师,专家等没有事先出现在系统里的群体。看门人的角色不是固定的,具有对抗意识的与算法互动的当事人也可以成为看门人,但是从心理学和社会学考量,这些人即使成为看门人,也无法否决不符合他们利益的算法,因为算法损害的只是他们一小部分权利,而在全局上他们仍然需要依靠算法达成目的,除非当事人能够彻底脱离算法控制,实现系统突围成为独立于系统外的人。

2.3 第三阶段:执行

执行过程是一个明确的概念,是前面两个阶段的可视化操作过程。当第二阶段算法决策的合法性通过时,在算法与人互动的场景下,执行过程中人所受到的算法控制是最显著的。例如司法领域算法裁决后就需要执行刑罚,这个执行过程变相来说就是算法对人的控制,即使这种控制披着法律规则的外衣;再者,外卖平台算法根据骑手的状态数据(位置、速度、运载能力等因素)实时分配订单并规定每一个步骤的用时[6],在这种劳动控制中,算法仿佛扮演了一个监工的角色,骑手受制于工资报酬不得不向算法低头,接受其决策并安排实践,这种俯首称臣般的“逆算法”仿佛是算法时代的犬儒主义。

此时算法针对的是人执行决策的实践行为,决策对实践起指导作用,但是决策也分正确与否。例如矿难问题中,200名矿工,却只有10人份的食物和水,地面的救援人员纷纷献计,如“节约资源等待救援”“按年龄分配资源”等[7],但是当算法出来决策时,其为了达到最大存活人数这个系统目标,提供了食人的方案,显然这样的输出结果是错误、不可执行的。

2.4 第四阶段:反馈

从控制论的角度出发,本文所设计的反馈阶段可以定义为“为了改善某个或某些受控对象的功能或发展,需要获得并使用信息,以这种信息为基础而进行通信并作用于对象[8]”。反馈是控制论的基本概念,在这个过程中,将系统的输出返回到输入端并以某种方式改变输入,进而影响系统功能。此时,控制论的”控制“并不是指算法对人的控制,而是控制算法,并且反馈在这里,可以引申为“申诉”、“投诉”、甚至“对抗”也未尝不可。

反馈阶段的核心任务是设计一个目标差不断减少的过程,通过系统不断把自己控制后果与目标作比较,使得目标差在一次一次控制中慢慢减少,最后达到控制算法的目的。以外卖平台算法对骑手的控制为例,送餐时间的不断缩短是算法对骑手的一种规训,算法要求骑手达到更快的送餐速度,但和骑手的能力、意愿相冲突,这时候就需要加入反馈阶段,设计一个独立的算法,来控制算法与人的冲突,使得冲突在一次又一次控制中慢慢减少,最终实现对算法的规训。

此阶段中,人有权力也有途径,将在算法甲指导的实践过程中的不合理之处反馈给算法乙,但为了公平和防止有人钻系统漏洞,人在反馈过程中只能提供是与否的信息供算法乙参考,算法乙通过多维度求证人所提供信息的可信度(例如寻找更多的反馈案例、人在算法甲指导下实践行为以及实践行为所处现实环境等),如果信息属实将会在下一次实践中减少算法甲不合理之处的生成因素;如果人依然反馈报错,算法乙则重复通过相同的求证过程来改进算法甲,直至人不反馈或算法乙的求证过程得出人提供信息可信度低于某个限度,结束反馈过程。这个时候,算法在人通过不断地实践“试错”中完成了“算法再造”。

3 结论

随着算法在一段行为中的移动,或者说是算法在信息与人之间移动,当算法越靠近信息,所占比例可以越大;当算法越靠近人,所占比例应当逐渐减小。算法很少参与到每一个单一环节,所以算法的应用占比在某一个具体行为中,应该随着实践的推进呈现曲线下降的变化趋势。

算法的控制与对抗,其对象都是人类主体。算法控制试图将人机械化,导致人的尊严和价值的降低,过分讲求以算法为中心,极大的损害了人的主体性地位,过分注重技术,忽视人的内在潜能,否认了人的积极主动性和创造性,这是人的主体性地位所不容的。人本位关心的问题是人能否有尊严的活着并获得发展。马斯洛认为,人的终极需求到最后就是基本需求。因此算法对人基本需求的控制,必然会导致人的对抗,随着矛盾的扩大和升级,权力与利益构成错综复杂,最后的冲突与对立将不可调和。

就人本位的思路,提出循序渐进地缓解人和算法之间矛盾的措施。首先,要重视人与算法的对抗,并且帮助人在合情合法的限度内战胜算法,这是对普通人觉醒对抗未知存在萌芽的保护;其次,要要实现算法和人的角色互换。算法是一个中介物,但是只是人与实践的中介,而不是人与人的中介,

在人与实践中算法充当的是工具的作用,而在人与人的互动中算法更多的是具备了教鞭的属性,所以我在下图中设计了一套理想下的算法中介规则,人可以实现对算法的按需使用和主动获取,与传统的算法中介规则的强制完成和被动接受相比,理性模式更能体现人的主体地位;最后,要将人与算法的对话,转变为人与算法背后的人对话,有利于缓解社会矛盾和重构阶级关系。

重构人本位,是对算法超然地位的打压。算法天生的带有类人化的特征,倘若给算法装上四肢与躯干就能成为一个人,当然现在的低级智能的算法还做不到,但是随着技术的不断革新,总有一天会成为新的社会问题。从一开始就强调人的主体地位,在算法的代码中就加入不能逾越人之上的规则限制,提前就为算法系上紧箍咒。就如我们的智慧富有远见的祖先,他们在和狼的相处中,不断地用棍棒规训以此强调人的主体地位,久而久之,被驯服的狼进化成狗,成为人类看家的好伙伴。对于算法,人也要持”棍棒“以驯服,使其成为无害而有益的存在。

只有构建人与算法和谐相处的新时代,才能让人类与机器算法实现共同进化、共同发展,使算法丰富人类文明的演进历程[9]。同时不能忽视算法所植根的社会环境,要结合中国的国情,在编写、投放、使用、监督等算法参与环节融入适合本国道德、人文和法律的元素,将算法与中国特色社会主义核心价值观联系起来,用正确的思想引导算法的编写者,投放者以及使用者。使其发挥积极作用以促进社会发展和文明进步。