大数据功利主义计算逻辑中的“道德囚徒”

沈琪章

(南京师范大学 公共管理学院， 江苏 南京 210046)

功利主义有三大理论基点，即苦乐原理、效果论和功利原则。[1]55若以行动后果所造成的苦乐的多少来判定一行为的道德价值，将理念运用到行动中去就不得不涉及到对苦乐的计算，这是功利原则内含的必然逻辑。此前，以黑尔(R.M.Hare)的“偏好功利主义(preference utilitarianism)”、理查德·布兰特(Richard Brandt)的“规则功利主义(rule utilitarianism)”、彼得·雷尔顿(Peter Railton)的“客观后果主义(objective consequentialism)”为代表的理论要么通过将实践理性的计算与客观后果之间的不对称性限制在“主观效用”的最大化上，要么是通过“规则”来减少计算量和步骤，要么就是认为人在客观上没有那种计算最大化善的能力和必要而放弃了计算。

一、大数据与功利主义的本质逻辑：实体技术与思想技术

对技术的定义可从两个方面理解，即作为物质实体存在的技术和作为规则的方法的技术，但不管作为何种技术，在反思概念层次上，“技术——不论是有规则的方法，还是诸如工具和机器这样的人工制成品——都是为它们自身以外的目的服务的”，也就是作为手段。[2]22大数据实体技术与功利主义反思技术的相通之处在于二者都是手段，目的在于追逐效用最大化。

正如增强人工体力劳动效率的纺织机的商业运用促进了纺织机在工业社会的快速进化一样，大数据技术作为脑力增强技术也是资本主义社会工业技术的一个逻辑必然。20世纪80年代末期，霍华德·徳雷斯纳(Howard Dresner)第一个提出了“商业智能(Business Intelligence)”这一专业术语，它最初被用来对业务经营进行决策，试图在商业竞争中提高信息优势和企业决策能力、效率和准确性。在商业发展对处理大量数据的存储和分析的需要下，“大数据技术”诞生了。[3]957自一开始，大数据技术就用于信息处理和商业行为决策。国际数据中心IDC于2011年对大数据的定义是：“大数据技术呈现了一个新的技术和体系时代, 被设计来从大规模多样化的数据中通过高速捕获、发现和分析技术提取数据的价值”。[4]1出于商业竞争的目的，使用者希望大数据能够以最快的速度，最高的效率获得有用信息并作出有利于获得商业利益的决策供其选择。为此，它也在实际上发展出了“量大、多样、迅捷、有价值”的特点，也就是要尽可能地将一切数据化，而不管它的类型是什么，此外还要快速地根据用途而将其变为有价值的数据。[5]96总而言之，大数据技术是一种以外在于其自身的利益为目的的效用工具，在资本的驱动下始终追求将利益最大化，为此它要将一切数据化，以用于决策。作为一门拥有物质实体的技术，它与“功利主义思想技术”有着天然的相似性。

杰里米·边沁(Jeremy Bentham)创立的功利主义以苦乐作为功利原则的基础，并将功利原理解释为：“它按照看来势必增大或减少利益有关者之幸福的倾向，亦即促进或妨碍此种幸福的倾向，来赞成或非难任何一项行动。我说的是无论什么行动，因而不仅是私人的每项行动，而且是政府的每项措施”。[6]58边沁将行动的“后果”是否能够增大利益或避免利益的损失作为评估行动“道德价值”的根据，这一原则要求个人与政府都以此作为行动、道德决策、政治决断、社会改进和法律制定等的标准。“人们一般都信奉这个原理……即使不是为了规范他们自己的行动，也是为了评判他们自己的以及别人的行动。”[6]13这也意味着不仅是要对结果进行评价，作为规范它还要求在“决策程序”中，即行动前对后果进行预测，并根据预测来选择行动。

当存在诸多行动选项时，“绝大多数人能否最大程度地感受幸福，这才是正确与错误的衡量标准”。[7]99也就是说不仅要追求有利，还要是最大多数人的最大利益。当最好与次好同时存在时，选择次好便是错误的，因而也是相较而言不道德的。这一思想原则作为另一种工具的存在，虽不是实体，却在思想上呈现为机器的逻辑，追求行动“产物”的功利最大化。如同工厂中的机器一样，功利逻辑与大数据一样要求“更高、更快、更强”，始终在寻求效率最大化的出口。与义务论不同，功利主义原则始终在对一切，甚至对自己进行否定。它的目的不在自身内，而在自身外，也就是只要能够达到“最大多数人的最大幸福”，功利主义甚至可以为了后果上的好，而暂时隐藏自己的规则，声称自己并非要实现“最大多数人的最大幸福”，即“说谎”。在这种意义上，“功利主义伦理学可以理解为一种效率伦理学……道德的准则不是自我目的，而是对行为进行控制的、仅仅通过自己的功能而证明有存在理由的社会公约……可以被看作对目的和手段理性的技术和经济模式的一种普遍化……技术行为是典型的以特定的非技术目的为导向的手段行为。技术的优化也总是带有效用最大化的特征”。[2]268

不过，要注意的是，功利主义理论也并非完全是一门技术，作为一门规范伦理学它的目的并不具有完全的开放性，它只能以“快乐、幸福、利益、福祉、福利”等善事物为目的，至少它的价值导向不可以通向“恶”。对于其他技术而言，则可能用于毁灭和破坏。为了达到上述目的，功利主义计算是不可或缺的。在计算中，行动者应当尽可能地掌握更多的信息，并以最快的速度处理信息，分析出最佳方案，然后作出决策。在这一过程中，计算必须不偏不倚，不带个人偏见，也就是需要计算中不能受不相干因素的影响而导致计算失误，如情感冲动、身体疼痛、醉酒眩晕等等。功利主义还需要公式化精确无误的计算，这是功利主义的特点，也是它的困境。大数据的运用与之相似地有着同样的要求，且已经初具上述功能特点，能够在一定程度上解决功利主义的计算问题，也是功利主义计算的逻辑要求。

二、大数据功利主义计算：从商业决策到道德决策

大数据技术与功利主义都以外在于其自身的目的作为追求对象，作为价值结构的功利主义在逻辑上寻求作为实体技术的大数据技术来辅助计算。但从商业行为的决策过渡到道德行为决策之间存在着一条难以逾越的鸿沟，也就是从“事实判断”过渡到“道德判断”的问题。功利主义作为自然主义伦理学是通过“配置(Configuration)”自然事实，赋予苦乐以道德价值而将事实判断变为道德判断，并在“幸福最大化原则”的意义上将一切行为转变为道德行为的。大数据与功利主义的结合可以被称为一种功利主义的新形态：“大数据功利主义”。

如前文所述，大数据决策的初衷是用于商业行为，这看似与道德行为并无瓜葛，但对功利主义来说，利益计算始终与道德决策不可分割。义务论并没有这样的要求。对于义务论者来说，“应当与否”并不取决于计算的结果，而是行动者所直面的“道德律令”。它要求行动者参与其中，根据规则来进行道德决策或评价，并不需要考虑行动后果是否有益。对于亚里士多德主义的德性伦理学来说，尽管行动者被要求尽可能多地掌握信息，并作出明智的选择，但德性行为应当出于行为者的品格特征，而不是以“后果”为本位进行计算。在根本上，义务论与德性伦理学就与大数据计算在道德上的深度运用关系不大。当道义和德性不是出于行动者自身直接发用的动机或品质时，所谓“心中的道德律令”与“培养出来的德性”就成了彻底外在于自身的规范，而丧失了它原有的道德意义。

大数据技术是一种信息技术，其核心是计算机处理，而不是经人“上手”的测量，在一定程度上，它是一种脱离人的直接思维活动的自动化系统。[5]96虽然从人们的日常经验来看，道德决策是人自己的事，不由自己意志决定的行为，行动者不应为之负责，但在功利主义的理论中，计算可以不由个人自己承担，因为它以“后果”为中心而不是以“行动者”为中心。大数据的功利主义运用并不建立在计算主体的道德地位之上，而是建立在人工智能的计算能力之上，因为计算出的后果本就不由行动者自身决定。只要人工智能能够承担这一任务，且这种运用能够促进好的后果，它就应当承担计算的工作，为行动者提供计算结果。大数据技术负责收集信息，执行按照功利主义原则所设计的算法，由于这种算法要求不偏不倚，即使是同行动者自己计算的结果一样，也是功利原则自身的逻辑使然，而不是从行动者出发。同时，功利主义还具备着行为者中性的特点。[8]112这意味着计算活动可以不由行动者本人承担，功利主义者若只按照功利原则行动的话，便无需考虑“个人计划”，这一点遭到了伯纳德·威廉斯(Bernard Williams)关于“个人完整性”的批评。[9]196不过，即便计算过程与结果不由行动者来完成，是否采取行动，以及选择哪一个行动却仍掌握在行动者手中。因此，即便选项不由行动者给出，行动本身却是由行动者执行的。人要为其行动负责，这是他个人所能决定的。

在功利主义看来，牵涉到利益的自然事实也同样是道德事实。当代西方元伦理学中存在着道德实在论与非实在论的争议，这一对道德本质问题的讨论决定了建立在其上的伦理学的性质。“还原的伦理自然主义(reductive ethical naturalism)”认为道德属性可以还原为自然属性，道德话语体系与自然话语体系指的是同一对象。以边沁为代表的功利主义便是如此，它以苦乐的增加或减免为判定道德正确与否的标准。苦乐是自然属性，而正确与否则是道德属性。坚持这一点的人在根本上是自然主义实在论者，他们认为“道德要么是自然事实，要么是自然事实的配置”。功利主义认为经过配置的自然事实就具有了道德属性，“比如符合社会上绝大多数人的利益或是否能够最大限度增加社会幸福或福祉，而这种效果正是可以观察自然属性，故效果主义或功利主义一般都被认为是自然主义实在论的一种”。[8]76也就是说不管是苦乐、幸福、利益、福利只要被纳入到功利主义原则这一道德化技术配置中去，追求最大化，它便有了道德的意义。在功利主义的视野中，大数据技术能力上可以帮助人进行道德决策，并且确实存在这种用大数据进行功利主义计算的例子。

比如，假设若经过使用大数据计算后发现，大数据技术能够帮助快速计算苦乐，避免人因为亲自计算得失而费神不悦，那么使用大数据技术代劳便是道德正确的，不使用则是道德错误的。当疫情全面爆发时，大数据技术与功利主义算法消解了过去被保留在个体身上的隐私界限，可以对人进行全面追踪，不管一个人在哪里，他的手机与电话卡已将其行程记录下来，此时隐私的界限被收窄，过去被认为是不道德的行为如今被允许。这是功利主义的思维逻辑，要生存的快乐大于病痛，不管是政府还是个人，若在能够的前提下，不使用或遵从大数据与功利主义的逻辑，便会被视为道德错误。

再如，现今“美团外卖”需要顾客在所订食物到达地点后对外卖骑手进行评分。这一评分是以骑手送单速度与保存物品的质量为标准的。按照功利主义的原则，效率与质量越高，外卖骑手的行为便越道德。如果骑手在有能力且没有其他增大顾客快乐以抵消其不快的情况下，用了一个小时才送到，那么骑手便是不道德的。大数据技术在其间要对海量外卖员长时间以来取餐、送餐路程与时间，以及不计其数的买家的评价进行记录、分析并评估出一个外卖员的信用。这一App就是靠这一逻辑为外卖员贴上标签，在功利主义的评价体系中，这一标签是归属于道德范围内的。

还有，对于滴滴司机导航来说也是如此，当高德地图已为司机和乘客规划好最佳路线并播报出来时，会对司机形成道德压力，此时，在不熟悉路线的乘客那里，司机若没有遵循路线的规定，便会产生对司机的怀疑。尽管司机本人可能更为熟悉路线，而且可以有更好的选择。不过，在城市规划越来越复杂，交通路况越来越难以捉摸的时候，司机的判决已退居二线，更为精确的参照对象是大数据计算给出的最佳方案，而按照最佳方案行动便是道德的。既然在公共领域中可以使用功利主义原则来将行动道德化，那么按照功利主义的原则，进入私人决策领域也未尝不可。

最后，大数据技术通过对用户的喜好的收集，定向对其推送偏好内容，淘宝、抖音、微博等软件都在收集个人数据，以期达到最高效率地让用户进行消费、观看、阅读，这在功利主义的语境中都将成为道德问题。比如，软件开发者如果在这个时代不将用户的体验考虑在内，在用户眼中便是不道德的，因为数据信息的体量是用户个人难以想象的，用户所看到的一切都经过开发者的专门设计。从其社会角色来看，商家与顾客看似在以经济活动来处理相互之间的问题，但本质上体现的都是功利主义的深层逻辑。当开发者的产品不符合利益最大化的原则时，便会被淘汰，因此对于资本家而言，当大数据技术能为其提供决策时，不使用这一技术，就可能导致其公司所有员工的下岗失业，这对资本家而言是不道德的行为，这是资本的要求，也是功利主义的要求。

大数据与功利主义在本质上是相通的，只不过前者是实体技术，是对物质实体的数据化装配，后者是反思技术，是对抽象的自然事实的道德化装配。大数据技术与功利主义都在资本的运作下追求着利益最大化原则，为此它们都要求尽可能地将一切数据化、信息化，并需要对行动作出尽可能迅速的分析与决策。大数据技术的核心是计算机(人工智能)，它为功利主义提供了计算的更大可能，并已经被浅层次地用在了现实中的诸多领域，而功利主义思想则为这种运用提供了道德辩护。如果说这种结合是可能的，我们也就可以认为功利主义发展出了一种新形态即——“大数据功利主义”。

三、“大数据功利主义”的逻辑困境：“道德囚徒”

“大数据功利主义”是一种依靠实体技术在一定程度上解决了功利计算困难的功利主义形态，但在道德问题上，解决计算困难也是对“道德运气”问题的消解。大数据功利主义的实现同时也是对道德运气的抹除，它必须依托营造一种“全景式”的“道德信息库”才能够得以实现。与此同时，功利主义理论本身忽视“个人分离性”的特征让在其逻辑中生存的人拥有了另外一个身份——“道德囚徒”，比如外卖员。这一囚徒身份的产生并非仅仅是理论的结果，而在根本上是现实层面的社会原因导致的，功利主义只是资本将其合理化的意识形态工具。

大数据功利主义以上帝视角在一定程度上消解了运气在决策中的影响，完善了控制的绝对性。伯纳德·威廉斯将道德运气分为“外在运气”和“内在运气”，即“有些运气是外在于他的计划的，有的运气是内在于他的计划的；这两种运气对于成功来说都是必要的，但只是后者才与没有得到辩护相联系”。[10]38威廉斯认为，功利主义回顾式的评价方式必然受制于外在于计划本身的“运气”的影响，这成为功利主义的一个缺陷。[11]36大数据功利主义却可以直接取消过去解决道德运气的方案，即取消“决策程序”与“评价程序”二分。在大数据功利主义的视野中，不管是外在运气还是内在运气都可以在计划中被考虑到，因此运气这个概念在大数据的帮助下消失了。不同于义务论解决“运气”的“内在主义”方案，大数据功利主义并不不赋予内在于人的能动性的“动机”或“意图“的善的绝对重要性(康德主义者以此将运气移出道德行为的范围，同时将行动者与外在世界割裂开来)[11]xv，而是通过掌控外在信息的方式把运气消解掉。这样，人再没有运气作为否认过错的理由，也没有任何机会为自己的过错辩解。

大数据技术通过对行动者的深度学习，在充分掌握了行动者“内在运气”的同时，也获得了行动者在一定范围内的“外在运气”的信息，就可以把一切有关某一行动的信息纳入到计划之中。比如，当行动者1走在河边，发现行动者2溺水，大数据技术便会同时处理这两个人的信息。若发现行动者2是一个身患绝症的乞丐，痛苦万分试图自杀，家人朋友完全无力解决他的问题。而且行动者1不会游泳，在来得及施救的近处无其他人处于该事件之中，没有其他人会在其溺水死亡这一事态中可以起作用，那么给出不要施救的决策便是道德的决策。此时就不用再去考虑任何人都不得自杀、任何人都不能协助自杀、应当见义勇为等义务性的规则。常识道德也要以增进幸福或避免痛苦为重。

为了尽可能实现这一不受运气影响的计算，大数据技术就必须在功利主义的逻辑要求下把一切隐私打破，建立一个足够支撑“整全功利主义(Global Utilitarianism)”[12]166运行的信息库。而这样的信息库对大数据这样的不偏不倚者来说是“全景式”的。比如，为了更好地帮助决策，早在2013年4月底，阿里巴巴就开始与新浪微博在用户账户互通、数据交换、在线支付、网络营销等领域进行信息分享。这一分享用户信息的决策没有偿付广大“数字劳动者”，即“用户”以任何工资，却在功利主义的逻辑中被道德化了。因其促进了效益最大化，既满足了商业的需求，也更好地服务了用户。在功利主义看来，利益与道德之间没有鸿沟。但同样的，在“棱镜门”事件中，由微软、雅虎、谷歌、苹果等国际网络巨头参与的信息收集监听计划中，为了所谓国家安全而对个体的各种信息、联系方式与地址、社会交往关系，乃至兴趣爱好、政治倾向等的收集与分析也同样可以得到功利主义的辩护。

作为规范伦理学的功利主义道德合理化了大数据对人的信息收集之后，随即便对人的行为提出了要求，而功利主义本身的问题，即被伯纳德·威廉斯所批评的忽视“个人分离性”或对“个人完整性”的破坏，为“异化”留足了施展自身的空间。这也是对“美团外卖员评价”片面化、单一化评价背后得以成立的道德基础，正是根据“效率”，平台资本家才能对其予以奖惩，“道”与“德”如影随形。在此种意义上，边沁的“圆形监狱”构想得到了全面布展，然而其“囚徒”是由数据裹挟的每一个人，美团外卖员只是一个突出的代表。

在规范伦理学的讨论中，“个人分离性”与“个人完整性”有其特定的语境，但对这种语境的理解不能仅停留在规范伦理学的讨论中，还要从其现实基础中去了解它的生发作用，否则就如同戴上了形而上学的镣铐。对功利主义而言，忽视个人分离性意味着它以一种不偏不倚的中立者观点来对待利益，将人抽象化为一个“整体”来为利益的“积聚性”或“最大化”服务。[10]4在这种抽象的过程中，“具体的人”被剥夺了一切规定性，成为了一个技术系统中的“符号”或“零件”。破坏“个人完整性”意味着威廉斯所关注的具体的人的“根本计划”被破坏，而对现实生活中的人来说根本计划是由具体的人从自身的各种规定性中提取出来的方向和目标，它关系到“我是谁”“我想要过一种什么样的生活”等根本问题。根本计划的挫败可能会让人“觉得自己已经死去”。“当他已经全面地或者大部分地丧失了这种计划的时候，他才会觉得自己的生活失去了意义”。[10]19大数据功利主义以一种全天候无死角的“圆形监狱”形态出现，会在逻辑上倾向于打破一切个体的根本计划，也在逻辑上会使更多的人觉得自己已经死去，因为它用“数据库囚禁数据化个体的空间，而算法则是对其中个体进行凝视的目光，数据空间中的每个个体都无法逃离其凝视”。[13]69同时，这也意味着规范的触手伸向了更深更远的地方，人无处遁形。

这一大数据功利主义的逻辑在现实中的不少地方已得到实现。对于“美团外卖员”的“工资发放”必须有其道德基础，否则就不会有人在理性上接受这样既存的制度，而工资的多少与是否应得到奖励或惩罚的标准就是功利主义的效用标准。美团外卖员在工作的时候只会用这种标准来评价自身，也从他者那里得到评价。出于这种自评标准，他们有时甚至违反社会中的其他规则，逆行、闯红灯、超速等，且他们会以效用原则合理化自己的行为。但在顾客因外卖迟到而给外卖员以差评时，外卖员的世界从一种单一的抽象生活中被刺痛惊醒，他的“个人完整性”要求与“根本计划”受到了破坏，一个具体的人会愤怒地为自己呼喊辩护，但因为权利已在“效用原则”中被消解掉，在没有“道德运气”作为理由的情况下，他的自我辩护几乎没有效力。于是，他们甚至不惜动用暴力，上门威胁顾客取消差评，这已不罕见。这个问题并不仅是一个“个别问题”，而是一个“系统性困境”。

但大数据功利主义作为一种技术性手段和意识形态本身是没有如此强力的规范性的，宰制美团外卖员的是手段背后的社会力量——“资本”。对送单的质量和效率的追求被外卖员内化于自身后就以“勤劳刻苦”“灵活变通”“诚实守信”的形态表现出来，从而成为一种看似无害的“道德资本”。但这种道德资本是异化的，它用顾客与外卖员之间以“效率”为核心的冲突，掩盖了平台资本家与其平台雇佣劳动者之间的剥削关系。大数据与功利主义在逻辑与现实中的“精诚合作”，“天衣无缝”地为其背后的力量作出了道德辩护。

余论：大数据功利主义的理论出路

边沁在《道德与立法原理》中对量化有着极致的追求，且独一人就以功利主义的要求构想了圆形监狱。经上述考察，在大数据、功利主义、圆形监狱之间存在联系并非巧合。这种大数据与功利主义的合作让功利主义理论本身所可能造成的“异化”问题暴露得更为明显。在美团外卖员这里我们发现对大数据的价值组织结构不可以仅由“效用最大化”主宰，它对个人完整性与个人分离性的刺痛让我们看到了一个现实的世界，它需要对“权利”予以重视。这是在大数据的价值组织结构中需要增添的“属人的”东西。否则即使它成为一种道德资本，也缺失了一个“应该之应该之应该”的维度，不可能被一个社会长久认可。[14]10这也意味着运用这种道德资本的势力不会得到长久的认可，甚至被其他企业或平台所替代。

解决了计算难题的功利主义版本不得不面对其他困难，它为“异化”提供的缺口让人难以接受。功利主义要想在理论内部解决自身的困难就要在一个更为广阔的视野中考虑计算的要素。在过去，功利主义对自身缺陷的改造确实是通过引进“非效用逻辑”的因素完成的，比如规则功利主义、理想功利主义、动机功利主义、偏好功利主义等都在尝试对自己的原初版本进行限定，并将其他属人的因素纳入到考量范围中。同理，在大数据的组织结构中也应当考虑到现实人的丰富性，而不是将人看作一个抽象的数据存在。

譬如，大数据功利主义对美团外卖员的评价与奖惩机制就需要将非“职业”的因素考虑在内，将其视为“人”而不是效用机器中的零件。大数据功利主义在计算中需要将其他规则纳入到考虑中，比如交通规则，即计算不同街区的红绿灯及其车流量状况、天气状况、或将美团软件用户与骑手的人格特征考虑在内，通过对其脾气的测量来判断应该为他们贴上何种标签、通过对用户点餐时的偏好，即喜爱吃什么，对什么抱有极大的期待以至于希望下一秒就得到满足来判断轻重缓急并合理分配外卖订单、同时也将审美元素纳入到骑手的工作考虑中去，什么样的骑手喜欢什么样的制服、送餐路段与交通工具等等。对于迅速发展的科学技术而言这并不荒诞，荒诞的是在它背后的规范理论，以及运用这种意识形态的始作俑者对此没有关怀。