冷战时代的算法危机—— 《如果/那么》 中的一段秘史

□李闻思

【导 读】 吉尔·莱波尔的新书《如果/那么: 机械拟态公司是如何创造未来的》 揭开了一个成立于20 世纪50 年代的神秘公司的面纱。 该公司集中了一批社科精英,试图利用计算机和数学模型开发一款能模拟甚至操纵人类行为的程序。 它好比冷战时期的“剑桥分析”、脸书或谷歌, 影响力渗透到总统大选、国防部、种族暴乱事件甚至越南战争的走向中, 对美国政治产生了深远影响, 也预示着一个新世界的到来: 在这个世界里, 每个人的每项决定都受到算法的操纵。 本书通过深挖和再现这段秘史, 一点点将20 世纪中叶的“因” 和21 世纪初的“果” 连接起来。 历史或许无法回答“如果/那么” 这样的问题, 不过可以告诉我们发生了什么, 以及为什么。

哈佛大学教授、第41 任大卫·伍兹·坎珀 (David Woods Kemper)基金荣誉教授、《纽约客》 特约撰稿人吉尔·莱波尔 (Jill Lepore) 在美国史写作方面著述颇丰, 代表作包括《美国故事》 (TheStoryofAmerica:EssaysonOrigins), 《这样的美国》(ThisAmerica:TheCasefortheNation), 《真理的史诗》 (TheseTruth:A HistoryoftheUnitedStates) 等。 这次,她又挖掘出了一段冷战时期关于算法和数据政治的神秘历史。

莱波尔在研究“棱镜门” 事件时发现, 早在1844 年就有过针对私人信息泄露的抗议活动了。 一直以来, 信息安全永远是滞后的; 当人们想起捍卫隐私时, “邮局早就拆过你的信件了; 你的照片已经在脸书上了……谷歌已经知道你讨厌喝蔬菜汤了”[1]。 到了2015 年, 莱波尔又在调研中发现, 如今民意调查已经被数据分析取代: “想了解他们打算给谁投票, 怎么看拜登的最新演讲……不用再设计一张100 个问题的问卷了, 只要收集数据就行了。”[2]为什么会出现这样的变化,它又是何时悄然发生的? 怀着种种疑问, 莱波尔在麻省理工学院的图书馆里打开了一个尘封多年的档案盒。 她被盒子里的内容迷住了, 并将其形成了最新的代表作《如果/那么: 机械拟态公司是如何创造未来的》 (If/Then:HowtheSimulmatics CorporationInventedtheFuture)。

今天, 人类无时无刻不处于“数据” 的监控和影响下。 你正在社交软件上约闺密吃日料, 某点评平台就推送了 “十大性价比最高的Omakase”; 你打开某宝, 首页上就挂着你想添置的春季外套; 最近甚至爆出新闻, 很多男性都在妻子怀孕期间收到了某些违法服务的广告信息。 这种对隐私的挖掘, 对需求的“精准定位”, 令人不寒而栗。 即使在一向嫌“保守主义” 和“精英主义” 的人文领域, 一切亦面临着数字化的前景——网络文学、数字人文、数字藏品等。 莱波尔有些酸意地将硅谷精英称为“科技福音的传播者”, 感叹人类已经陷入了数据狂热和“人文主义灭亡” 的困境。[3]在她看来, 如果人们能在“机械拟态” (Simulmatics) 公司第一次提出“显宏镜计划” (Project Macroscope)的时候就行动起来, 或许这样的困境就不会出现。

一、电子预测和数据占卜:冷战中的科技迷狂

莱波尔认为, 从最古老的社会诞生之时起, 人类就一直痴迷着“预测”:

希腊人为德尔菲的神谕建造圣殿; 印加人在帕查卡马克修建神庙。佛教徒、穆斯林、基督教徒、犹太教徒……每种信仰, 每种文化都拥有自己的先知、神庙、祭祀官、预言解读者和预测未来者。[4]

到了20 世纪50 年代, 动模的科研人员则想利用刚刚投入民用的计算机, 提高“预测” 的精准度和速度。他们自称“假想者” (What-If Men),是一群来自麻省理工、耶鲁、哈佛和哥伦比亚等大学的自由派白人男性, 年轻、聪慧、野心勃勃, 莱波尔把他们比作“挥舞着羽毛和蜡做的翅膀飞向太阳的伊卡洛斯”[4]2。而他们所生活的年代也正处于波谲云诡的变革之中。

(一) 冷战叙事中的党派与民权斗争

从政治层面看, 首先, 冷战和民权事件的影响贯穿了20 世纪50 年代的美国, 成为民众焦虑和不安全感的最大来源。 一方面, 尽管约瑟夫·麦卡锡和非美活动调查委员会(HUAC) 已经倒台, 但冷战思维和极端反共立场仍在艾森豪威尔—肯尼迪—尼克松的任期延续着。 苏联试爆原子弹、伴侣号的升空等都让冷战分子更加急切, 意识形态领域的渗透和反渗透也成为这场“‘美国精神’ (Americanism) 与社会主义的二元对立”[4]35的必争之地。 与此同时, 在南方州, 布朗诉托皮卡教育局案、蒙哥马利公交车案、小马丁·路德·金被捕、小石城事件等掀开了美国反种族隔离、反偏见、反歧视的民权斗争大幕, 非洲裔美国人手里的选票也变得重要起来。

其次, “驴象两党” 之间的差异正在不断缩小。 在20 世纪30 年代,民主党和共和党还在是否加入第二次世界大战、自由企业的危害等许多重大问题上持截然相反的立场。但到了20 世纪50 年代初, 冷战格局的形成让两党有了共同敌人, 席卷而来的自由主义浪潮又进一步抹平了两党间的差异。 “共和党仍然代表商人, 民主党仍然代表劳工……但到了1952 年, 美国人已经像叮当兄和叮当弟 ( Tweedledee and Tweedledum) 一样分不清民主党和共和党了。”[4]15莱波尔在书里也提到, 由于尼克松和肯尼迪的条件太相似,很多选民分不清两人而引发了一系列趣事。

于是, 从总统政治的角度看,能否利用冷战和民权这两项议题造势成为关键决胜点之一。 美国的政治文化从此发生了转折。

(二) 政治广告的方兴未艾

总统政治的另一个决胜点是“炒作” 能力。 “二战” 结束后, 美国的广告业特别是电视广告业务迎来了爆炸式发展, 这得益于厂商“制造消费需求” 的强烈愿望和电视机的普及(“我们不是要售卖唇膏,而是要收买消费者”[4]15)。 而政治活动也很快注意到了这种 “售卖/收买” 的重要性。 尽管早在18 世纪晚期, 政治哲学家们就已经透彻地思考过煽动群众的危害。

但制宪者们想象不出电气化的、霓虹闪耀的、充满真空管的20 世纪的新手段和专门用来海投广告、操弄政治的机器, 这些手段和机器实在太强大, 需要恐慌的早就不是煽动群众, 而是思想控制了。[4]19

1949 年, 一 家 名 为 “选 战”(Campaigns) 的政治咨询公司通过煽动“红色恐慌”, 成功搅黄了杜鲁门总统的国民健康保险计划; 1952年, 艾森豪威尔的全国竞选活动首次请来了广告商帮忙。 他们让迪士尼制作了一部动画短片, 一群排着队的小人边走边唱 “你喜欢艾克,我喜欢艾克, 大家都喜欢艾克” (艾克是艾森豪威尔的昵称)。 艾森豪威尔成了第一位出现在电视广告里的总统候选人, 并最终令不愿推销自己的阿德莱·史蒂文森一败涂地。 大选成了麦迪逊大道的业务, 人们开始像挑选牙膏那样选择总统。 优雅、理性、散发文学和哲学光芒的长篇演讲成了迂腐的过去, 煽动民意、制造恐慌、宣传鼓吹“代表着一个新的、见利忘义的美国政治未来”[4]16。

(三) 国防投入的“双管齐下”

在社会科学领域, 尽管20 世纪20 年代的美国就有民意测验产业,20 世纪30 年代有“战时通讯研究”和“心理战研究”, 但自20 世纪50年代以来, 这些军方的秘密研究才正式拥有合法性, 并换上大众传播或行为科学研究等新名称。 冷战开启后, 与 “外国语言和地区研究”相关的项目获得了稳定的经费支持,他们在全世界收集舆论信息、采访结果和民意调查, 特别是社会主义阵营中的“不同政见者” 和华沙条约难民, 研究阻止共产主义思想渗透的方法。 国防部、中央情报局、卡耐基基金纷纷将经费投向这类研究; 福特基金会相继筹建了专门研究人类思想的 “行为科学部” 和“高级行为科学研究中心”, 兰德智库(RAND) 也是在这个时期成立的。 在这个过程中, 量化科学逐渐兴起——这门学科坚信人类行为的可量化, 只要有足够多的数据、足够精准的数学模型和一套理论, 就能预判和左右人们的行为。 美国政府希望科学家研制出“意识形态雷达”,不仅能了解拉斯韦尔模式, (谁? 说了什么? 通过什么渠道? 对谁? 产生了何种效果?) 能在政治上出现不安定因素时进行预警, 还能“揭露卡尔·马克思学说的邪恶性”。[4]58

在应用技术领域, 1950—1952年, 美国国防部的预算从500 万美元一路飞涨到1.6 亿。 1953 年, 艾森豪威尔提出“新面貌” (New Look) 国防战略, 大力发展精准定位武器。到了20 世纪50 年代中叶, 用于军事上的开销占了联邦预算的近四分之三。[4]57原子能、电子技术、航空航天等学科都得到了前所未有的重视。据统计, 1952 年前后, “国防部、原子能委员会和国家航空咨询委员会的相关项目就占用了约70%的科研人员”[5]。 航空航天方面, 苏联的“伴侣号” 升空后, 艾森豪威尔马上着手成立了美国国家航空航天局(NASA) 和高级研究计划署 (ARPA)。 电子技术方面, 随着大量经费的投入, 电子计算机以惊人的速度更新迭代。 新的编程语言被开发出来, “自动化” “模拟” “人工智能”等词语也开始进入美国人的日常用语中。

综上所述, 动模公司就是在这样一种语境下诞生的。 它的名称(Simulmatics) 是 “ 模 拟、拟 态”(simulation) 和“机械、自动” (automatic) 两个词的结合, 也凝聚着整个团队的雄心——制造一部 “人机” (people machine):

它能镇压暴乱。 能赢得选举。能卖漱口水。 ……能从情感和理智方面下手, 让我们在越战中获胜。能预测种族骚乱乃至瘟疫的流行。能终结一切混乱。[4]3-4

概括而言, “人机” 将模拟人类行为, 预测人类行为, 以及操控人类行为。

在莱波尔看来, 如今的脸书(Facebook)、帕兰提尔(Plantir)、剑桥分析(Cambridge Analytica)、亚马逊、互联网研究所[6]或谷歌, 都是动模公司孵化出的“鸡蛋”; 而他们的科研人员就是“马克·扎克伯格、谢尔盖·布林、杰夫·贝佐斯、彼得·泰尔、马克·安德森和埃隆·马斯克仙逝已久的白胡子祖父”[4]6。 不过, 比起对硅谷精英的厌恶, 莱波尔却一直为动模辩解, 说他们只是一群20 世纪中叶的“白左” (white liberals), 思维具有局限性; 他们的出发点是好的, 是想推动民主的理想主义者; 他们没有意识到“人机”中潜藏的危机。 但真的是这样吗?

二、关于“人学”:埃德·格林菲尔德与“假想者”

动模公司成立于1959 年, 在纽约、华盛顿、坎布里奇和越南的西贡都设立过办事处。 这个团队由董事长和他四处网罗来的科研人员即“假想者” 组成。

埃德 (埃德华) ·格林菲尔德(Ed Greenfield), 动模公司董事长,民主党支持者, 麦迪逊大道上的“广告狂人” 和公关高手, 诸多基金会的董事成员。 “极其精明, 我的好友,谁都认识。 长袖善舞。 ……关系网庞大。”[4]14格林菲尔德热衷政治, 是真正的 “人学” (Science of Man) 专家——擅长收集和推销“人”。

尤金·伯迪克(Eugene Burdick),知名作家, 好莱坞名人, 加州大学伯克利分校教授, 政治学家, 尤其关注将量化科学的方法引入政治学理论中。 其代表作包括政治惊悚小说《第九次浪潮》 (TheNinthWave)、《丑陋的美国人》 (TheUglyAmerican)、《核子战争》 (Fail-Safe) 等。

哈罗德·拉斯韦尔(Harold Lasswell), 政治学家、社会学家、心理学家、行为学家, 还被称为传播学的奠基人之一, “拉斯韦尔模式” 的提出者。 曾出版《世界大战中的宣传技巧》 (PropagandaSkillsinWorld War)、《政治语言: 语义的量化研究》 (TheLanguageofPolitics:Studies inQuantitativeSemantics) 等著作。 颇有讽刺意味的是, 拉斯韦尔一直提倡“通过一种系统的、由政府主导的操控大众的方式来抵御独裁主义,保障民主”[4]33。

保罗·拉扎斯菲尔德(Paul Lazarsfeld), 奥地利移民, 行为科学家,曾在哥伦比亚大学创建“应用社会研究所”, 开展“选民如何在议会和州选举中做出选择” 的研究, 并将成果转化成专著《投票: 总统竞选中的舆论形成研究》 (StudyofOpinionFormationinaPresidentialCampaign)。

伊锡尔·德·索拉·普尔 (Ithiel de Sola Pool), 动模科研团队主任,量化行为科学家, 国防学者, 五角大楼参谋, 曾在胡佛研究院做“革命与国际关系发展” 研究, 在麻省理工的国际研究中心做“国际传播”研究。 尝试开发“意识形态雷达”,制作“阐释意识形态和反意识形态”的数学模型。[4]55

亚历克斯·伯恩斯坦(Alex Bernstein), 俄罗斯犹太裔, 从小在纽约长大。 朝鲜战争期间在美军通信部队服役, 从事破译密码和发送信号的工作, 曾用IBM704 计算机编写出人机对弈的下棋程序, 后成为动模的程序员。

威廉·麦克菲(William McPhee),“狂人比尔” (Wild Bill), 蓝领家庭出身、靠着奖学金上耶鲁的数学天才, 量化科学和计算机专家, 同时也是躁郁症患者, 在贝尔维尤精神病院写出了动模早期的数据分析程序。

詹姆斯 (吉姆) ·科曼 (James Coleman), 普渡大学社会学研究生,动模公司教育部门主任, 致力于将人类行为的数据模型应用于教育领域, 普及教育机会。

不难看出, 动模的大部分成员都有从军经历或军方背景, 与政界关系密切, 而该公司的兴衰也始终与美国政治紧密相连: 1960 年, 它借助肯尼迪的胜选获得声望; 1970年, 它又因越战中的一系列不光彩行径而在骂声中破产。 实际上, 从黑人运动、城市暴乱到总统大选,动模“在(20 世纪60 年代的) 大部分事件中都扮演了某种角色”[4]102。同时, 莱波尔也提到了这些光鲜亮丽的人物的阴暗面: 格林菲尔德迷恋金钱和权力; 麦克菲是个虐待妻女的家暴者; 伯迪克很快就退出了动模, 并成了该公司最激烈的批判者; 伊锡尔·德·索拉·普尔则是一个善于“选边站” 的人: 从社会主义者转变为坚定的冷战主义者, 从阿德莱·史蒂文森的支持者转变为肯尼迪的支持者, 从反战者转变为“战犯”, 被斥为“有史以来最堕落的社会学家”。[7]

莱波尔似乎想从两方面为“假想者” 辩解: 首先, 她说他们是一群失败者, 能力不足以改变历史:“不管有没有机械拟态, 美国人所熟悉的政治都将在20 世纪60 年代走向完结”[4]101。 的确, 与其说动模是数据政治的“先因”, 倒不如说它是美国社会与政治发展的“结果”, 就算没有它, 也会有别的类似企业出现。但不可否认, 动模的影响力是深远的。 不管是拉扎斯菲尔德的投票研究, 普尔的“社交网络” (social network), 麦克菲的 “显宏镜计划”,“人机”, 还是越南的军方项目, 都在制定大选策略、政治宣传方式、了解和左右民意等方面留下了深刻印记。 其次, 莱波尔坚称动模是理想主义的, 与当今的硅谷巨头不同:“(机械拟态) 关注的是国防安全,而他们关注的是利润。”[4]325不得不说, 这里暴露了她的局限性: 她把普尔的激进冷战思维与国防安全画等号, 说“显宏镜计划” 客观上推动了民权事务的进步; 在越南和南方州所做的事也是为了“民主”。 在笔者看来, 这个公司的成败或出发点并不重要, 因为它的存在本身就是一个预兆, 昭示着一个“数字极权” 的人类未来。 在21 世纪的今天, 动模的野心已经全部成真了。

三、关于“人机”: 动模法

“二战” 期间, 美国和英国的工程师制造出了用以计算弹道轨迹和破解密码的电子计算机马克一号(Mark I) 和ENIAC——电子数字积分式计算机。 战后, 电子计算机进入民用, 并有了第一套让使用者以接近英语的方式编写代码的程序。1952 年的大选之夜, 雷明顿·兰德公司的UNIVAC 首次在全国直播中亮相; 1954 年, IBM 推出了第一部能够处理复杂数学运算的计算机IBM704。1956 年, 新的编译程序——Fortran语言被设计出来, 这个词是“方程式转译” (formula translation) 的简称, 能够更好地将接近英语的语言转化为指令, 包括“读取” (Read)、“格式化” (Format)、“跳转” (Go To) 和“如果/那么” (If/Then) 等。举例来说, “如果” 命令会指示计算机思考这样的问题: 如果A 是真的,那么执行X; 否则如果B 是真的,那么执行Y。 不过, 尽管人们将Fortran 程序称为“语言”, 但它其实只能用于数学运算, 并不能像人类大脑一样思考: “Fortran 语言能够处理数值计算中的任何问题, 不过, 当问题出在机器字具有某种逻辑而不只是数字意义的时候, Fortran 语言就不大能满足要求了。”[8]这也是“人机” 后来遭遇一系列失败的原因之一。

(一) “显宏镜” 计划

1956 年, “狂人比尔” 在已知的选民登记表和民意调查的基础上,设计出了一个分析、模拟选民思维活动和行为趋势的数学模型。 麦克菲把该研究梳理成博士论文——《投票系统宏观动态的分析模型》(A Model for Analyzing Macro-Dynamics in Voting Systems), 而格林菲尔德又将其整理成一份意见书, 并命名为“显宏镜计划”[9]。 他们的想法是建立一个数据库, 用计算机上的打孔卡片给选民“贴标签”, 比如,“北方州—城市—劳工阶层—新教徒—黑人—三个孩子” 等, 再将他们历年的投票记录等微观信息也都录入计算机。 最后借助麦克菲的模型和Fortran 语言进行宏观分析, 这就是“人机” 程序:

有了我们的模型, 就能预判出关于某个议题的演讲对1000 个子类的人群分别产生何种影响, 以及每个子类中有多少个体分布在各州当中。 然后, 我们就能推算出同一场演讲在不同州的数据百分比上的细微差异, 最终精准找出真正左右大选的州。 ……比方说, 尽管某场演讲会让我们在几个坚定的民主党州丢失2%～3%的选票, 但能在一些很重要的摇摆州增加1/2 的选票。[4]92

当时, 常用的盖洛普民调只能算“事后诸葛”, 而动模的“人机”可以提前预测出某场演讲、某次活动或某种立场对选举走势的影响,这样团队就能未雨绸缪, 有的放矢地制定战略。 莱波尔认为, 这套半个多世纪前的程序实际上与“剑桥分析” 公司2015 年为特朗普、2016年为脱欧派提供的服务没有任何区别。[4]91

(二) 肯尼迪的胜选

动模最成功也最有代表性的一项业务, 是协助肯尼迪赢得1960 年总统大选的胜利(尽管肯尼迪团队竭力掩盖这一点)。 最初, 动模的目标是为阿德莱·史蒂文森服务, 并在史蒂文森竞选幕僚的帮助下, 拉到了共计65000 美元的科研经费 (相当于2020 年的50 多万美元)。 1960年5 月15 日, 动模提交了第一项研究成果《北方城市中的黑人选民》,并强调了两点: (1) 拿不下黑人选民,民主党就不可能重返白宫; (2) 想要赢得黑人选民的心, 就必须在民权问题上持更坚定的立场。 但没过多久, 史蒂文森就退出了舞台, 肯尼迪获得了民主党内提名。 于是动模转而投向肯尼迪。 当时肯尼迪的民调落后于尼克松, 而且有几个相当明显的弱势: (1) 肯尼迪太年轻,只有42 岁。 (2) 肯尼迪本人及家族与约瑟夫·麦卡锡的关系极为紧密。(3) 肯尼迪不擅长民权事务[10], 自由派人士不信任他。 (4) 肯尼迪及家族信仰天主教, 在美国这样一个新教徒占绝对优势的国家, 此前从没选出过一个天主教总统(此后也只有乔·拜登一人)。

动模在计算机上帮肯尼迪模拟了一场选举, “预测” 了选民即将做出的选择, 然后提交了三份要报:《劳动节前的肯尼迪》 《劳动节前的尼克松》[11]《肯尼迪、尼克松与国际事务》。 在第一份和第二份报告里, 他们给出的建议是: (1) 要持续不断地表达对民权问题的坚定支持。(2) 要正面挑战宗教话题, 不仅不能回避, 还得狠狠炒作一番。 “人机” 的“如果/那么” 模拟显示: 如果他多谈论一些自己的信仰, 那么就会遭到攻击; 如果他遭到攻击,那么将会出现一股反偏见、支持“弱势群体” 的作用力; 如果出现这种情况, 那么肯尼迪不仅能得到天主教徒的支持, 还能获得任何反对偏见的人的支持。 (3) “人机” 判断, 竞争越白热化, 肯尼迪就越占优势。 而在第三份报告中, 他们则就即将到来的辩论给出了一系列应对方法。

劳动节过后, 整个夏天都落后于尼克松的民调迅速赶超上来。 尽管肯尼迪团队不承认, 但在此期间,肯尼迪在民权主张、宗教立场和四次电视辩论中的表现, 都是根据动模的建议去做的。[4]120最终, 肯尼迪以49.7%对49. 5%的极微弱优势赢得了普选, 又以较大优势获得了多数选举人票, 成功入主白宫。 也是从那年起, 计算机正式成为大选夜的支配力量。 三大电视网都用上了最快的计算机, 争相预测投票趋势,发布计票结果。

肯尼迪胜选后, 《哈泼斯杂志》(Harper’sMagazine) 上登出一篇文章, 把肯尼迪团队和动模公司都推上了风口浪尖。 文章披露了“人机”的秘密, 批判肯尼迪团队利用机器侵犯隐私、工具化选民、操控政治等种种罪恶。 一方面, 肯尼迪团队忙着否认, 声称根本没听说过这个公司; 另一方面, 动模的业务却空前繁忙起来, 传媒公司、政府部门和广告代理机构纷纷寻求合作, 还公开发售了股票。 动模的野心是利用“人机” 创建一个电子版的美国,由无数类型的虚拟美国人组成。 这个程序可以测试任何“产品” 的效果, 从速溶咖啡到政府公务不一而足(这让我想到了“元宇宙”)。 这些业务没能重现肯尼迪胜选的成功:他们的步子迈得太大, 现有条件无法获得足够数据, 也很难充分调试模型; 同时, 他们在越南所做的事情也与国内的反战浪潮格格不入。动模是短命的, 但它的存在意义非凡, 既浓缩了20 世纪60 年代的历史全景, 又揭开了未来世界的序幕。从政治上看, 它是冷战意识形态、军备竞赛和总统政治的衍生物; 从文化上看, 它是技术乌托邦和“量化自我” 的开拓者; 从商业上看,它则是把心理战和数据兜售相结合的先驱。 而莱波尔认为, “机械拟态法” 的崛起意味着人文认知的被抛弃。

四、结 语

莱波尔将动模比作20 世纪50 年代埋下的“手雷”, 直到21 世纪的第二个10 年方才“引爆”。[4]4当年“人机” 所引发的忧虑, 大多已成为今天的现实困境。 首先, 在一个数字化的生态系统里, 我们的隐私可能得到保护吗? 数据是否会被篡改和滥用? 民意是否被“精准操控”?“一致共识” 的达成中有多少自由和自发性成分? 其次, 如果活生生的人变成数据库里的标签, 面对面的交流需要通过机器“传达”, 生命体验中的点滴都可以进行数字模拟……那么我们对社会的理解和对自我的认知会发生怎样的变化? 数字化是否意味着人文精神的灭亡?

针对第一个问题, 克里斯托弗·怀利[12]认为, 立法者必须起到监管作用, 技术企业绝不应该毫无约束地自由行动:

既然制药公司或航空航天企业必须通过安全和效力检测才能上市新发明, 为什么数字系统不经审查就可以上市? ……我们已经看到,激进主义、大规模枪击案、种族清洗、进食障碍……都受到社交媒体的直接影响, 这些可能是看不见摸不着, 但造成的伤害却是实实在在的。[13]

为此, 怀利的建议是: (1) 制定一部互联网政策法规; (2) 出台一部软件工程师专用的伦理规范;(3) 开设专门的数字监管机构, 并赋予专业调查官独立执法的权力。[13]331-339莱波尔也认为, 责任在人民和民选政府肩上。 如今, “在未经政府机构管理的情况下, 以利益为驱动去收集和使用人类行为数据,对社会造成了严重破坏, 特别是政治、广告、民族关系等领域”[4]324。但是, 这个想法与莱波尔自己对“政府监控” 的担忧又是相互矛盾的。 以美国为例, 2001 年, 美国通过了《爱国者法案》, 允许政府拓展监视的授权范围; 2007 年, 国家安全局开启“棱镜计划”, 直接监视美国9 家主要网络公司的中央服务器[1]71; 今年4 月初爆出的“五角大楼泄密门” 事件则进一步暴露了美国政府的全球监听行为。 我们不得不思考, 基于“算法黑箱” 和“权力悖论”, 如果公众丧失了知情权和个人信息的自决权, 那么监管和监控之间的边界在哪里呢?

至于第二个问题, 莱波尔在《如果/那么》 里没有直接给出回答。但首先, 她批判了普尔将量化行为科学称作 “20 世纪的新人文主义”[3]的说法。 在莱波尔看来, 人类是无法也不应该被量化的。 当几个精英教育出身的硅谷“白左男”,对着资料库中的数据, 借助算法去理解和划分“非中产、非白、非左、非男” 的人群时, 这个画面是荒谬的, 更别提他们还要给对方灌输“普世的” 价值观了。 而当这些数据模型被资本集团所掌控时, 一种新的福柯式的“规训” 手段就生成了。

此外, 莱波尔有意在书中穿插描写了几位女性, 将她们的“人文精神” ——细腻的情感、关于生命的体悟和对亲密关系的思考, 与她们丈夫的“数字狂热” 进行了鲜明对比。 莱波尔认为, 承担育儿工作的家庭妇女或许是最好的人类行为学家; 坐在街边静坐抗议的黑人比选民登记表更会表达他们的诉求;而一位总统候选人应该支持民权立场, 因为这么做正确, 而不是因为机器告诉他这么做。

最终, 莱波尔借安东尼·莱万多夫斯基 (Anthony Levandowski) 的“历史无用论”[14]重申了自己的观点: 动模的这段秘史恰好证明了历史的重要性; 一切面向未来的发明都立足于过去。 “历史的重要不是因为预言性, 而是因为警示性; 不是一剂药方, 而是一纸谏言。 科技的历史为当下的实践者上了一课。”[15]

而我想, 不妨以汉娜·阿伦特的一段话作为结尾吧:

除了征服之梦、机械之梦、人工智能之梦和模拟世界之梦外, 再不会有别的梦想了吗? 那些关于公正的梦想, 关于平等的梦想, 关于自由的梦想呢?[15]