新型精神控制

凌寒/编译



新型精神控制

凌寒/编译

本文作者罗伯特·爱普斯坦 （Robert Epstein），加利福尼亚州美国行为研究与技术研究所高级研究型心理学家，《今日心理学》杂志的前主编。本文是他即将出版的著作《新型精神控制》的书评文章。

· 互联网催生出了形式微妙的影响力，可以反转选举结果甚至操控我们所说、所想和所做的所有事。

在过去一个世纪里，有不少伟大的作家都对人类未来表示过担忧。在《铁蹄》（1908）一书中，美国作家杰克·伦敦曾描绘了这样一个世界：一小部分富有的企业巨头——也就是所谓的“寡头”——用残酷的奖惩相结合的手段把民众逼得走投无路。大部分人都生活在实际上的奴役制度中，一部分幸运的家伙被体面的薪资收买，能够生活得舒适一些——但他们也无法真正掌控自己的生活。

在《我们》（1924）一书中，杰出的俄罗斯作家叶夫根尼·扎米亚京预见了新兴苏联的极端行为，他设想出这样一个世界，在这个世界中人们被无处不在的监控严加管制。家里的墙壁用透明玻璃砌成，他们全部的所作所为都能被监视。人们每天有一小时可以放下百叶窗过一过性生活，但是约会时间及恋人信息都要先在政府进行登记。

在《美丽新世界》（1932）一书中，英国作家阿道司·赫胥黎描绘了一个近乎完美的社会，在这个社会中人类通过基因工程与心理调节相结合的手段，剔除了人性中的悲伤和攻击性。在一部更为黑暗的名为《1984》（1949）的小说中，赫胥黎的同胞乔治·奥威尔则描述了一个思想本身被控制了的社会。在奥威尔的世界里，孩子们被教导使用一种称作“新语”的简化形式的英语，以确保他们永远都不能表达对社会有任何危害的思想。

诚然，这些都是虚构的故事，每个故事里拥有权力的领导者都使用了很显眼的控制形式，然而至少有一小部分人积极抵制并偶然战胜了这样的控制。但在一本纪实文学畅销书《隐匿劝说者》（1957）中——最近发行了50周年纪念版——美国新闻记者范思·帕卡德（Vance Packard）描述了一种迅速席卷美国的“奇怪而充满异域情调”的影响，这种影响从某种程度上讲，比小说中描述的虚构的控制形式更具威胁性。按照帕卡德的说法，美国的企业高管和政治家们开始用微妙的、甚至在很多情况下完全无法察觉的方式来改变人们的思想、情感以及行为，这种方式是基于对精神病学和社会科学的洞察。

我们中的大部分人都听说过至少下列一种方法：阈下刺激，亦或是帕卡德所说的“亚阈值影响”——简短信息的出现告诉我们该做什么，但是简短的信息稍纵即逝以至于我们都没意识到看见过这些信息。1958年，位于新泽西州的一家电影院被疑在其放映的一部电影中植入信息以提高冰淇淋的销量，在公众舆论的推动下，全美广播事业者联盟（为美国电视设立标准的联盟）为了禁止在广播节目中使用阈下信息而修订了条例。1974年，美国联邦通信委员会认为使用该类信息“违反公众利益”。美国国会亦提出立法禁止阈下信息，但实际上该法律并未颁布。英国和澳大利亚均有严格的法律禁止阈下信息。

在美国，阈下刺激很可能仍在被广泛使用——毕竟阈下刺激很难被察觉，而且也没有人去特意跟踪记录——但是也没必要太担心。研究表明阈下刺激仅有着很小的影响力，它主要会影响到那些本就乐于积极响应信息指示的人；饮水的阈下指令仅当人们已经觉得口渴时才会起作用。

然而，帕卡德揭露出了一个更大的问题——那就是强大的企业一直都在不断寻求、并且在很多情况下用各种各样的方法在人们不知情的情况下控制他们。他描述了一种阴谋，市场营销人员与社会科学家们密切合作来决定除其他方法外怎样促使人们购买他们并不需要的东西，以及怎样把年幼的孩子塑造成良好的消费者——消费倾向性可以被明确培养和训练，就像赫胥黎的《美丽新世界》中所写的一样。在社会科学的引导下，市场营销人员很快就学会了怎样利用人们的不安全感、薄弱的意志、无意识的恐惧、侵略性情绪以及性欲来改变他们的思想、情感和行为，同时又让他们意识不到自己被摆布于股掌之间。

帕卡德说，在20世纪50年代初期，政客们已经对此心领神会并开始使用与售卖肥皂相同的那种微妙的力量来推销自己了。帕卡德引用了英国经济学家肯尼斯·鲍尔丁（Kenneth Boulding）令人不安的一句话作为自己书中有关政治那一章节的序言：“可以想见一个存在隐形独裁政体的世界，而这样的世界仍会使用民主政体的形式。”这样的事情真的会发生吗？并且，如果真的发生了，它又是怎样运作的呢？

谷歌的秘密

几十年来，帕卡德描绘过的那种力量已经变得更为普遍了。在超市听到的盘旋在头顶的舒缓音乐令我们行走更缓慢从而购买更多的食物，无论我们是否真的需要。青少年们从早到晚经历的大部分空洞的思想和强烈的情感都被从事时尚和娱乐行业的技艺精湛的市场营销专家实施了精心策划。政客们会与各种顾问共事，这些顾问会测试政客们各个方面的行为以便影响选民：衣着、语调、面部表情、化妆、发型和演讲均会被进行优化，就像对早餐麦片进行包装一样。

幸好，所有这些影响源都有竞争者。有些说客希望我们购买或相信某样东西，另一些则希望我们购买或相信其他东西。总而言之，社会竞争的天性给了我们相对的自由。

但是，如果仅有很少竞争或者完全没有竞争的新控制源出现，会发生什么呢？如果比以往出现过的任何一种控制方法都更为强大，同时也更为隐蔽的新型控制方法被开发出来，又会发生什么呢？如果出现了新的控制类型使得少数人能够对不只是美国公民而是地球上大部分人施加巨大的影响，又会发生什么呢？这些事也许会让你觉得有点耸人听闻，然而却已经实实在在地发生了。

为了弄懂这种新型精神控制方式是怎样运作的，我们需要先看一看搜索引擎——特别是其中规模最大、做得最好的，也就是谷歌。谷歌搜索引擎做得太好太受欢迎了，以至于该公司的名字现如今已经在全世界语言中成为了常用动词。“谷歌”某事物即指在谷歌搜索引擎上检索某事物，实际上也就是指目前全球大多数计算机用户获取一切事物大部分信息的方式。谷歌已经成为几乎所有知识的主要门户，因为该搜索引擎很擅长向我们提供我们正在寻找的确切信息，几乎就在我们启动检索的第一时间且总是把我们最需要的信息显示在列表（“检索结果”列表）的第一位。

事实上，排序列表做得实在太好了，以至于大约50%的人都选择点击最前面的两个选项，超过9%的人点击了排在检索结果列表第一页的选项；很少有人查看其他结果页，尽管结果页数以千计，也就是说他们很可能包含有大量有用的信息。谷歌决定了检索结果中包含数十亿网页中的哪些网页，以及如何将这些网页排序。谷歌怎样做出的决策是不为人知的秘密——也是全世界保守得最好的秘密之一，就像可口可乐的配方一样。

由于人们更乐意点击阅读排名靠前的选项，现在各大公司每年花费数十亿美元试图去诱骗谷歌的搜索算法（即执行筛选和排序的计算机程序），好让自己的公司能在检索排序上提高一两个等级。提升一个等级对于公司业务来说可能就意味着成功与失败的差别，把等级提升到前排更是公司获取丰厚利润的关键。

2012年末，我开始好奇排名靠前的检索结果是否比消费者的选择更具影响力。我猜测也许置顶的检索结果会对人们的选择造成小小的影响。2013年初，和来自加利福尼亚州维斯塔的美国行为与技术研究所同事罗纳德·E·罗伯逊（Ronald E Robertson）一起，我将自己的想法设计了一个实验，在该实验中来自圣地亚哥地区的102位受试者被随机分为三组。第一组，受试者看到的检索结果偏向于一位政治候选人——也就是说，检索结果链接的网页会让这位候选人看起来优于他/她的对手；第二组，受试者看到的检索结果排序则更偏向对手候选人；第三组（也就是对照组）中的受试者看到的排序是混杂的，不偏向任何一位候选人。每组使用的检索结果和网页信息都是相同的，三组间唯一不同之处就是检索结果的排序。

为了让实验更逼真，我们使用了真实的检索结果，链接到的也是真实的网页。我们也使用了真实的选举——即2010年澳大利亚总理选举。我们使用外国的选举是为了保证受试者的“犹豫不决”。他们对候选人缺乏了解则确保了这一点。通过实验招募广告，我们也招募到了一个已登记的年龄跨度较大的种族多元化的选民小组，这是为了与美国投票人口关键的人口学特征相匹配。

首先，我们把候选人的简要介绍交给所有受试者，然后让他们从多个方面对候选人进行评估，同时也表明他们会为哪个候选人投票；正如所料，最开始受试者在我们设置的五项评估条件上并不偏爱任何候选人，选票平均分布在三个小组内。接着我们给予受试者不超过15分钟的时间使用我们虚拟的搜索引擎“Kadoodle”进行在线检索，允许他们访问五页链接到了网页上的检索结果。受试者可以在检索结果和网页间自由切换，就像我们使用谷歌时一样。受试者完成检索后，我们让他们重新对候选人进行最后评估，同时也重新询问他们会投票给谁。

我们预测两个偏差组（即受试者会看到偏向某一候选人的检索结果排序的两个小组）中2%或3%的人的看法及投票意向会偏向于那个候选人。而实际上我们的发现令人惊诧。偏向于搜索引擎上排名最高的候选人的受试者增加了48.4%，且我们设置的五项评估条件均转向了该候选人。并且，偏差组中75%的受试者似乎完全没有意识到他们看到的是有偏向性的检索排序。对照组中，投票意见没有发生明显变化。

SEME的强大影响

这似乎是一个重大的发现。我们制造出的这种转变，被我们称之为搜索引擎操纵效应（或SEME，发音同“seem”），似乎是迄今为止发现的最大的行为效应之一。然而，我们并没有立即开瓶香槟庆祝。首先，我们只测试了一小部分人，并且这些人都来自于圣地亚哥地区。

在未来一年左右的时间内，我们又将调查结果重复了三次，且第三次的样本来自全美50个州超过2 000人。在那次试验中，投票意向的转变率为37.1%，且在部分人口群体中更高——事实上高达80%。

我们从这一系列实验中还发现只是稍稍减少检索结果第一页的偏差——确切地说，就是在结果页排序第三或第四的位置上插入偏向于另一位候选人的检索词条——我们就能掩盖掉操纵的痕迹，以至于极少有人甚至根本没人意识到他们看到的是有偏向性的排序。我们仍然能引起投票意向的巨大转变，但是我们可以将这事做得神不知鬼不觉。

然而我们还是没开香槟庆祝。我们的实验结果有力且一致，但是我们的实验涉及到的全都是外国的选举——澳大利亚2010年那场选举。在一场真正的竞选中真正的选民投票意向能否被转变呢？我们持怀疑态度。在真正的选举中，人们被各种来源的信息轰炸，并且他们也对候选人了解甚多。单单一个搜索引擎实验似乎不太可能对人们的投票意向产生太大影响。

为了查明此事，2014年初，我们在全球最盛大的民主选举（人民院总理选举）投票前夕去了印度。三位主要候选人为拉胡尔·甘地，阿文德·柯内瓦尔以及纳伦德拉·莫迪。通过在线受试者池和在线及印刷广告，我们从印度35个州及地区中的27个招募到了2 150名受试者参与本次试验。他们必须是还未投票的已登记选民且尚未决定要投票给谁才有资格参与试验。

受试者被随机分配到三个搜索引擎组，这三个引擎分别倾向甘地、柯内瓦尔和莫迪。和我们料想的一样，受试者对这些候选人的熟悉度比较高——如果以10分计的话，熟悉度在7.7到8.5之间。我们预计该操纵即使对受试者有影响，其程度也会非常小，然而事实却并非如此。平均看来，我们可以将任意候选人的支持人群整体改变20%的比例，在某些人群其改变比例甚至可高达60%。更糟糕的是，99.5%的受试者并未意识到他们浏览的是有偏向性的检索结果排序——换句话说，他们被搜索引擎操纵了。

SEME这种近乎隐形的能力确实很神奇。这就意味着，当人们（当然也包括你我）在浏览有偏向性的搜索排序时，会以为它原本就是这样。所以如果你现在用谷歌搜索“美国总统候选人”，你得到的搜索结果很可能看似相当随机，即使这些结果倾向其中一名候选人。同样的，我明知道SEME的搜索排序具有倾向性（已经由我的团队成员设置好），我也很难察觉这一事实。然而，我们进行的随机实验一次又一次地表明，当排名靠前的选项被链接到有偏向性的网页时，将会显著影响中间选民的观点，这一现象缘于人们更倾向于点击排名靠前的链接。这确实令人触目惊心：和阈下刺激相似的是，SEME也是一种看不见的力量；和阈下刺激不同的是，SEME具有更强的影响力——它像一只鬼马小精灵，用无形的双手将你推下楼梯。

2015年8月，我们在著名的《美国科学院院刊》（PNAS）详细发表了SEME完成的第一批5个实验。我们确实发现了一些重要内容，尤其关于谷歌在搜索领域的主导地位。谷歌几乎垄断了美国的互联网搜索，根据皮尤研究中心得出的数据，谷歌是83%的美国人最常用的搜索引擎。所以，如果谷歌在一场选举中倾向于其中一位候选人，它将通过影响中间选民而轻易地决定选举结果。

需要注意的是，在SEME实验中，受试者接受实验的时间很短暂。试想，这样有偏向性的搜索结果，如果早在选举前的几周，甚至几个月就不断被推向用户，其影响将会如何？几乎可以肯定的是，其影响将会比实验所呈现出来的效果强很多。

在竞选活动期间，其他媒介的影响因素被彼此平衡，比如各式各样的报纸、电台和电视。然而对于谷歌来说，其想达到的所有意图和目标，没有任何竞争对手可与之匹敌；而且人们潜意识里相信它的搜索结果，认为它的后台算法完全客观公正。如此高的信任度，再加上毫无竞争，使得谷歌对选举的影响变得独一无二。更加令人不安的是，搜索排序业务完全不受管制，所以谷歌可以在不违反任何法律的情况下，支持任何一个候选人。一些法院甚至裁定，谷歌这种任意排名搜索结果的行为，将作为言论自由的一种形式得到保护。

谷歌公司是否曾经支持过特定的候选人呢？在2012年的美国总统大选中，谷歌及其顶层高管向奥巴马捐款超过80万美元，而向其竞选对手米特·罗姆尼仅仅捐献了37 000美元。2015年，一个来自马里兰大学以及其他某个地方的团队研究发现，谷歌的搜索结果一直倾向于民主党候选人。谷歌的搜索排序真的具有倾向性吗？美国联邦贸易委员会在2012年发行的一份内部报告得出结论认为，谷歌的搜索排序经常把谷歌的利益攸关方置于其竞争对手之前，而且目前欧盟和印度针对谷歌进行的反垄断行动，正是基于类似的发现。

在大部分国家，90%的在线检索由谷歌完成，较之美国而言，谷歌在这些地方具有更强大的左右选举的能力，随着互联网在世界范围内的快速渗透，谷歌的这种能力也在逐渐加强。在我们的PNAS文章中，罗伯逊和我计算得出，谷歌可以神不知鬼不觉地反转世界范围内25%的国家选举。据我们估计，不管谷歌高管有没有蓄意策划，谷歌的搜索排序事实上已经影响选举很多年了，而且这种影响正在逐年递增。另外，由于搜索排序转瞬即逝，他们不会留下任何书面记录，所以谷歌可以完全否认这一行为。

如此大规模和高水平的隐形力量，是人类历史上前所未有的。而且事实证明，我们在SEME研究中发现的现象，仅仅只是冰山一角。

如何插手一场选举

最近的报告表明，民主党总统候选人希拉里·克林顿正在大量使用社交媒体，诸如 Twitter、Facebook、Instagram和Snapchat等，力争获得更多的支持者。在写这篇文章的同时，她在推特上已经拥有540万的粉丝，而她的助手也会在工作时间里，每小时推出几条信息，保持其账号活跃度。共和党的候选人唐纳德·特朗普，同样拥有590万Twitter粉丝，其账号的推送更新也和希拉里一样频繁。

社交媒体会和搜索排序一样，成为民主政治的又一大威胁吗？我看未必。当新技术被竞争双方同时使用时，它们就不会构成威胁。即使是新颖的社交平台，相比几十年来流行的平面广告和电视广告，其使用方式也毫无二致：当你把广告牌竖在街头的时候，我也可以把广告牌竖在街尾。我也许有钱放置更多的广告牌，然而即便如此，这也仅仅只是一种竞争行为，不致形成传媒垄断。

然而，如果这些社交平台被其所属公司滥用的话，会发生什么后果呢？由俄亥俄州立大学政治学教授罗伯特·邦德（Robert M.Bond）等人完成、发表于2012年《自然》杂志的研究，描述了一项争议性实验。在 2010年的选举日，Facebook向超过6 000万的用户发出提醒——“走出去吧，投上我们神圣的一票”，这条信息促使34万本来不打算投票的选民参加了投票。2014年，哈佛大学的国际法教授乔纳森·吉特仁（Jonathan Zittrain）在《新共和国周刊》撰文指出，鉴于Facebook已收集大量的用户信息，它可以向支持某个特定政党或候选人的用户，针对性地发送此类消息，这样做可以很容易反转一场势均力敌的选举，且这一影响不会被任何人察觉。而且这种广告和搜索排序类似，都是转瞬即逝，如此操纵选举不会留下任何可追查的书面记录。

是否有法律禁止Facebook选择性地向特定用户发送广告呢？当然没有这样的法律，事实上，针对性的广告推送业务正是Facebook的生财之道。那么Facebook目前是否有操纵选举的行为呢？不得而知。但在我看来如果Facebook不这样做的话，那才是愚蠢并且错误的。对于一个公司来说，某些候选人会比另外一些候选人更有利，如果Facebook的高管正好对这家公司的股东负有信托责任，那么他完全有理由为了公司的利益而动用Facebook帮助相关候选人。

邦德的研究在很大程度上被我们忽视了。2014 年PNAS上发表了另一个关于Facebook的实验，引起了世界各地对Facebook的抗议活动。在这项为期一周的研究中，正面、负面或中性词条被推送给68.9万Facebook用户。结果表明，接收正面推送的用户，在随后的社交用语中使用了稍多的正面词条；相应地，接收负面推送的用户，在随后的社交用语中则使用了略多的负面词条。这就表明，人们的“情绪状态”有可能被社交媒体大规模地蓄意操纵，这令很多人感到不安。在没有征得任何参与者明确同意的情况下，进行如此大规模的情绪实验，也是人们感到不安的另一原因。

根据谷歌的隐私政策（用户无论什么时候使用谷歌产品，抑或并未知会其使用的是谷歌产品，都得接受该政策）从你那里收集的个人信息，谷歌可以和包括政府机构在内的任何人分享，不过“任何人”里绝不包括你。谷歌自己的隐私是神圣不可侵犯的；反之，在它眼里，你没有任何隐私可言。

难道谷歌和它的“合作伙伴（其隐私政策用语）”会将收集的个人信息用于什么不可告人的目的？比如操纵或胁迫用户。在用户档案中不准确的个人信息（用户根本无法纠正）会限制用户的机会或造成用户名誉损毁吗？

当然，如果谷歌准备插手一场选举，它可以先动用其庞大的个人信息数据库，来识别那些举棋未定的中间选民。然后，它可以日复一日地向他们发送有利于某位特定候选人的定制排序。这种方法的一个优点是，它使得谷歌对选举的操纵更难被调查和发现。

极端形式的监控，无论是来自前苏联的克格勃，还是来自东德的斯塔西，或者来自小说《1984》中的老大哥，都是专制的基本要素，而新技术使得监视以及监视数据的整合变得更加容易。正如爱德华·斯诺登所揭示的，我们正在迅速迈入这样一个世界：政府和企业——有时候二者通力合作——正在收集我们每个人每天产生的大量数据，而如何使用这些数据却很少或者根本没有法律限制。当你将数据采集与控制欲或操纵欲相结合时，将具有无限的可能性，然而最可怕的也许正如鲍尔丁所言：一个“隐形的专政”可能会以“民主政制”的外表呈现。

操纵成为可能

2015年初，我和罗伯逊在PNAS发表了关于SEME的初步研究报告，我们已经完成的一系列复杂实验，大大增加了我们对这一现象的认知，其他相关实验也将在未来几个月内完成。关于SEME为什么如此强大，以及如何在一定程度上弱化SEME的影响，我们已经有了一定的认识。

我们还了解到一些非常令人不安的事实：搜索引擎的影响远不止购买和选举这么简单。现有证据表明，在所有悬而未决的问题上，检索结果排序几乎会影响我们所做的每一个决定。它们正在对全球互联网用户的意见、信仰、态度以及行为产生影响，而且完全没有人意识到这一事件的发生。该事件在相关公司管理层有意无意的干预下进行；即使是所谓的“自然搜索”，也经常给出具有倾向性的检索结果。因而在某一特定议题上，它有潜力支配上百万举棋不定的网民所做的决定。我们最近的一个实验表明，倾向性搜索结果可以令33.9%的人改变对水力压裂技术的价值判断。

也许更令人不安的是，即使少数人明白他们正在浏览的搜索排名具有倾向性，他们仍然会被带离预定方向；也就是说，仅仅知道一列清单具有倾向性，并不意味着你将免受SEME的影响。

我们需要知道搜索算法都干了些什么，它针对你的查询项，从数十亿网页中选出一小部分，经过隐秘规则排序以后呈现给你。虽然你对搜索清单的生成方式毫不知情，然而几秒之后，你所做的决定，或你形成的观点——哪个品牌的牙膏最好用、水力压裂法是否安全、下一个假期的目的地、谁是最佳的总统人选或者全球变暖是否真实——都取决于刚刚呈现在你面前的这个清单。

同时，搜索引擎的幕后整合也在悄无声息地进行着，所以多数人所使用的仍是主流搜索引擎，即使他们并未意识到这点。因为谷歌是目前世界范围内最好的搜索引擎，加之提取快速扩张的互联网信息变得异常昂贵，所以越来越多的搜索引擎不会自己去开发相关信息，而是直接从谷歌这样的主流引擎获取信息。最近的一笔交易就发生在谷歌和雅虎之间，2015年 10月由美国证券交易委员会披露。

展望2016年 11月的美国总统大选，有明显的迹象表明谷歌正在支持希拉里·克林顿。2015 年4月，希拉里从谷歌聘请了斯蒂芬妮·汉农（Stephanie Hannon）做她的首席技术官；几个月前，谷歌控股公司的董事长埃里克·施密特成立了一个半秘密的公司——“根基”，旨在将希拉里送入白宫的总统办公室。维基解密的创始人朱利安·阿桑奇认为，该公司正是希拉里逐鹿总统宝座的“秘密武器”。

据我们估计，在选举当日，汉农的谷歌老友们有能力让希拉里的选票增加260万到1 040万，而且神不知鬼不觉，不会留下任何记录。当然，他们还可以在初选中影响中间选民，以此帮她获得总统提名。中间选民从来都是选举致胜的关键，SEME可以更加强力、高效和廉价地操纵他们，无人能出其右。

我们生活的世界，由极少数高科技公司掌控，它们有时也与政府部门通力合作，不仅监视我们的日常生活，而且于无形中控制我们的思想、感受和言行。我们周围的高科技，已不再是无害的工具；它们有可能神鬼莫测地操纵全人类，其操纵能力将史无前例，将超越所有现存的条例和法律。这一新兴的隐身“说客”将比范思·帕卡德曾经所设想的更巨大、更激进并且更坏。如果我们仍然漠视其存在，那无疑将置身于险地。

［资料来源：aeon.co］［责任编辑：彦 隐］