把思考外包给机器？

黑爪

2008年，著名的美国科技杂志《连线》主编克里斯 安德森，在当年6月23日的《连线》上宣称，“理论终结了：数据的洪流使得科学方法变得过时”。

其时谷歌刚刚十岁，风头虽健，但那时我们尚相信理论。无论是从描述宇宙，还是到分析人类行为，理论就算不完美，也大致能够解释我们所处的世界。但安德森那时预言，在海量数据中成长起来的谷歌，将会使我们终将不再需要理论。

数据的计量单位，从字节到千字节，再到兆字节，那之后的GB、TB，普通中国人就不再热衷于用对应的中文名字来称呼它们了，不光因为太大，大到难以想象，中文名字失去了任何意义，还因为这些单位很快就被更大的单位取代，刚刚习惯就已经过时了。如今是PB年代，PB全称是Petabyte，拍字节。

至此，仿佛完成了量变的积累：千字节时代我们用软盘存储，兆字节时代用硬盘，GB、TB有存储矩阵，到了PB，一切便上到了云端……就好像从文件夹到文件柜再到档案馆的类比，终于，我们用完了可资类比的实体。

信息不再是简单的三维或者四维空间里的归类和序列，它变成了不可知维度的统计学概念。谷歌不懂广告业，甚至从不宣称自己懂，也不打算去懂，但它征服了广告业，靠的仅仅是数据，以及，对数据的分析。其基本哲学便是，我们并不知道为什么这个页面比另一个好，如果接入链接的统计数据说它好，那就够了，任何人类行为理论都是多余的。谁知道人为什么要做某件事呢，重点是他做了，而我们又能够以前所未闻的精确度跟踪测量。

世界已经由海量数据和应用数学取代了其他一切工具，只要数据足够大，一切不言而喻。

征服广告当然只是谷歌以及它所代表的数据年代主宰们的牛刀小试，尽管这已经颠覆了零售业、传统媒体以及众多行业，但这不是真正的目标，目标是要取代科学，重建自启蒙时期树立起来的知识和思考体系。

科学方法建立在可验证之假设的基础上。这些假设模型，大都是在科学家的头脑中视觉化的系统，然后经过测试、实验以确定其在现实世界中如何工作。几百年来科学研究就是这样在进行。

然而在PB年代的巨量数据面前，这种假设、建模、测试的方式似乎正在逐渐失去意义。拿物理来说：牛顿模型对事实进行模仿，虽然粗略但仍然有用;到了一百年前，建立在统计学基础上的量子力学，提供了一个更为优秀的视图——然而量子力学终究也只是另一个模型，不可避免地也有瑕疵。物理学因而很大程度流于理论猜想，只是现有实验手段无法对其证伪。在21世纪的第一个十年间，生物学也面临同样的问题。

PB给出了它的答案：只需要相关性。我们不用再去关心模型、假设，需要做的就是直接去分析数据。把数字扔进最大的计算机集群里，让统计算法来把科学不能找到的规律找出。

这，成为理解这个世界的全新方法，相关从此取代因果。所以安德森在那篇宣言似的文章结尾处，他说，是科学向谷歌学习的时候了。

又一个十年过去了。如今看来，他好像没有说错。算法和大数据在过去这十年间大显神通，在某些领域比行业专家们贡献了更多有意义的见解，以及更精确的结果。仿佛忽然之间，我们终于有能力去揭开潜藏在人、机器、商品甚至自然所留下的数据影子和信息轨迹里的秘密。

但是，我们自己，潜藏在每一个人不知不觉生活轨迹里的秘密同样在被谷歌、脸书以及其他互联网公司大数据揭开。几乎所有的大零售商都在对销售数据库中的海量数据进行分析，这些数据库通过信用卡、积分卡等与你关联，目的是对你将来的行为做出一些看似不可思议的预测。前些年就有一个著名的例子，美国明尼阿波利斯一位愤怒的父亲，一天冲进零售商塔吉特（Target）商店里，投诉他们不断向他十几岁的女儿寄送婴儿用品折扣券。事实是，这位父亲确实不知道女儿怀孕了，但塔吉特知道。他们通过监测她的购物模式，并将她的数据与几十亿美金销售的信息作比，推测出了这一看似匪夷所思的结果。

面对硅谷的成就，我们一向认为那是一些改变了现代生活的革新。向前回顾几十年，有英特尔的集成电路，或者苹果对个人电脑的重新定义。近十年更有脸书的连接一切，无所不能的谷歌搜索，浩瀚无边的亚马逊集市。这些令人叹服的技术带给我们如此多的便利，同时也带给我们没完没了的电子邮件，让我们很难专注，也令我们更容易受到伤害——入侵、网络攻击、跟踪甚至更糟。

如果我们需要付出的代价还远不止这些，并且远比这些意义更加重大呢？

对于巨头为我们提供的廉价甚至免费的服务，我们从习惯已经逐渐过渡到不可或缺。但我们很少反过来想，这些廉价和免费的背后，是通过影响我们的思考和行为，使我们不知不觉地接受摆布，那些复杂的算法，针对每一个人进行的精准个性化建议，买什么商品，看什么视频，已经并不真正是我们的决定，而我们得到这些建议的方法——推送到我们眼前的新闻、消费品、電影、音乐——却一直对我们而言，神秘莫测。

《大西洋月刊》作者富兰克林 富尔（Franklin Foer）在他2017年出版的《没有思想的世界》（World Without Mind）一书中指出：“当我们将思考外包给机器时，我们事实上是把思考外包给了运营这些机器的组织。”

启蒙时代所建立起来的，知识与力量之间的制衡关系，在这样一个吨位的信息量面前被击得粉碎。其结果，不仅仅是知识不再有力，它甚至已经不再是知识。一度被当成人类文明史上伟大构建的互联网，我们期待着通过它，我们人人都可获得技术层面的启蒙。但眼前的进展并非如我们最初所料：

今天的我们，发现自己与一个浩瀚无边的知识库相连，但我们没有学会思考。算法成为巫师手里的魔杖，在知识库翻云覆雨，而手握魔杖的数据巨头，正在成为新时代的总仲裁，比我们自己更知道我们的需求，和我们下一步的决定。原本用来照亮世界的知识，似乎将世界变得一片漆黑。 我们举目四顾，满是唾手可得的过量信息，但我们越来越不知道该怎样去理解这个世界。

就像亚马逊仓库里的取件员，他在货架间遵循手执设备给他的指令，流利地穿梭来往，但离开这个设备，他即刻茫然失措。因为货架的设置并不以其是否便于人眼查看为标准：书可能堆在锅的旁边，电视可能与儿童玩具摆在一起，仅仅因为这种堆放可能便于机器定位。这是一个没有计算机辅助便不可能理解的系统，在这里，人与机器之间传统的相互关系被彻底颠覆。

亚马逊的仓库，正是我们这个世界的一个缩影。人类肉身变成算法的一部分，其用途仅仅在于，接受指令的同时，能够移动，这使得他们更容易受雇，也更容易被炒，甚至更容易接受不公正的待遇。但我们所有人都在向这样一个只能从机器角度来理解的世界妥协。

我们创造了一个彻底藐视我们，不屑于让我们去懂得它的世界。

與此同时，因为人人都能访问到无限量的信息和知识库，人们对知识权威、专家的信任开始崩塌。美国总统特朗普在挑选顾问时，偏好没有或者很少从政经验的;他本人在大选中的胜利，当然更说明了选民对专业知识和经验的嗤之以鼻。这是近年来上升的反理性主义大浪的一部分，它最大限度地显现在公共辩论中，情绪对抗推理时，越来越强的优势，以及真相与观点和谎言之间界线的越来越模糊。“抵抗知识权威”与将“普通人的智慧浪漫化”联系在一起，互联网在允许更多的人比以往任何时候都能获得更大量信息的同时，也赋予了他们拥有“知识”的幻觉。

所有这一切，结合在一起，形成了一股反理性的大漩涡，不仅仅杀死了对专业知识的尊敬，也破坏了常识，阻挠了理性讨论，将错误信息像流行病一样传播。谷歌的无处不在，将信息、知识和经验三者混为一谈。

在此之前，对现代历史产生最大影响的技术进步应该是15世纪的印刷技术。它使得对经验性的知识检索成为可能，取代了仪式形式宣讲的必要性。理性时代（Age of Reason）逐渐取代了宗教时代（Age of Religion），个体的见解和科学知识，取代了信仰作为人类认知的基本标准。信息被系统化地存放在越来越大的图书馆内。

现代世界秩序的一切思想和行为都萌发于理性时代。

但眼下我们面临的这种全新的，更加横扫一切的技术革命中，这个秩序正在遭遇剧烈的震荡，对其后果我们尚无清晰的认知。其结果，可能会像前文我描述的那样一个依赖于机器的、荒凉冰冷的世界，我们所依赖的机器，又完全由数据、算法来驱动，不受任何伦理或哲学常理的支配。

我们已经生活在其中的互联网时代，某种程度上已经提出了一些问题和麻烦;而正在降临的AI，则只会将这些问题和麻烦变得更加尖锐。

启蒙运动力求让那之前的传统真理向更加解放的、注重理性分析的人类理性让位。而互联网的目标则是，通过无限增长的数据积累和操作，来对知识赋予某种认可，人类认知的个体性不再具有意义，个体被简化成数据，而数据统治一切。

互联网用户强调检索及操作信息，而忽略信息的上下文，并对其含义进行概念化。信息因此对知识和智慧形成威胁。淹没在社交媒体上大量的观点和意见的海洋中，人们离自省和思考越来越远。

互联网和越来越强大的计算能力聚集并分析了海量的数据，前所未有的人类认知开始出现，其中最显著的就是各种人工智能工程——看似能够模拟人类大脑来解决复杂、抽象问题的技术。

对大多数人而言，人工智能在很长一段时间里，只是科幻小说中的虚构，直到谷歌的阿尔法围棋击败了世界顶级围棋手李世石那一天，我们如梦初醒。阿尔法围棋的惊人之处在于，它没有经过预编程这个环节。打个比方，它是在不断的实践当中“自学成才”，只需简单将围棋的规则告诉它，它在与自己的对弈中，从错误中学习，实时改良算法。在这个过程中，它飞快地超越了它的人类教练。

这远远超过了我们已经熟知的自动化。自动化所处理的仅仅是手段，它通过逻辑或机制来实现一些预定的目标。相反，人工智能所处理的，则是目的。它为自己建立目标。它的成就，从某种意义上说，是由它自己塑造的。它在获取和分析新数据的过程中始终在调整和变动，从而在分析的基础上寻求自身的提高。通过这样一个过程，人工智能发育出了过去被认为由人类保留的能力。它所做出的对于未来的关键判断，一部分基于编码（例如围棋规则），而另一部分则基于它自己采集的数据（例如下一百万次棋）。

如果说AI此前尚一直局限于特定领域，如今已经开始着眼于能够在多领域执行任务的“通用智能”AI。比例正在不断增长的人类行为，在可见的时间范围内，将能够由AI算法执行。但这样一些通过对观测到的数据从数学角度进行阐释而产生的算法，并不能解释隐藏其下的现实世界。这也正是其讽刺所在，世界在越来越透明的同时，也越来越神秘。

是什么将这个新世界从我们熟知的那一个区分开？我们该怎样在其中生活？纵观整个人类历史，不同时代的文明有其不同的方式，来对其所处的世界做出解释——中世纪的宗教，启蒙时代的推理，19世纪的历史，20世纪的意识形态。而对于这个我们正在进入的世界，最困难也是最重要的一点：如果人类对世界的解释力被AI超越，社会将不再能够对其所处的世界做出有意义的解释，什么将成为人类的意识？在将人类行为简化为数学数据的机器世界里，思想将怎样被定义？

AI真正的独到之处，却并非迄今为止我们所认识和定义的思考，而是前所未有的记忆和计算。但决定人类之所以为人类的，恰恰在于思考。

人文领域的知识分子过去在很大程度上塑造了这个世界的概念秩序，这次终于显得力不从心，他们要么欠缺AI如何运转的基本知识，要么被它所能达到的成就惊得目瞪口呆，只剩下崇敬。另一方面，科学领域正一门心思地在探索它在技术方面的潜力;而技术领域则迷醉于它无比灿烂的商业前景。科学与技术这两个领域的动力都在于进一步将发明和发现向极限推进，而非对它有更深的理解。 至于监管，从目前来看，更多地着眼在处理AI应用本身的安全和性能方面，而非探索其已经开始的，对人类生存状况的大改变。

启蒙运动从根本上也始于新技术的普及，但我们的时代似乎在向相反的方向推进，它创造了具有潜在的统治一切的能力的技术。因此我们需要从伦理上、哲学上找到某种引领，而这些不是技术极客能够回答的问题。从前技术总能成功，因为我们都相信“失败是成功之母”，可以从错误中学习。火开始惹祸了，我们发明了灭火器;汽车开始伤人命了，我们开始使用安全带……但是面对更加强大的技术，例如核武器，生物合成技术，以至超级人工智能，我们不能再从错误中学习。因为这学习代价太大，人类付不起。

2013年5月，谷歌在英国赫特福德郡邀请了大约200位特定的客人出席其“时代精神”年会。这一两天的会议极度保密，仅有少量演讲视频在网上进行了公开发布。那些年间，这个年会的演讲者一直以包括美国前总统、皇族、明星等高规格人物著称，2013年出席的有数位政府首脑，欧洲诸多大企业总裁，英国军方头脑，以及最具影响力和煽动性的演讲者。一个月后，这次年会的参与者的一部分，包括谷歌CEO埃里克 施密特在内，再次回到那家酒店参加更为神秘的世界级年度非正式政要聚会，彼尔德伯格会议。施密特为会议以一篇技术带来解放的颂歌开幕。他说：“我认为我们现在缺了某种东西……发明创造的本质，在谷歌以及在全世界正在发生的事情，足以让我们整个人类更加乐观。”

在随后的讨论中，他用手机，尤其是带摄影功能的手机的流行，如何降低了“系统性作恶”的可能来说明，技术怎样使世界变得更好：如果卢旺达1994年有手机。施密特的，或者说谷歌的世界观，是相信让一切变得可见便能改变世界。事实真是这样吗？卢旺达的种族屠杀没有被制止，真的是因为外界不知情吗？2012年的审判中，控方出具了1994年5、6、7整整三个月的高清卫星图片，那里发生的一切，美国知道、欧盟知道、联合国知道，灾难并没有因为可见而被消灭。 在卢旺达缺位的不是信息，而是采取行动的意愿和决心，是良知，这不是技术或者数据能够带给我们的。

责任编辑 杜小烨