艾德丽安·马约尔(Adrienne Mayor)是古典学者和科学史家。在《神与机器人》(Gods and Robots)中,她全面概述了西方人造生命与智能的古代故事。当你把这些神话传说放在一块,它们本身就是一个丰富有趣的收藏。更何况,马约尔搜集的不只是传说,还包括货币和日常用品。
马约尔坚信,我们可以并且应该从这些古老的故事本身,以及它们流传至今这一事实中学到不少东西。正如她所说,创造人工的生命与智能、延长寿命、提升人类能力的愿望,远早于任何现实的可能。然而,这些故事到底要教会我们什么并不清楚。马约尔更像是在探索现代创新与古代梦想之间有何相似之处,而不是完成暗含其中更紧迫的任务:重温这些古老的故事可能有助于更好理解现代人的技术乌托邦冲动。
马约尔的文字清晰易懂,并附有许多帮助理解的照片和插图。在前两章中,女巫美狄亚是中心人物。其中一个故事与机器人塔洛斯有关,另一个则与延长寿命的虚假承诺有关。接下来的两章探讨了永生不死、青春常驻和人类能力的全方位提升。再接下来的各章是关于发明工匠代达罗斯,使心爱女人雕像栩栩如生的雕刻家皮格马利翁,金工和手工艺之神赫菲斯托斯,还有潘多拉这个女性人造人以及人类痛苦的根源。最后一章介绍了古代自动机的实际情况,后记则简要讨论了一些本书可能会引起的大问题。
全书的行文风格是写意或片段式的。每章的布局就像是一系列松散相连的博客文章,随意用装饰性文字间隔开来。虽说每章都是基本独立的,但是对前后章节频繁引用足以表明本书的结构有待改善。在结尾或接近结尾处,有些部分设置了双栏格式,表明它们是补充性的,但对这些文本的选择原则并不明朗。
随着阅读的深入,我们积累了许多有趣的信息,但这本书显然并未就我们可能从中汲取的教训展开讨论。马约尔希望“重温这些古老的故事能够丰富目前有关机器人、无人驾驶汽车、生物技术、人工智能、机器学习以及其他新事物的讨论。”事实上,对这些问题的思考远比预期的要丰富得多。
但这就是马约尔的全部想法吗?全书的主旨仍是模糊不清的。她声称在古代故事中,发现了与今天相同的“技术噩梦与宏伟的未来梦之间令人不安的摇摆”。然而从她的叙述来看,这一断言是否正确尚不清楚。因为这些神话对我们来说既没有至关重要的进步和预期(“宏伟的未来梦”),也不是反乌托邦愿景下的“技术噩梦”。即使这一说法为真,我们也不清楚马约尔所说的相似之处能带来些什么。如果我们和古人有同样的担忧,那么这对常被认为全新的现代技术世界又意味着什么呢?如果我们没有这些担忧,那么这种差异是源于道德观念的变迁,还是技术能力的转变,抑或两者兼而有之?
颇具讽刺意味的是,在关于赫菲斯托斯的一章中提到,他发明了奥林匹斯山的大门。这些大门可以为诸神的战车自动打开和关闭。可以说,赫菲斯托斯“在3 000年前就用上了自动车库门”。马约尔从作家丹尼尔·门德尔松(Daniel Mendelsohn)处援引的这则笑话很大程度上就代表了她自己的观点。至于其他神话和发明,马约尔呼吁人们关注一些他们所预期的,或者至少与之相似的现代技术。在一些主题相关的文学或电影里,可以找到这样的痕迹。马约尔就到此为止了。
以第一章结尾对塔洛斯的讨论为例,他是类似机器人的青铜人。由宙斯下令赫菲斯托斯为其子米诺斯守护克里特岛而造。这节用两页双栏的篇幅介绍了同样名为塔洛斯的美国军事系统,它有一枚20世纪50年代的地对空导弹。“就像青铜人塔洛斯不停地在自己的领土盘旋,发现并追踪入侵者,然后抛出石块摧毁敌人一样,塔洛斯防御系统是自动制导的,但在近距离是部分自主的。”
书中还用两页半的篇幅讲述了塔洛斯神话作为以下问题的早期探索:“自动机可能会渴望成为真正的人类吗?”塔洛斯如何展现那一以贯之,而又不可思议的“中间性”(生命与非生命之间);如何控制自动机,以及这些东西的道德行为。再或者,“塔洛斯神话再次呈现了年代久远的问题:成为人类、获得自由意味着什么”。马约尔本不必花太多时间,或延伸太多就可以提出这些深刻的问题,但她总是在这些重要话题上一笔带过。关于自动机的控制,这个故事告诉了我们什么?塔洛斯抵抗侵略者保卫克里特岛,这一道德行为是否可以被描述成对自己的极度热爱?这个神话是支持这个道德概念,还是对其提出质疑?
在确定一个实质性的主题时,马约尔常常无所适从。另外还有两点值得注意。她努力关注到这样一个事实,即古代神话对于“机器人”如何运作,几乎没有任何兴趣。她似乎觉得很奇怪。现在有人可能会认为,这些故事的属性使它们与许多20世纪的科幻小说相似,星际穿越和时间机器等技术只是被简单地假定。在不被假定的情况下,这些技术可能会被一头雾水的技术行话所“解释”。或许合理,或许并不合理。真正新鲜且有意义的是,这些令人一头雾水的技术行话被认为很重要。近几十年来,为利用真实的科学技术,这些行话变得越来越复杂。鉴于当今社会对知识和物质的关注,现代神话思维是否比古代思维更关心“如何”的问题?似乎很有可能。换句话说,就现有记录而言,创造人工生命可能是人类的长期愿望,但这并不意味着想法背后的动机都是相同的。
动机问题让我们注意到另一个关键性的错失机会。马约尔指出,但几乎没有去调查:在神话故事中,类机器人(或其他创新)与暴君之间经常存在联系。在现代社会中,成功的技术创新似乎更多地与自由世界联系在一起,而不是与专制联系在一起,这一点难道不会很奇怪吗?但是,这或许并没有那么奇怪。由于我们多么担心专制或极权主义政权会以“不负责任”的方式谋取政治上的优势地位,例如使用大规模杀伤性武器、具有潜在危险的生物技术或电子监控。当这种担忧被用来以国家安全或经济竞争力为理由辩称,自由国家需要“先下手为强”时,这是否也使我们把暴君或多或少置于创新产品的驾驶座上呢?
为什么古代作者很自然就把技术创新与专制联系在一起呢?纵观专制:当暴君似乎是件好事,因为可以满足自己的一切欲望。当暴君显然也不好,因为这个位置很不安全,需要不断地防御。从马约尔收集的古代资料来看,技术创新显然发生在这两个特征的交集处。克里特岛的国王米诺斯和王后帕西淮以及宫廷工匠代达罗斯的故事就是一个多面的例子。国王和王后之间持续的性冲突激发了一系列的发明,这些发明首先是为了满足欲望,然后是为了自我保护。帕西淮爱上了一头公牛,就让代达罗斯为她做了一个空心的母牛外壳,她可以把自己藏在里面,诱使公牛与她交配。他们的后代是可怕的弥诺陶洛斯,代达罗斯又建造了迷宫来牵制他。当代达罗斯发现自己被囚禁在克里特岛时,他以儿子伊卡洛斯的性命为代价,乘着人造翅膀飞离。
当然,在当今专制或近乎专制的政权中,性和不安全感随处可见。暴君则拥有经济学家所谓的“有效需求”——无论是为了享乐还是为了防卫,他们都有手段获得自己想要的东西。因此,至少从一开始,我们不妨尝试从暴君的角度来厘清创新技术与专制之间的关系。为专制服务的创新者代达罗斯,他就像汤姆·莱勒(Tom Lehrer)讽刺歌曲中的火箭先驱沃纳·冯·布劳恩(Wernher von Braun),“一旦火箭升空,谁在乎它落在哪儿?这不归我的部门管。”
那么自由政权呢?今天的自由政权的根源或多或少可以追溯至某种共和主义的道德严谨,以及物质紧缩。绝大多数公民按照满足自己的欲望以及随心所欲来理解民主原则中的自由。在这些受欢迎的政权中拥有主权的公民仍会感到不安,他们对自身安全忧心忡忡。他们被鼓励去相信不仅面临着外部的“生存挑战”,譬如流氓国家、恐怖主义、气候变化、大规模杀伤性武器、流行病、基础设施不安全、失控的人工智能;还面临来自内部的挑战,时间和资源的匮乏越来越多地妨碍到他们不断增长的欲望。现代技术之所以如此,是因为创造者和当前的实践者都希望找到满足自己欲望的有效解决方案,而古人只能靠想象。
我们注意到美国军方将一枚地对空导弹命名为“塔洛斯”。可以说,古代的想象力预见了人造生命的现代发展。但是,我们可以从古代诗人如何超越他们所知道的技术极限中学到更多。他们似乎对探索人类“永远追求卓越”的愿望很感兴趣,因为这同样是超越自然赋予的能力。
对于奥德修斯的战友们来说,他“永远追求卓越”的愿望并不是一个明确的积极特征。在我们这个时代,一个被广泛接受的真理是:技术可以使我们更好,也可以使我们更坏。我们要担心的是如何尽可能降低风险和成本,并最大限度地受益。当我们这样担忧时,技术就不再被视为是理所当然的。但这种担忧是有限的,它引导我们追问如何运用技术能力去解决“有限的”问题。我们的担忧不会因此而释然。
马约尔认为,这些古老的故事是为了“理解人类超越生物学极限的渴望,并想象其影响”。这一点说得很好,也很重要。但当我们讲到这里的时候,全书就只剩下三个段落了。虽然马约尔对此主题有所察觉,但她似乎从未正视过自己搜集的资料所带来的问题。它们与我们相关,不是因为我们也提出了相同的问题,而是因为这些资料唤起人们注意自己话语中经常缺失的东西。她的书让我们看到了一种不同的回应,在索福克勒斯的《安提戈涅》(Antigone)中,“奇妙”一词在道德上模棱两可的使用,概括了其含义:“世上奇迹无数,却无一比人类更奇妙。”我们值得惊叹,而不仅仅是忧虑,因为我们以某种方式站在野兽与神之间(或就此而言,站在神之间)。人类之所以奇妙,是因为我们在某种意义上是自由的,又在某种意义上是命运的支配。我们的给定存在并不满足于他自身。因此,当我们超越原有创造新生命的生物学方法时,我们就处在所有这些难以调和的张力的交汇处。
至于创造类似机器人的能力,希腊人把这种奇迹部分转移到了神的领域。但极具创造力的赫菲斯托斯无疑是众神中最像人的:他跛足、矮小又丑陋。正如学者杰西卡·里斯金(Jessica Riskin)所言,“神话模糊了技术与神力之间的区别。”因此,古代的故事表明了技术涉及像神一样的创造力,但却常常被用来满足我们更卑劣的欲望。代达罗斯的翅膀是人类自由的一种手段和表达方式,但它也被赋予了年轻人根深蒂固的轻率。技术改变了人类的生存条件,同时也给出了自己的表达方式。
我认为在某种程度上马约尔知道这一切,但她宁愿将重点放在其他问题上,例如古代自动机的作者是否或在多大程度上关注,机械发明如何迅速地激发我们的创造性想象力。而我认为古代故事蕴含的奇妙之处,在于更自然地引出了各种各样的“为什么”问题,这些问题会引发人们对动机和道德的思考。代达罗斯的发明当然可以解读为人类对飞翔的渴望。俗话说:“人类一直想要飞翔。”但认真思考他的故事,就必须审视背后所揭示的更深层的欲望,以及这个故事告诉我们有关他自身的人品和性格。虽然我们并没有从古人那里学到任何关于飞行的技术,更别提创造人工生命了,但是我们可以从中了解很多关于我们自己的东西。这些故事有时会让我们洞察技术创造力的来源及其影响,并形成不那么愉快的见解。
这些古代的故事展示了如何通过选择我们在这个世界上的存在方式——也就是说,通过我们的举止、礼仪和道德,以及对美好人生的某种伦理学定义的概念——来驾驭由技术能力所造成的局面。这种思想在当前极具颠覆性。“网络上的诋毁性言论问题”可以通过技术或法律的“解决方案”来讨论,也可以从那些造就仇恨者的方式来讨论:公民教育、道德教育,以及宗教教育。到目前为止,前一种技术或法律的“解决方案”占据了主导地位,即使这样的讨论往往根本没法解决问题。在另一端,古代作家既了解无序的灵魂是什么样的,也知道该如何应对这些无序的灵魂,并且明白这些应对的有限性。在此无序的世界中,他们理应得到更严峻的审视。
资料来源The New Atlantis