在玛丽·雪莱的小说《弗兰肯斯坦——现代普罗米修斯的故事》(下文皆简称《弗兰肯斯坦》)中,科学家维克多·弗兰肯斯坦使用人体部件等创造了一个超级智能的“超人”怪物,最终反噬了它的创造者。自1818年出版以来,玛丽的这个关于科学研究导致大问题的故事被视为试图赋予机器智能导致危险(和愚蠢)的隐喻。随着生成式人工智能(AI)的迅速兴起,玛丽的故事引起了新的共鸣。
⊙ 朱嘉明
1818年,《弗兰肯斯坦》问世,它被公认为世界第一部科幻小说,作者是英国著名小说家玛丽·雪莱。
《弗兰肯斯坦》的作者、缘起与梗概
雪莱夫人的闺名是玛丽·葛德文(Mary Godwin)。按照世俗观点,她是不幸的:出生后不久,母逝;结婚六年,夫亡;生育了四个孩子,三个孩子夭折。终其一生,她是雪莱遗孀。
人们好奇创作《弗兰肯斯坦》的思想资源从何而来?
这首先要追溯到她的家庭:父亲葛德文是位无政府主义者,法国大革命积极支持者,著有《政治正义论——论政治正义及其对道德和幸福的影响》;母亲玛丽·沃尔斯通克拉福特,是女权运动思想先驱,著有《为妇女的权利辩护》。玛丽自幼得以见识那个时代的精英人物来到家里,与父亲一起高谈阔论人文、社会科学和科学技术,从而深受父母及其精英群体理想主义和激进主义影响。
其次是雪莱,浪漫主义诗人,出身于英国贵族家庭,十八岁进牛津大学,热爱科学。一年后,因撰写《论无神论的必然性》被学校开除。雪莱推崇空想社会主义,其诗作融合了浪漫主义和革命理念。
再有雪莱的朋友圈。玛丽因雪莱而卷入当时英国最年轻、最有激情的知识精英群体。他们多是法国革命和美国独立战争的支持者,甚至与意大利革命组织“烧炭党”有过联系,同情西班牙革命。以代表作《唐璜》闻名于世的拜伦便是雪莱朋友圈中的重要一员。他们关注人文、自然科学,讨论生命起源,对于同时代的自然哲学家、医学家、发明家、植物学家、生理学家达尔文及其生命理论,自然也很关注。
天赋之外,这些都促使玛丽接受现代人文思想,学习科学知识,具有异于常人的眼界和思想力。《弗兰肯斯坦》的故事成形于1816年6月,在瑞士日内瓦湖南岸的一座别墅里,参加的人物包括拜伦、拜伦的医生波利多里、雪莱以及玛丽同父异母的妹妹克莱尔。那年夏天阴冷多雨,北半球平均温度骤降3华氏度,夜晚寒冷。拜伦提议每人写一个恐怖故事,玛丽讲出了“弗兰肯斯坦”的故事,又在雪莱的鼓励下,将其扩展成小说。
书中有三位主要人物。第一位,维克多·弗兰肯斯坦,出生于日内瓦一个名门望族,立志探索外部物理世界和生命起源,甚至超自然的奥秘。他十七岁到德国大学求学,后成为科学家,并萌生制造同类的想法。他也确实创造出了一个类似人类的生命体,然而最终,他与创造物在北极同归于尽。第二位是弗兰肯斯坦创造出的生命体,被唤作“造物”“怪物”“恶魔”等。他相貌粗俗而丑陋,渴望融入社会,却难以被接纳,只能游离于人类社会之外。尽管如此,他学会了使用火,自学英、法、德语,具备读书能力。他在短短几年的生命中,在美德与罪恶之间徘徊,在生存与死亡中挣扎,以自焚完结生命。第三位是罗伯特·沃尔顿,北极探险船船长。本书的故事通过他得以连接。
故事发生在18世纪末。第一部分(第1章到第9章),讲述弗兰肯斯坦的人生经历,特别描述他制造生命体的过程,在一个风雨交加的夜晚,雷电使这个创造物睁开眼睛。那一刻,弗兰肯斯坦选择了逃离,陷入因怪物引发的恐惧与纠缠。第二部分(第10章到第17章),讲述人造生命体在过去一年多的遭遇,被人鄙视和遗弃;心理演变过程,美德和罪恶行为交叉。期间,这个人造生命体向弗兰肯斯坦提出为他制作异性同类的请求,以换取他远走南美洲和最终从世界上消失。第三部分(最后七章),弗兰克斯坦害怕他造出的生命体繁衍后代,给文明世界带来不堪后果。因而违背承诺,毁滅了成功在望的异性人造生命体。这引发怪物的精神崩溃,对弗兰肯斯坦施以剧烈的报复,导致弗兰肯斯坦的亲友死亡,弗兰肯斯坦病亡,怪物自杀的震撼性悲剧结局。
小说的人物和情节设计并非基于理性批判,而是出自雪莱夫人的情感、善良和同情;以书信和叙述相结合,穿插而行,将整个故事置于主人公亲眼所见的范围。
为什么《弗兰肯斯坦》的影响经久不衰
有统计称,以《弗兰肯斯坦》为背景的舞台剧迄今已有近百部,电影超过70余部。在英语世界《最具影响力的101位虚拟人物》中,“弗兰肯斯坦的怪物”居第6位。正是《弗兰肯斯坦》所具有的得以不断深入诠释的张力,使读者以各自的视角反复挖掘,加以诠释,所涉及的主题相当宽广:
1.科幻小说的先驱。《弗兰肯斯坦》有科学和技术知识含量。早在1816年,雪莱夫人几乎是产生人造生命思想、考虑器官移植的绝无仅有的人物。她在已知与未知、幻想与现实之间搭了一座桥,区别于神话和奇幻,开创了“科幻小说”的先河;提出了在工业革命和进化革命的双重进程之初关于人类能力的全新设想;相信人类可以通过科学方法,让“人造生命”梦想成真。她也表达了对科学前途的忧虑,呼唤新时代的理性。
2.人造生命体的身份认同。弗兰肯斯坦所创造的生命体与人类之间没有血缘纽带和“情感”沿袭,被视为异己“怪物”。而这个具有人的心智的生命体主动适应人类,学语言、说话、阅读、人类情感,甚至文明和道德。遗憾的是,他的努力失败了,唯有孤独、痛苦和绝望,最终是怨恨的积聚和喷发。这是整个悲剧的基本根源。雪莱夫人即揭示了“身份/认同”,这一人的生命意义前提,人类与生俱来的心理需求。
3.科学的“两重性”和科学家的“罪与罚”。弗兰肯斯坦是唯科学至上典型。作为科学家,他创造了人造生命体,触及了“罪与罚”的问题。玛丽笔下的弗兰肯斯坦,有着源于理性的傲慢,社会责任心缺失,任性而虚荣。那么,为什么会产生弗兰肯斯坦这样的科学家呢?尼采曾指出:一种强烈和日益增长的好奇心,一种对未知领域冒险的欲望,一种来自新奇事物的刺激力,以及实现个人胜利的目标。所谓的追求真理不过是借口。与雪莱夫人时代相比,今天科学高度发展,特别是生物工程技术的持续革命,人类正在逼近“人造人”的奇点,包含超越人类希望发展的方向和底线的可能,造成因科学过度干预生命而出现的“弗兰肯斯坦综合症”(Frankenstein Syndrome)。倡导和警示科学家的社会和历史责任感及道德精神始终与科学与技术的发明和进步相伴随。
4.宗教和人性。在西方的传统宗教文化史中,对生命知识的渴求与实践,被认为是来自人类原罪的召唤。雪莱夫人在《弗兰肯斯坦》中隐含了关于宗教信仰和科学理性的两重性:一方面,以弗兰肯斯坦作为自启蒙运动以来的科学家代表,不顾任何代价去追求知识,让专属上帝的绝对能力降临凡人,展现了新型科学家的自负理性;另一方面,在文字背后有对神、对人类创始者和造物者的敬畏之心。不得不承认,科学家无法摆脱人的自私、欲望和贪婪,很可能在“科学”的名义下毫无节制地向自然界索取,用智能凌虐压榨剥削其他生物。弗兰肯斯坦制造一个生命体的欲望到底值得肯定,还是值得否定?进而人是否有能力、有权力挑战上帝创造人的这种功能?雪莱夫人并没有回答。但是,《弗兰肯斯坦》的题词是《失乐园》中的一句:“造物主啊,我能请求您,从我的凡体泥胎,再给我造人吗?我能恳求您,从黑暗中拯救我吗?”作者以此表达人造生命体对创造者弗兰肯斯坦的诘问。
5.整体生态体主义。《弗兰肯斯坦》提出了一系列深刻问题:当人类决定和可以实现“人造人”时,是否意味着科学可以征服甚至驾驭自然、控制自然?如何处理科学与自然生态的关系?如何对待异类生命体?如何将被造的人吸纳到人类伦理生态体系之中?如何构建人与“人造人”之间的情感基础,实现精神生态的和谐?雪莱夫人隐含着对科学超越自然生态的科学中心主义和科学至上主义的忧虑。回答这些问题,何其难也,多少年过去了人们还在寻求答案。可以肯定的是,科学进步绝不意味着可以丧失对自然和生态的敬畏,要想避免毁灭,需要实现整体生态体主义意义上的救赎。
6.浪漫主义和怪诞审美。为什么雪莱夫人将弗兰肯斯坦的“创造物”设计成丑恶和恐怖的样子,而不是一位翩翩少年?除了看得见的原因:符合恐怖故事,让弗兰肯斯坦和其他人排斥“他”顺理成章,形成与其内心世界的反差等,如果做更深入的探讨,则可以看到18世纪末至19世纪初所形成的浪漫主义审美观对雪莱夫人创作的影响。浪漫主义引发了审美模式的革命,一大批怪诞和丑陋形象诞生,他们内心世界复杂矛盾,性格乖张多变,集真善美假恶丑于一身。美与丑之间不复存在清晰边界。怪诞成为真实世界和人类的常态,丑甚至成为现代西方艺术的一个潮流。《弗兰肯斯坦》开创了丑和怪在科幻小说中的中心地位。
现代普罗米修斯的隐喻
小说的副标题“现代普罗米修斯的故事”所要传达的是:不论弗兰肯斯坦有过多少过失和失败,在精神世界有过怎样的矛盾和挣扎,依然是一位值得尊敬的现代普罗米修斯,其背后是生命、信仰、永生和死亡的关系。弗兰肯斯坦的遗言体现了普罗米修斯精神即“我所失败的未来可能会由别人完成”。
200年前,雪莱夫人集知识、思想、历史感、艺术敏感和文学表达能力于一身,通过《弗兰肯斯坦》触动了宗教、科学和人性的深层关系,提出了现代人类状态是否是人类的终极状态这样挑战人类中心主义的问题,折射了雪莱夫人的理想、梦想、科学观念以及对生命的革命性思考。
(来源:经济观察报2018-10-05,原题《“科学怪人”的历史与现实意义何在》,有删改)
⊙ 作者:Eileen Hunt Botting⊙ 翻译:都述文
《弗兰肯斯坦》与所有伟大的文学作品一样,并不是简单地进行一次道德训诫,比如说告诫人们不应该利用科学来扮演上帝的角色。玛丽的小说更像是出给读者的关于认知能力和情商的测试,只有将无数的碎片信息拼凑到一起,才能看到故事整体的模样,理解玛丽想要表达的中心思想。
想要解开弗兰肯斯坦的这个道德难题,我们还需要回顾一下这部小说的背景。“超级智能”一词可以追溯到17世纪末贵格会对上帝本质的反思,在玛丽年轻的时候,它还是英国的神学辩论中的重要概念。
玛丽称她笔下的怪物拥有“超人类”的速度。这种速度不仅仅是物理上的。怪物在被組装,被激活,又被弗兰肯斯坦抛弃之后,他的认知和情感发展速度比正常人类要快得多。他开口说出第一句话是在六个月大的时候,和许多人类婴儿一样,但是他周岁的时候就能读懂弥尔顿的《失乐园》了。他学习语言的方式是观察,他从墙缝中偷偷地观察着德拉西一家,这家人是来自法国和土耳其的难民,躲在英戈尔施塔特附近的森林里生活。
书中的怪物具有一种超级智能。玛丽本人也是,她一直徘徊在故事的背景之中,默默地创造这一切。小说的框架由一系列信件组成,这些信件是叙述者沃尔顿船长写给他在伦敦的妹妹的。加州大学洛杉矶分校专攻浪漫主义文学的安妮·K.梅勒教授在《玛丽·雪莱的生活、小说和怪物》一书中解读说,船长妹妹的姓名首字母“M.W.S”和玛丽本人的完全一样。收到这些信件的女士正是这部小说的作者,沃尔顿、弗兰肯斯坦、怪物和德拉西一家的故事全都包含在信件之中,她对整个故事的内容、组织和含意拥有着最终的编辑权和控制权。
通过冰山上的那一段描写,玛丽让读者直面了怪物的样貌和声音,让他们得以去了解人造智能的感受。怪物被遗弃后一直躲在小屋里偷看德拉西一家,他的智力一直保持着孩童般的高强度发展,并且有着计算机般的效率。他把德拉西一家人的生活看作是“我朋友的故事”。他缺乏完整的信息支持,也没有大数据,只能通过墙缝过滤出来的些许信息进行学习。
尽管怪物只是躲在自己的小屋里,但是他却满足了深入学习的6个标准:他学会了识别(1)德拉西一家人的面孔;(2)这家人的语言模式;(3)他能够翻译语言:至少会菲利克斯的法语,或许还有萨菲的阿拉伯语、弥尔顿的英语、歌德的德语和普鲁塔克的希腊语(或拉丁语);(4)他能够读懂父亲手写的实验日志;(5)他还会和人类进行某种战略博弈,先是偷偷帮德拉西夫妇捡拾柴火,在被他们无情地拒绝和抛弃之后,他烧毁了他们的小屋作为报复;(6)他还能控制自己的机械假肢,因为他的身体是由人类和其他动物的尸块组装而成的,加上化学、医学和电的作用,才诞生了这样一个类人结构的怪物。
玛丽这部小说比查尔斯·巴贝奇和阿达·洛芙莱斯设计出现代计算机程序还要早了二十多年,她把怪物想象成是一个具有人性的人工智能——他有着狭隘而固执的偏见、深刻而错误的思维、强烈而矛盾的人类情感。玛丽的小说脱胎于创世纪和普罗米修斯的神话,故事的内核其实很简单:人工智能身上有人类的缺陷,同时也有着人性的力量。
(来源:界面新闻2018-10-25,有删改)